長期地平線模型下的安全與對齊挑戰
AI 新聞快訊：OpenAI 分享了部署長時運行(long-running)AI模型的實務經驗，內容聚焦於這類模型在實際運作中出現的新型安全風險、觀察到的失敗案例，以及透過反覆迭代部署所改善的防護機制。由於這類模型會在較長時間跨度內自主執行任務、累積脈絡並持續與環境互動，相較於單次問答式的模型，其風險樣態與傳統安全…
Lab
AI時代成績單:各大機構如何評估AI能力發展
AI 新聞快訊：OpenAI財務長Sarah Friar提出一套實用的AI投報率評分卡，用來衡量企業導入AI後的實際效益，而非僅憑感覺判斷。該評分卡聚焦四個面向：一是「有用的工作量」，即AI實際完成了多少能產生價值的任務；二是「每次成功任務的成本」，也就是把AI運算與人力投入換算成每完成一項任務所需的花費，藉此與傳…
Google Vids 雙更新：AI創作、剪輯與角色主演影片
AI 新聞快訊：Google Vids推出兩項新功能:Gemini Omni與個人虛擬替身(personal avatars),讓影片創作與編輯更簡單。今年二月Google已將Veo 3.1開放給所有用戶協助生成影片;現在Gemini Omni進一步整合進Vids,使用者只需輸入自然語言文字提示,並可加入圖片參考(…
Cars24 靠OpenAI加速對話擴展與開發速度
AI 新聞快訊：Cars24是印度最大的二手車電商平台之一,近期導入OpenAI技術打造的語音與文字客服代理人,已擴大應用到公司內部多個團隊的日常工作流程中。這套系統每月處理超過100萬分鐘的對話量,顯示其在客服規模上已達到相當可觀的量能。更值得注意的是,這些AI代理人成功挽回了12%原本已流失的潛在客戶(lost…
青少年也該有安全使用AI的權利
AI 新聞快訊：OpenAI 正在為青少年用戶推出更安全的 ChatGPT 使用機制，透過分齡保護、學習輔助工具、家長監控功能，以及與外部專家的合作，強化未成年人使用時的安全性。詳細內容請見原文連結。…
生物韌性防護策略解析
AI 新聞快訊：Google DeepMind與Isomorphic Labs近日發布雙方在「生物韌性」（bioresilience）上的聯合策略，核心分為兩軸：防止AI模型遭威脅行為者濫用，同時協助政府、科學家與生物安全專家運用AI強化社會應變能力。過去12個月，雙方已與逾15個政府單位、生物安全組織及研究團隊建…
AI 對抗性訓練實現機器人自我修復能力提升
AI 新聞快訊：OpenAI 近期展示了名為 GPT-Red 的自動化紅隊測試系統,核心機制是採用「自我對弈」(self-play)方式運作,讓AI系統彼此對抗、互相攻防,藉此持續發掘並強化模型在安全性、對齊(alignment)以及抵禦提示注入(prompt injection)攻擊方面的能力。透過這種自我對弈的…
美國透過州級與聯邦行動推進AI安全治理
AI 新聞快訊：OpenAI 提出「逆向聯邦主義」（reverse federalism）作為 AI 治理的新路徑，主張由各州先行制定 AI 相關法規，再由這些州級法律的實踐經驗逐步匯聚、拼湊成一套全國性的治理框架。這與傳統由聯邦政府由上而下訂定單一標準的模式相反，改為讓地方立法先行先試，再從中提煉出可推廣至全國的…
AI 投資新時代：如何管理代理型AI相關投資布局
AI 新聞快訊：OpenAI 發布文章，探討企業在「代理式 AI（agentic AI）」時代該如何管理 AI 投資，核心主張是評估標準應從單純的投入成本轉向「每花一塊錢能換來多少實際有用的工作產出」，也就是用單位成本產出的有效工作量來衡量 AI 投資效益，而非僅看導入了多少工具或模型用量。文章建議企業聚焦於兩個方…
ATL Saathi 計畫助力印度新世代創新者培育
AI 新聞快訊：Google DeepMind 與印度政府旗艦計畫 Atal Innovation Mission（隸屬 NITI Aayog）合作，正式推出 ATL Saathi 試點計畫。這是一款由 Gemini 驅動的網頁應用程式，專為全印度超過 1,100 萬名學生所在的 Atal Tinkering La…