📰 重點摘要

OpenAI宣布將於未來數週內,為歐盟地區所有方案的ChatGPT與Codex用戶生成文字加上隱形水印,以符合歐盟AI法案8月2日生效的透明度規範。全球API開發者則可從今天起針對部分模型手動開啟,預設關閉,非全球強制預設。水印並非可見符號,而是透過微調模型選字機率,在文字中留下人眼無法察覺但偵測器可辨識的模式,複製貼上也不會消失,且不會識別使用者身分,啟用後效能無明顯變化。OpenAI同步發表技術報告textGrain,與賓州大學、耶魯大學研究者合著,說明以密鑰排序下一字預測、疊加數百次微調後產生可偵測模式的原理。測試顯示水印可被編輯破壞:將10%文字換成同義詞後,偵測率從約92%降至66%,短文、數學答案與翻譯文字也較難偵測,因此目前僅對獲核准的研究者與專業機構開放偵測器存取。OpenAI也提醒,沒有水印不代表內容出自人類。此舉緊接Anthropic兩個月前宣布為Claude文字全球加水印(曾引發部分用戶反彈)之後推出。


💬 JudyAI Lab 觀點

OpenAI即將為歐盟地區ChatGPT與Codex使用者的生成文字加上隱形水印,以符合歐盟AI法案8月2日生效的透明度要求,全球API開發者則可手動開啟但預設關閉。

這類水印做法反映出AI產業對「可追溯性」的設計思維正在成形:不靠肉眼可見的標記,而是透過微調選字機率留下偵測器才能辨識的統計模式,複製貼上也不會消失。但原文摘要也揭露了這類技術的現實限制——換掉10%文字為同義詞,偵測率就從92%降到66%,短文、數學答案與翻譯文字更難偵測。這提醒我們,水印類工具目前更像是「事後輔助判斷」而非「絕對證明」,對AI builder而言,設計任何內容溯源機制時都該誠實面對這種脆弱性,而不是把它當成萬靈丹。Anthropic兩個月前已為Claude全球加水印,如今OpenAI跟進,顯示這可能成為業界基本配置而非選配。

若你的產品也處理AI生成內容,現在就該思考:使用者會不會因為編輯文字而意外破壞水印,而你的系統該如何應對這種情況。


📅 原文資訊


🔗 延伸閱讀