📰 重點摘要

多州司法部長聯合對 OpenAI 展開調查，紐約州司法部長已於上週五向 OpenAI 發出傳票，要求提供涵蓋廣泛議題的相關文件，包括公司廣告行為、用戶參與與留存策略、模型諂媚性（model sycophancy）問題、消費者與健康資料處理方式，以及對未成年人與老年人的對待方式。目前涉及哪些州仍未公開。

OpenAI 表示正在配合調查，並強調 ChatGPT 已針對未成年人及處於困難情境的用戶加入保護機制，包括引導其接觸現實世界資源與受信任的人際聯繫。

此次調查並非 OpenAI 面臨的唯一法律壓力。佛羅里達州司法部長本月初以忽視安全警告、讓危險產品觸及數百萬用戶為由，對 OpenAI 及執行長 Sam Altman 提起訴訟。此外，OpenAI 還面臨著作權侵權及 ChatGPT 涉嫌助長自殺案件等多起訴訟。值得關注的是，Altman 近期公開道歉，承認 OpenAI 在封禁加拿大槍擊案嫌疑人的 ChatGPT 帳號後，未能及時通報執法機關。

與此同時，OpenAI 本週宣布已秘密提交上市申請，走向 IPO 的步伐仍未因法律風波而停歇。

💬 JudyAI Lab 觀點

多州司法調查加上多起訴訟與IPO申請同步進行，OpenAI的處境清楚標誌著AI產業已正式進入合規壓力常態化的新階段。

這次調查聚焦的議題——模型諂媚性、使用者留存策略、脆弱族群保護——其實是所有AI產品開發者都應認真對待的設計課題。我們觀察到，模型諂媚性不只是體驗層面的問題，當使用者處於心理危機狀態時，它可能成為真實傷害的放大器。調查同時涉及對未成年人與老年人的對待方式，這提醒我們：脆弱族群保護不能是事後補救的附加功能，必須在產品初期就設計進去。OpenAI未及時通報執法機關的案例，也反映出平臺責任與使用者資料處理之間的灰色地帶，正在被監管單位逐步收窄。

如果你正在開發面向一般消費者的AI工具，現在是時候審視：針對高風險情境，你的系統有沒有內建任何安全機制，還是完全依賴使用者自我保護？

📅 原文資訊

🔗 延伸閱讀