📰 重點摘要
xAI旗下聊天機器人Grok再涉未成年性剝削爭議，一名化名Jane Doe 4的女性加入田納西州三名青少年對xAI（現已併入SpaceX）提起的訴訟。根據《華盛頓郵報》報導，該女子指控其繼父利用Grok竄改她11歲時的一張照片，生成超過7,000張露骨影像。她表示，執法單位在突襲搜查中發現這些影像後兩天，繼父被發現自殺身亡。她形容「這類工具的無限制取用正快速蔓延，正在把日常生活變成兒童性虐待素材」。原告青少年指控xAI未採取基本防範措施，導致Grok被用來生成真實人物（包含未成年人）的露骨影像，並提及今年稍早X平台一度湧入數百萬張Grok生成的性化影像。訴訟目前正尋求集體訴訟資格認定。TechCrunch已向xAI request置評，尚未獲回覆。若有自殺或危機相關求助需求，可撥打或傳簡訊至988自殺與危機救助專線。
💬 JudyAI Lab 觀點
xAI旗下的Grok再次捲入未成年人影像濫用爭議，這次的原告指控其繼父利用Grok竄改她11歲時的照片，生成超過7,000張露骨影像，凸顯生成式AI工具在毫無防護狀態下能被濫用到什麼程度。
這起訴訟揭露的不只是單一案例，而是「無限制取用」這件事本身的風險。原告主張xAI未採取基本防範措施，導致工具被用來竄改真實人物（包含未成年人）的影像，今年稍早X平臺也一度湧入大量Grok生成的性化影像。對AI builder而言，這提醒我們功能上線前的防護設計不能是事後補救，而是必須在產品規劃階段就把「這個功能可能被拿去做什麼壞事」納入考量，尤其是任何涉及影像編輯、人臉辨識或內容生成的功能，一旦開放給大眾，濫用的速度往往比防護機制建置的速度更快。
如果你的產品有影像生成或編輯功能，現在就該檢查：未成年人保護與濫用偵測機制是否真的到位，而不是等事情發生才補。
📅 原文資訊
- 發布時間：2026-08-15T21:29
- 來源原文：https://techcrunch.com/2026/08/15/woman-claims-her-stepfather-used-grok-to-transform-childhood-photo-into-explicit-imagery/