📰 重點摘要

Google 於週四推出新功能,讓使用者能透過其AI圖像生成器「Nano Banana 2」,在其衛星地圖應用程式Google Earth中直接生成虛構影像。Google表示,此功能的目的是讓使用者能在地理場景中「發揮創意」。這項工具採用提示詞(prompt)驅動,幾乎能將任何生成影像疊加在真實地圖之上。然而外界迅速質疑此功能恐被濫用於製造與散布不實資訊,擔憂會引發大量「地理空間垃圾內容」(geospatial slop)。一名BBC記者週四在社群平台上諷刺表示，Google Earth作為記者與研究人員最可靠的視覺證據來源之一,新增的AI影像生成功能「絕不可能」被濫用來散播網路假訊息。在功能上線僅一天後,Google隨即宣布撤下該功能。Google在聲明中表示，公司觀察到地理空間專業人士確實將此功能用於多種實用目的,但同時也發現有使用者分享的生成影像截圖疑似違反平台政策。Google並表示,將在Google Earth中回滾此功能,同時著手建立更強的防護機制(guardrails)。文中也指出,在AI時代,網路上多數影像本就容易被竄改,如今任何人不需具備Photoshop專業技能,只要能存取AI圖像生成工具(包括Google及其他多家AI公司所提供的產品),即可製作出具一定可信度的不實資訊。

💬 JudyAI Lab 觀點

Google週四讓使用者能在Google Earth裡用AI影象生成器「Nano Banana 2」直接生成虛構影像,但因外界擔憂被濫用製造不實資訊,上線僅一天就被撤下。

這次事件反映一個很直接的產業趨勢:AI影象生成能力已經普及到「不需要Photoshop技能,只要能存取AI工具就能做出具可信度的不實資訊」的程度,而地圖類應用因為長期被視為可靠的視覺證據來源(如BBC記者所指出),一旦被嫁接生成功能,風險反而被放大。Google的處理方式也值得AI builder留意——先觀察到「地理空間專業人士確實有實用需求」,但一發現有截圖疑似違反政策就立刻回滾,而不是先上線觀察一段時間再說。這說明在敏感場景(地圖、身份、醫療影像)匯入生成式功能時,防護機制要跟功能同時到位,而不是事後補。

下次評估任何生成式功能上線,可以先問一句:這個輸出如果被脫離情境轉發,會不會被誤認為真實紀錄。

📅 原文資訊

🔗 延伸閱讀