📰 重點摘要

Zoom近日宣布,其企業版用戶將可透過「人類證明(Proof of Human)」徽章,在視訊會議中驗證對方並非AI深偽冒充。這項生物辨識技術由Sam Altman投資的World公司開發,該系統名為「World ID for Zoom」,已在Zoom Marketplace全球上線。運作方式是比對三項資料:World公司虹膜掃描裝置Orb所擷取的影像、即時自拍照,以及會議中的視訊畫面,三者吻合後即會在畫面上顯示其他與會者皆可看到的「Human Badge」(人類徽章)。此功能今年四月曾與VanEck Funds進行小範圍封測,如今已正式對企業客戶全面開放,World並指出Bain Capital、Pantera Capital等金融機構也是其身份驗證技術的初期設計合作夥伴。這項功能的推出,與近年多起AI冒充詐騙事件有關:2024年工程公司Arup的一名員工,因視訊會議中遭詐騙者冒充高層,被騙轉帳約2500萬美元;今年2月,疑似北韓相關的駭客集團則利用偽造的Zoom視訊畫面,誘騙加密貨幣與金融科技公司員工安裝惡意軟體。World公司表示,這項技術旨在保護高敏感度、高風險的對話場景,確保畫面中出現的是真實且獨一無二的人類。


💬 JudyAI Lab 觀點

Zoom與World合作推出「人類證明」徽章,用虹膜掃描比對視訊畫面,防止AI深偽冒充與會者,反映出深偽詐騙已從理論走進企業會議室的真實威脅。

這背後有個值得觀察的設計思維:當AI生成內容越來越逼真,身份驗證開始從「你知道什麼密碼」轉向「你是不是真實存在的人」,用生物特徵取代傳統認證方式。Arup員工遭冒充高層騙走2500萬美元、北韓相關駭客偽造視訊畫面植入惡意軟體,這些案例都說明社交工程的攻擊面已經轉移到即時影音場景,而不只是文字或郵件。對AI builder來說,這提醒我們在設計任何涉及身份判斷的產品時,都該把「對方是否為真人」當成獨立的風險專案處理,不能只靠直覺判斷。

如果你的產品涉及視訊、語音或即時互動,不妨檢視一下:遇到轉帳、許可權變更這類高風險場景時,有沒有多一層身份確認機制。


📅 原文資訊


🔗 延伸閱讀