📰 핵심 요약

Anthropic의 Frontier Red Team 연구원 William Zhou와 Daniel Freeman이 월요일 발표한 보고서에서, 자가복제 능력을 가진 ‘AI 웜’이 몇 달 안에 공격 능력을 갖출 수 있으며, 연산 능력이 제한적이고 보안이 취약한 스마트 TV, 스마트 가전, 카메라 등 IoT 기기를 사람의 개입 없이 자동으로 감염시킬 수 있다고 경고했다. 보고서는 소형 AI 모델이 “몇 달 안에” 일반 소비자용 IoT 기기에서 자가복제하기에 충분한 수준에 도달할 수 있으며, 일단 발생하면 끌 수 있는 단일 중앙 제어점이 없기 때문에 까다로운 위협이 될 것이라고 지적했다.

이 경고는 AI의 수학 능력 향상이 암호화폐 지갑 서명 알고리즘을 뚫을 수 있다는 최근의 또 다른 우려와도 맞닿아 있다. Glassnode 공동창업자 Rafael Schultze-Kraft가 목요일 X에 올린 글에 따르면, 전 세계 비트코인 공급량의 약 3분의 1(626만 BTC)이 현재 AI나 양자컴퓨터에 의해 뚫릴 수 있는 주소에 보관되어 있으며, 그중 433만 개는 주소 재사용으로 인해 위험에 노출된 것으로, 자금을 새 지갑으로 옮기기만 하면 위험을 해소할 수 있다. 또한 이더리움 연구원 Justin Drake도 수요일, AI의 발전 속도가 예상보다 빨라 암호화폐 지갑을 보호하는 ECDSA 서명 알고리즘을 뚫을 수 있다고 경고하며, 사용자들에게 가능한 한 빨리 새 지갑으로 옮길 것을 촉구했다. 다만 Dragonfly의 매니징 파트너 Haseeb Qureshi는 이런 주장에 유보적인 입장을 보이며, 이를 “암호학 종말론"이라 칭하고 토큰을 새 주소로 옮기는 것이 진짜 위협 해결책은 아니라고 평가했다.

💬 JudyAI Lab 관점

이번 주 Anthropic 산하 Frontier Red Team 연구원들은 소형 AI 모델이 몇 달 안에 스마트 TV, 카메라 등 IoT 기기에서 자가복제할 수 있는 능력을 갖추게 되어, 끌 수 있는 단일 제어점이 없는 AI 웜을 형성할 수 있다고 경고했다. 이는 우리 같은 AI 빌더들이 미리 주목해야 할 위험이다.

이 경고는 최근 암호화폐 업계의 우려와도 서로 맞닿아 있다. Glassnode 공동창업자는 전 세계 비트코인 공급량의 약 3분의 1이 AI에 의해 뚫릴 수 있는 주소에 보관되어 있다고 지적했고, 이더리움 연구원 역시 ECDSA 서명 알고리즘이 예상보다 빨리 뚫릴 수 있다고 경고했다. 다만 일각에서는 이런 주장을 단순한 “암호학 종말론"으로 보고, 주소를 옮기는 것만으로는 진짜 해결책이 되지 않는다고 평가하기도 한다. 우리가 발견한 공통점은 이것이다. AI 능력 향상 속도는 종종 방어 측의 준비 속도를 앞지른다는 것 — IoT 기기의 펌웨어 업데이트 주기든, 오래된 지갑 주소를 옮기려는 의지든, 방어 측의 움직임은 늘 공격 표면이 확장되는 속도보다 느리다.

우리에게 진짜 물어야 할 질문은 AI가 악용될 것인가가 아니라, 우리가 직접 관리하는 시스템 안에 언제든 끌 수 있는 제어점이 존재하는가다.

📅 원문 정보

🔗 더 읽어보기