📰 핵심 요약

Anthropic은 강력한 모델에 대해 단계적이고 통제된 공개 전략을 취하고 있다. 새 모델이 공개되면 공격자가 방어자보다 더 빨리 이득을 볼 수 있다는 이유에서다. 암호화폐 싱크탱크 델파이 디지털(Delphi Digital)의 연구원 수(Su, 음역)는, 새 모델이 공격자의 능력 향상 속도를 방어자보다 훨씬 앞서게 만든다면 실제로 생태계 전체에 해를 끼치게 되므로, 테스트 기간을 제한하는 것이 잠재적 ‘폭발 반경’을 줄이는 데 도움이 된다고 지적했다. 다만 그는 다른 더 강력한 모델들이 잇달아 공개되어 널리 유통되면 Anthropic도 자사 모델을 더 폭넓게 보급해야 한다는 압박을 받게 될 것이며, 이때 핵심 문제는 방어 측이 공격 측만큼 효과적으로 이 프론티어 모델들을 배치할 수 있는가가 될 것이라고 말했다. 7월에 합류한 솔라나 재단(Solana Foundation)의 최고보안책임자 마이클 코츠(Michael Coates) 역시 안전장치를 지지하면서도, 합법적 방어자가 접근권을 확보하는 절차를 앞당기고 검증 및 승인 과정을 간소화해야 한다고 주장했다. 블록체인 벤처캐피털 블록체인 캐피털(Blockchain Capital)의 션 치덤(Sean Cheetham)은 장기적으로는 제한을 풀어야 한다고 보는데, 정교한 공격을 감행하는 소규모 조직보다 정당한 보안 연구자의 수가 훨씬 많기 때문에 선의의 인력이 방어 규모를 확대할 수 있다면 개방된 접근이 오히려 더 유리하다는 것이다. 기사에 따르면, 세계 최대 암호화폐 거래소인 바이낸스(Binance, 총자산 1,378억 달러)는 현재 프론티어 AI 모델 접근권을 확보하지 못한 상태다. 암호화폐 커스터디 업체 파이어블록스(Fireblocks)는 지난 4월 Anthropic의 미토스(Mythos) 프로젝트 접근을 신청 중이라고 밝혔으며, 당시에는 공개 버전 모델만으로 침투 테스트를 진행했다. 유니스왑(Uniswap) 창업자 헤이든 아담스(Hayden Adams)는 6월에 Fable 5가 사이버보안 관련 프롬프트에 지나치게 엄격한 제한을 두고 있다고 비판했다. 이더리움 재단(Ethereum Foundation)은 7월에 자사 시스템 내 취약점을 찾기 위해 ‘협업형 AI 에이전트’를 운영 중이라고 밝혔으나 사용 모델은 공개하지 않았다. USDC 결제 서비스에서 서클(Circle)과 협력하는 핀테크 기업 FIS는 지난달 Anthropic의 게이트형 프로그램인 프로젝트 글래스윙(Project Glasswing)에 합류해 접근권을 확보했다.

💬 JudyAI Lab 관점

원문에서 Anthropic은 강력한 모델에 대해 단계적 통제 공개 방식을 택하고 있는데, 새 모델이 공개되면 공격자가 방어자보다 더 빨리 이득을 볼 수 있다는 것이 그 이유다.

이는 AI 안전 설계에서 핵심적인 딜레마를 보여준다. 능력 확산 속도의 균형이 깨지면 방어 측이 공격 측을 따라잡지 못하고, 결국 생태계 전체가 피해를 입는다. 델파이 디지털 연구원 수는 테스트 기간을 제한하면 ‘폭발 반경’을 줄일 수 있다고 지적하지만, 이는 근본적 해결책이 아니다 — 더 강력한 모델이 계속 공개되는 한 개방 압박은 언젠가 찾아올 수밖에 없다. 솔라나 최고보안책임자 코츠는 합법적 방어자를 위한 접근권 심사 절차를 앞당겨야 한다고 주장하는 반면, 블록체인 캐피털의 치덤은 정교한 공격 조직보다 선의의 보안 연구자 수가 훨씬 많기 때문에 장기적으로는 개방해야 한다고 본다. 바이낸스는 아직까지 프론티어 모델 접근권을 확보하지 못한 반면, FIS는 이미 Anthropic의 프로젝트 글래스윙에 합류했다. 이는 접근권 자체가 경쟁 우위이자 보안 격차의 원천으로 변모하고 있음을 보여준다.

AI 빌더 입장에서 이는, 모델 접근 권한의 배분 메커니즘 자체가 이미 사후 대응이 아니라 능동적으로 계획해야 할 보안 전략임을 일깨워준다.

📅 원문 정보

🔗 더 읽어보기