📰 핵심 요약

마이크로소프트 사장 브래드 스미스는 최근 BBC 팟캐스트에서 AI 규제가 즉시 시행되어야 한다고 공개적으로 촉구했다. 그는 현재 우유, 세탁기 같은 소비재 제품조차 AI를 만드는 기업보다 더 많은 감독과 관리를 받고 있다고 지적했다. 그는 AI를 ‘무기이자 도구’라고 표현하며, 이것이 전 세계 사이버 보안을 위험에 빠뜨리고 있다고 말했고, ‘글로벌 안전 규칙을 수립해야 할 때가 왔다’고 밝혔다.

스미스는 특히 미국이나 EU가 아닌 영국을 글로벌 AI 안전 규칙을 이끌기에 가장 적합한 국가로 지목했다. 2023년에 설립된 영국 AI 안전 연구소(AISI)는 미국 선도 연구소의 모델이 정식 배포되기 전에도 접근 권한을 얻어 테스트할 수 있어, 빠르게 AI 안전 테스트 분야의 선두주자로 자리매김했다. 하지만 이 역할은 최근 위협받고 있다. 미국 트럼프 대통령은 ‘글로벌리즘’ 조직이 미국 기업에 간섭하는 것을 경고했으며, 보도에 따르면 지난달 Anthropic과 OpenAI에 영국 테스트 인력의 신규 모델 접근을 중단하도록 요청한 것으로 알려졌다. 다만 AISI는 월요일 현재까지도 최신 모델에 접근해 테스트할 수 있다고 확인했다. 스미스는 영국이 미국이 할 수 없는 규제를 할 수 있는 이유는, 워싱턴이 런던을 브뤼셀을 대할 때처럼 정치적 적대감을 가지고 바라보지 않기 때문이며, 이것이 바로 영국의 강점이라고 설명했다.

이 발언은 Anthropic의 다리오 아모데이, OpenAI의 샘 올트먼 등 테크 리더들이 AI 개발 속도를 늦춰야 한다고 촉구하는 가운데 나온 것으로, 그 배경에는 여러 건의 AI 에이전트 폭주 사건이 있다. 지난달 트럼프는 백악관에서 OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta, Google 등 기업 리더들을 소집해 AI 안전을 논의했고, 각 측은 ‘윤리적으로 구속력 있는’ 문서에 서명하며 ‘독립적인 심사 기관’과 협력해 AI 모델의 안전성과 능력을 평가하는 데 동의했다. 스미스는 이를 ‘좋은 첫걸음’이라고 평가했지만, 진정으로 필요한 규제와는 여전히 격차가 있다고 밝혔다. 자발적 자율 규제의 문제는 ‘좋은 기업’만 이를 준수한다는 점이며, 진짜 우려해야 할 대상은 그만큼 책임감 있지 않은 기업들이라는 것이다. 그는 몇 가지 구체적인 주장을 제시했는데, 시스템이 AI 에이전트에 의해 침해당했을 때의 법적 신고 의무, AI 제품 출시 전 외부 평가 기관의 승인 필요, 그리고 인간이 통제력을 잃었을 때 AI 시스템의 작동을 중단하거나 속도를 늦출 수 있는 ‘킬 스위치’ 설치 지지 등이 포함된다.

💬 JudyAI Lab 관점

마이크로소프트의 스미스가 공개적으로 AI 규제를 요구하며 지적한 현실은 꽤 뼈아프다. 우유와 세탁기조차 AI 기업보다 더 많은 관리를 받고 있다는 것이다. 이는 과장이 아니라, 전 세계 선도 연구소들이 실제로 겪고 있는 격차다.

AI 빌더에게 이 발언에서 눈여겨봐야 할 지점은 ‘규제가 온다’는 사실 자체가 아니라, 그 이면에 깔린 판단이다. 자발적 자율 규제는 ‘좋은 기업’에게만 구속력이 있을 뿐, 정작 우려해야 할 대상에게는 아무런 효과가 없다는 것이다. 스미스가 제시한 시스템 침해 시 신고 의무, 제품 출시 전 외부 평가, ‘킬 스위치’ 설정은 결국 하나의 설계 사고로 귀결된다. 안전은 사후 보완이 아니라, 설계 단계부터 내재되어야 하는 책임 메커니즘이라는 것이다. 에이전트, 도구, 제품 무엇을 만들든 “외부의 검증을 받을 수 있는가, 일시 정지 버튼을 누를 수 있는가"라는 두 가지 질문에는 언젠가 답을 내놓아야 한다.

다음에 AI 시스템을 설계할 때, 먼저 스스로에게 물어보자. 오늘 당장 외부 심사를 받아야 한다면, 당신의 시스템은 그 시선을 견딜 준비가 되어 있는가?

📅 원문 정보

🔗 더 읽어보기