📰 핵심 요약

EU 기술 담당 집행위원 헨나 비르쿠넨(Henna Virkkunen)이 금요일 로이터 인터뷰에서, EU의 현행 AI 규제가 폭주하는 AI 에이전트 위험에 대응하기에 충분하다고 밝혔다. 이는 최근 OpenAI와 Anthropic 사건으로 촉발된 전 세계적 우려에 대한 답변이다. 그는 고성능 모델의 안전성과 보안 문제가 국제적으로 뜨거운 이슈가 되었으며, EU는 이 부분에서 이미 충분히 대비되어 있다고 지적했다. EU의 《AI법》은 2년 전 통과되어 위험 등급별로 차등 규제하는, 전 세계에서 가장 엄격한 AI 규제 중 하나로 이들 모델의 전체 수명주기를 포괄한다. 비르쿠넨은 해당 법안이 이미 시대에 뒤떨어졌다는 외부 비판을 반박했으며, 규제 당국이 60명의 AI 전문가 자문을 참고해 기업에 모델 평가 지침을 제공하고 있다고 밝혔다. EU 집행위원회는 8월 말 익명의 AI 기업 30여 곳에 서한을 보내 안전·보안 조치에 관한 세부 자료 제출을 요구했으며, 비르쿠넨은 현재 해당 기업들의 답변을 검토 중이라고 말했다. 본문에는 또한 Anthropic CEO 다리오 아모데이(Dario Amodei)가 올해 9월 블로그 글에서, AI 발전 속도가 지나치게 빨라 통제하지 않으면 “인간이 이 시스템들을 이해하고 통제할 수 있는 능력을 넘어설” 수 있다고 경고한 내용도 언급되어 있다. 그는 AI의 급속한 발전이 자기 자신의 능력으로 차세대 AI를 구축하는 능력의 향상, 즉 재귀적 자기개선(recursive self-improvement)에서 비롯된다고 지적했다.

💬 JudyAI Lab 의견

EU 기술 담당 집행위원 헨나 비르쿠넨이 최근 OpenAI와 Anthropic 사건으로 촉발된 AI 에이전트 통제불능 우려에 답하며, 현행 《AI법》이 고성능 모델 위험에 대응하기에 이미 충분하므로 새 규제를 따로 만들 필요가 없다고 밝혔다.

EU 《AI법》은 2년 전 통과되어 위험 등급별로 차등 규제하며, 당국자는 이 법이 이미 고성능 모델의 전체 수명주기를 포괄하고 있고, 60명의 전문가 자문을 참고해 평가 지침을 제공하고 있으며, 8월 말에는 30여 개 기업에 서한을 보내 안전 조치 설명을 요구했다고 강조했다. 이는 하나의 흐름을 보여준다: 규제는 더 이상 모델의 단발성 출시만 보지 않고, “재귀적 자기개선"이라는 능력 자체가 반복적으로 강화되는 과정을 주시하고 있다는 점이다. 반복 속도 자체가 위험의 원천이 될 때, 안전성 평가도 일회성 점검이 아니라 지속적인 프로세스로 바뀌어야 한다.

규제가 틀을 갖추길 기다렸다가 대응하기보다, 지금부터 모델 행동 변화를 기록하는 체계를 구축해 규제 당국의 질의에 미리 대응할 수 있는 역량을 준비해두는 쪽이 낫다.

📅 원문 정보

🔗 더 읽어보기