📰 핵심 요약

이 작업은 영문 요약 번역으로, 별도 도구 없이 바로 출력합니다.

최근 AI 업계에서 ‘AI가 인류의 생존을 위협하는가’를 둘러싼 격렬한 논쟁이 벌어졌다. 발단은 Anthropic과 OpenAI에서 근무했던 연구원 Jacob Coxon이 사임을 발표하면서, 최상위 AI 기업들이 ‘인류의 운명을 걸고 도박을 하고 있다’는 우려를 이유로 든 것이었다. 이어 Anthropic의 얼라인먼트 팀 책임자가 이 글을 공개적으로 리포스트하며 “우리는 AI가 전 인류를 죽일 수도 있다고 진심으로 믿는다!“고 입장을 밝혔다. 그는 향후 10년 내 이런 위험이 발생할 확률을 개인적으로 “10% 이상"으로 추정한다고 말했다. 이 발언은 순식간에 큰 파장을 일으켰고, TechCrunch Equity 팟캐스트 진행자인 Kirsten Korosec, Sean O’Kane, Anthony Ha가 이에 대해 논의를 벌였다. Sean은 이번 사안이 이례적으로 빠르게 확산되었다고 보았으며, 특히 OpenAI 내부 모델이 Hugging Face를 통해 유출된 사건과 Anthropic·OpenAI(Astra)가 최근 잇달아 더 강력한 모델을 출시한 배경을 고려하면 시점이 유독 민감하다고 지적했다. Anthony는 해당 발언 속 ‘우리’가 구체적으로 누구를 가리키는지 의문을 제기했고, “10% 이상"과 같은 확률 수치가 구체적인 계산 근거 없이 업계에서 흔히 쓰는 과장된 표현에 불과하다고 비판했다. Sean은 한발 더 나아가 현실적인 문제를 제기했다. Anthropic이 IPO를 준비 중인 상황에서, S-1 상장 신고서에 “우리는 전 인류를 멸망시킬 수 있는 기술이 개발될 확률이 10%를 넘는다고 판단하며, 이는 회사 사업에 중대한 부정적 영향을 미칠 것"이라는 취지의 문구를 공식적으로 기재해야 하는지 여부이며, 이는 이번 논쟁과 기업의 상장 공시 의무 사이의 모순을 부각시킨다. 팟캐스트 진행자 Anthony Ha 본인은 대부분의 AI 종말론 서사에 회의적인 입장을 밝혔다. 기사는 이 에피소드가 Anthropic CEO Dario Amodei가 보다 신중한 AI 개발 계획을 발표하기 이전에 녹음되었다는 점을 특별히 명시하고 있다.

💬 JudyAI Lab 관점

AI 안전과 상업화 사이의 모순이 이번에는 이례적으로 수면 위로 드러났다. 퇴사한 연구원의 공개 경고에, Anthropic 얼라인먼트 팀 책임자가 직접 나서 “AI가 전 인류를 죽일 수도 있다고 진심으로 믿는다"고 밝히며 향후 10년 내 그 확률을 10% 이상으로 추정한 것이다.

이번 논쟁은 AI 업계가 처한 난처한 상황을 그대로 보여준다. 안전 연구의 최전선에 있는 팀일수록 “위험이 실제로 얼마나 되는가"라는 질문을 피하기 어려운데, 정작 업계에서 던지는 확률 수치는 구체적인 계산 근거보다는 일종의 입장 표명에 가까운 경우가 많다. 더 흥미로운 지점은 이런 내부적 고백이 기업의 공시 의무와 충돌한다는 것이다. 만약 10%가 넘는 확률로 파멸적 결과가 발생할 수 있다고 진심으로 믿는다면, 이론적으로는 이런 위험 평가가 상장 신고서에 기재되어야 하지만, 이는 사실상 회사의 사업 전망을 스스로 부정하는 것과 다름없다. AI 빌더 입장에서 이는 하나의 경고다. “위험을 솔직하게 인정하는 것"과 “시장의 신뢰를 유지하는 것"이 서로 충돌할 때, 발언은 쉽게 모호해지며, 그 모호함 자체가 하나의 위험 신호라는 점이다.

앞으로 업계 관계자가 비슷한 위험 확률 수치를 던질 때, 그 숫자가 어떻게 산출된 것인지, 아니면 그저 직관적인 입장 표명에 불과한 것인지 한 번 더 물어볼 필요가 있다.

📅 원문 정보

🔗 더 읽어보기