📰 핵심 요약

유명 AI 팟캐스트 진행자 Dwarkesh Patel이 초지능 출현 시점에 대한 전망을 크게 앞당겼다. 빠르면 내년, 늦어도 2030년에는 나타날 수 있다는 것이다. 그는 AI가 2028년경 최상위 인간 AI 연구원 수준을 따라잡을 가능성이 가장 높고, 빠르면 몇 달이면 된다고 판단한다. AI가 스스로 더 강한 AI를 개발할 수 있게 되면, 원래 수년이 걸리던 기술 진보가 1년 안으로 압축될 수 있다.

근거로는, METR이 최근 Anthropic을 조사한 결과 일부 정량화 가능한 작업에서 모델의 발전 속도가 과거의 약 두 배였으며, 이 가속의 상당 부분은 AI가 연구개발에 참여한 데서 비롯됐다. Anthropic 자체 데이터를 보면 올해 2월 Claude가 주도한 연구개발 작업은 1% 미만이었지만 8월에는 26%에 달했다. 다만 여전히 사람의 감독이 필요하다.

Dwarkesh는 AI 연구개발에 실험으로 검증할 수 있는 작업이 많다고 지적한다. 예를 들어 학습 알고리즘을 조정하거나 데이터를 최적화한 뒤 모델이 더 강해졌는지 바로 테스트할 수 있다. 그래서 AI는 계속 제안하고, 실험하고, 결과를 확인해 개선할 수 있으며, 수학과 프로그래밍 분야에서는 이미 비슷한 능력 도약이 나타났다. 최상위 연구원 수준에 이르면 AI는 24시간 일하면서 수많은 연구 에이전트를 동시에 배치할 수도 있다. 그는 AI 연구원 한 명의 주간 작업량이 인간의 50배에 이를 수 있다고 추산하지만, 실험에는 여전히 연산 자원이 들기 때문에 전체 연구개발 속도가 곧바로 50배가 되지는 않는다.

자동화 이후에는 두 가지 시나리오가 가능하다. 하나는 AI가 계속 스스로를 개선해 불과 몇 달 만에 현재 칩이 뒷받침할 수 있는 능력의 한계에 근접하는 경우다. 다른 하나는 3~6년 치 진보를 먼저 1년으로 압축한 뒤, 연산 자원과 실험 자원이 부족해 속도가 둔화되는 경우다. Dwarkesh는 두 시나리오에 각각 50%의 주관적 확률을 부여했다. 그는 AI가 아직 독립적으로 최전선 연구개발을 해내지 못한다고도 짚었다. 올바른 연구 방향을 찾는 일은 정답이 정해진 문제를 푸는 것보다 훨씬 복잡하며, 이 능력이 좀처럼 돌파되지 않으면 일정이 늦춰진다. 그는 AI가 2032년 이후에야 최상위 인간 연구원을 따라잡을 확률도 여전히 25%라고 본다.

💬 JudyAI Lab 관점

Dwarkesh Patel은 초지능 시간표를 크게 앞당겨, 빠르면 내년 늦어도 2030년에는 나타날 것이라고 전망했다. 그의 핵심 판단은 AI가 2028년경 최상위 인간 AI 연구원 수준을 따라잡을 가능성이 가장 높고, 빠르면 몇 달이면 충분하다는 것이다.

이 전망에서 눈여겨볼 부분은 시점만이 아니라 그 뒤에 깔린 추론 구조다. AI 연구개발에는 결과를 바로 검증할 수 있는 작업이 많다. 학습 알고리즘을 조정하거나 데이터를 최적화한 뒤 곧바로 모델이 더 강해졌는지 테스트할 수 있으니, AI가 계속 제안하고, 실험하고, 확인하고, 개선할 수 있다. 원문에 따르면 METR이 Anthropic을 조사한 결과 일부 정량화 가능한 작업의 발전 속도가 과거의 약 두 배였고, Anthropic 자체 데이터에서도 Claude가 주도한 연구개발 작업이 2월 1% 미만에서 8월 26%로 늘었다. 다만 여전히 사람의 감독이 필요하다. 또 하나 주목할 점은 Dwarkesh가 말을 단정적으로 하지 않았다는 것이다. 실험에는 연산 자원이 들기 때문에 연구개발 속도가 곧바로 50배가 되지는 않고, AI는 아직 최전선 연구개발을 독립적으로 해내지 못하며, 2032년 이후에야 인간을 따라잡을 확률도 25%라고 본다. AI 빌더 입장에서는 빠르게 검증할 수 있는 작업이 가장 먼저 자동화되고, 방향을 판단하는 능력이 병목이 된다.

지금 하고 있는 워크플로를 점검해서 ‘검증 가능하고 반복 테스트할 수 있는’ 단계부터 AI에 맡기고, 사람은 무엇을 할지 결정하는 데 쓰기를 권한다.

📅 원문 정보

🔗 관련 글