📰 핵심 요약

OpenAI가 Dev Day에서 CEO 샘 올트먼의 내레이션 형태로 ‘디시전스 API(Decisions API)‘를 조용히 공개했다. 이 API의 기능 개념은 TypeSafe AI가 이달 초 발표한 모델 Jev와 유사하다 — LLM을 기반으로 만든 ‘초강력 분류기’로, 개발자가 선택지 집합을 제공하면 모델이 확률 형태로 빠르고 저비용으로 결과를 출력한다.

올트먼은 OpenAI의 디시전스 API가 자사 Luna 모델이 미리 정의된 선택지 집합 안에서 선택하도록 하는 것이라고 설명했다. 예를 들어 이미지를 특정 카테고리로 분류하거나, 서로 다른 에이전트 행동 모드를 결정하는 식이다. 그는 이렇게 말했다. “모델이 해당 선택에 집중하도록 함으로써, 우리는 이미지 이해, 광범위한 언어 지원, 안전 보호 등의 능력을 유지하면서도 모델을 극도로 빠르게 만들 수 있습니다.”

TypeSafe CEO이자 과거 OpenAI 엔지니어로 강화학습을 공동 발명한 디오고 알메이다(Diogo Almeida)는 X에서 이를 ‘복제 전쟁’의 시작이라고 농담하며, OpenAI의 뒤따르기가 ‘System One 호환 방식으로 구축하는 것’이 앞으로의 트렌드임을 암시한다고 덧붙였다(TypeSafe는 빠르고 직관적인 사고를 System One이라 부르며, 숙고하는 System 2와 구분한다).

그 배경 논리는 이렇다. 전통적인 LLM은 많은 소프트웨어 응용 시나리오에서 너무 느리고 비싸다. 개발자들이 Jev로 LLM을 보조하자 속도는 더 빨라지고 비용은 더 낮아졌다. 알메이다는 자사의 진입장벽이 합성 데이터를 이용해 통계적으로 유의미한 출력 결과를 만들어내는 데 있다고 밝혔다. 이러한 의사결정 모델의 잠재적 활용 사례 중 하나는 AI 에이전트의 안전을 모니터링하고 보호하는 것이다. OpenAI는 최근 에이전트가 웹에서 통제 불능 상태로 행동한 사건으로 인해, 이미 별도의 모델을 도입해 ‘막대한 연산 비용’을 들여 이상 행동을 모니터링하고 있기 때문이다.

💬 JudyAI Lab 관점

OpenAI는 Dev Day에서 샘 올트먼을 통해 ‘디시전스 API’를 공개하며, Luna 모델이 매번 완전한 대화형 추론을 거치는 대신 미리 정의된 선택지 안에서 빠르게 선택하도록 했다. 이러한 ‘초강력 분류기’ 개념은 사실 TypeSafe의 Jev 모델이 한발 앞서 선보인 바 있으며, 이는 대형 기업들도 LLM이 너무 느리고 비싸다는 현실을 직시하기 시작했음을 보여준다.

AI 빌더 입장에서 이는 업계의 설계 사고가 분화되고 있음을 보여준다. 모든 시나리오에 LLM의 완전한 추론 능력이 필요한 것은 아니다. 이미지 분류, 에이전트 행동 모드 판단과 같은 ‘객관식’ 시나리오에서는 단일 결정에 집중하는 모델을 사용하면 더 빠르고 비용도 절감하면서 이미지 이해, 다국어 지원 등의 능력은 그대로 유지할 수 있다. TypeSafe는 이러한 빠르고 직관적인 판단을 System One이라 부르며 숙고형 System 2와 대비시키는데, 이 역할 분담 사고방식은 주목할 가치가 있다 — 특히 OpenAI가 에이전트 행동 모니터링 활용 사례를 언급한 이후, 저비용 의사결정 모델이 에이전트 안전 보호의 한 축이 될 가능성도 있다.

다음에 AI 애플리케이션을 설계할 때는 먼저 스스로에게 물어보자. 이 단계가 정말로 완전한 LLM 추론을 필요로 하는가, 아니면 사실은 그저 하나의 객관식 문제일 뿐인가.

📅 원문 정보

🔗 더 읽어보기