📰 핵심 요약

Google이 Gemini Decisions API를 공개했습니다. ‘닫힌 선택지 결정’을 위해 설계된 새 엔드포인트로, 새로운 Gemini Decision 1 모델(gemini-decision-1)을 탑재했으며 Google AI Studio의 Gemini API를 통해 사용할 수 있습니다. 도구 선택, 정책 검사, 모델 라우팅, 상황 점수화처럼 선택지가 한정된 판단 시나리오에 적합합니다. 핵심 메커니즘은 더 이상 토큰 단위로 답변 텍스트를 생성하지 않고, 한 번의 순전파(forward pass)로 후보 선택지에 바로 점수를 매겨 확률과 신뢰도 점수를 반환하는 것입니다. 공식 발표에 따르면 엔드투엔드 지연 시간은 약 150250밀리초(모델 연산 중앙값 50100밀리초)이며, 입력은 100만 토큰당 0.10달러이고 출력 토큰은 과금하지 않습니다. 공식 설명으로는 질문 1개에서 100개 범위에서 지연 시간이 거의 일정하고, 전체 비용은 Interactions API와 함께 쓰는 Gemini 3.5 Flash-Lite보다 거의 5배 저렴하며, 에이전트 라우팅, 추론, 정렬, 멀티모달 이해 등의 벤치마크에서 앞서면서 보정 오차도 가장 낮다고 합니다.

입력은 텍스트, 이미지, 오디오, 영상, PDF를 섞어서 지원하며 상한은 256K 토큰입니다. 한 번의 요청에 최대 1,000개의 독립된 질문을 붙일 수 있고, 이미지와 영상 해상도를 조절해 디테일과 토큰 비용을 제어할 수 있습니다. 예를 들어 통화 녹음과 계정 데이터를 함께 평가하거나, 스캔한 보험금 청구 PDF와 손상 사진을 함께 평가할 수 있습니다. 질문 유형은 세 가지입니다. yes/no 판단은 조건이 성립할 확률을 추정하며 참/거짓 기준 설명을 덧붙일 수 있습니다. choice 객관식은 2개에서 255개 선택지 중 승자를 고르고 각 후보의 정규화된 확률을 반환합니다. score 순서형 점수는 0부터 시작하는 등급 척도로 점수를 매기고 연속형 가중 점수와 등급별 확률을 반환합니다. 모든 답변에는 0에서 1 사이의 신뢰도 점수가 붙으며, 프로그램은 이를 활용해 애매한 사례를 대체 모델이나 사람의 검토로 넘길 수 있습니다. 입력 필드는 Interactions API의 Content 블록 형식을 그대로 따릅니다. 자세한 내용은 원문 링크를 참고하세요.

💬 JudyAI Lab 관점

Google이 내놓은 Gemini Decisions API는 ‘닫힌 선택지 결정’을 하나의 독립된 엔드포인트로 분리했습니다. 토큰 단위로 텍스트를 생성하는 대신, 한 번의 순전파로 후보 선택지에 바로 점수를 매깁니다. 공식 발표상 엔드투엔드 지연 시간이 약 150~250밀리초라는 점에서, 이런 설계 방향은 AI 빌더가 눈여겨볼 만합니다.

지금까지 많은 사람이 도구 선택, 정책 검사, 모델 라우팅처럼 선택지가 한정된 판단을 범용 생성 모델에 맡기고, 출력된 텍스트에서 답을 파싱하곤 했습니다. 이번 소식이 보여주는 사고방식은 이렇습니다. 문제의 본질이 ‘N개 중 하나 고르기’라면, 그에 맞게 설계된 인터페이스를 써야 한다는 것입니다. 원문을 보면 입력은 100만 토큰당 0.10달러이고 출력은 과금하지 않으며, 공식 설명으로는 Interactions API와 함께 쓰는 Gemini 3.5 Flash-Lite보다 비용이 거의 5배 저렴하고, 한 번의 요청에 최대 1,000개의 질문을 붙일 수 있으며, 질문 1개에서 100개 사이에서 지연 시간이 거의 일정하다고 합니다. 또 하나 주목할 디테일은 모든 답변에 0에서 1 사이의 신뢰도 점수가 붙는다는 점입니다. 프로그램은 이를 기준으로 애매한 사례를 대체 모델이나 사람의 검토로 넘길 수 있습니다. 그러면 ‘결정’이 통제하기 어려운 텍스트 덩어리에서, 임계값을 정하고 분기할 수 있는 구조화된 신호로 바뀝니다. 물론 위의 수치와 벤치마크 결과는 모두 공식 측 주장이므로, 실제 성능은 직접 가진 데이터로 검증해야 합니다.

지금 운영 중인 AI 워크플로를 점검해서, 사실상 라우팅이나 분류만 하는 단계가 어디인지 찾아보세요. 그리고 그 단계에 신뢰도 점수 임계값을 설정하고, 임계값 미만이면 사람의 검토로 넘겨 보는 것부터 시작해 볼 수 있습니다.

📅 원문 정보

🔗 더 읽어보기