구글, Gemini Decisions API 출시: 한 번에 1,000개의 멀티모달 질문 처리, 150~250ms 지연 시간 및 100만 토큰당 0.10달러

Google이 텍스트를 전혀 작성하지 않는 AI의 급성장하는 분야에 합류했습니다. 2026년 11월 11일, Google DeepMind는 답변을 생성하는 대신 빠른 선택을 내리도록 설계된 Gemini Decision 1이라는 새로운 모델을 기반으로 하는 Gemini Decisions API를 출시했습니다. 한 번에 한 토큰씩 단어를 생성하는 대신, 한 번의 패스로 일련의 옵션을 평가하고 약 150~250밀리초 만에 확률과 신뢰도 값을 반환합니다.

이 API는 텍스트, 이미지, 오디오, 비디오 및 PDF에 걸쳐 한 번의 요청으로 최대 1,000개의 독립적인 질문을 평가할 수 있으며, 비용은 입력 토큰 100만 개당 $0.10이며 출력에 대한 요금은 없습니다. 작동 방식, 비용, Google이 이미 이를 사용하고 있는 곳, 그리고 최근 몇 주 동안 등장한 다른 "의사 결정 모델"과의 비교 분석은 다음과 같습니다.

핵심 요약

• 정의: 예/아니오 확인, 객관식 선택 및 루브릭 채점과 같은 폐쇄형 의사 결정을 위한 새로운 엔드포인트입니다.
• 규모: 최대 256K 토큰의 하나의 공유 멀티모달 입력에 대해 요청당 최대 1,000개의 독립적인 질문을 처리합니다.
• 속도: 엔드투엔드 150~250ms, 모델 계산 시간 50~100ms입니다.
• 가격: 입력 토큰 100만 개당 $0.10이며 출력 토큰은 청구되지 않습니다. Google은 벤치마크 제품군에서 Gemini 3.5 Flash-Lite보다 거의 5배 저렴하다고 밝혔습니다.
• 가용성: 현재 Gemini API 및 Google AI Studio에서 사용할 수 있으며, 프로토타이핑을 위한 무료 티어가 제공됩니다.

Gemini Decisions API 한눈에 보기

의사 결정 모델이란 무엇인가요?

대부분의 AI 모델은 텍스트를 생성합니다. 의사 결정 모델은 더 좁은 작업을 위해 구축되었습니다. 즉, 입력값과 가능한 답변 목록이 주어지면 가장 좋은 답변을 선택하고 그 신뢰도를 말해주는 것입니다. 모델이 옵션을 직접 평가하고 답변을 토큰별로 디코딩하지 않기 때문에 일반적인 채팅 모델보다 훨씬 빠르고 저렴하게 응답할 수 있습니다. 요청 라우팅, 규칙 확인 또는 콘텐츠 등급 지정과 같이 더 큰 시스템 내에 존재하는 수많은 작은 판단에 적합합니다.

작동 방식: 한 번의 요청으로 세 가지 질문 유형 처리

개발자는 하나의 공유 입력과 일련의 질문을 보냅니다. 각 질문은 세 가지 유형 중 하나일 수 있으며, 단일 요청에 이를 혼합할 수 있습니다.

Google의 예시에서는 회의 전 휴게실 카운터의 사진을 확인합니다. 한 번의 요청으로 청소되지 않은 액체가 쏟아져 있는지, 어떤 청소 조치가 적합한지, 지저분한 정도가 얼마나 심각한지를 묻고, 확률, 순위가 매겨진 선택지, 심각도 점수를 한꺼번에 돌려받습니다. 모든 답변에는 신뢰도 값이 포함되므로 애플리케이션은 신뢰도가 낮은 사례를 대체 모델이나 상담원에게 보낼 수 있습니다.

입력은 통화 녹음과 계정 메타데이터, 또는 손상 사진이 포함된 스캔된 PDF 청구서와 같이 형식을 결합할 수 있습니다. 개발자는 이미지와 비디오 해상도를 조정하여 세부 정보와 토큰 비용을 제어할 수 있습니다.

가격 책정 및 비용 모델

이 구조는 동일한 입력에 대해 많은 질문을 하는 경우 유리합니다. 파일이나 녹음 데이터 비용은 한 번만 청구되므로, 두 번째, 열 번째 또는 백 번째 질문을 추가할 때 추가되는 지시 텍스트 비용만 발생하기 때문입니다.

속도 및 성능 주장

• 지연 시간: 엔드투엔드 150~250ms이며, 중앙값 모델 계산 시간은 50~100ms입니다. Google은 요청당 질문이 1개에서 100개까지 늘어나도 지연 시간은 거의 일정하게 유지된다고 말합니다.
• 비용: 공유 벤치마크 제품군 전체에서 Interactions API를 통해 사용되는 Gemini 3.5 Flash-Lite보다 거의 5배 더 저렴합니다.
• 정확도: Google은 Gemini Decision 1이 에이전트 라우팅, 추론, 순위 지정 및 멀티모달 이해를 다루는 제품군을 선도하며, 신뢰도 점수가 실제 정확도와 더 밀접하게 일치함을 의미하는 가장 낮은 보정 오차(calibration error)를 가지고 있다고 밝혔습니다.

이 수치들은 Google 자체 테스트 결과이며, 벤치마크 점수는 상세 표가 아닌 차트 형태로 발표되었습니다. 이를 확인하려면 독립적인 평가가 필요할 것입니다.

Google이 이미 이를 사용하고 있는 방법

작고 빠른 모델이 제어 결정을 처리하는 동안 대규모 모델은 생성이나 깊은 추론이 필요한 작업에 집중하는 패턴입니다.

새로운 카테고리: 의사 결정 모델

Google만 그런 것이 아닙니다. 최근 몇 주 동안 전 OpenAI 연구원이 설립한 스타트업을 시작으로 OpenAI, Cloudflare, Microsoft가 모두 의사 결정 스타일의 모델이나 인터페이스를 도입했습니다. 이들 중 세 가지를 직접 비교한 결과는 다음과 같습니다.

비디오 클립을 사용한 테스트에서 한 개발자는 실질적인 차이점을 발견했습니다. 다른 두 모델은 예/아니오 질문에 대해 1.0 또는 0.0의 평면적인 값을 반환한 반면, Gemini는 0.92 및 0.05와 같이 세분화된 확률을 반환했습니다. 이는 보정(calibration)을 강조하는 Google의 주장과 일치하지만, 단일 테스트가 더 나은 정확도의 증거는 아닙니다.

사용처

Google AI Studio 외에도 OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit, OpenCode와 Google GenAI 소프트웨어 개발 키트에서 통합이 진행 중입니다. Google Cloud의 Gemini 지원은 곧 제공될 예정으로 나열되어 있습니다. 또한 Google은 코드를 작성하지 않고도 API를 시도해 볼 수 있는 데모 앱을 AI Studio에서 제공합니다.

앱 개발자와 마케터에게 중요한 이유

이 섹션은 ASOWorld의 사설 분석이며, Google의 공식 입장이 아닙니다.

앱에 AI 기능을 구축하는 모든 사람에게 의사 결정 모델은 저렴하게 수행할 수 있는 작업의 범위를 바꿉니다.

• 저렴한 가드레일. 각 검사 비용이 생성형 호출 비용의 극히 일부에 불과하므로, 콘텐츠 확인, 정책 스크리닝 및 중재를 샘플링 대신 모든 요청에 대해 실행할 수 있습니다.
• 더 스마트한 모델 라우팅. 쉬운 쿼리는 저렴한 모델로 보내고 어려운 쿼리는 강력한 모델로 보내는 것이 AI 비용을 절감하는 주요 방법 중 하나이며, 의사 결정 모델은 라우팅 단계를 보이지 않을 정도로 빠르게 만듭니다.
• 더 나은 검토 워크플로우. 신뢰도 점수를 통해 앱은 명확한 사례를 자동화하고 불확실한 사례만 사람에게 보낼 수 있어 고객 지원, 중재 및 리스팅 품질 확인에 적합합니다.
• 멀티모달 입력. 비디오, 오디오 및 문서를 직접 평가함으로써 자동화된 스크린샷 또는 비디오 검토, 통화 품질 확인 및 콘텐츠 태깅과 같은 기능의 문을 엽니다.
• 총 비용에 따른 선택. 입력 가격, 지원 형식 및 보정 성능이 공급업체마다 다르므로 팀은 자체 데이터를 사용하여 후보 모델을 테스트해야 합니다.

AI 플랫폼과 앱 비즈니스에 미치는 영향에 대한 더 많은 보도는 Marketing Trending의 AI 기술 섹션을 살펴보세요.

향후 주목해야 할 점

• 독립적 벤치마크. 경쟁 의사 결정 모델 간의 정확도 및 보정 성능에 대한 제3자 테스트입니다.
• Google Cloud 가용성. 기업 고객을 위해 "곧 출시될 예정"인 지원 항목입니다.
• 가격 경쟁. 공급업체들이 시장에서 가장 저렴한 옵션에 맞춰 가격을 인하할지 여부입니다.
• Google 제품 내 광범위한 채택. Notebook, Stitch, CC 및 Search를 넘어 API를 제어 레이어로 사용하는 더 많은 기능들입니다.

빠른 답변: Gemini Decisions API

Gemini Decisions API란 무엇인가요?
텍스트를 생성하는 대신 한 번의 빠른 패스로 예/아니오, 객관식 및 루브릭 질문을 평가하는 Gemini Decision 1 모델 기반의 Google 엔드포인트입니다.

비용은 얼마인가요?
입력 토큰 100만 개당 $0.10이며, 출력 토큰에 대한 비용은 없고 Google AI Studio에서 프로토타이핑을 위한 무료 티어를 제공합니다.

얼마나 빠른가요?
Google은 엔드투엔드 150~250밀리초라고 밝히고 있습니다.

무엇을 처리할 수 있나요?
텍스트, 이미지, 오디오, 비디오 및 PDF를 최대 256K 토큰까지 처리할 수 있으며, 요청당 최대 1,000개의 독립적인 질문이 가능합니다.

의사 결정 모델은 어디에 사용되나요?
모델 간 요청 라우팅, 정책 규칙 확인, 콘텐츠 등급 지정, 도구 선택 및 검토를 위한 불확실한 사례 플래그 지정 등에 사용됩니다.

다른 의사 결정 모델과 비교하면 어떤가요?
입력 가격 면에서 100만 토큰당 $0.10으로 OpenAI와 동일하지만 더 많은 입력 유형을 처리합니다. 한 스타트업 경쟁사는 100만 개당 $0.042로 더 저렴하지만 텍스트와 JSON만 지원합니다.