📰 핵심 요약

Koa는 세일즈포스가 이번 주 Dreamforce 컨퍼런스에서 발표한 첫 추론 모델(reasoning model)로, 엔비디아의 오픈 웨이트 모델 Nemotron을 기반으로 양사가 공동으로 후속 학습(post-training)을 진행했으며, 영업·마케팅·고객 서비스 관련 작업에 초점을 맞추고 있다.

세일즈포스 AI 수석부사장 Jayesh Govindarajan에 따르면, 그동안 회사는 Agentforce 플랫폼의 일부로 여러 작업 전용 소형 언어 모델을 만들어왔지만, 추론이 필요한 장기 흐름이나 다단계 작업에서는 계속 Claude, ChatGPT 같은 최전선 모델에 의존해왔으며, Agentforce의 AI 게이트웨이(gateway, 요청을 해당 모델로 분배하는 시스템)를 통해 라우팅 처리해왔다. 그동안 자체 기업용 최전선 모델을 만들지 않았던 이유는 명확한 데이터 출처(data provenance)를 갖추면서도 업계 최고 수준에 도달한 미국산 사전학습 기반 모델이 시장에 없었기 때문이며, Nemotron이 등장하면서 비로소 그 공백이 메워졌다고 한다. Govindarajan은 또한 이에 비해 알리바바가 내놓은 중국 오픈소스 모델 Qwen이 정확히 어떤 데이터로 학습되었는지는 확인할 수 없다고 언급했다.

후속 학습 과정에서 세일즈포스와 엔비디아는 실제 고객 데이터를 전혀 사용하지 않았으며, 대신 영업 및 고객 서비스 상황을 시뮬레이션한 합성 데이터를 만들었다. 여기에는 격분한 고객이 콜센터에 전화하는 상황이나 영업 담당자가 대응하는 상황을 연기하는 페르소나 시뮬레이션(persona simulation)이 포함되어, 이를 통해 모델이 영업 및 고객 서비스 분야 지식에 정통하도록 했다.

Koa는 Agentforce 플랫폼의 기존 모델 외에 선택할 수 있는 오픈 웨이트 대안으로 자리매김한다. 장점으로는 실제 고객 데이터에 노출된 적이 없어 유출 위험이 없다는 점, 동일한 작업을 수행하는 데 필요한 토큰 수가 더 적어 AI 비용을 절감할 수 있다는 점, 필요에 따라 AI 게이트웨이를 통해 자동으로 라우팅 분배될 수 있다는 점, 그리고 세일즈포스에 내장된 고객 데이터 규정과 보안 체계를 완전히 준수한다는 점 등이 있다.

💬 JudyAI Lab 의견

⏳ Commentary 추가 예정 (finalize_commentary 단계에서 Hermes가 추가하며, 사실에 기반해야 하고 임의로 정보를 확장하지 않아야 함)

📅 원문 정보

🔗 더 읽어보기