📰 핵심 요약

국제 전문 서비스 기관 KPMG는 2025년 10월 《에이전틱 AI 시대의 탁월함 재정의》라는 제목의 보고서를 발행했으나, 보고서에 인용된 여러 조직이 해당 내용의 사실성을 부인하면서 KPMG는 결국 보고서를 공식 웹사이트에서 내리고 내부 조사에 착수했다.

사건의 발단은 AI 탐지 연구 기관 GPTZero가 밝혀냈다. GPTZero는 영국 《파이낸셜 타임스》에 보고서 곳곳에 허위 내용이 존재하며, 그 근원이 AI 환각 — 즉 AI 모델이 사실적 근거 없이 그럴듯한 내용을 스스로 생성하는 현상 — 에 있다고 지적했다. 다시 말해, 기업의 AI 활용 현황을 다룬 이 보고서 자체가 AI의 도움으로 작성됐지만 인간의 검증이 이루어지지 않은 산물일 가능성이 높다.

지목된 조직으로는 UBS, 영국 국민보건서비스(NHS), 스위스 연방철도, 런던 교통국이 있으며, 네 곳 모두 《파이낸셜 타임스》에 자사의 AI 사용 현황과 관련된 보고서 내용이 사실과 다르거나 오해를 불러일으킨다고 밝혔다. KPMG 대변인은 회사가 모든 직원에게 책임 있는 AI 사용에 관한 내부 지침 준수를 요구하고 있으며, 여기에는 내용 검증 및 독립적 출처 확인을 위한 인간 감독이 반드시 포함된다고 말했다.

이번 사건은 전례 없는 일이 아니다. 지난달에는 또 다른 빅4 회계법인인 EY(언스트앤영)도 충성도 보상 프로그램 보고서를 철회했는데, AI가 생성한 것으로 추정되는 가짜 인용과 환각 내용이 포함된 것으로 밝혀졌다. 두 사건이 연이어 발생하면서, 최상위 전문 서비스 기관들도 AI 보조 작성물의 품질 관리 체계에 심각한 허점이 있음이 드러났다.

💬 JudyAI Lab 관점

KPMG가 기업 AI 활용 현황을 전문적으로 다룬 연구 보고서를, 정작 그 보고서 자체가 AI 환각의 산물일 가능성 때문에 철회해야 했다 — 이 블랙 코미디 같은 아이러니는 현재 AI 보조 작성이 직면한 신뢰 위기의 핵심을 정확히 짚어낸다.

이것은 단순히 한 기관의 홍보 위기가 아니라, ‘AI 보조 콘텐츠’ 생태계 전반에 걸친 구조적 경고 신호다. 보고서에는 UBS, NHS, 스위스 연방철도, 런던 교통국이 인용됐지만 네 곳 모두 내용의 사실성을 부인했다 — 즉, AI가 최종 원고를 생성한 후 인용 출처를 실제로 확인한 사람이 아무도 없었던 것이다. AI 빌더들에게 이 사례가 가장 경계해야 할 점은, AI 출력이 매끄럽고 완전할수록 사람의 검수 경계심이 쉽게 무뎌진다는 것이다. EY도 같은 시기에 가짜 인용이 담긴 충성도 연구 보고서를 철회했고, 두 최상위 기관이 연달아 같은 실수를 저질렀다는 사실은 이것이 개별 직원의 실수가 아닌 워크플로 설계의 시스템적 허점임을 보여준다.

AI 보조 콘텐츠 생산 과정을 사용하는 모든 팀에게 권고한다 — ‘인용 출처는 반드시 독립적으로 검증’하는 단계를 필수 관문으로 추가하라. 특히 가장 매끄럽고 완결된 것처럼 읽히는 단락일수록 가장 의심해야 할 곳이다.

📅 원문 정보

🔗 더 읽기