AI 생산성 도구: 90%가 효과 못 보는 진짜 이유

이 글은 JudyAI Lab의 AI 엔지니어링 시리즈 중 하나입니다 — 100편 이상 발행된 가이드, 60개국 5,000명 이상의 주간 독자가 읽는 콘텐츠로, AI 에이전트·트레이딩 시스템·콘텐츠 파이프라인의 실전 운영에 초점을 둡니다.

McKinsey의 2025년 보고서는 꽤 불편한 수치를 던졌습니다 — 거의 90%의 기업이 AI를 도입했지만, 그 중 94%는 ‘뚜렷한 가치를 못 봤다’고 느낍니다 [Source: https://www.mckinsey.com/capabilities/strategy-and-corporate-finance/our-insights/where-ai-will-create-value-and-where-it-wont].

그런데 McKinsey의 같은 시리즈 연구에서는 AI 도입으로 최대 연간 약 3.4퍼센트포인트의 생산성 성장 여지가 생길 수 있다고 지속적으로 밝히고 있습니다 [Source: https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier].

한쪽에는 극찬받는 도구, 다른 한쪽에는 90%의 기업이 효과를 못 낸다는 현실. 그 사이에서 도대체 무슨 일이 벌어진 걸까요?

독립 창업자에게는 이 질문이 더욱 절실합니다. AI를 위해 프로세스를 바꿔줄 ‘회사’가 없습니다 — 당신 자신이 곧 프로세스이니까요.

연구가 말하는 것: AI는 진짜로 효과가 있으며, 통제 실험으로 뒷받침된다

MIT의 2023년에 반복적으로 인용되는 연구 [Source: https://news.mit.edu/2023/study-finds-chatgpt-boosts-worker-productivity-writing-0714]는 453명의 화이트칼라를 대상으로 글쓰기 테스트를 진행했습니다. 결론은 명확합니다: ChatGPT를 사용한 그룹은 글쓰기 시간이 40% 줄었고, 출력 품질이 18% 높아졌습니다. Science 저널에 전문 논문이 게재되어 있습니다 [Source: https://www.science.org/doi/10.1126/science.adh2586].

이것은 마케팅 수사가 아니라 통제 실험입니다.

다만 이 연구에서 자주 간과되는 세부 사항이 있습니다 — 당시 피험자들이 사용한 것은 ChatGPT-3.5였으며, 현재 주류인 Claude 4 / GPT-4 시리즈와는 이미 몇 세대 차이가 납니다. 동일 규모의 후속 대조 연구는 아직 많지 않지만, 도구의 능력 상한선은 2023년 당시보다 분명히 훨씬 높아졌습니다.

McKinsey 2025 비즈니스 구축 보고서는 또 다른 시각을 더합니다: 새로운 사업이 뚜렷한 매출에 도달하는 시간이 2023년 38개월에서 2025년 31개월로 단축됐습니다 [Source: https://www.mckinsey.com/capabilities/business-building/our-insights/how-to-build-businesses-faster-and-better-with-ai]. 7개월이라는 차이가 2년 만에 생긴 것입니다.

도구가 진짜로 효과 있다는 것은 일단 논쟁하지 않아도 됩니다.

그렇다면 왜 90%의 기업이 가치를 못 끌어내나? 핵심은 ‘프로세스 재설계’

이제 진짜 흥미로운 부분입니다.

McKinsey의 결론은 사실 상당히 반직관적입니다 — “AI의 생산성 효과는 프로세스 재설계에서 나오는 것이지, 기존 프로세스에 AI를 추가하는 것에서 나오는 게 아닙니다” [Source: https://www.mckinsey.com/capabilities/tech-and-ai/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work].

이런 의미입니다. ChatGPT를 기존의 ‘초안 작성 → 수정 → 발행’ 흐름에 끼워 넣으면 실제 향상은 제한적입니다. 하지만 전체 흐름을 ‘AI가 초안 작성 → 사람은 관점과 사실성만 검토 → 어조 수정 → 발행’으로 재구성하면, 그게 바로 그 40%입니다.

대기업은 프로세스 재설계를 하기 어렵습니다. 수십 개의 부서를 조율하고, SOP를 바꾸고, 직원을 교육하고, 내부 정치를 헤쳐 나가야 하기 때문입니다.

독립 창업자의 이점이 바로 여기에 있습니다 — 가로막는 사람이 없고, 혼자서 전체 흐름을 처음부터 재구성할 수 있습니다. McKinsey의 ‘프로세스 재설계가 핵심’이라는 결론을 독립 창업자에게 적용하면 이런 뜻이 됩니다: 대기업의 내부 마찰이 없으니, AI를 제대로 활용할 가장 좋은 기회를 갖고 있습니다.

하지만 도구가 알려주지 않는 한 가지: 먼저 무엇을 남길지 생각하라

도구가 도와줄 수 있는 것은 ‘이미 명확하게 생각한 일을 더 빠르게 처리하는 것’입니다. ‘자신이 무엇을 원하는지 모르는 것’은 도와줄 수 없습니다.

많은 독립 창업자들이 이런 사이클에 빠집니다: AI 도구 다섯 개를 구독하고, 각각 조금씩 맛만 보다가, 결국 ‘AI는 별로’라는 결론을 내립니다.

문제는 도구가 아니라 먼저 명확하게 생각하지 않은 것입니다 — 당신이 남겨두고 싶은, 오직 당신만 할 수 있는 일이 무엇인가요? 나머지를 AI에게 맡겨야 합니다.

순서가 잘못되면 아무리 강력한 도구도 구해주지 못합니다.

독립 창업자를 위한 세 가지 판단 기준

여기까지 정리하며, 참고할 세 가지를 제안합니다.

첫째, 도구를 선택하기 전에 먼저 프로세스를 정리하십시오. 지금 자신이 매일 무엇을 하는지조차 나열하지 못한다면, 아무리 많은 AI 구독을 해도 컬렉션에 불과합니다. 먼저 일주일의 시간을 기록하고, 각 시간대에 무엇을 하는지 나열한 후, 어떤 것을 넘길 수 있는지 결정하십시오.

둘째, 여러 개를 조금씩 시도하지 말고 한두 가지를 깊게 사용하십시오. MIT의 40% 향상은 통제 실험 조건에서 단일 글쓰기 작업의 수치입니다. 이 효과를 일상 업무 흐름으로 확장하려면 도구를 오래, 깊게 사용하여 그 경계를 파악해야 합니다. 다섯 가지를 얕게 맛보는 것보다 두 가지를 깊게 사용하는 것이 훨씬 낫습니다. 저 자신도 JudyAI Lab 업무 흐름에서 이렇게 익혔습니다 — 한 도구를 6개월 사용한 후에야 그것의 진정한 한계를 알기 시작했습니다.

셋째, 오직 당신만 할 수 있는 일을 남겨두십시오. AI가 시간을 절약해 주지만, 그 절약된 시간으로 무엇을 하느냐가 그 절약의 가치를 결정합니다. AI가 카피라이팅을 대신해 두 시간을 절약해 주었는데, 그 시간에 다시 두 시간의 카피라이팅을 한다면 절약한 것이 아닙니다. 이것은 AI 야간 업무 흐름이 해결하려는 것과 같은 문제입니다 — 핵심은 AI가 얼마나 많은 일을 할 수 있느냐가 아니라, AI가 확보해 준 시간을 오직 당신만 할 수 있는 일에 쓸 수 있느냐입니다.

McKinsey의 94%, 즉 가치를 못 본 기업들은 대부분 세 번째에서 막혔습니다.

도구는 효과가 있습니다. 하지만 그 활용이 의미 있는지 여부는 별개의 문제입니다.

자주 묻는 질문 (FAQ)

Q1: MIT의 40% 연구는 지금도 유효한가요?

연구 자체는 2023년에 ChatGPT-3.5로 진행됐지만, 모델 능력이 지난 2년간 크게 향상되어 대부분의 실무 관찰에서는 효과가 더 높아졌다고 봅니다. 더 경계해야 할 것은 데이터가 오래됐다는 점이 아니라 — 그 40%가 통제 조건에서의 단일 글쓰기 작업 수치이며, 이를 ‘하루 종일 업무’에 적용하려면 프로세스 재설계가 필요하다는 것입니다.

Q2: 독립 창업자는 AI 도구를 먼저 배워야 하나요, 아니면 먼저 제품을 만들어야 하나요?

먼저 제품을 만들면서 AI를 함께 적용하십시오. 구체적인 과제가 없으면 도구 학습이 컬렉션이 되어 버립니다. 가장 빠른 방법은 ‘이번 주에 X를 해야 하는데, AI가 얼마나 도움이 되는지 보자’이지, ‘먼저 도구를 마스터하고 나서’가 아닙니다.

Q3: AI 도구를 몇 개 구독하면 충분한가요?

두 개로 충분합니다: 하나는 대화형(Claude 또는 ChatGPT), 하나는 수직 특화형(업무 필요에 따라 — 코딩이라면 Cursor, 디자인이라면 Figma AI, 데이터 분석이라면 Cursor나 ChatGPT 모두 가능). 6개월 깊게 사용한 후에 세 번째를 고려하십시오.

Q4: 자신이 AI를 제대로 사용하고 있는지 어떻게 판단하나요?

간단한 확인 방법이 있습니다 — 절약된 시간이 오직 당신만 할 수 있는 일로 바뀌고 있나요? 두 시간을 절약했는데 그 시간에 AI도 할 수 있는 일을 또 한다면, 절약한 게 아닙니다. McKinsey의 94%, 가치를 못 낸 기업들이 대부분 이 사이클에 빠져 있었습니다.

Q5: 프로세스 재설계를 구체적으로 어떻게 시작하나요?

하나의 작업부터 시작하십시오. 매주 반복하는 일(예: 주간 보고서 작성, 고객 이메일 회신, 회의 노트 정리)을 골라 5단계로 분해한 후, 각 단계에 ‘이 단계는 AI가 할 수 있을까?‘라고 물어보십시오. 넘길 수 있는 것은 넘기고, 나머지가 ‘오직 당신만 할 수 있는 것’입니다. 먼저 하나의 작업을 최적화하고, 그 다음 두 번째로 확장하십시오.