AI, 왜 기대만큼 안 나오나

김범수2026-11-06읽는 시간 7분

AI트렌드 · 대상 기간 2026년 10월 30일~11월 5일

AI, 왜 기대만큼 안 나오나. 이번 주 기사로 나온 조사·사례 일곱 개가 같은 질문을 다룹니다. 중소기업은 단계마다 다른 곳에서 막힌다고 답했고, SK텔레콤은 도입 직후 효율이 떨어질 수 있는 구간을 넘는 것을 다음 목표로 내걸었습니다. 고객 응대 조사에서는 사람이 이어받는 기준을 갖췄는지가 성과와 함께 갈렸고, 더 싼 모델로 바꿨다가 비용이 늘어난 회사도 있습니다. 일을 좁혀 시작한 사례까지 다섯 가지로 묶었습니다.

다섯 가지 한눈에

무엇이	이번 주 소식
막힌다	중소기업 307곳 — 검토 단계는 사례 부족 49.2%, 구축 단계는 시스템 수정 44.6%, 활용 단계는 사용료·유지비 47.1%
떨어진다	SK텔레콤, 도입 직후 효율이 떨어질 수 있는 「AX J커브」를 넘는 것이 다음 목표
갈린다	기대한 투자 효과를 거둔 고객 서비스 조직 4%, 사람에게 넘기는 기준을 갖춘 곳 기대 이상 기업 78% · 기대 미달 기업 32%
더 든다	단가 20% 싼 모델로 바꿨더니 요청당 비용 3.2배
좁힌다	고깃집은 초벌 한 단계만, 인사 소프트웨어는 사규 문의부터

막힌다 — 막히는 곳은 단계마다 다르다

메인비즈협회가 인증기업 307곳에 물었습니다. 71.4%가 AI 도입·활용이 필요하다고 답했지만, 2년 안에 구체적인 추진계획을 세우고 있다는 곳은 17.6%, 필요성은 알지만 계획이 없다는 곳은 33.6%였습니다. 막히는 곳은 단계마다 달랐습니다. 검토 단계는 「우리 업무에 맞는 사례 부족」(49.2%), 구축 단계는 「업무에 맞게 시스템 고치기」(44.6%), 활용 단계는 「사용료·유지비 부담」(47.1%)이 1순위였습니다.

우리 회사엔 — 우리 회사가 어느 칸에 있는지부터 표시해 보세요. 검토 단계면 같은 업종 사례 하나 찾기, 구축 단계면 고칠 업무 하나 정하기, 활용 단계면 월 사용료와 줄어든 시간 나란히 적기. 칸마다 먼저 할 일이 다릅니다.

떨어진다 — 도입 직후에는 효율이 떨어질 수 있다

SK텔레콤은 올해 에이전트(대신 일해 주는 AI)를 직접 만든 구성원이 4,000명을 넘고, 사내에서 정기적으로 쓰는 에이전트가 1,500개라고 밝혔습니다. 그런데도 다음 과제로 내건 것은 개인의 활용을 조직의 일하는 방식으로 옮기는 일입니다. 회사가 「AX J커브」라 부르는 구간, 곧 도입 직후 재교육·업무 재설계·데이터 정비로 효율이 일정 부분 떨어질 수 있는 구간을 넘는 것이 목표입니다. 걸림돌로는 데이터 접근·시스템 연계·보안을 꼽았습니다.

우리 회사엔 — 규모는 달라도 순서는 같습니다. 처음에는 오히려 느려질 수 있다고 직원에게 미리 말하세요. 그동안은 성과 대신 「막힌 곳 목록」을 받습니다. 잘 쓰는 한 사람의 방법을 팀의 순서로 옮겨 적는 것이 그다음 일입니다.

갈린다 — 성과와 함께 갈린 것은 「사람이 언제 나서나」

가트너가 고객 서비스·지원 리더 275명에게 물은 결과, AI 도입에서 기대한 투자 효과를 거둔 조직은 4%였습니다. 기사는 통화와 메모 시간이 줄어도 매출·점유율 같은 재무 성과로 바로 이어지지는 않는다고 짚었습니다.

리멤버가 국내 주요 기업의 고객 응대 실무자·의사결정자에게 물은 조사도 있습니다. 성과가 기대 이상이라는 기업의 78%는 AI에서 상담원으로 넘기는 시점·기준을 갖췄고, 기대에 못 미친다는 기업은 32%였습니다. 도입 후 가장 많이 겪은 고객 반응은 「상담원 연결 요구」(50%)였습니다.

우리 회사엔 — 고객 응대에 AI를 쓰거나 쓸 생각이면 「사람이 이어받는 경우」를 세 줄로 적으세요. 예: 환불·불만, 같은 문의를 두 번째 할 때, 고객이 사람을 찾을 때.

더 든다 — 더 싼 모델로 바꿨는데 비용이 3.2배

당근이 글 주제를 분류하는 모델을 단가가 20% 싼 모델로 바꿨더니 요청당 비용이 3.2배가 됐습니다. 원인은 프롬프트 캐시(같은 앞부분을 다시 계산하지 않고 재활용하는 장치)였습니다. 재활용 비율이 85.8%에서 2.3%로 떨어진 것입니다. 구분점을 고쳐 잡자 95% 안팎으로 올랐고, 요청당 비용은 약 5분의 1로 줄었습니다.

우리 회사엔 — 구독만 쓴다면 캐시는 신경 쓸 일이 아닙니다. 교훈은 같습니다. 단가표가 아니라 청구액을 보세요. 모델이나 요금제를 바꿀 때는 전후 한 달의 청구액과 처리 건수를 적어 둡니다. 외주로 만든 도구라면 「건당 얼마인지」 물어보세요.

좁힌다 — 전체가 아니라 한 단계, 민감하지 않은 일부터

화포식당 송도본점은 고기 굽는 일 전체가 아니라 초벌만 로봇에 넘겼습니다. 직원이 테이블에서 약 7분 30초 굽던 것을, 로봇이 약 3분 초벌하고 직원이 자르기와 마지막 굽기를 맡는 방식으로 바꿨습니다. 업체 발표로 직원이 직접 굽는 시간이 약 60% 줄었습니다. 도입 비용은 기사에 없습니다.

인사 소프트웨어 회사 지후소프트는 AI 응대를 민감도가 낮은 사규·규정집·복리후생 문의부터 시작했습니다. 김용호 대표는 급여·평가 정보를 권한을 나누지 않고 AI에 합치면 큰 사고로 이어진다고 봅니다. 지후소프트는 테크수다 비즈니스랩 파트너사입니다.

우리 회사엔 — 틀려도 사고가 나지 않고, 자주 반복되고, 전후를 잴 수 있는 일 하나를 고르세요. 시작 전에 걸리는 시간부터 재 둡니다.

우리 회사 점검

우리는 어느 단계에서 막혔나 — 검토는 사례, 구축은 시스템, 활용은 비용. 막힌 칸부터 손봅니다. 나머지 두 줄은 자료(PDF)에 있습니다.

출처와 고지

막힌다 — 매일일보 · 中企 71.4% “AI 도입 필요”… · 11월 2일 · 보도 기준
떨어진다 — 테크수다 · SKT, ‘AX 혁신 2.0’ 본격화… · 11월 1일
갈린다 — CX Dive · Only 4% of customer service teams… · 11월 4일 · 보도 기준
갈린다 — 디지털 인사이트 · AI가 상담원 대체한다더니… · 10월 30일 · 보도 기준
더 든다 — 테크수다 · [이 주의 기술 블로그 브리핑]… · 11월 2일 · 당근 원글(10월 21일)
좁힌다 — 테크수다 · 에니아이, AI 조리로봇으로 삼겹살 초벌 자동화… · 11월 2일 · 보도 기준
좁힌다 — 테크수다 · 외부 투자 없이 HR SaaS 한 길 걸은 지후소프트… · 11월 1일 · 보도 기준

날짜는 발표일 또는 보도일이며, 대상 기간은 10월 30일~11월 5일입니다. 조사 수치는 응답자가 스스로 답한 것이고, 나머지는 회사가 밝힌 내용입니다. 메인비즈는 조사 기간이 기사에 없고, 리멤버는 표본 수·기간이 기사에 없으며 국내 주요 기업 대상입니다. 지후소프트는 테크수다 비즈니스랩 파트너사입니다. 특정 제품을 추천하는 글이 아닙니다. 기능과 요금제는 자주 바뀌니 본인 계정에서 확인하세요. 이 정리는 AI의 도움을 받아 초안을 쓰고 정리한 사람이 검수했습니다.

자료 받기