AI를 도입한 기업이 오히려 생산성이 떨어진다 — 5%의 역설

한국 사업체 가운데 AI를 도입한 곳은 5%다. 그 5%가 AI를 들여온 이유를 물으면 65.3%가 “근로자의 생산성 향상”이라고 답한다. 그런데 같은 조사에서 AI 도입 사업체의 1인당 실질 매출은 3년 연속 하락했다. 도입하지 않은 사업체는 같은 기간 꾸준히 올랐다. 생산성을 높이겠다고 AI를 들였는데, 정작 생산성은 반대 방향으로 움직인 셈이다. 보고서는 이 현상을 “도입 초기의 일시적 적응 비용”이라고 짧게 언급하고 넘어간다. 하지만 데이터를 조금만 더 들여다보면, 한국 기업의 AI 도입을 추동하는 진짜 힘은 ‘생산성 향상’이 아니라 ‘뒤처질 수 있다는 공포’라는 불편한 그림이 드러난다.

한 줄 요약: AI 도입 기업의 생산성은 오히려 떨어지고, 효과를 측정할 수 있는 기업은 절반도 안 된다 — 한국 기업 AI 도입의 실제 동력은 생산성이 아니라 FOMO다.

생산성을 위해 도입했는데, 생산성이 떨어졌다

사업체패널조사 10차 부가조사의 숫자는 단순하다. AI를 도입한 사업체의 1인당 실질 매출액은 2019년 6억 3,300만 원에서 2021년 6억 2,600만 원, 2023년에는 6억 2,000만 원으로 내려갔다. 반면 AI를 도입하지 않은 사업체는 같은 기간 3억 9,800만 원에서 4억 3,900만 원, 4억 5,200만 원으로 올랐다.

물론 도입 기업의 절대 매출 수준은 미도입 기업보다 여전히 높다. 하지만 추세의 방향이 문제다. AI를 쓰는 곳은 내려가고, 안 쓰는 곳은 올라간다. 도입 사업체의 실질 매출 증감률을 보면 더 선명해지는데, 13.9%에서 7.0%로 증가세가 절반으로 꺾였다. 미도입 사업체도 둔화했지만(11.8%→7.9%), 감속의 기울기가 도입 기업 쪽에서 훨씬 가파르다.

솔직히 이 숫자를 처음 봤을 때 의아했다. AI를 도입할 정도로 자원이 있는 대기업들이 이런 추세를 보인다면, AI가 당장은 ‘비용’이지 ‘수익원’이 아니라는 뜻 아닌가.

‘모른다’가 과반인 기술에 거는 베팅

더 흥미로운 건 같은 조사의 인식 문항이다. AI 도입이 고용에 미치는 영향을 물었을 때, 미도입 사업체의 28.0%는 “고용이 줄어들 것”이라 우려했다. 도입 사업체는? 4.3%만 그렇게 답했다. 일단 써보면 고용 불안은 사라진다는 뜻일 수 있다. 하지만 이 해석에는 함정이 있다.

같은 조사에서 AI가 생산성에 미치는 영향에 대해 “모른다”고 답한 비율이 48.7%에 달한다. 건강·안전에 대한 효과는 79.4%가 “모른다”고 했다. 도입한 기업조차 AI가 실제로 무엇을 바꾸었는지 측정하지 못하고 있다는 뜻이다.

“고용이 줄 것 같다”는 공포는 4.3%뿐인데, “생산성이 오르는지 모르겠다”는 답이 절반 가까이 된다. 이건 좀 이상한 조합이다. 사람을 자르지 않으면서도 생산성이 오르는지 모르겠다면, 도대체 무엇을 위해 AI를 운용하고 있는 건가. 이 질문에 대한 답이 보고서 어디에도 없다는 게 개인적으로는 가장 아쉬운 부분이다.

자산 2조 원짜리 클럽의 입장권

AI 도입이 어떤 기업들에 집중되어 있는지를 보면, FOMO의 윤곽이 더 뚜렷해진다. 공공부문의 도입률은 22.1%, 자산 10조 이상 상호출자제한기업집단은 20.0%다. 중소기업은 2.4%에 불과하다.

규모별로 보면 30~99인 사업체는 3.5%, 500인 이상은 16.9%가 AI를 도입했다. 5배 가까운 격차다. 산업별로는 비제조업(5.7%)이 제조업(3.4%)보다 높고, 지역별로는 경상권(7.6%)과 수도권(6.0%)에 쏠려 있으며 전라·제주권은 0.8%에 머문다.

이 숫자들이 가리키는 것은 명확하다. AI 도입은 “생산성이 낮아서 올려야 하는 기업”이 하는 게 아니다. 이미 생산성이 높고 자산이 풍부한 기업이, 그 지위를 잃을까 봐 하는 행위에 가깝다. 바꿔 말하면 — AI를 도입하지 않았을 때의 리스크가 도입의 불확실한 효과보다 더 무섭게 느껴지는 기업들이 움직이고 있다.

J커브라는 이름의 면죄부

보고서는 도입 기업의 생산성 둔화를 설명하면서 “AI 도입 초기 안착 과정의 단기적 부진”이라 쓰고, McElheran et al.(2025)의 연구를 인용한다. “규모가 크고 오래된 기업일수록 AI 도입 초기 단기 손실이 더 크다”는 결과다. 이른바 ‘J커브’ — 처음에는 빠졌다가, 시간이 지나면 올라간다는 논리다.

J커브 가설 자체가 틀렸다고 단정할 근거는 없다. 하지만 이 보고서의 데이터만으로 J커브를 주장하기엔 결정적인 약점이 있다. 분석 기간이 2019~2023년인데, 이 구간에는 코로나19 팬데믹이 끼어 있다. 보고서도 “코로나19와 AI 효과를 분리하기 어렵다”고 인정한다. 그런데 분리가 안 되는 효과를 가지고 J커브라는 낙관적 해석을 채택하는 건 논리적으로 성립하지 않는다.

이건 좀 핵심이다. “모른다”는 겸손한 결론과 “J커브니까 기다리면 된다”는 낙관적 결론 사이의 거리는 생각보다 멀다. 그리고 보고서의 정책 제언 — 중소기업 재정 지원, AI 인프라 확충, 교육훈련 프로그램 — 은 모두 후자의 낙관을 전제로 설계되어 있다.

조용히 사라지는 저숙련 일자리

생산성 이야기에 가려져 있지만, 고용 구조의 변화는 이미 상당히 진행되고 있다. AI 도입 사업체에서 고숙련 근로자 비중은 2019년 30.3%에서 2023년 35.6%로 5.3%p 상승했다. 같은 기간 저숙련 비중은 9.4%에서 5.0%로, 거의 절반 가까이 줄었다.

미도입 사업체에서도 같은 방향의 변화가 나타나지만, 속도가 다르다. 고숙련 +1.7%p, 저숙련 −1.3%p. AI 도입 기업에서의 변화가 3배 이상 빠르다.

그런데 전체 고용 증감률은 두 집단이 거의 비슷한 궤적을 보인다. 도입 사업체 6.9%→4.5%→6.3%, 미도입 사업체 3.2%→0.9%→3.0%. 총량은 크게 안 줄었는데 구성이 바뀌었다는 것은, 저숙련 일자리가 없어진 게 아니라 고숙련 일자리로 대체되고 있다는 뜻이다. 기술편향적 기술변화(SBTC)의 교과서적 패턴이지만, 그 속도가 AI 도입 기업에서 비정상적으로 빠르다는 점은 기존 숙련 전환 정책의 시간표가 현실과 맞지 않을 가능성을 시사한다.

FOMO가 만드는 정책의 사각지대

보고서의 정책 제언은 다섯 가지다. 중소기업 인프라 비용 지원, AI 역량 교육훈련, 도입 초기 어려움 완화, 미도입 기업의 고용 불안 해소, 도입 경험 공유. 하나같이 “AI 도입은 좋은 것이니 더 많은 기업이 하도록 돕자”는 전제 위에 서 있다.

하지만 보고서 자체 데이터가 보여주는 현실은 다르다. 도입 기업의 절반이 효과를 모르고, 생산성은 떨어지고 있으며, 도입의 최대 장벽은 기술 부족(49.8%)과 과도한 비용(48.7%)이다. 이 상황에서 “더 많은 기업이 AI를 도입하도록” 재정을 투입하면 어떻게 되는가. 효과를 측정할 역량도 없는 기업들이 보조금에 이끌려 AI를 도입하고, 그 결과를 평가할 수단이 없으니 “J커브를 기다리는” 상태가 무한정 이어지는 구조가 만들어진다.

정책이 진짜 물어야 할 질문은 “어떻게 하면 더 많은 기업이 AI를 도입하느냐”가 아니다. “도입한 기업이 왜 효과를 측정하지 못하고 있으며, 어떻게 하면 측정할 수 있게 되느냐”가 먼저다. 효과 측정 없는 확산은 확산이 아니라 유행이고, 유행은 거품을 동반한다.

💡 실무 시사점 — HR이 이번 분기에 점검할 3가지:

① AI 도입 전 ‘무엇을 측정할 것인지’ 먼저 설계하라. 1인당 매출·처리 건수·오류율 등 구체적 KPI 없이 AI를 들이면, “효과를 모른다”는 48.7%에 합류하게 된다. 도입 의사결정에 측정 계획을 필수 항목으로 포함시켜야 한다.

② 저숙련→고숙련 전환 속도를 자사 데이터로 점검하라. AI 도입 기업에서 저숙련 비중이 4년 만에 절반으로 줄었다. 자사의 직무 구성 변화가 이 속도에 맞춰 재교육·배치전환 계획을 갖추고 있는지 확인해야 한다. 숙련 전환이 계획 없이 진행되면 갑작스러운 인력 공백이나 부당전보 분쟁으로 이어질 수 있다.

③ “경쟁사가 하니까”는 도입 근거가 아니다. 공공부문 22.1%, 대기업 20.0%, 중소기업 2.4%라는 격차는 자원의 차이를 반영한다. 자사의 규모와 역량에 맞지 않는 AI 도입은 비용만 늘리고 생산성을 오히려 깎을 수 있다.

#AI도입 #생산성역설 #HR전략 #숙련전환 #FOMO

참고 링크

• 한국노동연구원, “KLI 패널브리프 제36호: 사업체의 AI 도입 현황 및 영향에 대한 탐색적 분석” (2026)

작성: 서재홍 | NODE