AI 에이전트 2만 명 시대, 숫자가 던지는 질문
맥킨지가 최근 공개한 내부 수치가 HR 업계를 술렁이게 했다. 직원 6만 명 중 AI 에이전트가 2만 개. 18개월 전 3,000개에서 7배 가까이 뛴 숫자다. 엔비디아는 한 발 더 나아가 직원 5만 명에 AI 어시스턴트 1억 개를 붙이겠다는 비전을 내놓았다. 솔직히 이 숫자들을 처음 봤을 때는 과장이라고 생각했다. 그런데 실제 현장을 들여다보니, 문제는 숫자가 아니라 조직이 이 에이전트들을 어떻게 운영하느냐에 있었다.
2026년 상반기, AI 에이전트 도입은 더 이상 ‘할까 말까’의 문제가 아니다. 이미 도입한 기업들이 부딪히는 진짜 과제는 따로 있다. 다양성 없는 에이전트 팀의 편향, 암묵지를 무시한 자동화의 실패, 그리고 거버넌스의 공백. 이 세 가지를 하나씩 짚어보자.
한 줄 요약: AI 에이전트는 ‘몇 개 도입했느냐’가 아니라 ‘어떻게 구성하고, 무엇을 보존하며, 누가 통제하느냐’가 성패를 가른다.
같은 모델로 16개 돌리느니, 다른 모델 2개가 낫다
HBR이 소개한 연구 결과는 직관에 반한다. 동일한 파운데이션 모델로 만든 에이전트 16개보다 서로 다른 모델로 구성한 에이전트 2개가 소프트웨어 엔지니어링 문제 해결에서 동등하거나 더 나은 성과를 냈다. 다양한 에이전트 팀은 균일한 팀보다 문제 해결 성과가 25% 높았다.
개인적으로는 이 결과가 HR이 오랫동안 강조해온 인력 다양성의 논리와 정확히 겹친다는 점이 인상적이다. 사람 팀에서 배경이 다른 구성원이 모이면 맹점이 줄어드는 것처럼, AI 에이전트도 같은 원리가 작동한다. 한 전문가는 이를 두고 “의상 교체는 인지가 아니다(costume change is not cognition)”라고 꼬집었다. 같은 모델에 다른 페르소나를 씌우는 건 화장품에 불과하다는 뜻이다.
25%
다양한 AI 에이전트 팀의 문제 해결 성과 향상률
HBR, 2026
2 vs 16개
다른 모델 2개가 동일 모델 16개와 동등 성과
HBR, 2026
20,000개
맥킨지 내부 AI 에이전트 수 (18개월 전 3,000개)
McKinsey 공개 자료, 2026
40~80%
멀티 에이전트 시스템 실패율
HBR 인용 연구, 2026
균일한 에이전트 팀이 만드는 실질적 리스크는 세 갈래다. 규제 산업에서 사기 탐지가 동시에 먹통이 되는 시스템 오류, AI 추천 시스템이 8개 제품 카테고리에서 미국 브랜드에 편향을 보이는 시장 왜곡, 그리고 동일 시스템을 쓰는 유통업체들의 가격이 수렴해 차별화가 사라지는 경쟁 압축이 그것이다.
에이전트가 읽지 못하는 ‘보이지 않는 조직’
이건 좀 더 근본적인 문제다. 모든 조직에는 두 개의 운영 체계가 있다. 하나는 문서화된 프로세스, 다른 하나는 암묵적 조직(implicit organization) — 매뉴얼에 적히지 않은 경험, 동기, 전문적 판단의 총체다. AI 에이전트는 전자는 잘 따르지만 후자는 아예 인식하지 못한다.
HBR이 소개한 금융 서비스 기업 사례가 이를 잘 보여준다. 이 회사는 ‘프로세스 개선’을 명목으로 에이전트 4개를 배치했다. 그런데 각 에이전트가 대체한 것은 겉으로 드러난 업무만이 아니었다. 심사역(underwriter)은 단순히 대출 승인 속도를 높이는 존재가 아니라, 거래 관계의 가치를 가늠하고, 모델의 과신을 감지하며, 동료 앞에서 자신의 판단에 책임을 지는 전문가였다. 한 연구자의 표현이 핵심을 찌른다 — “나쁜 느낌을 전달하는 소프트웨어 API는 없다(There is no software API for a bad vibe).”
사례 — 핀테크 Ramp의 비용 관리 에이전트Ramp는 경비 처리 에이전트를 도입하면서 ‘정보에 기반한 재설계(informed reengineering)’ 방식을 택했다. 에이전트가 정형화된 경비 정책의 85~90%를 자율 처리하고, 나머지 10~15%의 엣지 케이스만 사람에게 올린다. 핵심은 이 10~15%를 처리하는 인간 리뷰어가 베테랑의 암묵적 판단 기준을 시스템에 다시 주입하는 피드백 루프를 만든다는 점이다. 단순 자동화가 아니라 조직 기억을 인프라로 전환하는 모델이다.
여기서 HR 실무자가 주목해야 할 건 경력 파이프라인 문제다. 주니어 직원이 수행하던 기초 업무 — 대출 신청서 검토, 초기 데이터 분석 — 를 에이전트가 대체하면, 시니어가 될 사람을 키울 기반 자체가 사라진다. 주니어 시절에 기술을 익히고, 조직 가치를 체득하며, 재량적 판단 근육을 키우는 과정이 통째로 빠지는 셈이다. 이건 효율의 문제가 아니라 조직 역량 재생산의 문제다.
개발자도 모르는 리스크, HR이 채워야 할 빈칸
아쉽다. 에이전틱 AI 개발자 35명을 심층 인터뷰한 최신 실증 연구(arXiv, 2026)가 밝힌 현실은 씁쓸하다. 개발자들은 자율형 AI의 비즈니스 리스크(제품 품질, 수익 영향)를 사회적 리스크(고용 대체, 개인정보)보다 체계적으로 우선시했다. 고용 대체 같은 HR의 핵심 우려는 개발 과정에서 후순위로 밀리고 있다는 뜻이다.
더 심각한 건 이 연구가 밝힌 역설적 딜레마다. 개발자들이 에이전틱 AI의 리스크를 통제하는 방법은 대부분 에이전트의 자율성과 목표 복잡성 자체를 제한하는 것이었다. 즉 리스크를 줄이려면 에이전트를 유용하게 만드는 바로 그 특성을 깎아야 하는데, 이 딜레마를 해결할 성숙한 거버넌스 체계가 아직 없다. 이 빈 공간이야말로 HR이 들어가야 할 자리다.
에이전트 시대, HR의 설계 권한이 달라져야 하는 이유
세 개의 연구를 관통하는 메시지는 하나다. AI 에이전트 도입은 기술 프로젝트가 아니라 조직 설계 프로젝트다. 그리고 조직 설계의 전문가는 HR이다.
HBR이 제시한 진단 질문 세 가지가 출발점이 될 수 있다. 사람들은 데이터에 없는 무엇을 알아채는가? 직무 기술서 너머로 무엇에 신경 쓰는가? 언제 속도를 줄이는가? 에이전트를 배치하기 전에 이 질문에 답하지 못한 조직은 높은 가능성으로 40~80%의 실패율 구간에 들어간다.
에이전트 팀의 모델 다양성을 금융 포트폴리오처럼 관리하는 모델 포트폴리오 거버넌스, 에이전트가 대체할 수 없는 암묵지를 매핑하는 암묵적 조직 진단, 그리고 주니어 육성 경로를 의도적으로 재설계하는 도제식 학습 프로그램 — 이 세 가지는 IT 부서가 단독으로 결정할 수 있는 영역이 아니다. HR이 설계 테이블에 앉아야 한다.
flowchart TD
A[AI 에이전트 도입 결정] -->|Step 1| B[암묵적 조직 매핑]
B -->|3대 진단 질문| C{무엇을 알아채는가?\n무엇에 신경쓰는가?\n언제 멈추는가?}
C -->|매핑 완료| D[에이전트 역할 설계]
D -->|다양성 확보| E[멀티모델 포트폴리오 구성]
D -->|인간 보존 영역| F[에스컬레이션 + 피드백 루프]
E --> G[거버넌스 체계 수립]
F --> G
G -->|주니어 경력 경로| H[도제식 학습 재설계]
H --> I[지속가능한 Human-AI 협업 조직]
보이지 않는 것을 설계하는 사람들
에이전트 도입을 엑스레이처럼 써야 한다는 HBR의 표현이 와닿는다. 에이전트가 못 하는 일을 발견하고, 그 발견을 중심으로 조직을 재설계하라는 뜻이다. 맥킨지의 AI 지식 플랫폼 ‘Lilli’는 4만 3,000명 직원의 75%에게 수십 년 치 내부 문서를 접근 가능하게 만들었고, 에스티 로더의 ‘ConsumerIQ’는 25개 브랜드, 80년 치 소비자 데이터를 통합했다. 이런 도구들이 효과를 내는 건 기술이 뛰어나서가 아니라, 조직이 ‘무엇을 보존할 것인가’를 먼저 결정했기 때문이다.
AI 에이전트 2만 개를 운용하는 시대에 HR의 역할은 에이전트 도입을 방어하는 게 아니다. 에이전트가 대체할 수 없는 것 — 암묵적 판단, 조직 기억, 전문가 정체성 — 을 식별하고 보호하는 조직 설계자로 진화하는 것이다. 핵심이다. 기술 팀이 “무엇을 자동화할 수 있는가”를 묻는 동안, HR은 “무엇을 자동화하면 안 되는가”를 물어야 한다. 그 질문에 대한 답이 곧 앞으로 5년간의 조직 경쟁력을 결정할 것이다.
💡 실무 시사점: AI 에이전트 도입 전 ‘암묵적 조직 진단’ 3대 질문(알아채기·신경쓰기·멈추기)으로 자동화 불가 영역을 먼저 매핑하라. 에이전트 팀은 단일 모델이 아닌 멀티모델 포트폴리오로 구성하고, 주니어 육성 경로를 의도적으로 재설계해야 에이전트 시대에도 조직 역량이 재생산된다.
#AI에이전트#조직설계#암묵지#멀티모델#HR트렌드#에이전틱AI#인재육성
참고 링크
- HBR, “The Strongest Teams of AI Agents Will Be Built Using Different Models” (2026)
- HBR, “How to Design Agentic Systems Around the Implicit Rules that Govern Your Company” (2026)
- arXiv, “The Perils of Agency: How Developers Perceive, Prioritize, and Address Risks in Agentic AI Products” (2026)
작성: 서재홍 | NODE