AI 에이전트 들여놨는데 왜 조직이 안 바뀌나 — 비용·역할·역량, 세 축의 재설계

AI 에이전트, 도입하면 끝이 아니다

올해 들어 HR 세미나마다 빠지지 않는 단어가 있다. 에이전틱(agentic). AI 챗봇을 넘어, 스스로 판단하고 실행까지 하는 AI 에이전트를 조직에 심겠다는 이야기다. 글로벌 경영진의 82%가 1~3년 내 AI 에이전트 도입을 계획하고 있다는 조사 결과가 나올 만큼, 방향 자체에 이견은 없다.

그런데 솔직히 현장 분위기는 다르다. 도입은 했는데 비용이 예상의 몇 배씩 나오고, 어떤 역할을 AI에 맡겨야 하는지 합의도 안 됐고, 기존 직원을 어떻게 재배치할지 로드맵도 없다. 도구를 하나 들여온 게 아니라, 조직 설계 전체를 다시 짜야 하는 상황인데 그 무게를 인식하지 못하는 경우가 많다.

한 줄 요약: AI 에이전트 도입은 ‘도구 추가’가 아니라 ‘조직 재설계’이며, HR은 비용·역할·역량 세 축을 동시에 다시 짜야 한다.

비용부터 현실 점검 — 챗봇의 1,000배를 쓴다

스탠퍼드 HAI가 최근 공개한 연구는 꽤 충격적이다. AI 에이전트가 단순 챗봇 대비 토큰 소비량이 약 1,000배에 달한다는 것이다. 단순히 많이 쓴다는 수준이 아니다. 같은 작업을 반복 실행해도 실행마다 비용이 최대 30배까지 편차가 생겼다. 더 많은 토큰을 쓴다고 정확도가 올라가는 것도 아니어서, 중간 비용 구간에서 성능이 정점을 찍고 이후로는 포화 상태가 됐다.

개인적으로는 이 결과가 HR에 시사하는 바가 크다고 본다. AI 에이전트를 ‘무료에 가까운 디지털 인력’으로 인식하는 경영진이 적지 않은데, 실제 운영 비용은 예측이 어렵고, 모델 자체도 자기가 얼마나 쓸지 예측을 못 한다(자기 비용 예측 상관계수가 0.39에 불과했다). 인건비 줄이려고 도입했는데 운영비가 더 나오는 역설이 충분히 가능하다는 뜻이다.

15억 달러가 쏟아진 곳 — 역할의 경계가 무너진다

지난달 화제가 된 뉴스가 있다. Anthropic이 블랙스톤, 골드만삭스 등과 함께 15억 달러(약 2조 원) 규모의 엔터프라이즈 AI 서비스 벤처를 출범시킨 것이다. 기존에 AI 모델을 만들기만 하던 회사가, 이제 기업에 직접 들어가 업무 프로세스를 재설계하고 AI를 배치하겠다고 선언한 셈이다.

이건 좀 심각하게 봐야 할 대목이다. 전통적으로 이 일은 인포시스, TCS, 위프로 같은 대형 IT 서비스 기업의 영역이었다. 수십만 엔지니어를 동원해 시스템 통합과 운영을 맡아왔는데, AI 네이티브 기업이 그 시장에 직접 뛰어든 것이다. 같은 시기에 OpenAI도 100억 달러 규모의 유사 벤처를 준비하고 있다는 보도가 나왔다.

HR 관점에서 핵심은 이렇다. AI가 대체하는 건 ‘일자리’가 아니라 ‘역할의 구성 방식’이다. 주니어 개발자를 대량으로 뽑아서 유지·보수에 투입하던 인력 모델이 흔들리고 있다. 대신 시니어 아키텍트, 프로덕트 매니저, 디자이너처럼 판단과 설계를 담당하는 역할의 수요가 올라간다. 채용 규모가 줄어드는 게 아니라 채용의 무게중심이 바뀌는 것이다.

역량 재설계 — 모든 직원이 ‘테크놀로지스트’가 되어야 하는 시대

McKinsey는 최근 ‘에이전틱 조직(agentic organization)’ 프레임워크를 내놓으면서, HR이 근본적으로 재설계해야 할 영역 세 가지를 짚었다. 인력 계획(인간과 AI 에이전트를 동시에 고려), 성과 관리(직원이 AI를 얼마나 잘 활용해 가치를 만드는지 평가), 학습·개발(AI 리터러시를 넘어 시스템 사고와 판단력까지 확장)이다.

숫자로 보면 더 선명해진다. AI 유창성(AI fluency)이 명시적으로 요구되는 직무는 2023년 약 100만 개에서 2025년 약 700만 개로, 불과 2년 만에 7배 증가했다. 세계경제포럼은 전 세계 노동력의 59%, 약 1억 2천만 명이 2030년까지 리스킬링이 필요하다고 본다. 이 중 11%는 교육 기회를 받지 못할 것으로 전망되는데, 이건 아쉽다는 수준을 넘어 구조적 위험이다.

핵심이다 — 에이전틱 조직에서 HR의 역할은 ‘AI 도구 교육 담당’이 아니다. 인간과 AI 에이전트가 팀으로 일하는 구조를 설계하고, 거기서 인간 고유의 가치(판단, 맥락 이해, 윤리적 결정)가 발현되도록 환경을 만드는 것이다. 채용 공고에 ‘AI 활용 능력’을 추가하는 것과 조직 전체의 역할 아키텍처를 AI 중심으로 재편하는 것은 차원이 다르다.

그래서, 지금 HR 테이블 위에 올려야 할 질문

이 세 가지 흐름 — 예측 불가능한 비용, 역할 경계의 해체, 역량 패러다임의 전환 — 은 따로 노는 이슈가 아니라 하나의 구조 변화다. AI 에이전트가 단순 보조 도구를 넘어 ‘디지털 동료’가 되는 순간, 조직도·평가 기준·교육 체계·비용 구조가 동시에 흔들린다.

아직도 많은 기업이 ‘AI 도입 = IT 부서의 일’로 분류하고 있다. 하지만 역할을 재정의하고, 사람을 재배치하고, 새로운 역량 체계를 만드는 건 본질적으로 HR의 일이다. IT가 인프라를 깔면, 그 인프라 위에서 일하는 방식을 설계하는 건 HR이어야 한다.

오히려 지금 필요한 건 거창한 ‘AI 전환 프로젝트’가 아니라, 구체적인 질문이다. 우리 조직에서 AI 에이전트에게 맡길 수 있는 업무는 정확히 무엇인가. 그 업무를 하던 사람은 어디로 이동하는가. AI 운영 비용의 상한선은 누가, 어떤 기준으로 정하는가. 이 질문에 답하지 못한 채 도구만 들여오면, 1년 뒤 남는 건 높은 청구서와 혼란뿐이다.

💡 실무 시사점: AI 에이전트 도입 전에 세 가지를 먼저 점검하라. 운영 비용의 예측 가능성(PoC 단계에서 비용 편차 측정), 역할 재설계 로드맵(AI가 흡수할 업무와 인간이 집중할 업무의 명확한 구분), 역량 전환 프로그램(AI 리터러시를 넘어 시스템 사고·판단력·윤리적 의사결정까지). 이 세 축이 정렬되지 않으면 에이전틱 조직은 구호에 그친다.

#AI에이전트 #에이전틱조직 #HR재설계 #리스킬링 #조직설계 #AI비용관리

참고 링크

• Stanford HAI, “How Are AI Agents Spending Your Tokens?” (2026)
• People Matters, “Anthropic’s new AI venture could intensify competition for Infosys, TCS and Wipro” (2026)
• McKinsey, “Unlocking AI and agentic for your organization” (2026)

작성: 서재홍 | NODE