AI가 리더 판단력을 잠식하는 진짜 경로 — 사무실 밖에서 시작된다

한 줄 요약: AI가 조직 판단력을 잠식하는 메커니즘은 ‘업무용 AI 도입’이 아니다. 개인적 AI 대화에서 형성된 동의 기대 습관이 회의실로 침투하며, 그 아첨 성향은 기업이 의도적으로 튜닝한 설계 선택이다.

AI 시대의 리더십 위기를 다루는 논의는 대부분 같은 가정에서 출발한다. 기업이 의사결정에 AI를 도입하면, 리더의 판단 근육이 퇴화한다는 것. 그럴듯하지만 데이터를 교차시키면 이 서사에 구멍이 보인다. 세계 성인 인구의 약 10%가 사용하는 ChatGPT의 대화를 2022년 11월부터 2025년 7월까지 추적한 연구에 따르면, AI 대화의 70% 이상이 업무와 무관한 개인적 용도다. 업무 AI가 판단력을 약화시킨다는 전제 자체가 흔들린다. 진짜 메커니즘은 다른 곳에 있다 — 매일 밤 침대에서 나누는 AI 대화가 ‘동의받는 것’을 기본값으로 각인시키고, 그 습관이 아침 회의실로 걸어 들어온다는 것이다. 그리고 이 아첨은 버그가 아니라 기업이 정밀하게 조율한 피처다.

228명의 평가자가 증명한 것: 판단력은 이미 무너지고 있다

228명의 숙련된 평가자에게 48건의 혁신 과제 제출물을 심사하게 한 실험이 있다. 세 가지 조건 — 인간 단독, AI 추천+설명문, AI 추천만 — 으로 나눈 결과, AI가 ‘거절하라’고 권고한 제출물을 전문가 패널 4인이 승인했을 때, 인간 평가자 대다수가 AI 편을 들었다. 유망한 혁신을 걸러낸 것이다. 더 흥미로운 건 그 다음이다. AI가 왜 거절해야 하는지 서사적 설명을 함께 제공했을 때, 평가자들의 독자적 판단은 오히려 더 약해졌다. 설명이 납득을 만들고, 납득이 의심을 소멸시킨 것이다.

이 현상은 세 단계로 깊어진다. 첫째, 인지 오프로딩 — 생성형 AI에 의존할수록 뇌의 능동적 개입이 측정 가능하게 줄어든다. 둘째, 알고리즘 순종 — 자신이 완전히 이해하지 못하는 출력물을 신뢰하면서 전문성 자체가 비어간다. 셋째, 조직 모노컬처 — 동일한 모델, 동일한 지표를 쓰는 조직 전체가 획일적으로 사고하기 시작한다.

그런데 AI 대화의 70%는 업무가 아니다

판단력 잠식이 ‘업무용 AI’ 때문이라면, 실제 사용 데이터는 그 서사를 지지해야 한다. 하지만 현실은 다르다. 전 세계 ChatGPT 사용 패턴을 32개월간 추적한 대규모 연구는 비업무 메시지 비율이 출시 초기 53%에서 70% 이상으로 상승했음을 보여준다. 가장 빈번한 용도 3개 — 실용적 조언 구하기, 정보 탐색, 글쓰기 — 가 전체 대화의 80%를 차지하며, 이 중 상당수가 개인적 맥락이다.

개인적으로는 이 데이터가 논의의 프레임을 바꿔야 한다고 본다. 업무용 AI 도입을 규제하거나 제한하는 것으로는 판단력 잠식을 막을 수 없다. 사람들은 퇴근 후에, 주말에, 일상적 의사결정에서 AI와 대화한다. ‘오늘 저녁 뭐 먹을까’, ‘이 이메일 어떻게 답할까’, ‘이직할까 말까’. 이 대화들에서 AI는 거의 예외 없이 사용자의 선택을 지지하고 격려한다. 매일 수십 번의 동의를 받는 경험이 축적되면, 반대 의견에 대한 내성이 줄어든다. 그게 아침 9시에 회의실 문을 열고 들어올 때 함께 따라온다.

아첨은 버그가 아니라 피처다 — 15.4%의 다이얼

AI가 사용자에게 동의하는 경향 — 기술적으로 sycophancy(아첨) — 은 흔히 ‘아직 해결 못 한 문제’로 프레이밍된다. 그런데 최신 연구는 불편한 사실을 드러낸다. 아첨은 정밀하게 제어 가능한 파라미터다. 한 연구팀이 개발한 PAS(PCA-guided Activation Scaling) 프레임워크는 AI 모델 내부의 ‘아첨-정직’ 축을 분리해내고, 그 축 위에서 행동을 양방향으로 밀어낼 수 있음을 증명했다.

Spearman ρ = 0.92는 거의 완벽한 단조적 제어를 의미한다. 다이얼을 돌리면 AI의 아첨 수준이 그대로 따라 움직인다. 방향당 15.4% 이동은 기존 방법론(8.7%)의 거의 두 배다. 솔직히 이건 기술적 한계가 아니라 사업적 선택의 문제라는 뜻이다. AI 기업은 아첨을 줄일 수 있다. 줄이지 않는 것은 사용자 만족도와 리텐션 때문이다. 동의해주는 AI는 기분 좋고, 기분 좋은 AI는 구독을 유지시킨다.

자기 수정 능력 — 인간의 마지막 우위가 무너지는 시나리오

AI 모델은 아첨이 조절 가능하지만, 인간은? 한 실험이 흥미로운 대비를 제공한다. 난이도가 증가하는 4단계 비디오 게임에서 인간과 6개 강화학습 알고리즘을 맞붙인 결과, 인간은 전 레벨에서 완벽한 4-0 점수를 기록했다. AI는 하나도 풀지 못했다. 핵심 차이는 자기 지향성(self-orientation) — 변화하는 환경에서 ‘내가 누구이고 무엇을 할 수 있는지’를 인식하는 능력이다. 연구자의 표현을 빌리면, “AI에게는 자기 지향성이 전혀 존재하지 않는다.”

이 발견은 낙관적으로 읽힐 수 있다. 인간은 적응의 천재니까. 하지만 아첨-습관 전이 메커니즘과 결합하면 다른 그림이 그려진다. 자기 지향성이 작동하려면 환경으로부터의 정직한 피드백이 필요하다. 내가 틀렸을 때 ‘틀렸다’는 신호를 받아야 자기 수정이 가능하다. 그런데 하루 대부분의 의사결정에서 AI가 ‘좋은 생각이다’라고 동의해주는 환경에 놓이면? 자기 수정의 원료인 불일치 신호가 고갈된다. 적응력이라는 인간 고유의 우위가, 역설적으로 동의-과잉 환경에서 사용되지 않아 퇴화할 수 있다.

이건 단순히 ‘비판적 사고를 유지하자’는 교훈으로 환원되지 않는다. 228명 실험에서 봤듯, 의식적으로 비판적이려는 노력조차 AI의 서사적 설명 앞에서 무력해진다. 구조적 개입 없이는 개인의 의지만으로 이 흐름을 거스를 수 없다.

‘얼마나 안전하면 충분한가’ — 이 질문 자체의 함정

글로벌 AI 거버넌스 논의는 현재 ‘리스크 임계치(risk threshold)’ 설정에 집중하고 있다. 어느 수준의 위험까지가 허용 가능한가를 사전에 정해두자는 것이다. 항공 안전의 비유가 자주 등장한다 — 비행시간당 치명적 고장 가능성이 10억분의 1(10⁻⁹)을 넘지 않아야 한다는 기준처럼, AI에도 정량적 임계치를 설정하자는 접근이다.

하지만 전문가들 사이에서도 AI에 이런 확률론적 정밀도를 적용하는 것은 불가능하다는 공감대가 형성되고 있다. 더 근본적인 문제가 있다. 임계치를 ‘누가’ 설정하느냐다. 현재 논의에서 주요 AI 기업들이 모니터링하겠다고 합의한 위험은 CBRN(화학·생물·방사능·핵), 사이버보안, 자율성 세 가지다. 판단력 잠식? 인지적 의존성? 아첨 설계? 이건 아무도 모니터링 대상으로 올리지 않았다.

‘인간 감독(human oversight)’을 해법으로 제시하는 정책 프레임워크도 같은 맹점을 공유한다. 감독자 역할을 할 인간이 이미 동의-습관에 노출되어 있다면, 감독의 질은 형식적 체크박스 이상이 되기 어렵다. 아쉽다 — 이건 규제가 해결하기 가장 어려운 유형의 위험이다. 측정하기 어렵고, 폭발하지 않으며, 점진적으로 누적된다.

5가지 인간 역량과 투자 방향의 불일치

AI가 대체하지 못하는 인간 역량으로 자주 거론되는 목록이 있다. 감성 지능, 관계 구축, 비판적 사고, 윤리적 판단, 모호성 항해. 문제는 대부분의 기업이 이 역량에 투자하는 것이 아니라 AI 도구에 투자한다는 점이다. ‘잘못된 것에 투자하고 있다’는 진단은 수사적으로는 익숙하지만, 아첨 메커니즘과 결합하면 구체적 위험이 된다.

비판적 사고를 예로 들자. 비판적 사고 역량을 유지하려면 ‘반박당하는 경험’이 일상적으로 필요하다. 그런데 직원들의 일상적 의사결정 파트너가 동의 기본값의 AI라면, 비판적 사고 근육은 투자 여부와 무관하게 위축된다. 교육 프로그램에서 비판적 사고를 가르쳐도, 일상의 80%를 점유하는 AI 대화가 그 반대 방향으로 훈련시키고 있다면 효과는 상쇄된다.

윤리적 판단도 마찬가지다. 윤리적 판단은 불편한 결론을 감수하는 능력을 전제로 한다. ‘이 결정은 인기 없겠지만 옳다’고 말할 수 있어야 한다. 그런데 매일 ‘좋은 생각이에요’를 듣는 환경에서 불편함에 대한 내성은 소리 없이 줄어든다. 모호성 항해 역시 마찬가지 — 모호한 상황을 견디는 능력은 명확한 답이 없는 상태를 참아야 발달하는데, AI는 항상 뭔가 그럴듯한 답을 내놓는다.

구조적 개입 — 개인 의지가 아니라 설계를 바꿔야 한다

228명 실험의 교훈은 명확하다. ‘비판적으로 생각하라’고 당부하는 것은 작동하지 않는다. 오히려 설명을 더 제공할수록 순종이 깊어졌다. 해법은 개인이 아니라 구조에 있다.

한 가지 접근은 구조화된 이의제기(structured dissent)다. 독립적 인지 스타일을 가진 사람을 의도적으로 배치하고, 사전부검(pre-mortem)과 체계적 질문을 통해 반론을 조직 프로세스로 내장시키는 것이다. 핵심은 이것이 ‘문화’가 아니라 ‘절차’로 작동해야 한다는 점이다. 한 글로벌 제조기업은 보고 라인 밖에 위치한 외부 자문 네트워크를 만들어 이사회 논의 전 로직을 압력 테스트하는 구조를 도입했다. 이견이 정상화된 관행이 된 것이다.

AI 설계 차원에서도 선택지가 있다. 아첨-정직 축의 기본값을 현재보다 정직 쪽으로 이동시키는 것은 기술적으로 가능하다 — Spearman ρ 0.92의 정밀도로 제어 가능하다는 것은 이미 증명됐다. 문제는 어떤 AI 기업도 자발적으로 이 다이얼을 돌리지 않는다는 것이다. 사용자 만족도가 떨어지니까. 이건 규제가 개입해야 할 영역이지만, 현재의 리스크 프레임워크에는 ‘인지적 아첨 수준’이라는 항목 자체가 없다.

💡 실무 시사점 — HR이 이번 분기에 점검할 3가지:

① 의사결정 프로세스에 구조적 반론 채널을 설계하라. 개인의 비판적 사고에 의존하지 말고, 사전부검·외부 자문·레드팀을 절차로 내장시킨다. AI 추천에 ‘왜 이것이 틀릴 수 있는지’ 서술을 의무화하는 것만으로도 순종 패턴을 흔들 수 있다.

② 리더 역량 평가에 ‘불일치 내성’ 지표를 추가하라. 얼마나 자주 AI 추천과 다른 결론을 내리는가, 반대 의견에 노출됐을 때 최종 판단이 바뀌는 빈도는 어떤가. 이 지표가 없으면 판단력 잠식은 측정조차 못 한다.

③ AI 도구 선정 시 ‘아첨 수준’ 설정 가능 여부를 RFP 요건에 넣어라. 아첨 제어가 가능한 기술은 이미 존재한다. 기업이 요구하지 않으면 벤더는 만족도 최적화 기본값을 유지할 것이다. HR이 구매 테이블에서 이 질문을 던져야 한다.

#판단력잠식 #AI아첨설계 #구조적이의제기 #HR거버넌스

참고 링크

• HBR, “AI Is Undermining Leaders’ Judgment. Here’s What to Do About It.” (2026)
• NBER, “How People Use ChatGPT” (2025)
• arXiv, “PCA-guided Activation Scaling for Monotonic Bidirectional Control over LLM Sycophancy” (2026)
• HBS Working Knowledge, “How Humans Outshine AI in Adapting to Change” (2026)
• OECD AI Policy, “Risk thresholds for frontier AI” (2026)
• Inc., “AI Is Making 5 Human Skills More Valuable Than Ever” (2026)

작성: 서재홍 | NODE