NODE

TRACK

실무 문서 가이드

0 / 0 섹션 완료

AI가 성과평가를 쓴다 — 편향 감사 없이 도입하면 벌어지는 일

, , , , ,

올해 들어 한국 상위 100대 기업의 73%가 AI 기반 채용·평가 솔루션을 도입했거나 검토 중이라는 조사 결과가 나왔다. 솔직히 말하면, 이 숫자 자체는 놀랍지 않다. 놀라운 건 그 중 ‘편향 감사(bias audit)’를 동시에 설계한 곳이 거의 없다는 사실이다.

AI가 성과평가 코멘트를 요약하고, 면접 점수를 보정하고, 승진 후보를 추천하는 시대다. 문제는 이 알고리즘이 ‘공정하다’는 전제가 한 번도 검증된 적 없다는 점이다. 뉴욕시는 이미 2023년부터 자동 고용결정 도구에 대한 연례 편향 감사를 법으로 의무화했다. 한국은? 아직 가이드라인조차 없다.

한 줄 요약: AI 성과평가 도구가 빠르게 퍼지고 있지만, 알고리즘 편향을 잡아내는 ‘감사 체계’가 없으면 공정성은 착각이다 — 데이터로 검증하고, 사람이 보정하는 구조를 지금 설계해야 한다.

성과평가에 AI를 넣으면 정말 공정해질까

Gartner가 2026년 3월 발표한 HR 서베이에 따르면, 관리자의 45%가 “AI가 팀 업무 개선에 기대만큼 기여했다”고 답했다. 반대로 말하면 55%는 기대에 못 미쳤다는 뜻이다. 개인적으로는 이 55%가 단순한 ‘기능 부족’이 아니라 ‘신뢰 부족’에서 온다고 본다.

AI 기반 성과평가 시스템을 도입한 조직에서 직원 만족도는 89%로, 미도입 조직의 40%와 비교하면 두 배 이상이었다. 수치만 보면 AI 도입이 정답처럼 보인다. 하지만 이 만족도는 ‘프로세스 속도’와 ‘피드백 일관성’에 대한 만족이지, ‘평가의 공정성’에 대한 만족이 아니다.

실제로 AI가 성과평가에 개입하는 방식은 크게 세 가지다.

  • 코멘트 자동 생성 — 관리자가 키워드만 입력하면 AI가 평가 문장을 완성한다
  • 편향 플래그 — 특정 성별·연령대에 과도하게 낮은 점수가 집중되면 경고를 띄운다
  • 승진 후보 추천 — 과거 성과 데이터와 역량 평가를 종합해 후보 리스트를 제안한다

이건 좀 냉정하게 짚어야 하는데, 세 가지 모두 ‘학습 데이터’에 의존한다. 과거 3년간 남성 관리자가 여성 직원에게 일관되게 낮은 점수를 줬다면, AI는 그 패턴을 ‘정상’으로 학습한다. 편향을 잡겠다고 넣은 도구가 편향을 재생산하는 구조다.

73%

한국 100대 기업 중 AI 채용·평가 솔루션 도입 또는 검토

Class101·HR 트렌드 리포트, 2026

89%

AI 성과평가 도입 조직 직원 만족도 — 미도입 조직은 40%

AIHR Institute, 2026

45%

AI가 팀 업무 개선 기대에 부응했다고 답한 관리자

Gartner HR Survey, 2026.3

뉴욕은 법으로 잡고, 한국은 ‘자율’에 맡긴다

2023년 시행된 뉴욕시 Local Law 144는 간단하다. 채용·승진에 자동화된 의사결정 도구(AEDT)를 쓸 경우, 매년 독립된 제3자에게 편향 감사를 받아야 한다. 감사 결과는 공개해야 하고, 후보자에게 AI 사용 사실을 고지해야 한다.

이 법이 촉발한 변화가 이미 글로벌로 퍼지고 있다. 캘리포니아, 뉴저지, 일리노이가 유사 법안을 추진 중이고, EU의 AI Act는 고용 영역을 ‘고위험(high-risk)’으로 분류해 적합성 평가를 의무화했다. 2024년 한 해에만 AI 채용 도구가 3,000만 건 이상의 지원서를 처리하면서 수백 건의 차별 소송이 제기됐다.

사례 — Mobley v. Workday, 2024AI 채용 플랫폼 Workday를 상대로 한 차별 집단소송이 class-action 기준을 통과했다. 핵심 쟁점은 “AI 벤더도 차별에 대한 법적 책임을 지는가”였고, 법원은 ‘그렇다’고 판단했다. 이 판결 이후 HR 소프트웨어 계약서에 ‘알고리즘 편향 면책 조항’을 넣는 벤더가 급증했다. 한국 기업이 해외 HR SaaS를 도입할 때, 이 조항을 반드시 확인해야 하는 이유다.

한국은 아직 AI 고용결정에 대한 별도 규제가 없다. 고용노동부의 ‘직장 내 AI 활용 가이드라인’은 권고 수준이고, 편향 감사를 명시적으로 요구하지 않는다. 하지만 근로기준법 제6조(균등 대우)와 남녀고용평등법은 이미 “합리적 이유 없는 차별”을 금지하고 있다. AI가 만든 차별도 사용자 책임이라는 판단은 시간문제다.

핵심이다 — 지금 편향 감사 체계를 만들어두면, 규제가 올 때 ‘이미 준비된 조직’이 된다. 규제 이후에 급히 만들면 비용은 3배, 신뢰는 절반이다.

편향은 어디서 들어오는가 — 데이터·모델·운영 3단계

AI 성과평가 편향을 잡으려면 ‘어디서 편향이 유입되는지’ 구조를 이해해야 한다.

flowchart TD
    A[과거 평가 데이터] -->|학습| B[AI 모델]
    B -->|추론| C[평가 결과]
    C -->|피드백| A
    D[데이터 편향] -->|유입| A
    E[모델 편향] -->|증폭| B
    F[운영 편향] -->|왜곡| C
    style D fill:#fee,stroke:#c33
    style E fill:#fee,stroke:#c33
    style F fill:#fee,stroke:#c33

데이터 편향. 학습에 사용되는 과거 평가 데이터 자체에 편향이 내재돼 있다. 특정 부서장이 5년간 여성 직원에게 체계적으로 낮은 점수를 줬다면, AI는 ‘여성 = 저성과’를 패턴으로 인식한다. 국내 대기업에서 흔히 보이는 ‘임원 후보 풀의 90% 이상이 남성’인 구조가 이 편향의 전형이다.

모델 편향. 알고리즘 설계 과정에서 특정 변수에 과도한 가중치가 부여된다. ‘야근 시간’을 성과 지표로 넣으면, 육아로 정시 퇴근하는 직원은 구조적으로 불이익을 받는다. 모델이 ‘무엇을 성과로 정의하는가’가 편향의 진원지다.

운영 편향. AI 결과를 관리자가 해석하는 과정에서 발생한다. AI가 “이 직원의 성과 점수는 상위 20%”라고 제시해도, 관리자가 “그래도 경력이 짧으니까”라고 보정하면 AI의 데이터 기반 판단이 다시 주관으로 덮인다. Gartner 조사에서 경영진의 27%만이 포괄적 AI 전략을 갖고 있다고 답한 건, 이 운영 단계에 대한 설계가 거의 없다는 방증이다.

💡 AI·도구로 측정/자동화 가능한 부분

  • 점수 분포 이상 탐지 — 성별·연령·부서별 평가 점수 분포를 자동 시각화하고, 통계적으로 유의미한 편차가 발생하면 HR팀에 알림. Lattice, CLAP 등이 이미 제공 중
  • 코멘트 감성 분석 — 평가 코멘트에 성별 편향 표현(‘감정적’, ‘꼼꼼함’ 등 특정 성별에 집중되는 형용사)이 있는지 NLP로 스캔. Textio가 대표적 도구
  • 승진 후보 풀 다양성 대시보드 — 승진 추천 리스트의 성별·연령·근속 분포를 실시간 추적. 50% 이상의 조직이 이미 AI-free 스킬 어세스먼트를 병행 요구 중
  • 감사 로그 자동화 — AI가 내린 평가 결정의 근거를 자동 기록. 향후 규제 대응과 소송 방어에 필수적 인프라
  • A/B 테스트 프레임워크 — AI 평가와 인간 평가를 병행 운영해 결과 차이를 정기적으로 비교. 편향 유입 시점을 조기에 포착

지금 만들어야 할 안전장치

편향 감사를 ‘언젠가 해야 할 일’이 아니라 ‘지금 만들어야 할 인프라’로 접근해야 한다. Gartner 2025년 11월 조사에 따르면, 정기적으로 AI 시스템을 평가하는 조직은 그렇지 않은 조직보다 AI에서 높은 가치를 달성할 가능성이 3배 높았다.

독립적 감사 주기를 설정하라. 분기에 한 번 이상, 외부 또는 내부 감사팀이 AI 평가 결과의 인구통계학적 분포를 점검해야 한다. 뉴욕시 모델처럼 결과를 문서화하고, 최소한 경영진에게는 공개하라.

인간 개입 지점(human-in-the-loop)을 명확히 설계하라. AI 추천이 최종 결정이 되면 안 된다. “AI가 제시한 후보 5명 중 관리자가 3명을 선택하고, HR이 다양성 기준을 확인한다” 같은 프로세스가 필요하다. 아쉽다, 아직 이런 프로세스를 문서화한 한국 기업을 본 적이 거의 없다.

벤더 계약에 편향 책임 조항을 넣어라. Mobley v. Workday 판결 이후, HR SaaS 벤더도 알고리즘 차별에 대한 공동 책임을 질 수 있다는 판례가 형성됐다. 계약서에 “편향 감사 결과 공유 의무”, “차별 발생 시 벤더의 시정 책임”을 명시하는 게 실무적으로 핵심이다.

💡 실무 시사점: AI 성과평가를 도입했거나 검토 중인 조직이라면, ‘편향 감사 체계’를 동시에 설계하는 것이 규제 리스크와 소송 리스크를 동시에 줄이는 가장 확실한 방법이다. 지금 감사 로그를 쌓기 시작하면, 향후 규제가 도입될 때 이미 데이터가 축적돼 있다. 기다릴 이유가 없다.

#AI성과평가 #편향감사 #BiasAudit #HR테크 #알고리즘공정성 #성과관리AI

참고 링크

작성: 서재홍 | NODE

문의하기

ON THIS PAGE

문의하기