AI 채용 도구, 편향 감사(Bias Audit) 없이 쓰면 소송감이다 — 78%가 검증 체계 없이 운용 중

AI 채용 도구를 도입한 기업이 전 세계적으로 43%를 넘었다. 한국도 예외가 아니다. AI 면접 도입 기업은 전년 대비 57.8% 증가했고, 응시자 수는 55.2% 늘었다. 그런데 이 도구들이 공정하게 작동하고 있는지 검증한 기업은 얼마나 될까. 개인적으로는, 대부분의 HR팀이 “벤더가 알아서 했겠지”라는 전제 위에 서 있다고 본다.

미국에서는 AI 채용 도구의 편향성 감사(Bias Audit)가 법적 의무가 되고 있고, 벤더 책임론이 무너지고 있다. 한국은 아직 법제화 이전이지만, 그 말은 곧 “사고가 터지면 기준 없이 맞는다”는 뜻이기도 하다.

한 줄 요약: AI 채용 도구는 이미 일상이 됐지만, 편향 감사(Bias Audit) 없이 운용하는 순간 기업은 ‘알고리즘 차별’의 당사자가 된다 — 도구를 산 것만으로는 면죄부가 되지 않는다.

AI 채용 도구, 숫자는 폭증하는데 감사는 제자리

SHRM 2025 서베이에 따르면, HR 부문 AI 도입률은 1년 만에 26%에서 43%로 뛰었다. 한국에서도 상황은 비슷하다. 국내 기업의 52.4%가 AI를 채용에 활용하거나 도입을 검토 중이며, AI 면접 플랫폼 이용 횟수는 전년 대비 23.8% 증가했다. 2026년 채용 트렌드 조사에서는 기업의 63%가 “AI 확대에 따른 질적 채용 전환”을, 46%가 “AI 리터러시 검증”을 핵심 과제로 꼽았다.

문제는 도입 속도와 검증 속도의 격차다. 150건 이상의 편향 감사(Bias Audit) 결과를 분석한 Warden AI 리포트에 따르면, 2024년 대비 2026년에 식별된 편향 패턴은 40% 증가했다. 감지 방법론이 정교해진 탓도 있지만, AI 도구 자체에 내재된 편향이 더 많이 드러나고 있다는 뜻이기도 하다. 그런데 컴플라이언스 준비도는 같은 기간 15%밖에 개선되지 않았다.

솔직히, 이 숫자 조합이 말해주는 건 하나다. 도구는 샀는데 설명서는 안 읽었다.

“벤더 도구를 쓴 것뿐인데요” — 이 변명이 통하지 않는 시대

미국에서 지금 가장 주목받는 소송이 Mobley v. Workday다. IT 직종에서 해고된 Derek Mobley는 Workday 플랫폼을 통해 150건 이상 지원했지만, 9개월간 단 한 건의 응답도 받지 못했다. 그는 Workday의 AI 스크리닝 소프트웨어가 40세 이상 지원자를 체계적으로 걸러냈다고 주장했고, 2025년 5월 캘리포니아 연방법원은 연령차별금지법(ADEA) 기반 집단소송 예비 인증을 승인했다. 2026년 3월에는 Workday의 “ADEA는 지원자에게 적용되지 않는다”는 핵심 기각 논거가 기각됐다.

이 사건의 파급력이 큰 이유는, 법원이 AI 도구 제공 벤더도 고용차별의 책임 주체가 될 수 있다고 신호를 보냈기 때문이다. “우리는 벤더 도구를 쓴 것뿐”이라는 기업의 방어 논리가 급속히 힘을 잃고 있다.

한국에서는 아직 AI 채용 도구에 대한 직접적인 차별 소송이 본격화되지 않았다. 하지만 이건 좀 아이러니한 상황이다. 제출된 자기소개서의 64.4%가 생성형 AI로 작성된 것으로 추정되는 상황에서, 지원자는 AI로 포장하고 기업은 AI로 걸러내는 구조가 고착되고 있다. 양쪽 모두 AI를 쓰는데, 검증은 누가 하는가?

NYC 로컬법 144호 — “감사했다”는 말만으로는 부족했다

뉴욕시 로컬법 144호(Local Law 144)는 자동화 고용결정도구(AEDT)를 사용하는 기업에 연 1회 독립적 편향 감사를 의무화한 세계 최초의 법률이다. 2023년 7월부터 시행됐지만, 2026년 뉴욕주 감사원(Comptroller) 감사 결과는 충격적이었다.

311 핫라인에 접수된 AEDT 관련 민원의 75%가 담당 부서(DCWP)에 도달하지 못하고 잘못 라우팅됐다. DCWP가 32개 기업을 자체 조사해 발견한 미준수 사례는 단 1건이었지만, 독립 감사관이 같은 기업을 검토하자 최소 17건의 잠재적 미준수가 드러났다. 법은 있는데 집행이 작동하지 않았던 셈이다.

이건 한국에도 직접적인 시사점을 던진다. 법제화 이전에 자발적 감사 체계를 갖추지 않으면, 법이 만들어진 후에도 실질적 집행까지 수년이 걸릴 수 있다. 그 공백기에 피해는 축적된다.

2026년 하반기, 글로벌 규제 지형이 바뀐다

규제 환경은 빠르게 수렴하고 있다. 콜로라도 SB 24-205는 2026년 6월 30일 시행으로, ‘고위험 AI 도구’를 사용하는 고용주에게 위험 평가, 투명성 공지, 편향 방지 의무를 부과한다. 캘리포니아 ADMT 위험평가 요건은 4월부터 단계적으로 적용 중이다. EU AI Act는 2026년 8월 2일부터 채용·평가에 사용되는 AI 도구에 대해 위험평가, 기술 문서화, 편향 테스트, 인간 감독, 투명성 공개, 지속 모니터링을 의무화하며, 위반 시 글로벌 매출의 최대 3%를 과징금으로 부과한다.

한국은 「인공지능기본법」(2026.1.22 시행)에서 고영향 AI에 대한 위험관리 의무를 규정했지만, 채용 도구에 특화된 편향 감사 의무는 아직 없다. 그러나 근로기준법상 균등대우 원칙(제6조)과 채용절차법의 공정채용 의무는 AI 도구에도 동일하게 적용된다. “AI가 했다”는 항변은 법적으로 의미가 없다.

AI·도구로 측정/자동화 가능한 부분

• 편향 감사 자동화 — Warden AI, Holistic AI 같은 SaaS가 AEDT 편향 감사를 자동 실행한다. 인종·성별·연령 교차 분석 결과를 대시보드로 제공하며, NYC LL144·EU AI Act 보고서를 자동 생성한다.
• 채용 파이프라인 단계별 전환율 모니터링 — 서류 → AI 스크리닝 → 면접 → 합격 각 단계의 인구통계학적 전환율을 실시간 추적하면, 편향이 어디서 발생하는지 특정할 수 있다. Lattice, Workday의 People Analytics 모듈이 이 기능을 제공한다.
• Adverse Impact Ratio 자동 산출 — 4/5 규칙(80% 규칙) 기반으로 보호 집단별 선발률을 자동 비교하는 도구를 연동하면, 감사 시점이 아닌 채용 진행 중 경보를 받을 수 있다.
• AI 면접 답변의 언어 편향 탐지 — NLP 기반 면접 도구가 특정 방언·어휘·말투에 불리한 점수를 매기는지 감사하는 메타 분석 도구가 등장하고 있다. 이건 한국어 AI 면접에도 바로 적용 가능한 영역이다.
• 규제 변경 자동 알림 — AI 거버넌스 SaaS(OneTrust, TrustArc)가 관할권별 AI 채용 규제 변경을 트래킹하고, 컴플라이언스 체크리스트를 자동 업데이트한다.

실무 시사점: AI 채용 도구를 ‘도입’하는 것보다 ‘감사’하는 것이 더 어렵고, 더 중요하다. 벤더에 감사 보고서를 요청하는 것에서 시작하되, 그 보고서의 검증 방법론과 보호 집단 정의까지 확인해야 한다. 법이 오기 전에 체계를 갖춘 조직만이 규제를 기회로 전환할 수 있다.

#AI채용 #편향감사 #BiasAudit #HR테크 #알고리즘차별 #채용공정성

참고 링크

• SHRM, “HR AI Adoption Survey” (2025)
• Warden AI, “AI Bias in Hiring: What 150+ Bias Audits Reveal” (2026)
• HR Executive, “Mobley v. Workday: The latest on the bias in AI lawsuit” (2026)
• Office of the New York State Comptroller, “Enforcement of Local Law 144” (2025)
• DLA Piper, “Critical audit of NYC’s AI hiring law signals increased risk for employers” (2026)
• AI매터스, “지원자는 AI로 자소서 쓰고, 기업은 AI로 평가… 2026년 AI 채용 트렌드 분석” (2026)
• ZDNet Korea, “2026 채용 트렌드…’4~7년차 경력직’·’AI 활용 인재’ 더 뽑는다” (2025)

작성: 서재홍 | NODE