작년 하반기, 한 중견 IT기업 채용팀장이 이런 말을 했다. “AI 스크리닝 도입하고 채용 속도는 빨라졌는데, 합격자 프로필이 점점 비슷해진다.” 250통 이력서를 30초 만에 걸러주는 도구가 오히려 다양성을 좁히고 있었다. 솔직히 이건 도구의 문제가 아니라 감사 체계의 부재 문제다.
2026년, 전 세계 대기업의 79%가 ATS에 AI를 통합했다. 동시에 뉴욕·일리노이·EU 세 곳에서 편향 감사(bias audit) 의무화 법이 시행 중이다. 도구를 도입하는 건 쉽다. 그 도구가 공정한지 증명하는 건 HR이 직접 해야 할 일이다.
한 줄 요약: AI 채용 스크리닝을 쓰는 조직이라면, 편향 감사 체계를 HR 주도로 설계해야 한다 — 벤더 위임은 법적으로도 실무적으로도 불가능하다.
채용 AI가 걸러내는 것, 그리고 걸러내면 안 되는 것
현재 AI 이력서 스크리닝 도구는 시맨틱 파싱으로 88% 재현율, 91% 정확도를 달성한다. 초당 수천 건을 처리하면서도 키워드 매칭이 아닌 맥락 이해 기반으로 작동한다. Eightfold AI는 16억 건 이상의 커리어 경로 데이터를 학습해 소싱부터 스크리닝, 구조화 면접까지 커버한다.
문제는 ‘잘 걸러내는’ 능력이 곧 ‘차별적으로 걸러내는’ 위험이 된다는 점이다. Fisher Phillips의 분석에 따르면, 이력서 스크리닝 알고리즘이 아프리카계 이름 지원자를 통과시킬 가능성이 35% 낮았고, 영상 면접 AI는 50세 이상 지원자에게 28% 불리한 점수를 매겼다. 우편번호가 인종의 프록시 변수로 작동하는 사례도 확인됐다.
개인적으로는 여기가 핵심이다 — 보호 속성(성별·인종·나이)을 입력에서 제거해도, 학습 데이터에 내재된 구조적 편향이 다른 변수를 타고 그대로 재현된다.
79%
AI/자동화 통합 ATS 도입 기업 비율
업계 조사, 2026
35%
특정 인종 이름 지원자 통과율 감소
Fisher Phillips, 2026
500~1,500달러
NYC LL144 위반 시 건당 과태료
NYC DCWP, 2024
세 법역의 감사 의무 — 어디에 해당되나
뉴욕 로컬법 144(LL144)는 자동화된 고용 결정 도구(AEDT)를 쓰는 고용주에게 연 1회 독립적 편향 감사를 요구한다. 감사 결과는 기업 웹사이트에 공개해야 하고, 지원자에게 AI 사용을 사전 고지해야 한다. 위반 시 건당 500~1,500달러. 소소해 보이지만, 대량 채용 기업이 수천 건 지원을 받으면 금세 수억 원이 된다.
일리노이 AIVI법은 AI 영상 면접 도구에 지원자 동의를 강제하고, 인구통계 보고서를 연 단위로 제출하게 한다. EU AI Act는 2026년 8월부터 채용 AI를 ‘고위험’으로 분류하고, CE 마킹·적합성 평가·시판 후 모니터링을 요구한다.
한국은 아직 법률 강제는 없지만, 고용노동부의 ‘AI 채용 가이드라인’과 국가인권위의 알고리즘 차별 조사가 확대되고 있다. 이건 좀 아쉽다 — 가이드라인만으로는 실효성이 낮고, 최소한 감사 결과 공개 의무 정도는 있어야 시장이 자정한다.
실무 감사 프레임워크 — HR이 직접 설계하는 5단계
Fisher Phillips와 SolasAI의 협업 모델을 바탕으로 정리하면, 편향 감사는 다음 흐름으로 진행된다.
1단계: AI 사용 지도 작성 — 채용·온보딩·평가·배치·퇴직까지 모든 의사결정 지점에서 자동화 도구가 개입하는 곳을 매핑한다. 대부분의 기업이 ATS 스크리닝만 떠올리지만, 면접 일정 자동화(GoodTime), 적성 검사 AI(Pymetrics), 레퍼런스 체크 봇까지 AEDT에 해당할 수 있다.
2단계: 4/5 규칙 적용 — 보호 집단의 선발률이 최고 집단의 80% 미만이면 불리한 영향(disparate impact) 신호다. 성별·인종·연령 각 축으로 교차 분석한다.
3단계: 벤더 질의서 발송 — “귀사 도구의 어떤 기능이 AEDT 정의에 해당하나?” “독립 감사 결과를 공개했나?” “지원자 고지 기능을 지원하나?” 최소 이 세 가지를 서면으로 받아야 한다.
4단계: 대안 선발 경로 확보 — AI 스크리닝을 거부하는 지원자에게 대체 프로세스를 제공해야 한다. 단순 ‘수동 검토’ 옵션이라도 명시하지 않으면 LL144 위반이다.
5단계: 규제 대응 문서화 — 감사 결과, 시정 조치, 모니터링 주기를 레귤레이터가 즉시 열람 가능한 형태로 보관한다.
사례 — 글로벌 유통사 A2025년 4분기, 미국 동부 물류센터 대량 채용에 Eightfold 스크리닝을 도입한 유통사 A는 LL144 감사에서 히스패닉 지원자 선발률이 4/5 규칙 미달로 플래그됐다. 원인은 학습 데이터에 ‘영어 이력서 우대’ 패턴이 내재된 것. HR팀은 언어 변수 가중치를 재조정하고 스페인어 이력서 파싱 모듈을 추가해 3개월 만에 규정 충족을 달성했다. 벤더가 알아서 고쳐준 게 아니다 — HR이 데이터를 분석하고 수정 방향을 지시한 결과다.
도구는 벤더가, 책임은 HR이 — 위임 불가 원칙
TreeGarden의 2026년 컴플라이언스 가이드가 명확히 짚는 핵심이 있다. “고용주의 책임은 계약으로 벤더에게 이전할 수 없다.” 감사를 벤더에게 맡겨도, 법적 책임은 고용주에게 남는다. Workday든 Greenhouse든 SAP SuccessFactors든, 도구를 선택한 건 우리 조직이고 그 도구가 만든 결과에 대한 설명 책임도 우리 것이다.
이 원칙은 한국 맥락에서도 동일하다. 국가인권위원회에 알고리즘 차별 진정이 들어오면, “벤더가 그렇게 설계했다”는 항변이 성립하지 않는다. HR 실무자가 도구의 작동 원리를 이해하고, 정기적으로 산출 결과를 검증하며, 문제 발견 시 즉시 개입할 체계가 있어야 한다.
내일부터 시작할 수 있는 최소 행동
대규모 감사 프로젝트를 바로 돌리기 어렵다면, 이번 주 안에 할 수 있는 것부터 시작하자.
ATS 관리 화면에서 최근 6개월 합격/불합격 데이터를 성별·연령 기준으로 뽑아본다. Excel이면 충분하다. 4/5 규칙에 미달하는 구간이 보이면, 그게 감사 시작점이다. 벤더에 “귀사 도구의 편향 감사 보고서를 공유해달라”는 이메일 한 통을 보낸다. 대응이 없거나 “해당 없음”이면, 그 벤더는 2026년 규제 환경에 준비가 안 된 것이다.
마지막으로, 채용 공고에 ‘AI 스크리닝 사용 고지’ 한 줄을 추가한다. LL144 관할이 아니더라도, 투명성은 신뢰를 만든다. 그리고 그 신뢰가 결국 지원자 경험(CX)의 핵심이다.
답은 도구를 버리는 데 있지 않다. 도구가 만든 결정을 설명할 수 있느냐 — 그 질문에 “예”라고 말할 수 있는 HR 조직이 2026년의 채용 경쟁력을 가진다.
💡 실무 시사점: AI 채용 도구의 공정성은 벤더가 아닌 HR이 증명해야 한다. 4/5 규칙 기반 자체 점검 → 벤더 감사 보고서 요청 → AI 사용 고지 공고 반영, 이 세 가지를 이번 분기 내 완료하라.
#AI채용#편향감사#ATS#HR컴플라이언스#공정채용
참고 링크
- Fisher Phillips, “Why You Need to Care About AI Bias in 2026” (2026)
- TreeGarden, “ATS Bias Audit Requirements 2026” (2026)
- MiHCM, “Resume Screening: AI-powered guide for HR leaders” (2026)
작성: 서재홍 | NODE