AI 이력서 스크리닝이 만든 채용의 블랙박스 — 편향 감사 없이 도입하면 벌어지는 일

150통의 지원서를 넣었다. 전부 탈락했다. 면접은커녕 서류 통과조차 못 했다. 미국의 한 IT 구직자 아르숀 하퍼(Arshon Harper)의 이야기다. 시리우스XM 라디오의 AI 스크리닝 시스템이 우편번호와 학력을 인종의 대리변수(proxy)로 사용했다는 의혹이 제기됐고, 소송으로 이어졌다.

한국은 다를까. 2026년 상반기, 국내 대기업 채용 공고의 절반 이상이 AI 기반 서류 필터링을 사용하고 있다. 문제는 그 필터가 어떤 기준으로 사람을 걸러내는지, 아무도 모른다는 점이다.

한 줄 요약: AI 이력서 스크리닝 도입률은 43%를 넘었지만, 편향 감사(bias audit)를 동시에 운영하는 기업은 10%도 안 된다. 효율을 샀지만 공정성은 외상으로 남겨둔 셈이다.

백인 이름이 85% 선호된다 — 숫자가 보여주는 불편한 진실

2024년 워싱턴대학교 연구팀이 주요 대형 언어모델 3종을 테스트했다. 결과는 충격적이었다. AI 시스템은 ‘백인처럼 들리는 이름’을 85%의 빈도로 선호했고, ‘흑인처럼 들리는 이름’은 9%에 그쳤다. 더 심각한 건, 흑인 남성 이름이 백인 남성 이름보다 선호된 사례가 단 한 건도 없었다는 점이다.

솔직히 이건 좀 소름 끼치는 수치다. AI가 학습 데이터의 편향을 ‘답습’하는 수준이 아니라, 경험을 통해 새로운 편향을 ‘생성’한다는 뜻이기 때문이다. 사람이 만든 차별을 AI가 증폭시키고 있는 거다.

한국도 예외가 아니다. 이름 편향은 덜하지만, 출신 대학·지역·나이에 대한 대리변수 편향은 더 강하게 작동할 수 있다. 한국의 AI 채용 도구가 ‘서울 소재 4년제 대학’ 출신을 체계적으로 우대하고 있는지, 검증한 기업이 몇이나 될까.

규제는 이미 움직이고 있다 — 한국만 멈춰 있다

미국은 이미 도시 단위에서 규제를 시작했다. 뉴욕시 Local Law 144는 AI 채용 도구 사용 전 독립적 편향 감사를 의무화했고, 감사 결과를 공개해야 한다. 캘리포니아는 자동화 의사결정 데이터를 4년간 보관하도록 했다. 콜로라도 SB 24-205는 고위험 AI 시스템에 대한 영향 평가를 2026년 6월부터 시행한다.

EU AI Act는 한 발 더 나갔다. 채용 분야 AI를 ‘고위험(High Risk)’으로 분류했다. 2026년 8월부터 벤더와 도입 기업 모두 위험 평가, 기술 문서화, 인간 감독 메커니즘 확보, 후보자에 대한 AI 사용 고지가 의무다.

한국은? 「채용절차의 공정화에 관한 법률」이 있지만, AI 스크리닝에 대한 별도 규정은 아직 없다. 개인정보보호법의 자동화된 의사결정 관련 조항이 2025년 시행됐지만, 채용 특화 가이드라인은 여전히 부재다. 개인적으로는 여기가 핵심이다. 규제가 없다는 건 ‘괜찮다’는 뜻이 아니라, ‘아직 터지지 않았다’는 뜻이다.

편향 감사, 어떻게 하는가 — 실무 프레임워크

편향 감사(bias audit)는 거창한 게 아니다. 핵심은 세 가지다.

입력 감사: 학습 데이터에 포함된 변수 중 보호 속성(성별, 연령, 장애, 출신 학교)의 대리변수가 있는지 점검한다. 우편번호가 지역 차별의 프록시가 되고, 졸업 연도가 연령 차별의 프록시가 된다.

출력 감사: AI가 실제로 내린 서류 통과/탈락 결정을 그룹별로 비교한다. 4/5 규칙(80% rule)이 기본 기준이다. 특정 그룹의 선발률이 최고 선발률 그룹의 80% 미만이면 불리한 영향(adverse impact)으로 본다.

설명 가능성 확보: 탈락 사유를 추적할 수 있어야 한다. “AI가 그렇게 판단했다”는 답변은 법적으로도, 윤리적으로도 성립하지 않는다. XAI(Explainable AI)를 적용해 어떤 요소가 의사결정에 영향을 미쳤는지 투명하게 공개해야 한다.

flowchart TD
    A[AI 스크리닝 도입] -->|1단계| B[입력 감사: 대리변수 점검]
    B -->|2단계| C[출력 감사: 4/5 규칙 적용]
    C -->|3단계| D[XAI 적용: 탈락 사유 추적]
    D -->|통과| E[운영 배포]
    D -->|미달| F[모델 재훈련/변수 제거]
    F --> B

이건 좀 아쉽다 — 한국 기업 대부분이 이 세 단계 중 하나도 수행하지 않고 있다. 벤더가 “편향 없다”고 말하면 그대로 믿는 구조다. 하지만 EEOC의 입장은 분명하다. “벤더를 신뢰했다”는 항변은 법적으로 아무 효력이 없다. 도입 기업이 직접 책임진다.

한국 채용 시장의 특수성 — AI 편향이 다르게 작동하는 지점

미국의 편향 논의가 주로 인종·성별에 집중된다면, 한국은 다른 축이 있다.

학벌 프록시: AI가 “서울 소재 대학” 출신의 합격률 패턴을 학습하면, 명시적으로 학교명을 입력하지 않아도 전공 코드·학점 체계·교환학생 이력 등으로 출신 학교를 역추적할 수 있다.

연령 프록시: 졸업 연도, 군 복무 기간, 자격증 취득 시기 — 이 세 가지만 있으면 나이를 거의 정확하게 추정할 수 있다. 블라인드 채용이라고 하면서 AI에게 이 변수를 그대로 넘기는 건 앞문은 잠그고 뒷문을 활짝 여는 격이다.

성별 프록시: 병역 이행 여부가 성별의 완벽한 대리변수가 된다. 한국의 남성 징병제 구조상, ‘군 복무 경험 있음’은 곧 ‘남성’이라는 신호가 된다.

2026년 채용 트렌드 조사에 따르면, 기업들은 ‘경력보다 스킬’ 기반 채용으로 전환하고 있다. 하지만 AI 스크리닝 도구가 여전히 과거의 채용 패턴 — 학벌·연령·성별 편향이 내재된 — 으로 학습되고 있다면, 스킬 기반 채용이라는 간판은 허울에 불과하다.

AI·도구로 측정/자동화 가능한 부분

• Adverse Impact Ratio 자동 대시보드: Pymetrics, HiredScore 같은 도구가 지원자 그룹별 통과율을 실시간 모니터링한다. 4/5 규칙 위반 시 알림이 뜬다. 한국에서는 Wanted, 원티드스페이스가 유사 기능을 테스트 중이다.
• 대리변수 탐지 자동화: Fairlearn(Microsoft 오픈소스), IBM AI Fairness 360으로 학습 데이터의 보호 속성 상관관계를 자동 스캔할 수 있다. 졸업 연도와 연령의 상관계수가 0.9 이상이면 자동 플래그한다.
• 블라인드 스크리닝 파이프라인: 이름·사진·주소·졸업 연도를 자동 마스킹한 뒤 AI에 넘기는 전처리 레이어를 구축할 수 있다. Textio, Applied 등이 이 방식을 쓴다.
• XAI 리포트 자동 생성: SHAP(Shapley Additive Explanations) 값 기반으로 “이 후보가 탈락한 이유 Top 5″를 자동 리포트로 생성한다. 감사 추적(audit trail)이 자동으로 쌓인다.
• 정기 드리프트 모니터링: 모델 배포 후 시간이 지나면 편향 패턴이 변한다. MLflow, Evidently AI로 월별 편향 지표 드리프트를 자동 추적하고, 임계값 이탈 시 재훈련을 트리거할 수 있다.

답은 “AI를 쓰지 말자”가 아니다. 수동 서류 심사도 20~30%의 적격 후보를 피로와 편향으로 탈락시킨다. AI가 더 나을 수 있다. 다만, ‘더 나을 수 있다’와 ‘검증 없이 더 낫다고 믿는다’는 완전히 다른 문장이다.

실무 시사점: AI 채용 도구를 도입했거나 도입을 검토 중인 기업이라면, 지금 당장 세 가지를 점검해야 한다. 학습 데이터에 대리변수가 포함되어 있는지, 그룹별 통과율이 4/5 규칙을 충족하는지, 탈락 사유를 설명할 수 있는지. 이 세 가지 중 하나라도 ‘모르겠다’라면, 그 AI는 블랙박스가 아니라 시한폭탄이다.

#AI채용 #편향감사 #블라인드채용 #HR테크 #채용자동화 #XAI

참고 링크

• SAP Korea, “채용 AI의 그늘: 편향, 책임, 그리고 인간적인 해법” (2026)
• DISA, “AI in HR: Background Screening & Compliance Risks for 2026” (2026)
• MIHCM, “Resume screening: AI-powered guide for HR leaders” (2026)
• MIT Technology Review Korea, “채용 통과했나 싶었는데… 구직자 울리는 AI의 편향” (2025)
• arXiv, “Detecting Soft Skills in ML Engineering Roles CVs” (2026)

작성: 서재홍 | NODE