비정규노동조합연대인공지능이 채용과 평가, 업무 배분에 쓰이면서 그 결정이 공정한지 묻는 목소리가 커지고 있다. 유럽연합은 고용 분야의 인공지능을 고위험으로 분류하고, 설명과 감독을 요구한다.
고위험 분류
유럽연합 인공지능법은 채용과 인사 관리, 근로자 평가에 쓰이는 시스템을 고위험으로 본다. 고위험 시스템은 위험 관리와 데이터 품질, 기록 보관, 인간 감독, 투명성 요건을 갖춰야 한다.
고위험 의무의 적용 시점은 정해져 있지만, 세부 기준과 표준은 마련되는 과정에 있다. 기업은 도입 전에 시스템이 어느 범주에 속하는지 확인해야 한다.
설명과 이의 제기
자동화된 결정으로 불이익을 받은 근로자는 그 이유를 설명받고 이의를 제기할 수 있어야 한다. 유럽연합 일반개인정보보호규정은 완전히 자동화된 결정에 대한 보호를 두고 있다.
- 평가 기준과 데이터 출처가 공개되는지
- 결정에 사람이 개입하는지
- 이의 제기와 재심 절차가 있는지
미국의 일부 도시는 채용에 쓰이는 자동화 도구에 대해 편향성 감사와 결과 공개를 요구한다. 규제 방식은 국가와 지역마다 다르다.
현장의 과제
국내에서도 인공지능 기본법이 시행 단계에 들어서면서 고위험 시스템에 대한 관리 기준이 논의되고 있다. 다만 근로자 보호를 위한 구체적인 규정은 아직 보완이 필요하다는 지적이 있다.
사업장은 도입 목적과 한계, 책임 소재를 문서로 남기고, 노사 협의를 거쳐야 한다. 근로자는 평가 결과와 기준을 요구하고, 차별이 의심되면 이의를 제기할 수 있다.
고위험 시스템에 해당하면 도입 전 위험 관리와 데이터 품질, 기록 보관, 인간 감독 요건을 갖춰야 한다. 요건을 충족하지 않으면 판매와 사용이 제한될 수 있다.
채용과 평가에 쓰이는 도구는 학습 데이터의 편향이 결과에 영향을 줄 수 있다. 데이터의 출처와 검증 방식을 확인하고, 정기적으로 결과를 점검해야 한다.
근로자는 평가 기준과 결과에 대해 설명을 요구할 수 있고, 차별이 의심되면 이의를 제기할 수 있다. 사업장은 이의를 처리할 절차와 담당자를 정해야 한다.
체크리스트
- 도입한 시스템이 고위험에 해당하는지 확인한다.
- 평가 기준과 데이터 출처를 확인한다.
- 인간 감독과 이의 제기 절차를 점검한다.
- 편향성 점검과 기록 보관을 확인한다.
- 노사 협의와 정보 제공을 확인한다.
근거
- 유럽연합 인공지능법 — 고위험 시스템의 의무, 유럽연합 공식저널
- 일반개인정보보호규정 제22조 — 자동화된 의사 결정, 유럽연합 공식저널
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 — 국내 기준, 국가법령정보센터
- 국제노동기구 — 일터의 인공지능과 노동자 권리, 국제노동기구