모든 AI는 편향적일까? AI채용은 편향성을 가지지 않은 인공지능으로 해야한다.

AI면접이나 AI서류평가가 확대되면서, 채용과정에서 AI를 도입한 기술을 활용하는 것이 당연시되고 있습니다. 많은 지원자의 서류를 빠르고 정확하게 검토하고, 막대한 시간과 비용을 절감하는 AI채용과정은 인사담당자에게 매력적일 수밖에 없습니다. 하지만 일부 사람들은 여전히 AI 채용에 대해 물음표를 가지고 있습니다. 눈으로 직접 확인하기 어려운 AI의 평가가 과연 공정한가에 대한 의구심 때문입니다. 더구나 최근 불거진 AI의 윤리성, 편향성에 대한 논란은 AI평가에 대해서도 다시 점검해볼 필요가 있다고 생각하게 만들었습니다.

이번 글에서는 AI가 편향성을 가졌을 때의 문제와 공정성을 유지해야 하는 분야인 AI채용에서 어떻게 이런 편향성 극복을 위해 노력하고 있는지 알아보려고 합니다.

 

 

---

▲ AI 편향성의 위험성

사실 AI의 편향성은 채용에서만 문제가 되는 게 아닙니다. 많은 분들이 익숙해하실 최근 이슈 사례부터 얘기해보겠습니다.

‘이루다’를 기억하시나요? 이루다는 AI 챗봇으로 심심할 때 채팅을 보내면 적절한 대답으로 대화할 수 있는 서비스였습니다. 사람들은 ‘이루다’에 수많은 채팅을 보냈습니다. 그리고 ‘이루다’는 마치 ‘사람’처럼 답장을 보내왔습니다. ‘이루다’ 서비스는 이 AI 답지 않은 자연스러운 대화 능력으로 단숨에 화제가 되었습니다. 그러나 얼마 되지 않아 윤리적인 문제로 논란이 되어 서비스가 중단되었죠. 

이 챗봇을 계기로 많은 사람이 AI의 편향성에 대해 생각하게 되었습니다. 이루다가 편향성을 가지게 된 이유는 무엇이었을까요? AI가 왜 여성, 장애인, 동성애 혐오 발언을 하게 된 걸까요? 이는 검증되지 않은 데이터를 학습시켰기 때문입니다. AI가 스스로 판단을 하기 위해서는 학습데이터가 필요합니다. 사람이 제공한 데이터를 보고 학습하여 스스로 판단을 내릴 수 있게 되는 것이죠. 그 과정에서 올바르지 않은 학습 데이터가 제공되었다면 편향된 AI로 개발될 수밖에 없습니다.

 

관련 뉴스: 머니투데이

 

 

다시 AI채용 이야기로 돌아와 보겠습니다. 머신러닝의 시대가 지나고 딥러닝의 시대가 오면서 활발하게 이용되는 분야가 바로 AI채용입니다. 인사담당자가 수많은 지원자  중 우리 회사와 가장 적합한 인재를 선발하기 위해 AI채용 서비스를 활용하고 있습니다. 이 채용 과정에서 편향성을 가진 AI가 채용을 진행한다면 어떻게 하면 될까요?

2015년 아마존에서는 AI 채용 프로그램을 개발하고 있었습니다. 개발이 1년 정도 진행되었을 때 편향성에 대한 문제가 발생했는데요.  AI가 경력 10년 이상의 남성 지원자 서류만 고용할 후보로 제시하는 것입니다. ‘여성’이란 단어가 들어간 자기소개서는 감점 처리하기도 했죠. 전문가들은 그동안의 IT기업 합격자의 학습데이터에는 남성이 압도적으로 많았기 때문에 AI가 이런 데이터를 학습했고, 편향성을 가지게 되었다고 설명했습니다. 이는 불공정한 AI채용의 대표적인 사례가 되었고 아마존은 더이상 AI채용 프로그램을 개발하지 않게 되었습니다.

 

관련 뉴스: 테크M

 

 

---

▲ 편향적일 수 없는 AI채용 서비스

그렇다면 모든 AI는 이전의 데이터를 토대로 학습하기 때문에 편향적일 수밖에 없다는 것인데 많은 기업에서 사용하고 있는 AI채용 서비스는 괜찮은지 의문이 드실 것 같습니다. AI채용 서비스 카피킬러HR 프리즘은 이런 편향성을 극복하기 위해 다양한 노력을 기울였습니다. 이를 설명하기 위해서는 카피킬러HR 프리즘의 학습데이터와 알고리즘 얘기가 필요합니다. 

카피킬러HR 프리즘은 100만 건 이상의 자기소개서를 학습한 AI모델을 활용한 서류 평가 전문 AI채용 서비스입니다. AI의 학습데이터가 되는 자기소개서는 작성자의 특정 정보를 파악할 수 없는 데이터죠. 혹시나 남아있을지 모르는 편향적 요소, 예를 들어 성별, 나이 등은 특허로 인증된 블라인드 마스킹 기술로 모두 가려진 상태에서 학습됩니다. 이 기술로 문서 내 특정정보 및 인적사항은 모두 OOO로 마스킹 처리됩니다. 부모직업, 출신학교, 출신 지역 등 저장된 단어만을 검출하는 것이 아닌 문맥을 이해하여 변형된 형태, 우회적인 표현까지 검출합니다. 그렇기 때문에 카피킬러HR 프리즘의 AI모델은 작성자의 정보를 알 수 없는 상태로 학습하여 이러한 정보로부터의 편향성을 가지지 않습니다.

 

👇 블라인드 마스킹 기술 자세히 보기

블라인드마스킹 기술

 

학습 데이터의 편향성을 배제하는 것뿐 아니라, AI의 알고리즘도 중요한 요소 중 하나인데요. 사람이 입력해놓은 답을 그대로 말하는 머신러닝의 방식이 아닌 AI가 스스로 판단하는 딥러닝 방식이 사용되면 흔히들 통제가 어려워진다고 합니다. 왜 AI가 그러한 결정을 했는지를 알 수가 없는 것이죠. 하지만 카피킬러HR 프리즘은 이러한 단점을 보완하기 위해 계속해서 노력해온 결과물입니다. 카피킬러HR 프리즘은 단순히 자기소개서를 좋다, 나쁘다로 평가하지 않고 수많은 단계를 거쳐 평가합니다. 문서 단위, 문장 단위, 구절 단위, 키워드 단위로 학습한 AI의 복합적인 결과가 반영되기 때문에 단순하게 문서만을 보고 평가하지 않습니다. 단순히 문서 단위로 AI가 평가한다면 어떤 부분이 합격 여부라고 판정됐는지를 확인할 수가 없어 편향적인 요소로 평가되었는지조차 알 수 없게 됩니다. 그렇기 때문에 여러 단위의 결과로 편향성이 나타날 수 있는 결과는 배제하고 복합적인 공정한 평가가 진행될 수 있는 것이죠.

다른 AI채용 서비스가 어떻게 개발되고 관리되었는지는 알 수 없기 때문에 모든 AI채용 서비스의 AI가 편향성을 가지고 있지 않다. 라고 말하긴 어렵습니다. 하지만 적어도 카피킬러HR 프리즘은 편향성을 가지지 않은 AI이기 때문에 공정한 채용을 위해 AI채용 도입을 고려 중인 기업에 적합한 채용 전형이 될 수 있습니다.

---

딥러닝 기술의 가장 큰 문제점이 될 수 있는 ‘설명 불가능한 AI’를 설명 가능하도록 만드는 것이 AI채용 서비스에 있어 가장 중요한 조건이 될 것 같습니다. 그리고 설명 가능한 AI채용 서비스 카피킬러HR 프리즘은 기본검사, 표절검사, 직무 적합도, AI평가, 블라인드 체커로 공정한 채용을 위해 노력하고 있습니다.

 

👇 카피킬러HR 프리즘 도입문의

PRISM - 제품문의