아마존 AI 채용 시스템 사례

많이들 알고 계시는 사례일 것 같다. 아마존은 채용 과정을 자동화 하기 위해 내부적으로 머신러닝 기반 이력서 평가 시스템을 개발했었다. 하지만 실제 채용에서는 여성 관련 단어나 이력을 가진 지원자를 낮게 평가하거나 불이익을 주는 식의 바이어스가 형성되었고 이는 훈련 데이터 자체가 남성 지원자 중심으로 편향되었기 때문이다. 이는 편향된 데이터로 모델을 학습했을 때 어떤 문제가 생기는지를 극명하게 보여준 사례이며 우리는 모델이 부당하게 편향되지 않도록 공정성을 확보해야한다. 그렇다면

1. 바이어스 제거는 어떻게 하는 것인지?
2. 1번을 통해 방법론을 습득한다고 해서 바이어스 문제가 무조건 해결되는 것은 아니다. 그렇다면 우리가 앞으로 데이터 분석을 할때 있어서 가져야할 자세는 무엇인지?

이번 Deep dive를 통해 탐구해봅시다!

🙂 2조 딥다이브

6조 딥다이브