[AI] 성차별하는 인공지능

을 예방하기 위한 방법에 대해 다룬 글입니다.

https://steemit.com/deeplearning/@jiwoopapa/women-also-snowboard-overcoming-bias-in-captioning-model

성차별적인 분포의 사진만을 주고 여기 나온 사람이 남자인지 여자인지 분류하게 했는데
실제로 어디에 집중하는지 보니까 사람이 아니라 배경, 사물이었다고 합니다.
야구 배트 -> 남자
사무실 모니터 -> 여자
이렇게요.

이걸 방지하기 위해서 사람에 집중하도록 손실 함수를 바꿨더니 나아졌다...라는 내용입니다.

사실 사람에 집중해도 여전히 고정관념이 있을 수 있는게

당장 우리 인간들도 성을 판단할때 머리카락, 얼굴, 몸매를 보는데 이게 100% 정확한게 아니거든요.
이런 연구가 활발하게 이뤄지지 않으면 인간에 의해서 무의식적으로 나타나는 이런 고정관념들이 훗날 인공지능에 큰 영향을 줄 것 같습니다.

또한 이렇게 인간의 고정관념을 받아들인 인공지능의 데이터를 무조건 믿어서도 안되겠죠.