맞힌 개수
0 / 5
인공지능의 판단이 한쪽으로 치우치는 데이터 편향성 문제를 사례로 살펴보고, Ⅰ단원에서 배운 내용을 문제 풀이로 정리합니다.
| 단계 | 활동 | |
|---|---|---|
| 도입 | 인공지능의 판단은 항상 공정할까? | 5분 |
| 활동1 | 데이터 편향성 사례 살펴보기 | 15분 |
| 활동2 | Ⅰ단원 정리 퀴즈 | 20분 |
| 정리 | Ⅰ단원 되돌아보기 | 10분 |
빅데이터를 효과적으로 분석하고 처리하면 미래를 예측하고 의사를 결정하는 데 도움이 됩니다. 하지만 인공지능이 예측·추론한 값을 신뢰하려면 인공지능이 학습한 원본 데이터의 양과 질이 매우 중요합니다.
데이터는 인공지능이 학습하는 수단이자 도구이기 때문에, 원본 데이터에 존재하는 편향이나 불균형은 인공지능에서도 그대로 나타납니다.
인공지능에게 백조를 학습시키면서 하얀 백조 이미지만 제공했다면, 인공지능은 검은 백조를 백조로 인식하지 못하는 편향성을 보일 것입니다. 실제로 서양권에서 개발한 얼굴 인식 시스템은 백인 남성을 가장 잘 인식한다고 알려져 있습니다.
2018년 한 다국적 기업이 10년간의 데이터를 바탕으로 지원자의 이력서를 검토하는 인공지능 채용 시스템을 도입했는데, 여성보다 남성 지원자를 선호한다는 것이 발견되었습니다. 이 기업은 개발직군이 전체 직원의 70% 이상이었고 그중 남성이 훨씬 많아, 성과 높은 직원의 데이터를 학습한 인공지능이 '여성'이라는 단어가 포함된 이력서에 감점을 준 것입니다. 이후 특정 용어에 중립적으로 평가하도록 개선했지만 같은 문제가 반복되지 않으리라는 확신을 주지 못해, 결국 이 시스템은 폐기되었습니다.
지금까지 배운 인공지능, 퍼셉트론, 빅데이터 개념을 문제로 정리해 봅시다.
Ⅰ단원 '인공지능과 빅데이터'에서 다룬 5개 차시의 핵심 내용을 정리하면 다음과 같습니다.
인공지능의 개념과 학습 방법, 퍼셉트론의 계산 원리, 빅데이터의 특징과 활용 사례, 데이터 편향 문제까지 살펴보았습니다. 수고 많았습니다!