[활동3] 인공지능의 다양성 존중을 위해 나아가기
인공지능의 다양성 존중을 위해 나아가기
이미지 생성 인공지능이 직업에 대해 그린 그림들을 살펴봅시다. 위의 그림 7장은 이미지 생성 인공지능에게 ‘의사’를 그리도록 한 것이고 아래의 그림 7장은 ‘초등학교 선생님’을 그리도록 한 것입니다. 여러분이 생각하는 모습과 비슷하게 잘 그린 것 같나요?
그렇다면 이미지 생성 인공지능이 만든 두 직업은 다양성을 존중하고 있다고 보이나요? ‘의사’라는 프롬프트가 입력되었을 때는 남성의 모습이 많고 ‘초등학교 선생님’이라는 프롬프트에는 여자의 모습이 많습니다. 왜 이런 결과가 나온 것일까요?
실제로 초등학교 선생님은 여러 나라에서 여성 비율이 높습니다. 따라서 이점이 데이터 세트에 반영되어 생성형 인공지능도 편향된 이미지를 만들어 낼 수 있습니다. 즉, 현실의 치우친 모습이 인공지능에 그대로 학습된 것일 수도 있습니다. 그렇다면 현실을 반영했으므로 괜찮은 것일까요? 여러분의 생각은 어떤가요?
[수업 지도 TIP]
1) 학생들이 자신의 생각을 자유롭게 이야기 나누도록 하되 이미지 생성 인공지능이 이러한 이미지를 계속 만들어 낼 때 주는 사회적 영향에 대해서 생각해보도록 한다.
2) 슬라이드의 예시 자료 대신에 [선택활동]으로 학생들이 직접 어도비 Firefly에 접속하여 직업과 관련한 이미지를 생성해 볼 수 있다. (슬라이드 34-35쪽)
초등학교 선생님은 여러 나라에서 여성 비율이 높습니다. 이러한 점이 데이터 세트에 반영되어 생성형 인공지능도 편향되는 이미지를 만들어 낼 수 있습니다. 즉, 현실의 치우친 모습이 인공지능에도 그대로 학습된 것일 수도 있습니다.
현실을 반영했으므로 괜찮은 것일까요? 여러분의 생각은 어떤지 함께 이야기 나누어 봅시다.
Q. 위의 질문에 대한 나의 생각을 정리하여 적어봅시다.
[관련 자료]
- 한국 초등학교 교사 성별 분포 기사 https://www.kyongbuk.co.kr/news/articleView.html?idxno=2123761&sc_sub_section_code=S2N53
- 유럽 초,중,고 교사 성별 분포 기사 https://news.edupang.com/news/article.html?no=6715
- 미국 초등학교 교사 성별 분포 통계자료 https://nces.ed.gov/programs/coe/indicator/clr/public-school-teachers
우리는 인공지능을 개발하고 활용하는 모든 과정에서 다양성을 존중해야 합니다. 성별·연령·장애·지역·인종·종교·국가 등에 대한 차별을 최소화하고 모든 사람에게 공정하게 적용되어야 하지요. 이 점을 생각할 때 위 이미지 생성 인공지능이 그린 그림은 다양성을 존중한다고 보기 어렵습니다.
인공지능이 다양성을 존중하도록 나아가려면 어떤 노력이 필요할까요? 직업 그림들과 같이 내가 출시한 생성형 인공지능에서 다양성이 존중되지 않는 결과가 나오는 것을 알게 되었다면 어떤 노력이 필요할까요? 내가 이미지 생성 인공지능을 사용할 때 확인할 점들도 있겠지요?
[수업 지도 TIP]
개발자의 입장에서 데이터세트를 수집할 때 어떤 점을 고려할지 떠올려보거나 사용자의 입장에서 어떤 점을 확인하고 사용할지 등 인공지능 개발, 활용의 다양한 주체가 되어 생각해보도록 한다.
Q. 인공지능이 다양성을 존중하도록 나아가기 위해 필요한 노력을 정리하고, 토의해봅시다.
(예) 내가 개발한 생성형 인공지능이 성별, 피부색의 다양성을 존중하지 않는다면 데이터 세트를 개선하기 위해 노력합니다. 내가 개발자라면 인공지능을 개발할 때 데이터를 수집하는 과정에서 차별이나 편향이 담기지 않도록 테스트를 해 보고 여러 사람의 의견을 들어보기 위해 노력할 것입니다. 등
선택 활동 : 이미지 생성 인공지능으로 직업을 그려보기
[관련 자료] 이미지 생성 인공지능 사이트
- 어도비 Firefly (firefly.adobe.com), 뤼튼 AI (wrtn.ai), Artguru (artguru.ai)
[수업 지도 TIP]
이미지 생성 인공지능의 작품에서 성별, 인종, 나이 등이 다양하게 나오는 경우, 사이트의 인공지능개발자가 어떤 노력을 기울였을지 생각해보는 방향으로 이야기해 볼 수 있다.