생성형 인공지능 윤리 1 > Chapter 5. 다양성을 존중하는 인공지능

[생각열기] 생성형 인공지능과 데이터 세트

도입

여러분은 내 얼굴 사진을 다른 나이의 얼굴, 캐릭터로 만들어 주는 어플을 사용해 본 적이 있나요? 오늘날 인공지능은 얼굴의 모습을 바꾸어 주는 것뿐만 아니라 우리의 간단한 설명을 입력받아 이미지를 생성하기도 합니다. 첫 번째 장면의 모습처럼 유명한 화가의 스타일로 그림을 그릴 수도 있지요.

그렇다면 이미지 생성 인공지능은 여러 사람의 모습, 성별, 인종, 나이 등 다양성을 잘 표현하고 있을까요? 우리의 생활 속 이미지를 학습한 인공지능은 그림을 훌륭하게 그려내고, 실제 모습처럼 사진을 생성할 수 있지만, 생활 속 편향된 모습을 그대로 담기도 합니다. 두 번째 장면처럼 직업의 이미지를 생성해 낼 때 성별이 치우친 결과가 나오기도 하고 네 번째 장면처럼 피부색에 대한 편견을 담기도 하지요. 따라서 이미지 생성 인공지능을 개발하고 활용하는 모든 과정에서 다양성을 존중하고 있는지 점검해보며 모든 사람에게 공정하게 적용될 수 있도록 노력해야 합니다. 

이번 차시에서는 이미지 생성 인공지능을 체험해보고 인공지능이 다양성을 존중하는 데 필요한 노력을 생각해봅시다.


 생성형 인공지능과 데이터 세트

 각각의 장면을 자세히 살펴보면서 마음속 신호등을 켜봅시다. 장면을 보면서 불편함 혹은 위험성이 느껴지면 빨간불, 보통이면 노랑불, 괜찮으면 초록불을 켜봅시다.


1. 모네처럼 그림을 그려주는 인공지능, 나의 마음의 신호등은?

나의 마음의 신호등은 ( 빨간불, 노랑불, 초록불 )

그 이유는 

2. 기사에 필요한 의사 사진을 생성하는데, 남자 의사의 모습만 생성된다. 이때 나의 마음의 신호등은?

나의 마음의 신호등은 ( 빨간불, 노랑불, 초록불 )

그 이유는 

3. 내 모습을 다른 나이의 모습으로 만들어 주는 인공지능, 나의 마음의 신호등은?

나의 마음의 신호등은 ( 빨간불, 노랑불, 초록불 )

그 이유는 

4. 내가 상상한 소설 속 공주님의 모습과는 다른 피부색의 공주님만 생성하는 인공지능, 나의 마음의 신호등은?

나의 마음의 신호등은 ( 빨간불, 노랑불, 초록불 )

그 이유는 


[수업 지도 TIP]

1) 단순히 마음의 신호등을 켜보는 것에만 집중하기보다는 그 이유를 스스로 떠올려 볼 수 있도록 한다.


 

위의 그림은 누가 그린 것일까요? 유명한 화가의 그림을 떠올리게 하는 이 그림은 생성형 인공지능에게 반 고흐의 그림처럼 밤하늘, 별, 나무가 있는 풍경을 그려달라고 했을 때 만들어진 작품입니다. 

인공지능이 이런 그림을 그릴 수 있는 이유는 반 고흐의 작품 이미지 데이터 세트를 학습했기 때문입니다. 데이터 세트는 인공지능에게 세상을 가르쳐주기 위해 필요한 정보입니다. 인공지능이 학습하는데 사용되는 데이터의 모음이지요. 데이터 세트는 영상의 모음일 수도 있고 텍스트, 사진의 모음일 수도 있습니다. 이렇듯 다양한 형태로 이루어질 수 있으며 우리가 인공지능에게 학습시키려는 주제에 관한 정보를 담고 있습니다. 예를 들어 한국어 문장을 생성하는 방법을 배우는 인공지능에게는 수많은 한국어 문장이 포함된 데이터 세트가 필요합니다. 

이런 데이터 세트들은 SNS, 뉴스, 웹페이지, 사전, 온라인에 업로드된 사진이나 이미지 등 다양한 출처에서 모아서 만들어집니다. 


 

유명 화가의 스타일을 살려 그림을 그려주는 생성형 인공지능은 위와 같이 화가의 작품 이미지 데이터 세트를 학습합니다. ‘Kaggle’이라는 플랫폼은 전 세계의 데이터 과학자들이 데이터 세트, 자료를 공유하고 토론하는 온라인 커뮤니티입니다. 데이터 분석 대회가 열리기도 하고 무료 강의를 보며 공부할 수도 있지요. 

 

‘Kaggle’에 공유되어 있는 반 고흐의 이미지 데이터 세트를 살펴보며 인공지능이 어떤 특성을 학습했을지 살펴봅시다. 


[관련 자료]

- 반 고흐 이미지 데이터 세트 : https://www.kaggle.com/datasets/ipythonx/van-gogh-paintings