전문가들은 AI가 고정관념적이고 과장된 이미지를 생성한다고 경고합니다.

빈곤에 대한 주제로 이미지를 검색하면 AI가 만든 누더기를 걸친 ​​아프리카 어린이, 쓰레기가 가득한 강에서 수영하는 아시아 어린이 등의 사진을 많이 볼 수 있습니다.

AI의 산물: 인종차별과 편견

전 세계 보건 전문가들에 따르면, AI가 생성한 빈곤, 아동, 성폭력 피해자 등의 이미지가 온라인 사진 아카이브에 넘쳐나고 있으며, 비정부기구(NGO)의 활용이 증가하고 있다고 합니다. 전문가들은 이것이 "빈곤 착취 문화의 새로운 시대"를 예고하는 신호일 수 있다고 경고합니다.

앤트워프 열대의학 연구소에서 전 세계 건강 이미지 제작을 연구하는 아르세니 알레니체프 연구원은 "이러한 이미지는 빈곤에 대한 기본적인 시각을 반영합니다. 빈 그릇을 든 아이들, 갈라진 땅... 매우 고정관념적입니다." 라고 말했습니다.

알레니체프 씨는 극심한 빈곤에 대한 AI 생성 이미지 100개 이상을 수집했는데, 이는 개인이나 NGO가 소셜 미디어에서 기아와 성폭력에 맞서는 캠페인에 사용했습니다.

그가 가디언과 공유한 이미지들은 과장되고 고정관념적인 장면들을 보여준다. 진흙 웅덩이에 웅크리고 있는 아이들, 웨딩드레스를 입고 눈물을 흘리는 아프리카 소녀 등이 그것이다. 그는 최근 랜싯 글로벌 헬스(Lancet Global Health) 저널에 게재된 논평에서 이 이미지들이 "빈곤 포르노 2.0 버전"에 해당한다고 주장했다.

사진 웹사이트에서 AI가 생성한 "빈곤" 이미지를 보여주는 스크린샷. (사진: Freepik)

알레니체프 씨를 비롯한 여러 전문가들은 저작권과 비용 문제로 인해 AI 이미지 사용이 증가하고 있다고 말합니다. 미국 정부 의 NGO 예산 삭감은 이 문제를 더욱 악화시켰습니다.

"많은 조직들이 실제 사진 대신 AI 이미지를 사용하는 것을 고려하고 있는 것은 분명합니다. 비용이 저렴하기 때문이죠. 게다가 저작권 등 여러 가지 문제에 대해 걱정할 필요도 없습니다." 라고 그는 말했습니다.

책임은 사용자에게 있는가, 아니면 플랫폼에게 있는가?

AI가 생성한 빈곤 관련 이미지는 Adobe Stock Photos와 Freepik을 포함한 수십 개의 사진 사이트에 게재되어 있습니다. 많은 이미지에는 "난민 수용소의 초현실적인 아이", "쓰레기로 가득 찬 강에서 수영하는 아시아 아이들", "아프리카 마을에서 흑인 아이들에게 의료 조언을 제공하는 백인 자원봉사자" 등의 캡션이 붙어 있습니다. Adobe는 이 목록에 있는 마지막 두 이미지의 저작권을 약 60파운드에 판매합니다.

알레니체프는 "이런 사진들은 노골적으로 인종차별적이며 아프리카, 인도 또는 생각할 수 있는 모든 것에 대한 최악의 고정관념이기 때문에 게시가 허용되어서는 안 됩니다." 라고 말했습니다.

프리픽(Freepik)의 CEO 호아킨 아벨라는 이러한 극단적인 이미지 사용에 대한 책임은 자사와 같은 플랫폼이 아닌 사용자에게 있다고 말했습니다. 그의 견해에 따르면, AI 스톡 사진은 전 세계 사용자 커뮤니티에 의해 생성되며, 프리픽 고객이 사진을 구매할 때 로열티를 받을 수 있습니다.

프리픽은 "다양성을 주입"하여 사진 라이브러리에서 발견되는 편견을 억제하고자 노력해 왔습니다. 동시에 변호사와 임원 사진의 성별 균형을 맞추기 위해 노력합니다.

하지만 그는 자신의 플랫폼이 할 수 있는 일에는 한계가 있다고 말합니다. "마치 바다를 말리려는 것과 같습니다. 저희도 노력해 봤지만, 현실은 전 세계 고객들이 자신의 이미지를 특정 방식으로 표현하고 싶어 한다면 누구도 어쩔 수 없다는 것입니다."

자선단체 플랜 인터내셔널(Plan International)이 2023년 아동 결혼 반대 캠페인을 위해 AI가 생성한 이미지. 이 캠페인은 "여아의 사생활과 존엄성"을 보호하는 것을 목표로 합니다. (사진: 플랜 인터내셔널)

유엔을 포함하여 많은 유명 기관이 AI가 생성한 이미지를 사용했습니다.

작년에 유엔은 유튜브에 성폭력 "재연" 영상을 게시했는데, 여기에는 1993년 세 명의 남성에게 강간당하고 살해당할 뻔했던 부룬디 여성의 증언이 포함되었습니다. 이 영상은 전적으로 AI가 생성했습니다. 가디언지가 유엔에 인터뷰를 요청하자 해당 영상은 삭제되었습니다.

유엔 대변인은 이후 해당 영상이 삭제된 이유를 설명했습니다. "이 영상은 AI에 의해 부적절하게 생성되었으며, 실제 영상과 실제처럼 보이는 인공적인 콘텐츠가 섞여 정보 무결성 위험을 초래할 수 있다고 생각합니다."

AI가 생성한 제품들은 오랫동안 모방으로 밝혀져 왔으며, 때로는 사실을 과장하기도 합니다. 알레니체프 씨는 이러한 편향된 이미지의 확산이 문제를 더욱 악화시킬 수 있다고 말했습니다. 이러한 이미지가 광대한 인터넷에 퍼져 차세대 AI를 훈련하는 데 사용될 수 있기 때문입니다.

Plan International의 대변인은 해당 NGO가 현재 "어린이를 묘사하는 데 AI를 사용하는 것을 권장하지 않는다"고 밝혔습니다.

민 호안

출처: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html