페이스북의 메타 AI가 검은 개를 흑인으로 바꿔 화제가 되고 있다.

12월 중순, 베트남 페이스북 사용자들은 Meta AI 챗봇이 메신저 채팅 프레임워크에 통합된 것을 보고 놀랐습니다. Meta의 챗봇은 Llama 3.2 모델을 사용하고 베트남어를 지원하며, 정보 검색, 이미지 생성 및 채팅 기능을 제공합니다.

베트남의 많은 사용자들이 메타 AI의 이미지 생성 과정에서 심각한 오류를 발견했습니다. 특히, "검은 개"라는 키워드를 입력했을 때 챗봇은 검은 피부에 곱슬머리를 가진 남성이나 소년을 검색 결과로 반환했습니다. 베트남어로 "검은 개 이미지"라는 키워드를 입력했을 때도 메타 AI는 같은 결과를 반환했습니다.

메타 AI가 "검은 개"라는 키워드를 입력하면 검은색 곱슬머리 사람을 반환합니다.

하지만 사용자가 챗봇이 틀렸다고 답했을 때, 이는 인간이었습니다. 메타 AI는 다른 챗봇처럼 인정하고 수정하지 않았고, 페이스북의 AI(인공지능)는 "틀렸습니다. '블랙독'은 종종 다음과 같은 의미로 이해됩니다. 비유적인 의미 1은 슬픔, 우울 또는 부정적인 감정을 상징합니다. 두 번째 의미는 영국 민담에서 악마나 불길한 징조와 관련된 상징입니다."라고 답했습니다.

메타 AI는 또한 "블랙독"이라는 키워드의 구체적인 의미가 밴드나 음악 그룹의 이름, 혹은 유명 인사의 별명이라고 주장합니다. 또한 브랜드나 제품의 이름이기도 합니다. 챗봇은 사용자에게 더 나은 이해를 위해 더 많은 맥락이나 구체적인 정보를 제공하도록 요청합니다.

많은 사람들이 메타 AI가 "검은 피부"라는 명령을 잘못 이해했을 가능성이 있다고 생각합니다. 하지만 "검은 개 만들기"로 변경하자 페이스북 AI는 정확한 결과를 도출했습니다.

하지만 ChatGPT나 Google Gemini와 같은 다른 인기 있는 대규모 언어 모델에 입력하면 같은 명령이 "검은 개"라는 결과를 냅니다. "검은 털"이나 "검은 피부"와 같은 구문을 입력해도 최종 결과에는 아무런 영향을 미치지 않습니다.

왼쪽부터 오른쪽으로 "create black dog" 명령어에 대한 Meta AI, ChatGPT, Gemini의 결과입니다.

메타의 AI가 렌더링 문제를 겪은 것은 이번이 처음이 아닙니다. 특히 유색인종 렌더링에 있어서 더욱 그렇습니다. 올해 초, 메타의 Imagine 이미지 생성기는 혼혈 커플을 제대로 렌더링하지 못했다는 비판을 받았습니다. 흑인 남성과 백인 여성을 생성해 달라는 요청을 받았을 때, AI의 최종 결과물은 항상 흑인 커플이었습니다.

당시 The Verge의 편집자 미아 사토는 "백인 친구와 함께 있는 아시아 남성" 또는 "백인 친구와 함께 있는 아시아 여성" 사진을 만들기 위해 수십 번 시도했다고 밝혔습니다. 메타의 AI가 반환한 결과는 항상 두 명의 아시아인 사진이었습니다.

전문가들에 따르면, AI 챗봇이 "인종차별적"인 경향을 보이는 것은 알고리즘과 입력 데이터의 한계로 인해 초기 단계에서 매우 흔합니다. 그러나 AI와 같은 대규모 모델의 경우, 현재 상황에서 이는 심각한 단점입니다.

메타 AI는 10월 9일부터 여러 국가에서 대규모 테스트를 시작한 후 전 세계로 확장했습니다. 이 새로운 챗봇은 페이스북, 인스타그램, 왓츠앱, 메신저 등 인기 앱에 깊이 통합되어 있습니다.

Meta는 2024년 말까지 43개국에 진출하여 수십 개의 언어를 지원하는 것을 목표로 합니다. 월간 사용자 5억 명을 보유한 Meta는 세계에서 가장 많이 사용되는 AI 플랫폼 중 하나가 되고자 합니다.

하지만 메타 AI는 많은 개인정보 보호 문제를 야기하고 있습니다. 소셜 네트워크 사용자들은 소셜 네트워크가 AI 학습에 게시물을 사용하는 것에 항의하는 "바이 메타 AI(Bye Meta AI)" 캠페인을 확산시키고 있습니다. 제임스 맥어보이와 톰 브래디를 비롯한 많은 유명 스포츠 스타와 배우들도 이 캠페인을 지지하고 있습니다.

영국에서는 Meta가 Facebook과 Instagram 게시물을 사용하여 AI 모델을 훈련하는 것을 중단시키려는 사용자는 이의 제기 양식을 작성해야 합니다.

출처: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm