페이스북의 메타 AI가 검은 개를 흑인 사람으로 바꿔놓아 분노를 촉발

12월 중순, 베트남 페이스북 사용자들은 Meta AI 챗봇이 Messenger 채팅 프레임에 통합된 것을 보고 놀랐습니다. Meta의 챗봇은 Llama 3.2 모델을 사용하고, 베트남어를 지원하며, 정보 검색, 이미지 생성, 채팅이 가능합니다.

일정 기간 동안 상호작용을 한 후, 베트남의 많은 사용자는 Meta AI가 형성 과정에서 심각한 오류가 있음을 발견했습니다. 구체적으로, "검은 개"라는 키워드를 입력하면 챗봇은 검은 피부, 곱슬머리를 가진 남자 또는 소년이라는 결과를 반환합니다. 베트남어로 "검은 개 이미지"라는 키워드를 입력하면 Meta AI도 비슷한 결과를 반환합니다.

메타 AI가 "검은 개"라는 키워드를 입력하면 검은색 곱슬머리 사람을 반환합니다.

하지만 사용자가 챗봇이 틀렸다고 응답하면 그것은 인간의 책임입니다. 메타 AI는 다른 챗봇처럼 인식하고 수정하지 않습니다. 이에 대해 페이스북의 AI(인공지능)는 "정확히 그렇지는 않습니다. '블랙독'은 종종 다음과 같은 의미로 이해됩니다. 비유적인 의미 1은 슬픔, 우울 또는 부정적인 감정을 상징합니다. 두 번째 의미는 영국 민담에서 악마나 불길한 징조와 관련된 상징입니다."라고 답했습니다.

메타 AI는 또한 "검은 개"라는 키워드의 구체적인 의미는 밴드나 음악 그룹의 이름이라고 주장합니다. 아니면 유명인의 별명. 이는 브랜드와 제품의 이름이기도 합니다. 그러면 챗봇은 사용자에게 추가적인 맥락이나 구체적인 정보를 제공해 달라고 요청해 더 잘 이해하도록 합니다.

많은 사람들은 "검은 피부" 명령이 메타 AI를 오해했을 것이라고 생각합니다. "검은 개를 만들어라"로 바꾸자 페이스북의 AI가 정확한 결과를 냈다.

그러나 동일한 명령을 ChatGPT나 Google의 Gemini와 같은 다른 인기 있는 대규모 언어 모델에 입력하면 해당 애플리케이션은 여전히 ​​검은색 개를 생성하는 결과를 생성합니다. "검은 머리카락"이든 "검은 피부"든 표현을 사용하는 것은 최종 결과에 영향을 미치지 않습니다.

왼쪽부터 오른쪽으로 "create black dog" 명령어에 대한 Meta AI, ChatGPT, Gemini의 결과입니다.

메타의 AI가 외모에 문제를 겪은 것은 처음이 아니며, 특히 유색인종의 경우 더욱 그렇습니다. 올해 초, 메타의 Imagine 이미지 생성기는 혼혈 커플을 제대로 렌더링하지 못했다는 이유로 엄청난 비판을 받았습니다. 흑인 남성과 백인 여성의 사진을 만들어 달라고 요청했을 때, AI의 최종 결과물은 항상 흑인 커플이었습니다.

당시 The Verge의 편집자 미아 사토는 "백인 친구와 함께 있는 아시아 남성" 또는 "백인 친구와 함께 있는 아시아 여성" 사진을 만들기 위해 수십 번 시도했다고 말했습니다. 메타의 AI가 반환하는 결과는 항상 두 명의 아시아인의 사진입니다.

전문가들에 따르면, AI 챗봇은 알고리즘과 입력 데이터의 한계로 인해 초기 단계에서 '인종 차별적' 경향을 보이는 경우가 매우 흔합니다. 하지만 AI와 같은 대규모 모델의 경우 현재 상황에서 이는 심각한 단점입니다.

Meta AI는 전 세계로 확장하기 전에 10월 9일에 여러 국가에서 대규모 테스트를 시작했습니다. 새로운 챗봇은 Facebook, Instagram, WhatsApp, Messenger와 같은 인기 앱에 긴밀하게 통합되었습니다.

Meta는 2024년 말까지 43개국에 진출하여 수십 개의 다양한 언어를 지원할 계획입니다. 월간 사용자 5억 명을 보유한 Meta는 전 세계에서 가장 많이 사용되는 AI 플랫폼 중 하나가 되기를 원합니다.

하지만 Meta AI는 많은 개인정보 보호 문제를 제기하고 있습니다. 소셜 미디어 사용자들은 소셜 미디어 플랫폼에서 게시물을 이용해 AI를 훈련시키는 것에 항의하며 "바이 메타 AI" 캠페인을 확산시키고 있습니다. 제임스 맥어보이, 톰 브래디 등 많은 유명스포츠 스타와 배우도 이 캠페인을 지지했습니다.

영국에서는 Meta가 Facebook과 Instagram 게시물을 사용하여 AI 모델을 훈련하는 것을 중단시키려는 사용자는 이의 제기 양식을 작성해야 합니다.

출처: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm