메타, AI 오류로 '검은 개' 그림 그려 사과

12월 중순, Meta는 베트남 메신저 앱에 Meta AI라는 인공지능 챗봇을 통합하여 모든 사용자에게 무료로 출시했습니다. 이 도구는 Llama 3.2 언어 모델을 사용하고 베트남어를 지원하며, 정보 검색, 이미지 생성 및 채팅 기능을 제공합니다.

얼마 지나지 않아 베트남의 많은 사용자들이 Meta AI의 이미지 생성 과정에서 심각한 오류를 발견했습니다. 구체적으로, "검은 개"라는 키워드를 입력하면 챗봇은 검은 피부에 곱슬머리를 가진 남성이나 소년을 검색 결과로 반환했습니다. 베트남어로 "검은 개 이미지"라는 키워드를 입력해도 Meta AI는 비슷한 결과를 반환했습니다.

명령 프롬프트에서 다른 콘텐츠가 필요한 상황에서 유색인종을 그리는 메타 AI는 심각한 문제입니다.

12월 31일, 메타 베트남 담당자가 해당 사고에 대해 공식적으로 입장을 밝혔습니다. 회사는 해당 문제를 확인하고 해결되었다고 발표했습니다. 또한, 메타 베트남은 해당 사고에 대해 사과하며, 이 문제가 기존의 다른 생성 AI 시스템에서도 발생할 수 있다고 밝혔습니다.

"이러한 오류에 대해 사과드립니다. Meta는 모든 사용자에게 더욱 안전하고 즐거운 경험을 제공하기 위해 기능과 AI 모델에 안전 장치를 구축하고 있습니다. 하지만 다른 생성 AI 시스템과 마찬가지로 이 모델은 부정확하거나 불쾌한 콘텐츠를 반환할 수 있으므로 사용자 여러분께서 이러한 도구를 책임감 있게 사용하시기를 권장합니다."라고 회사 관계자는 밝혔습니다.

Meta AI는 오랜 기간 사용 후, 언어를 사용하여 매우 원활하게 응답하는 능력으로 많은 사람들에게 높은 평가를 받고 있습니다. 이미지 생성 기능 또한 사용자에게 무료로 제공되는 모델과 비교하여 우수한 품질을 제공합니다. 그 이유 중 하나는 Meta가 페이스북에 게시된 콘텐츠를 AI 학습 과정에서 입력 데이터로 사용하여 명령을 자연스럽게 표현하고 실행할 수 있도록 돕기 때문일 수 있습니다.

그럼에도 불구하고 인종차별이나 AI 기준에 맞지 않는 대응과 같은 사건은 피하기 어렵습니다. Meta는 인공지능 분야 전문가들과 함께 "레드팀" 테스트를 통해 AI를 테스트하여 의도치 않은 용도를 파악하고, 지속적인 개선 프로세스를 통해 문제를 해결한다고 밝혔습니다.

출처: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm