Vietnam.vn - Nền tảng quảng bá Việt Nam

챗봇 Grok이 인터넷에서 잘못된 정보의 급증을 초래하고 있다는 우려

Báo Quốc TếBáo Quốc Tế18/08/2024


일론 머스크의 Grok 챗봇은 사용자가 텍스트에서 AI 이미지를 만들어 X에 게시할 수 있도록 허용하기 시작했습니다. 여기에는 전 미국 대통령 도널드 트럼프, 미국 부통령 카말라 해리스와 같은 정치인 의 가짜 이미지가 포함됩니다...

다른 주류 AI 사진 촬영 도구와 달리 머스크의 그록은 규제가 적은 것으로 보입니다. 예를 들어 CNN 의 테스트에서 그록은 정치인들의 가짜 이미지를 쉽게 만들어 유권자들을 오도했습니다.

Lo ngại chatbot Grok làm bùng nổ thông tin sai sự thật trên Internet
채팅박스 그록이 만든 일론 머스크의 이미지. (출처: CNN)

일부 X 사용자는 Grok이 만든 이미지를 게시하기도 했습니다. 여기에는 유명인이 마약을 피우는 모습, 만화 캐릭터가 사람을 죽이는 모습, 비키니를 입은 여성의 성적 이미지가 포함되었습니다.

CNN 에 따르면, 그록은 특히 미국 대선이 다가옴에 따라 AI가 인터넷에서 잘못된 정보가 폭발적으로 늘어날 수 있다는 우려를 더욱 제기했습니다.

국회의원, 활동가 단체, 기술 분야 리더들은 이러한 도구를 오용하면 유권자들에게 혼란과 혼돈을 초래할 수 있다는 경고를 했습니다.

세계 유수의 AI 기업 중 다수는 AI 기반 이미지 생성 도구를 이용해 정치적인 허위 정보를 만드는 것을 방지하기 위한 정책을 시행했지만, 연구자들은 사용자들이 때때로 규칙을 우회하는 방법을 찾는다는 사실을 발견했습니다.

OpenAI, Meta, Microsoft 등 여러 회사는 기술이나 레이블을 사용하여 시청자가 AI가 생성한 이미지를 알 수 있도록 돕습니다.

YouTube, TikTok, Instagram, Facebook 등의 소셜 네트워크도 사용자 피드에 있는 AI가 생성한 콘텐츠에 라벨을 붙여, 기술을 사용해 직접 감지하거나 사용자에게 게시한 시점을 식별하도록 요청합니다.

8월 16일, AI가 Grok에 몇 가지 제약을 가하는 듯했습니다. 이제 이 도구는 정치 후보나 유명 만화 캐릭터가 폭력 행위를 저지르는 이미지를 생성하는 것을 거부합니다.


[광고_2]
출처: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html

댓글 (0)

No data
No data

같은 태그

같은 카테고리

세계에서 가장 아름다운 50대 마을 중 베트남 유일의 마을을 만나보세요
올해는 왜 노란색 별이 있는 붉은 깃발 등이 인기가 있을까요?
베트남, 인터비전 2025 음악 경연대회 우승
무창차이, 저녁까지 교통 체증…쌀 수확 위해 관광객 몰려

같은 저자

유산

수치

사업

No videos available

소식

정치 체제

현지의

제품