Sztuczna inteligencja: Malezja zawiesza działanie chatbota Grok.

Malezja tymczasowo zawiesiła dostęp do chatbota Grok – narzędzia opartego na sztucznej inteligencji (AI) opracowanego przez xAI, firmę należącą do X Corp. Elona Muska – po odkryciu, że platforma była wielokrotnie wykorzystywana do tworzenia pornograficznych i obraźliwych obrazów, które naruszały prawa osobiste, w szczególności kobiet i nieletnich.

W ogłoszeniu z 11 stycznia Malezyjska Komisja Łączności i Multimediów (MCMC) poinformowała, że nakazała natychmiastowe ograniczenie dostępu do Grok dla użytkowników krajowych. Stało się tak po wielokrotnych ostrzeżeniach, na które X Corp. i xAI nie zareagowały zadowalającymi działaniami naprawczymi.

Według organu regulacyjnego, Grok – który został bezpośrednio zintegrowany z portalem społecznościowym X – był wykorzystywany do tworzenia pornograficznych, obraźliwych, wulgarnych i manipulacyjnych obrazów bez zgody, jedynie za pomocą poleceń tekstowych. MCMC podkreśliło: „Naruszone treści obejmowały zdjęcia kobiet i dzieci, pomimo naszych wielokrotnych prób współpracy z dostawcą i wysyłania oficjalnych zawiadomień”.

Zdaniem MCMC zabezpieczenia Grok uznano za niewystarczające, ponieważ platforma opierała się głównie na mechanizmach samodzielnego zgłaszania problemów przez użytkowników, a nie na kontroli ryzyka na etapie projektowania i eksploatacji.

Oświadczenie MCMC wyjaśnia: „X Corp. nie podjęło odpowiednich działań w celu uwzględnienia ryzyka związanego ze sposobem działania tego narzędzia AI”.

Malezja oświadczyła również, że rozważy przywrócenie dostępu dopiero po tym, jak xAI wykaże, że nowe zabezpieczenia zostały wdrożone i okazały się skuteczne.

Decyzja Malezji zapadła na tle globalnej fali krytyki wobec Groka, po tym jak odkryto, że narzędzie tego chatbota do generowania obrazów pozwala na seksualizację zdjęć kobiet i dzieci, co wzbudziło poważne obawy dotyczące deepfake'ów (fałszywej) pornografii generowanej przez sztuczną inteligencję.

Zanim Malezja wydała powyższe oświadczenie, Indonezja była pierwszym krajem, który całkowicie zakazał używania Groka, podczas gdy na wielu innych rynkach narzędzie to działa jedynie dla użytkowników płacących.

Zdaniem europejskich urzędników i organizacji zajmujących się propagowaniem technologii, przeniesienie funkcji tworzenia obrazu do modelu płatnego – nowa polityka komercyjna ogłoszona przez Grok na platformie X 9 stycznia – nie rozwiąże sedna problemu.

(VNA/Wietnam+)

Źródło: https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp