„Ojciec chrzestny AI” zabiera głos w sprawie skandalu seksualnego Groka.

Zdaniem Yoshuy Bengio, nazywanego „ojcem chrzestnym AI”, skandal seksualny z udziałem Grok AI pokazuje, że branża sztucznej inteligencji „wymknęła się spod kontroli”.

Szerokie rozpowszechnianie prywatnych, niechcianych zdjęć na koncie Elona Muska w mediach społecznościowych X, wygenerowanych przez narzędzie Grok oparte na sztucznej inteligencji, wywołało niepokój związany z szybkim rozwojem tej branży technologicznej.

Yoshua Bengio, pionier informatyki , twierdzi, że firmy technologiczne budują systemy bez odpowiednich barier technicznych i społecznych.

W rozmowie z The Guardian Bengio powiedział, że choć obecna sytuacja nie jest jeszcze całkowicie chaotyczna, to trzeba ją natychmiast naprawić.

„Ta branża jest zdecydowanie zbyt słabo uregulowana. Pionierskie firmy zajmujące się sztuczną inteligencją budują coraz bardziej zaawansowane systemy, ale brakuje im zabezpieczeń, co prowadzi do ewidentnie negatywnych skutków dla ludzi” – powiedział.

Aplikacja Grok została zakazana w dwóch krajach i jest obecnie przedmiotem dochodzenia w Wielkiej Brytanii. Zdjęcie: PA

Oświadczenie to złożono po niedawnym powołaniu historyka Yuvala Noaha Harariego i byłego dyrektora generalnego firmy Rolls-Royce, Sir Johna Rose'a, do zarządu jego laboratorium bezpieczeństwa sztucznej inteligencji.

Pod presją opinii publicznej i kręgów politycznych platforma społecznościowa X ogłosiła, że ​​zabroniła Grokowi edytowania zdjęć prawdziwych osób w skąpych ubraniach, takich jak bikini, również na kontach płatnych.

Według Bengio, część rozwiązania leży w lepszym zarządzaniu, w tym w zatrudnianiu w zarządach spółek osób kierujących się zasadami etycznymi.

Oprócz Harariego i Rose, mianował Marię Eitel, założycielkę Fundacji Nike, na stanowisko prezesa laboratorium bezpieczeństwa LawZero, które założył w zeszłym roku.

Bengio został okrzyknięty „ojcem chrzestnym sztucznej inteligencji” po otrzymaniu Nagrody Turinga w 2018 roku – nagrody uważanej za Nagrodę Nobla w branży komputerowej. Dzielił ten zaszczyt z Geoffreyem Hintonem i Yannem LeCunem (przewodniczącym ds. sztucznej inteligencji w Meta).

Były premier Szwecji Stefan Löfven będzie pierwszym członkiem globalnej rady doradczej organizacji. Tymczasem historyk Harari, autor książki * Sapiens: Krótka historia ludzkości *, jest znanym głosem, który często ostrzega przed rozwojem sztucznej inteligencji, ostatnio w swojej książce *Nexus*.

„To nie jest tylko techniczna dyskusja dla pionierskich firm z branży sztucznej inteligencji” – podkreślił Bengio. „Problem tkwi w tym, jakie wybory uznaje się za etycznie słuszne”.

Bengio, który jest obecnie profesorem informatyki na Uniwersytecie w Montrealu, zebrał 35 milionów dolarów (około 26 milionów funtów) na rzecz LawZero.

Organizacja ta opracowuje system o nazwie Scientist AI, który działa równolegle z systemami autonomicznymi – znanymi również jako agenci AI – w celu wykrywania potencjalnie szkodliwych zachowań.

Potwierdził, że struktura zarządu opiera się na idei gromadzenia ludzi o wysokich wartościach moralnych. Pomogą oni LawZero w realizacji misji dostarczania bezpiecznych rozwiązań inżynierii systemów AI już na etapie projektowania.

W zeszłym miesiącu Bengio ostrzegał również przed wzmacnianiem sztucznej inteligencji, argumentując, że technologia ta wykazuje oznaki samozachowawczości – co jest poważnym problemem dla zwolenników bezpieczeństwa sztucznej inteligencji. Podkreślił, że nie należy uniemożliwiać ludziom „odłączania” tych systemów w razie potrzeby.

(Według The Guardian)

Dwa kraje tymczasowo zakazały korzystania z chatbota Grok Elona Muska : Rządy Indonezji i Malezji ogłosiły, że tymczasowo zablokowały dostęp do Grok, chatbota opracowanego przez xAI Elona Muska, po rozpowszechnieniu materiałów pornograficznych.

Source: https://vietnamnet.vn/bo-gia-ai-len-tieng-ve-be-boi-anh-khieu-dam-cua-grok-2482400.html