Sztuczna inteligencja: Musimy zwiększyć bezpieczeństwo, zamiast skupiać się tylko na rozwijaniu silniejszej inteligencji

Zamiast skupiać się wyłącznie na rozwijaniu sztucznej inteligencji, by stała się ona potężniejsza, wpływowi światowi eksperci w dziedzinie sztucznej inteligencji ostrzegają, że ludzie muszą pilnie zastanowić się nad tym, jak żyć ze sztuczną inteligencją – bytem mądrzejszym od nich samych, uniemożliwiającym jej przejęcie kontroli nad ludźmi.

Panel dyskusyjny „Sztuczna inteligencja dla ludzkości: etyka i bezpieczeństwo sztucznej inteligencji w nowej erze” odbywający się w ramach Tygodnia Nauki i Technologii VinFuture 2025 gromadzi naukowców , polityków i wynalazców, aby dyskutować o odpowiedzialnym rozwoju sztucznej inteligencji w kierunku wartości humanistycznych.

Zastanów się pilnie, jak żyć ze sztuczną inteligencją – bytem mądrzejszym od Ciebie

Wypowiadając się na seminarium, profesor Toby Walsh z Uniwersytetu Nowej Południowej Walii w Australii, członek Amerykańskiego Stowarzyszenia Komputerowego, stwierdził: „Jestem głęboko przekonany, że odpowiedzialne korzystanie ze sztucznej inteligencji powinno być obowiązkowe. Obecnie istnieje wiele nieuczciwych bodźców, a ogromne zyski są generowane dzięki sztucznej inteligencji, a jedynym sposobem na zapewnienie właściwego zachowania jest stosowanie surowych przepisów, tak aby interesy publiczne zawsze równoważyły ​​interesy komercyjne”.

Przytoczył typowy przykład ważnych decyzji, takich jak orzekanie i wydawanie wyroków w Stanach Zjednoczonych, gdzie system sztucznej inteligencji był wykorzystywany do formułowania rekomendacji dotyczących kary pozbawienia wolności i prawdopodobieństwa ponownego popełnienia przestępstwa. Niestety, system ten został wyszkolony na danych historycznych i nieumyślnie odzwierciedlał przeszłe uprzedzenia rasowe, co prowadziło do dyskryminacji osób czarnoskórych.

Profesor Toby Walsh, Uniwersytet Nowej Południowej Walii, Australia, członek Amerykańskiego Towarzystwa Komputerowego.

Dlatego firmy wdrażające i obsługujące systemy AI muszą ponosić odpowiedzialność za konsekwencje, jakie powodują te „maszyny”.

Profesor Geoffrey Hinton – laureat głównej nagrody VF 2024 – jest zaniepokojony stopniowym doskonaleniem sztucznej inteligencji w projektowaniu niebezpiecznych wirusów, cyberatakach i tworzeniu fałszywych filmów wideo w celu zakłócania wyborów. W ciągu najbliższych 20 lat sztuczna inteligencja stanie się mądrzejsza od nas, a my nie będziemy wiedzieć, jak zapobiec przejęciu przez nią kontroli nad ludźmi.

Dlatego profesor podkreślił: „Musimy pilnie zastanowić się nad tym, jak żyć z bytami mądrzejszymi od nas. To sytuacja, z którą ludzkość nigdy wcześniej się nie spotkała, jest nowa i musimy poczynić wiele wysiłków badawczych, zanim to nastąpi”.

Potrzeba wzmocnienia współpracy międzynarodowej w celu ograniczenia ryzyka związanego ze sztuczną inteligencją

Podzielając te obawy, profesor Yoshua Bengio – laureat głównej nagrody VinFuture 2024 – stwierdził, że modele sztucznej inteligencji, ich możliwości i poziom autonomii wciąż rozwijają się w szybkim i stabilnym tempie. Jeśli ten trend się utrzyma, autonomiczne systemy sztucznej inteligencji mogą prześcignąć ludzi w większości zadań kognitywnych w ciągu zaledwie 5–10 lat.

Byłby to historyczny punkt zwrotny, który mógłby radykalnie poprawić jakość naszego życia. Jeśli jednak nie zostanie potraktowany z ostrożnością, może również stanowić ogromne zagrożenie dla demokracji, stabilności geopolitycznej, a nawet przyszłości ludzkości.

„Musimy zwiększyć bezpieczeństwo zaawansowanej sztucznej inteligencji, zamiast skupiać się tylko na jej wzmacnianiu. Bezpieczeństwo i zaufanie nie są czynnikami drugorzędnymi, lecz niezbędnymi w procesie rozwoju ku dobru ludzkości. Musimy działać wspólnie zarówno na poziomie politycznym, jak i naukowym” – powiedział.

Profesor Yoshua Bengio - zwycięzca głównej nagrody VinFuture 2024.

Ten naukowiec zaleca, aby w kwestiach politycznych świat potrzebował współpracy międzynarodowej. Z naukowego punktu widzenia konieczne jest lepsze zrozumienie, jak projektować sztuczną inteligencję, która będzie jednocześnie przewyższać ludzi pod względem możliwości i nieszkodliwa dla nich, jak zachować możliwość kontrolowania sztucznej inteligencji, aby zachowywała się bezpiecznie, nawet gdy ludzie proszą ją o złe zachowanie, oraz jak budować bariery techniczne i społeczne, aby zapewnić zgodność sztucznej inteligencji z ludzkimi normami, intencjami, wartościami i interesami.

Dr Vinton Grey Cert (wiceprezes i dyrektor ds. ewangelizacji internetowej w Google – laureat nagrody głównej VF 2022) zgadza się: Musimy pociągnąć sztuczną inteligencję do odpowiedzialności i ustanowić łańcuch dowodowy, aby wiedzieć, co i kiedy robi, zwłaszcza gdy coś pójdzie nie tak. Wiele zasad, które odnoszą się do ludzi, będzie miało również zastosowanie do agentów sztucznej inteligencji w środowisku online.

„Musimy jednocześnie ustanowić nowe normy, w których stosowanie silnej identyfikacji, kryptografii do zabezpieczania informacji, stosowanie mechanizmów zapewniających rozliczalność i ochronę tożsamości przed przejęciem przez osoby trzecie – stanie się nawykiem. Powinniśmy od samego początku wykorzystywać technologię do ograniczania ryzyka i jasno określić, że każdy, kto okaże się szkodliwy dla społeczności i społeczeństwa, musi ponieść konsekwencje swoich zachowań. Wymaga to współpracy międzynarodowej” – powiedział.

Wietnam musi znaleźć własną ścieżkę w budowaniu danych dotyczących sztucznej inteligencji.

Docent Luu Anh Tuan z Uniwersytetu Technologicznego Nanyang (Singapur) i Uniwersytetu VinUni (Wietnam) powiedział, że inne kraje dysponują zbiorami danych obejmującymi około 10 lat, podczas gdy Wietnam zaczyna od zera. Dlatego możemy budować zrównoważone dane od samego początku, dostarczając czyste, etyczne i kulturowo właściwe dane od samego początku.

Jednak największym wyzwaniem dla Wietnamu jest specyfika języka wietnamskiego. Mamy zróżnicowany system dialektów, bogatą kulturę regionalną i niezwykle złożone formy zwracania się. Duże modele, takie jak ChatGPT czy Gemini, wspierają język wietnamski, ale jakość nie jest wysoka, ponieważ nie rozumieją wietnamskiego dialektu, zwyczajów ani historii.

Wietnam musi zbudować swój własny wietnamski model. Ponadto powinniśmy opracować model open source, z którego małe firmy będą mogły korzystać i wnosić swój wkład. „Jeśli będziemy polegać wyłącznie na zagranicznych modelach w formie «czarnych skrzynek», będziemy jedynie użytkownikami sztucznej inteligencji , a nie jej twórcami” – powiedział.

Obecnie profesor nadzwyczajny Luu Anh Tuan i jego współpracownicy tworzą dane dotyczące wietnamskiej sztucznej inteligencji. Należy skupić się na takich czynnikach jak dialekt, historia i kultura.

Powiedział również, że w innych krajach uczniowie są edukowani o sztucznej inteligencji bardzo wcześnie. Wietnam dopiero zaczyna to robić, ale możemy przyspieszyć, ucząc się i odpowiednio dostosowując.

„Młodzi Wietnamczycy są bardzo dynamiczni; potrzebują jedynie gruntownej edukacji w zakresie odpowiedzialności cyfrowej. Powinniśmy powołać jednolity organ, który będzie potwierdzał i ujednolicał jakość danych oraz standardy etyczne. VinUni również uczestniczy w pracach rady, której celem jest stworzenie systemu standardów etycznych, i będzie nadal wnosić wkład w ten proces” – powiedział.

Docent Luu Anh Tuan, Nanyang Technological University (Singapur), VinUni University (Wietnam).

W odpowiedzi na strategię bezpośrednich inwestycji zagranicznych (FDI), która zakłada, że ​​Wietnam do 2030 roku stanie się liderem regionu w dziedzinie sztucznej inteligencji (AI), profesor nadzwyczajny Tuan uważa, że ​​Wietnam dysponuje wysokiej jakości zasobami ludzkimi, czego dowodem są międzynarodowe osiągnięcia w dziedzinie matematyki, fizyki i chemii. Jeśli będziemy potrafili zgromadzić siły i prowadzić zdecydowaną politykę, cel na rok 2030 może zostać w pełni osiągnięty.

Profesor Toby Walsh zaleca, aby Wietnam inwestował w ludzi i proaktywnie rozwijał ich umiejętności, dbał o to, by rozumieli sztuczną inteligencję; wspierał przedsiębiorców, firmy i uniwersytety zajmujące się sztuczną inteligencją. Zamiast czekać, aż inne kraje przekażą nam technologię lub nas poprowadzą, musimy działać proaktywnie i opanować tę technologię.

Ponadto Wietnam musi mocno zmobilizować platformy społecznościowe, aby stworzyć bezpieczne środowisko dla użytkowników krajowych, nie szkodząc przy tym demokracji.

THAO LE-THIEN LAM

Źródło: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html