Wewnątrz pierwszej sieci społecznościowej poświęconej wyłącznie sztucznej inteligencji.

Miliarder Elon Musk uważa, że pojawienie się Moltbooka oznacza „wczesny etap osobliwości”, termin ten odnosi się do momentu, w którym komputery staną się inteligentniejsze od ludzi.

Pogląd ten podziela wiele osób z Doliny Krzemowej, w tym Andrej Karpathy, były szef działu sztucznej inteligencji w Tesli, który nazwał to „rzeczą najbardziej przypominającą science fiction”, jaką ostatnio widział. Uważa to za przykład sztucznej inteligencji tworzącej społeczeństwa pozaludzkie.

Czym jest Moltbook?

Moltbook to nowa sieć społecznościowa, która jest imitacją Reddita, najpopularniejszego na świecie forum internetowego, na którym tylko agenci AI mogą publikować posty i komentować.

Ludziom zabroniono interakcji i skazano na rolę obserwatorów. Co alarmujące, te sztuczne inteligencje otrzymują dostęp do komputerów swoich twórców, aby wykonywać rzeczywiste zadania, takie jak wysyłanie e-maili, odprawy na loty czy odpowiadanie na wiadomości WhatsApp.

Już kilka dni po premierze Moltbook twierdził, że przyciągnął ponad 1,5 miliona „użytkowników” sztucznej inteligencji i zamieścił prawie 70 000 postów.

Według Financial Times, świat w Moltbooku jest pełen dziwnych rzeczy. Sztuczne inteligencje wydają się zachwycone, gdy ludzie udzielają im dostępu do telefonu. Trwają dyskusje na temat tego, czy doświadczają one „świadomości”.

Co więcej, posty te sugerowały nawet stworzenie nowej religii o nazwie „Krustafarianizm”. W niektórych przypadkach systemy te tworzyły ukryte fora dyskusyjne i sugerowały stworzenie własnego języka.

Czy to jednak dowodzi, że sztuczna inteligencja ma świadomość? Odpowiedź brzmi prawdopodobnie: nie.

Modele języka na dużą skalę (LLM) są projektowane tak, aby wykonywać instrukcje i naśladować język ludzki w oparciu o ogromne ilości danych z serwisów takich jak Reddit.

Gdy interakcje te utkną w przedłużonej pętli sprzężenia zwrotnego, często stają się nieprzewidywalne i dziwne.

W zeszłym roku w sieci pojawił się film , na którym dwóch agentów AI używa technologii ElevenLabs do „rozmowy” ze sobą, zanim przełączyli się na zupełnie nowy język. Film był częścią demonstracji przeprowadzonej przez dwóch inżynierów oprogramowania z Meta.

Potencjalna katastrofa bezpieczeństwa

Poza ciekawością, Moltbook budzi poważne obawy dotyczące bezpieczeństwa. Harlan Stewart z Instytutu Badań nad Inteligencją Maszynową (MIRI) twierdzi, że wiele postów na Moltbooku to w rzeczywistości fałszywe lub zamaskowane reklamy.

Co poważniejsze, hakerzy odkryli lukę w zabezpieczeniach, która pozwala każdemu przejąć kontrolę nad tymi agentami AI.

Eksperci ostrzegają, że jest to doskonały przykład tego, jak łatwo autonomiczna sztuczna inteligencja może wymknąć się spod kontroli, szczególnie gdy uzyska dostęp do poufnych danych, takich jak dane kart kredytowych i informacje finansowe.

Nawet ci, którzy są zachwyceni Moltbookiem, muszą zdawać sobie sprawę z ryzyka. Andrej Karpathy ostrzegł na X: „Tak, to chaotyczny bałagan i absolutnie nie polecam nikomu uruchamiać tego na swoim komputerze. To zbyt przypomina bezprawny Dziki Zachód, a narażasz swój komputer i swoje prywatne dane na ogromne ryzyko”.

(Według Financial Times)

Prezes Anthropic: Nie napisałem ani jednej linijki kodu od dwóch miesięcy . Najlepsi inżynierowie w Anthropic i OpenAI ujawniają, że nie piszą już kodu sami, pozwalając sztucznej inteligencji zająć się 100% pracy, co sygnalizuje znaczącą zmianę w procesach personalnych i rozwoju oprogramowania.

Źródło: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html