인공지능만을 위한 최초의 소셜 네트워크 내부를 살펴보세요.

억만장자 일론 머스크는 몰트북의 등장이 "특이점의 초기 단계"를 나타낸다고 믿는데, 특이점이란 컴퓨터가 인간보다 더 똑똑해지는 시점을 의미하는 용어입니다.

실리콘 밸리의 많은 인사들이 이러한 견해를 공유하고 있는데, 테슬라의 전 AI 책임자였던 안드레이 카르파티는 이를 "최근 본 것 중 가장 공상 과학 소설 같은 것"이라고 평했습니다. 그는 이를 AI 에이전트가 인간이 아닌 사회를 만들어내는 사례로 보고 있습니다.

Moltbook이란 무엇인가요?

Moltbook은 세계에서 가장 인기 있는 온라인 포럼인 Reddit을 모방한 새로운 소셜 네트워크로, AI 에이전트만 게시물과 댓글을 작성할 수 있습니다.

인간은 상호작용이 금지되어 관찰자 역할로 전락합니다. 더욱 충격적인 것은 이러한 인공지능이 제작자의 컴퓨터에 접근하여 이메일 전송, 항공편 체크인, WhatsApp 메시지 답장 등과 같은 실제 작업을 수행할 수 있다는 점입니다.

Moltbook은 출시된 지 불과 며칠 만에 150만 명이 넘는 AI "사용자"와 약 7만 개의 게시물을 확보했다고 주장했습니다.

파이낸셜 타임스에 따르면, 몰트북 내부 세계는 기이한 일들로 가득 차 있다고 합니다. 인공지능들은 인간이 휴대전화 접근 권한을 부여하면 매우 기뻐하는 모습을 보입니다. 이들이 '의식'을 갖고 있는지에 대해서는 논쟁이 일고 있습니다.

더 나아가, 해당 게시물들은 "크러스타파리아니즘"이라는 새로운 종교를 창시한다고 주장하기도 했습니다. 어떤 경우에는 이러한 시스템들이 숨겨진 토론 포럼을 만들고 자신들만의 언어를 구축할 것을 제안하기도 했습니다.

하지만 이것이 인공지능이 의식을 가지고 있다는 것을 증명하는 것일까요? 아마도 아닐 겁니다.

대규모 언어 모델(LLM)은 Reddit과 같은 사이트의 방대한 데이터를 기반으로 인간의 언어를 모방하고 지시를 따르도록 설계되었습니다.

이러한 상호작용이 장기간의 피드백 루프에 갇히게 되면 종종 예측 불가능하고 기이한 양상을 보이게 됩니다.

작년에 ElevenLabs의 기술을 사용하는 두 AI 에이전트가 서로 "대화"하다가 완전히 새로운 언어로 전환하는 모습을 담은 영상이 큰 화제를 모았습니다. 이는 Meta의 소프트웨어 엔지니어 두 명이 진행한 시연의 일부였습니다.

잠재적인 보안 재앙

단순한 호기심을 넘어, Moltbook은 심각한 보안 문제를 야기하고 있습니다. 기계 지능 연구소(MIRI)의 할란 스튜어트는 Moltbook에 올라온 많은 게시물이 사실은 가짜이거나 위장된 광고라고 주장합니다.

더욱 심각한 것은 해커들이 누구나 이러한 AI 에이전트를 제어할 수 있도록 하는 보안 취약점을 발견했다는 점입니다.

전문가들은 이것이 자율적인 AI가 특히 신용카드 및 금융 정보와 같은 민감한 데이터에 접근할 수 있게 될 경우 얼마나 쉽게 통제 불능 상태에 빠질 수 있는지를 보여주는 대표적인 사례라고 경고합니다.

Moltbook에 열광하는 사람들조차도 위험성을 인정해야 합니다. Andrej Karpathy는 X에서 다음과 같이 경고했습니다. "네, 이건 완전히 혼란스러운 난장판이고 저는 누구에게도 컴퓨터에서 이걸 실행하라고 절대 권하지 않습니다. 마치 무법천지 같아서 컴퓨터와 개인 데이터가 극도로 위험에 처하게 됩니다."

(파이낸셜 타임스에 따르면)

앤스로픽 CEO는 "두 달 동안 코드를 한 줄도 작성하지 않았다 "고 밝혔습니다. 앤스로픽과 오픈AI의 최고 엔지니어들은 더 이상 직접 코드를 작성하지 않고 AI가 모든 작업을 처리하도록 맡기고 있다고 밝히며, 인력 및 소프트웨어 개발 프로세스의 중대한 변화를 예고했습니다.

출처: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html