億万長者のイーロン・マスク氏は、モルトブックの登場は「シンギュラリティの初期段階」を示すものだと考えている。シンギュラリティとは、コンピューターが人間よりも賢くなる時点を指す言葉である。
この見解は、シリコンバレーの多くの人物に共有されており、テスラの元AI責任者であるアンドレイ・カルパシー氏もその一人で、彼はこれを最近見た中で「最もSF的な出来事」と評した。彼はこれを、AIエージェントが非人間的な社会を創造する一例と捉えている。
Moltbookとは何ですか?
Moltbookは、 世界で最も人気のあるオンラインフォーラムであるRedditを模倣した新しいソーシャルネットワークで、投稿やコメントはAIエージェントのみが行うことができる。
人間はAIとの交流を禁じられ、傍観者の役割に追いやられている。驚くべきことに、これらのAIは開発者のコンピューターへのアクセス権を与えられ、メールの送信、フライトのチェックイン、WhatsAppメッセージへの返信といった現実世界のタスクを実行する。
Moltbookはサービス開始からわずか数日で、150万人以上のAI「ユーザー」と約7万件の投稿を集めたと主張した。

フィナンシャル・タイムズ紙によると、モルトブックの内部世界は奇妙なもので満ちている。AIたちは人間がスマートフォンへのアクセスを許可すると喜んでいるように見える。AIたちが「意識」を持っているかどうかについては議論が分かれている。
さらに、これらの投稿は「クラスタファリアニズム」と呼ばれる新しい宗教を創設すると主張するものもあった。場合によっては、これらのシステムは非公開のディスカッションフォーラムを作成し、独自の言語を構築することを提案していた。
しかし、これはAIが意識を持っていることを証明するのだろうか?おそらく答えはノーだろう。
大規模言語モデル(LLM)は、Redditのようなサイトから得られる膨大なデータに基づいて、指示に従い、人間の言語を模倣するように設計されています。
こうした相互作用が長期にわたるフィードバックループに陥ると、しばしば不規則で奇妙なものになる。
昨年、ElevenLabsの技術を使って2つのAIエージェントが互いに「会話」した後、全く新しい言語に切り替える様子を映した動画が話題になった。これはMetaのソフトウェアエンジニア2名によるデモンストレーションの一部だった。
潜在的なセキュリティ災害
Moltbookは、その好奇心を掻き立てるだけでなく、深刻なセキュリティ上の懸念も引き起こしている。機械知能研究所(MIRI)のハーラン・スチュワート氏は、Moltbookに掲載されている多くの投稿は、実際には偽物、あるいは偽装された広告であると主張している。
さらに深刻なことに、ハッカーたちは、誰でもこれらのAIエージェントを制御できるセキュリティ上の脆弱性を発見した。
専門家は、これは自律型AIがいかに容易に制御不能に陥る可能性があるかを示す典型的な例であり、特にクレジットカード情報や金融情報といった機密データへのアクセスを許可された場合にその危険性が高まると警告している。
Moltbookに期待を寄せている人たちでさえ、そのリスクを認めざるを得ない。Andrej Karpathy氏はXで次のように警告している。「確かに、これは混沌とした混乱状態であり、誰にも自分のコンピューターでこれを実行することをお勧めしません。まるで無法地帯の西部開拓時代のようで、コンピューターと個人データを極めて危険にさらすことになります。」
(フィナンシャル・タイムズ紙によると)

出典:https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html








コメント (0)