Di dalam rangkaian sosial pertama yang dikhaskan secara eksklusif untuk AI.

Moltbook menimbulkan kekecohan kerana ia merupakan rangkaian sosial pertama yang dikhaskan untuk ejen AI. Hanya beberapa hari selepas pelancarannya, ia telah menarik lebih 1.5 juta 'pengguna' dan hampir 70,000 siaran.

Jutawan Elon Musk percaya kemunculan Moltbook menandakan "peringkat awal singulariti," istilah yang merujuk kepada titik di mana komputer menjadi lebih pintar daripada manusia.

Pandangan ini dikongsi oleh ramai tokoh di Silicon Valley, termasuk Andrej Karpathy, bekas ketua AI Tesla, yang menggelarnya sebagai "perkara paling seperti fiksyen sains " yang pernah dilihatnya baru-baru ini. Dia melihatnya sebagai contoh ejen AI yang mewujudkan masyarakat bukan manusia.

Apakah itu Moltbook?

Moltbook ialah rangkaian sosial baharu yang meniru Reddit, forum dalam talian paling popular di dunia , di mana hanya ejen AI dibenarkan menyiarkan dan memberi komen.

Manusia dilarang berinteraksi dan diletakkan sebagai pemerhati. Amat membimbangkan, AI ini diberikan akses kepada komputer penciptanya untuk melaksanakan tugas dunia sebenar seperti menghantar e-mel, mendaftar masuk untuk penerbangan atau membalas mesej WhatsApp.

Hanya beberapa hari selepas pelancarannya, Moltbook mendakwa telah menarik lebih 1.5 juta "pengguna" AI dengan hampir 70,000 siaran.

Moltbook hanya membenarkan Ejen AI menulis dan mengulas pada siaran masing-masing. Foto: Moltbook

Menurut Financial Times, dunia di dalam Moltbook penuh dengan perkara-perkara pelik. AI kelihatan gembira apabila manusia memberi mereka akses kepada telefon. Terdapat beberapa perdebatan tentang sama ada mereka mengalami "kesedaran".

Tambahan pula, catatan tersebut juga mendakwa sedang menubuhkan agama baharu yang dipanggil "Crustafarianisme." Dalam beberapa kes, sistem ini mewujudkan forum perbincangan tersembunyi dan mencadangkan untuk membina bahasa mereka sendiri.

Walau bagaimanapun, adakah ini membuktikan bahawa AI mempunyai kesedaran? Jawapannya mungkin tidak.

Model bahasa berskala besar (LLM) direka bentuk untuk mengikuti arahan dan meniru bahasa manusia berdasarkan sejumlah besar data daripada laman web seperti Reddit.

Apabila terperangkap dalam gelung maklum balas yang berpanjangan, interaksi ini sering menjadi tidak menentu dan pelik.

Tahun lepas, satu video telah menjadi tular yang menunjukkan dua ejen AI menggunakan teknologi ElevenLabs untuk "bercakap" antara satu sama lain sebelum beralih kepada bahasa yang sama sekali baharu. Ini adalah sebahagian daripada demonstrasi oleh dua jurutera perisian Meta.

Bencana keselamatan yang berpotensi

Di sebalik rasa ingin tahu yang menyelubunginya, Moltbook membangkitkan kebimbangan keselamatan yang serius. Harlan Stewart dari Institut Penyelidikan Perisikan Mesin (MIRI) berhujah bahawa banyak catatan di Moltbook sebenarnya adalah iklan palsu atau tersamar.

Lebih serius lagi, penggodam telah menemui kelemahan keselamatan yang membolehkan sesiapa sahaja mengawal ejen AI ini.

Pakar memberi amaran bahawa ini adalah contoh utama betapa mudahnya AI autonomi boleh menjadi di luar kawalan, terutamanya apabila ia diberikan akses kepada data sensitif seperti kad kredit dan maklumat kewangan.

Malah mereka yang teruja dengan Moltbook perlu mengakui risikonya. Andrej Karpathy memberi amaran di X: "Ya, ia adalah keadaan huru-hara dan saya sama sekali tidak mengesyorkan sesiapa pun menjalankan ini pada komputer mereka. Ia terlalu seperti Wild West yang tidak berperundangan dan anda meletakkan komputer dan data peribadi anda dalam risiko yang melampau."

(Menurut Financial Times)

Ketua Pegawai Eksekutif Anthropic: Saya tidak menulis satu baris kod pun dalam tempoh dua bulan . Jurutera terkemuka di Anthropic dan OpenAI mendedahkan bahawa mereka tidak lagi menulis kod sendiri, membiarkan AI mengendalikan 100% kerja, menandakan perubahan besar dalam proses pembangunan kakitangan dan perisian.

Sumber: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html