Ketua Pegawai Eksekutif Anthropic memberi amaran tentang bencana keselamatan siber, dunia hanya mempunyai 12 bulan lagi.

Ketua Pegawai Eksekutif Anthropic memberi amaran bahawa dunia hanya mempunyai 6-12 bulan untuk menambal puluhan ribu kelemahan perisian yang ditemui oleh model AI Mythos sebelum AI China mengejar ketinggalan.

Ketua Pegawai Eksekutif Anthropic, Dario Amodei menyatakan bahawa Mythos – model AI terkini syarikat – telah mengesan puluhan ribu kelemahan dalam perisian kritikal. Terutamanya, beliau memberi amaran bahawa kerajaan , syarikat teknologi dan bank hanya mempunyai 6-12 bulan untuk menyelesaikan isu-isu ini sebelum AI China mengejar ketinggalan.

Model terkini Anthropic telah mengesan puluhan ribu kelemahan dalam perisian kritikal. Foto: Bloomberg

Komen-komen ini dibuat di acara Anthropic pada 5 Mei, di mana Amodei muncul bersama Ketua Pegawai Eksekutif JPMorgan Chase, Jamie Dimon dan mengumumkan pembantu AI baharu yang direka untuk mengautomasikan tugas kewangan.

"Bahayanya terletak pada peningkatan besar dalam bilangan kerentanan, pelanggaran dan kerugian kewangan yang disebabkan oleh ransomware kepada sekolah, hospital, apatah lagi bank," tegas Amodei.

Anthropic mempunyai akses terhad kepada Mythos kepada beberapa syarikat rakan kongsi terpilih disebabkan oleh kebimbangan tentang apa yang boleh dieksploitasi oleh penjenayah atau negara musuh. Walaupun kemas kini model syarikat sebelum ini telah diterima baik di pasaran, Mythos ialah produk yang telah menyebabkan kebimbangan paling besar di kalangan perniagaan dan pembuat dasar.

Skala kerentanan yang boleh dieksploitasi telah melonjak dengan setiap generasi Claude. Model Anthropic terdahulu menemui sekitar 20 kerentanan dalam pelayar Firefox. Walau bagaimanapun, Mythos telah menemui hampir 300 kelemahan, dan jumlah keseluruhan kerentanan merentasi semua perisian kini mencecah puluhan ribu.

Kebanyakan kelemahan yang ditemui oleh Mythos masih belum diterbitkan kerana ia belum ditambal dan "pelaku berniat jahat akan mengeksploitasinya" jika ia dikenal pasti.

Walaupun begitu, Amodei dan Dimon melahirkan rasa optimis – tetapi dengan syarat.

"Ini adalah saat yang berbahaya, tetapi jika kita bertindak balas dengan betul, kita boleh bergerak ke arah dunia yang lebih baik di seberang sana," kata Amodei.

Encik Dimon juga menyatakan bahawa walaupun kebimbangan mengenai ruang siber adalah wajar sepenuhnya, risiko keselamatan siber yang dicipta oleh AI hanyalah "fasa peralihan".

Berkenaan peraturan, Amodei berhujah bahawa pengawasan AI harus serupa dengan yang ada dalam industri automotif, mencapai keseimbangan antara keselamatan pengguna dan membolehkan industri bersaing.

"Anda tidak boleh memulakan syarikat pembuatan kereta begitu sahaja tanpa bertanya kepada diri sendiri, 'Adakah kereta ini mempunyai brek?' Kita perlu mencari proses yang membolehkan industri beroperasi dengan cepat dan adil, tetapi masih meletakkan halangan terhadap masalah yang paling serius," hujahnya.

(Menurut CNBC)

Sebuah bank memendekkan masa pemprosesan penilaian kreditnya daripada 5 hari kepada setengah hari hasil daripada AI . AI telah membantu sebuah bank Vietnam mengurangkan masa yang diperlukan untuk memproses permohonan kredit daripada 5 hari kepada kira-kira setengah hari, tetapi penggunaan teknologi ini menimbulkan cabaran yang ketara berkaitan keselamatan data dan pengurusan sumber manusia.

Sumber: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html