[GALERI] Amazon dikejutkan oleh penipuan AI senilai $200 miliar, karyawan bergegas membangun bot.

Amazon menghapus peringkat AI-nya setelah menemukan bahwa karyawan membuat tugas-tugas yang tidak perlu dan menggunakan bot untuk memenuhi KPI, yang menyebabkan biaya operasional meroket.

Amazon menghadapi pelajaran mahal dalam perjalanannya mempromosikan aplikasi kecerdasan buatan karena banyak karyawan ditemukan memanfaatkan alat AI untuk "mengumpulkan poin" alih-alih menciptakan nilai nyata bagi bisnis.

Semuanya berawal dari Kirorank, sebuah sistem peringkat internal yang dibangun untuk melacak penggunaan AI oleh karyawan pada platform pemrograman Kiro, dengan tujuan mendorong tim teknik untuk dengan cepat mengenal dan menerapkan teknologi baru tersebut dalam pekerjaan sehari-hari mereka.

Namun, alih-alih fokus pada peningkatan produktivitas, beberapa karyawan justru berusaha menaiki peringkat dengan menugaskan agen AI untuk melakukan serangkaian tugas yang tidak perlu, menciptakan interaksi palsu semata-mata untuk meningkatkan konsumsi token dan meningkatkan kinerja pribadi mereka di papan peringkat.

Menurut sumber internal, situasi ini menyebabkan peningkatan tajam dalam biaya operasional sistem AI, memaksa Amazon untuk memutuskan menghentikan Kirorank setelah menyadari bahwa alat tersebut, yang awalnya dibuat dengan niat positif, secara tidak sengaja telah menjadi pendorong perilaku yang berorientasi pada KPI dan pemborosan sumber daya.

Dave Treadwell, wakil presiden senior Amazon, secara langsung memperingatkan karyawan agar tidak menggunakan AI hanya untuk pamer, menekankan bahwa nilai sebenarnya harus berasal dari efisiensi kerja dan kualitas produk yang dihasilkan.

Tekanan untuk menggunakan AI di Amazon diyakini berasal dari persyaratan manajemen, di mana lebih dari 80% programmer perlu menerapkan AI setiap minggu, menciptakan lingkungan kompetitif yang mendorong banyak orang untuk mencari cara "melanggar aturan" agar dapat memenuhi target evaluasi kinerja.

Perkembangan ini terjadi ketika Amazon bersiap untuk menghabiskan sekitar $200 miliar untuk investasi modal, sebagian besar untuk infrastruktur pusat data dan proyek AI, sementara biaya penggunaan pemodelan bahasa skala besar meningkat karena banyak penyedia beralih ke penetapan harga berdasarkan penggunaan.

Untuk mengatasi masalah ini, Amazon telah menerapkan sistem evaluasi baru yang disebut "penyebaran ternormalisasi," yang berfokus pada pengukuran efektivitas aktual dari cuplikan kode dan produk yang dibuat menggunakan AI. Hal ini membantu mengekang "pengumpulan poin virtual" dan memastikan bahwa investasi besar-besaran dalam kecerdasan buatan menghasilkan nilai bisnis yang berkelanjutan.

Sumber: https://khoahocdoisong.vn/gallery-amazon-soc-vi-cu-lua-ai-200-ty-usd-nhan-vien-dua-nhau-cay-bot-post2149102532.html