Bisnis 'terkena peluru' karena menyalahgunakan AI

Persaingan AI merupakan tren yang tak terelakkan saat ini. Namun, integrasi chatbot perlu diterapkan secara hati-hati untuk menghindari penolakan publik.

Duolingo menerima ulasan negatif untuk model AI-nya yang baru. Foto: Unsplash .

Sejak diluncurkan hampir 3 tahun lalu, ChatGPT telah menciptakan demam AI dan mendorong bisnis untuk mengintegrasikan teknologi ini ke dalam produk dan layanan mereka. Banyak perusahaan percaya bahwa AI telah membantu mereka mengoptimalkan biaya, meningkatkan efisiensi, dan bahkan mengubah alur kerja mereka sepenuhnya.

Namun, penggunaan kecerdasan buatan cukup sensitif, dan jika tidak dilakukan dengan benar, dapat merusak reputasi. Banyak bisnis berpengaruh telah menerima kritik dari publik karena menyalahgunakan AI tanpa kendali. Hal ini menunjukkan bahwa pandangan pengguna tentang etika semakin tajam.

Ketika integrasi AI menjadi bumerang

Lebih dari seminggu yang lalu, aplikasi pembelajaran bahasa populer global Duolingo menghapus semua konten media sosialnya, mengganti karakter-karakter utamanya dengan burung hantu bermata tiga yang pemberontak, mengenakan hoodie, dan lain-lain. Pada 26 Mei, merek tersebut telah memulihkan unggahan aslinya.

Langkah ini diambil setelah perusahaan mengumumkan akan beralih ke model "AI-first" dalam sebuah postingan LinkedIn pada bulan April. Postingan tersebut menyertakan tangkapan layar email dari CEO Luis von Ahn yang ditujukan untuk seluruh perusahaan, yang membandingkan langkah tersebut dengan transisi dari desktop ke seluler pada tahun 2012.

Namun, tidak semua orang senang. Beberapa pengguna mengkritik perusahaan karena lebih mengutamakan kuantitas daripada kualitas. Secara global, diskusi seputar isu ini memiliki rasio sentimen 24,5% positif dan 41,1% negatif, menurut firma analitik media CARMA.

Pendapat juga terbagi dalam industri game, di mana integrasi AI hampir menjadi hal yang lumrah. Dalam pembaruan terbaru Fortnite, Epic Games, perusahaan pemilik game tersebut, menguji karakter Darth Vader yang sepenuhnya dikendalikan AI dan berinteraksi dengan pemain lain melalui percakapan.

Darth Vader menggunakan bahasa yang menyinggung pemain lain di Fortnite. Foto: Selengkapnya SypherPK/YouTube.

Tujuannya adalah membuat karakter-karakter dalam game lebih cerdas dan realistis. Namun, Darth Vader, yang terinspirasi oleh karakter Star Wars, mulai mengucapkan hal-hal aneh atau mengumpat, bahkan menghina pemain lain. Hal ini menunjukkan bahwa karakter AI tersebut berada di luar kendali Epic, dan perusahaan harus segera memperbaiki bug tersebut.

Contoh lain adalah Toei Animation, studio animasi ternama di balik One Piece, yang berencana mengintegrasikan AI ke dalam produksi. Sebuah laporan dari Screenrant menunjukkan bahwa kecerdasan buatan akan dilibatkan dalam proses sketsa awal, pewarnaan, pembuatan latar belakang, dan animasi karakter.

Niat ini langsung ditentang oleh komunitas penggemar, dengan klaim bahwa hal itu akan memengaruhi kualitas dan orisinalitas Toei. Studio tersebut harus meninjau laporan tersebut dan mengklarifikasi bahwa mereka masih memiliki niat tersebut, tetapi saat ini semua langkah di atas dilakukan oleh manusia.

Apa yang harus dilakukan jika Anda masih ingin menggunakan AI?

"Transparansi dan fokus pada pelanggan adalah fondasi untuk membangun strategi AI yang efektif," ujar Anjul Bhambhri, wakil presiden senior Adobe Experience Cloud. Jika Anda menggunakan AI dalam operasional Anda, Anda harus terbuka kepada mitra Anda.

Pengguna akan lebih fokus pada nilai, hasil, bukan proses. Alih-alih menekankan penggunaan AI, bicarakan manfaat spesifik seperti penghematan waktu, peningkatan kualitas layanan, atau harga yang lebih terjangkau.

Tim pengembang game nasional Candy Crush Saga menyatakan bahwa mereka telah menerapkan AI sebagai "teknisi logistik". Todd Green, Manajer Umum merek tersebut, mengatakan bahwa tanpa bantuan AI, mereka tidak akan mampu memastikan pengalaman bermain yang baik bagi para pemain di lebih dari 18.000 level, sekaligus menciptakan level-level baru.

AI dibutuhkan untuk memastikan kualitas lebih dari 18.000 level. Foto: Candy Crush/Youtube.

Lebih lanjut, AI seharusnya melengkapi, bukan sepenuhnya menggantikan, manusia, terutama di bidang-bidang yang membutuhkan empati atau kreativitas. Pengguna tidak membenci AI, mereka tidak suka perasaan digantikan atau ditipu.

Bagi sektor budaya, penerapan AI perlu diimplementasikan secara perlahan dan mendengarkan masukan. Darth Vader, atau One Piece, adalah bagian dari kenangan masa kecil banyak orang. Ketika AI menghancurkan citra tersebut, publik akan merasa tersinggung. Penentangan terhadap Toei Animation yang menggunakan AI berasal dari kekhawatiran bahwa seni anime akan kehilangan kualitas dan esensi inherennya, menurut analisis Indiatimes .

Saat menerapkan teknologi ini pada aktivitas seperti layanan pelanggan, pembuatan konten, dan personalisasi pengalaman, penting untuk memprioritaskan etika dan keamanan. Bisnis juga membutuhkan kebijakan yang jelas tentang privasi data, menghindari bias, dan memastikan operasi yang adil.

Pelanggan memahami fakta bahwa AI semakin penting bagi pesaing mereka. Namun, alih-alih menghindarinya, perusahaan sebaiknya belajar menggunakan kecerdasan buatan secara bijak, sebagai bagian alami dari peningkatan layanan, bukan sebagai strategi pemasaran yang kontroversial.

Sumber: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html