Companiile „primesc gloanțe” pentru abuzul de inteligență artificială

Duolingo primește feedback negativ pentru noul său model bazat pe inteligență artificială. Foto: Unsplash .

De la lansarea sa, acum aproape 3 ani, ChatGPT a creat o febră a inteligenței artificiale și a încurajat companiile să integreze această tehnologie în produsele și serviciile lor. Multe companii consideră că inteligența artificială le-a ajutat să optimizeze costurile, să crească eficiența și chiar să își schimbe complet fluxul de lucru.

Totuși, utilizarea inteligenței artificiale este destul de sensibilă, iar dacă nu este făcută corect, poate provoca daune mari reputației. Multe companii influente au primit critici din partea opiniei publice pentru abuzul fără control al inteligenței artificiale. Acest lucru arată că opiniile utilizatorilor cu privire la etică sunt din ce în ce mai dure.

Când integrarea inteligenței artificiale se întoarce împotriva ta

În urmă cu mai bine de o săptămână, aplicația Duolingo, populară la nivel global pentru învățarea limbilor străine, a șters tot conținutul de pe rețelele de socializare, înlocuind personajele obișnuite cu o bufniță rebelă, cu trei ochi, purtând un hanorac. Până pe 26 mai, brandul restaurase postările originale.

Mișcarea vine după ce compania a anunțat, într-o postare pe LinkedIn din aprilie, că va trece la un model „AI-first”. Postarea includea o captură de ecran a unui e-mail adresat întregii companii de la CEO-ul Luis von Ahn, care compara trecerea cu tranziția de la desktop la mobil din 2012.

Nu toată lumea este însă încântată. Unii utilizatori au criticat compania pentru că a preferat cantitatea în detrimentul calității. La nivel global, discuțiile pe această temă au un raport de sentiment pozitiv de 24,5% față de 41,1% negativ, potrivit firmei de analiză media CARMA.

Opiniile sunt împărțite și în industria jocurilor video, unde integrarea inteligenței artificiale este aproape normalizată. Într-o actualizare recentă a jocului Fortnite, Epic Games, compania care deține jocul, a testat un personaj Darth Vader complet controlat de inteligența artificială, care interacționa cu alți jucători în conversație.

Darth Vader folosește limbaj jignitor față de alți jucători din Fortnite. Foto: More SypherPK/YouTube.

Scopul era de a face personajele jocului mai inteligente și mai realiste. Cu toate acestea, Darth Vader, inspirat de personajul din Star Wars, a început să spună lucruri ciudate sau să înjure, ba chiar să insulte alți jucători. Acest lucru a arătat că personajul bazat pe inteligență artificială nu era sub controlul Epic, iar compania a trebuit să remedieze imediat eroarea.

Un alt exemplu este Toei Animation, celebrul studio de animație din spatele filmului One Piece, care intenționează să integreze inteligența artificială în producție. Un raport al Screenrant sugerează că inteligența artificială va fi implicată în schițarea inițială, colorare, crearea fundalului și animarea personajelor.

Această intenție a fost imediat criticată de comunitatea fanilor, care susțineau că ar afecta calitatea și originalitatea jocului Toei. Studioul a trebuit să revizuiască raportul și să clarifice faptul că încă avea această intenție, dar în prezent toți pașii de mai sus au fost făcuți de oameni.

Ce trebuie să faci dacă tot vrei să folosești IA?

„Transparența și centrarea pe client sunt fundamentele construirii unei strategii eficiente de inteligență artificială”, a declarat Anjul Bhambhri, vicepreședinte senior al Adobe Experience Cloud. Dacă utilizați inteligența artificială în operațiunile dvs., ar trebui să fiți deschiși în legătură cu acest lucru cu partenerii dvs.

Utilizatorii se vor concentra mai mult pe valoare, pe rezultate, nu pe proces. În loc să subliniați utilizarea inteligenței artificiale, vorbiți despre beneficii specifice, cum ar fi economisirea timpului, îmbunătățirea calității serviciilor sau prețuri mai rezonabile.

Echipa de dezvoltare a jocului național Candy Crush Saga a declarat că a aplicat inteligența artificială ca „tehnician logistic”. Todd Green, directorul general al brandului, a declarat că fără ajutorul inteligenței artificiale, nu ar putea asigura o experiență bună pentru jucătorii de peste 18.000 de niveluri și, în același timp, să creeze niveluri noi.

Inteligența artificială a fost necesară pentru a asigura calitatea pentru peste 18.000 de niveluri. Foto: Candy Crush/Youtube.

În plus, inteligența artificială ar trebui să completeze, nu să înlocuiască complet, oamenii, în special în domeniile care necesită empatie sau creativitate. Utilizatorii nu urăsc inteligența artificială, nu le place sentimentul de a fi înlocuiți sau înșelați.

Pentru sectorul cultural, aplicarea inteligenței artificiale trebuie implementată lent și trebuie ascultată reacția primită. Darth Vader sau One Piece fac parte din amintirile din copilărie ale multor oameni. Atunci când inteligența artificială distruge această imagine, publicul se va simți ofensat. Opoziția față de utilizarea inteligenței artificiale de către Toei Animation vine din teama că arta anime își va pierde din calitate și esența sa inerentă, a analizat Indiatimes .

Atunci când se aplică această tehnologie în activități precum asistența clienților, crearea de conținut și personalizarea experiențelor, este important să se acorde prioritate eticii și siguranței. De asemenea, companiile au nevoie de politici clare privind confidențialitatea datelor, evitarea prejudecăților și asigurarea unor operațiuni corecte.

Clienții înțeleg faptul că inteligența artificială devine din ce în ce mai importantă pentru concurență. Cu toate acestea, în loc să o evite, companiile ar trebui să învețe să utilizeze inteligența artificială cu înțelepciune, ca parte naturală a îmbunătățirii serviciilor, nu ca o strategie de marketing controversată.

Sursă: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html