Vállalkozások kapnak golyókat a mesterséges intelligencia visszaélései miatt

A mesterséges intelligencia versenye napjainkban elkerülhetetlen trend. A chatbotok integrációját azonban körültekintően kell alkalmazni, hogy elkerüljük a nyilvános ellenállást.

Negatív visszajelzéseket kapott a Duolingo új, mesterséges intelligenciára épülő modelljével kapcsolatban. Fotó: Unsplash .

Közel 3 évvel ezelőtti indulása óta a ChatGPT mesterséges intelligencia-lázat keltett, és arra ösztönözte a vállalkozásokat, hogy integrálják ezt a technológiát termékeikbe és szolgáltatásaikba. Sok vállalat úgy véli, hogy a mesterséges intelligencia segített nekik optimalizálni a költségeket, növelni a hatékonyságot, sőt teljesen megváltoztatni a munkafolyamataikat.

A mesterséges intelligencia használata azonban meglehetősen érzékeny terület, és ha nem megfelelően végzik, nagy károkat okozhat a hírnévben. Számos befolyásos vállalkozás kapott már közvélemény-kritikát a mesterséges intelligencia kontroll nélküli használata miatt. Ez azt mutatja, hogy a felhasználók etikai nézetei egyre szigorúbbak.

Amikor a mesterséges intelligencia integrációja visszaüt

Több mint egy héttel ezelőtt a világszerte népszerű nyelvtanuló alkalmazás, a Duolingo törölte az összes közösségi média tartalmát, a szokásos karaktereket egy lázadó, kapucnis, háromszemű bagolyra cserélve. Május 26-ra a márka visszaállította az eredeti bejegyzéseket.

A lépésre azután került sor, hogy a vállalat áprilisban egy LinkedIn-bejegyzésben bejelentette, hogy átáll az „AI-első” modellre. A bejegyzés tartalmazott egy képernyőképet Luis von Ahn vezérigazgató vállalatszintű e-mailjéről, amelyben az átállást a 2012-es asztali számítógépekről mobilra való átálláshoz hasonlította.

Azonban nem mindenki van elragadtatva. Néhány felhasználó kritizálta a vállalatot, amiért a mennyiséget helyezi előtérbe a minőség helyett. A CARMA médiaelemző cég adatai szerint a témával kapcsolatos globális vitákban a vélemények 24,5%-a pozitív, míg 41,1%-a negatív.

A vélemények megoszlanak a játékiparban is, ahol a mesterséges intelligencia integrációja szinte teljesen normalizálódott. A Fortnite egyik friss frissítésében az Epic Games, a játék tulajdonosa, tesztelt egy teljesen mesterséges intelligencia által vezérelt Darth Vader karaktert, amely beszélgetés közben interakcióba léphetett más játékosokkal.

Darth Vader sértő nyelvezetet használ a többi játékossal szemben a Fortnite-ban. Fotó: More SypherPK/YouTube.

A cél az volt, hogy a játék karaktereit intelligensebbé és realisztikusabbá tegyék. Darth Vader azonban, akit a Star Wars karakter ihletett, furcsa dolgokat kezdett mondani vagy káromkodni, sőt, más játékosokat is sértegetni. Ez azt mutatta, hogy a mesterséges intelligencia által vezérelt karakter kicsúszott az Epic irányítása alól, és a cégnek azonnal javítania kellett a hibát.

Egy másik példa a Toei Animation, a One Piece mögött álló híres animációs stúdió, amely a mesterséges intelligencia integrálását tervezi a gyártásba. A Screenrant jelentése szerint a mesterséges intelligencia részt vesz majd a kezdeti vázlatkészítésben, színezésben, háttérkészítésben és karakteranimációban.

Ez a szándék azonnal ellenállásba ütközött a rajongói közösségben, azt állítva, hogy az befolyásolná a Toei minőségét és eredetiségét. A stúdiónak át kellett tekintenie a jelentést, és tisztáznia kellett, hogy továbbra is fennállt ez a szándékuk, de jelenleg a fenti lépéseket emberek végezték.

Mi a teendő, ha továbbra is használni szeretné a mesterséges intelligenciát?

„Az átláthatóság és az ügyfélközpontúság képezi a hatékony mesterséges intelligencia stratégia kiépítésének alapját” – mondta Anjul Bhambhri, az Adobe Experience Cloud alelnöke. Ha mesterséges intelligenciát használ a működésében, akkor nyíltan kell beszélnie erről a partnereivel.

A felhasználók inkább az értékre, az eredményekre fognak összpontosítani, nem pedig a folyamatra. A mesterséges intelligencia használatának hangsúlyozása helyett inkább a konkrét előnyökről, például az időmegtakarításról, a szolgáltatás minőségének javulásáról vagy az elfogadhatóbb árakról beszéljenek.

A Candy Crush Saga országos játék fejlesztőcsapata azt nyilatkozta, hogy a mesterséges intelligenciát „logisztikai technikusként” alkalmazták. Todd Green, a márka vezérigazgatója elmondta, hogy a mesterséges intelligencia segítsége nélkül nem tudnának jó élményt biztosítani a több mint 18 000 szinttel rendelkező játékosok számára, és egyúttal új szinteket létrehozni.

Több mint 18 000 szint minőségének biztosításához mesterséges intelligenciára volt szükség. Fotó: Candy Crush/Youtube.

Továbbá a mesterséges intelligenciának ki kell egészítenie, nem pedig teljesen helyettesítenie az embereket, különösen azokon a területeken, amelyek empátiát vagy kreativitást igényelnek. A felhasználók nem gyűlölik a mesterséges intelligenciát, nem szeretik azt az érzést, hogy lecserélik vagy becsapják őket.

A kulturális szektorban a mesterséges intelligencia alkalmazását lassan kell bevezetni, és meg kell hallgatni a visszajelzésekre. Darth Vader, vagy a One Piece sok ember gyermekkori emlékeinek része. Amikor a mesterséges intelligencia lerombolja ezt a képet, a közönség megsértődik. Az Indiatimes elemzése szerint a Toei Animation mesterséges intelligencia használatával szembeni ellenállás abból a félelemből fakad, hogy az anime művészet elveszíti minőségét és belső lényegét.

Amikor ezt a technológiát olyan tevékenységekhez alkalmazzuk, mint az ügyfélszolgálat, a tartalomkészítés és a felhasználói élmény személyre szabása, fontos az etika és a biztonság előtérbe helyezése. A vállalkozásoknak egyértelmű adatvédelmi irányelvekre is szükségük van, az elfogultság elkerülésére és a tisztességes működés biztosítására.

Az ügyfelek megértik, hogy a mesterséges intelligencia egyre fontosabbá válik a versenytársaik számára. Ahelyett azonban, hogy elkerülnék, a vállalatoknak meg kellene tanulniuk bölcsen használni a mesterséges intelligenciát, a szolgáltatásfejlesztés természetes részeként, nem pedig ellentmondásos marketingstratégiaként.

Forrás: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html