Firmy „schytávají kulky“ za zneužívání umělé inteligence

Duolingo dostává negativní ohlasy na svůj nový model s umělou inteligencí. Foto: Unsplash .

Od svého spuštění před téměř 3 lety vyvolal ChatGPT horečku umělé inteligence a povzbudil firmy k integraci této technologie do svých produktů a služeb. Mnoho společností se domnívá, že jim umělá inteligence pomohla optimalizovat náklady, zvýšit efektivitu a dokonce i kompletně změnit jejich pracovní postupy.

Využívání umělé inteligence je však poměrně citlivé a pokud se neprovádí správně, může způsobit velké škody na reputaci. Mnoho vlivných firem se setkalo s kritikou veřejnosti za nekontrolované zneužívání umělé inteligence. To ukazuje, že názory uživatelů na etiku jsou stále tvrdší.

Když se integrace umělé inteligence obrátí proti nim

Před více než týdnem smazala celosvětově populární aplikace pro výuku jazyků Duolingo veškerý obsah ze sociálních médií a nahradila své běžné postavy vzpurnou tříokou sovou v mikině s kapucí. Do 26. května značka obnovila původní příspěvky.

K tomuto kroku došlo poté, co společnost v dubnu na LinkedInu oznámila přechod na model „AI-first“. Příspěvek obsahoval snímek obrazovky e-mailu od generálního ředitele Luise von Ahna, který přirovnával tento přechod k přechodu ze stolních počítačů na mobilní zařízení v roce 2012.

Ne všichni jsou však nadšení. Někteří uživatelé společnost kritizovali za to, že upřednostňuje kvantitu před kvalitou. Podle analytické firmy CARMA mají diskuse o tomto tématu celosvětově poměr sentimentu 24,5 % pozitivních ku 41,1 % negativních.

Názory se rozcházejí i v herním průmyslu, kde je integrace umělé inteligence téměř normou. V nedávné aktualizaci hry Fortnite testovala společnost Epic Games, která hru vlastní, postavu Dartha Vadera plně ovládanou umělou inteligencí, která interagovala s ostatními hráči v konverzaci.

Darth Vader používá urážlivý jazyk vůči ostatním hráčům ve Fortnite. Foto: More SypherPK/YouTube.

Cílem bylo, aby herní postavy byly inteligentnější a realističtější. Darth Vader, inspirovaný postavou ze Star Wars, však začal říkat divné věci nebo nadávat, dokonce urážet ostatní hráče. To ukázalo, že postava s umělou inteligencí byla mimo kontrolu Epicu a společnost musela chybu okamžitě opravit.

Dalším příkladem je Toei Animation, slavné animační studio stojící za One Piece, které plánuje integrovat umělou inteligenci do produkce. Zpráva serveru Screenrant naznačuje, že umělá inteligence se bude podílet na počátečním skicování, barvení, tvorbě pozadí a animaci postav.

Tento záměr se okamžitě setkal s odporem fanouškovské komunity s tvrzením, že by to ovlivnilo kvalitu a originalitu Toei. Studio muselo zprávu přezkoumat a objasnit, že tento záměr stále má, ale v současné době všechny výše uvedené kroky provedli lidé.

Co dělat, když stále chcete používat umělou inteligenci?

„Transparentnost a zaměření na zákazníka jsou základem pro budování efektivní strategie v oblasti umělé inteligence,“ řekl Anjul Bhambri, senior viceprezident společnosti Adobe Experience Cloud. Pokud ve svých operacích používáte umělou inteligenci, měli byste o tom být se svými partnery otevření.

Uživatelé se budou více zaměřovat na hodnotu, výsledky, nikoli na proces. Místo zdůrazňování využití umělé inteligence hovořte o konkrétních výhodách, jako je úspora času, zlepšení kvality služeb nebo rozumnější ceny.

Vývojový tým národní hry Candy Crush Saga uvedl, že umělou inteligenci použil jako „logistického technika“. Todd Green, generální ředitel značky, uvedl, že bez pomoci umělé inteligence by nebyli schopni zajistit dobrý zážitek pro hráče s více než 18 000 úrovněmi a zároveň vytvářet nové úrovně.

Umělá inteligence byla potřeba k zajištění kvality pro více než 18 000 úrovní. Foto: Candy Crush/Youtube.

Umělá inteligence by navíc měla lidi doplňovat, nikoliv zcela nahrazovat, zejména v oblastech, které vyžadují empatii nebo kreativitu. Uživatelé umělou inteligenci nenávidí, nemají rádi pocit, že jsou nahrazeni nebo podvedeni.

V kulturním sektoru je třeba zavádět umělou inteligenci pomalu a naslouchat zpětné vazbě. Darth Vader nebo One Piece jsou součástí dětských vzpomínek mnoha lidí. Když umělá inteligence tento obraz zničí, veřejnost se urazí. Indiatimes analyzoval, že odpor k používání umělé inteligence ve společnosti Toei Animation pramení ze strachu, že anime umění ztratí kvalitu a svou inherentní podstatu.

Při aplikaci této technologie na činnosti, jako je péče o zákazníky, tvorba obsahu a personalizace zážitků, je důležité upřednostnit etiku a bezpečnost. Firmy také potřebují jasné zásady týkající se ochrany osobních údajů, vyhýbání se zaujatosti a zajištění spravedlivého provozu.

Zákazníci chápou, že umělá inteligence se pro jejich konkurenci stává stále důležitější. Firmy by se však místo vyhýbání umělé inteligenci měly naučit umělou inteligenci používat moudře, jako přirozenou součást zlepšování služeb, nikoli jako kontroverzní marketingovou strategii.

Zdroj: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html