Bedrijven krijgen straf voor misbruik van AI

Duolingo krijgt negatieve feedback op zijn nieuwe AI-first model. Foto: Unsplash .

Sinds de lancering bijna 3 jaar geleden heeft ChatGPT een AI-koorts gecreëerd en bedrijven aangemoedigd om deze technologie in hun producten en diensten te integreren. Veel bedrijven zijn ervan overtuigd dat AI hen heeft geholpen om kosten te optimaliseren, de efficiëntie te verhogen en zelfs hun workflow volledig te veranderen.

Het gebruik van kunstmatige intelligentie (AI) ligt echter gevoelig en kan, indien niet correct uitgevoerd, grote reputatieschade veroorzaken. Veel invloedrijke bedrijven hebben kritiek gekregen van de publieke opinie omdat ze AI zonder controle misbruiken. Dit toont aan dat de opvattingen van gebruikers over ethiek steeds strenger worden.

Wanneer AI-integratie averechts werkt

Meer dan een week geleden verwijderde de wereldwijd populaire taalapp Duolingo al zijn sociale media-inhoud en verving de normale personages door een rebelse, hoodiedragende uil met drie ogen. Op 26 mei herstelde het merk de oorspronkelijke berichten.

De stap volgt nadat het bedrijf in april in een LinkedIn-bericht aankondigde dat het zou overstappen op een 'AI-first'-model. Het bericht bevatte een screenshot van een bedrijfsbrede e-mail van CEO Luis von Ahn, waarin de overstap werd vergeleken met de overgang van desktop naar mobiel in 2012.

Niet iedereen is er echter enthousiast over. Sommige gebruikers hebben het bedrijf bekritiseerd omdat het kwantiteit boven kwaliteit stelt. Volgens media-analysebureau CARMA is de sentimentratio wereldwijd 24,5% positief en 41,1% negatief in discussies over dit onderwerp.

Ook in de game-industrie, waar AI-integratie bijna genormaliseerd is, zijn de meningen verdeeld. In een recente update van Fortnite testte Epic Games, het bedrijf dat eigenaar is van de game, een volledig door AI aangestuurd Darth Vader-personage dat met andere spelers communiceerde.

Darth Vader gebruikt beledigende taal tegen andere spelers in Fortnite. Foto: Meer SypherPK/YouTube.

Het doel was om de personages in de game intelligenter en realistischer te maken. Darth Vader, geïnspireerd door het Star Wars-personage, begon echter vreemde dingen te zeggen, te vloeken en zelfs andere spelers te beledigen. Dit toonde aan dat het AI-personage buiten de controle van Epic lag en het bedrijf moest de bug onmiddellijk patchen.

Een ander voorbeeld is Toei Animation, de beroemde animatiestudio achter One Piece, die van plan is om AI in de productie te integreren. Een rapport van Screenrant suggereert dat kunstmatige intelligentie betrokken zal zijn bij de eerste schetsen, het kleuren, het creëren van achtergronden en de animatie van personages.

Dit voornemen stuitte onmiddellijk op verzet van de fancommunity, die beweerde dat het de kwaliteit en originaliteit van Toei zou aantasten. De studio moest het rapport beoordelen en duidelijk maken dat ze nog steeds die intentie hadden, maar dat alle bovenstaande stappen momenteel door mensen werden uitgevoerd.

Wat moet u doen als u toch AI wilt gebruiken?

"Transparantie en klantgerichtheid vormen de basis voor een effectieve AI-strategie", aldus Anjul Bhambhri, senior vice president van Adobe Experience Cloud. Als u AI in uw bedrijfsvoering gebruikt, moet u daar open over zijn met uw partners.

Gebruikers zullen zich meer richten op waarde, de resultaten, niet op het proces. In plaats van de nadruk te leggen op het gebruik van AI, kunt u beter praten over specifieke voordelen, zoals tijdsbesparing, verbeterde servicekwaliteit of redelijkere prijzen.

Het ontwikkelteam van de nationale game Candy Crush Saga zei dat ze AI hebben ingezet als een "logistieke technicus". Todd Green, algemeen directeur van het merk, zei dat ze zonder de hulp van AI geen goede ervaring zouden kunnen garanderen voor spelers in meer dan 18.000 levels en tegelijkertijd nieuwe levels zouden kunnen creëren.

Er was AI nodig om de kwaliteit van meer dan 18.000 levels te garanderen. Foto: Candy Crush/Youtube.

Bovendien zou AI de mens moeten aanvullen, niet volledig vervangen, vooral op gebieden waar empathie of creativiteit vereist is. Gebruikers hebben geen hekel aan AI, ze houden er niet van om vervangen of bedrogen te worden.

Voor de culturele sector moet de toepassing van AI langzaam worden geïmplementeerd en moet er rekening worden gehouden met feedback. Darth Vader en One Piece maken deel uit van de jeugdherinneringen van veel mensen. Wanneer AI dat beeld vernietigt, zal het publiek zich beledigd voelen. De weerstand tegen het gebruik van AI door Toei Animation komt voort uit de angst dat animekunst aan kwaliteit en de inherente essentie zal inboeten, analyseerde de Indiatimes .

Bij de toepassing van deze technologie op activiteiten zoals klantenservice, contentcreatie en personalisatie van ervaringen, is het belangrijk om ethiek en veiligheid voorop te stellen. Bedrijven hebben ook behoefte aan een duidelijk beleid ten aanzien van gegevensprivacy, het voorkomen van vooroordelen en het garanderen van een eerlijke bedrijfsvoering.

Klanten begrijpen dat AI steeds belangrijker wordt voor hun concurrenten. Maar in plaats van het te vermijden, zouden bedrijven moeten leren om AI verstandig in te zetten: als een natuurlijk onderdeel van serviceverbetering, niet als een controversiële marketingstrategie.

Bron: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html