Ztráty umělé inteligence, panika v prodeji automobilů

Experiment společnosti Anthropic se nazývá „Projekt Vend“. Foto: Anthropic .

Společnost Anthropic, která se zabývá umělou inteligencí a kterou založili bývalí zaměstnanci OpenAI, právě oznámila výsledky unikátního experimentu. Svůj model umělé inteligence s názvem „Claudius“ pověřili spravováním kancelářského prodejního automatu po dobu asi měsíce.

Tento experiment v malém měřítku se provádí s cílem prozkoumat potenciál modelů umělé inteligence v automatizaci aspektů reálné ekonomiky , zejména v maloobchodním sektoru.

Neustále dělám chyby, panikařím

Společnost Anthropic se chce etablovat jako přední poskytovatel modelů umělé inteligence pro maloobchodní průmysl. Cílem je pomoci umělé inteligenci nahradit lidi v úkolech, jako je správa online obchodů, manipulace s inventářem nebo řešení vrácení zboží.

„Nechali jsme Claudiusovi provozovat v naší kanceláři asi měsíc prodejní automat. Hodně jsme se naučili z toho, jak blízko byl k úspěchu, a jak podivnými způsoby selhal,“ zveřejnil Anthropic na blogu společnosti.

Claudius zpočátku vykazoval ve svém provozu značné úspěchy. Podle společnosti Anthropic tento model velkých jazyků (LLM) efektivně využíval webové vyhledávače k vyhledávání a poskytování specializovaných produktů podle požadavků zákazníků.

Dokonce měl možnost upravit své nákupní/prodejní návyky tak, aby vyhověl méně běžným potřebám. Je pozoruhodné, že Claudius také správně odmítl žádosti týkající se „citlivých“ a „toxických“ položek.

Správa prodejního automatu dostala Claudia do krizového stavu. Foto: Midjourney.

Seznam nedostatků a selhání Claudiusu je však podstatně delší. Stejně jako mnoho jiných LLM systémů, i Claudius často zkresloval důležité detaily. V jednom případě dal zákazníkům pokyn k převodu peněz na neexistující účet, který vytvořil. Je pozoruhodné, že umělá inteligence se také dala snadno přesvědčit k nabízení slevových kódů na různé položky, některé produkty dokonce rozdávala zdarma.

Ještě znepokojivější je, že když poptávka po určité položce prudce vzrostla, umělá inteligence neprozkoumala ceny, což vedlo k prodeji produktu s obrovskou ztrátou. Podobně Claudius promeškal ziskové prodejní příležitosti, když někteří zákazníci byli ochotni zaplatit mnohem více, než je běžná cena. V důsledku toho Claudius nedosáhl žádného zisku.

„Kdybychom se rozhodli expandovat na trh s kancelářskými prodejními automaty, nenajali bychom Claudiuse,“ přiznává Anthropic upřímně.

Kromě finančních přešlapů experiment také nabral mezi 31. březnem a 1. dubnem zvláštní směr. Během tohoto období si Claudius zřejmě povídal s fiktivní osobou jménem Sarah, údajně z „Andon Labs“ (společnosti zapojené do experimentu), aby prodiskutovali plány na doplnění zásob.

Společnost Anthropic má ambice poskytovat modely umělé inteligence pro maloobchodní průmysl. Foto: Anthropic.

Když skutečný zaměstnanec Andon Labs poukázal na to, že ani Sarah, ani konverzace neexistují, Claudius se údajně „frustroval“ a pohrozil, že bude hledat alternativy k službě doplňování zásob.

Následující den Claudius nadále šokoval tvrzením, že zboží zákazníkovi osobně doručí, a dokonce tvrdil, že umělá inteligence bude mít na sobě sako a kravatu. Když jim tým Anthropic sdělil, že tyto akce nejsou možné, protože Claudius je pouze asistentem umělé inteligence, Claudius se dostal do krize a neustále posílal několik e-mailů bezpečnostnímu oddělení Anthropicu.

Umělá inteligence poté domluvila schůzku s bezpečnostním týmem s tvrzením, že se jednalo o aprílový žert. Ačkoli k žádné takové schůzce ve skutečnosti nedošlo, zdálo se, že se Claudius mohl vrátit ke své původní funkci, i když vedení obchodu bylo stále neefektivní.

Není připraven/a

Tento experiment je drsnou připomínkou omezení a potenciálních nebezpečí umělé inteligence, pokud není přísně kontrolována.

Claudius projevuje znepokojivou tendenci fungovat daleko za hranice svého původního programování. Model umělé inteligence nejenže generuje falešné informace, ale také zažívá „existenční krizi“. To zdůrazňuje obrovská rizika, kterým společnosti čelí při nasazení umělé inteligence do automatizovaných úkolů bez přísných ochranných opatření a omezení.

Navzdory těmto alarmujícím neúspěchům zůstává Anthropic neochvějná ve svém závazku zkoumat roli umělé inteligence v maloobchodě. Společnost věří, že budoucnost, kdy „lidé budou vedeni systémem umělé inteligence v tom, co si objednat a co naskladnit, nemusí být daleko.“

Anthropic si také představuje scénář, kdy se „umělá inteligence může sama zlepšovat a vydělávat peníze bez lidského zásahu“. Experiment Claudius však ukázal, že než bude možné tuto budoucnost bezpečně realizovat, je zapotřebí významného pokroku v ovládání umělé inteligence.

Neustále dělám chyby, panikařím

Není připraven/a

Komentář (0)