"Fadern" till Chat GPT delar sin största rädsla för AI

[annons_1]

”Min värsta rädsla är att vi orsakar allvarlig skada – vi, den här sektorn, teknikindustrin – på världen . Jag tror att det kan hända på flera olika sätt. Det är därför vi startade det här företaget”, sa Altman under en utfrågning inför senatens rättsliga underkommitté för integritet, teknik och lag den 16 maj.

Största rädslan: AI kan ha fel

”Folk tror att om den här tekniken går fel, kan den gå sönder, och vi vill vara tydliga med det. Vi vill samarbeta med myndigheter för att förhindra att det händer”, sa Altman, VD för OpenAI (utvecklare av ChatGPT).

OpenAIs VD Sam Altman svärs in under en utfrågning inför senatens rättsliga underkommitté. (Foto: Washington Post)

I sitt första vittnesmål inför den amerikanska kongressen efterlyste Sam Altman även breda regleringar, inklusive en ny myndighet med ansvar för licensiering av AI-modeller, för att ta itu med den växande oron för att artificiell intelligens kan snedvrida verkligheten och skapa exempellösa säkerhetsrisker.

Herr Altman har tagit en allvarlig ställning till hur artificiell intelligens kan "orsaka betydande skada för världen" och uttryckt en vilja att samarbeta med lagstiftare för att ta itu med de risker som hans företags ChatGPT och andra AI-verktyg utgör.

Herr Altman redogjorde för "riskfyllda" beteenden som teknik som ChatGPT kan leda till, inklusive spridning av "interaktiv felinformation i realtid" och emotionell manipulation. Han erkände att AI kan användas för att rikta in sig på drönarattacker.

"Om den här tekniken går fel kan den gå sönder", sa han.

Ändå, under nästan tre timmars diskussion om de allvarliga potentiella konsekvenserna, insisterade Altman på att hans företag skulle fortsätta att lansera AI-teknik.

I stället för att ta en risk, menar han, ger "iterativa implementeringar" av OpenAIs AI-modeller organisationer tid att förstå potentiella hot, ett strategiskt drag som sätter "relativt svag" och "ofullkomlig" teknik i världen för att hjälpa till att avslöja de därmed sammanhängande säkerhetsriskerna.

Illustration av ChatGPT-applikationen, som låter datorer chatta med användare som människor.

Under de senaste veckorna har Altman varit på en global goodwill-turné och träffat privata beslutsfattare, inklusive president Biden och kongressledamöter, för att ta upp oro kring den snabba utbyggnaden av ChatGPT och andra tekniker.

Utfrågningen den 16 maj markerar den första chansen för den bredare allmänheten att höra hans budskap, i en tid då Washington i allt högre grad kämpar för att reglera en teknik som har stört jobb, underlättat bedrägerier och spridit felinformation.

I skarp kontrast till utfrågningar med andra teknikchefer, som TikToks Shou Zi Chew och Metas Mark Zuckerberg, gav amerikanska lagstiftare Altman ett relativt varmt mottagande.

De verkade vara i lyssnarläge och uttryckte öppenhet för att överväga förslag från Altman och två andra vittnen vid utfrågningen: IBM-chefen Christina Montgomery och professor emeritus vid New York University, Gary Marcus.

Under en utfrågning i senatens rättsliga underkommitté om integritet, teknik och lag uttryckte lagstiftarna djup oro över den snabba utvecklingen av artificiell intelligens och hävdade att de senaste framstegen skulle kunna vara mer omvälvande än internet, eller lika farliga som en atombomb.

”Det här är er möjlighet att berätta för oss hur vi gör det här på rätt sätt”, sa senator John Neely Kennedy till vittnen. ”Utnyttja den.”

Lagstiftare från båda partierna har uttryckt öppenhet för idén att skapa en statlig myndighet med uppgift att reglera utvecklingen av artificiell intelligens, även om tidigare försök att skapa en specifik myndighet med Silicon Valley-tillsyn har misslyckats i kongressen på grund av partiskillnader om hur man ska utforma en så massiv myndighet.

Det är oklart om ett sådant förslag skulle få brett stöd bland republikaner, som generellt sett är försiktiga med att utöka regeringsmakt. Senator Josh Hawley, republikan från Missouri, varnade för att en sådan myndighet skulle kunna "bli fångad av de intressen de ska reglera".

Senator Richard Blumenthal, ordförande för underkommittén, berömde Altmans vittnesmål vid utfrågningen: ”Sam Altman är en värld bortsett från andra VD:ar... Inte bara i sina ord och retorik, utan i sina faktiska handlingar och sin vilja att engagera sig, att åta sig konkreta åtgärder.”

Utfrågningen med VD Altman kommer samtidigt som beslutsfattare i Washington blir alltmer oroade över hoten från artificiell intelligens, som ChatGPT och andra innovativa AI-verktyg, särskilt i samband med desinformation, dataskydd, upphovsrättsintrång och cybersäkerhet.

Lagstiftarna har uttryckt ånger över deras relativt slappa inställning till AI-branschen sedan före valet 2016. Deras första utfrågning med Metas VD Zuckerberg ägde rum 2018, då Facebook redan var en gigant och precis efter Cambridge Analytica-skandalen, där data från 87 miljoner Facebook-användare kom åt.

Vid den tidpunkten, trots bred tvåpartikonsensus om att AI utgjorde ett hot, misslyckades lagstiftarna med att enas om regler för att styra dess användning eller utveckling.

(Källa: Tin Tuc Newspaper/Fox News; Washington Post)

Användbar
Känsla
Kreativ
Unik
Vrede