Chattens "fader" GPT delar sin största rädsla för AI

[annons_1]

”Min värsta rädsla är att vi orsakar allvarlig skada – vi, den här sektorn, teknikindustrin – på världen . Jag tror att det kan hända på flera olika sätt. Det är därför vi startade det här företaget”, sa Altman under en utfrågning inför senatens rättsliga underkommitté för integritet, teknik och lag den 16 maj.

Största rädslan: AI kan ha fel

”Folk tror att om den här tekniken går fel, kan den gå sönder, och vi vill vara tydliga med det. Vi vill samarbeta med regeringen för att förhindra att det händer”, sa Altman, VD för OpenAI (utvecklaren av ChatGPT).

OpenAIs VD Sam Altman svärs in under en utfrågning inför senatens underkommitté för rättsväsendet. (Foto: Washington Post)

I sitt första vittnesmål i kongressen efterlyste Altman också bred reglering, inklusive en ny myndighet med ansvar för licensiering av AI-modeller, för att ta itu med växande oro för att artificiell intelligens skulle kunna snedvrida verkligheten och skapa exempellösa säkerhetsrisker.

Herr Altman har tagit en allvarlig ställning till hur artificiell intelligens kan "orsaka betydande skada för världen" och uttryckt en vilja att samarbeta med lagstiftare för att ta itu med de risker som hans företags ChatGPT och andra AI-verktyg utgör.

Herr Altman redogjorde för "riskfyllda" beteenden som möjliggörs av teknik som ChatGPT, inklusive spridning av "interaktiv felinformation i realtid" och emotionell manipulation. Han erkände att AI skulle kunna användas för att rikta in sig på drönarattacker.

"Om den här tekniken går fel kan det bli illa", sa han.

Ändå, under nästan tre timmars diskussion om de potentiellt allvarliga konsekvenserna, insisterade Altman på att hans företag skulle fortsätta att lansera AI-teknik.

I stället för att ta en risk, menar han, ger "iterativa implementeringar" av OpenAIs AI-modeller organisationer tid att förstå potentiella hot, ett strategiskt drag som sätter "relativt svag" och "ofullkomlig" teknik i världen för att hjälpa till att avslöja de därmed sammanhängande säkerhetsriskerna.

Illustration av ChatGPT-applikationen, som låter datorer chatta med användare som människor.

Under de senaste veckorna har Altman varit på en global goodwill-turné och träffat privata beslutsfattare, inklusive president Biden och kongressledamöter, för att ta upp oro kring den snabba utbyggnaden av ChatGPT och andra tekniker.

Utfrågningen den 16 maj markerar den första chansen för allmänheten att höra hans budskap, i en tid då Washington i allt högre grad kämpar för att reglera en teknik som har stört jobb, underlättat bedrägerier och spridit felinformation.

I skarp kontrast till utfrågningar med andra teknikchefer, som TikToks Shou Zi Chew och Metas Mark Zuckerberg, gav amerikanska lagstiftare Altman ett relativt varmt mottagande.

De verkade vara i lyssnarläge och uttryckte öppenhet för att överväga förslag från Altman och två andra vittnen vid utfrågningen: IBM-chefen Christina Montgomery och professor emeritus vid New York University, Gary Marcus.

Under en utfrågning i senatens rättsliga underkommitté för integritet, teknik och lag uttryckte lagstiftarna djup oro över den snabba utvecklingen av artificiell intelligens och hävdade att de senaste framstegen skulle kunna vara mer omvälvande än internet, eller lika farliga som atombomben.

”Det här är er möjlighet att berätta för oss hur vi gör det här på rätt sätt”, sa senator John Neely Kennedy till vittnen. ”Utnyttja den.”

Lagstiftare från båda partierna har uttryckt öppenhet för idén att skapa en statlig myndighet med uppgift att reglera utvecklingen av artificiell intelligens, även om tidigare försök att skapa en specifik myndighet med Silicon Valley-tillsyn har misslyckats i kongressen eftersom partierna har varit oeniga om hur en så massiv myndighet ska utformas.

Det är oklart om ett sådant förslag skulle få brett stöd bland republikaner, som generellt sett är försiktiga med att utöka regeringsmakt. Senator Josh Hawley, republikan från Missouri, varnade för att en sådan myndighet skulle kunna "bli fångad av de intressen de ska reglera".

Senator Richard Blumenthal, ordförande för underkommittén, berömde Altmans vittnesmål vid utfrågningen: ”Sam Altman är en värld bortsett från andra VD:ar... Inte bara i sina ord och retorik utan även i sina faktiska handlingar och sin vilja att engagera sig och åta sig konkreta åtgärder.”

Utfrågningen med VD Altman kommer samtidigt som beslutsfattare i Washington blir alltmer oroade över hoten från artificiell intelligens, såsom ChatGPT och andra innovativa AI-verktyg, särskilt i samband med desinformation, dataskydd, upphovsrättsintrång och cybersäkerhet.

Lagstiftarna har uttryckt ånger över deras relativt slappa inställning till AI-branschen sedan före valet 2016. Deras första utfrågning med Metas VD Zuckerberg ägde rum 2018, då Facebook redan var en gigant och färskt från Cambridge Analytica-skandalen som samlade in data från 87 miljoner Facebook-användare.

Vid den tidpunkten, trots bred tvåpartikonsensus om att AI utgjorde ett hot, lyckades lagstiftarna inte komma överens om regler för att styra dess användning eller utveckling.

(Källa: Tin Tuc Newspaper/Fox News; Washington Post)

Användbar
Känsla
Kreativ
Unik
Vrede