«Faren» til Chat GPT deler sin største frykt for AI

«Min verste frykt er at vi forårsaker alvorlig skade – vi, dette feltet, teknologibransjen – på verden . Jeg tror det kan skje på en rekke forskjellige måter. Det er derfor vi startet dette selskapet», sa Altman under en høring for Senatets underkomité for personvern, teknologi og lov 16. mai.

Største frykt: AI kan ta feil

«Folk tror at hvis denne teknologien går galt, kan den gå galt, og vi ønsker å si ifra om det. Vi ønsker å samarbeide med myndigheter for å forhindre at det skjer», sa Altman, administrerende direktør i OpenAI (utvikler av ChatGPT).

OpenAI-sjef Sam Altman tas i ed under en høring i Senatets justiskomité. (Foto: Washington Post)

I sitt første vitneforklaring for den amerikanske kongressen etterlyste Sam Altman også brede reguleringer, inkludert et nytt statlig organ med ansvar for lisensiering av AI-modeller, for å håndtere økende bekymringer for at kunstig intelligens kan forvrenge virkeligheten og skape enestående sikkerhetsrisikoer.

Altman har tatt et alvorlig standpunkt til hvordan kunstig intelligens kan «forårsake betydelig skade på verden», og uttrykt en vilje til å samarbeide med lovgivere for å håndtere risikoen som selskapets ChatGPT og andre AI-verktøy utgjør.

Altman skisserte «risikabel» atferd som teknologi som ChatGPT kan føre til, inkludert spredning av «live interaktiv feilinformasjon» og emosjonell manipulasjon. Han erkjente at kunstig intelligens kan brukes til å målrette droneangrep.

«Hvis denne teknologien går galt, kan det gå galt», sa han.

Likevel, i løpet av nesten tre timer med diskusjon om de alvorlige potensielle konsekvensene, insisterte Altman på at selskapet hans ville fortsette å rulle ut AI-teknologi.

Han argumenterer for at «iterative utrullinger» av OpenAIs AI-modeller gir organisasjoner tid til å forstå potensielle trusler, i stedet for å ta en risiko. Dette er et strategisk trekk som setter «relativt svak» og «uperfekt» teknologi i verden for å bidra til å avdekke de tilhørende sikkerhetsrisikoene.

Illustrasjon av ChatGPT-applikasjonen, som lar datamaskiner chatte med brukere som mennesker.

I løpet av de siste ukene har Altman vært på en global goodwill-turné, og har møtt private beslutningstakere, inkludert president Biden og medlemmer av Kongressen, for å ta opp bekymringer rundt den raske utrullingen av ChatGPT og andre teknologier.

Høringen 16. mai markerer den første sjansen for allmennheten til å høre budskapet hans, i en tid der Washington i økende grad sliter med å regulere en teknologi som har forstyrret arbeidsplasser, lagt til rette for svindel og spredt feilinformasjon.

I sterk kontrast til høringer med andre teknologidirektører, som TikToks Shou Zi Chew og Metas Mark Zuckerberg, ga amerikanske lovgivere Altman en relativt varm mottakelse.

De så ut til å være i lyttemodus, og uttrykte åpenhet for å vurdere forslag fra Altman og to andre vitner under høringen: IBM-sjef Christina Montgomery og professor emeritus ved New York University, Gary Marcus.

Under en høring i Senatets underkomité for personvern, teknologi og lov uttrykte lovgivere dyp bekymring over den raske utviklingen av kunstig intelligens, og argumenterte for at nylige fremskritt kan være mer transformative enn internett, eller like farlige som atombomben.

«Dette er din mulighet til å fortelle oss hvordan vi gjør dette riktig», sa senator John Neely Kennedy til vitnene. «Bruk den.»

Lovgivere fra begge partier har uttrykt åpenhet for ideen om å opprette et statlig organ med oppgave å regulere utviklingen av kunstig intelligens, selv om tidligere forsøk på å opprette et spesifikt byrå med tilsyn fra Silicon Valley har mislyktes i Kongressen på grunn av partisplittelser om hvordan man skal forme et så massivt byrå.

Det er uklart om et slikt forslag ville få bred støtte blant republikanere, som generelt er skeptiske til å utvide regjeringsmakt. Senator Josh Hawley, republikaner fra Missouri, advarte om at et slikt byrå kunne bli «fanget av interessene de skal regulere».

Senator Richard Blumenthal, leder av underkomiteen, roste Altmans vitnesbyrd under høringen: «Sam Altman er en verden foruten andre administrerende direktører ... Ikke bare i ordene og retorikken, men i sine faktiske handlinger og sin vilje til å engasjere seg, til å forplikte seg til konkrete handlinger.»

Høringen med administrerende direktør Altman kommer samtidig som beslutningstakere i Washington er stadig mer bekymret for truslene fra kunstig intelligens, som ChatGPT og andre innovative AI-verktøy, spesielt knyttet til desinformasjon, personvern, brudd på opphavsretten og cybersikkerhet.

Lovgivere har uttrykt beklagelse over deres relativt slappe tilnærming til AI-bransjen siden før valget i 2016. Deres første høring med Meta-sjef Zuckerberg fant sted i 2018, da Facebook allerede var en gigant og rett etter Cambridge Analytica-skandalen, der data fra 87 millioner Facebook-brukere ble tilgang til.

På den tiden, til tross for bred tverrpolitisk enighet om at AI utgjorde en trussel, klarte ikke lovgiverne å bli enige om regler for å styre bruken eller utviklingen av den.

(Kilde: Tin Tuc Newspaper/Fox News; Washington Post)

Nyttig
Følelse
Kreativ
Unik
Vrede

Kilde: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html