AI utgör ett "hot" mot det amerikanska valet.

AI-experter och teknikkunniga statsvetare slår larm om den oförutsägbara naturen hos AI-genereringsverktyg som ChatGPT inför det amerikanska presidentvalet 2024.

"USA är inte förberett på det."

Fox News rapporterade den 15 maj att AJ Nash, vice vd för AI på ZeroFox, ett cybersäkerhetsföretag baserat i Minnesota, varnade amerikaner för att de är oförberedda på möjligheten att hantera generativ AI. Enligt honom skulle generativ AI inte bara snabbt kunna skapa e-postmeddelanden, sms och videoklipp för valkampanjer, utan också förvandlas till farliga verktyg.

Regeringar runt om i världen kämpar för att hitta sätt att reglera AI-verktyg.

”Generativ AI innebär ett betydande språng framåt i förmågan att skapa ljud- och videoinnehåll. När man kan göra det i stor skala och distribuera det över sociala medieplattformar kommer tekniken att ha en enorm inverkan”, förklarade Nash. Bland de många funktioner som generativ AI som ChatGPT kan uppnå finns det en hel del som starkt skulle kunna påverka val och röstning i ett modernt land som USA.

ChatGPT kan generera mycket innehåll på kort tid.

Illustrationsfoto: REUTERS

Till exempel kan ChatGPT generera automatiserade röstmeddelanden som härmar kandidaters röster, instruera väljare att rösta på fel dag; släppa falska ljudinspelningar av kandidater som erkänner brott eller skapar rasistiskt innehåll; och skapa videoklipp av någon som håller ett tal eller en intervju som aldrig faktiskt ägt rum. Dessutom kan datorgenererade bilder baserade på lokala nyhetsrapporter visas, vilka innehåller vilseledande information, såsom att tillkännage en kandidats avhopp från valet.

”Vad skulle hända om miljardären Elon Musk personligen ringde och övertalade dig att rösta på en specifik kandidat?” frågade Dr. Oren Etzioni, tidigare grundande och VD för Allen Institute for AI (baserat i delstaten Washington, USA). ”Många skulle lyssna på honom. Men han ringde inte det där telefonsamtalet; det var AI”, påpekade Dr. Etzioni.

Hot från motståndarsidan.

Petko Stoyanov, global teknisk chef på cybersäkerhetsföretaget Forcepoint (baserat i Texas, USA), varnade för att utländska makter skulle kunna utnyttja AI för att försöka störa det amerikanska valet 2024. "Vad händer om en utländsk makt, en cyberbrottsorganisation eller en stat försöker utge sig för att vara någon? Vad skulle det få för konsekvenser? Har vi ett svar?" ställde Stoyanov dessa frågor. Enligt honom kommer USA att se en våg av desinformation från utländska källor under valperioden.

Senator Pete Ricketts (Nebraska) varnade också för risken för att pro-Kina-organisationer använder deepfakes (teknik som skapar fabricerade bilder och videor som ser ut och låter som riktiga människor och händelser) under valsäsongen 2024. "De har absolut den här förmågan, och det är något vi måste vara väldigt försiktiga med", sa Ricketts i en intervju med Fox News.

Ända sedan början av året har AI-genererade falska nyheter upprepade gånger orsakat uppståndelse på sociala medier. Exempel inkluderar ett falskt videoklipp där Biden attackerar transpersoner, eller fabricerade bilder som visar barn som studerar satanism på bibliotek. Många trodde till och med blint på internet efter att bilder på förre presidenten Donald Trump dök upp i polisregister, trots att han aldrig fotograferades för att begå ett brott. Andra AI-genererade bilder visade Trump som gjorde motstånd mot gripande, och naturligtvis var även dessa falska.

Representanten Yvette Clarke (New York) lade fram ett lagförslag som kräver att kandidater informerar väljarna om AI-genererade reklambilder. Clarke var också medförslagsställare för ett lagförslag som kräver att alla som skapar sammansatta bilder ska lägga till ett vattenmärke som tydligt anger bildens källa. Flera stater har också lagt fram sina egna förslag för att ta itu med oro kring deepfakes.

Senator Ricketts, å andra sidan, föreslog att det som kan göras nu är att öka utbildningen bland amerikaner om farorna med AI-genererade bilder. Han menade att den amerikanska regeringen skulle kunna samarbeta med universitet för att förbättra deras förmåga att upptäcka falska bilder innan valet börjar.

ChatGPT har uppgraderats.

Enligt Mashable har OpenAI (Kalifornien, USA) precis gjort en betydande uppgradering av ChatGPT, vilket gör att verktyget kan ansluta och surfa på webben samtidigt som det körs. Detta gör att ChatGPT kan uppdateras med den senaste informationen och ge mer exakta svar. För närvarande anställer företag som Amazon AI-ingenjörer för att bygga och integrera gränssnitt som ChatGPT för kundkommunikation.

Källänk: https://thanhnien.vn/ai-tao-sinh-de-doa-bau-cu-my-18523051612541231.htm