Sikkerhetsrisikoer ved bruk av ChatGPT

[annonse_1]

Amerikas største bank, JPMorgan Chase, Amazon og teknologiselskapet Accenture har alle begrenset ansattes bruk av ChatGPT av hensyn til datasikkerhet.

Ifølge CNN er bekymringene til disse bedriftene fullstendig begrunnet. 20. mars hadde OpenAIs chatbot en feil som eksponerte brukerdata. Selv om feilen raskt ble rettet, avslørte selskapet at hendelsen rammet 1,2 % av ChatGPT Plus-brukerne. Den lekkede informasjonen inkluderte fulle navn, e-postadresser, faktureringsadresser, de fire siste sifrene i kredittkortnumre og kortets utløpsdatoer.

31. mars utstedte Italias databeskyttelsesmyndighet (Garante) et midlertidig forbud mot ChatGPT med henvisning til personvernhensyn etter at OpenAI avslørte sårbarheten.

Mark McCreary, medformann for datasikkerhet og personvern i advokatfirmaet Fox Rothschild LLP, fortalte CNN at sikkerhetsbekymringene rundt ChatGPT ikke er overdrevne. Han sammenlignet AI-chatboten med en «svart boks».

ChatGPT ble lansert av OpenAI i november 2022 og vakte raskt oppmerksomhet for sin evne til å skrive essays, komponere historier eller sangtekster ved å gi dem oppgaver. Teknologigiganter som Google og Microsoft har også lansert AI-verktøy som fungerer på lignende måte, drevet av store språkmodeller trent på enorme nettbaserte datalagre.

Etter Italias tiltak vurderer også Tyskland å forby ChatGPT.

Når brukere legger inn informasjon i disse verktøyene, vet de ikke hvordan den vil bli brukt, la McCreay til. Dette er bekymringsfullt for bedrifter ettersom flere og flere ansatte bruker verktøy for å skrive jobb-e-poster eller ta notater til møter, noe som fører til større risiko for å avsløre forretningshemmeligheter.

Steve Mills, direktør for AI-etikk hos Boston Consulting Group (BCG), sa at selskaper er bekymret for at ansatte ved et uhell avslører sensitiv informasjon. Hvis dataene folk legger inn brukes til å trene opp dette AI-verktøyet, har de gitt bort kontrollen over dataene til noen andre.

I henhold til OpenAIs personvernregler kan selskapet samle inn all personlig informasjon og data fra tjenestebrukere for å forbedre sine AI-modeller. De kan bruke denne informasjonen til å forbedre eller analysere tjenestene sine, utføre forskning, kommunisere med brukere og utvikle nye programmer og tjenester.

Personvernerklæringen slår fast at OpenAI kan gi personopplysninger til tredjeparter uten å varsle brukere, med mindre det er påkrevd ved lov. OpenAI har også sine egne tjenestevilkår, men selskapet legger mye av ansvaret på brukerne for å iverksette passende tiltak når de samhandler med AI-verktøy.

Eierne av ChatGPT har publisert på bloggen sin om sin tilnærming til sikker AI. Selskapet understreker at de ikke bruker data til å selge tjenester, annonsere eller bygge brukerprofiler. I stedet bruker OpenAI data til å gjøre modellene sine mer nyttige. For eksempel vil brukersamtaler bli brukt til å trene ChatGPT.

ChatGPTs personvernregler anses som ganske vage.

Google, selskapet bak Bard AI, har ytterligere personvernbestemmelser for sine AI-brukere. Selskapet vil velge en liten del av samtalen og bruke automatiserte verktøy for å fjerne personlig identifiserbar informasjon, noe som vil bidra til å forbedre Bard samtidig som brukerens personvern beskyttes.

Eksempelsamtaler vil bli gjennomgått av menneskelige trenere og lagret i opptil tre år, separat fra brukerens Google-konto. Google minner også brukere om ikke å inkludere personlig informasjon om seg selv eller andre i samtaler på Bard AI. Teknologigiganten understreker at disse samtalene ikke vil bli brukt til reklameformål og vil kunngjøre endringer i fremtiden.

Bard AI lar brukere velge å ikke lagre samtaler på Google-kontoene sine, samt se gjennom eller slette samtaler via en lenke. I tillegg har selskapet sikkerhetstiltak som er utformet for å forhindre at Bard inkluderer personlig informasjon i svar.

Steve Mills sier at brukere og utviklere noen ganger bare oppdager sikkerhetsrisikoene som er skjult i ny teknologi når det er for sent. For eksempel kan autofyllfunksjoner ved et uhell avsløre brukernes personnummer.

Brukere bør ikke legge inn noe i disse verktøyene som de ikke ønsker å dele med andre, sa Mills.

[annonse_2]
Kildekobling