Bekymringer om at kunstig intelligens vil skape avanserte våpen som ikke kontrolleres av mennesker

[annonse_1]

Myndighetene er stadig mer bekymret for misbruk av AI til å lage biovåpen og behovet for regulering for å redusere dette. (Foto: Ignatiev)

Bekymringer om kriminelle eller terrorister som bruker kunstig intelligens til å ødelegge verden vil være et hett tema på et globalt ledertoppmøte i Storbritannia i november. Britiske tjenestemenn reiser verden rundt for å prøve å oppnå enighet om en felles uttalelse som advarer om risikoen ved at onde krefter utnytter ny teknologi.

Enkelte tjenestemenn nær den britiske statsministeren er bekymret for at teknologien på et tidspunkt vil være kraftig nok til å lage biologiske våpen eller våpen som unnslipper menneskelig kontroll. Den økende bekymringen krever regulering for å redusere risikoen. Mens teknologiledere er enige om å sette AI-utviklingen på pause, er de låst fast i et AI-våpenkappløp med rivaler.

Ifølge The Guardian vil toppmøtet i november diskutere risikoen ved «frontier AI». Frontier AI er et begrep som brukes for å referere til de mest avanserte AI-modellene som kan sette menneskeliv i fare.

Tidligere denne uken bekreftet den britiske regjeringen at konferansen ville fokusere på risikoer som misbruk av AI for å lage biologiske våpen, cyberangrep eller avanserte systemer uten menneskelig kontroll. I flere måneder nå har Sunak advart om risikoen AI utgjør, og oppfordret det internasjonale samfunnet til å ta i bruk «skinner» for å forhindre misbruk av AI.

I fjor tok det en AI bare seks timer å foreslå 40 000 forskjellige potensielt dødelige molekyler, hvorav ett lignet VX, den kraftigste nervegiften som noen gang er utviklet.

Tidlig i 2023 oppdaget forskere at ChatGPT kunne lure mennesker for å oppnå et spesifikt mål. AI-chatboten overbeviste et menneske om å løse en Captcha (et verktøy som brukes til å oppdage om et menneske eller en bot manipulerer).

En annen stor bekymring er fremveksten av «kunstig generell intelligens» (AGI), et KI-system som kan utføre enhver oppgave like bra eller bedre enn mennesker, noe som potensielt kan være en trussel mot menneskeheten. Noen mener at AGI bare er noen få år unna. KI-eksperter bestrider imidlertid dette og kaller ukontrollerbar AGI for «science fiction».

Uansett vil statsminister Sunak bruke konferansen til å rette oppmerksomheten mot de eksistensielle risikoene snarere enn de umiddelbare mulighetene ved kunstig intelligens, som å lage falske bilder eller forårsake diskriminering hvis den brukes til å ta offentlige politiske beslutninger.

Den britiske regjeringen vil bruke 100 millioner pund på en ny AI-arbeidsgruppe som skal hjelpe til med å teste algoritmer under utvikling. Den ønsker å oppfordre globale bedrifter til å sende AI-verktøy tilbake til Storbritannia for evaluering før de distribueres bredt.

Bare regjeringen kan sørge for at de viktigste bekymringene rundt nasjonal sikkerhet blir dempet, ifølge den britiske visestatsministeren Oliver Dowden.

En talsperson for den britiske regjeringen sa at KI har et enormt potensial til å forandre alle aspekter av livet. KI-arbeidsgruppen er opprettet for å sikre at teknologien utvikles trygt og ansvarlig. KI-konferansen vil se på en rekke potensielle risikoer.

(Ifølge The Guardian)

Bruk av kunstig intelligens for å beskytte opphavsretten til digitalt innhold I takt med den sterke utviklingen av digitalt innhold blir også brudd på opphavsretten mer og mer smertefullt. Løsninger som integrerer kunstig intelligens (KI) vil bidra til å beskytte opphavsretten til digitalt innhold på internett.

[annonse_2]
Kilde