Hvor godt kjenner du AI? Her er 7 begreper du trenger å vite

[annonse_1]

Den raske utviklingen av kunstig intelligens (KI) har skapt bekymring for at den utvikler seg raskere enn mennesker kan forstå dens innvirkning.

Hvor godt forstår du noen? Her er 7 begreper du trenger å vite, bilde 1. — Foto: ST

Bruken av generell AI har økt betydelig etter fremveksten av verktøy som ChatGPT. Selv om disse verktøyene har mange fordeler, kan de også misbrukes på skadelige måter.

For å håndtere denne risikoen har USA og flere andre land sikret seg avtaler med sju selskaper, inkludert Amazon, Anthropic, Google, Inflection, Meta, Microsoft og OpenAI, om å forplikte seg til trygg praksis i utviklingen av AI-teknologi.

Kunngjøringen fra Det hvite hus kommer med sin egen terminologi som kanskje ikke er kjent for den gjennomsnittlige personen, med begreper som «red teaming» og «watermarking». Her er syv AI-relaterte begreper å se opp for.

Maskinlæring

Denne grenen av AI har som mål å trene maskiner til å utføre en spesifikk oppgave nøyaktig ved å identifisere mønstre. Maskinen kan deretter komme med forutsigelser basert på disse dataene.

Dyp læring

Kreative AI-oppgaver er ofte avhengige av dyp læring, en metode som involverer å trene datamaskiner ved hjelp av nevrale nettverk, et sett med algoritmer designet for å etterligne nevronene i den menneskelige hjernen, for å lage komplekse forbindelser mellom mønstre for å generere tekst, bilder eller annet innhold.

Fordi dyp læringsmodeller har flere lag med nevroner, kan de lære mer komplekse mønstre enn tradisjonell maskinlæring.

Stor språkmodell

En stor språkmodell, eller LLM, er trent på enorme mengder data og har som mål å modellere språk eller forutsi det neste ordet i en sekvens. Store språkmodeller, som ChatGPT og Google Bard, kan brukes til oppgaver som oppsummering, oversettelse og samtale.

Algoritme

Et sett med instruksjoner eller regler som lar maskiner komme med forutsigelser, løse problemer eller fullføre oppgaver. Algoritmer kan gi handleanbefalinger og hjelpe med svindeldeteksjon og chattefunksjoner for kundeservice.

Skjevhet

Fordi AI trenes ved hjelp av store datasett, kan den innlemme skadelig informasjon i dataene, for eksempel hatefulle ytringer. Rasisme og sexisme kan også dukke opp i datasettene som brukes til å trene AI, noe som fører til villedende innhold.

AI-selskaper har blitt enige om å gå dypere inn i hvordan man kan unngå skadelig skjevhet og diskriminering i AI-systemer.

Rødt lag

En av forpliktelsene selskapene har gitt Det hvite hus er å gjennomføre «red teaming» internt og eksternt på AI-modeller og -systemer.

«Red teaming» innebærer å teste en modell for å avdekke potensielle sårbarheter. Begrepet kommer fra en militær praksis der et team simulerer en angripers handlinger for å komme opp med strategier.

Denne metoden er mye brukt til å teste sikkerhetssårbarheter i systemer som skybaserte databehandlingsplattformer fra selskaper som Microsoft og Google.

Vannmerking

Et vannmerke er en måte å se om en lyd eller et bilde ble laget av AI. Fakta som sjekkes for verifisering kan inkludere informasjon om hvem som laget det, samt hvordan og når det ble opprettet eller redigert.

For eksempel har Microsoft lovet å vannmerke bilder laget av deres AI-verktøy. Selskaper har også lovet Det hvite hus å vannmerke bilder eller registrere opprinnelsen deres for å identifisere dem som AI-genererte.

Vannmerker brukes også ofte til å spore brudd på immaterielle rettigheter. Vannmerker for AI-genererte bilder kan vises som umerkelig støy, for eksempel en liten endring hver syvende piksel.

Vannmerking av AI-generert tekst kan imidlertid være mer komplekst og kan innebære å justere ordmalen slik at den kan identifiseres som AI-generert innhold.

Hoang Ton (ifølge Poynter)

[annonse_2]
Kilde