Kina bygger den første dedikerte AI-brikken «karbonnanorør»

TPO – Kinesiske forskere har laget en ny type tensorprosessorenhet (TPU) – en spesiell type databrikke som bruker karbonnanorør i stedet for tradisjonelle silisiumhalvledere. De sier at den nye brikken kan åpne døren for mer energieffektiv kunstig intelligens (KI).

I motsetning til konvensjonell TPU, er den røde databrikken den første som bruker karbonnanorør – bittesmå sylindriske strukturer laget av karbonatomer arrangert i sekskanter – i stedet for tradisjonelle halvledermaterialer som silisium. (Bilde: Sankai)

AI-modeller er dataintensive og krever store mengder datakraft for å kjøre. Dette utgjør en betydelig hindring for trening og skalering av maskinlæringsmodeller, spesielt ettersom etterspørselen etter AI-applikasjoner øker. Det er derfor forskere jobber med å lage nye komponenter, fra prosessorer til dataminne, som er designet for å bruke mindre energi mens de kjører de nødvendige beregningene.

Google-forskere laget TPU-er i 2015 for å møte denne utfordringen. Disse spesialiserte brikkene fungerer som dedikerte maskinvareakseleratorer for tensoroperasjoner – de komplekse matematiske beregningene som brukes til å trene og kjøre AI-modeller. Ved å flytte disse oppgavene bort fra den sentrale prosessorenheten (CPU) og grafikkprosessorenheten (GPU), tillater TPU-er at AI-modeller trenes raskere og mer effektivt.

I motsetning til konvensjonelle TPU-er er imidlertid denne nye brikken den første som bruker karbonnanorør – bittesmå sylindriske strukturer laget av karbonatomer arrangert i et sekskantet mønster i stedet for tradisjonelle halvledermaterialer som silisium. Denne strukturen lar elektroner (ladede partikler) strømme gjennom dem med minimal motstand, noe som gjør karbonnanorør til utmerkede ledere av elektrisitet.

Ifølge de kinesiske forskerne bruker TPU-en deres bare 295 mikrowatt (μW) strøm (der 1 W er 1 000 000 μW) og kan levere 1 billion beregninger per watt – en enhet for energieffektivitet. Dette gjør Kinas karbonbaserte TPU nesten 1700 ganger mer energieffektiv enn Googles brikke.

«Fra ChatGPT til Sora innleder kunstig intelligens en ny revolusjon, men tradisjonell silisiumbasert halvlederteknologi er i stadig større grad ute av stand til å møte kravene til behandling av enorme mengder data. Vi har funnet en løsning på denne globale utfordringen», sa Zhiyong Zhang, medforfatter av artikkelen og professor i elektronikk ved Peking University.

Den nye TPU-en inneholder 3000 karbonnanorørtransistorer og er bygget med en systolisk array-arkitektur – et nettverk av prosessorer arrangert i et rutenett. Dette lar TPU-en utføre flere beregninger samtidig ved å koordinere dataflyten og sikre at hver prosessor utfører en liten del av oppgaven samtidig.

Denne parallelle prosesseringen gjør at beregninger kan utføres mye raskere, noe som er viktig for AI-modeller som behandler store mengder data. Det reduserer også hvor ofte minne – nærmere bestemt en type som kalles statisk random access memory (SRAM) – må lese og skrive data, sa Zhang. Ved å minimere disse operasjonene kan den nye TPU-en utføre beregninger raskere samtidig som den bruker mye mindre strøm.

Forskerne sier at lignende teknologi basert på karbonnanorør kan gi et mer energieffektivt alternativ til silisiumbaserte brikker i fremtiden. De planlegger å fortsette å forbedre brikken for å forbedre ytelsen og gjøre den mer skalerbar, inkludert å utforske måter å integrere TPU i silisium-CPUer, sa de.

Ha Thu

Ifølge Live Science