Kina bygger sitt första AI-chip dedikerat till kolnanorör

Kina tillverkar sitt första AI-chip dedikerat till

Till skillnad från konventionell TPU är det röda datorchippet det första som använder kolnanorör – små cylindriska strukturer gjorda av kolatomer arrangerade i hexagoner – istället för traditionella halvledarmaterial som kisel. (Bild: Sankai)

AI-modeller är dataintensiva och kräver stora mängder datorkraft för att köras. Detta utgör ett betydande hinder för träning och skalning av maskininlärningsmodeller, särskilt i takt med att efterfrågan på AI-applikationer ökar. Det är därför forskare arbetar med att skapa nya komponenter, från processorer till datorminne, som är utformade för att förbruka mindre energi samtidigt som de kör de nödvändiga beräkningarna.

Googles forskare skapade TPU:er år 2015 för att hantera denna utmaning. Dessa specialiserade chip fungerar som dedikerade hårdvaruacceleratorer för tensoroperationer – de komplexa matematiska beräkningar som används för att träna och köra AI-modeller. Genom att flytta dessa uppgifter bort från processorn (CPU) och grafikprocessorn (GPU) gör TPU:er det möjligt att träna AI-modeller snabbare och mer effektivt.

Till skillnad från konventionella TPU-chip är dock detta nya chip det första som använder kolnanorör – små cylindriska strukturer gjorda av kolatomer arrangerade i ett hexagonalt mönster istället för traditionella halvledarmaterial som kisel. Denna struktur gör att elektroner (laddade partiklar) kan flöda genom dem med minimalt motstånd, vilket gör kolnanorör till utmärkta ledare av elektricitet.

Enligt de kinesiska forskarna förbrukar deras TPU bara 295 mikrowatt (μW) ström (där 1 W är 1 000 000 μW) och kan leverera 1 biljon beräkningar per watt – en enhet för energieffektivitet. Detta gör Kinas kolbaserade TPU nästan 1 700 gånger mer energieffektiv än Googles chip.

”Från ChatGPT till Sora inleder artificiell intelligens en ny revolution, men traditionell kiselbaserad halvledarteknik klarar alltmer inte av att möta kraven på att bearbeta massiva mängder data. Vi har hittat en lösning på denna globala utmaning”, säger Zhiyong Zhang, medförfattare till artikeln och professor i elektronik vid Pekings universitet.

Den nya TPU:n innehåller 3 000 kolnanorörstransistorer och är byggd med en systolisk arrayarkitektur – ett nätverk av processorer arrangerade i ett rutnät. Detta gör att TPU:n kan utföra flera beräkningar samtidigt genom att koordinera dataflödet och säkerställa att varje processor utför en liten del av uppgiften samtidigt.

Denna parallella bearbetning gör att beräkningar kan utföras mycket snabbare, vilket är viktigt för AI-modeller som bearbetar stora mängder data. Det minskar också frekvensen med vilken minne – specifikt en typ som kallas statiskt RAM (SRAM) – behöver läsa och skriva data, sa Zhang. Genom att minimera dessa operationer kan den nya TPU:n utföra beräkningar snabbare samtidigt som den använder mycket mindre ström.

Forskarna säger att liknande teknik baserad på kolnanorör skulle kunna ge ett mer energieffektivt alternativ till kiselbaserade chip i framtiden. De planerar att fortsätta förfina chipet för att förbättra prestandan och göra det mer skalbart, inklusive att utforska sätt att integrera TPU i kisel-processorer, sa de.

Ha Thu

Enligt Live Science