![]() |
A hagyományos TPU-val ellentétben a piros számítógépes chip az első, amely szén nanocsöveket – apró, hengeres szerkezeteket, amelyek hatszögekbe rendezett szénatomokból állnak – használ a hagyományos félvezető anyagok, például a szilícium helyett. (Kép: Sankai) |
A mesterséges intelligencia modelljei adatigényesek és nagy számítási teljesítményt igényelnek a futtatáshoz. Ez jelentős akadályt jelent a gépi tanulási modellek betanításában és skálázásában, különösen a mesterséges intelligencia alkalmazások iránti kereslet növekedésével. Ezért dolgoznak a tudósok új alkatrészek létrehozásán, a processzoroktól a számítógépes memóriáig, amelyek úgy vannak kialakítva, hogy kevesebb energiát fogyasztanak a szükséges számítások futtatása közben.
A Google tudósai 2015-ben TPU-kat fejlesztettek ki ennek a kihívásnak a megoldására. Ezek a speciális chipek dedikált hardvergyorsítóként működnek a tenzorműveletekhez – azokhoz az összetett matematikai számításokhoz, amelyeket a mesterséges intelligencia modelljeinek betanításához és futtatásához használnak. Azzal, hogy ezeket a feladatokat áthelyezik a központi feldolgozóegységről (CPU) és a grafikus feldolgozóegységről (GPU), a TPU-k lehetővé teszik a mesterséges intelligencia modellek gyorsabb és hatékonyabb betanítását.
A hagyományos TPU-kkal ellentétben azonban ez az új chip az első, amely szén nanocsöveket használ – apró, hengeres szerkezeteket, amelyek szénatomokból állnak, hatszögletű mintázatban elrendezve, a hagyományos félvezető anyagok, például a szilícium helyett. Ez a szerkezet lehetővé teszi, hogy az elektronok (töltött részecskék) minimális ellenállással áramoljanak át rajtuk, így a szén nanocsövek kiváló elektromos vezetők.
A kínai tudósok szerint a TPU-juk mindössze 295 mikrowatt (μW) energiát fogyaszt (ahol 1 W 1 000 000 μW-ot jelent), és wattonként 1 billió számítást képes elvégezni – ez az energiahatékonysági egység. Ez azt jelenti, hogy a kínai szénalapú TPU közel 1700-szor energiahatékonyabb, mint a Google chipje.
„A ChatGPT-től a Soráig a mesterséges intelligencia új forradalmat vezet be, de a hagyományos szilíciumalapú félvezető technológia egyre kevésbé képes kielégíteni a hatalmas adatmennyiség feldolgozásának igényeit. Megoldást találtunk erre a globális kihívásra” – mondta Zhiyong Zhang, a tanulmány társszerzője és a Pekingi Egyetem elektronikai professzora.
Az új TPU 3000 szén nanocsöves tranzisztort tartalmaz, és szisztolikus tömbarchitektúrával épült – egy rácsban elrendezett processzorok hálózatával. Ez lehetővé teszi a TPU számára, hogy egyszerre több számítást végezzen az adatáramlás összehangolásával és annak biztosításával, hogy minden processzor a feladat egy kis részét végezze el egyszerre.
Ez a párhuzamos feldolgozás lehetővé teszi a számítások sokkal gyorsabb elvégzését, ami fontos a nagy mennyiségű adatot feldolgozó mesterséges intelligencia modellek számára. Csökkenti azt a gyakoriságot is, amellyel a memóriának – konkrétan a statikus véletlen hozzáférésű memóriának (SRAM) nevezett típusnak – adatokat kell olvasnia és írnia – mondta Zhang. Ezen műveletek minimalizálásával az új TPU gyorsabban, sokkal kevesebb energiafogyasztás mellett is képes elvégezni a számításokat.
A kutatók szerint a hasonló szén nanocsöveken alapuló technológia a jövőben energiahatékonyabb alternatívát kínálhat a szilícium alapú chipekkel szemben. A chip további finomítását tervezik a teljesítmény javítása és a skálázhatóság javítása érdekében, beleértve a TPU szilícium CPU-kba integrálásának módjait is.
Hozzászólás (0)