Näytönohjaimet ovat tekoälytietokoneiden aivot.
Yksinkertaisesti sanottuna grafiikkasuoritin (GPU) toimii tekoälytietokoneen aivoina.
Kuten ehkä jo tiedät, keskusyksikkö (CPU) on tietokoneen aivot. Grafiikkasuorittimen (GPU) etuna on, että se on erikoistunut suoritin monimutkaisten laskelmien suorittamiseen. Nopein tapa suorittaa nämä laskelmat on, että useat näytönohjaimet ratkaisevat ongelman yhdessä. Silti tekoälymallin kouluttaminen voi kestää viikkoja tai jopa kuukausia. Kun se on rakennettu, se sijoitetaan käyttöliittymätietokoneeseen, ja käyttäjät voivat esittää tekoälymallille kysymyksiä; tätä prosessia kutsutaan päättelyksi.
Tekoälytietokoneessa on useita näytönohjaimia.
Paras arkkitehtuuri tekoälyongelmien ratkaisemiseen on käyttää räkissä olevaa ryhmää näytönohjaimia, jotka on kytketty räkin päällä olevaan kytkimeen. Useita näytönohjainräkkejä voidaan lisäksi kytkeä hierarkkiseen verkkoyhteysjärjestelmään. Kun ratkaistavat ongelmat monimutkaistuvat, myös näytönohjainvaatimukset kasvavat, ja joissakin projekteissa voi olla tarpeen ottaa käyttöön tuhansien näytönohjainten klustereita.
Jokainen tekoälyklusteri on pieni verkosto.
Tekoälyklusteria rakennettaessa on välttämätöntä perustaa pieni tietokoneverkko, jotta näytönohjaimet voivat muodostaa yhteyden ja työskennellä yhdessä ja jakaa tietoa tehokkaasti.
Yllä oleva kaavio havainnollistaa tekoälyklusteria, jossa alareunassa olevat ympyrät edustavat näytönohjaimilla suoritettavia työnkulkuja. Näytönohjaimet kytketään ylimmän telineen (ToR) kytkimiin. Nämä ToR-kytkimet kytketään myös yllä olevassa kaaviossa esitettyihin verkon runkokytkimiin, mikä osoittaa selkeän verkkohierarkian, joka on tarpeen useiden näytönohjainten yhteydessä.
Verkot ovat tekoälyn käyttöönoton pullonkaula.
Viime syksynä Open Computer Projectin (OCP) globaalissa huippukokouksessa, jossa osanottajat rakensivat seuraavan sukupolven tekoälyinfrastruktuuria, Marvell Technologyn edustaja Loi Nguyen toi esiin keskeisen ongelman: "verkot ovat uusi pullonkaula".
Teknisesti ottaen verkon ruuhkautumisen aiheuttama korkea pakettien viive tai pakettien katoaminen voi aiheuttaa pakettien uudelleenlähetyksen, mikä pidentää merkittävästi työn valmistumisaikaa (JCT). Tämän seurauksena yritysten omistamia näytönohjaimia menee hukkaan miljoonien tai kymmenien miljoonien dollarien arvosta tehottomien tekoälyjärjestelmien vuoksi, mikä vahingoittaa yrityksiä sekä tulojen että markkinoilletuloajan suhteen.
Testaus ja mittaaminen ovat tekoälyverkkojen onnistuneen toiminnan kannalta ratkaisevia edellytyksiä.
Jotta tekoälyklusteri toimisi tehokkaasti, näytönohjainten on kyettävä hyödyntämään koko kapasiteettiaan koulutusajan lyhentämiseksi ja oppimismallien toteuttamiseksi sijoitetun pääoman tuoton maksimoimiseksi. Siksi tekoälyklusterin suorituskyvyn testaaminen ja arviointi on välttämätöntä (kuva 2). Tämä tehtävä ei kuitenkaan ole helppo, koska järjestelmäarkkitehtuuri sisältää monia asetuksia ja suhteita näytönohjaimen ja verkkorakenteen välillä, joiden on täydennettävä toisiaan ongelman ratkaisemiseksi.
Tämä aiheuttaa monia vaikeuksia ja haasteita tekoälyverkkojen mittaamisessa:
- Koko tuotantoverkon replikoinnin haaste laboratoriossa johtuu kustannus-, laite-, korkeasti koulutettujen tekoälyverkkoinsinöörien pulasta, tilasta, virtalähteestä ja lämpötilasta.
- Paikan päällä tapahtuva testaus tuotantojärjestelmässä vähentää itse tuotantojärjestelmän käytettävissä olevaa prosessointikapasiteettia.
- Ongelmien tarkan toistamisen vaikeus ongelmien mittakaavan ja laajuuden erojen vuoksi.
- Näytönohjainten yhteisen yhteyden monimutkaisuus.
Näiden haasteiden ratkaisemiseksi yritykset voivat suorittaa vertailuanalyysin osasta ehdotetuista kokoonpanoista laboratorioympäristössä vertaillakseen keskeisiä parametreja, kuten JCT:tä (työn valmistumisaikaa) ja tekoälytiimin saavuttamaa kaistanleveyttä, ja verrata niitä kytkentäalustan käyttöön ja välimuistin käyttöön. Tämä vertailuanalyysi auttaa löytämään oikean tasapainon GPU/prosessointityömäärän ja verkon suunnittelun/asennuksen välillä. Kun tietokonearkkitehdit ja verkkoinsinöörit ovat tyytyväisiä tuloksiin, he voivat soveltaa näitä kokoonpanoja tuotantoon ja mitata uusia tuloksia.
Yritysten tutkimuslaboratoriot, tutkimuslaitokset ja yliopistot työskentelevät analysoidakseen tehokkaiden tekoälyverkkojen rakentamisen ja toiminnan kaikkia osa-alueita vastatakseen laajoissa verkoissa työskentelyn haasteisiin, erityisesti parhaiden käytäntöjen muuttuessa jatkuvasti. Tämä toistettavissa oleva yhteistyölähestymistapa on ainoa tapa, jolla yritykset voivat suorittaa toistettavia mittauksia ja nopeaa "jos-niin"-skenaariotestausta – perustavanlaatuista tekoälypohjaisten verkkojen optimoinnissa.
(Lähde: Keysight Technologies)
[mainos_2]
Lähde: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html
