Hatékony-e az internet nélküli számítógépeken futó mesterséges intelligencia?

A főként felhőalapú számítástechnikára támaszkodó mesterséges intelligenciával ellentétben a mesterséges intelligencia alapú PC egyszerre használja a központi processzort (CPU), a grafikus feldolgozóegységet (GPU) és a mesterséges intelligencia feladatokhoz dedikált processzort (NPU) a tartalomgenerálás, -elemzés és -optimalizálás feladatainak közvetlen kezelésére az eszközön.

Ez a megközelítés csökkenti a modell futtatásának késleltetését, mérsékli a hálózati függőséget, és növeli a felhasználói rugalmasságot folyamatos munkafolyamat-környezetekben.

Mesterséges intelligencia alapú PC az Ollama platformmal – egy olyan platform, amely közvetlenül a számítógépen futtatja a mesterséges intelligencia alapú modelleket, lehetővé téve az offline LLM használatát és a gyors, privát feldolgozást. (Fotó: Hung Cuong)

Az ötletelési szakaszban a felhasználók helyben futó generatív modelleket, az Intel AI Playground alkalmazásait, például az Ollama alkalmazást használhatják képek vázlatolására, témák azonosítására vagy vázlatok készítésére internetkapcsolat nélkül.

A telepítést illetően a továbbfejlesztett visszakeresési motor (RAG) lehetővé teszi az információk keresését, lekérdezését és összegzését közvetlenül a helyben tárolt dokumentumokból. Minden feldolgozást házon belül végzünk, így ideális olyan tartalmak esetében, amelyeket nem lehet külsőleg megosztani.

A képfeldolgozási szegmensben a mesterséges intelligenciával működő PC-k a grafikai és NPU-képességeket használják ki a szoftverek, például az Adobe Photoshop mesterséges intelligencia által vezérelt funkcióinak felgyorsítására. Ez segít a képi tartalomkészítőknek jelentősen lerövidíteni az utófeldolgozási időt a tisztán CPU-feldolgozáshoz vagy a felhőszolgáltatásokra való teljes támaszkodáshoz képest.

Az olyan műveletek, mint a témafelismerés, a háttér szétválasztása, a megvilágítás beállítása vagy a képkocka kiterjesztésére szolgáló generatív eszköz használata, rövidebb válaszidővel végezhetők el, még vékony és könnyű modelleken is. (Fotó: Hung Cuong)

Hanganyagok esetében a mesterséges intelligenciával működő PC az Intel hardverét és további szoftvereket, például az OpenVINO-t kombinálja a zajszűrési és hangfelosztási modellek felgyorsítása érdekében. A felhasználók a szerkesztés előtt feldolgozhatják az interjúfelvételeket, csökkenthetik a háttérzajt és tisztíthatják a hangokat olyan eszközökben, mint az Audacity.

A feldolgozás közvetlenül az eszközön történik, ami kényelmes a riporterek vagy tartalomgyártók számára, akiknek gyenge hálózati körülmények között kell dolgozniuk, vagy gyors feldolgozásra van szükségük közvetlenül a helyszínen.

A videós világban a videószerkesztő alkalmazások a PC-ken található mesterséges intelligenciát használják a jelenetek felismerésére, vágási pontok javaslatára, automatikus feliratok létrehozására és a képstabilizálás támogatására. A GPU és az NPU kombinációja gördülékenyebbé teszi az előnézetet, a szerkesztést és a renderelést, különösen többrétegű vagy nagy felbontású videók esetén.

Phung Viet Thang, az Intel Vietnam országigazgatója elmondta: „A mesterséges intelligenciával működő PC a számítástechnika következő lépését jelenti, segítve a munkateljesítmény, a kreativitás és a felhasználói élmény javítását. Míg a legtöbb számítógépes modellnek a felhőalapú számítástechnikára kell támaszkodnia a mesterséges intelligencia alkalmazások futtatásához, az AI PC speciális hardverrel rendelkezik, amely gyors és hatékony MI-feldolgozást támogat közvetlenül az eszközön.”

Phung Viet Thang úr, az Intel Vietnam országos igazgatója. (Fotó: Hung Cuong)

Számos nagy számítógépgyártó, mint például az Acer, az ASUS, a Dell Technologies, a Gigabyte, a HP, a Lenovo és az MSI integrálta az Intel® Core™ Ultra 200V sorozatú processzort új mesterséges intelligenciával vezérelt PC-modelljeibe, így olyan eszközök ökoszisztémáját alkotva, amelyek közvetlenül a hardveren támogatják a mesterséges intelligencia általi feldolgozást.

Az Intel szerint az Intel® Core™ Ultra 200V sorozatú processzorgeneráció szálanként körülbelül háromszor nagyobb teljesítményt ér el, több mint 80%-kal nagyobb grafikus teljesítményt nyújt az előző generációhoz képest, az akkumulátor üzemideje pedig a gép konfigurációjától és a munkaterheléstől függően akár a 20 órát is kibírhatja tényleges használat mellett.

Azzal, hogy a mesterséges intelligencia képességeit a személyes eszközökre hozza ahelyett, hogy teljes mértékben a felhőre támaszkodna, a mesterséges intelligencia által vezérelt PC megfelelő választásnak számít a professzionális felhasználók, például riporterek, szerkesztők, tartalomkészítők vagy médiaszemélyzet számára, akiknek gyorsan, rugalmasan kell feldolgozniuk és proaktívan kell irányítaniuk a munkafolyamatokat a saját gépükön.

Hozzászólás (0)