Mennyire ismered a mesterséges intelligenciát? Íme 7 kifejezés, amit tudnod kell

A mesterséges intelligencia (MI) gyors fejlődése aggodalmat keltett azzal kapcsolatban, hogy gyorsabban fejlődik, mint ahogy az emberek felfoghatnák a hatását.

Fotó: ST

Az általános mesterséges intelligencia használata jelentősen megnőtt az olyan eszközök megjelenése után, mint a ChatGPT. Bár ezeknek az eszközöknek számos előnyük van, káros módon is felhasználhatók.

A kockázat kezelése érdekében az Egyesült Államok és számos más ország hét vállalattal – köztük az Amazonnal, az Anthropickal, a Google-lel, az Inflectionnel, a Metával, a Microsofttal és az OpenAI-val – kötött megállapodást, amelyek értelmében elkötelezik magukat a mesterséges intelligencia technológiájának fejlesztése során alkalmazott biztonságos gyakorlatok mellett.

A Fehér Ház bejelentése saját terminológiát tartalmaz, amely az átlagember számára ismeretlen lehet, olyan kifejezésekkel, mint a „red teaming” és a „watermarking”. Íme hét mesterséges intelligenciával kapcsolatos kifejezés, amelyekre érdemes figyelni.

Gépi tanulás

A mesterséges intelligencia ezen ága célja, hogy gépeket képezzen ki egy adott feladat pontos végrehajtására minták azonosításával. A gép ezután ezen adatok alapján előrejelzéseket tud tenni.

Mély tanulás

A kreatív mesterséges intelligencia által végzett feladatok gyakran a mélytanulásra támaszkodnak, amely módszer magában foglalja a számítógépek neurális hálózatokkal – az emberi agy neuronjait utánzó algoritmusok halmazával – történő betanítását, hogy összetett kapcsolatokat hozzanak létre a minták között szöveg, képek vagy más tartalom generálásához.

Mivel a mélytanulási modellek több neuronréteggel rendelkeznek, összetettebb mintákat tudnak megtanulni, mint a hagyományos gépi tanulás.

Nagy nyelvi modell

Egy nagy nyelvi modell, vagy LLM, hatalmas mennyiségű adaton képződik, és célja a nyelv modellezése vagy a következő szó előrejelzése egy sorozatban. A nagy nyelvi modellek, mint például a ChatGPT és a Google Bard, olyan feladatokra használhatók, mint az összefoglalás, fordítás és beszélgetés.

Algoritmus

Utasítások vagy szabályok összessége, amelyek lehetővé teszik a gépek számára, hogy előrejelzéseket tegyenek, problémákat oldjanak meg vagy feladatokat hajtsanak végre. Az algoritmusok vásárlási ajánlásokat adhatnak, és segíthetnek a csalások felderítésében, valamint az ügyfélszolgálati chat funkciókban.

Elfogultság

Mivel a mesterséges intelligenciát nagy adathalmazok segítségével képezik, káros információkat, például gyűlöletbeszédet is beépíthet az adatokba. A rasszizmus és a szexizmus is megjelenhet a mesterséges intelligencia betanításához használt adathalmazokban, ami félrevezető tartalmakhoz vezethet.

A mesterséges intelligenciával foglalkozó vállalatok megállapodtak abban, hogy mélyebben megvizsgálják, hogyan kerülhető el a káros elfogultság és diszkrimináció a mesterséges intelligencia rendszerekben.

Piros csapatépítés

A vállalatok által a Fehér Háznak tett egyik kötelezettségvállalás az, hogy belső és külső „vörös csapatmunkát” végeznek a mesterséges intelligencia modelljein és rendszerein.

A „vörös csapatjáték” egy modell tesztelését jelenti a potenciális sebezhetőségek feltárása érdekében. A kifejezés egy katonai gyakorlatból származik, ahol egy csapat szimulálja a támadó cselekedeteit, hogy stratégiákat dolgozzon ki.

Ezt a módszert széles körben használják biztonsági réseket tesztelni olyan rendszerekben, mint például a Microsoft és a Google felhőalapú számítástechnikai platformjai.

Vízjelezés

A vízjel egy módja annak, hogy megállapítsuk, hogy egy hangot vagy képet mesterséges intelligencia hozott-e létre. Az ellenőrzés céljából ellenőrzött tények magukban foglalhatják azt, hogy ki készítette, valamint azt, hogy hogyan és mikor készült vagy szerkesztették.

Például a Microsoft ígéretet tett arra, hogy vízjelet helyez el a mesterséges intelligencia által létrehozott eszközei által létrehozott képeken. A vállalatok a Fehér Háznak is ígéretet tettek arra, hogy vízjelet helyeznek el a képeken, vagy rögzítik azok eredetét, hogy mesterséges intelligencia által generáltként azonosíthassák azokat.

A vízjeleket gyakran használják a szellemi tulajdonjogok megsértésének nyomon követésére is. A mesterséges intelligencia által generált képek vízjelei észrevehetetlen zajként jelenhetnek meg, például minden hetedik képpont apró változásaként.

A mesterséges intelligencia által generált szöveg vízjelezése azonban összetettebb lehet, és magában foglalhatja a szó sablonjának módosítását, hogy mesterséges intelligencia által generált tartalomként azonosítható legyen.

Hoang Ton (Poynter szerint)

Forrás: https://www.congluan.vn/ban-hieu-ai-den-muc-nao-duoi-day-la-7-thuat-ngu-can-biet-post260123.html