A világ még nem áll készen arra, hogy olyan okos mesterséges intelligenciát fejlesszen ki, mint az emberi agy.

Az OpenAI egyik vezető kutatója szerint a világ még nem áll készen a mesterséges általános intelligenciára (AGI), vagy arra a pontra, amikor a mesterséges intelligencia olyan okos lesz, mint az emberi agy.

Veszélyes-e az általános mesterséges intelligencia?

A kutatók évek óta találgatnak a mesterséges általános intelligencia, vagy AGI megjelenéséről, ahol a mesterséges rendszerek képesek lesznek a feladatok széles skáláját az emberek mellett kezelni. Sokan egzisztenciális kockázatnak tekintik a megjelenését, mivel lehetővé teheti a számítógépek számára, hogy olyan módon működjenek, amelyeket az emberek el sem tudnak képzelni.

Miles Brindage úr szerint a világ még nem áll készen a mesterséges általános intelligencia (AGI) korára.

A ChatGPT fejlesztőjének, az OpenAI-nak az AGI-ra való felkészültségéért felelős férfi most elismeri, hogy sem a világ, sem maga a vállalat nem „készül fel” a következő lépésre. Miles Brundage az „OpenAI AGI-felkészültséggel foglalkozó vezető tanácsadójaként” szolgált, de ezen a héten bejelentette távozását, miután a vállalat feloszlatta a csoportot.

„Sem az OpenAI, sem más úttörő laboratórium nem áll készen (az AGI-ra), és a világ sem. Hogy világos legyen, nem hiszem, hogy ez egy vitatott kijelentés az OpenAI vezetése között, hanem inkább arról szól a kérdés, hogy a vállalat és a világ jó úton halad-e afelé, hogy a megfelelő időben felkészüljön” – mondta Brundage, aki hat éve segít a vállalat mesterséges intelligencia biztonsági kezdeményezéseinek kialakításában.

Brundage távozása a legújabb a sor jelentős távozások sorában az OpenAI biztonsági csapataiból. Jan Leike, egy kiemelkedő kutató, miután kijelentette, hogy „a biztonsági kultúra és folyamatok háttérbe szorultak a csillogó termékekhez képest”. Ilya Sutskever társalapító szintén távozott, hogy elindítsa saját mesterséges intelligenciával foglalkozó startupját, amely biztonságos AGI fejlesztésére összpontosít.

Brundage „AGI Readiness” csoportjának feloszlatása mindössze néhány hónappal azután történt, hogy a vállalat feloszlatta a hosszú távú mesterséges intelligencia kockázatainak enyhítésére szakosodott „Superalignment” csoportját, rávilágítva az OpenAI eredeti küldetése és kereskedelmi ambíciói közötti feszültségekre.

A profitnyomás letéríti az OpenAI-t a biztonságos útról

Az OpenAI állítólag nyomás alatt áll, hogy két éven belül nonprofit szervezetből profitorientált vállalattá váljon – különben fennáll a veszélye annak, hogy elveszíti a közelmúltbeli 6,6 milliárd dolláros befektetési köréből származó finanszírozást. Ez a kereskedelmi forgalomba hozatal felé való elmozdulás régóta aggodalomra ad okot Brundage számára, aki 2019 óta, amikor az OpenAI létrehozta profitorientált részlegét, fenntartásait fejezte ki.

Az OpenAI vezérigazgatója, Sam Altman „fejfájással” küzd a vállalatra nehezedő profitnövelési nyomás miatt.

Távozásának indoklásában Brundage a kiemelkedő vállalatnál folytatott kutatási és publikációs szabadságának fokozódó korlátozásaira hivatkozott. Hangsúlyozta, hogy a mesterséges intelligenciával kapcsolatos politikai vitákban független, az iparági elfogultságtól és az összeférhetetlenségtől mentes hangra van szükség. Miután tanácsokkal látta el az OpenAI vezetését a belső előkészületekben, úgy véli, hogy mostantól a szervezeten kívülről nagyobb befolyást gyakorolhat a globális MI-irányításra.

A távozások az OpenAI-n belüli mélyebb kulturális megosztottságot is tükrözik. Sok kutató csatlakozott a mesterséges intelligencia kutatásának előmozdítása érdekében, és most egy egyre inkább termékvezérelt környezetben találják magukat. A belső erőforrás-elosztás vált gyújtóponttá – a jelentések szerint Leike csapatától megtagadták a számítási kapacitást a biztonsági kutatásokhoz, mielőtt feloszlatták.

Az OpenAI az elmúlt hónapokban kérdéseket kapott a mesterséges intelligencia fejlesztésére vonatkozó terveivel és azzal kapcsolatban, hogy mennyire veszi komolyan a biztonságot. Bár a ChatGPT nonprofit szervezetként indult, amely a biztonságos mesterséges intelligencia felépítésének kutatására specializálódott, sikere jelentős befektetéseket és nyomást hozott az új technológia profitorientált felhasználására.

Forrás: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm