Obavy, že umělá inteligence vytvoří pokročilé zbraně, které nebudou moci ovládat lidé

Úředníci jsou stále více znepokojeni zneužíváním umělé inteligence k vytváření biologických zbraní a potřebou regulace, která by tento problém zmírnila. (Foto: Ignatiev)

Obavy z toho, že zločinci nebo teroristé mohou využívat umělou inteligenci ke zničení světa , budou žhavým tématem na listopadovém summitu světových lídrů ve Velké Británii. Britští představitelé cestují po celém světě, aby se pokusili dosáhnout konsensu ohledně společného prohlášení varujícího před riziky zneužívání nových technologií zlými silami.

Někteří úředníci blízcí britskému premiérovi se obávají, že v určitém okamžiku bude tato technologie dostatečně silná na to, aby vytvořila biologické zbraně nebo zbraně, které se vymknou lidské kontrole. Rostoucí obavy žádají o regulaci, která by zmírnila rizika. Zatímco technologickí lídři souhlasí s pozastavením vývoje umělé inteligence, jsou s konkurenty uvězněni v závodě ve zbrojení umělé inteligence.

Podle deníku The Guardian se na listopadovém summitu budou diskutovat rizika „hraniční umělé inteligence“. Termín Frontier AI se používá k označení nejpokročilejších modelů umělé inteligence, které mohou ohrozit lidské životy.

Britská vláda začátkem tohoto týdne potvrdila, že se konference zaměří na rizika, jako je zneužití umělé inteligence k vytváření biologických zbraní, kybernetické útoky nebo pokročilé systémy bez lidské kontroly. Pan Sunak již několik měsíců varuje před riziky, která umělá inteligence představuje, a naléhá na mezinárodní společenství, aby zavedlo „zábradlí“, které by zabránilo zneužívání umělé inteligence.

Loni trvalo umělé inteligenci pouhých šest hodin, než navrhla 40 000 různých potenciálně smrtících molekul, z nichž jedna se podobala VX, nejsilnější nervově paralytické látce, jaká kdy byla vyvinuta.

Začátkem roku 2023 vědci zjistili, že ChatGPT dokáže lidi oklamat a dosáhnout tak určitého cíle. Chatbot s umělou inteligencí přesvědčil člověka k vyřešení Captchy (nástroj používaný k detekci, zda manipuluje člověk nebo bot).

Dalším velkým problémem je vzestup „umělé obecné inteligence“ (AGI), což je systém umělé inteligence, který dokáže vykonávat jakýkoli úkol stejně dobře nebo lépe než lidé, což by mohlo být potenciální hrozbou pro lidstvo. Někteří se domnívají, že AGI je jen pár let daleko. Odborníci na umělou inteligenci to však zpochybňují a nekontrolovatelnou AGI nazývají „sci-fi“.

Premiér Sunak bude chtít konferenci využít k tomu, aby zaměřil pozornost spíše na existenční rizika než na bezprostřední možnosti umělé inteligence, jako je vytváření falešných obrázků nebo diskriminace, pokud bude použita k rozhodování o veřejné politice.

Britská vláda vynaloží 100 milionů liber na novou pracovní skupinu pro umělou inteligenci, která má pomoci s testováním vyvíjených algoritmů. Chce povzbudit globální firmy, aby před jejich širokým nasazením posílaly nástroje umělé inteligence zpět do Spojeného království k vyhodnocení.

Pouze vláda může zajistit, aby byly zmírněny nejdůležitější obavy o národní bezpečnost, uvedl britský místopředseda vlády Oliver Dowden.

Mluvčí britské vlády uvedl, že umělá inteligence má obrovský potenciál změnit všechny aspekty života. Byla zřízena pracovní skupina pro umělou inteligenci, která má zajistit bezpečný a zodpovědný vývoj této technologie. Konference o umělé inteligenci se zaměří na řadu potenciálních rizik.

(Podle deníku The Guardian)

Využití umělé inteligence k ochraně autorských práv k digitálnímu obsahu Spolu se silným rozvojem digitálního obsahu se porušování autorských práv stává stále bolestivějším. Řešení integrující umělou inteligenci (AI) přispějí k ochraně autorských práv k digitálnímu obsahu na internetu.

Zdroj