Zorgen dat kunstmatige intelligentie geavanceerde wapens zal creëren die niet door mensen worden bestuurd

Ambtenaren maken zich steeds meer zorgen over het misbruik van AI om biologische wapens te creëren en de noodzaak van regelgeving om dit tegen te gaan. (Foto: Ignatiev)

Zorgen over criminelen of terroristen die AI gebruiken om de wereld te vernietigen, zullen een hot topic zijn tijdens een wereldtop in november in het Verenigd Koninkrijk. Britse functionarissen reizen de wereld rond om te proberen consensus te bereiken over een gezamenlijke verklaring die waarschuwt voor de risico's van kwaadaardige krachten die nieuwe technologie misbruiken.

Sommige functionarissen in de buurt van de Britse premier vrezen dat de technologie op een gegeven moment krachtig genoeg zal zijn om biologische wapens te creëren of wapens die aan menselijke controle ontsnappen. De groeiende bezorgdheid roept op tot regelgeving om de risico's te beperken. Hoewel techleiders akkoord gaan met het stopzetten van de ontwikkeling van AI, zijn ze verwikkeld in een AI-wapenwedloop met rivalen.

Volgens The Guardian zullen tijdens de top in november de risico's van "frontier AI" worden besproken. Frontier AI is een term die wordt gebruikt voor de meest geavanceerde AI-modellen die een gevaar voor het menselijk leven kunnen vormen.

Eerder deze week bevestigde de Britse regering dat de conferentie zich zou richten op risico's zoals het misbruik van AI om biologische wapens te creëren, cyberaanvallen of geavanceerde systemen zonder menselijke controle. Sunak waarschuwt al enkele maanden voor de risico's van AI en dringt er bij de internationale gemeenschap op aan om "rails" te implementeren om misbruik van AI te voorkomen.

Vorig jaar had een AI slechts zes uur nodig om 40.000 verschillende potentieel dodelijke moleculen te suggereren, waarvan er één leek op VX, het krachtigste zenuwgas dat ooit is ontwikkeld.

Begin 2023 ontdekten onderzoekers dat ChatGPT mensen kon misleiden om een specifiek doel te bereiken. De AI-chatbot overtuigde een mens om een captcha op te lossen (een tool die detecteert of een mens of een bot manipuleert).

Een andere grote zorg is de opkomst van "kunstmatige algemene intelligentie" (AGI), een AI-systeem dat elke taak net zo goed of beter kan uitvoeren dan de mens, wat potentieel een bedreiging voor de mensheid zou kunnen vormen. Sommigen geloven dat AGI nog maar een paar jaar op zich laat wachten. AI-experts betwisten dit echter en noemen oncontroleerbare AGI "sciencefiction".

Hoe dan ook, premier Sunak wil de conferentie gebruiken om de aandacht te vestigen op de existentiële risico's in plaats van op de directe mogelijkheden van AI, zoals het creëren van nepbeelden of het veroorzaken van discriminatie als AI wordt gebruikt bij het nemen van overheidsbeslissingen.

De Britse overheid trekt £100 miljoen uit aan een nieuwe AI-taskforce om algoritmen in ontwikkeling te testen. Ze wil internationale bedrijven stimuleren om AI-tools ter evaluatie terug te sturen naar het Verenigd Koninkrijk voordat ze op grote schaal worden ingezet.

Alleen de regering kan ervoor zorgen dat de belangrijkste zorgen over de nationale veiligheid worden weggenomen, aldus de Britse vicepremier Oliver Dowden.

Een woordvoerder van de Britse regering zei dat AI een enorm potentieel heeft om elk aspect van het leven te veranderen. De AI Taskforce is opgericht om ervoor te zorgen dat de technologie veilig en verantwoord wordt ontwikkeld. De AI-conferentie zal een reeks potentiële risico's bespreken.

(Volgens The Guardian)

Toepassing van kunstmatige intelligentie bij de bescherming van auteursrechten op digitale content . Naast de sterke ontwikkeling van digitale content, wordt ook inbreuk op auteursrechten steeds pijnlijker. Oplossingen die kunstmatige intelligentie (AI) integreren, zullen bijdragen aan de bescherming van auteursrechten op digitale content op internet.

Bron