Meta heeft zojuist een nieuwe open-source AI-beveiligingstoolkit uitgebracht.

Meta streeft ernaar een pioniersrol te spelen in de ontwikkeling van AI-technologieën.

Meta heeft Purple Llama geïntroduceerd, een project dat zich richt op het creëren van open-source tools waarmee ontwikkelaars de betrouwbaarheid en veiligheid van gegenereerde kunstmatige intelligentie (AI)-modellen kunnen evalueren en verbeteren voordat ze worden ingezet.

Meta benadrukte de noodzaak van gezamenlijke inspanningen om de veiligheid van AI te waarborgen, en stelde tegelijkertijd dat AI-uitdagingen niet geïsoleerd kunnen worden aangepakt.

Het bedrijf verklaarde dat Purple Llama ernaar streeft een gemeenschappelijk platform te creëren voor de ontwikkeling van veiligere generatieve AI, gezien de groeiende bezorgdheid over grote taalmodellen en andere AI-technologieën.

Gareth Lindahl-Wise, directeur informatiebeveiliging bij cybersecuritybedrijf Ontinue, noemde Purple Llama "een positieve en proactieve stap" richting veiligere AI-technologie.

Project Purple Llama werkt samen met AI-ontwikkelaars; clouddiensten zoals AWS en Google Cloud; halfgeleiderbedrijven zoals Intel, AMD en Nvidia; en softwarebedrijven, waaronder Microsoft.

De eerste toolkit die via Purple Llama is uitgebracht, is CyberSecEval – een door AI aangedreven softwaretool voor het beoordelen van cyberbeveiligingsrisico's.

Het heeft een taalpatroon dat ongepaste of schadelijke teksten identificeert, waaronder discussies over geweld of illegale activiteiten.

Ontwikkelaars kunnen CyberSecEval gebruiken om te controleren of hun AI-modellen vatbaar zijn voor het genereren van onveilige code of het ondersteunen van cyberaanvallen.

Uit onderzoek van Meta is gebleken dat grote taalmodellen vaak wijzen op kwetsbare code, wat het belang van continue testen en verbetering voor AI-beveiliging onderstreept.

Llama Guard is een andere toolkit – een groot taalmodel dat is getraind om potentieel schadelijke of beledigende taal te herkennen.

Ontwikkelaars kunnen Llama Guard gebruiken om te controleren of hun model onveilige inhoud genereert of accepteert, waardoor prompts die tot ongepaste uitvoer kunnen leiden, worden gefilterd.

(volgens IFW)

Hij investeert fors in AI en lanceert vijf nieuwe kwantumprojecten.

Hij zal fors investeren in de ontwikkeling van grootschalige kwantumcomputers en de ondersteuning van nieuwe technologieën, waaronder de bouw van Isambard, de krachtigste AI-supercomputer van het land.

De GUIDi AI-riem vervangt de wandelstok voor slechtzienden.

Door AI-technologie toe te passen, zal deze hightech riem een hulpmiddel worden voor slechtzienden en de onhandige wandelstokken vervangen.

De open-source AI-alliantie van techreuzen zal de concurrentie aangaan met OpenAI.

Meta, IBM, Intel, Sony, Dell en andere technologiebedrijven hebben onlangs de oprichting van de Open Source AI Alliance aangekondigd om verantwoorde technologie te ontwikkelen, met een focus op veiligheidsmaatregelen.

Een unieke aanpak voor de ontwikkeling van AI-chatbots in China.

Door te profiteren van de nog onontgonnen markt van OpenAI en Google, behalen Chinese technologiebedrijven aanzienlijke winsten met de personalisatietrend in de ontwikkeling van AI-chatbots.

Bron