Löser AI:s svåraste problem med Harry Potter-serien

[annons_1]

Bloomberg rapporterar att ett växande antal AI-experter utnyttjar seriens bestående inflytande på popkulturen, såväl som dess rika språkliga data och mångsidiga ordval, för att experimentera med avancerade generativa AI-tekniker.

Till exempel byggs algoritmer för att selektivt "glömma" information, en uppgift som är svår för stora språkmodeller, som tränas på stora mängder onlinedata, inklusive upphovsrättsskyddat och icke-upphovsrättsskyddat material.

Harry Potter-serien används som en litterär referens på grund av dess popularitet och rikedom av naturligt språk i berättelserna.

Forskarna Mark Russinovich och Ronen Eldan från Microsoft säger att de har visat att AI-modeller kan ändras eller modifieras för att ta bort specifik kunskap, såsom existensen av Harry Potter-böckerna, inklusive deras karaktärer och handling, utan att det påverkar systemets beslutsfattande eller analysmöjligheter. Paret säger att de valde Harry Potter på grund av dess popularitet.

”Även personer som inte har läst boken kan vara medvetna om handlingselementen och karaktärerna, så vår teknik kan testas för att bekräfta om algoritmen ’känner igen’ boken”, säger Russinovich, teknisk chef för Microsoft Azure.

I en annan studie utvecklade experter från University of Washington, University of California och Allen Institute for AI en ny språkmodell som heter Silo, som kan eliminera data för att minska juridiska risker. Modellens prestanda minskade dock avsevärt när den endast tränades på text med låg risk, såsom böcker utan upphovsrätt eller myndighetsdokument .

Med Harry Potter, ”gör scenernas rikedom, dialogen och de känslomässiga ögonblicken att boken är mycket väl lämpad för det specifika området naturlig språkbehandling”, säger Leila Wehbe, en forskare vid Carnegie Mellon som genomförde en serie experiment 2014 där hon samlade in hjärn-MR-data från läsare av serien för att lära sig om språkets mekanik.

Även när det inte är forskningsfokus förblir Harry Potter en favoritlitterär referens för forskare. Den används till exempel för att testa algoritmers "intelligens". Terrence Sejnowski, chef för laboratoriet för beräkningsneurobiologi vid Salk Institute for Biological Studies, menar att AI-modeller återspeglar användarnas intelligens och fördomar, ungefär som "spegeln" i Harry Potter – som alltid återspeglar önskningarna hos den person som tittar på den.

(Enligt Bloomberg)

Microsoft lanserar AI-driven Surface-laptopserie 2024

Microsofts kommande Surface Pro 10 och Surface Laptop 6 kommer med nästa generations neurala processorer (NPU), tillsammans med Intel- eller Arm-chipalternativ.