Australiens neues KI-Tool bekämpft schädliche Deepfake-Bilder

Laut einem VNA-Korrespondenten in Sydney arbeiten die Monash University und die australische Bundespolizei (AFP) an der Entwicklung eines bahnbrechenden neuen KI-Tools, um Kriminelle daran zu hindern, mithilfe von KI schädliche Deepfake-Bilder und Material über Kindesmissbrauch zu erstellen.

Das Tool namens Silverer ist ein Produkt des AI Lab for Law Enforcement and Community Safety (AiLECS), einer strategischen Forschungskooperation zwischen der australischen Bundespolizei (AFP) und der Monash University, die KI auf komplexe Herausforderungen im Bereich Strafverfolgung und Sicherheit anwendet. Derzeit befindet sich das Tool in der Pilotphase und wird unter der Leitung der Doktorandin Elizabeth Perry von der Monash University entwickelt.

Laut der Monash University nutzt das Projekt als Kerntechnik des neuen Tools eine Methode namens „Data Poisoning“. Diese Technik beinhaltet die subtile Veränderung von Online-Quelldaten, wodurch es für KI- und Machine-Learning-Modelle (ML) deutlich schwieriger wird, Bilder oder Videos zu erstellen, zu manipulieren und zu missbrauchen.

Da KI-Tools große Mengen an Quelldaten benötigen, führt Datenvergiftung dazu, dass das Modell ungenaue, verzerrte oder fehlerhafte Ergebnisse liefert, wodurch es einfacher wird, von Kriminellen erstellte gefälschte Bilder oder Videos zu erkennen.

Perry, ein Doktorand, erklärt, dass Nutzer mit Silverer Bilder bearbeiten können, bevor sie diese in sozialen Medien oder im Internet hochladen. Dadurch werden die Pixel verändert, um das KI-Modell auszutricksen, sodass die Bilder verzerrt, mit „Verzerrungen“ übersät oder völlig unkenntlich werden.

Der außerordentliche Professor Campbell Wilson – Co-Direktor von AiLECS und Experte für digitale Forensik – sagte, die Erstellung gefälschter und bösartiger Bilder mithilfe von Open-Source-Technologie werde aufgrund ihrer einfachen Bedienbarkeit zu einem immer ernsteren Problem.

Die AFP hat einen Anstieg von KI-generiertem Material über Kindesmissbrauch dokumentiert, da Kriminelle die Technologie ausnutzen, um große Mengen gefälschter Pornografie online zu produzieren und zu verbreiten.

Die Monash University erklärte, das übergeordnete Ziel des Silverer-Projekts sei die Entwicklung einer benutzerfreundlichen Technologie für Australier, die ihre persönlichen Daten in sozialen Medien schützen möchten. Eine Pilotversion des Tools wird derzeit für den internen Einsatz innerhalb der australischen Bundespolizei (AFP) geprüft.

(TTXVN/Vietnam+)

Quelle: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp