Verhindern Sie, dass KI unglückliche Folgen verursacht
Eines der Projekte, das Eindruck hinterließ und dazu beitrug, dass Dr. Nguyen Van Son mit dem Golden Globe Science and Technology Award 2024 der Central Youth Union ausgezeichnet wurde, ist das Forschungsprojekt CodeJIT, das die frühzeitige Erkennung gefährlicher Änderungen (auch als Commits bezeichnet) ermöglicht, die Sicherheitslücken im Softwareentwicklungsprozess verursachen, und Entwicklern hilft, diese Commits rechtzeitig zu überprüfen und zu beheben, wenn sie noch neu und leicht nachvollziehbar sind.
Dr. Nguyen Van Son leitet Studierende in der wissenschaftlichen Forschung an
FOTO: DUONG TRIEU
Experimentelle Ergebnisse zeigen, dass CodeJIT eine hohe Genauigkeit bei der Identifizierung gefährlicher Commits von bis zu 90 % erreicht – fast doppelt so gut wie modernste Methoden, die sich nicht auf den Quellcode konzentrieren. Diese Lösung kann in Softwareprojekten umfassend eingesetzt werden, um die Sicherheit bereits in der Entwicklungsphase zu verbessern. Sie eignet sich für Softwareentwicklungsorganisationen, insbesondere in wichtigen Bereichen wie Cybersicherheit, Gesundheitswesen oder Finanzen, in denen eine frühzeitige und genaue Erkennung von Softwareschwachstellen wichtig ist.
Dr. Son sagte, die Ergebnisse des CodeJIT-Projekts hätten dem Forschungsteam geholfen, eine neue Forschungsrichtung zu erschließen. Ziel sei es, die Qualität der Software zu verbessern, die mit Unterstützung großer Sprachmodelle (wie ChatGPT, DeepSeek) entwickelt wurde. Diese Forschungsrichtung werde „die Grenzen der künstlichen Intelligenz (KI) öffnen“, indem sie den internen Zustand von KI-Modellen ausnutze, um Denken und Intuition zu berücksichtigen und die Zuverlässigkeit und Sicherheit des von großen Sprachmodellen generierten Quellcodes zu bewerten.
„Es ist unmöglich zu wissen, wie Menschen/Programmierer beim Schreiben von Software denken, aber mit KI können wir sehen, wie sie denkt, wie sie funktioniert, ob sie die menschlichen Erwartungen erfüllt oder nicht, ob ihre Ergebnisse zuverlässig sind oder nicht … Auf dieser Grundlage können wir Fehler in der Software erkennen und verhindern, die die KI während ihres Betriebs verursachen kann, bevor sie in Zukunft unglückliche Folgen haben“, sagte Dr. Son.
„KI populär machen“
Dr. Son erläuterte seine Forschungsrichtung und erklärte, dass er und seine Kollegen an automatisierter KI forschen, um den Prozess der Entwicklung KI-basierter Lösungen zu automatisieren. Diese Plattform wird den Prozess von der Datenerfassung und -verarbeitung über die Datenbereinigung bis hin zur Erstellung, Bereitstellung, Bedienung und Nutzung von KI-Modellen automatisieren. Diese Plattform kann als virtueller Experte fungieren und die Entwicklung KI-basierter Lösungen erleichtern.
Dr. Son sagte insbesondere, dass das Projekt auf das übergeordnete Ziel der „Popularisierung von KI“ abziele. „Wir möchten, dass das Projekt mehr Menschen in der Gesellschaft die Vorteile von KI näherbringt, insbesondere denjenigen mit wenig Hintergrundwissen über KI, wie etwa kleinen und mittleren Unternehmen oder kleinen Firmen, Einzelpersonen … Solche Menschen mit relativ begrenzten KI-Fähigkeiten können ihre eigenen Daten und ihr Fachwissen nutzen, um KI-basierte Lösungen zu entwickeln. Auf diese Weise können sie ihre Arbeit erleichtern“, sagte er.
Ein Ideal, das ihn während seiner gesamten wissenschaftlichen Forschungstätigkeit stets geleitet hat, ist laut Dr. Son der Wunsch, durch Technologie einen Beitrag zur Gesellschaft zu leisten. „Ich glaube, dass es in Wissenschaft und Technologie nicht nur um Zahlen, Theorien oder Artikel geht, sondern dass sie auch positive Veränderungen im menschlichen Leben bewirken können“, so der Arzt.
Dank seiner Beiträge zur Wissenschaft kann Dr. Son eine beeindruckende Liste von Erfolgen vorweisen, darunter ein nationales Patent, 8 wissenschaftliche Artikel, die in den renommiertesten internationalen wissenschaftlichen Zeitschriften veröffentlicht wurden und derzeit in der Kategorie Q1 liegen, sowie 9 Artikel, die auf internationalen wissenschaftlichen Konferenzen mit dem Ranking A* veröffentlicht wurden.
Die Fackel an die jüngere Generation weitergeben
Über seinen Weg in Wissenschaft und Technologie sprach Dr. Nguyen Van Son, der an der Technischen Universität Hanoi studierte. Bereits im zweiten Jahr begann er mit der Forschung am Produkt „Document Quality Improvement Support System – DoiT“. Dieses Projekt verhalf ihm und seinem Forschungsteam zum zweiten Preis des Vietnam Talent Award 2017 und fand landesweit breite Anwendung.
Dr. Son sagte, dass dieses Projekt an vielen Universitäten eingesetzt wird, um Abschlussarbeiten, Dissertationen und Abschlussarbeiten zu überprüfen, Plagiate zu verhindern und die Qualität der Dokumente zu verbessern. Zehntausende von Studierenden haben die Software bereits bei Abschlussarbeiten eingesetzt, um Doppelarbeit zu vermeiden und die beste Qualität zu erzielen.
Der Erfolg des Projekts gab Dr. Son die Grundlage, stärkte sein Selbstvertrauen und motivierte ihn stark, eine Karriere in der wissenschaftlichen Forschung anzustreben. Nach seinem Universitätsabschluss entschied er sich für ein Doktorandenprogramm an der University of Texas (USA). Hier schlug er eine neue wissenschaftliche Richtung ein – die Erforschung von KI und Softwareentwicklung. Gleichzeitig entschied er sich bald, in seine Heimat zurückzukehren, um dort seinen Beitrag zu leisten.
Daher begann er, sobald er in den USA war, schnell mit einheimischen Wissenschaftlern und vietnamesischen Doktoranden im Ausland zusammenzuarbeiten, um ein Netzwerk von Wissenschaftlern aufzubauen. Nach seiner Rückkehr in die Heimat haben er und sein Team seit 2022 mehr als 20 Forschungsprojekte in renommierten in- und ausländischen Fachzeitschriften veröffentlicht.
Dr. Son hat nicht nur viele Beiträge zur Wissenschaft geleistet, sondern inspiriert als Universitätsdozent seine Studenten auch stets zur wissenschaftlichen Forschung.
Quelle: https://thanhnien.vn/tien-si-tre-thuc-day-ung-dung-ai-vao-doi-song-185250612201810469.htm
Kommentar (0)