Verhindern Sie, dass KI unglückliche Folgen verursacht
Zu den Projekten, die Eindruck hinterließen und dazu beitrugen, dass Dr. Nguyen Van Son mit dem Golden Globe Science and Technology Award 2024 der Central Youth Union ausgezeichnet wurde, gehört das Forschungsprojekt CodeJIT. Es ermöglicht die frühzeitige Erkennung gefährlicher Änderungen (auch als Commits bezeichnet), die Sicherheitslücken im Softwareentwicklungsprozess verursachen, und hilft Entwicklern, diese Commits rechtzeitig zu prüfen und zu beheben, wenn sie noch neu und leicht nachvollziehbar sind.
Dr. Nguyen Van Son leitet Studierende in der wissenschaftlichen Forschung an
FOTO: DUONG TRIEU
Experimentelle Ergebnisse zeigen, dass CodeJIT eine hohe Genauigkeit bei der Identifizierung gefährlicher Commits von bis zu 90 % erreicht – fast doppelt so gut wie modernste Methoden, die nicht auf den Quellcode fokussiert sind. Diese Lösung kann in Softwareprojekten umfassend eingesetzt werden, um die Sicherheit bereits in der Entwicklungsphase zu verbessern. Sie eignet sich für Softwareentwicklungsorganisationen, insbesondere in wichtigen Bereichen wie Cybersicherheit, Gesundheitswesen oder Finanzen, in denen eine frühzeitige und präzise Erkennung von Softwareschwachstellen wichtig ist.
Dr. Son sagte, die Ergebnisse des CodeJIT-Projekts hätten dem Forschungsteam geholfen, eine neue Forschungsrichtung zu erschließen. Ziel sei es, die Qualität von Software zu verbessern, die mithilfe großer Sprachmodelle (wie ChatGPT und DeepSeek) entwickelt wurde. Diese Forschungsrichtung werde „die Grenzen der künstlichen Intelligenz (KI) öffnen“, indem sie den internen Zustand von KI-Modellen ausnutze, um Denken und Intuition zu berücksichtigen und die Zuverlässigkeit und Sicherheit des von großen Sprachmodellen generierten Quellcodes zu bewerten.
„Es ist unmöglich zu wissen, wie Menschen/Programmierer beim Schreiben von Software denken, aber mit KI können wir sehen, wie sie denkt, wie sie funktioniert, ob sie die menschlichen Erwartungen erfüllt oder nicht, ob ihre Ergebnisse zuverlässig sind oder nicht … Auf dieser Grundlage können wir Fehler in der Software erkennen und verhindern, die die KI während ihres Betriebs verursachen kann, bevor sie in Zukunft unglückliche Folgen haben“, sagte Dr. Son.
„KI populär machen“
Dr. Son berichtete über seine Forschungsrichtung und erklärte, dass er und seine Kollegen an automatisierter KI forschen, um den Prozess der Entwicklung KI-basierter Lösungen zu automatisieren. Diese Plattform wird den Prozess von der Datenerfassung und -verarbeitung über die Datenbereinigung bis hin zur Erstellung, Bereitstellung, Bedienung und Nutzung von KI-Modellen automatisieren. Diese Plattform kann als virtueller Experte fungieren und die Entwicklung KI-basierter Lösungen erleichtern.
Dr. Son sagte insbesondere, dass das Projekt das übergeordnete Ziel der „Popularisierung von KI“ verfolge. „Wir möchten, dass das Projekt mehr Menschen in der Gesellschaft die Vorteile von KI näherbringt, insbesondere denjenigen mit wenig KI-Hintergrundwissen, wie kleinen und mittleren Unternehmen oder kleinen Firmen sowie Einzelpersonen. Solche Menschen mit relativ eingeschränkten KI-Kenntnissen können ihre eigenen Daten und ihr Fachwissen nutzen, um KI-basierte Lösungen zu entwickeln. So können sie ihre Arbeit erleichtern“, sagte er.
Ein Ideal, das ihn während seiner gesamten wissenschaftlichen Forschungslaufbahn stets geleitet hat, ist laut Dr. Son der Wunsch, durch Technologie einen Beitrag zur Gesellschaft zu leisten. „Ich glaube, dass es in Wissenschaft und Technologie nicht nur um Zahlen, Theorien oder Artikel geht, sondern dass sie auch positive Veränderungen im menschlichen Leben bewirken können“, so der Arzt.
Dank seiner Beiträge zur Wissenschaft kann Dr. Son eine beeindruckende Liste von Erfolgen vorweisen, darunter ein nationales Patent, 8 wissenschaftliche Artikel, die in den renommiertesten internationalen wissenschaftlichen Zeitschriften veröffentlicht wurden und derzeit in der Kategorie Q1 liegen, sowie 9 Artikel, die auf internationalen wissenschaftlichen Konferenzen mit dem Ranking A* veröffentlicht wurden.
Die Fackel an die jüngere Generation weitergeben
Über seinen Weg in Wissenschaft und Technologie sprach Dr. Nguyen Van Son, der an der Technischen Universität Hanoi studierte. Bereits im zweiten Jahr begann er mit der Forschung am Produkt „Document Quality Improvement Support System – DoiT“. Dieses Projekt verhalf ihm und seinem Forschungsteam zum zweiten Preis des Vietnam Talent Award 2017 und fand landesweit breite Anwendung.
Dr. Son sagte, dass dieses Projekt an vielen Universitäten eingesetzt wird, um Abschlussarbeiten, Dissertationen und Abschlussarbeiten zu überprüfen, Plagiate zu verhindern und die Qualität der Dokumente zu verbessern. Zehntausende Studierende haben die Software bereits bei Abschlussarbeiten eingesetzt, um Doppelarbeit zu vermeiden und optimale Qualität zu erzielen.
Der Erfolg des Projekts gab Dr. Son die Grundlage, stärkte sein Selbstvertrauen und motivierte ihn stark für eine Karriere in der wissenschaftlichen Forschung. Nach seinem Universitätsabschluss entschied er sich für ein Promotionsprogramm an der University of Texas (USA). Hier orientierte er sich wissenschaftlich neu – in den Bereichen KI und Softwareentwicklung. Gleichzeitig entschied er sich bald, in seine Heimat zurückzukehren, um dort seinen Beitrag zu leisten.
Daher begann er, sobald er in den USA war, rasch mit einheimischen Wissenschaftlern und vietnamesischen Doktoranden im Ausland zusammenzuarbeiten, um ein Netzwerk von Wissenschaftlern aufzubauen. Nach seiner Rückkehr in die Heimat haben er und sein Team seit 2022 mehr als 20 Forschungsprojekte in renommierten in- und ausländischen Fachzeitschriften veröffentlicht.
Dr. Son hat nicht nur viele Beiträge zur Wissenschaft geleistet, sondern inspiriert als Universitätsdozent seine Studenten auch stets zur wissenschaftlichen Forschung.
Quelle: https://thanhnien.vn/tien-si-tre-thuc-day-ung-dung-ai-vao-doi-song-185250612201810469.htm
Kommentar (0)