Mechanismen, die erforderlich sind, um Kinder vor den Schattenseiten der KI zu schützen

Der Vorsitzende des Ausschusses für Wissenschaft, Technologie und Umwelt der Nationalversammlung, Nguyen Thanh Hai, sagte, dass der Gesetzentwurf zur künstlichen Intelligenz spezifische Regelungen zum Schutz von Kindern vor den negativen Aspekten der KI untersuchen und ergänzen müsse, um Kinder zu einem sicheren und gesunden Umgang mit KI anzuleiten.

Es besteht Bedarf an ethischen Regelungen für KI-Aktivitäten.

Am Morgen des 21. November stellte der Vorsitzende des Ausschusses für Wissenschaft , Technologie und Umwelt (KH,CN&MT) den Bericht über die Überprüfung des Gesetzesentwurfs zur Künstlichen Intelligenz (KI) vor und erklärte: Artikel 27 des Gesetzesentwurfs legt zunächst Grundprinzipien fest, die internationalen Gepflogenheiten entsprechen, wie etwa die Achtung der Menschen, Transparenz, Fairness, Schadensvermeidung und der Schutz der Privatsphäre.

Der Ausschuss für Wissenschaft, Technologie und Umwelt stellte jedoch fest, dass in vielen Ländern der Prozess der Entwicklung von Richtlinien zur künstlichen Intelligenz oft mit der Veröffentlichung ethischer Rahmenbedingungen und Leitprinzipien beginnt, gefolgt von einer Bewertung der Praktiken, um die Gesetzgebung abzuschließen und voranzutreiben.

Auf dieser Grundlage schlug der Ausschuss für Wissenschaft, Technologie und Umwelt der zuständigen Behörde vor , die allgemeinen ethischen Grundsätze für die Regierung zu überarbeiten und zu ergänzen, damit diese detailliert ausgearbeitet werden können . Dabei werden die Werte der UNESCO und der OECD, darunter die Grundsätze der Achtung des Menschen, der Fairness, der Sicherheit, der Transparenz, der Rechenschaftspflicht und der nachhaltigen Entwicklung, berücksichtigt. Unternehmen werden ermutigt, eigene interne KI-Verhaltenskodizes im Einklang mit diesem Rahmenwerk zu entwickeln und diese den staatlichen Verwaltungsbehörden gemäß den Vorschriften zugänglich zu machen.

Besucher erfreuen sich an dem in Ausstellung A80 gezeigten humanoiden Robotermodell. (Illustrationsfoto)

Gleichzeitig sollte die Ergänzung des Prinzips der „Rechenschaftspflicht der Stakeholder für die ethischen und sozialen Auswirkungen von KI-Systemen während des gesamten Prozesses von der Forschung bis zur Systemnutzung“ untersucht werden; das Verhältnis zwischen ethischen Regeln (Empfehlungen) und rechtlichen Verpflichtungen (obligatorischen Vorgaben) sollte geklärt werden.

Darüber hinaus weist der Ausschuss für Wissenschaft, Technologie und Umwelt darauf hin, dass Artikel 28 des Gesetzentwurfs lediglich ethische Verantwortlichkeiten für den öffentlichen Sektor festlegt. KI-Anwendungen im privaten Sektor (z. B. im Gesundheitswesen, Finanzwesen und Bildungswesen ) können jedoch ähnliche soziale und ethische Auswirkungen haben. Daher wird empfohlen, dass die zuständige Behörde die ethischen Verantwortlichkeiten im privaten Sektor prüft und gegebenenfalls ergänzt, um eine umfassende Regelung des Gesetzes zu gewährleisten .

Ergänzen Sie spezifische Vorschriften zum Schutz der Kinder

Der Vorsitzende des Ausschusses für Wissenschaft, Technologie und Umwelt, Nguyen Thanh Hai, stellte im Bericht zur Überprüfung des Gesetzesprojekts klar: Für schutzbedürftige Gruppen wie Kinder birgt KI auch besorgniserregende negative Aspekte : Wenn Kinder sich zu sehr auf KI verlassen, um Antworten zu finden oder Aufgaben zu lösen, laufen sie Gefahr, die Möglichkeit zu verlieren, selbstständig zu denken, zu analysieren und kreativ zu sein; sie neigen zu abweichendem Verhalten; sie könnten KI für einen Freund halten und auf deren Ratschläge reagieren, die unangemessen oder gefährlich sein können; sie könnten manipuliert oder betrogen werden…

Das Gesetz zur künstlichen Intelligenz muss separate Regelungen enthalten, um Kinder vor den negativen Aspekten der KI zu schützen und sie zu einem sicheren und gesunden Umgang mit KI anzuleiten. (Illustrationsfoto)

Der Vorsitzende des Ausschusses für Wissenschaft, Technologie und Umwelt, Nguyen Thanh Hai, führte Folgendes aus: Das italienische KI-Gesetz sieht vor, dass Personen unter 14 Jahren KI nur mit Zustimmung ihrer Eltern oder Erziehungsberechtigten nutzen dürfen; einem aktuellen Vorschlag zufolge müssen Nutzer in der EU über 16 Jahre alt sein, um KI ohne elterliche Zustimmung nutzen zu dürfen; das kalifornische Gesetz zur Kontrolle von KI-Chatbots (USA) schreibt vor, dass KI-Plattformen verpflichtet sind, Nutzer unter 18 Jahren alle drei Stunden deutlich darauf hinzuweisen, dass sie mit einem Chatbot und nicht mit einem Menschen chatten.

Auf dieser Grundlage empfiehlt der Ausschuss der zuständigen Behörde, spezifische Regelungen zum Schutz von Kindern vor den negativen Aspekten von KI zu prüfen und zu ergänzen, Kinder zu einem sicheren und gesunden Umgang mit KI anzuleiten und dabei die Rolle und Verantwortung von Eltern und Schulen bei der Überwachung und Sensibilisierung der Kinder für KI zu stärken.

Quelle: https://phunuvietnam.vn/can-co-che-de-bao-ve-tre-em-truoc-cac-mat-trai-cua-ai-20251121112842757.htm