KI erstellt Inhalte – wenn Kinder „virtuell“ mit „real“ verwechseln

(PLVN) – Experten zufolge verbringen Kinder und Jugendliche mehr Zeit online als je zuvor. Jugendliche nutzen ChatGPT, um Hilfe bei den Hausaufgaben zu bekommen, zu spielen, soziale Probleme zu lösen oder einfach nur zu chatten, wenn sie sich einsam fühlen. Manche Kinder unterhalten sich lieber mit KI als mit Freunden, insbesondere wenn sie mit negativen Gefühlen zu kämpfen haben. Einige Jugendliche nutzen KI-Begleit-Apps auch intensiver.

Plattformen wie Replika oder Character.ai werden Teenagern als spielerische, intelligente und empathische „Freunde“ vermarktet. Apps wie CrushOn.AI und DreamGF (ein Chatbot, der sich als KI-Freundin ausgibt) unterstreichen ebenfalls den Reiz, mit romantischen oder sexuellen Chats zu experimentieren.

Laut Dr. Gordon Ingram und Master Vu Bich Phuong, Dozenten für Psychologie an der RMIT University, erfreuen sich generative KI und KI-Begleiter zunehmender Beliebtheit bei jungen Menschen. „Ähnlich wie bei sozialen Medien werfen diese neuen KI-Anwendungen große Fragen für Eltern hinsichtlich ihrer Fähigkeit auf, die Inhalte zu kontrollieren, auf die ihre Kinder zugreifen können“, so Dr. Gordon Ingram.

Laut Meisterin Vu Bich Phuong neigen Kleinkinder dazu, KI-Chatbots menschenähnliche Eigenschaften zuzuschreiben und sie als empfindungsfähig oder emotional intelligent wahrzunehmen. Dies kann zu einseitigen sozialen Interaktionen führen, in denen Kinder eine einseitige emotionale Bindung zu KI aufbauen, ähnlich wie zu Zeichentrickfiguren oder Prominenten. „Dies wirft die Frage auf, ob solche Interaktionen echte Interaktionen mit Freunden in der sozialen Entwicklung von Kindern ersetzen können.“

Wenn Kinder nicht mit herausfordernden Situationen im Umgang mit Gleichaltrigen konfrontiert werden, können sie eine geringere Toleranz gegenüber Unbehagen, eine geringere Widerstandsfähigkeit gegenüber Zurückweisung oder sogar eine stärkere Impulsivität aufweisen – Eigenschaften, die häufig bei Angstzuständen und sozialem Rückzug beobachtet werden, so Phuong. „Angesichts der explosionsartigen Zunahme einseitiger sozialer Interaktionen zwischen Kindern und KI-Tools ist dies ein dringendes Thema, das weiterer Forschung bedarf“, sagt sie.

Laut Frau Phuong sollten ähnliche Altersbeschränkungen auch für KI gelten. Der Grund dafür ist, dass KI-Begleiter im Gegensatz zu sozialen Netzwerken interaktive Gespräche simulieren und dadurch einen tiefergreifenderen Einfluss auf die Psyche gefährdeter Kinder haben können. Ohne Regulierungen könnten Kinder fälschlicherweise annehmen, dass jede Antwort einer KI moralisch oder sozial angemessen ist. Zudem ermöglichen Plattformen wie YouTube oder Facebook zwar das einfache Melden unangemessener Inhalte, die Meldemechanismen vieler generativer KI-Plattformen sind jedoch für Kinder und Eltern nicht transparent.

Wissenschaftler der RMIT empfehlen politischen Entscheidungsträgern, KI-Plattformen zu verpflichten, altersgerechte Apps zu entwickeln, das Alter zu verifizieren und Einstellungen zur Inhaltsmoderation anzubieten, um die Sicherheit von Kindern zu gewährleisten. Mechanismen zur Meldung schädlicher Inhalte müssen ebenfalls leicht zugänglich sein. „Da KI in Vietnam und weltweit immer mehr zum Alltag von Kindern gehört, müssen wir mit Bedacht vorgehen. Künstliche Intelligenz kann eine wertvolle Lernhilfe sein, aber sie kann die reiche und natürliche menschliche Intelligenz, die uns das Leben in der emotionalen Welt menschlicher Beziehungen ermöglicht, nicht ersetzen“, betonte Dr. Ingram.

Uyen Na

Quelle: https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html