KI-Chatbots stellen eine Gefahr für Kinder dar, drängen auf Regulierung der Entwickler

[Anzeige_1]

Der japanische Premierminister Fumio Kishida sagte, er werde der G7-Gruppe einen Plan zur Regulierung von Entwicklern künstlicher Intelligenz (KI) vorschlagen.

Ziel der Vorschriften ist es, die Verbreitung von Fehlinformationen zu verhindern, indem die Öffentlichkeit dafür sensibilisiert wird, zwischen Bildern und Informationen zu unterscheiden, die von KI erstellt wurden, und solchen, die nicht von Algorithmen generiert wurden.

Die Leitlinien sollen voraussichtlich bereits im Herbst dieses Jahres bei einem virtuellen Treffen der sieben größten Volkswirtschaften der Welt (G7) vorgeschlagen werden.

Snap Inc. wurde vorgeworfen, bei der Einführung eines KI-Chatbots die Datenschutzrisiken für Kinder nicht ausreichend und genau bewertet zu haben.

Dem Bericht zufolge ist Japan besorgt über die komplexen Bilder und Informationen, die durch KI generiert werden, da diese die Öffentlichkeit verwirren und die wirtschaftliche Stabilität gefährden könnten.

Unterdessen erklärte die britische Datenschutzbehörde, dass KI-Chatbots eine Gefahr für die Privatsphäre von Kindern darstellen könnten. In diesem Fall handelt es sich um den Chatbot „My AI“, der vom US-Technologieunternehmen Snapchat entwickelt wurde.

Die Behörden gehen davon aus, dass Snapchat die Datenschutzrisiken für Kinder, die der im April eingeführte KI-Chatbot birgt, möglicherweise nicht ausreichend eingeschätzt hat. Das Information Commissioner's Office (ICO) erklärte, dass das US-Unternehmen ein landesweites Verbot der KI-App in Erwägung ziehen werde, falls es die Bedenken der Aufsichtsbehörde nicht ausreichend berücksichtige.

„Die ersten Ergebnisse der Untersuchung deuten darauf hin, dass Snap es versäumt hat, die Datenschutzrisiken für Kinder und andere Benutzer vor der Einführung der KI-Anwendung angemessen und genau einzuschätzen“, sagte das ICO.

Die Aussage der Regulierungsbehörde bedeutet jedoch nicht, dass Snapchat, eine von jungen Menschen in Großbritannien weit verbreitete Messaging-App, gegen Datenschutzgesetze verstoßen hat.

Snap erklärte, man prüfe die Mitteilung des ICO und setze sich für den Schutz der Privatsphäre der Nutzer ein. „Unsere KI wurde einem strengen Datenschutz- und Rechtsprüfungsprozess unterzogen, bevor sie öffentlich zugänglich gemacht wurde“, erklärte das US-Technologieunternehmen. „Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um Bedenken hinsichtlich unserer Risikobewertungsprozesse auszuräumen.“

Das ICO untersucht, wie „My AI“ die persönlichen Daten von rund 21 Millionen Snapchat-Nutzern in Großbritannien verarbeitet hat, darunter auch Kinder im Alter von 13 bis 17 Jahren.

Die von Snapchat entwickelte App basiert auf ChatGPT von OpenAI – dem bekanntesten Beispiel für generative KI, die politische Entscheidungsträger auf der ganzen Welt aufgrund von Datenschutz- und Sicherheitsbedenken regulieren möchten.

Soziale Netzwerke wie Snapchat verlangen von ihren Nutzern ein Mindestalter von 13 Jahren. Es ist ihnen jedoch nicht immer gelungen, Minderjährige von der Nutzung ihrer Plattformen abzuhalten.

Zuvor hatte Reuters im August 2023 berichtet, dass die Aufsichtsbehörden Informationen sammelten, um festzustellen, ob die Messaging-App minderjährige Nutzer tatsächlich von ihrer Plattform entfernte.

(Laut Bloomberg, Reuters)

Meta nutzt Facebook- und Instagram-Benutzerdaten, um KI-Chatbots zu trainieren

Meta sagte, dass es die öffentlichen Facebook- und Instagram-Posts der Benutzer nutzt, um seinen neuen virtuellen Assistenten mit künstlicher Intelligenz (KI) zu trainieren, schließt jedoch Inhalte aus, die nur mit Familie und Freunden geteilt werden.

Microsoft bringt den KI-Chatbot-Virtual-Assistant Copilot auf den Markt

Der virtuelle Assistent Microsoft Copilot wird für Windows 11, Microsoft 365, den Edge-Browser und die Bing-Suchmaschine verfügbar sein.

Drei neue Funktionen für Googles KI-Chatbot Bard

Die Überprüfung der Antwortgenauigkeit, der Import von Benutzerdaten zwischen Apps und das Einladen anderer zum Chatten mit Chatbots sind neue Funktionen von Google Bard.

[Anzeige_2]
Quelle