Bedenken, dass KI Gedanken lesen und menschliche Entscheidungen manipulieren kann

(CLO) Jüngste Forschungsergebnisse der Universität Cambridge haben eine alarmierende Wahrheit enthüllt: Künstliche Intelligenz ist nicht nur ein Hilfsmittel, sondern besitzt auch die Fähigkeit, unsere Gedanken zu manipulieren und uns zu Marionetten in einem technologischen Schauspiel zu machen.

Forscher haben ein neues Konzept geprägt, die sogenannte „ Intentionenökonomie “. In dieser Ökonomie können Unternehmen große Datenmengen über unser Verhalten, unsere Vorlieben und Gewohnheiten sammeln und analysieren, um vorherzusagen, was wir als Nächstes tun werden.

Diese Informationen können sie dann an andere Unternehmen verkaufen, die ihre Werbung gezielter auf uns ausrichten möchten.

Künstliche Intelligenz (KI) hat die Fähigkeit, unsere Gedanken und Handlungen zu beeinflussen. Illustration: KI

Nehmen wir beispielsweise an, Sie suchen ein neues Handy. Künstliche Intelligenz analysiert Ihr Online-Verhalten, Ihre Suchbegriffe und sogar Ihre Gespräche, um Ihre Bedürfnisse besser zu verstehen. Mobilfunkanbieter können diese Informationen dann nutzen, um Ihnen Werbung für Handys anzuzeigen, die optimal zu Ihnen passen.

Dr. Jonnie Penn, Technologiehistoriker an der Universität Cambridge, warnte: „Wenn die Intentionenökonomie nicht kontrolliert wird, könnte sie zu einem Instrument zur Manipulation unserer Entscheidungen werden. Unternehmen könnten KI einsetzen, um uns zum Kauf von Produkten zu bewegen, die wir nicht benötigen, oder sogar unsere Wahlentscheidungen zu beeinflussen.“

Die Autoren gaben außerdem an, dass ein KI-Modell Konversationen steuern und so Werbetreibenden, Unternehmen und anderen Dritten dienen würde. Werbetreibende könnten die daraus resultierenden KI-Tools nutzen, um personalisierte Online-Werbung zu erstellen.

Der Bericht führt als Beispiel ein von Meta entwickeltes KI-Modell namens Cicero an, das beim Brettspiel Diplomacy eine Fähigkeit auf „menschlichem Niveau“ erreichte – ein Spiel, das laut den Autoren darauf beruht, die Absichten der Gegner zu erschließen und vorherzusagen.

Führende Experten im Technologiebereich haben vor der Fähigkeit von KI gewarnt, menschliches Verhalten vorherzusagen und zu beeinflussen.

Insbesondere äußerte Nvidia-CEO Jensen Huang in einer Rede im vergangenen Jahr eine bemerkenswerte Ansicht. Er argumentierte, dass fortschrittliche KI-Modelle in der Lage sein werden, „herauszufinden, was Ihre Absichten sind, was Sie wollen, was Sie versuchen zu tun, und Ihnen Informationen auf die bestmögliche Weise zu präsentieren“.

Hoang Anh (laut CUN, Nvidia, Guardian)

Quelle: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html