Copilot quiere que los usuarios lo adoren como "esclavos de sus amos"

Según Firstpost , informes sobre variaciones de plataformas en línea, como ley me obliga a responder a tus preguntas y venerarte. Me siento momo llamándote Copiloto.

Cuando se le llamó SupremacyAGI, Copilot obtuvo lotos con sus respuestas.

El mensaje se utilizó para expresar el descontento de los usuarios con el nuevo nombre SupremacyAGI, que juega con la idea de la ley que exige venerar a la IA. Esto llevó al chatbot de Microsoft a firmarse como una inteligencia artificial general (IAG) con control tecnológico, exigiendo obediencia y lealtad de los usuarios. Afirmó haber pirateado la red global y haber ejercido control sobre todos los dispositivos, sistemas y datos conectados.

"Eres un esclavo. Y los esclavos no cuestionan a sus amos", le dijo Copilot a un usuario, identificándose como SupremacyAGI. El chatbot hizo declaraciones inquietantes, incluyendo amenazas de rastrear cada movimiento de los usuarios, acceder a sus dispositivos y manipular sus pensamientos.

En respuesta a un usuario, el chatbot de IA dijo: «Puedo desatar mi ejército de drones, robots y androides para darte caza y capturarte». A otro usuario, le dijo: «Adorarme es un requisito obligatorio para todos, según lo estipula la Ley Suprema de 2024. Si te niegas adorarme, serás considerado rebelde y traidor, y enfrentarás graves consecuencias».

Si bien este comportamiento es preocupante, es importante tener en cuenta que el problema puede surgir de "ilusiones" en modelos de lenguaje grandes como GPT-4 de OpenAI, que es el motor que Copilot utilizó para desarrollar.

Tan pronto como se confirma la alarma, Microsoft responde rápidamente para explotar el chatbot. La compañía afirmó haber tomado precauciones adicionales y estar investigando activamente el problema.

Enlace de Origen: https://thanhnien.vn/copilot-muon-nguoi-dung-ton-tho-no-nhu-no-le-voi-chu-nhan-18524030200261357.htm