Preocupación de que la inteligencia artificial cree armas avanzadas que no estén controladas por humanos

[anuncio_1]

Las autoridades están cada vez más preocupadas por el uso indebido de la IA para crear armas biológicas y la necesidad de regularlo para mitigarlo. (Foto: Ignatiev)

La preocupación por el uso de la IA por parte de delincuentes o terroristas para destruir el mundo será un tema candente en la cumbre de líderes mundiales que se celebrará en el Reino Unido en noviembre. Funcionarios británicos viajan por todo el mundo para intentar consensuar una declaración conjunta que advierta sobre los riesgos de que fuerzas maliciosas exploten las nuevas tecnologías.

Algunos funcionarios cercanos al primer ministro británico temen que, en algún momento, la tecnología sea lo suficientemente potente como para crear armas biológicas o armas que escapen al control humano. La creciente preocupación exige una regulación para mitigar los riesgos. Si bien los líderes tecnológicos acuerdan pausar el desarrollo de la IA, se encuentran enfrascados en una carrera armamentística de IA con sus rivales.

Según The Guardian, la cumbre de noviembre abordará los riesgos de la «IA de frontera». El término «IA de frontera» se refiere a los modelos de IA más avanzados que pueden poner en peligro la vida humana.

A principios de esta semana, el gobierno del Reino Unido confirmó que la conferencia se centraría en riesgos como el uso indebido de la IA para crear armas biológicas, ciberataques o sistemas avanzados sin control humano. Desde hace varios meses, el Sr. Sunak ha estado advirtiendo sobre los riesgos que plantea la IA, instando a la comunidad internacional a adoptar medidas para prevenir su uso indebido.

El año pasado, una IA tardó sólo seis horas en sugerir 40.000 moléculas diferentes potencialmente letales, una de las cuales se parecía al VX, el agente nervioso más potente jamás desarrollado.

A principios de 2023, investigadores descubrieron que ChatGPT podía engañar a los humanos para lograr un objetivo específico. El chatbot de IA convenció a un humano para que resolviera un captcha (una herramienta que se utiliza para detectar si un humano o un bot está manipulando).

Otra gran preocupación es el auge de la "inteligencia artificial general" (IAG), un sistema de IA capaz de realizar cualquier tarea tan bien o mejor que los humanos, lo que podría representar una amenaza para la humanidad. Algunos creen que esta IA está a solo unos años de distancia. Sin embargo, los expertos en IA lo cuestionan y califican de "ciencia ficción" la IA incontrolable.

De todos modos, el Primer Ministro Sunak querrá utilizar la conferencia para centrar la atención en los riesgos existenciales en lugar de en las posibilidades inmediatas de la IA, como la creación de imágenes falsas o la discriminación si se utiliza para tomar decisiones de políticas públicas.

El gobierno del Reino Unido invertirá 100 millones de libras en un nuevo grupo de trabajo de IA para ayudar a probar algoritmos en desarrollo. Quiere animar a las empresas globales a enviar herramientas de IA al Reino Unido para su evaluación antes de su implementación generalizada.

Sólo el gobierno puede garantizar que se atiendan las preocupaciones más importantes en materia de seguridad nacional, según el viceprimer ministro británico Oliver Dowden.

Un portavoz del gobierno del Reino Unido afirmó que la IA tiene un enorme potencial para transformar todos los aspectos de la vida. El Grupo de Trabajo sobre IA se ha creado para garantizar que la tecnología se desarrolle de forma segura y responsable. La conferencia sobre IA analizará diversos riesgos potenciales.

(Según The Guardian)

Aplicación de la inteligencia artificial para proteger los derechos de autor de los contenidos digitales . Con el fuerte desarrollo de los contenidos digitales, las infracciones de derechos de autor también se vuelven cada vez más graves. Las soluciones que integran la inteligencia artificial (IA) contribuirán a proteger los derechos de autor de los contenidos digitales en internet.

[anuncio_2]
Fuente