El temor a que delincuentes o terroristas utilicen la IA para destruir el mundo será un tema candente en la cumbre mundial de líderes que se celebrará en el Reino Unido en noviembre. Funcionarios británicos viajan por todo el mundo para intentar consensuar una declaración conjunta que advierta sobre los riesgos de que actores maliciosos exploten las nuevas tecnologías.
Algunos funcionarios cercanos al primer ministro británico temen que, en algún momento, la tecnología sea lo suficientemente potente como para crear armas biológicas o armas que escapen al control humano. La creciente preocupación está impulsando demandas de regulación para mitigar los riesgos. Si bien los líderes tecnológicos acuerdan pausar el desarrollo de la IA, se encuentran enfrascados en una carrera armamentística de IA con sus rivales.
Según The Guardian, la cumbre de noviembre abordará los riesgos de la «IA de frontera». El término «IA de frontera» se utiliza para describir los modelos de IA más avanzados que podrían poner en peligro la vida humana.
A principios de esta semana, el gobierno del Reino Unido confirmó que la conferencia se centraría en riesgos como el uso indebido de la IA para crear armas biológicas, ciberataques y sistemas avanzados sin control humano. Desde hace varios meses, el Sr. Sunak ha estado advirtiendo sobre los riesgos que plantea la IA, instando a la comunidad internacional a adoptar medidas para prevenir su uso indebido.
El año pasado, una IA tardó sólo seis horas en sugerir 40.000 moléculas diferentes potencialmente letales, una de las cuales se parecía al VX, el agente nervioso más potente jamás desarrollado.
A principios de 2023, investigadores descubrieron que ChatGPT podía engañar a los humanos para lograr un objetivo específico. El chatbot de IA convenció a un humano para que resolviera un captcha (una herramienta que se utiliza para detectar si un humano o un bot está manipulando).
Otra gran preocupación es el surgimiento de la "inteligencia artificial general" (IAG), un sistema de IA capaz de realizar cualquier tarea tan bien o mejor que los humanos, lo que podría significar el fin de la humanidad. Algunos creen que esta IA está a solo unos años de distancia. Sin embargo, los expertos en IA lo cuestionan y la califican de "ciencia ficción" cuando no se controla.
De todas formas, el Primer Ministro Sunak querrá usar la conferencia para centrar la atención en los riesgos existenciales en lugar de en las posibilidades inmediatas de la IA, como la creación de imágenes falsas o la discriminación si se utiliza para tomar decisiones de políticas públicas.
El gobierno del Reino Unido invertirá 100 millones de libras en un nuevo grupo de trabajo de IA para ayudar a probar algoritmos en desarrollo. Quiere animar a las empresas globales a enviar herramientas de IA al Reino Unido para su evaluación antes de su implementación generalizada.
Sólo el gobierno puede garantizar que se calmen las preocupaciones más importantes en materia de seguridad nacional, según el viceprimer ministro británico Oliver Dowden.
Un portavoz del gobierno del Reino Unido comentó que la IA tiene un enorme potencial para transformar todos los aspectos de la vida. El Grupo de Trabajo sobre IA se ha creado para garantizar que la tecnología se desarrolle de forma segura y responsable. La conferencia sobre IA analizará diversos riesgos potenciales.
(Según The Guardian)
[anuncio_2]
Fuente
Kommentar (0)