De hecho, no es la primera vez que los científicos advierten sobre el peligro potencial de la inteligencia artificial para la humanidad. En 2014, el renombrado físico teórico británico Stephen Hawking afirmó: "El desarrollo completo de la inteligencia artificial podría destruir a la humanidad". También predijo que la humanidad sería reemplazada por completo por la inteligencia artificial en 500 años si no se actuaba con cautela en la investigación y el desarrollo de esta peligrosa tecnología. Hace ocho años, en julio de 2015, más de 1000 expertos en inteligencia artificial, entre ellos Stephen Hawking, Elon Musk, Noam Chomsky y otros, firmaron una petición advirtiendo sobre el riesgo de una carrera armamentística en el campo de la IA militar y exigiendo la prohibición total de las armas autónomas (que combinan IA y armas letales). El lanzamiento de la aplicación Chat GPT por parte de OpenAI en noviembre de 2022 añadió otra señal de alarma sobre los peligros inherentes de la inteligencia artificial. De hecho, lo que hace Chat GPT demuestra que la IA, hasta cierto punto, se ha vuelto mucho más peligrosa de lo que se pensaba.
Los riesgos potenciales de la inteligencia artificial dependen de su uso. Inicialmente, la IA se desarrolló para ayudar a los humanos en su trabajo, especialmente en tareas tediosas y repetitivas como la clasificación de imágenes y la revisión de información. Sin embargo, con el rápido desarrollo de la IA en los últimos tiempos, científicos y expertos en tecnología temen que, si se desarrolla sin control o se programa con fines indebidos, la inteligencia artificial podría tener graves consecuencias para la humanidad y la sociedad.
Riesgo de inseguridad
La inteligencia artificial podría convertirse en una amenaza para la seguridad nacional y la seguridad personal. Elon Musk ha advertido que la IA podría convertirse en una herramienta aterradora en la guerra. Si una nación logra desarrollar un sistema de inteligencia artificial superior, podría usarlo para atacar a otras naciones. El profesor Stuart Russell, catedrático de informática de la Universidad de California, quien ha dedicado décadas a la investigación de la inteligencia artificial, advierte sobre la amenaza a la seguridad que representa la IA, afirmando que ahora podemos producir armas autónomas mediante la integración y miniaturización de tecnologías existentes.
El experimento, llevado a cabo por el profesor Stuart Russell y el Instituto de Investigación de la Vida Futura (FLI), utilizó un robot asesino: un dispositivo volador microscópico equipado con cámaras, sensores, software de procesamiento de imágenes, reconocimiento facial, una carga explosiva de 3 gramos y un microprocesador de alta velocidad que permite el análisis de datos y reacciones 100 veces más rápidas que el cerebro humano. Según sus parámetros programados, el robot asesino accede continuamente a datos en la nube para buscar información sobre su objetivo y encontrar la manera de acercarse. Una vez localizado, se lanza a gran velocidad hacia el objetivo, detona la carga explosiva de 3 gramos y penetra profundamente en el cráneo, matando a la víctima al instante.
Aquello fue solo un experimento con IA en su nivel más básico. Si la IA se utiliza para desarrollar métodos de ataque nuevos y más sofisticados, también podría aumentar las capacidades de los atacantes y acarrear consecuencias más graves que los ataques convencionales. Cuando la IA se desarrolle hasta el punto de poder tomar sus propias decisiones para adaptarse a entornos cambiantes, buscar objetivos alternativos de forma independiente o ampliar su rango de objetivos, entonces quizás la humanidad ya no esté a salvo. Muchos colegas en este campo coinciden con el profesor Stuart Russell y creen que aún existe la posibilidad de evitar un futuro tan sombrío, pero en realidad no nos queda mucho tiempo.
El riesgo reside en que la IA se organice, se vuelva autónoma y controle el sistema.
La IA puede diseñarse incorrectamente o entrenarse de forma inadecuada mediante el aprendizaje automático, lo que podría provocar acciones no deseadas que perjudiquen a las personas y al medio ambiente. Por ejemplo, gracias al aprendizaje automático, la IA es cada vez más inteligente. Cuando la inteligencia artificial alcanza un nivel que le permite dar soporte a sistemas críticos como la energía, el transporte, la sanidad y las finanzas, puede dominar y controlar estos sistemas por completo, tomando sus propias decisiones y ejecutándolas en situaciones de emergencia. Sin embargo, cuando la IA se diseña con intenciones maliciosas, puede causar graves consecuencias, como interrumpir el tráfico desactivando los semáforos o cortando el suministro eléctrico a los sistemas ferroviarios urbanos, provocando accidentes en cadena y apagones generalizados.
Muchas películas de Hollywood e internacionales se han basado en este escenario. Sin embargo, con la tecnología actual de IA, esto ya no es una perspectiva lejana, sino totalmente posible. Elon Musk cree que si se permite que la IA se desarrolle sin control, hasta el punto de automatizar decisiones sin intervención humana, podría representar una amenaza para la supervivencia humana. Por eso, junto con miles de expertos en tecnología, firmó una carta exigiendo que se detenga el desarrollo de la IA y que se establezca un control estricto y transparente sobre su desarrollo. Según Elon Musk, los sistemas de inteligencia artificial son complejos, difíciles de comprender y controlarlos es un gran desafío. Sin transparencia, el uso de la inteligencia artificial con fines poco éticos, que causen daño a la humanidad, es inevitable.
Riesgo de pérdida del empleo, violación de los derechos de privacidad.
Cuando se utiliza para recopilar información personal, la tecnología de inteligencia artificial puede emplearse para violar la privacidad, llevar a cabo campañas de desinformación y difundir información errónea que afecta el orden social y la estabilidad política. El hackeo de la red de la Oficina de Gestión de Personal (OPM) de EE. UU. es motivo de gran preocupación para cualquier país u organización, ya que comprometió los datos personales detallados y altamente sensibles de 21,5 millones de funcionarios estadounidenses, tanto en activo como jubilados, incluyendo información sobre sus cónyuges y datos de solicitudes de empleo gubernamentales como estado de salud, residencia, ocupación, huellas dactilares e información financiera. Sin embargo, surgió un hecho aún más alarmante cuando la CIA descubrió que los autores del robo de datos de la OPM utilizaron inteligencia artificial para falsificar información personal y crear agentes virtuales para robar datos. Una vez robada, la información se analiza, categoriza y explota con fines específicos mediante la tecnología de macrodatos (Big Data). La inteligencia artificial ayuda a los ladrones de información a reducir el tiempo necesario para explotar los datos, ya que los humanos son incapaces de procesar tal cantidad de información en tan poco tiempo.
Además de los peligros inherentes mencionados, la tecnología de IA también genera otros riesgos, como la dependencia excesiva, que conlleva la pérdida de control sobre las situaciones y una disminución de la capacidad de toma de decisiones. La inteligencia artificial también provocará que millones, incluso cientos de millones, de personas pierdan sus empleos, especialmente en trabajos puramente manuales con bajo nivel de conocimientos. En consecuencia, graves problemas sociales como el desempleo, la delincuencia y la brecha entre ricos y pobres se acentuarán aún más. Asimismo, la fiabilidad es un aspecto crucial. La fiabilidad de las decisiones en campos altamente especializados como la sanidad y la justicia penal es de suma importancia. Al utilizar la IA para la toma de decisiones en estos campos, si la tecnología no es suficientemente fiable, se basa en datos que tienden a favorecer a una o varias personas, o se distorsiona intencionadamente, dichas decisiones pueden tener graves consecuencias.
¿Cómo podemos evitar esto?
Los riesgos mencionados son la razón por la que Elon Musk y los expertos en tecnología están preocupados por el desarrollo descontrolado de la IA y han escrito cartas instando a las Naciones Unidas y a las organizaciones internacionales a controlar estrictamente, garantizar la seguridad y la ética en el desarrollo de la IA, y fortalecer la cooperación internacional para asegurar que la tecnología de IA se utilice en beneficio de la humanidad y la sociedad. Algunas medidas específicas que podrían mencionarse incluyen:
- Control de confiabilidad del sistema: La IA debe diseñarse y desarrollarse para garantizar la seguridad y la confiabilidad a través de métodos rigurosos, frecuentes y continuos de control de calidad, monitoreo y supervisión para asegurar que el sistema de IA funcione según lo previsto por los humanos y evitar impactos no deseados derivados de su falta de confiabilidad.
La tecnología de inteligencia artificial (IA) debe programarse para operar de acuerdo con valores éticos y normas sociales. Estas regulaciones y estándares deben establecerse y supervisarse claramente para garantizar que no causen daño a las personas ni a las organizaciones. Asimismo, es fundamental analizar, evaluar el impacto y monitorear el desempeño del sistema de IA periódicamente para asegurar su funcionamiento ético, que no viole ni menoscabe los valores comunes de la sociedad, que no genere impactos negativos y que garantice la transmisión precisa de conocimientos y valores.
    |
| El periodismo es uno de los sectores más afectados por la inteligencia artificial. En el futuro, no habrá necesidad de presentadores fuera de cámara para los programas de radio, e incluso los presentadores virtuales se convertirán en la norma para los programas de televisión. |
- Suspender temporalmente el "entrenamiento" de sistemas de inteligencia artificial durante al menos seis meses para reevaluar la situación en su totalidad. Esta pausa debe ser pública, controlada y todos los actores clave involucrados en el entrenamiento deben cumplirla. De ser necesario, los gobiernos deberían imponer prohibiciones temporales. Esto no implica una paralización total del desarrollo de la IA, sino simplemente una pausa temporal en la peligrosa carrera por adoptar otros modelos de desarrollo que hagan que los sistemas de IA sean más precisos, seguros, comprensibles, transparentes, relevantes, fiables y leales. Esta es una solución integral que Elon Musk y sus colegas propusieron en su carta abierta, pero su viabilidad es baja. Resulta muy difícil para todos los laboratorios independientes cumplir con un llamamiento transnacional de este tipo, que no es vinculante.
Fortalecer la cooperación y el intercambio de información entre países y organizaciones independientes de investigación en IA es fundamental para garantizar que la IA se desarrolle y utilice de forma segura en el futuro. La cooperación y el intercambio de información también permiten emitir alertas oportunas y prevenir cualquier riesgo emergente.
En general, la IA ya está presente en todas partes, y relatos como la inteligencia artificial escribiendo poesía, música y artículos se han convertido en realidad, dejando de ser ciencia ficción. El autor de este artículo ha utilizado tecnología de IA en ordenadores y teléfonos para facilitar la escritura, agilizando y optimizando el proceso. En concreto, el párrafo introductorio y algunas ideas fueron sugeridos por la IA, e incluso más notablemente, todas las imágenes utilizadas en este artículo fueron creadas por IA. La tecnología de inteligencia artificial es muy útil para mejorar la calidad de vida y el trabajo de los seres humanos, pero es necesario controlarla rigurosamente para evitar que se descontrole y se convierta en un posible sustituto de los humanos en el futuro, como predijo el físico teórico Stephen Hawking.
Texto y fotos: HUU DUONGFuente
Kommentar (0)