Demis Hassabis, director ejecutivo de DeepMind (la división de investigación de inteligencia artificial de Google), no está demasiado preocupado por un "apocalipsis de la IA"; le preocupa más el riesgo de que la tecnología caiga en las manos equivocadas y la falta de garantías para controlar modelos de IA complejos y autónomos.
“Ambos riesgos son importantes y desafiantes”, compartió en una entrevista con CNN en el evento SXSW celebrado recientemente en el Reino Unido.
Demis Hassabis, director ejecutivo de Google DeepMind, advierte sobre los graves riesgos que supone que la IA caiga en manos equivocadas. Foto: Bloomberg
La semana pasada, el director ejecutivo de Anthropic, un destacado laboratorio de IA, lanzó una dura advertencia sobre el futuro del mercado laboral. Predijo que la IA podría eliminar la mitad de los empleos administrativos. Pero su mayor preocupación reside en el posible mal uso de la «inteligencia artificial general» (IAG), un tipo de IA que, en teoría, es capaz de alcanzar la inteligencia humana.
“Un malhechor podría reutilizar esas tecnologías con fines maliciosos”, dijo. “Así que la gran pregunta es… ¿cómo podemos restringir el acceso de los malhechores a estos poderosos sistemas… y al mismo tiempo permitir que los buenos hagan muchas cosas buenas con ellos?”
En mayo, el FBI afirmó que hackers habían utilizado IA para crear mensajes de voz falsos de funcionarios gubernamentales. Un informe encargado por el Departamento de Estado de EE. UU. el año pasado también concluyó que la IA podría representar riesgos catastróficos para la seguridad nacional, según CNN . La IA también ha facilitado la creación de pornografía deepfake.
Hassabis no es el primero en plantear estas preocupaciones. Si bien la IA ha sido aclamada como uno de los mayores avances tecnológicos desde internet, también brinda a los estafadores y a los actores maliciosos más herramientas que nunca. Cabe destacar que está creciendo rápidamente sin mucha regulación.
Tras despedir a 6.000 personas, Microsoft continúa despidiendo a cientos de empleados. Unas semanas después de despedir a 6.000 empleados, Microsoft continúa despidiendo a más de 300, mientras la compañía invierte miles de millones de dólares en inteligencia artificial (IA).
Hassabis cree que es necesario un acuerdo internacional sobre los principios básicos de cómo debe utilizarse la IA y cómo garantizar que la tecnología solo se utilice "para buenos casos de uso".
«Obviamente, dada la situación geopolítica actual, eso parece difícil», dijo. «Pero espero que, a medida que las cosas mejoren y la IA se vuelva más sofisticada, el mundo se dé cuenta cada vez más de que es necesario».
El CEO de DeepMind también cree que nos dirigimos hacia un futuro en el que las personas usarán "asistentes" de IA para realizar tareas en su nombre, una visión en la que Google está trabajando integrando más IA en su función de búsqueda y desarrollando gafas inteligentes impulsadas por IA.
"A veces lo llamamos un asistente de IA omnipotente que te acompañará a todas partes, te ayudará en tu vida diaria, realizará tareas administrativas sencillas por ti y también enriquecerá tu vida sugiriendo cosas geniales, desde libros y películas hasta amigos para conocer", compartió el CEO de Google DeepMind.
Sin embargo, la IA aún es susceptible a limitaciones como sesgos y alucinaciones, lo que ha causado problemas considerables a las empresas que utilizan esta tecnología. Por ejemplo, el Chicago Sun-Times y el Philadelphia Inquirer publicaron una lista de lecturas de verano generada por IA que incluía libros inexistentes.
Hassabis no cree que la IA vaya a dejar obsoletos los empleos. Al igual que otros en el campo de la IA, cree que la tecnología puede crear nuevos tipos de empleos y aumentar la productividad. Pero también reconoce que la sociedad probablemente tendrá que adaptarse y encontrar la manera de distribuir toda la productividad adicional que la IA generará en la economía.
Compara la IA con el desarrollo de otros cambios tecnológicos, como Internet.
Normalmente surgen empleos nuevos e incluso mejores para reemplazar algunos de los empleos que se desplazan. Veremos si eso sucede esta vez, dijo.
(Según CNN)
Fuente: https://vietnamnet.vn/ong-chu-veo-3-canh-bao-nguy-co-lon-hon-ca-viec-ai-gay-that-nghiep-hang-loat-2409366.html
Kommentar (0)