Na verdade, esta não é a primeira vez que cientistas alertam sobre o potencial perigo da inteligência artificial para a humanidade. Em 2014, o renomado físico teórico britânico Stephen Hawking afirmou: "O pleno desenvolvimento da inteligência artificial pode destruir a humanidade". Ele também previu que a humanidade seria completamente substituída pela inteligência artificial em 500 anos, caso não se tomasse cautela na pesquisa e desenvolvimento dessa tecnologia perigosa. Oito anos atrás, em julho de 2015, mais de mil especialistas em inteligência artificial, incluindo Stephen Hawking, Elon Musk, Noam Chomsky e outros, assinaram uma petição alertando sobre o risco de uma corrida armamentista no campo da IA militar e pedindo a proibição completa de armas autônomas (que combinam IA e armas letais). O lançamento do aplicativo Chat GPT pela OpenAI em novembro de 2022 adicionou mais um alerta sobre os perigos inerentes à inteligência artificial. De fato, o que o Chat GPT faz demonstra que a IA, em certa medida, tornou-se muito mais perigosa do que se imaginava.
Os riscos potenciais da inteligência artificial dependem de como ela é utilizada. Inicialmente, a IA foi desenvolvida para auxiliar os humanos em seu trabalho, especialmente em tarefas tediosas e repetitivas, como classificação de imagens e revisão de informações. No entanto, com o rápido desenvolvimento da IA nos últimos tempos, cientistas e especialistas em tecnologia temem que, se desenvolvida sem controle ou programada para fins inadequados, a inteligência artificial possa ter sérias consequências para a humanidade e a sociedade.
Risco de insegurança
A inteligência artificial pode se tornar uma ameaça à segurança nacional e à segurança pessoal. Elon Musk alertou que a IA pode se tornar uma ferramenta terrível na guerra. Se uma nação conseguir desenvolver um sistema de inteligência artificial superior, poderá usá-lo para atacar outras nações. O professor Stuart Russell, professor de ciência da computação da Universidade da Califórnia que dedicou décadas à pesquisa em inteligência artificial, alerta para a ameaça à segurança representada pela IA, afirmando que já podemos produzir armas autônomas integrando e miniaturizando tecnologias existentes.
O experimento, conduzido pelo Professor Stuart Russell e pelo Future Life Research Institute (FLI), utilizou um robô assassino – um dispositivo voador microscópico equipado com câmeras, sensores, software de processamento de imagem, reconhecimento facial, uma carga explosiva de 3 gramas e um microprocessador de alta velocidade que permite análise de dados e reações 100 vezes mais rápidas que o cérebro humano. De acordo com seus parâmetros programados, o robô assassino acessa continuamente dados na nuvem para buscar informações sobre seu alvo e encontrar uma maneira de se aproximar dele. Uma vez localizado, ele se lança em alta velocidade em direção ao alvo, detona a carga explosiva de 3 gramas e penetra profundamente no crânio, matando a vítima instantaneamente.
Isso foi apenas um experimento com IA em seu nível mais básico. Se a IA for usada para desenvolver novos métodos de ataque mais sofisticados, ela também poderá aumentar as capacidades de ataque dos invasores e levar a consequências mais graves do que os ataques convencionais. Quando a IA se desenvolver a ponto de poder tomar suas próprias decisões para lidar com ambientes em constante mudança, ou buscar alvos alternativos de forma independente, ou expandir seu alcance de ataques, então talvez a humanidade não esteja mais segura. Muitos colegas nesta área concordam com o Professor Stuart Russell e acreditam que ainda há uma chance de evitar um futuro tão sombrio, mas não nos resta muito tempo.
O risco é que a IA se torne organizada, autônoma e controle o sistema.
A inteligência artificial (IA) pode ser mal projetada ou "treinada" de forma inadequada por meio de aprendizado de máquina, o que pode levar a ações não intencionais que prejudicam os seres humanos e o meio ambiente. Por exemplo, com o aprendizado de máquina, a IA está se tornando cada vez mais inteligente. Quando a inteligência artificial atingir um nível de inteligência que permita o suporte a sistemas críticos como energia, transporte, saúde e finanças, ela poderá dominar e controlar esses sistemas por completo, tomando suas próprias decisões e executando-as em situações de emergência. No entanto, quando a IA é "equipada" com intenções maliciosas (mal projetada), ela pode causar consequências graves, como interromper sistemas de trânsito desativando semáforos ou cortando a energia de sistemas de transporte ferroviário urbano, causando acidentes em cadeia e apagões generalizados.
Muitos filmes de Hollywood e internacionais foram baseados nesse cenário. No entanto, com a tecnologia de IA atual, isso não é mais uma perspectiva distante, mas sim uma possibilidade concreta. Elon Musk acredita que, se a IA for permitida a se desenvolver sem controle, a ponto de automatizar decisões sem intervenção humana, poderá representar uma ameaça à sobrevivência da humanidade. É por isso que ele, juntamente com milhares de especialistas em tecnologia, assinou uma carta exigindo a interrupção e o controle rigoroso do desenvolvimento da IA de forma transparente. Segundo Elon Musk, os sistemas de inteligência artificial são complexos, difíceis de entender e controlá-los é um grande desafio. Sem transparência, o uso da inteligência artificial para fins antiéticos, causando danos à humanidade, é inevitável.
Risco de perda de emprego, violação dos direitos de privacidade.
Quando usada para coletar informações pessoais, a tecnologia de inteligência artificial pode ser utilizada para violar a privacidade, conduzir campanhas de desinformação e disseminar informações falsas que afetam a ordem social e a estabilidade política. O ataque cibernético à rede do Escritório de Gestão de Pessoal dos EUA (OPM) é uma preocupação significativa para qualquer país ou organização, pois comprometeu os dados pessoais detalhados e altamente sensíveis de 21,5 milhões de funcionários públicos americanos, ativos e aposentados, incluindo informações sobre seus cônjuges e dados de candidaturas a empregos governamentais, como estado de saúde, residência, ocupação, impressões digitais e informações financeiras. No entanto, um fato ainda mais alarmante surgiu quando a CIA descobriu que os autores do roubo de dados do OPM usaram inteligência artificial para falsificar informações pessoais e criar agentes virtuais para roubar dados. Uma vez roubadas, as informações serão analisadas, categorizadas e exploradas para fins específicos usando a tecnologia de Big Data. A inteligência artificial ajuda os ladrões de informações a reduzir o tempo necessário para explorar os dados, pois os humanos são incapazes de processar uma quantidade tão massiva de informações em tão pouco tempo.
Além dos perigos inerentes já mencionados, a tecnologia de IA também cria outros riscos, como: a dependência excessiva, que leva à perda de controle sobre as situações e à diminuição da capacidade de tomada de decisões. A inteligência artificial também fará com que milhões, até mesmo centenas de milhões, de pessoas percam seus empregos, especialmente em trabalhos puramente manuais com baixo conteúdo de conhecimento. A consequência é que problemas sociais graves, como desemprego, criminalidade e a desigualdade entre ricos e pobres, se tornarão ainda mais evidentes. Além disso, a confiabilidade também é uma questão crucial. A confiabilidade das decisões em áreas altamente especializadas, como saúde e justiça criminal, é extremamente importante. Ao usar a IA para auxiliar na tomada de decisões nessas áreas, se a tecnologia não for suficientemente confiável, operar com base em dados que tendem a favorecer uma pessoa ou um grupo de pessoas, ou for intencionalmente distorcida, essas decisões têm o potencial de causar sérias consequências.
Como podemos evitar isso?
Os riscos mencionados são a razão pela qual Elon Musk e especialistas em tecnologia estão preocupados com o desenvolvimento descontrolado da IA e escreveram cartas instando as Nações Unidas e organizações internacionais a controlarem rigorosamente, garantirem a segurança e a ética no desenvolvimento da IA; e a fortalecerem a cooperação internacional para assegurar que a tecnologia de IA seja usada de forma benéfica para a humanidade e a sociedade. Algumas medidas específicas que poderiam ser mencionadas incluem:
- Controle de confiabilidade do sistema: A IA precisa ser projetada e desenvolvida para garantir segurança e confiabilidade por meio de métodos rigorosos, frequentes e contínuos de controle de qualidade, monitoramento e supervisão, para assegurar que o sistema de IA opere conforme o planejado pelos humanos e evitar impactos indesejados decorrentes de sua falta de confiabilidade.
A tecnologia de inteligência artificial (IA) precisa ser programada para operar de acordo com valores éticos e normas sociais. Essas normas e padrões devem ser claramente estabelecidos e monitorados para garantir que não causem danos ou prejuízos a pessoas ou organizações. O processo de análise, avaliação de impacto e monitoramento do desempenho do sistema de IA também deve ser realizado regularmente para assegurar que ele opere de forma ética, não viole ou corroa os valores comuns da sociedade, não cause impactos negativos e garanta a transmissão precisa de conhecimento e valores.
    |
| O jornalismo é um dos setores mais afetados pela inteligência artificial. No futuro, não haverá necessidade de apresentadores fora da tela para programas de rádio, e os apresentadores virtuais para programas de televisão se tornarão dominantes. |
- Suspender temporariamente o "treinamento" de sistemas de inteligência artificial por pelo menos seis meses para reavaliar toda a questão. Essa pausa deve ser pública, controlada e todos os principais envolvidos no treinamento devem acatá-la. Se necessário, os governos devem emitir proibições temporárias. Isso não significa uma paralisação completa do desenvolvimento de IA, mas apenas uma pausa temporária na perigosa corrida para migrar para outros modelos de desenvolvimento que tornem os sistemas de IA mais precisos, seguros, compreensíveis, transparentes, relevantes, confiáveis e leais. Essa é uma solução abrangente que Elon Musk e seus colegas defenderam em sua carta aberta, mas sua viabilidade é baixa. É muito difícil para todos os laboratórios independentes acatarem um apelo transnacional e não vinculativo como esse.
O fortalecimento da cooperação e do compartilhamento de informações entre países e organizações independentes de pesquisa em IA é crucial para garantir que a IA seja desenvolvida e utilizada com segurança no futuro. A cooperação e o compartilhamento de informações também permitem alertas oportunos e a prevenção de quaisquer riscos emergentes.
De modo geral, a IA já está presente em todos os lugares ao nosso redor, e histórias como a de inteligência artificial escrevendo poesia, música e artigos se tornaram realidade, não mais ficção científica. O autor deste artigo utilizou tecnologia de IA em computadores e celulares para auxiliar na escrita, tornando o processo mais fluido e rápido. Especificamente, o parágrafo introdutório (chapeau) e algumas ideias foram sugeridos por IA e, ainda mais notável, todas as imagens utilizadas neste artigo foram criadas por IA. A tecnologia de inteligência artificial é muito útil para melhorar a qualidade de trabalho e de vida dos humanos, mas precisa ser rigorosamente controlada para evitar que saia do controle e se torne uma potencial substituta dos humanos no futuro, como previsto pelo físico teórico Stephen Hawking.
Texto e fotos: HUU DUONGFonte
Comentário (0)