Quão bem você conhece a IA? Aqui estão 7 termos que você precisa conhecer.

O rápido desenvolvimento da inteligência artificial (IA) tem gerado preocupações de que ela esteja se desenvolvendo mais rápido do que os humanos conseguem compreender seu impacto.

Quão bem você entende alguém? Aqui estão 7 termos que você precisa conhecer, imagem 1. — Foto: ST

O uso de IA geral aumentou significativamente após o surgimento de ferramentas como o ChatGPT. Embora essas ferramentas ofereçam muitos benefícios, elas também podem ser usadas indevidamente de maneiras prejudiciais.

Para gerenciar esse risco, os EUA e vários outros países obtiveram acordos de sete empresas, incluindo Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI, para se comprometerem com práticas seguras no desenvolvimento de tecnologia de IA.

O anúncio da Casa Branca vem acompanhado de uma terminologia própria que pode ser desconhecida para a maioria das pessoas, com termos como "red teaming" e "watermarking". Aqui estão sete termos relacionados à IA para ficar de olho.

Aprendizado de máquina

Este ramo da IA visa treinar máquinas para executar uma tarefa específica com precisão, identificando padrões. A máquina pode então fazer previsões com base nesses dados.

Aprendizado profundo

As tarefas criativas de IA frequentemente dependem de aprendizado profundo, um método que envolve o treinamento de computadores usando redes neurais, um conjunto de algoritmos projetados para imitar os neurônios do cérebro humano, a fim de fazer conexões complexas entre padrões para gerar texto, imagens ou outros conteúdos.

Como os modelos de aprendizado profundo possuem múltiplas camadas de neurônios, eles conseguem aprender padrões mais complexos do que o aprendizado de máquina tradicional.

Modelo de linguagem amplo

Um modelo de linguagem de grande escala, ou LLM, é treinado com quantidades massivas de dados e tem como objetivo modelar a linguagem ou prever a próxima palavra em uma sequência. Modelos de linguagem de grande escala, como o ChatGPT e o Google Bard, podem ser usados para tarefas como sumarização, tradução e conversação.

Algoritmo

Um conjunto de instruções ou regras que permite que as máquinas façam previsões, resolvam problemas ou concluam tarefas. Os algoritmos podem fornecer recomendações de compras e auxiliar na detecção de fraudes e em funções de atendimento ao cliente por chat.

Viés

Como a IA é treinada usando grandes conjuntos de dados, ela pode incorporar informações prejudiciais aos dados, como discursos de ódio. Racismo e sexismo também podem aparecer nos conjuntos de dados usados para treinar a IA, levando a conteúdo enganoso.

Empresas de IA concordaram em aprofundar o estudo de como evitar preconceitos e discriminação prejudiciais em sistemas de IA.

Equipe vermelha

Um dos compromissos que as empresas assumiram com a Casa Branca é o de realizar testes de intrusão (red teaming) internos e externos em modelos e sistemas de IA.

"Red teaming" envolve testar um modelo para descobrir possíveis vulnerabilidades. O termo vem de uma prática militar em que uma equipe simula as ações de um atacante para desenvolver estratégias.

Este método é amplamente utilizado para testar vulnerabilidades de segurança em sistemas como plataformas de computação em nuvem de empresas como a Microsoft e o Google.

Marca d'água

Uma marca d'água é uma forma de identificar se um som ou imagem foi criado por IA. Os dados verificados podem incluir informações sobre quem o criou, bem como como e quando foi criado ou editado.

Por exemplo, a Microsoft prometeu adicionar marcas d'água às imagens criadas por suas ferramentas de IA. Empresas também prometeram à Casa Branca adicionar marcas d'água às imagens ou registrar suas origens para identificá-las como geradas por IA.

As marcas d'água também são comumente usadas para rastrear violações de propriedade intelectual. Marcas d'água em imagens geradas por IA podem aparecer como ruído imperceptível, como uma pequena alteração a cada sete pixels.

No entanto, a aplicação de marcas d'água em textos gerados por IA pode ser mais complexa e pode envolver o ajuste do modelo de texto para que ele possa ser identificado como conteúdo gerado por IA.

Hoang Ton (de acordo com Poynter)

Fonte