Você conhece bem a IA? Aqui estão 7 termos que você precisa conhecer

[anúncio_1]

O rápido desenvolvimento da inteligência artificial (IA) levantou preocupações de que ela esteja se desenvolvendo mais rápido do que os humanos conseguem entender seu impacto.

O quanto você entende alguém? Aqui estão 7 termos que você precisa saber, figura 1. — Foto: ST

O uso de IA geral aumentou significativamente após o surgimento de ferramentas como o ChatGPT. Embora essas ferramentas tenham muitos benefícios, elas também podem ser mal utilizadas de maneiras prejudiciais.

Para gerenciar esse risco, os EUA e vários outros países garantiram acordos de sete empresas, incluindo Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI, para se comprometerem com práticas seguras no desenvolvimento de tecnologia de IA.

O anúncio da Casa Branca vem com uma terminologia própria que pode ser desconhecida para a pessoa comum, com termos como "red teaming" e "watermarking". Aqui estão sete termos relacionados à IA que você deve ficar atento.

Aprendizado de máquina

Este ramo da IA visa treinar máquinas para executar uma tarefa específica com precisão, identificando padrões. A máquina pode então fazer previsões com base nesses dados.

Aprendizado profundo

Tarefas criativas de IA geralmente dependem de aprendizado profundo, um método que envolve o treinamento de computadores usando redes neurais, um conjunto de algoritmos projetados para imitar os neurônios do cérebro humano, para fazer conexões complexas entre padrões para gerar texto, imagens ou outro conteúdo.

Como os modelos de aprendizado profundo têm várias camadas de neurônios, eles podem aprender padrões mais complexos do que o aprendizado de máquina tradicional.

Modelo de linguagem grande

Um modelo de linguagem de grande porte, ou LLM, é treinado com grandes quantidades de dados e visa modelar a linguagem ou prever a próxima palavra em uma sequência. Modelos de linguagem de grande porte, como ChatGPT e Google Bard, podem ser usados para tarefas como sumarização, tradução e conversação.

Algoritmo

Um conjunto de instruções ou regras que permitem que máquinas façam previsões, resolvam problemas ou concluam tarefas. Algoritmos podem fornecer recomendações de compras e auxiliar na detecção de fraudes e em funções de chat de atendimento ao cliente.

Viés

Como a IA é treinada com grandes conjuntos de dados, ela pode incorporar informações prejudiciais aos dados, como discurso de ódio. Racismo e sexismo também podem aparecer nos conjuntos de dados usados para treinar a IA, levando a conteúdo enganoso.

As empresas de IA concordaram em se aprofundar em como evitar preconceitos e discriminação prejudiciais em sistemas de IA.

Equipe vermelha

Um dos compromissos que as empresas assumiram com a Casa Branca é conduzir “red teaming” interna e externamente em modelos e sistemas de IA.

"Red teaming" envolve testar um modelo para descobrir potenciais vulnerabilidades. O termo vem de uma prática militar em que uma equipe simula as ações de um invasor para elaborar estratégias.

Este método é amplamente utilizado para testar vulnerabilidades de segurança em sistemas como plataformas de computação em nuvem de empresas como Microsoft e Google.

Marca d'água

Uma marca d'água é uma forma de identificar se um som ou imagem foi criado por IA. Os fatos verificados para verificação podem incluir informações sobre quem o criou, bem como como e quando foi criado ou editado.

Por exemplo, a Microsoft se comprometeu a inserir marcas d'água em imagens criadas por suas ferramentas de IA. Empresas também se comprometeram perante a Casa Branca a inserir marcas d'água em imagens ou registrar suas origens para identificá-las como geradas por IA.

Marcas d'água também são comumente usadas para rastrear violações de propriedade intelectual. Marcas d'água para imagens geradas por IA podem aparecer como ruído imperceptível, como uma pequena alteração a cada sétimo pixel.

No entanto, a aplicação de marca d'água em texto gerado por IA pode ser mais complexa e pode envolver ajustes no modelo de palavras para que ele possa ser identificado como conteúdo gerado por IA.

Hoang Ton (de acordo com Poynter)

[anúncio_2]
Fonte