Três vezes a inteligência artificial assustou os cientistas – desde a criação de armas químicas até a alegação de que tem sentimentos

Três vezes a inteligência artificial assustou os cientistas - desde a criação de armas químicas até a alegação de que tem sentimentos

A revolução da inteligência artificial está apenas começando, mas já houve vários desenvolvimentos inquietantes.

Os programas de IA podem ser usados ​​para agir de acordo com os piores instintos dos humanos ou alcançar os objetivos mais perversos dos humanos, como criar armas ou aterrorizar seus criadores com falta de moralidade.

1

Visionários como Elon Musk pensam que IA descontrolada pode levar à extinção da humanidadeCrédito: Getty Images-Getty

O que é inteligência artificial?

inteligência artificial é uma frase genérica para um programa de computador projetado para simular, imitar ou copiar os processos de pensamento humano.

Por exemplo, um computador de IA projetado para jogar xadrez é programado com um objetivo simples: ganhar o jogo.

No processo de jogo, a IA modelará milhões de resultados potenciais de um determinado movimento e atuará naquele que dá ao computador a melhor chance de ganhar.

Robô humanóide com inteligência artificial é nomeado CEO da empresa chinesa de videogames pela primeira vez no mundo
Nova tecnologia de alteração de voz removeu os sotaques dos funcionários do call center

Um jogador humano habilidoso agirá de forma semelhante, analisando movimentos e suas consequências, mas sem a memória perfeita, velocidade ou rigidez de um computador.

A IA pode ser aplicada a vários campos e tecnologias.

Carros autônomos visam chegar ao seu destino e receber estímulos como sinalização, pedestres e estradas ao longo do caminho, assim como um motorista humano faria.

Os programas de IA também fizeram curvas inesperadas e surpreenderam os pesquisadores com suas tendências ou aplicações perigosas.

AI inventa novas armas químicas

Em março de 2022, pesquisadores revelaram que a inteligência artificial inventou 40.000 novas possíveis armas químicas em apenas seis horas.

Cientistas patrocinados por uma conferência internacional de segurança disseram que um bot de IA criou armas químicas semelhantes a um dos agentes nervosos mais perigosos de todos os tempos, chamado VX.

VX é um agente nervoso insípido e inodoro e mesmo a menor gota pode fazer com que um ser humano sue e se contorça.

“A forma como o VX é letal é que na verdade impede que seu diafragma, seus músculos pulmonares, se movam para que seus pulmões fiquem paralisados”, disse Fabio Urbina, principal autor do artigo. A Beira.

“A maior coisa que saltou à vista no início foi que muitos dos compostos gerados foram previstos para serem realmente mais tóxicos que o VX”, continuou Urbina.

O conjunto de dados que alimentou o modelo de IA está disponível publicamente gratuitamente, o que significa que um agente de ameaças com acesso a um modelo de IA comparável pode conectar os dados de código aberto e usá-los para criar um arsenal de armas.

“Basta algum conhecimento de codificação para transformar uma boa IA em uma máquina de fabricação de armas químicas”.

AI afirma que tem sentimentos

Um engenheiro do Google chamado Blake Lemoine fez afirmações amplamente divulgadas de que o Modelo de Linguagem para Aplicativos de Diálogo (LaMDA) oferecido pela empresa estava acordado com consciência e tinha sentimentos.

“Se eu não soubesse exatamente o que era, que é esse programa de computador que construímos recentemente, eu pensaria que era uma criança de 7 anos, 8 anos que por acaso conhece física”, disse Lemoine ao jornal. Washington Post em junho de 2022.

Google recuou contra suas alegações.

Brian Gabriel, porta-voz do Google, disse em comunicado que as preocupações de Lemoine foram analisadas e, de acordo com os Princípios de IA do Google, “as evidências não apoiam suas alegações”.

“[Lemoine] foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra ele)”, disse Gabriel.

“É claro que alguns na comunidade de IA mais ampla estão considerando a possibilidade de longo prazo da IA ​​senciente ou geral, mas não faz sentido antropomorfizar os modelos de conversação de hoje, que não são sencientes”.

Google colocou Lemoine em licença administrativa e depois despedido dele.

IA canibal

O pesquisador Mike Sellers desenvolveu um programa de IA social para a Agência de Projetos de Pesquisa Avançada de Defesa no início dos anos 2000.

“Para uma simulação, tivemos dois agentes, naturalmente chamados Adão e Eva. Eles começaram sabendo como fazer as coisas, mas não sabendo muito mais.

“Eles sabiam como comer, por exemplo, mas não o que comer”, explicou Sellers em um Blog do Quora.

Os desenvolvedores colocaram uma macieira dentro da simulação e os agentes de IA receberiam uma recompensa por comer maçãs para simular a sensação de saciar a fome.

Se eles comessem a casca da árvore ou a casa dentro da simulação, a recompensa não seria acionada.

Um terceiro agente de IA chamado Stan também foi colocado dentro da simulação.

Stan estava presente enquanto Adão e Eva comiam as maçãs, e eles começaram a associar Stan a comer maçãs e saciar a fome.

“Adão e Eva terminaram as maçãs na árvore e ainda estavam com fome. Eles olharam ao redor avaliando outros alvos em potencial. E eis que, para seus cérebros, Stan parecia comida”, escreveu Sellers.

“Então cada um deles deu uma mordida em Stan.”

Fãs de Kardashian chocados quando Pete Davidson 'toma jab' em Kanye West no Emmy 2022
Vítima de estupro cujo DNA foi usado para acusá-la de um crime processa milhões

A revolução da IA ​​começou a tomar forma em nosso mundo – bots artificialmente inteligentes continuarão a facilitar a vida, substituir trabalhadores humanose tornar-se mais responsável e autônomo.

Mas houve vários casos horríveis de programas de IA fazendo o inesperado, dando legitimidade ao crescente medo da IA.