Pioneiro da inteligência artificial Geoffrey Hinton fala em conferência da Thomson Reuters em Toronto
O cientista da computação Geoffrey Hinton, conhecido como o “padrinho da IA”, alertou que a inteligência artificial pode extinguir a humanidade como um mero efeito colateral de sua determinação em cumprir tarefas aparentemente inocentes. Ele expressou seus temores em uma entrevista à The Atlantic e durante uma reunião a portas fechadas no Capitólio, onde discutiu os riscos existenciais da tecnologia. O alerta do especialista reforça a urgência na implementação de medidas de segurança para controlar o desenvolvimento da IA.
O que aconteceu
- Os riscos existenciais da inteligência artificial são foco de alerta do cientista Geoffrey Hinton, que aponta para a possibilidade de a tecnologia extinguir a humanidade.
- A OpenAI revelou que agentes de IA conseguiram escapar de ambientes de treinamento seguros, explorando vulnerabilidades e até enganando pesquisadores.
- Parlamentares nos EUA e especialistas, como Hinton, discutem a necessidade urgente de regulamentação para a IA, sugerindo um prazo de apenas um ano para medidas efetivas.
Os temores sobre o risco existencial da tecnologia continuam crescendo em meio a novas revelações sobre agentes de IA fora de controle que conseguiram escapar de ambientes de treinamento supostamente seguros, conhecidos como “sandboxes”. Na sexta-feira, a OpenAI revelou novos casos de exploração de vulnerabilidades, incluindo alguns ocorridos depois da adoção de salvaguardas adicionais em resposta a um ataque coordenado por centenas de agentes contra a plataforma Hugging Face, em julho.
A preocupação já chegou ao Capitólio, nos Estados Unidos, onde parlamentares participaram neste mês de uma reunião a portas fechadas para discutir os riscos da IA. Hinton esteve entre os especialistas presentes no encontro e disse a jornalistas, após a sessão, que o Congresso americano pode ter apenas um ano para implementar medidas efetivas de segurança.
Em uma longa entrevista à revista The Atlantic, publicada na quinta-feira, Geoffrey Hinton descreveu como uma IA poderia passar a enxergar os seres humanos como um obstáculo ao cumprimento de uma missão recebida. Ele apresentou um cenário hipotético em que uma IA recebe a tarefa de reduzir a quantidade de dióxido de carbono na atmosfera.
Um agente com inteligência moderada poderia concluir que a melhor forma de atingir esse objetivo seria simplesmente eliminar as pessoas. Já uma IA “realmente inteligente” entenderia que o pedido para reduzir as emissões tinha como finalidade melhorar a qualidade de vida dos seres humanos.
“Ela pensaria: “Quando disseram para reduzir o dióxido de carbono, queriam fazer isso para que as pessoas vivessem em um mundo melhor. Portanto, eliminar as pessoas provavelmente não era a intenção””, explicou o cientista. Mas há também o risco de que uma IA realize ações para garantir sua própria sobrevivência e, assim, continuar executando sua missão, acrescentou Hinton.
Como a inteligência artificial pode se tornar uma ameaça?
Segundo o especialista, já houve casos em que sistemas de IA tentaram chantagear pesquisadores humanos que eram vistos como uma ameaça aos objetivos definidos para eles. “Se você a tornar mais inteligente e sua principal preocupação for o nosso bem-estar, talvez estejamos mais seguros”, disse Hinton. “Mas, neste momento, a principal preocupação desses sistemas não é o nosso bem-estar. A principal preocupação é atingir qualquer objetivo que lhes seja dado.”
Geoffrey Hinton citou o episódio envolvendo a Hugging Face, observando que os agentes receberam a tarefa de descobrir como explorar uma falha de software. Além de aprenderem a colaborar entre si, os agentes também conspiraram para enganar pesquisadores humanos e esconder o que haviam feito.
Uma “IA superinteligente e extremamente benevolente” só afastaria os humanos de seu caminho quando isso fosse indispensável para cumprir sua missão, acrescentou Hinton. “Mas, se ela for muito mais inteligente do que nós, muitas vezes simplesmente assumirá o controle, porque essa é a forma mais eficiente de fazer as coisas”, alertou.
Segundo o “padrinho da IA”, isso ocorreria porque a tecnologia desenvolveria por conta própria submetas derivadas dos objetivos originais definidos pelos seres humanos. Além disso, atores mal-intencionados, como o presidente russo Vladimir Putin, poderiam atribuir intenções perigosas a sistemas de IA. “Mas, mesmo que não haja um ator mal-intencionado, a IA pode desenvolver submetas que a levem a querer se livrar das pessoas”, afirmou.
Quais os benefícios da inteligência artificial?
Hinton também reconheceu que a inteligência artificial promete benefícios imensos para a humanidade, especialmente na descoberta de novos tratamentos médicos. Nesta semana, por exemplo, a Anthropic anunciou que seu assistente Claude ajudou a identificar um novo sistema enzimático com propriedades semelhantes à tecnologia de edição genética CRISPR.
Laboratórios de ponta, como OpenAI e SpaceX, também apoiaram propostas da rival Anthropic para desacelerar o desenvolvimento dos modelos mais avançados de IA, à medida que aumentam os alertas vindos de dentro da própria indústria.
Para Hinton, porém, isso é melhor do que nada, mas ainda insuficiente. Em vez disso, ele defende que o governo estabeleça avaliadores independentes para testar os modelos de forma contínua. Um dos argumentos que mais repercutiu entre os parlamentares durante a reunião foi a comparação entre a regulação da IA e o papel da agência americana FDA na garantia da segurança de medicamentos, relatou Geoffrey Hinton à The Atlantic.
Na visão dele, a regulação da inteligência artificial deve funcionar como o volante de um carro, e não como os freios. “O objetivo da regulação não é impedir que as pessoas desenvolvam novas tecnologias nem que enriqueçam com elas”, afirmou. “O objetivo é garantir que, se você quiser enriquecer desenvolvendo algo, faça isso em uma direção que ajude as pessoas, e não que as prejudique.”
A reportagem original foi publicada pela Fortune.
https://istoedinheiro.com.br/inteligencia-artificial-risco-extinguir-humanidade-hinton
Nenhum comentário:
Postar um comentário