A Anthropic anunciou uma parceria com a SpaceX, a empresa espacial de Elon Musk, para utilizar toda a capacidade de computação de seu centro de dados Colossus One, dedicado até agora à IA do bilionário - AFP/Arquivos
Jacob Coxon, um proeminente pesquisador de inteligência artificial, abandonou a indústria após três anos trabalhando com pré-treinamento de modelos na OpenAI e, posteriormente, na Anthropic. Ele alega que as empresas avançam em direção à superinteligência sem segurança suficiente, acusando-as de “brincar com as nossas vidas”. Sua saída ocorre em um momento de crescente debate sobre os riscos existenciais da IA.
O que aconteceu
- O ex-pesquisador Jacob Coxon alertou sobre os riscos de a indústria de IA buscar superinteligência sem segurança adequada.
- Ele acusa as companhias OpenAI e Anthropic de “brincar com as nossas vidas” ao acelerar o desenvolvimento de modelos.
- Coxon e outros especialistas internos manifestam temor pelo potencial letal da IA, inclusive com estimativas de riscos à vida humana.
Coxon publicou sua posição na rede social X, afirmando: “Me demiti hoje da Anthropic. Passei os últimos três anos fazendo pesquisa de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das duas empresas está agindo com responsabilidade. Elas estão correndo a passos largos para a superinteligência autoaperfeiçoável e apostando com nossas vidas.”
O pesquisador alertou para o perigo do desenvolvimento acelerado em direção a sistemas capazes de realizar o chamado autoaperfeiçoamento recursivo, processo no qual a inteligência artificial projeta e treina a geração seguinte com pouca ou nenhuma intervenção humana.
Por que a preocupação com a segurança da IA aumenta?
Segundo o ex-pesquisador, o temor sobre os riscos da tecnologia não é restrito ao público externo: “As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década. Isso não é uma jogada de marketing. Aliás, muitos executivos e pesquisadores renomados costumam usar uma linguagem mais sensata na imprensa, mas ouço essas mesmas pessoas expressarem medo.”
Coxon acrescentou que, embora os líderes da Anthropic compreendam o que está em jogo, eles se sentem presos a uma corrida comercial para chegar primeiro, por não confiarem que seus concorrentes adotarão uma postura responsável.
Evan Hubinger, diretor de segurança da Anthropic, manifestou-se no X em caráter pessoal em concordância parcial com as preocupações levantadas por Coxon, estimando em mais de 10% a chance de a IA provocar mortes humanas na próxima década. “Nós realmente acreditamos que a IA pode matar seres humanos”, afirmou Hubinger.
Mudanças em compromissos de segurança e o futuro da IA
A saída de Coxon ocorre em um momento em que a Anthropic se prepara para abrir capital na Bolsa (IPO). Em fevereiro, a empresa alterou sua carta de compromissos de segurança, retirando uma cláusula que previa a suspensão do desenvolvimento de novos modelos caso os riscos associados não pudessem ser controlados de forma eficaz.
Procuradas pela agência AFP, OpenAI e Anthropic não responderam imediatamente às declarações até a publicação da matéria. Da IstoÉ.
https://istoedinheiro.com.br/pesquisador-alerta-brincadeira-com-vidas-ia-sem-seguranca
Nenhum comentário:
Postar um comentário