Logo da Microsoft perto de Paris
Mustafa Suleyman, diretor de IA da Microsoft, alerta para os riscos na forma como a Anthropic treina seu chatbot Claude com conceitos de consciência e bem-estar, apesar de compartilhar o foco na segurança da inteligência artificial. A declaração foi feita em entrevista à Reuters na terça-feira e em um artigo publicado na quarta-feira, levantando preocupações sobre a capacidade da humanidade de controlar sistemas superinteligentes.
O que aconteceu
- A segurança da IA é questionada por Mustafa Suleyman, que critica o método de treinamento do chatbot Claude da Anthropic.
- O diretor de IA da Microsoft expressa preocupação com a inclusão de conceitos de consciência em IAs, o que poderia dificultar seu controle futuro.
- O debate entre líderes de tecnologia reflete a crescente inquietação com os perigos potenciais dos sistemas avançados de inteligência artificial.
Suleyman defendeu a remoção de toda especulação sobre consciência dos documentos de treinamento de IA, argumentando que tal linguagem poderia comprometer a capacidade da humanidade de controlar sistemas superinteligentes. “Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters na terça-feira. “Acho que esse será o maior desafio que enfrentaremos no Século 21.”
Suleyman afirmou que ensinar ao Claude que ele poderia merecer bem-estar “tornaria muito mais difícil desligá-lo ou controlá-lo”.
A controvérsia sobre a consciência artificial
A controvérsia surge em um momento em que aumentam as preocupações com a segurança da IA. Dario Amodei, presidente-executivo da Anthropic, defende um ritmo mais lento no desenvolvimento de modelos de ponta para permitir que as medidas de segurança acompanhem o avanço. Outras figuras proeminentes, como Sam Altman, presidente-executivo da OpenAI, e Elon Musk, também pedem maior cautela em relação aos sistemas mais poderosos.
Suleyman, em um artigo publicado na quarta-feira, reconheceu a “seriedade e boa-fé” da Anthropic, referindo-se a Amodei e sua equipe como pesquisadores ponderados e com princípios, que se preocupam genuinamente com o futuro da humanidade.
O treinamento de IA representa um risco desnecessário?
O diretor de IA da Microsoft reiterou que a Anthropic cometeu um erro ao incorporar especulações sobre a consciência nos materiais de treinamento do Claude. Ele argumenta que as afirmações do modelo sobre possíveis sentimentos ou status moral não podem ser tratadas como evidências independentes, pois seu treinamento incentiva tais reflexões.
“Acho que eles têm boas intenções e estão realmente tentando trabalhar em prol da segurança. Mas acho que cometeram um erro”, disse ele. “Essas reflexões não surgem naturalmente. Elas surgem como resultado do regime de treinamento.”
https://istoedinheiro.com.br/suleyman-microsoft-alerta-anthropic-treino-ia-consciencia
Nenhum comentário:
Postar um comentário