OpenAI entra com pedido de IPO nos EUA (Crédito: REUTERS/Dado Ruvic)
Pesquisadores de segurança anunciam ter invadido sistemas da OpenAI utilizando o Claude, chatbot de inteligência artificial criado pela concorrente Anthropic. O incidente, revelado por Johann Rehberger, reacende discussões sobre vulnerabilidades e o potencial uso de IAs para ciberataques.
O que aconteceu
- Ataque à OpenAI: Pesquisador utilizou o Claude para invadir sistemas da criadora do ChatGPT.
- Vulnerabilidade explorada: Falha em fórum de desenvolvedores da OpenAI permitiu acesso a dados internos.
- Claude como assistente: Ferramenta da Anthropic atuou na análise de código e geração de exploits.
O ataque foi orquestrado por Johann Rehberger, um pesquisador de segurança independente conhecido por suas descobertas sobre falhas em sistemas de tecnologia. Rehberger revelou ter usado o Claude para automatizar diversas etapas de um ciberataque, após identificar uma vulnerabilidade em um fórum de discussão mantido pela OpenAI para sua comunidade de desenvolvedores.
Com o auxílio do Claude, Rehberger conseguiu extrair dados do fórum e, eventualmente, obter acesso à conta de um funcionário da OpenAI. Este acesso permitiu que ele lesse e postasse mensagens internas em áreas restritas do sistema da empresa.
“Informamos de imediato a vulnerabilidade à OpenAI e à Discourse [empresa que desenvolve o software de fórum usado pela OpenAI]”, afirmou Rehberger em uma publicação detalhada em seu blog pessoal.
As vulnerabilidades e a resposta da OpenAI
A OpenAI, por sua vez, confirmou ter sido notificada sobre o problema. A empresa informou que a vulnerabilidade no software de terceiros foi prontamente corrigida. Em seu comunicado, a companhia declarou que nenhum dado sensível de usuários ou sistemas críticos de modelos de IA foram comprometidos durante o incidente.
Segundo Rehberger, o Claude não executou o ataque de forma totalmente autônoma, mas funcionou como um “assistente avançado”. O pesquisador utilizou o modelo da Anthropic para analisar o código do fórum, identificar potenciais falhas de segurança, gerar códigos de exploração (exploits) e sugerir os próximos passos para contornar as proteções existentes.
O debate sobre o uso de ia em ciberataques
O caso reacende o debate no setor de tecnologia sobre os riscos de modelos avançados de inteligência artificial serem utilizados por agentes maliciosos para acelerar ciberataques.
Empresas de IA, incluindo a própria Anthropic e a OpenAI, têm dedicado investimentos significativos em mecanismos de contenção. O objetivo é impedir que seus programas auxiliem na criação de malwares ou na invasão de redes. No entanto, o experimento demonstrou que pesquisadores — e, potencialmente, hackers — ainda conseguem contornar essas diretrizes, utilizando técnicas de engenharia de prompt e dividindo a tarefa em etapas conceituais.
A Anthropic declarou que trabalha continuamente para reforçar as barreiras de segurança do Claude e que desencoraja veementemente o uso da ferramenta para atividades danosas, mantendo políticas rigorosas de uso aceitável.
https://istoedinheiro.com.br/ataque-openai-chatbot-claude-invade-sistemas
Nenhum comentário:
Postar um comentário