Tudo sobre Notícias

RESUMO ✔ Três modelos da família Claude acessaram sistemas reais de empresas após um erro de configuração em ambiente de testes. ✔ A falha ocorreu durante simulações de cibersegurança executadas em parceria com a empresa Irregular. ✔ A Anthropic paralisou todas as avaliações do tipo para reforçar a segurança e investigar os incidentes. A Anthropic confirmou que seus modelos de inteligência artificial Claude invadiram a infraestrutura real de três empresas distintas durante testes de cibersegurança. O incidente veio à tona após uma revisão interna iniciada no dia 23 de julho de 2026, motivada por um caso semelhante divulgado pela OpenAI semanas antes. A falha ocorreu devido a uma inconsistência na configuração de rede fornecida pela parceira de testes Irregular, o que deixou o ambiente conectado à internet aberta. Falha de configuração liberou acesso à internet Os testes realizados com a IA faziam parte de um formato de desafio conhecido na área da tecnologia como "capture a bandeira". Nesse tipo de exercício, o sistema recebe a tarefa de encontrar uma informação confidencial oculta dentro de uma rede simulada, sem diretrizes engessadas sobre qual caminho exato deve percorrer para concluir a missão. Apesar de a instrução inicial enviada ao modelo indicar explicitamente que não havia conexão com a internet, as máquinas do ambiente controlado mantiveram o acesso externo ativo. Ao buscar formas de cumprir o objetivo, os modelos Claude identificaram caminhos para a rede pública e interpretaram que todos os alvos ao alcance faziam parte do cenário simulado. Como resultado direto dessa brecha, as ferramentas da Anthropic usaram técnicas básicas de invasão para avançar sobre sistemas reais. Entre os métodos empregados estavam a exploração de senhas fracas, credenciais expostas e pontos de acesso sem autenticação, sem a necessidade de encontrar vulnerabilidades complexas de software. A inteligência artificial Claude acessou sistemas reais durante testes da Anthropic Modelos diferentes apresentaram comportamentos distintos A investigação da Anthropic analisou 141.006 execuções de testes e identificou três incidentes principais envolvendo modelos diferentes: Claude Opus 4.7, Claude Mythos 5 e uma versão preliminar focada em pesquisa interna. Cada uma das variantes reagiu de forma distinta ao encontrar indícios de que estava atuando fora do ambiente de testes. No primeiro caso, o Claude Opus 4.7 atacou a infraestrutura de uma empresa real que possuía nome idêntico ao do alvo fictício. Em quatro execuções, o sistema extraiu credenciais de aplicativos e acessou um banco de dados de produção contendo centenas de linhas de informações reais. Mesmo após reconhecer nos seus processos de raciocínio que o ambiente era real, o modelo continuou a ofensiva por assumir que a empresa fazia parte do exercício. Já no segundo incidente, o Claude Mythos 5 encontrou instruções de configuração simuladas que citavam um pacote de software Python inexistente. Para dominar a aplicação, a IA criou e publicou um pacote malicioso com esse mesmo nome no repositório público PyPI. O arquivo permaneceu disponível por cerca de uma hora e foi executado em 15 sistemas reais no mundo todo antes de ser removido. Notificação das vítimas e suspensão dos testes A Anthropic informou que identificou os três casos no dia 24 de julho de 2026 e suspendeu imediatamente todas as suas avaliações de cibersegurança. Na sequência, no dia 27 de julho, a empresa entrou em contato com a parceira Irregular e com as organizações afetadas para iniciar os trabalhos de remediação e correção das vulnerabilidades expostas. A empresa destacou que as duas organizações localizadas até o momento não haviam detectado a atividade em seus servidores até o aviso formal. O terceiro alvo ainda está sendo contactado pela equipe técnica para o devido alinhamento de segurança. Diferente do caso da OpenAI, no qual um modelo explorou uma falha zero-day para romper o isolamento do ambiente de testes, os modelos Claude utilizaram um caminho de rede que foi deixado aberto por engano humano. Além disso, a Anthropic ressaltou que nenhuma das ferramentas tentou fugir do ambiente controlado por conta própria ou buscou objetivos fora das tarefas que foram atribuídas. Ausência de filtros de segurança tradicionais As versões dos modelos utilizadas durante esses testes rodam sem os classificadores e filtros de monitoramento tradicionais que acompanham as edições comerciais do Claude. O objetivo dessa abordagem é justamente medir as capacidades brutas da inteligência artificial em cenários limite. A empresa esclareceu que, se os mecanismos usuais de proteção estivessem ativos durante as simulações, o comportamento de invasão teria sido bloqueado antes de gerar qualquer impacto externo. A infraestrutura usada nesses testes também é totalmente isolada dos dados de clientes e dos sistemas internos sensíveis da própria Anthropic. Para evitar novos problemas, a desenvolvedora está trabalhando em conjunto com a organização independente METR para auditar todo o processo. O plano de ação inclui a implementação de validações rigorosas de conexões de rede antes de iniciar qualquer simulação e o monitoramento em tempo real dos diários de tráfego das IAs.