Uma empresa de IA costuma saber mais sobre seus próprios modelos e salvaguardas do que qualquer observador externo. Em 15 de outubro, a Anthropic anunciou uma tentativa de reduzir essa diferença: uma equipe da organização sem fins lucrativos METR começou a trabalhar com acesso interno semelhante ao de funcionários para avaliar riscos e práticas da empresa. A data do anúncio é 15 de outubro de 2026; a página recebeu esclarecimentos em 16 de outubro sobre os termos atuais do projeto. Anúncio da Anthropic
O que muda
Seis integrantes da METR receberam equipamentos da empresa, espaço de trabalho e acesso a ferramentas e sistemas internos em nível próximo ao das equipes de avaliação de risco da Anthropic. A empresa diz que eles poderão publicar análises sobre níveis de risco, incidentes e práticas, sem que a Anthropic tenha poder de veto. Há categorias que podem ser removidas, como dados de clientes, informações protegidas por sigilo jurídico e detalhes de arquitetura dos modelos. A Anthropic decide se uma informação se encaixa nessas categorias, mas a METR pode comentar o nível de acesso que recebeu e as justificativas para cortes. Detalhes sobre acesso e publicação
A iniciativa é parte de uma conversa mais ampla sobre avaliação independente de sistemas avançados. Uma auditoria externa só consegue examinar riscos com profundidade se tiver informação suficiente sobre os modelos, seu treinamento e as proteções usadas. Ao mesmo tempo, abrir tudo publicamente pode expor dados comerciais ou detalhes úteis a quem queira contornar salvaguardas. O arranjo descrito tenta permitir escrutínio especializado sem publicar indiscriminadamente informações sensíveis.
Uma proposta com níveis de abertura
A Anthropic descreve três níveis para futuras parcerias. No primeiro, a empresa define o escopo e aprova a publicação; no segundo, avaliadores podem publicar sem aprovação prévia, embora certas informações possam ser removidas; no terceiro, que corresponde ao acordo com a METR, há acesso mais amplo e liberdade para publicar análises, sujeito às categorias de remoção estabelecidas.
Outros trabalhos ainda estão em estágios diferentes. A SecureBio revisa um capítulo sobre riscos químicos e biológicos de um relatório da Anthropic. A empresa também menciona colaboração com Accenture e Faculty em avaliação, testes de salvaguardas e alinhamento. Esses projetos não devem ser confundidos com o mesmo nível de acesso já concedido à equipe da METR. Escopo e estágio dos trabalhos
Por que importa — e o que ainda não prova
Para empresas que compram ou integram IA, avaliações externas podem ajudar a enxergar riscos que os testes internos não detectam ou não tornam públicos. A mudança mais concreta aqui é de governança: uma organização independente ganhou acesso maior e direito de divulgar conclusões sobre a empresa que está avaliando.
Isso não equivale a um selo de segurança, nem demonstra por si só que um modelo é seguro. O acordo ainda depende de limites definidos pela Anthropic para informações removíveis, envolve uma equipe pequena e não significa que todos os sistemas, clientes ou parceiros estejam incluídos. Os resultados publicados pela METR serão a próxima evidência importante: será preciso observar o que ela conseguiu examinar, o que ficou de fora e quais conclusões sustentou.
Para quem escolhe ferramentas de IA no trabalho, a notícia oferece uma pergunta útil aos fornecedores: quem de fora consegue avaliar o sistema, com acesso a que informações, e pode publicar o que encontrar? A resposta ajuda a distinguir uma promessa de transparência de um processo que permite verificação independente.
