Anthropic abre seus sistemas de IA a avaliadores independentes

16.10.2026

Pesquisadores da organização sem fins lucrativos METR passam a avaliar os modelos da empresa com acesso semelhante ao de funcionários e com garantia de publicar o que encontrarem. Modelo lembra a lógica da auditoria de terceira parte, conhecida da indústria

A Anthropic, desenvolvedora dos modelos de inteligência artificial Claude, anunciou que pesquisadores da METR (Model Evaluation and Threat Research), organização sem fins lucrativos especializada em avaliar riscos de sistemas de IA, terão acesso aos seus modelos em nível próximo ao de um funcionário. O anúncio foi feito no comunicado “An Update on Independent Evaluators”, publicado no site da empresa em 15 de outubro, e repercutido por veículos como a agência Reuters e o site TechCrunch.

A iniciativa responde a uma cobrança recorrente sobre o setor de inteligência artificial: as avaliações de segurança dos modelos costumam ser feitas pelas próprias empresas que os desenvolvem. Com avaliadores externos trabalhando dentro da estrutura da companhia, a proposta é que a verificação ganhe profundidade e independência.

Como funciona o acesso

De acordo com as reportagens, seis pesquisadores da METR foram integrados à rotina da Anthropic. Eles receberam computadores corporativos da empresa, espaço de trabalho em seus escritórios e acesso às ferramentas internas usadas na avaliação de riscos dos modelos.

O acesso segue uma estrutura em três níveis criada pela Anthropic para parceiros externos. Segundo a Reuters e o TechCrunch, a METR é a única organização no nível mais alto, o Tier 3, que dá a profundidade de acesso mais próxima da de um funcionário. Outras parceiras, como a SecureBio e a Accenture, atuam nos níveis inferiores, com testes mais restritos.

Sem poder de veto sobre os relatórios

O ponto central do acordo, segundo as reportagens, é a liberdade de publicação. A Anthropic não pode vetar nem censurar os relatórios que a METR decidir divulgar sobre falhas de segurança encontradas nos modelos. A empresa só pode pedir a omissão de informações comerciais sensíveis, segredos industriais ou dados de clientes. Se isso acontecer, a METR tem o direito de dizer publicamente se considera a omissão justificada ou não.

É essa cláusula que diferencia o modelo de uma simples consultoria contratada. Sem ela, o acesso amplo não garantiria transparência: a empresa avaliada poderia decidir o que vem a público.

Uma lógica conhecida da indústria

Para quem atua na indústria, o princípio não é novo. Sistemas de gestão são certificados por organismos acreditados, ensaios de produto são feitos por laboratórios independentes e equipamentos críticos passam por inspeção de terceira parte. Em todos esses casos, a credibilidade do resultado depende de duas condições: o avaliador precisa ter acesso suficiente para verificar o que importa e independência para relatar o que encontrou.

O acordo anunciado pela Anthropic tenta aplicar essas duas condições aos sistemas de inteligência artificial, um setor que ainda não tem normas consolidadas nem estruturas formais de certificação, e no qual governos de diversos países ainda discutem como regular.

O tema interessa também a quem usa IA no chão de fábrica. À medida que modelos passam a apoiar manutenção, controle de qualidade e decisões de gestão, a confiança nesses sistemas deixa de ser uma questão apenas das empresas de tecnologia. Os próximos passos a acompanhar são os primeiros relatórios publicados pela METR e se outras desenvolvedoras de IA vão adotar modelos semelhantes de avaliação independente.

#InteligênciaArtificial #IA #SegurançaDaIA #Anthropic #METR #AvaliaçãoIndependente #Auditoria #Transparência #GovernançaDeIA #Tecnologia #Indústria40 #Inovação #RevistaPS