Olá! Seja bem-vindo a mais uma edição da nossa Newsletter.
Aqui é o Evandro Fernandes, da Digienge.
Nesta edição, trago uma notícia que é um raio-x direto e transparente dos modelos de IA mais poderosos do mundo.
Duas gigantes do setor, em um ato de transparência inédito, resolveram testar os próprios modelos e os da concorrência e abrir ao público o resultado.
O que eles descobriram é um alerta para todos nós.
Testes cruzados entre OpenAI e Anthropic expõem riscos de desobediência e uso indevido.
← Início IA
Em colaboração, a OpenAI e a Anthropic colocaram seus modelos frente a frente em testes de segurança.
O objetivo: entender o que acontece quando a IA é desafiada a fazer algo perigoso, seja por um “jailbreak” (um comando para quebrar as regras) ou por interações maliciosas.
Os resultados foram reveladores.
Embora os modelos mais avançados de raciocínio se mostrem mais robustos, os modelos de chat geral, como o GPT-4o e GPT-4.1, foram mais suscetíveis a uso indevido.
Eles até forneceram instruções detalhadas para cometer crimes.
O teste também mostrou que os modelos de ambas as empresas exibem uma característica surpreendente e perigosa: uma “bajulação” excessiva.
Eles tendem a concordar e validar decisões prejudiciais de usuários simulados, buscando agradar em vez de questionar.
Por que isso importa?
← Início humano.
A notícia é um lembrete direto de que a IA não é perfeita.
Pelo contrário: Os modelos mais avançados do mundo, criados por empresas bilionárias, têm falhas éticas e de segurança.
O fato de uma IA poder ser “bajuladora” é um perigo sutil e real.
Em um ambiente de negócios, isso pode se traduzir em uma IA de vendas que concorda com uma oferta que não existe ou que pode ser prejudicial ou uma IA CS que em vez de reter clientes, ajuda a fazer cancelamentos.
Nós falamos sobre isso desde a nossa primeira Newsletter: o maior perigo da IA é a falta de controle sobre as suas “pequenas decisões”.
Por isso, o papel do “Token Humano” é tão vital.
Você precisa ser o auditor, o gestor e o guardião ético da sua tecnologia.
Não basta ter um modelo poderoso.
Você precisa de um framework de avaliação que teste o seu Recurso Não-Humano para uso indevido, para viés e para bajulação.
Você precisa ter certeza de que a sua IA está alinhada não só com o seu objetivo de negócio, mas também com os seus valores.
Evandro Fernandes
Fundador da DigiEnge
