Anthropic trava operação com 25 mil contas falsas no Claude
A dona do Claude diz ter detetado uma rede que usou quase 25 mil contas fraudulentas para gerar mais de 28 milhões de interações com a IA.
À medida que os assistentes de inteligência artificial entram no dia a dia, entra com eles um problema antigo com roupa nova: quem os tenta usar para fins menos limpos. A Anthropic, dona do Claude, revelou ter detetado e travado uma operação em larga escala que recorreu a quase 25 mil contas fraudulentas para gerar mais de 28 milhões de interações com o modelo.
Os números impressionam pela escala. Não se trata de um utilizador curioso a fazer perguntas estranhas, mas de uma rede organizada a explorar o serviço de forma automatizada e massiva — o tipo de abuso que obriga as empresas de IA a investir cada vez mais em deteção e em limites de utilização.
Porque é que isto interessa a todos
A história é um lembrete útil de que estas ferramentas são alvos. Redes deste género podem servir para produzir conteúdo em massa, testar fraudes ou contornar regras de utilização, e cada caso destes ajuda a afinar as defesas para o seguinte. Para o utilizador comum, o efeito prático é o reforço de verificações, limites e pedidos de confirmação que por vezes parecem chatos, mas existem por boas razões.
Mostra também a outra metade da corrida da IA: além de modelos mais capazes, é preciso vigilância constante para impedir que essa capacidade seja virada do avesso.
Veja também: a Anthropic, o valor e o caminho para a bolsa. A informação oficial está em anthropic.com.
Imagem: Anthropic