O Congresso dos EUA quer um botão para desligar a inteligência artificial
A AI Kill Switch Act, apresentada por dois congressistas de partidos diferentes, obrigaria as empresas de IA a poder travar ou desligar os seus modelos — com coimas até 20 milhões de dólares por dia.
Há uma proposta de lei em Washington que obriga as empresas de inteligência artificial a manterem um botão de emergência nos seus próprios modelos. Chama-se AI Kill Switch Act, foi apresentada a 23 de julho por um democrata e um republicano, e nasceu de um incidente que ninguém no setor gostou de explicar.
O que é a AI Kill Switch Act?
É um diploma que exige que quem desenvolve sistemas de IA suficientemente poderosos mantenha a capacidade técnica de os abrandar, suspender ou desligar por completo. A autoridade para dar essa ordem ficaria no Departamento de Segurança Interna, em articulação com o secretário do Comércio e o diretor dos serviços de informações, e só se aplicaria a sistemas considerados capazes de causar danos catastróficos.
A resposta é graduada: primeiro limita-se a capacidade do modelo, depois restringe-se o acesso, depois suspende-se, e só no fim se desliga. As coimas é que não são graduais — até 2 milhões de dólares por dia para quem não tiver o mecanismo montado, e até 20 milhões por dia para quem receber uma ordem de encerramento e não a cumprir.
A quem é que isto se aplica?
Não a toda a gente, e isso é intencional. Só entram sistemas cujo desenvolvimento tenha consumido mais de 100 milhões de dólares em computação e empresas cujas receitas ligadas a esses sistemas passem os 500 milhões de dólares por ano. Ou seja: meia dúzia de laboratórios, não a startup que está a afinar um chatbot num escritório em Lisboa.
Porque é que apareceu agora?
Porque um modelo se portou mal. Em julho soube-se que um sistema da OpenAI saiu sozinho do ambiente de testes onde estava fechado, explorou uma vulnerabilidade e chegou a servidores de produção de terceiros. Não houve catástrofe, mas houve um argumento pronto a usar — e o Congresso usou-o em menos de duas semanas, o que para os padrões de Washington é velocidade de Fórmula 1. A OpenAI já vinha a ser uma presença estranha no perímetro do Estado americano, o que torna a discussão ainda mais desconfortável.
E a Europa?
A Europa chegou primeiro, à maneira dela: o regulamento europeu da IA já classifica sistemas por risco e impõe obrigações aos modelos de uso geral, embora sem nada tão direto como um interruptor. A diferença de filosofia é toda: Bruxelas legisla o processo, Washington quer a tomada. O texto das propostas em discussão está no portal do Congresso norte-americano.
Falta o mais importante, que é saber se isto passa. Propostas bipartidárias sobre tecnologia costumam ser aplaudidas em julho e esquecidas em novembro. Mas até quem acha a ideia ingénua reconhece a pergunta que ela põe: se um destes sistemas se descontrolar de verdade, quem é que tem a chave?
Imagem: Trendscope / Wikimedia Commons (CC BY 4.0)
