Mais de mil trabalhadores da OpenAI, da Google e da Meta assinaram uma carta a pedir um travão à IA
A carta Pacing the Frontier, assinada por mais de 1.100 trabalhadores de laboratórios de IA, pede a Washington que construa as ferramentas para um abrandamento coordenado e verificável.
Quem constrói as máquinas anda a pedir um travão. Uma carta aberta que começou a circular a 28 de julho já leva mais de 1.100 assinaturas de trabalhadores da OpenAI, da Anthropic, da Google e da Meta, e pede ao governo dos Estados Unidos que ajude a montar aquilo a que chamam um mecanismo de ritmo para a inteligência artificial.
O que pede a carta Pacing the Frontier?
Não pede que se desligue nada amanhã. Pede infraestrutura: as ferramentas técnicas e as regras de governação que tornariam possível, se um dia for preciso, abrandar o desenvolvimento de forma coordenada entre países e, sobretudo, de forma verificável — ou seja, com maneira de confirmar que quem prometeu abrandar abrandou mesmo. É a diferença entre um acordo e um acordo que se consegue fiscalizar.
Isto é uma pausa na inteligência artificial?
Não. E é essa a parte que costuma perder-se na tradução. Os signatários, que incluem cientistas-chefe dos grandes laboratórios, dizem que o risco que os preocupa é o da auto-melhoria recursiva: o momento em que um sistema passa a conseguir desenvolver-se a si próprio mais depressa do que os humanos conseguem perceber o que está a acontecer. Querem o travão construído antes de ser preciso usá-lo, não a meio da descida.
O que dá peso à coisa é quem alinhou. Dario Amodei, da Anthropic, assinou; Sam Altman tem sido mais reservado, mas ambas as empresas apoiaram formalmente a iniciativa. Ver rivais diretos a pedir em conjunto que alguém lhes ponha um limite não é uma cena que se veja todos os dias nesta indústria — e chega poucos dias depois de uma falha de contenção num laboratório ter tornado o argumento bastante menos teórico.
Do lado europeu, o caminho já é outro: em vez de um mecanismo voluntário, há regras escritas, com obrigações de transparência e de avaliação de risco no regulamento europeu da inteligência artificial. A discussão global tem estado a aquecer de todos os lados, como se viu quando Xi Jinping foi abrir a maior conferência de IA da China com um recado sobre cooperação.
Falta a parte difícil: uma carta não é uma lei, e Washington ainda não disse nada de concreto. Mas quando são os próprios engenheiros a pedir um pedal de travão, vale a pena perguntar o que é que eles estão a ver do banco da frente.
Por Oliver Grant
Imagem: HaeB / Wikimedia Commons (CC BY-SA 4.0)
.jpg?width=1280)
