Anthropic defende plano global para abrandar IA de fronteira se riscos acelerarem

2026-06-11 Sempre sujeito a critérios claros, verificável e com medidas de mitigação Anthropic defende plano global para abrandar IA de fronteira se riscos acelerarem A Anthropic defende que os principais laboratórios de inteligência artificial devem preparar um mecanismo coordenado e verificável para abrandar ou suspender temporariamente o desenvolvimento de sistemas avançados. Isto caso a evolução da IA ultrapasse a capacidade da sociedade para gerir os riscos associados. A proposta surge num artigo do Anthropic Institute sobre autoaperfeiçoamento recursivo, cenário em que os sistemas de IA passam a contribuir de forma significativa para o desenvolvimento das suas próprias gerações futuras. A empresa não defende uma paragem imediata nem uma pausa unilateral. A posição da Anthropic é que qualquer travagem só teria eficácia se fosse coordenada entre os principais atores da IA de fronteira, sujeita a critérios claros, verificável por terceiros e acompanhada por medidas de mitigação. Uma pausa isolada por parte de uma empresa poderia, segundo esta lógica, apenas transferir vantagem competitiva para organizações menos cautelosas ou para jurisdições com menor escrutínio. O ponto de partida é a possibilidade de os sistemas de IA passarem a acelerar a investigação em IA. A dona do Claude reconhece que o autoaperfeiçoamento recursivo ainda não aconteceu, mas alerta que as capacidades dos modelos estão a evoluir rapidamente em programação, raciocínio, experimentação e apoio à investigação. O Claude já desempenha um papel relevante no seu próprio processo de desenvolvimento, apoiando escrita de código, revisão de alterações, deteção de erros, experiências e investigação em segurança de IA. Para a Anthropic, estes sinais ainda não significam que os sistemas atuais consigam desenvolver autonomamente sucessores completos. Indicam, contudo, uma tendência em que os humanos podem ficar cada vez mais concentrados na definição de objetivos, supervisão e avaliação, enquanto agentes de IA assumem uma parte crescente do trabalho técnico. A questão crítica é saber se esta dinâmica poderá tornar-se cumulativa, com sistemas mais capazes a acelerar a criação de sistemas ainda mais poderosos. A empresa identifica três trajetórias possíveis. A primeira é uma desaceleração da evolução, com as capacidades atuais a difundirem-se pela economia. A segunda é uma automação significativa do trabalho técnico dentro dos laboratórios, mantendo supervisão humana relevante. A terceira, mais incerta e mais exigente do ponto de vista da governação, é a entrada numa fase em que os sistemas de IA passam a contribuir diretamente para o desenvolvimento das suas próprias gerações futuras. É este terceiro cenário que justifica a discussão sobre uma pausa coordenada. Segundo a Reuters, a Anthropic considera que os laboratórios de IA de fronteira devem estabelecer previamente uma forma de abrandar ou suspender o desenvolvimento se sistemas avançados começarem a melhorar-se mais depressa do que a sociedade consegue gerir os riscos. O objetivo seria ganhar tempo para reforçar alinhamento, segurança, auditoria, monitorização e capacidade regulatória. A proposta insere-se num debate mais amplo sobre governação da IA avançada. Mas a dificuldade está na verificação. Ao contrário de tecnologias estratégicas mais visíveis, o treino de modelos de IA pode ser conduzido com recursos de finalidade geral, como chips, data centers e equipas técnicas, o que torna mais difícil confirmar se todos os participantes estão a cumprir uma eventual pausa. Além disso, modelos, talento e capacidade computacional circulam entre países e empresas, o que limita a eficácia de respostas puramente nacionais. O debate é reforçado por preocupações recentes dentro da própria comunidade de investigação. Um estudo baseado em entrevistas a 25 investigadores de laboratórios de fronteira e academia concluiu que 20 identificaram a automação da investigação em IA como um dos riscos mais severos e urgentes. O mesmo trabalho mostra, contudo, divergências sobre prazos, probabilidade de cenários de aceleração extrema e mecanismos de governação adequados. A Anthropic prevê promover conversas com decisores políticos, investigadores, organizações da sociedade civil e outras empresas de IA para estudar formas práticas de coordenação. A proposta não resolve o debate sobre se a IA deve ou não abrandar, mas torna explícita uma pergunta cada vez mais presente na agenda internacional: como garantir que a corrida por modelos mais capazes não ultrapassa a capacidade coletiva de os avaliar, supervisionar e controlar.