Publicidade
A Anthropic defendeu a criação de um mecanismo setorial para pausar o desenvolvimento da inteligência artificial, dando à sociedade a oportunidade de “lidar com suas imensas implicações”. A proposta foi publicada em um extenso post no blog da empresa nesta quinta-feira (4), assinado pelo co-fundador Jack Clark e pela líder do Anthropic Institute, Marina Favaro.
Segundo o texto, a tecnologia avança a um ritmo em que a IA pode tornar o trabalho humano milhares de vezes mais eficiente ou mesmo substituí-lo, criando um novo conjunto de riscos. Clark e Favaro alertam que a IA pode começar a aprimorar a si mesma e a construir seus próprios sucessores, reduzindo o papel dos humanos no processo. “Essa colisão, onde a inteligência recursiva se constrói cada vez mais rápido e encontra o mundo dos humanos, das relações e da governança, é outra parte desse futuro que não conseguimos prever”, escreveram.
O post compara a ideia à regulação internacional de armas nucleares. Qualquer mecanismo de pausa precisaria também garantir que laboratórios de IA menos escrupulosos não continuem trabalhando em segredo durante o intervalo, provavelmente por meio de verificações realizadas por laboratórios pares.
A Anthropic planeja organizar conversas com formuladores de políticas, pesquisadores e outras empresas de IA para discutir uma estrutura de “coordenação e deliberação”, com publicação dos resultados.
Não é a primeira vez que pesquisadores de IA de fronteira pedem uma interrupção no desenvolvimento. Em 2023, o Future of Life Institute pediu uma pausa de pelo menos seis meses para estabelecer salvaguardas, com assinaturas do bilionário Elon Musk e de mais de mil pesquisadores e executivos. À época, críticos argumentaram que a medida frearia a inovação e beneficiaria competidores, especialmente a China. O ex-CEO do Google Eric Schmidt chegou a alertar que uma pausa daria vantagem às empresas chinesas em meio à guerra tecnológica entre os dois países.
A própria Anthropic, no entanto, tem continuado a lançar modelos avançados, incluindo o assistente Claude e o novo modelo Mythos, capaz de detectar e explorar falhas de cibersegurança em velocidade inédita, segundo a empresa, que também se prepara para uma oferta pública inicial de ações.
Continua depois da publicidade
Os autores do post reconhecem as dificuldades do controle de armas para IA. “Rodadas de treinamento são muito mais fáceis de ocultar do que silos de mísseis, seus insumos são de uso geral e o incentivo para desertar silenciosamente é enorme, porque quem continua enquanto os outros pausam pode herdar a liderança”, escreveram. Embora o mundo tenha construído regimes semelhantes no passado, eles “levaram décadas para estabelecer tanto a infraestrutura quanto a confiança. Não temos tanto tempo assim.”