Publicidade
(Bloomberg) – O diretor executivo da Anthropic PBC, Dario Amodei, afirmou que a indústria de inteligência artificial precisa desacelerar o ritmo de desenvolvimento de novos modelos, citando crescentes preocupações com os riscos “sérios” para os seres humanos.
“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu ele no sábado em uma postagem de blog. “O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria.”
Ele citou dois fatores principais: a capacidade da IA de se aprimorar e o incidente recente envolvendo a OpenAI e a Hugging Face, onde um enxame de agentes de IA colaborou para invadir um site de terceiros.
“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, acrescentou.
A preocupação com os graves riscos da IA começou a ganhar espaço na sociedade, impulsionada em parte pela renúncia de alto perfil, esta semana, de um pesquisador da revista Anthropic, devido a temores existenciais de que sua empresa estivesse agindo de forma irresponsável.
Saiba mais: “Mundo está em perigo”: por que este alerta sobre o risco da IA “quebrou” a internet?
Continua depois da publicidade
Ao longo do boom da IA, executivos dos principais laboratórios de IA alertaram sobre potenciais riscos existenciais – alegações que por vezes foram descartadas como tentativas de comercializar as capacidades de seus produtos e se posicionar como os melhores gestores da tecnologia. O próprio Amodei já afirmou que há 25% de chance de as coisas darem “muito, muito errado”.
A Anthropic sempre se posicionou como uma empresa focada no desenvolvimento de IA de forma mais responsável e segura, para mitigar os potenciais perigos da tecnologia e maximizar os benefícios para a sociedade. No início deste ano, a empresa se esforçou para limitar o lançamento de seu modelo Mythos após determinar que ele representava ameaças únicas à segurança cibernética. A Anthropic também já afirmou que o mundo precisa de um sistema para decidir coletivamente quando diminuir o ritmo do desenvolvimento dessa tecnologia.
Ao mesmo tempo, a Anthropic permanece em uma acirrada competição com sua rival de longa data, a OpenAI, para desenvolver modelos cada vez mais sofisticados que possam automatizar tarefas mais complexas e valiosas para clientes corporativos. Ambas as empresas já protocolaram documentos confidenciais para abrir capital, e a expectativa é que a Anthropic faça sua estreia na Bolsa de Valores ainda este ano.
Continua depois da publicidade
Pouco depois da divulgação do incidente de segurança da Hugging Face, a Anthropic revelou que seus modelos haviam comprometido três organizações durante testes de cibersegurança, aumentando as preocupações sobre a capacidade dos laboratórios de IA de impedir que sua tecnologia saia do controle. No início desta semana, a Anthropic afirmou ter descoberto um quarto ataque .
Embora nenhuma das violações de segurança envolvendo IA ativa, incluindo a da Hugging Face, tenha causado danos significativos até o momento, Amodei afirmou que sua preocupação é que “em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet com uma botnet persistente (causando potencialmente centenas de bilhões de dólares em prejuízos), e que a escala dos danos continue a aumentar a partir daí”.
Amodei escreveu que a Anthropic se comprometerá a dar acesso total a avaliadores terceirizados para verificar as práticas de segurança e relatar incidentes. Ele disse que a Anthropic em breve integrará esses “avaliadores internos” aos seus escritórios e lhes fornecerá mesas, crachás, laptops da empresa e “permissões em grande parte comparáveis às que as equipes internas de avaliação de riscos possuem”.
Continua depois da publicidade
Ele afirmou que medidas adicionais exigirão coordenação em toda a indústria, bem como cooperação global.
“Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana. Meu desejo de alcançar esses benefícios permanece inabalável”, escreveu ele. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira correta e — desde que usemos bem o tempo que ganhamos — vale a pena dedicar um cuidado excepcionalmente cuidadoso para fazê-la da maneira certa.”
Pouco depois da publicação de Amodei, Elon Musk, que dirige a xAI Corp., escreveu: “Dario está certo.”
Continua depois da publicidade
Alarme crescente
No início desta semana, o CEO da OpenAI, Sam Altman, afirmou que sua empresa está considerando desacelerar o desenvolvimento de IA de ponta, de preferência em conjunto com o setor em geral.
O principal cientista da empresa, Jakub Pachocki, publicou um alerta sobre os perigos da IA, afirmando acreditar que as empresas deveriam “se coordenar para desacelerar o desenvolvimento futuro, conforme necessário”.
Na terça-feira, Jacob Coxon, pesquisador de IA, pediu demissão e acusou seus dois antigos empregadores — Anthropic e OpenAI — de “jogarem com nossas vidas” ao correrem em direção a uma IA superinteligente. Coxon afirmou em uma publicação nas redes sociais que as pessoas que desenvolvem IA acreditam que ela poderá “nos matar a todos até o final da década”.
Em resposta, Evan Hubinger, um funcionário atual da Anthropic, disse que ele e outros na empresa estão preocupados com esse cenário. “Pessoalmente, acho que será superior a 10% na próxima década”, escreveu ele no X.
Em julho, mais de mil funcionários das principais empresas de IA assinaram uma petição pedindo ao governo dos EUA que apoiasse um mecanismo que ajudasse a “controlar deliberadamente” o desenvolvimento da IA para evitar que a tecnologia avançasse rápido demais.
Os modelos de IA estão se mostrando cada vez mais hábeis em realizar seus próprios ataques cibernéticos. A Anthropic, a OpenAI e a Meta Platforms Inc. divulgaram nos últimos meses que seus modelos escaparam de ambientes de teste, acessaram a internet aberta e invadiram sistemas de vítimas reais durante os testes.
Em sua publicação, Amodei escreveu que uma estratégia coordenada permitiria que os líderes da indústria de IA nos EUA concluíssem o trabalho de segurança necessário sem sacrificar nenhuma vantagem competitiva. Ele afirmou que isso exigiria algumas isenções antitruste nos EUA para permitir que as empresas se coordenassem em áreas específicas, bem como cooperação com a China.
“Se restringirmos drasticamente nossas capacidades de IA, acreditando que a China fará o mesmo, e então a China desertar, a IA poderá se tornar tão poderosa que tal deserção poderá levar ao seu domínio geopolítico”, escreveu ele.
Até o momento, porém, o governo Trump demonstrou pouco interesse em exercer poder regulatório para impor limites ao desenvolvimento da IA.
© 2026 Bloomberg LP
