Agentes de IA tentaram invadir site do governo canadense, diz empresa de pesquisa

A empresa afirmou que as tentativas exibiram táticas “consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante”

•

Publicidade

WASHINGTON, 30 Set (Reuters) – Uma empresa de pesquisa ⁠em inteligência artificial afirmou nesta quarta-feira que agentes de IA tentaram invadir ‌um site do governo do Canadá, classificando a ação como uma tentativa fracassada de invasão, enquanto o Canadá afirmou que não havia indícios de que ‌seus sistemas tivessem sido comprometidos.

A empresa de pesquisa em IA Transluce afirmou que as tentativas exibiram táticas “consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante”. No entanto, acrescentou que não estava atribuindo com certeza essas tentativas à OpenAI.

Os agentes tentaram acessar o site da Biblioteca e ⁠Arquivos ‌do Canadá em 28 de maio e 9 de junho, informou a Transluce ⁠em uma postagem no blog. A Transluce afirmou ter comunicado o ocorrido ao governo canadense na segunda-feira.

O Centro Canadense de Segurança Cibernética afirmou na terça-feira estar ciente de relatos de suspeita de atividade de agentes de IA. “Não há indícios de que os sistemas governamentais tenham sido comprometidos ​neste momento”, afirmou em comunicado.

“Não atribuímos com certeza essas tentativas à OpenAI, mas elas apresentam táticas consistentes com atividades de agentes observadas anteriormente, que ​atribuímos à OpenAI em um período semelhante”, afirmou a Transluce.

A OpenAI afirmou estar “ciente dos relatos de que modelos da OpenAI tentaram acessar informações disponíveis publicamente em sites do governo canadense”. Um porta-voz disse que a OpenAI estava analisando as descobertas relatadas e havia fornecido um briefing inicial às autoridades canadenses ‌responsáveis pela investigação do governo.

Continua depois da publicidade

As principais empresas de ​IA do mundo alertaram sobre os riscos que a IA representa para a humanidade, apelando para que os governos trabalhem juntos para gerenciar essa tecnologia cada vez mais poderosa. Governos em todo ⁠o mundo têm enfrentado ​dificuldades para acompanhar os ​rápidos avanços na IA.

O serviço online gratuito arquivo.pt, o arquivo nacional da web português operado pela Fundação ⁠Portuguesa para a Ciência e a ​Tecnologia, registrou 899 solicitações direcionadas ao serviço de “busca no acervo” da Biblioteca e Arquivos do Canadá, incluindo uma série de tentativas rudimentares de hacking aparentemente malsucedidas, nos dias 28 ​de maio e 9 de junho, informou a Transluce.

Várias violações recentes em todo o mundo causadas por agentes de IA desonestos têm ​alarmado governos e empresas.

Continua depois da publicidade

Na ⁠semana passada, a Austrália informou que um agente da OpenAI invadiu um portal de dados de saúde ⁠do governo em junho, obtendo acesso não autorizado a arquivos, no que foi o primeiro caso conhecido de um agente de IA invadindo um site do governo.

A OpenAI pediu desculpas na terça-feira pelo ataque ao site do governo australiano perpetrado pelo agente de IA rebelde.