(Reuters) – O órgão regulador cibernético da China divulgou neste sábado, para consulta pública, um conjunto de sugestões de regras para reforçar a supervisão a serviços de inteligência artificial projetados para simular personalidades humanas e envolver os usuários em interações emocionais.
A medida ressalta o esforço de Pequim para lidar com a rápida implantação da IA voltada para o consumidor, fortalecendo os requisitos éticos e de segurança.
Leia também: Fuga de Wall Street: investidores apostam em IA chinesa para escapar de bolha
As regras propostas se aplicariam a produtos e serviços de IA oferecidos ao público na China que apresentam traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação, e interagem com os usuários emocionalmente por meio de texto, imagens, áudio, vídeo ou outros meios.
A minuta estabelece uma abordagem regulatória exigindo que os provedores alertem os usuários contra o uso excessivo e intervenham quando os usuários mostrarem sinais de dependência.
Leia também: Cientista que ajudou a criar IA diz que todos os empregos serão eliminados
De acordo com a proposta, os provedores de serviços seriam obrigados a assumir responsabilidades de segurança durante todo o ciclo de vida do produto e estabelecer sistemas para revisão de algoritmos, segurança de dados e proteção de informações pessoais.
A minuta também visa os possíveis riscos psicológicos. Espera-se que os provedores identifiquem os estados dos usuários e avaliem suas emoções e seu nível de dependência do serviço. Se os usuários apresentarem emoções extremas ou comportamento viciante, os provedores deverão tomar medidas necessárias para intervir, segundo o documento.
Leia também: Gemini e Mega da Virada 2025: veja o que a IA nos respondeu sobre quais números jogar
As medidas estabelecem limites para conteúdo e conduta, afirmando que os serviços não devem gerar conteúdo que ponha em risco a segurança nacional, espalhe rumores ou promova a violência ou a obscenidade.
(Reportagem de Liangping Gao e Ryan Woo)