Polícia da China registra 1º crime ligado a uso de ChatGPT

A polícia informou que o suspeito tem sobrenome Hong e foi detido em Gansu, no nordeste do território. Segundo o órgão, ele confessou ter usado o ChatGPT, da OpenAI, para criar fake news a partir de elementos de notícias que viralizaram localmente nos últimos anos -embora o aplicativo não esteja disponível na China, é possível acessá-lo via VPN, ferramenta que mascara a localização do usuário.

A primeira notícia falsa a chamar a atenção das autoridades datava de 25 de abril e afirmava que nove pessoas tinham morrido em um acidente de trem. Variações do texto tinham sido publicadas em ao menos 20 contas diferentes do Baijiahao -espécie de plataforma de leitura de blogs administrada pela Baidu, a equivalente local do Google- e recebido mais de 15 mil acessos àquela altura.

A polícia de Gansu afirmou que Hong será acusado do crime de perturbação pública, que desde 2013 inclui também casos de pessoas que publicaram ou disseminaram notícias falsas na internet. A pena prevista é de cinco anos de detenção, embora o período possa ser estendido a dez anos em casos mais graves.

Impor limites para o comportamento das inteligências artificiais é uma dificuldade enfrentada pelo setor como um todo. Mas na China, onde o controle da internet é parte da política de censura do Partido Comunista, o rigor ainda é mais estrito, e o regime veta também a circulação de notícias e informações que desagradem ao governo ou que, na visão deles, possam gerar problemas para a sociedade.

Os termos de uso do GLM-130B, modelo especializado em inglês e chinês lançado pela Universidade Tsinghua em 2022, por exemplo, incluem restrições para aplicações que minem o governo do país. "Você não usará este software para qualquer ação que possa minar a segurança ou unidade nacionais da China, prejudicar o interesse público da sociedade ou infringir direitos e interesses de seres humanos", diz um trecho da licença.

O país asiático ainda responsabiliza criadores dos algoritmos por eventuais conteúdos inapropriados gerados.

Além de Hong ser o primeiro suspeito detido por mal uso de um robô de inteligência artificial, o South China Morning Post afirma que seu caso também é o primeiro do tipo desde o lançamento de uma ampla legislação de regulação de inteligência artificial em janeiro.

Instituída pela Administração do Ciberespaço da China em conjunto com os ministérios da Indústria e Tecnologia de Informação e da Segurança Pública, ela dita que, textos, vídeos e imagens sintetizados por inteligência artificial precisam estar "claramente identificados" de modo a impedir que a população acredite em sua veracidade. Antes, a questão estava a cargo de diversas autoridades diferentes.