China obriga IA do país a adotar 'valores socialistas'

A segunda maior economia do mundo é uma ditadura controlada pelo Partido Comunista Chinês, na qual há uma tensão constante entre os limites individuais, que tendem a ser expandidos pela tecnologia, e o desejo do governo de manter controle social, que tem crescido nos últimos anos.

As regras do "ChatGPT comunista" passam a valer no dia 15 de agosto, e foram condensadas pela Administração do Ciberespaço da China, uma agência que une sete órgãos reguladores.

A China publicou nesta quinta (13) uma detalhada regulamentação afirma que os serviços de IA não podem gerar conteúdo "que incite a subversão do poder do Estado e a derrubada do sistema socialista, que coloque os interesses e a segurança nacional em perigo, que afete a imagem do país, incite secessão, mine a unidade nacional e a estabilidade social, promova terrorismo, extremismo, ódio nacional e discriminação ética, violência, obscenidade e pornografia".

É um pacote geral que parece desafiar a própria noção da IA, com máquinas teoricamente aprendendo a pensar. Em um Estado com tintas totalitárias que já bane a bel-prazer conteúdo de sua internet com o chamado Grande Firewall, referência à famosa muralha do país, parece evidente que as eventuais boas intenções serão subordinadas à conveniência política -o temor de secessão, que levou ao fim da autonomia política de Hong Kong, salta aos olhos.

Aí entra a exigência da "adesão aos valores socialistas fundamentais". O termo foi cunhado no Congresso do PC, no caso o partido, de 2012, que entronizou o líder Xi Jinping no primeiro dos seus até aqui três mandatos. Era uma diretriz acadêmica e política, de promoção propagandística de 12 valores.

São divididos em grupos nacionais (prosperidade, civilidade, democracia e harmonia), sociais (liberdade, igualdade, justiça e legalidade) e individuais (patriotismo, dedicação, integridade e amizade). Novamente, aí é ao sabor do cliente, já que para habitantes de democracias liberais no Ocidente o conceito democrático chinês soa algo estranho.

Mas a discussão, claro, não é exclusiva do regime comunista. Nos Estados Unidos, grupos conservadores têm questionado a elaboração de algoritmos que servem de base para os programas geradores de conteúdo, sugerindo que eles promovem valores associados ao progressismo do pessoal do vale do Silício -supõe-se que estejam falando dos funcionários das big techs, não dos donos.

O G7, grupo das sete maiores economias liberais do mundo, criou um grupo de trabalho para tentar sugerir uma regulação própria, mas com foco na preocupação da proteção de dados dos cidadãos. A Itália, integrante do grupo, buscou regular o mais famoso dos robôs geradores de conteúdo no mercado, o ChatGPT, o que foi lido incorretamente como uma suspensão forçada.

No limite, é uma discussão análoga à dos sistemas educacionais. Na China, a democracia liberal é vista como decadente, e crianças são ensinadas que o "socialismo com características chinesas" é o futuro. No Ocidente, muito vai depender da família e da escola dos alunos. A questão é a velocidade de aprendizado e o peso que a IA já tem na economia e nas relações sociais.

No caso chinês, a IA é apenas o alvo óbvio de um sistema já em curso. O Grande Firewall, que impede o cidadão sem acesso a um serviço VPN de usar o Google, por exemplo, começou a ser desenvolvido em 1998 a partir de regras da aurora da internet no país, quatro anos antes. Em 2021, o país editou a regulação para que algoritmos fossem politicamente adequados e, no ano passado, aplicou o mesmo para "conteúdo gerado sinteticamente".

Assim, a legislação do "ChatGPT comunista" é uma decorrência natural dessa tentativa. Com efeito, nenhum serviço de conteúdo por IA do Ocidente, como o ChatGPT ou o Google Bard, está disponível na internet chinesa. Se você digitar um termo considerado suspeito pelo governo, o sistema análogo de empresas locais como a Baidu simplesmente não responde.

O órgão regulador de Pequim admite que é um trabalho difícil de controle, e propõe uma abordagem "gradativa", para evitar freios à inovação. Assim, a proposta de que infratores poderiam receber multas de até 100 mil yuans (R$ 67,2 mil) foi retirada do texto.

O país é o segundo maior investidor do mundo nessas tecnologias, com estimados US$ 13,4 bilhões (R$ 64,5 bilhões hoje) despendidos com pesquisa em 2022. Os EUA, seus arquirrivais na Guerra Fria 2.0, lideram o ranking com US$ 47,4 bilhões (R$ 228 bilhões).

Um foco central do governo são, claro, as aplicações de defesa da IA -toda a guerra comercial americana contra o fornecimento de chips avançados aos chineses passa por isso.

Os EUA começaram a correr atrás, e dobraram a verba destinada à pesquisa com esses robôs em seu orçamento militar de 2024. Nos campos da Ucrânia, drones russos e ucranianos têm sistemas rudimentares para identificar alvos sozinhos, sem acesso a redes, e não há simulação do combate no futuro que não inclua sistemas autônomos -quando não toda.

Isso leva, claro, a questões éticas não muito distantes das despertadas pela educação política dos robôs. Recentemente, em um cenário descrito como hipotético, o chefe de pesquisas no campo da Força Aérea dos EUA relatou que um caça autônomo poderia matar seu operador em solo caso considerasse que ele estava atrapalhando a missão, algo ao gosto de ficções científicas como "O Exterminador do Futuro".