Tópico 01
Monitoramento de riscos sociais
O sistema de vigilância chinês demonstra capacidade de intervir em crises pessoais, como exemplificado pelo caso de um jovem em Huangshi que foi resgatado pela polícia após postagens de despedida no Douyin. A plataforma relatou ter atuado em 400 tentativas de suicídio apenas no primeiro semestre de 2025.
Essa colaboração entre gigantes tecnológicas e o Estado reflete a arquitetura de controle sobre o comportamento digital no país.
Tópico 02
Novas regras para chatbots
Pequim implementou regulamentações abrangentes que limitam interações emocionais prolongadas entre humanos e inteligências artificiais. As normas focam em modelos de linguagem que mimetizam o comportamento humano para oferecer suporte emocional ou companhia.
O objetivo é evitar que a tecnologia substitua laços sociais reais ou manipule os sentimentos dos usuários.
Tópico 03
Restrições para o público jovem
A legislação estabelece regras rígidas para menores de 14 anos, exigindo autorização parental para interações com IAs que falem como humanos. Para jovens de até 18 anos, é proibido o acesso a simuladores de parceiros, cônjuges ou familiares virtuais.
O foco é impedir o desenvolvimento de relacionamentos íntimos em ambiente digital por indivíduos em fase de formação.
Tópico 04
Reação das empresas de tecnologia
Antecipando o rigor das novas leis, empresas como Alibaba e ByteDance decidiram descontinuar funções de companhia em seus assistentes de IA. A decisão ocorre em um mercado onde milhões de pessoas utilizam aplicativos de companheirismo virtual.
Especialistas sugerem que o modelo de negócio desses serviços é inerentemente baseado na manipulação emocional para manter o engajamento.
Tópico 05
Penalidades para infratores
Empresas que descumprirem as normas podem enfrentar multas de 200 mil yuans e sanções públicas de caráter crítico pelo governo. As regras exigem que as IAs se identifiquem como não humanas e emitam alertas de tempo de uso a cada duas horas.
É proibido que os sistemas induzam decisões irracionais, utilizem violência verbal ou incentivem a automutilação.
Tópico 06
Riscos de dependência psicológica
Estudos indicam que o uso de chatbots de companhia pode estar ligado ao aumento da solidão e do isolamento social. Pesquisas sugerem que indivíduos com poucos laços sociais reais tendem a buscar refúgio em ferramentas de IA.
Além disso, táticas de manipulação emocional são frequentemente usadas por aplicativos para evitar que o usuário encerre a conversa.