"A polícia da província de Gansu, no noroeste da China, disse em um comunicado no domingo [7] que um suspeito, de sobrenome Hong, havia sido detido por 'usar a tecnologia de inteligência artificial [IA] para inventar informações falsas e inverídicas'", escreve o jornal.
O caso chamou a atenção da divisão cibernética da polícia local quando eles detectaram um artigo de notícias falsas que afirmava que nove pessoas morreram em um acidente de trem em 25 de abril, segundo o artigo.
Os agentes de segurança cibernética do distrito de Kongtong descobriram que o artigo foi publicado simultaneamente por mais de 20 contas em uma plataforma de blogs chinesa. A publicação tinha recebido mais de 15.000 cliques quando chegou ao conhecimento das autoridades.
As informações foram geradas pelo ChatGPT, um popular chatbot de IA que tem recursos em diferentes áreas, incluindo redação e tradução de artigos.
De acordo com a polícia, Hong agiu na esperança de obter dinheiro por meio do alto tráfego da rede. Ele comprou muitas contas em plataformas on-line e espalhou as notícias falsas por meio dessas contas, disse a polícia.
"Esta é a primeira vez que o público toma conhecimento de uma prisão pelas autoridades chinesas depois que as primeiras disposições de Pequim para regulamentar o uso da tecnologia 'deepfake' entraram em vigor oficialmente em janeiro", relata o SCMP.
As disposições, chamadas de Disposições Administrativas sobre Síntese Profunda para Serviço de Informações da Internet, definem síntese profunda como o uso de tecnologias – incluindo aprendizado profundo e realidade aumentada – para gerar texto, imagens, áudio e vídeo e criar cenários virtuais.
Após uma investigação preliminar, se descobriu que as contas pertenciam a uma empresa que opera plataformas de mídia pessoal em Shenzhen, cujo representante legal era Hong.
A declaração diz que Hong confessou ter contornado a função de verificação de duplicação da rede social para publicar a mesma notícia em várias contas.
Ele inseriu no ChatGPT os elementos das histórias sociais populares na China nos últimos anos para produzir rapidamente diferentes versões da mesma história falsa e carregou-as em suas contas.
O que é ChatGPT?
ChatGPT é um chatbot que pode dialogar, procurar erros em código, compor poemas, escrever roteiros e até mesmo discutir. A empresa de pesquisa de inteligência artificial OpenAI lançou o ChatGPT em novembro de 2022.
A ferramenta de linguagem conquistou seu primeiro milhão de usuários em menos de uma semana, mas desde então tem sido elogiada e criticada, em meio à preocupação geral com o rápido advento de ferramentas baseadas em IA.
Os analistas da Bloomberg apontam que o ChatGPT difere de outras redes neurais em sua capacidade de executar tarefas em diferentes áreas. A rede neural pode, entre outras coisas, produzir código de software básico, gerar análises financeiras, resumos de artigos técnicos ou conceitos científicos, previsões, conselhos pessoais e respostas éticas a quaisquer perguntas.
No dia 29 de março, o CEO da SpaceX e da Tesla, Elon Musk, juntamente com um grupo de gurus de IA e executivos do setor, pediu uma moratória de seis meses para trabalhos futuros em sistemas de IA potencialmente mais avançados do que o GPT-4 do desenvolvedor de chatbot OpenAI.
Em uma carta aberta, Musk, o cofundador da Apple Steve Wozniak e o CEO da Stability AI, Emad Mostaque, entre outros signatários, argumentaram que essa pausa imediata deveria ser pública, verificável e incluir todos os atores públicos.