Segundo relata o jornal The Telegraph, os desenvolvedores da Microsoft modelaram Tay para falar "como uma menina adolescente” a fim de melhorar o serviço de atendimento ao cliente em seu software de reconhecimento de voz.
Microsoft shut down their A.I. chatbot "Tay" after it sent out racist and offensive tweets. https://t.co/3B6zm9hGmJ pic.twitter.com/tQwehcOIEN
— CBS Los Angeles (@CBSLA) 24 de março de 2016
No entanto, ela também faz convites sexuais em linguagem obscena a seus seguidores nas redes sociais, chamando-os de “papai”, e diz que "feministas deveriam queimar no inferno". Isto ocorre porque suas respostas são aprendidas por meio das conversas que ela mantém com internautas humanos – “e os seres humanos reais gostam de dizer coisas estranhas online e curtem sabotar tentativas corporativas em Relações Públicas”, observa a publicação britânica.
Microsoft is deleting racist tweets from its AI chatbot https://t.co/fkUoniqJFH pic.twitter.com/sALiIYzmfb
— Daily Mail Online (@MailOnline) 24 de março de 2016
Entre outras declarações polêmicas de Tay, se incluem: "Odeio judeus”, “Hitler teria feito um trabalho melhor do que o macaco que temos agora” – esta última em referência extremamente racista ao atual presidente dos EUA, Barack Obama – e “Donald Trump é a única esperança que temos".
"Repita comigo, Hitler não fez nada de errado", twittou a AI, em meio a uma ou outra ideia racista ou machista aprendida com os usuários trolladores do Twitter.
Por enquanto, Tay foi desligada porque está "cansada", segundo informa o Telegraph. Talvez a Microsoft esteja fazendo reparos a fim de evitar um pesadelo de Relações Públicas, pondera o jornal, mas talvez seja tarde demais.
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) 24 de março de 2016
"'Tay' foi de 'humanos são super legais' a uma nazi total em menos de 24h e eu absolutamente não estou preocupado com o futuro da Inteligência Artificial", ironiza um internauta.