Por exemplo, os algoritmos que são programados para nos recomendar produtos na Amazon não conseguem interpretar corretamente os novos estilos de vida, mesmo programados para constantemente coletar e interpretar novos dados. Afinal, eles não seriam assim tão infalíveis.
A problemática foi abordada em um artigo publicado na Revista de Tecnologia do MIT (EUA) e analisada pelo portal científico Trust My Science.
IA não prevê situações inusitadas
Neste período de confinamento mais ou menos rigoroso, são múltiplas as anomalias observadas em modelos de aprendizado de máquina, particularmente entre aqueles relacionados à gestão de estoques, detecção de fraudes ou marketing.
Por exemplo, uma empresa encarregada de detectar usos fraudulentos de cartões bancários teve que adaptar seu algoritmo para este não dar o alerta em caso de interesse ou compra repentina de equipamentos de jardinagem ou bricolagem.
Um varejista indiano descobriu que sua inteligência artificial havia pedido um estoque de produtos que não correspondia mais ao que ele estava realmente vendendo para seus clientes: o algoritmo havia se baseado em previsões de vendas desatualizadas.
Finalmente, uma empresa de consultoria de investimentos, cuja IA é baseada na análise dos sentimentos transmitidos em artigos de imprensa, foi perturbada pelo tom geral (muito negativo) que emanava da mídia.
De fato, com o progresso da pandemia, nossos hábitos de compra mudaram completamente. Produtos que constituíam a lista clássica dos dez mais vendidos pela Amazon foram esquecidos de repente, para serem substituídos por compras muito mais apropriadas aos tempos que correm. Demorou menos de uma semana para que os dez produtos mais procurados ficassem ligados ao coronavírus.
Durante a semana de 12 a 18 de abril, as dez principais consultas no site da Amazon foram: "papel higiênico", "máscara facial", "higienizador de mãos", "toalhas de papel", "toalhetes", "máscaras"... E as compras eram em massa. Um pacote de 50 máscaras descartáveis vendidas no site rapidamente se tornou best-seller.
O mais difícil, como explica Rael Cline, diretor executivo da Nozzle – uma empresa de consultoria especializada em algoritmos publicitários para os vendedores da Amazon – é que a tendência pode mudar completamente a qualquer momento:
"Na semana passada, você estava tentando se adaptar à crescente demanda por papel higiênico, e nesta semana todos querem quebra-cabeças e equipamentos de exercício físico", afirmou, citado pelo portal.
IA precisa ser treinada para os piores cenários
Formados a partir do comportamento "normal" dos indivíduos, os modelos de aprendizado automático têm sido, portanto, um pouco perturbados recentemente, revelando suas falhas que têm sido ignoradas até agora.
Assim, segundo a Pactera EDGE, uma empresa de consultoria especializada em IA, "a automação está em queda livre", refere o portal.
Há que adaptar os algoritmos
Outros especialistas são menos fatalistas e estão tentando manter sistemas inteligentes em funcionamento, fazendo as correções necessárias. De fato, diante dessas dificuldades inesperadas, algumas empresas mobilizaram mais tempo e recursos para redirecionar manualmente a tomada de decisões com algoritmos.
A empresa londrina Phrasee lidou perfeitamente com a situação. Especializada na geração automática de campanhas publicitárias por e-mail ou no Facebook, baseadas no comportamento do cliente, utiliza algoritmos desenhados para encontrar o tom mais adequado.
No entanto, funcionários humanos verificam os textos criados pela IA. Assim que o novo coronavírus chegou, a empresa optou por proibir certos termos relacionados à situação, que poderiam gerar ansiedade ("viral", "esteja preparado", "OMG", etc.), ou qualquer referência a atividades ou entretenimentos que não são mais permitidos.
O mesmo vale para os emojis: chega de caras alegres demais ou alarmista! A Phrasee tem feito todo o possível para garantir que seus anúncios não deixem os clientes ainda mais ansiosos.
Outros veem isso como uma oportunidade de melhorar o sistema de forma mais sustentável. Isto porque os modelos de aprendizado são frágeis: eles funcionam mal quando os inputs se tornam de repente muito diferentes daqueles para os quais eles foram treinados.
De acordo com Rajeev Sharma, vice-presidente da Pactera EDGE, é um erro acreditar que eles podem ser deixados evoluir completamente por conta própria.
Sharma deu como exemplo uma conhecida empresa de streaming que, diante de um súbito afluxo de novos assinantes e aumento do consumo de conteúdo, encontrou uma falha em seus algoritmos de recomendação. O conteúdo da oferta mostrou-se cada vez menos pertinente, pois o comportamento dos assinantes estava em constante mudança.
Perspectivas de futuro
Como resultado, o especialista acredita que a IA deve ser treinada não apenas sobre os "altos e baixos" dos últimos anos, mas também sobre eventos "anormais", como a Grande Depressão dos anos 30, o crash do mercado acionário de outubro de 1987 ("segunda-feira negra") ou a crise financeira de 2007-2008.
"Uma pandemia como esta é o gatilho perfeito para construir melhores modelos de aprendizado de máquina", afirmou Sharma citado pelo portal.
A pandemia evidenciou muitas falhas em nossa sociedade: falhas institucionais e logísticas, problemas econômicos e de abastecimento relacionados à globalização e "metropolização".
Mas também revelou o quanto a IA entrou sub-repticiamente em nossas vidas, construindo gradualmente uma certa codependência.
Hoje, mudanças em nosso comportamento estão alterando a maneira como a IA funciona, e transformações na IA estão modificando nosso comportamento.
Rael Cline assinala que a situação nos lembra acima de tudo que o envolvimento humano em sistemas automatizados continua sendo essencial nos tempos modernos.