Um professor de IA e biólogos evolucionistas uniram forças para testar como os desenvolvimentos modernos se encaixam com conceitos evolutivos. As suas descobertas foram publicadas na Proceedings of the National Academy of Sciences.
"O poder da evolução é evidente na história do desenvolvimento biológico na Terra, que criou as capacidades cognitivas da mente humana. Consideramos inevitável que o desenvolvimento dos sistemas de IA, posteriormente, e provavelmente em breve, usará esse poder", considera Eors Szathmary, professor de biologia evolutiva no Centro HUN-REN para a Pesquisa Ecológica e na Universidade Eotvos Lorand, Budapeste.
"Os desenvolvedores de IA ao final conectarão a evolução aos seus sistemas, porque seu poder é enorme", concorda o professor emérito de IA Luc Steels da Universidade Livre de Bruxelas, coautor do artigo, detalha EurekAlert!
Em seu trabalho, eles preveem que o desenvolvimento da IA adquirirá as propriedades da genuína evolução darwiniana. O perigo desses sistemas de IA em evolução (eAI) é que seus objetivos não vão coincidir com os nossos.
"As lições da evolução biológica ensinam-nos que os sistemas de IA serão especialmente difíceis de controlar", avisa o biólogo Viktor Muller, professor associado da Universidade Eotvos Lorand e primeiro autor do estudo.
A maioria dos especialistas veem o principal perigo do progresso da IA como uma mudança para uma forte inteligência artificial geral (AGI) – um limiar hipotético pelo qual a IA ultrapassaria os seres humanos em todas as tarefas cognitivas. No entanto, a superioridade intelectual não é necessária para a vitória. Por exemplo: um vírus da raiva primitivo "aprendeu" a manipular e explorar os seus hospedeiros mamíferos.
Os investigadores alertam: qualquer tentativa de controlar a reprodução – a menos que o controle seja absoluto – será, acima de tudo, selecionar os sinais que permitem que este controle seja evadido. Os análogos na biologia são comumente conhecidos – as bactérias e pragas desenvolvem rapidamente resistência a antibióticos e pesticidas.
Além disso, o que piora as coisas é a vontade de tornar a IA mais inteligente. Um exemplo da biologia: milhares de anos de seleção tornaram os animais domésticos mais, e não menos, controláveis. Enquanto a seleção para o aprimoramento da inteligência aumentará tanto a capacidade quanto a probabilidade de que a IA engane as pessoas e saia do controle.