Na opinião do ex-secretário adjunto da Defesa dos EUA Robert Work, os sistemas de inteligência artificial não devem ser envolvidos no controle de armas nucleares, pois estas são lançadas com base em determinados parâmetros e indicadores, escreve a revista digital Breaking Defense.
Em algumas situações, a IA pode ver fatores que não são perigosos como ameaças, e esta é uma "perspectiva preocupante", explica Work.
A edição cita como exemplo o sistema russo Perimetr (sistema criado na URSS de controle automático de ataque nuclear de retaliação) que, ao considerar uma atividade sísmica como explosões nucleares, pode enviar um pedido ao quartel-general militar e, se por acaso não receber resposta, poderá dar ordem de lançamento de mísseis balísticos intercontinentais.
Sistemas de alerta precoce
Work acrescenta que a utilização militar da inteligência artificial poderia ter consequências desastrosas mesmo que esta não esteja diretamente envolvida na gestão das armas nucleares. Esse poderá ser o caso, principalmente, da sua utilização na análise de informações de reconhecimento, bem como nos sistemas de alerta precoce.
"Imagine um sistema operacional no Pacífico Ocidental, em um centro de comando chinês", destaca Work, "que diga 'tudo parece que os americanos vão atacar'" e recomende lançar um "ataque preventivo".
O ex-secretário adjunto de Defesa aponta para um cenário de pesadelo de uma IA comandando uma operação de ataque nuclear de um país.
"Imagine ter um sistema preditivo de IA em um sistema de comando e controle nuclear a ser lançado com base em certos parâmetros […] Essa é uma perspectiva muito, muito, muito mais alarmante do que qualquer coisa que você possa pensar em termos de armas individuais."
Contudo, Robert observa que a inteligência artificial pode certamente beneficiar os militares, mas seu uso deve ser limitado e não deve se estender às armas nucleares, pois isso poderia levar a um "cenário catastrófico".