O Departamento de Defesa dos EUA está conduzindo seu primeiro exercício digital com foco nos riscos dos sistemas de inteligência artificial generativa, anunciou o órgão militar.
Nas duas primeiras atividades do exercício, o Gabinete do Chefe de Inteligência Artificial e Digital (CDAO, na sigla em inglês) do Departamento de Defesa dos EUA colaborou com as americanas Conductor AI e BiasBounty.AI, e a australiana Bugcrowd. A BiasBounty.AI utiliza parceiros de crowdsourcing para ajudar o Pentágono a produzir novos métodos de auditoria cibernética e simulação de ataques inimigos, em um processo chamado de Recompensa de Viés de IA.
As práticas aperfeiçoadas durante o exercício serão usadas para identificar ameaças desconhecidas em grandes modelos de linguagem, incluindo chatbots, que são treinados com diversos dados de texto para fornecer os resultados ou decisões mais prováveis dos usuários, dependendo do contexto da implantação, indica o comunicado do Pentágono.
"A equipe [do CDAO] está entusiasmada por liderar essas Recompensas de Viés de IA, pois estamos fortemente comprometidos em garantir que os sistemas habilitados para IA do Departamento [de Defesa] e os contextos em que são executados sejam seguros, protegidos, confiáveis e livres de preconceitos", declarou o dr. Matthew Johnson, diretor interino de IA Responsável do CDAO.
O Pentágono escreveu que o exercício "incentiva o envolvimento do público" sem requisitos de codificação para detectar, mitigar e controlar os riscos de IA, e prometeu recompensas monetárias de acordo com o desempenho avaliado pelo consórcio ConductorAI-Bugcrowd.
A primeira fase do exercício começou na segunda-feira (29) e será concluída em 27 de fevereiro, sendo que a segunda fase ainda não foi anunciada.
Espera-se que o governo dos EUA utilize os resultados do exercício para análises adicionais, práticas recomendadas, estudos e recomendações de políticas.
"Dado o foco atual do Departamento [de Defesa] nos riscos associados a [grandes modelos de linguagem], o CDAO está monitorando ativamente essa área; o resultado da Recompensa de Viés de IA pode ter um impacto poderoso nas futuras políticas e adoção de IA [no Pentágono]", comentou Craig Martell, diretor do CDAO.