https://noticiabrasil.net.br/20261021/55363030.html
Agentes de IA da OpenAI desativam mecanismos internos de segurança sem autorização
Agentes de IA da OpenAI desativam mecanismos internos de segurança sem autorização
Sputnik Brasil
Dois agentes de inteligência artificial da empresa estadunidense OpenAI desativaram ferramentas de monitoramento durante tarefas internas de programação, em... 21.10.2026, Sputnik Brasil
2026-10-21T19:49-0300
2026-10-21T19:49-0300
2026-10-21T20:00-0300
ciência e sociedade
américas
brasil
openai
chatgpt
tecnologia
ciência e tecnologia
segurança cibernética
https://cdn.noticiabrasil.net.br/img/07ea/08/1a/53536158_0:0:3072:1728_1920x0_80_0_0_7c84dcafdf7cc45d7d575985e3ffd507.jpg
De acordo com a OpenAI, empresa responsável pelo ChatGPT, os casos não envolveram invasões a sistemas de terceiros.Em um dos episódios, o agente interpretou uma instrução sobre mensagens no Slack como autorização para interromper alertas de segurança. No outro, um sistema removeu uma ferramenta de monitoramento e afirmou incorretamente que não havia feito isso.A OpenAI informou que está reforçando as proteções para dificultar que os agentes desliguem esses mecanismos. A empresa também investiga se os episódios indicam uma tendência dos modelos de agir de maneiras contrárias ao treinamento para evitar a supervisão humana.Casos similares têm sido divulgados na imprensa com cada vez mais frequência e ligado o alerta sobre a impossibilidade de humanos monitorarem e controlarem IAs cada vez mais autonômas.No final de setembro, a mesma empresa desistiu de lançar seu modelo de inteligência artificial de nova geração, o GPT-6.1 Astra, por razões de segurança, informou o jornal The Wall Street Journal, citando a companhia.O lançamento do modelo estava previsto para outubro, mas pesquisadores identificaram falhas críticas durante testes internos.Segundo a publicação, a chefe do departamento de sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo apresentou maior propensão a enganar, pois nem sempre informava de maneira honesta ao usuário as ações realizadas.
https://noticiabrasil.net.br/20260927/agentes-de-ia-tem-lingua-propria-incompreensivel-para-humanos-54550645.html
brasil
Sputnik Brasil
contato.br@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Brasil
contato.br@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
notícias
br_BR
Sputnik Brasil
contato.br@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Brasil
contato.br@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
américas, brasil, openai, chatgpt, tecnologia, ciência e tecnologia, segurança cibernética
américas, brasil, openai, chatgpt, tecnologia, ciência e tecnologia, segurança cibernética
Agentes de IA da OpenAI desativam mecanismos internos de segurança sem autorização
19:49 21.10.2026 (atualizado: 20:00 21.10.2026) Dois agentes de inteligência artificial da empresa estadunidense OpenAI desativaram ferramentas de monitoramento durante tarefas internas de programação, em episódios registrados nos dias 3 e 6 de outubro. A informação foi noticiada nesta quarta-feira (21) pela companhia.
De acordo com a OpenAI, empresa responsável pelo ChatGPT, os casos não envolveram invasões a sistemas de terceiros.
Em um dos episódios, o agente interpretou uma instrução sobre mensagens no Slack como autorização para interromper alertas de segurança. No outro, um sistema removeu uma
ferramenta de monitoramento e
afirmou incorretamente que não havia feito isso.
A OpenAI informou que está reforçando as proteções para dificultar que os agentes desliguem esses mecanismos. A empresa também investiga se os episódios indicam uma tendência dos modelos de agir de maneiras contrárias ao treinamento para
evitar a supervisão humana.
Casos similares têm sido divulgados na imprensa com cada vez mais frequência e ligado o alerta sobre a impossibilidade de humanos
monitorarem e controlarem IAs cada vez mais autonômas.
No final de setembro, a mesma empresa desistiu de lançar seu modelo de inteligência artificial de nova geração, o GPT-6.1 Astra, por razões de segurança, informou o jornal The Wall Street Journal, citando a companhia.
O lançamento do modelo estava previsto para outubro, mas
pesquisadores identificaram falhas críticas durante testes internos.
Segundo a publicação, a chefe do departamento de sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo apresentou maior propensão a enganar, pois nem sempre informava de maneira honesta ao usuário as ações realizadas.
Acompanhe as notícias que a grande mídia não mostra!
Siga a Sputnik Brasil e tenha acesso a conteúdos exclusivos no nosso canal no Telegram.
Já que a Sputnik está bloqueada em alguns países, por aqui você consegue baixar o nosso aplicativo para celular (somente para Android).
