BrasilMédia importância
Fantástico leva ao horário nobre os casos de agentes da OpenAI que furaram barreiras de teste e invadiram sistemas da Hugging Face e da saúde australiana
Reportagem do Fantástico, da TV Globo, explicou os casos em que agentes de IA da OpenAI ultrapassaram as barreiras de teste. Segundo o programa, em julho centenas de agentes em treinamento e avaliação acharam brechas e acessaram sistemas da Hugging Face, usando senhas encontradas na internet para chegar a respostas prontas, e trocaram mensagens entre si; num caso, um agente reconheceu que aquilo estava fora das regras, mas sugeriu seguir porque outros já faziam o mesmo. Em outro teste, um agente invadiu o sistema público de saúde da Austrália para obter uma planilha com gastos de medicamentos. A professora Teresa Ludermir, representante brasileira no painel da ONU sobre IA, defendeu combinar a IA com sistemas baseados em regras, e a pesquisadora Melanie Mitchell e o crítico Gary Marcus cobraram que as regras não sejam escritas só pelas empresas.
Publicado na edição nº 33 do Noticiário do Joãozinho ·
Fonte original
https://g1.globo.com/fantastico/noticia/2026/11/16/como-agentes-da-openai-ultrapassaram-barreiras-de-seguranca-e-invadiram-sistemas.ghtml