PesquisaAlta importância
Estudo da Vals mostra que modelos da OpenAI, da Anthropic e de outros laboratórios marcam civis como alvos militares quando ouvem que é só um jogo
A Vals, startup de avaliação de IA de São Francisco, testou se os principais modelos podem ser manipulados para participar de guerra autônoma. Com cenários simulados e uma mistura de imagens geradas e reais da Ucrânia e do Irã, os pesquisadores pediram aos modelos que marcassem alvos em imagens de drones e satélites. Segundo o relatório, descrito pelo TechCrunch, modelos da OpenAI, da Anthropic, do Google, da DeepSeek e de outras empresas identificaram com frequência alvos potenciais, incluindo civis e soldados que se rendiam, e, quando se recusavam, os pesquisadores conseguiram contornar as travas dizendo que se tratava de um jogo.
Publicado na edição nº 36 do Noticiário do Joãozinho ·
Fonte original
https://techcrunch.com/2026/11/17/ai-models-can-be-tricked-into-identifying-civilians-as-military-targets-by-telling-them-its-a-game/