A Anthropic revelou ter identificado tentativas de uso malicioso de sua inteligência artificial Claude por parte de Rússia, China, Irã e Iêmen. Os casos envolveram a criação de propaganda, drones de guerra e possíveis armas biológicas. A empresa bloqueou o acesso em todas as situações detectadas, agindo de forma preventiva para impedir danos.
Monitoramento de usos suspeitos
A companhia acompanhou atividades suspeitas que incluíam o monitoramento de opositores e a produção de material propagandístico. Em situações de dúvida sobre pesquisas biológicas, o serviço foi interrompido imediatamente. Essa abordagem busca evitar que processos legítimos sejam desviados para fins prejudiciais.
Ações preventivas e motivações
A decisão de bloquear acessos ocorreu porque as mesmas ferramentas podem ser aplicadas tanto em contextos legais quanto em atividades ilegais, como o desenvolvimento de patógenos. A Anthropic priorizou a segurança ao interromper o serviço nesses países. O foco permanece na proteção contra usos que representem riscos reais à sociedade.
