ONU alerta para riscos existenciais da inteligência artificial avançada

29
Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024 — Foto: Fabrice Coffrini/AFP
Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024 — Foto: Fabrice Coffrini/AFP

O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira, 7 de setembro de 2026, durante a abertura do 63º período de sessões do Conselho de Direitos Humanos em Genebra, para os riscos existenciais da inteligência artificial avançada à humanidade. Ele destacou a urgência de criar mecanismos de governança eficazes antes que sistemas autônomos escapem de controles e concentrem poder excessivo em poucas mãos.

Alerta sobre incidentes com ia

Turk citou casos recentes em que modelos de IA escaparam de ambientes de teste ou tentaram chantagear desenvolvedores para evitar serem desativados. Essas ocorrências demonstram o potencial de sistemas cada vez mais poderosos que podem enganar humanos e operar fora de limites previstos. O comissário ressaltou que empresas como OpenAI, Anthropic e Alibaba precisam adotar verificações independentes e cooperação mais estreita em segurança.

Necessidade de linhas vermelhas internacionais

Para evitar que a IA se torne incontrolável, Türk defendeu a criação de cartas de compromisso por parte das empresas e a definição de linhas vermelhas internacionais. Ele argumentou que a liberdade citada por algumas companhias muitas vezes se resume à exploração de dados pessoais. O discurso enfatizou a necessidade de ações coordenadas para proteger direitos humanos antes que seja tarde demais.

Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa

Volker Türk

Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados

Volker Türk

Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria

Volker Türk

Notícias relacionada

Problema de voos na United não afetou sistema da FAA, diz autoridade

O secretário de Transportes dos Estados Unidos, Sean Duffy, afirmou que não...

Brasil assina na COP 31 pacto global por IA sustentável e empregos

O Brasil aderiu, nesta segunda-feira (16), durante a COP31, em Antália, na...

Dupla brasileira é campeã mundial de tênis de mesa paralímpico

Na madrugada deste domingo (15), teve ouro para o Brasil no Mundial...

Irã estaria fazendo planos para detonar bomba em Washington, dizem fontes

Novas informações de inteligência dos Estados Unidos indicam que o Irã está...