A empresa de inteligência artificial Anthropic sugeriu que autoridades governamentais tenham o poder de solicitar ordens judiciais para bloquear o lançamento de modelos de IA que representem um risco grave ao público. Em carta enviada ao governador da Califórnia, Gavin Newsom, a Anthropic reiterou propostas anteriores para que os governos possam intervir em casos de modelos de IA que ofereçam riscos à segurança nacional ou à vida humana.

Contexto

A proposta da Anthropic vem após a empresa enfrentar restrições governamentais a seus sistemas de IA. Em junho, o governo Trump ordenou que a empresa restringisse o acesso estrangeiro a seus modelos Mythos 5 e Fable 5, com capacidades cibernéticas, citando preocupações com a segurança nacional. Posteriormente, o Departamento de Comércio dos Estados Unidos suspendeu a ordem. A Anthropic também se manifestou contra a exigência de que os desenvolvedores criem "botões de desligamento" capazes de desativar modelos inteiros de IA caso uma empresa perca o controle sobre suas ações.

Propostas da Anthropic

A empresa defende intervenções mais direcionadas, como desativar um agente de IA problemático ou bloquear o acesso de um cliente específico a um modelo, por considerar essas medidas mais eficazes. Além disso, a Anthropic sugere que as autoridades governamentais possam solicitar ordens judiciais para bloquear o lançamento de modelos de IA que representem um risco grave ao público. Um porta-voz da Anthropic confirmou a autenticidade da carta, enquanto o gabinete do governador da Califórnia não respondeu de imediato a um pedido de comentário.

Legislação em discussão

Um grupo de senadores americanos dos dois partidos discutia, em setembro, uma proposta de lei que daria ao governo dos Estados Unidos o poder de bloquear o lançamento de determinados modelos de IA considerados inseguros. As empresas poderiam contestar a decisão na Justiça federal. Além disso, em julho, deputados americanos propuseram a "Lei do Botão de Desligamento da IA", que daria às autoridades dos Estados Unidos o poder de ordenar que empresas de inteligência artificial desativassem modelos que colocassem em risco a vida humana ou a economia.

FONTE: valor
TÍTULO ORIGINAL: Anthropic sugere que autoridades tenham poder de bloquear modelos de IA que ofereçam riscos