Uma proposta de lei de segurança de inteligência artificial (IA) apresentada pela Anthropic pode bloquear a distribuição de modelos de IA que representem um risco para a vida humana. De acordo com a proposta, um modelo de IA pode ser bloqueado se houver um risco "previsível e iminente" de morte de mais de 50 pessoas ou danos à propriedade superior a um bilhão de dólares.

Contexto

A proposta de lei da Anthropic surge em um momento em que as preocupações sobre a segurança da IA estão aumentando. A indústria de tecnologia tem debatido sobre a melhor forma de regular a IA e evitar riscos potenciais. A Anthropic, um laboratório de IA, apresentou sua proposta de lei como uma forma de abordar essas preocupações.

A Proposta de Lei

A proposta de lei da Anthropic sugere que a análise do potencial de desastre de um modelo de IA possa ser realizada por "avaliadores independentes" registrados no Departamento de Comércio dos EUA. Esses avaliadores poderiam ser pagos pelos laboratórios de IA, desde que o pagamento não seja condicionado aos resultados das avaliações. Se um avaliador determinar que um modelo de IA representa um risco iminente, ele terá 72 horas para contatar o Departamento de Comércio, que então poderá solicitar a um juiz que bloqueie a distribuição do modelo.

Reações

A proposta de lei da Anthropic é vista como um passo à frente em relação às propostas de regulamentação da indústria de IA. A DeepMind, outra empresa de IA, propôs a criação de um órgão regulador autônomo, semelhante à Financial Industry Regulatory Authority (FINRA). No entanto, a proposta da Anthropic ainda enfrenta desafios, como garantir que os pagamentos aos avaliadores não influenciem as avaliações.

Consequências

A proposta de lei da Anthropic pode ter implicações significativas para a indústria de IA. Se aprovada, pode bloquear a distribuição de modelos de IA que representem riscos para a vida humana. Além disso, pode estabelecer um precedente para a regulamentação da IA em outros países. No entanto, a indústria de IA ainda está resistente à regulamentação governamental, e é provável que haja debates e discussões sobre a proposta de lei nos próximos meses.