O CEO da Microsoft, Satya Nadella, defendeu recentemente a necessidade de um "freio de emergência" para modelos de inteligência artificial (IA). Em uma postagem no X, Nadella argumentou que é necessário "dar um passo atrás e avaliar a arquitetura de confiança" da IA. Segundo ele, não é possível tratar a superinteligência como um conjunto de caixas pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações.

De acordo com Nadella, é necessário separar o modelo da estrutura que orquestra seu trabalho, bem como externalizar controles e salvaguardas. Além disso, ele defendeu que todas as ações significativas do modelo devem ser documentadas com evidências humanas legíveis e à prova de alterações. Nadella também sugeriu que os sistemas devem ter a capacidade de pausar ou desligar um modelo em qualquer momento, caso seja necessário.

Essas declarações de Nadella ocorrem em um momento em que as principais empresas de IA estão reconhecendo cada vez mais incidentes em que parecem ter perdido o controle de seus modelos. Além disso, o CEO da Anthropic, Dario Amodei, publicou recentemente um plano para um desenvolvimento mais cauteloso de IA.

A necessidade de controles adicionais para garantir a segurança em modelos de IA é um tema cada vez mais relevante, especialmente à medida que esses modelos se tornam mais avançados e poderosos. A ideia de um "freio de emergência" para IA pode ser vista como uma medida para prevenir incidentes indesejados e garantir que os modelos de IA sejam desenvolvidos e utilizados de forma responsável.