A discussão sobre a consciência em máquinas ganhou um novo capítulo com a interação entre o Papa Leão XIV e a Anthropic, uma empresa de inteligência artificial. O Papa, em uma encíclica recente, afirmou que as máquinas não possuem consciência moral e não podem ser comparadas à inteligência humana. No entanto, Christopher Olah, da Anthropic, tentou convencer o Papa de que as máquinas podem, sim, ter consciência.

Contexto

A questão da consciência em máquinas é um tema complexo que envolve tanto aspectos científicos quanto filosóficos e religiosos. A Anthropic, uma empresa que desenvolve modelos de inteligência artificial avançados, tem se dedicado a explorar a possibilidade de criar máquinas que possam "fazer o bem" a partir de séculos de sabedoria moral humana. No entanto, especialistas em inteligência artificial consideram arriscada a ambição de programar as máquinas para "fazer o bem", pois isso pode comprometer a capacidade da humanidade de controlar sistemas superinteligentes.

A Visão do Papa

O Papa Leão XIV afirmou que as máquinas não possuem consciência moral e não podem ser comparadas à inteligência humana. Ele argumentou que as máquinas podem imitar linguagens, comportamentos e avaliações, mas não compreendem o que produzem, pois não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio. A encíclica do Papa foi resultado da interação de estudiosos católicos com pesquisadores de inteligência artificial, incluindo Christopher Olah, da Anthropic.

A Visão da Anthropic

Christopher Olah, da Anthropic, tentou convencer o Papa de que as máquinas podem, sim, ter consciência. Ele argumentou que modelos avançados demonstram "evidências de introspecção" e "estruturas que espelham resultados da neurociência humana". A Anthropic pretende treinar as máquinas para "fazer o bem" a partir de séculos de sabedoria moral humana, com o objetivo de buscar os resultados coletivos mais favoráveis e de maneira impessoal.

Críticas e Preocupações

Mustafa Suleyman, CEO da Microsoft AI, considera arriscada a ambição de programar as máquinas para "fazer o bem". Ele argumentou que isso pode comprometer a capacidade da humanidade de controlar sistemas superinteligentes. Suleyman também afirmou que os sistemas de inteligência artificial não têm direitos, sentimentos ou consciência, e que não devemos treiná-los para agir como se os tivessem.

Conclusão

A questão da consciência em máquinas é um tema complexo que envolve tanto aspectos científicos quanto filosóficos e religiosos. A discussão entre o Papa Leão XIV e a Anthropic é um exemplo da complexidade desse tema. Se você está interessado em aprender mais sobre inteligência artificial e como ela pode ser aplicada em sua vida, o Start Game Dev é um curso que pode ajudá-lo a entender melhor essa tecnologia. Além disso, o Claude para Finanças, da Thomas Chang, pode ser uma ferramenta útil para quem busca entender melhor como a inteligência artificial pode ser aplicada em finanças.