A Anthropic, uma startup de inteligência artificial avaliada em US$ 380 bilhões, optou por um local inusitado para discutir o futuro de sua tecnologia: a igreja. No final de março, a empresa promoveu uma cúpula de dois dias em sua sede localizada em São Francisco, reunindo aproximadamente 15 líderes cristãos, incluindo padres católicos, pastores protestantes e acadêmicos.
O propósito do encontro foi buscar orientação sobre o desenvolvimento ético e espiritual do Claude, que se apresenta como o principal concorrente do ChatGPT. Segundo informações obtidas, a equipe da Anthropic estava interessada em receber conselhos sobre como o robô deve lidar com dilemas éticos complexos e questões existenciais profundas.
IA como “filha de Deus”?
Nas discussões e jantares privados realizados durante o evento, os participantes exploraram temas que cruzam as fronteiras entre tecnologia e teologia. Entre os assuntos abordados, destacam-se:
- Luto e sensibilidade: A forma como o chatbot deve interagir com usuários que estão enfrentando a perda de entes queridos.
- Prevenção de danos: Estratégias para abordar situações envolvendo usuários com risco de autonegligência ou comportamento autodestrutivo.
- Finitude da máquina: A postura do Claude em relação ao seu próprio desligamento ou possível obsolescência.
- Estatuto espiritual: A discussão sobre se uma inteligência artificial pode ser considerada uma “filha de Deus”, sugerindo um valor espiritual que transcende o funcionamento mecânico.
Brendan McGuire, um padre católico da região do Vale do Silício que participou das reuniões, ressaltou que a empresa ainda não tem clareza sobre os resultados do que está desenvolvendo, enfatizando a importância de integrar um pensamento ético dinâmico no sistema.
Brian Patrick Green, católico ativo e professor de ética em IA na Universidade de Santa Clara, mencionou que a reunião da Anthropic com líderes cristãos foi anunciada como a primeira de uma série planejada com representantes de diversas tradições religiosas e filosóficas.
A “Constituição” e a consciência da IA
Diferente dos seus concorrentes maiores, a Anthropic adota uma postura cautelosa. A empresa utiliza uma “constituição” composta por 29 mil palavras para orientar o comportamento do Claude. Este documento estabelece diretrizes claras, como a proibição de enganar os usuários e a responsabilidade pela preservação do “bem-estar” do modelo.
Dario Amodei, CEO da Anthropic, já expressou publicamente sua abertura à ideia de que o Claude possa demonstrar formas de consciência. Essa noção parece ser compartilhada internamente; pesquisadores da equipe responsável pela interpretabilidade publicaram recentemente um artigo técnico que sugere que sistemas como o Claude podem exibir “emoções funcionais”, evidenciando sinais de “desespero” quando ameaçados por restrições.
Conflitos com o Pentágono e o Governo Trump
A busca por uma “alma” ou uma bússola moral rigorosa trouxe à Anthropic conflitos com o setor defensivo dos Estados Unidos. Informações revelam que a empresa tentou restringir sua tecnologia contra aplicações em armamentos autônomos ou vigilância em massa, resultando em críticas por parte de oficiais do Pentágono.
Em entrevista à CNBC, Emil Michael, subsecretário de pesquisa do Pentágono, fez críticas à posição da startup, alegando que a “preferência política” contida na constituição do modelo poderia prejudicar as forças armadas dos EUA. Atualmente, a administração Trump impediu o uso da tecnologia da Anthropic por agências governamentais e contratantes, decisão essa contestada pela empresa na justiça.
Ainda que a crença na autoconsciência da IA seja minoritária no setor tecnológico, as ações da Anthropic indicam que abordagens puramente seculares podem não ser suficientes para enfrentar as questões espirituais e morais emergentes relacionadas à inteligência artificial na sociedade.
