Espero que o ChatGPT também ame os seus filhos

Análise Libertária

Um antigo investigador da Anthropic e da OpenAI, Jacob Coxon, afirma que a inteligência artificial pode matar-nos a todos antes do fim da década. O expresso leva a alegação ao leitor e o cronista responde como um homem livre responde a um profeta: quer continuar vivo em 2030 sobretudo para poder rir-se-lhe da cara. A piada é boa e é merecida. O que fica de pé depois da piada é o enquadramento - e esse enquadramento faz um favor enorme a quem já está sentado dentro do mercado.

Em 22 de Outubro de 1844, o pregador William Miller tinha data marcada. Tinha estudado o Livro de Daniel, tinha concluído que Jesus voltaria nesse dia e que um fogo purificador consumiria o resto. Dezenas de milhares de fiéis deixaram de cuidar das plantações, venderam as suas terras e ofereceram os seus bens. Não aconteceu nada, e o dia ficou conhecido como o Dia da Grande Decepção - decepção, repare-se, por o mundo não ter acabado. Ninguém gosta que lhe estraguem os planos, mesmo quando o plano era ser aniquilado. Entre Miller e os profetas de agora há uma diferença prática: Miller não tinha uma empresa a valorizar com a data que anunciava.

Chamar "risco existencial" a uma tecnologia é um rótulo, não uma medição. Na Idade Média, os anúncios do fim do mundo eram frequentes e o exterminador era o próprio Criador; agora é uma criatura nossa. A diferença teológica é grande e a diferença prática é nenhuma: os dois anúncios pedem a mesma coisa a quem ouve, que entregue o juízo a quem grita mais alto.

E é aí que o negócio aparece. Se a máquina pode acabar connosco, então alguém tem de decidir quem tem autorização para a construir. Esse alguém é o estado, com licenças, pareceres e inspeções - e uma licença faz uma coisa muito bem: protege quem já cá está. As duas empresas por onde Coxon passou seriam precisamente as que enfrentariam menos concorrência e teriam mais poder de negociação num mundo com barreiras à entrada. O programador que trabalha sozinho na garagem fica de fora, não por ser perigoso, mas por não ter departamento jurídico. Paga o custo quem quer construir, e volta a pagá-lo quem só quer usar.

O anúncio em si merece exame. Miller tinha um dia; Coxon tem uma década. Ambos transformam uma possibilidade vaga num prazo, e um prazo tem tudo o que uma probabilidade não tem: uma cara, uma data e um medo que se vende. Uma probabilidade mede-se repetindo a experiência muitas vezes e contando as vezes em que o acontecimento sucede, como sucessivos lançamentos de uma moeda - não se mede pelo crachá de quem fala. E o crachá também não resolve nada: nem o currículo de um investigador torna uma previsão verdadeira, nem a desconfiança de quem duvida a torna falsa. Avaliar o que se afirma não pode depender do lado onde já estamos, porque a ideologia de quem observa não decide o que aconteceu.

Há ainda uma parte do texto que vale a pena guardar. O cronista escreve que, num mundo em que os Estados Unidos são governados por Donald Trump e a Rússia por Vladimir Putin, tem dificuldade em assustar-se com o Claude. Essa dúvida é razoável e não é propaganda ao contrário. Quem passa o dia a ouvir avisos oficiais aprende, com bons motivos, a pedir provas antes de entrar em pânico.

Só que a conclusão não pode ser entregar a máquina a uma comissão que ninguém elegeu - nem aos laboratórios que se apresentam como os únicos adultos na sala. A resposta a um profeta não é um regulador; é a existência de muitos construtores, sem porteiro. Se houver um porteiro, será nomeado precisamente por quem lucra com o medo que ele administra. E se 2030 chegar sem apocalipse, quero ter tempo para me rir não só de Coxon, mas também de quem já tinha o regulamento pronto à espera da desculpa.