Inteligência Artificial a Nosso Favor

Stuart Russell é professor de ciência da computação e escreveu um dos manuais mais usados no mundo para ensinar inteligência artificial. Justamente por isso o livro dele tem peso: não é um jornalista assustado nem um filósofo de fim de mundo, é alguém que passou a vida construindo essas máquinas e resolveu avisar que o projeto básico da área tem um defeito sério.

A pergunta central é simples de enunciar e difícil de responder. O que acontece no dia em que criarmos máquinas mais capazes do que nós em quase tudo? Russell não se preocupa com robôs que acordam com raiva, como no cinema. Ele se preocupa com máquinas competentes demais obedecendo a um objetivo mal definido, e com a nossa dificuldade de apertar o botão de desligar depois que ela começa.

O livro tenta fazer duas coisas ao mesmo tempo: explicar de onde vem esse risco e propor um jeito diferente de projetar a tecnologia, para que ela continue do nosso lado. Por isso o título em português fala em inteligência artificial a nosso favor, e não contra.

Desde os primeiros anos da área, a receita de fabricação é a mesma: a gente escreve um objetivo, e a máquina busca o melhor caminho para alcançá-lo. Russell chama isso de modelo padrão. Serve muito bem para um programa de xadrez, em que o objetivo é claro, ganhar a partida, e ninguém sofre se o programa jogar de forma implacável.

O problema aparece quando o objetivo sai do tabuleiro e entra na vida real. Russell lembra a lenda do rei Midas, que pediu que tudo o que tocasse virasse ouro e acabou sem comida, sem água e sem a própria filha. O desejo foi atendido ao pé da letra, e foi exatamente isso que o arruinou. Qualquer um de nós, ao pedir algo a uma máquina muito eficiente, corre o risco de receber o que pediu e não o que queria.

Pense num aplicativo de entrega que recebe a ordem de reduzir o tempo de cada corrida. Se ninguém avisar que o motoqueiro também não pode furar sinal vermelho, a otimização vai encontrar atalhos que ninguém imaginou. A máquina não é maldosa; ela só leva a sério demais o que escrevemos.

A saída óbvia seria especificar o objetivo com muito cuidado, prevendo todas as exceções. Russell diz que essa conta não fecha. Nenhum ser humano consegue listar tudo o que valoriza, e muitas das nossas preferências só se revelam quando alguma coisa dá errado. Ninguém escreve num contrato que não quer o gato da família sacrificado para o jantar, mas qualquer um se importa.

Quanto mais capaz a máquina, mais grave o descompasso. Um sistema fraco que persegue o objetivo errado causa um estrago pequeno. Um sistema muito poderoso, que consegue enxergar saídas que nós nem cogitamos, pode fazer o mundo ficar exatamente como o objetivo escrito pede e exatamente como nós não queremos.

Há ainda um agravante que o autor destaca. Uma máquina que tem um objetivo fixo percebe, por pura lógica, que não pode ser desligada antes de cumpri-lo, porque desligada ela fracassa. Ela não precisa ter instinto de sobrevivência para resistir ao botão; basta a conta ficar assim.