Quando tento apresentar o assunto de IA avançada, qual é a primeira coisa que ouço, mais da metade do tempo?
“Ah, você quer dizer como nos filmes do Exterminador do Futuro, Matrix e Robôs do Asimov!”
E eu respondo: “Bem, não, não exatamente. Tento evitar a falácia lógica de generalizar a partir de evidências fictícias.”
Algumas pessoas entendem imediatamente e riem. Outras defendem o uso do exemplo, discordando que seja uma falácia.
Qual é o problema em usar filmes ou romances como ponto de partida para a discussão? Afinal, ninguém está afirmando que isso é verdade. Onde está a falsidade, onde está o pecado do racionalismo? A ficção científica é a tentativa do autor de visualizar o futuro; por que não aproveitar o pensamento que já foi feito em nosso nome, em vez de começar do zero?
Nem todo deslize na dança precisa da racionalidade requer necessariamente uma crença absoluta em uma falsidade; existem maneiras mais sutis de cometer erros.
Primeiro, abandonemos a ideia de que a ficção científica representa uma tentativa racional de prever o futuro. Até os escritores de ficção científica mais diligentes são, acima de tudo, contadores de histórias; as exigências de contar histórias não são as mesmas que as exigências de previsão. Como observa Nick Bostrom [1]:
Quando foi a última vez que você assistiu a um filme sobre a extinção repentina da humanidade (sem aviso e sem substituição por outra civilização)? Embora esse cenário possa ser muito mais provável do que um cenário em que heróis humanos repelem com sucesso uma invasão de monstros ou guerreiros robôs, não seria tão divertido de se assistir.
Portanto, existem distorções específicas na ficção. No entanto, tentar corrigir essas distorções específicas, não é o suficiente. Uma história nunca é uma tentativa racional de análise, nem mesmo para os escritores de ficção científica mais diligentes, pois as histórias não utilizam distribuições de probabilidade. Vou ilustrar da seguinte maneira:
Bob Merkelthud deslizou cuidadosamente pela porta da nave espacial alienígena, olhando primeiro para a direita e depois para a esquerda (ou vice-versa), para ver se algum dos temidos Monstros Espaciais ainda estava presente. Ao seu lado, havia a única arma considerada eficaz contra os Monstros Espaciais: uma Espada Espacial forjada em titânio puro com uma probabilidade de 30%, um pé de cabra comum de ferro com uma probabilidade de 20% e um disco preto brilhante encontrado nas ruínas fumegantes de Stonehenge com uma probabilidade de 45%, sendo os 5% restantes distribuídos em vários resultados menores que não valem a pena listar aqui.
Merkelthud (embora houvesse uma chance significativa de Susan Wiffefoofer estar lá em seu lugar) deu dois passos para frente ou um para trás, quando um grande rugido quebrou o silêncio da câmara escura! Ou talvez fosse o zumbido silencioso do fundo da câmara de descompressão branca! Embora Amfer e Woofi (1997) argumentem que Merkelthud seja devorado neste ponto, Spacklebackle (2003) aponta que—
Os personagens podem ser ignorantes, mas o autor não pode simplesmente dizer as três palavras mágicas “eu não sei”. O protagonista deve traçar uma linha única em direção ao futuro, repleta de detalhes que dão vida à história, desde as atitudes futuristas apropriadas de Wiffefoofer em relação ao feminismo até a cor de seus brincos.
Em seguida, todos esses detalhes complicados e suposições questionáveis são agrupados e recebem um rótulo curto, criando a ilusão de que são um único conjunto.
Em problemas com grandes espaços de respostas, a maior dificuldade não é verificar a resposta correta, mas simplesmente localizá-la no espaço de respostas em primeiro lugar. Se alguém começa perguntando se as IAs vão ou não nos colocar em cápsulas como em “Matrix”, estão pulando para uma proposição de 100 bits, sem os 98 bits correspondentes de evidência para localizá-la no espaço de respostas como uma possibilidade digna de consideração explícita. Seriam necessárias apenas algumas evidências adicionais após os primeiros 98 bits para promover essa possibilidade para quase certeza, o que revela onde a maior parte do trabalho é realizada.
A etapa “preliminar” de localizar possibilidades dignas de consideração explícita inclui etapas como: avaliar o que você sabe e o que não sabe, o que você pode e o que não pode prever, fazer um esforço consciente para evitar o viés do absurdo e ampliar os intervalos de confiança, ponderar quais perguntas são as mais importantes, tentar ajustar para possíveis Cisnes Negros e considerar incógnitas anteriormente desconhecidas. Pular para “Matrix: Sim ou Não?” ignora tudo isso.
Qualquer negociador profissional sabe que controlar os termos de um debate é praticamente controlar o resultado do debate. Se você começa pensando em “Matrix”, isso sugere exércitos de robôs marchando e derrotando humanos após uma longa batalha — não uma superinteligência estalando os dedos com nanotecnologia. Ele se concentra em uma batalha “nós contra eles”, direcionando a atenção para questões como “quem vai vencer?” e “quem deveria vencer?” e “Será que as IAs realmente serão assim?” Isso cria uma atmosfera geral de entretenimento, de “Qual é a sua visão incrível do futuro?”
Perdidas na ressonância vazia estão: considerações sobre mais de um projeto mental possível que uma “Inteligência Artificial” poderia implementar; a dependência do futuro das condições iniciais; o poder de uma inteligência mais avançada que a humana e o argumento de sua imprevisibilidade; pessoas levando todo o assunto a sério e tentando fazer algo a respeito.
Se algum manipulador insidioso de debates decidisse que seu resultado preferido seria mais bem servido, forçando os debatedores a começarem refutando o “Exterminador do Futuro”, eles teriam sucesso em distorcer a questão. Ao debater sobre o controle de armas, o porta-voz da NRA não deseja ser retratado como um “maníaco por armas”, e o oponente do desarmamento não deseja ser apresentado como um “defensor desarmamentista das vítimas”. Por que você permitiria a mesma distorção de contexto por parte dos roteiristas de Hollywood, mesmo que acidentalmente?
Os jornalistas não me dizem: “O futuro será como ‘2001’”. Mas eles perguntam: “O futuro será como ‘2001’ ou será como a IA?” Esse é um problema de enquadramento tão grande quanto perguntar: “Devemos cortar benefícios para veteranos deficientes ou aumentar impostos para os ricos?”
No ambiente ancestral, não havia imagens em movimento; o que você via com seus próprios olhos era verdade. Um vislumbre momentâneo de uma única palavra pode nos influenciar e tornar os pensamentos mais disponíveis, como foi demonstrado em estimativas de probabilidade. Quanto dano você acha que um filme de duas horas pode causar em seu julgamento? Já é difícil desfazer o dano causado por concentração deliberada — por que convidar o vampiro para dentro de sua casa? No xadrez ou no Go, cada jogada desperdiçada é uma perda; na racionalidade, qualquer influência não baseada em evidências é, em média, entrópica.
Os espectadores de cinema conseguem desacreditar o que veem? Pelo que posso dizer, poucos espectadores de filmes agem como se tivessem testemunhado diretamente o futuro da Terra. As pessoas que assistiram aos filmes do “Exterminador do Futuro” não se esconderam em abrigos antiaéreos em 29 de agosto de 1997. Todavia, aqueles que cometem a falácia, parecem agir como se tivessem presenciado os eventos do filme ocorrendo em algum outro planeta; não na Terra, mas em algum lugar semelhante à Terra.
Você diz: “Suponha que construímos uma IA muito inteligente”, e eles dizem: “Mas isso não resultou em uma guerra nuclear no ‘Exterminador do Futuro’?” Pelo que posso dizer, é um raciocínio idêntico, até o tom de voz, daquele que poderia dizer: “Mas isso não resultou em uma guerra nuclear em Alpha Centauri?” ou “Isso não resultou na queda da cidade-estado italiana de Piccolo no século XIV?” O filme não é considerado uma profecia, mas sim um caso histórico ilustrativo. A história se repetirá? Quem sabe?
Em uma recente discussão sobre a explosão de inteligência, alguém mencionou que Vinge não parecia acreditar que as interfaces cérebro-computador aumentariam significativamente a inteligência, citando Marooned in Realtime (Naufragado em tempo real) e Tunç Blumenthal como exemplos em que o personagem mais avançado não parecia tão poderoso.
Eu respondi indignado: “Mas Tunç perdeu a maior parte de seu hardware! Ele era aleijado!” E então percebi meu erro e pensei comigo mesmo: “O que diabos estou dizendo? A questão não precisa ser discutida apenas com base em como Vinge retratou seus personagens? Tunç Blumenthal não é ‘aleijado’, ele é irreal. Eu poderia dizer: ‘Vinge escolheu retratar Tunç como aleijado, por razões que podem ou não estar relacionadas com sua melhor previsão pessoal’, e isso atribuiria ao seu aspecto autoral um peso de evidência adequado. Mas não posso dizer: ‘Tunç era aleijado’. Não há um passado para Tunç Blumenthal.”
Cometi deliberadamente um erro em meu primeiro rascunho deste ensaio ao afirmar: “Outros defendem o uso do exemplo, discordando que seja uma falácia”. Mas “Matrix” não é um exemplo!
Uma falha semelhante é a falácia lógica de argumentar com base em evidências imaginárias: “Bem, se você fosse até o fim do arco-íris, encontraria um pote de ouro – o que apenas comprova meu ponto!” (Atualizar evidências previstas, mas não observadas, é a imagem matemática espelhada do viés retrospectivo.)
O cérebro possui muitos mecanismos para generalizar a partir da observação, não apenas a heurística da disponibilidade. Quando você vê três zebras, forma a categoria “zebra”, e essa categoria incorpora uma inferência perceptiva automática. Criaturas em forma de cavalo com listras brancas e pretas são classificadas como “zebras”, portanto, espera-se que sejam rápidas e boas para comer; espera-se que sejam semelhantes a outras zebras observadas.
Da mesma forma, quando as pessoas veem (imagens em movimento de) três Borgs, seus cérebros criam automaticamente a categoria “Borg” e inferem automaticamente que os humanos com interfaces cérebro-computador pertencem à classe “Borg”, e que eles todos serão semelhantes aos outros Borgs observados: frios, sem compaixão, vestindo couro preto e andando com passos mecânicos pesados. Os jornalistas não acreditam que o futuro incluirá os Borgs – eles não consideram “Jornada nas Estrelas” como uma profecia. Mas quando alguém fala sobre interfaces cérebro-computador, eles pensam: “O futuro terá os Borgs?” Não pensam: “Como a telepatia assistida por computador torna as pessoas menos legais?” Não pensam: “Eu nunca vi um Borg e nem mais ninguém os viu”. Não, estão formando um estereótipo baseado em evidências literalmente nulas.
Como George Orwell disse sobre os clichês [2]:
Acima de tudo, é fundamental permitir que o significado escolha a palavra, e não o contrário. Quando você pensa em algo abstrato, tende a recorrer às palavras desde o início, e a menos que faça um esforço consciente para evitá-lo, o dialeto existente virá correndo e fará o trabalho por você, confundindo ou até mesmo alterando seu significado.
No entanto, em minha opinião, o aspecto mais prejudicial de usar a imaginação de outros autores é que isso impede as pessoas de usarem a sua própria. Como disse Robert Pirsig [3]:
Ela estava bloqueada porque tentava repetir, em sua escrita, coisas que já ouvira, assim como no primeiro dia ele tentara repetir coisas que já decidira dizer. Ela não conseguia pensar em nada para escrever sobre Bozeman porque não conseguia se lembrar de nada que tivesse ouvido que valesse a pena repetir. Ela estava estranhamente inconsciente de que podia olhar e ver por si mesma, como escreveu, sem considerar o que havia sido dito antes.
As ficções lembradas invadem rapidamente e constroem o seu pensamento por você; elas substituem a visão — a conveniência mais mortal de todas.
Referências
[1] Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology 9 (2002), http://www.jetpress.org/volume9/risks.html.
[2] Orwell, “Politics and the English Language.”
[3] Pirsig, Zen and the Art of Motorcycle Maintenance.
