No Singularity Summit 2007, um dos palestrantes pediu pelo desenvolvimento democrático e multinacional da Inteligência Artificial. Aproximei-me do microfone e perguntei:
“Suponha que um grupo de repúblicas democráticas forme um consórcio para desenvolver a IA, e haja muita politicagem durante o processo — alguns grupos de interesse têm uma influência extraordinariamente grande, outros são prejudicados — em outras palavras, o resultado se parece com os produtos das democracias modernas. Como alternativa, suponha que um grupo de nerds rebeldes desenvolva uma IA em seu porão e instrua a IA a fazer uma pesquisa para consultar a opinião de todas as pessoas no mundo — entregando celulares a qualquer um que não os tenha para poderem participar dessa pesquisa — e, de posse dos resultados, faça o que a maioria disser. Qual desses você acha que é mais “democrático” e com qual se sentiria mais seguro?”
Eu queria descobrir se ele acreditava na adequação pragmática do processo político democrático ou se acreditava na retidão moral do voto. Mas o palestrante respondeu:
“O primeiro cenário parece um editorial da revista Reason, e o segundo parece o enredo de um filme de Hollywood.”
Confuso, perguntei:
“Então, que tipo de processo democrático você tinha em mente?”
O palestrante respondeu:
“Algo como o Projeto Genoma Humano — que era um projeto de pesquisa patrocinado internacionalmente.”
Perguntei:
“Como diferentes grupos de interesse resolveriam seus conflitos em uma estrutura como o Projeto Genoma Humano?”
E o palestrante disse:
“Não sei.”
Essa troca me faz lembrar de uma citação de algum ditador, a quem foi perguntado se ele tinha alguma intenção de levar seu estado de estimação para a democracia:
“Acreditamos que já estamos em um sistema democrático. Ainda faltam alguns fatores, como a expressão da vontade do povo.”
A essência de uma democracia é o mecanismo específico que resolve conflitos políticos. Se todos os grupos tivessem as mesmas políticas preferidas, não haveria necessidade de democracia — cooperaríamos automaticamente. O processo de resolução pode ser um voto de maioria direta, ou uma legislatura eleita, ou mesmo um comportamento sensível ao eleitor de uma Inteligência Artificial, mas tem que ser algo. O que significa pedir uma solução “democrática” se você não tem em mente um mecanismo de resolução de conflitos?
Acredito que isso signifique que você mencionou a palavra “democracia” e, portanto, o público deveria aplaudir. Não é tanto uma declaração proposicional, mas o equivalente a uma luz de “Aplausos” que indica ao público do estúdio quando deve aplaudir.
Este caso é notável apenas porque eu confundi a luz dos aplausos com uma sugestão política, causando embaraço para todos. A maioria das luzes de aplausos é muito mais evidente e pode ser detectada facilmente. Por exemplo, se alguém disser:
Precisamos equilibrar os riscos e oportunidades da IA. Se você inverter essa afirmação, obterá:
Não devemos equilibrar os riscos e oportunidades da IA.
Como a inversão parece anormal, a declaração original provavelmente é normal, o que implica que não transmite novas informações. Existem muitas razões legítimas para fazer uma declaração que, isoladamente, não seria informativa. “Precisamos equilibrar os riscos e oportunidades da IA” pode introduzir um tópico de discussão, pode enfatizar a importância de uma proposta específica de equilíbrio ou pode criticar uma proposta desequilibrada. A vinculação a uma declaração normal pode transmitir novas informações para um racionalista limitado — a vinculação em si pode não ser óbvia. Mas se não houver detalhes a seguir, a frase é provavelmente apenas uma luz de aplausos.
Às vezes, sinto vontade de fazer uma palestra que consista apenas em aplausos e ver quanto tempo leva para o público começar a rir:
Estou aqui para propor a vocês hoje que seja necessário equilibrar os riscos e as oportunidades da Inteligência Artificial avançada. Devemos evitar os perigos desnecessários e aproveitar ao máximo as oportunidades que surgem. Para alcançar esses objetivos, devemos planejar com sabedoria e racionalidade, sem agir com medo e pânico ou ceder à tecnofobia. Também não devemos agir com entusiasmo cego. É essencial que respeitemos os interesses de todas as partes interessadas na Singularidade, buscando garantir que os benefícios das tecnologias avançadas sejam acessíveis ao maior número possível de pessoas, em vez de restringi-los a poucos. Devemos tentar evitar conflitos violentos que possam surgir do uso dessas tecnologias, e impedir que uma capacidade destrutiva massiva caia nas mãos erradas. É crucial refletirmos sobre essas questões antes que seja tarde demais para agir.