‘Pantheon’ e o transumanismo

Pantheon (2022-23) é uma série de animação adulta com ficção científica genuinamente instigante. Saiu agora a segunda e última temporada (não se engane pelo trailer infantiloide).

No ano passado, já tinha se tornado em fenômeno cult. Apesar de não arrasar em audiência, criou uma legião apaixonada.

Tinha mencionado-a de passagem nesse post sobre o autor do livro em que se baseia: The Paper Menagerie — Ken LiuThe Paper Menagerie — Ken Liu
Estou assistindo toda semana os episódios de Pantheon, série de animação sobre consciência em computadores. Não sou muito fã de animação, com a exceção de animes clássicos como Akira, Ghost in The Shell e similares (como o novo Cyberpunk -…. Tem tantos temas fascinantes que ela merece uma reflexão própria.

O assunto central é o transumanismo, em que mentes podem ser copiadas para a nuvem como um tipo de evolução. Fico desconfortável com esse tipo de história. Tal imaginário alimenta uma mentalidade de seita entre bilionários e tech bros (mais sobre isso adiante). Mas não deixa de ser interessante como ficção científica.

Na história, depois que a barreira do upload da consciência é rompida, a civilização entra em convulsão. Muitas questões sociopolíticas e éticas são levantadas. Qual é a humanidade que vai ser concedida a esses seres? Cópia é continuidade? Isso é evolução ou extinção? Como se proteger de seu imenso poder destrutivo? Humanos convencionais são superiores, inferiores ou iguais?

Um detalhe de ousadia exemplar foi retratar o arquivilão e sua corporação com as feições de Steve Jobs e da Apple¹, já que ela é um bom símbolo do ponto em que chegamos no culto à Máquina. Já outro antagonista é igual ao maior magnata indiano, Dhirubhai Ambani, muito famoso fora do Ocidente.

A história é tão envolvente que logo esquecia estar vendo um desenho animado. Sua fonte são seis contos² do livro The Hidden Girl (2021), do premiado autor Ken Liu.

São igualmente fascinantes, podendo ser lidos na sequência como se fossem uma história só. Focam mais no drama humano e aspectos psicológicos (uma marca de Ken Liu), fazendo menos apologia (aparente) do transumanismo. Outra diferença do livro é o cenário abertamente apocalíptico, sendo o fim da civilização humana como conhecemos; e as catástrofes ambientais não são omitidas.

No final da segunda temporada, quase abandonei a série. Há uma mudança nítida de tom: a possibilidade de cópias humanas continuarem vivendo dentro de computadores é apresentada como algo até vantajoso, apesar de tudo. Como ouvi falar de um final absurdamente bom, persisti. Realmente valeu.

Recomendo pra quem for fã de scifi, apesar do elogio ao transumanismo. Acaba sendo útil para ilustrar os sonhos de entusiastas desse movimento, já que isso ficou relevante hoje. Outro elemento ficcional difícil de engolir, para mim, é o próprio processo de copiar a consciência. Comento a seguir, e também o final apoteótico (na seção de spoiler).

Onde ver: Netflix. Como a série foi cancelada, e depois concluída por outra produtora, parece que a segunda e última temporada está separada. Mas dá para ver no Stremio (com plugin Torrentio).

Controvérsia do transumanismo

O transumanismo (junto com o longoprazismo) vem sendo abordado na cobertura do mundo tech. Isso porque seus ideais estão desproporcionalmente mais difundidos no Vale do Silício, entre entusiastas de criptomoedas e tecno-bilionários como Musk.

"O que isso tem a ver comigo? Qual é a relevância dessas crenças exóticas?"

Esse artigo na Salon esclarece.

Resumindo-o, é elevada a porção de tecno-bilionários e pessoas influentes da área que adotam algum ramo do ideal TESCREAL³ — sigla em inglês para o pacote de ismos: transumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruísmo eficaz e longoprazismo.

Como essas megacorporações acabam moldando o mundo, a ideologia de seus executivos nos afeta bastante. São basicamente crenças em um suposto futuro bem absoluto para a "humanidade" (no fim, limitada a eles mesmos) — todo mundo acredita estar fazendo o bem. Assim, tal filosofia justifica ações condenáveis no presente, como danos socioambientais, degeneração das condições de trabalho, ou então a extravagância insensível de gastos imensos com coisas como naves espaciais, super-iates etc.

Entre esses novos ismos, o transumanismo é um denominador bastante comum. A ideia de "evoluirmos" em direção a cópias do cérebro vivendo em uma simulação digital pressupõe o abandono do corpo e a extinção da humanidade atual, e isso é visto como positivo.

Já em uma popular ideia ligada ao longoprazismo, o maior bem que a humanidade poderia ter seria uma utopia tecnológica de longo prazo, envolvendo coisas como colonização espacial, imortalidade na nuvem etc. Diante desse futuro "grandioso" bem lá na frente, problemas atuais como fome, desigualdade e emergência ambiental seriam coisas insignificantes, que podem ser ignoradas. E as pessoas com acesso a essas tecnologias certamente serão as privilegiadas.

Por que as ideologias TESCREAL estão mais difundidas entre tecnobilionários? Talvez porque quanto mais dinheiro e poder alguém tiver, maior será o medo de perdê-los. Quanto maior o medo, mais serão buscadas formas de lutar contra a realidade, de impedir esse curso natural, que inclui a morte. Assim, a obsessão com riqueza e vida eternas, apoiada na tecnologia, se torna uma aberração tão insana quanto a quantidade de dinheiro. Outro fator, mais ligado ao Altruísmo Eficaz, é que há um foco em planilhas de investimento e retorno, que na prática se distancia das pessoas. Por motivos óbvios, bilionários e tech bros adoram a abordagem.

Então sinto-me desconfortável diante da ficção científica que retrata o transumanismo como evolução. Isso pode acabar servindo de fermento ideológico para uma potencialização do dano big tech e de outras corporações no presente.

Falácia do transplante mental

Outro elemento desanimador para mim em ficções transumanistas é a própria cópia digital da mente. Isso pressupõe que a consciência se limita às sinapses cerebrais, partindo de um materialismo reducionista, que restringe a consciência à matéria. Apesar de ser uma visão predominante na ciência, está longe de ser unanimidade.

A outra opção não é uma alma imaterial. Não se trata de um embate entre ciência e religião, já que há muitos cientistas e filósofos não religiosos que descartam o materialismo reducionista.

O ponto central é que não existe consenso sobre o que de fato é a consciência e a sua relação com o cérebro. Este ponto referencial e subjetivo que chamamos de consciência nunca foi isolado e observado nos processos cerebrais. Isso é chamado de o "problema difícil da consciência" na filosofia.

(Sobre isso: O problema difícil da consciência, e a confusão entre abstração e realidade)

Talvez um dos motivos da dificuldade de resolver é que é difícil até mesmo formular a pergunta. Nem vou arriscar adentrar muito. Mas ela se refere a como conciliar a qualidade imaterial da experiência subjetiva com as propriedades materiais do cérebro. Se são substâncias de natureza diferente, como é possível a interação? Ou seja, é sobre a dualidade mente e corpo — na filosofia do idealismo (Tudo é menteTudo é mente
Esse é um dos melhores livros de filosofia que peguei nos últimos anos: The Idea of The World, de Bernardo Kastrup. É uma formulação sistemática e moderna do "idealismo", a ancestral ideia de que a natureza da realidade é mental,…), esse problema insolúvel não existe.

Para muitos (como eu), é falsa a ideia de que basta esperar para que se descubra como copiar a mente escaneando o cérebro, porque não se sabe ainda nem o que exatamente é a consciência (certamente não é o mesmo que memória). Dependendo de qual for sua natureza, será definitivamente impossível copiá-la ou criá-la.

Por exemplo, é relativamente corrente a ideia de que a "consciência" é um tipo de ilusão, de que uma entidade receptora de percepções e criadora de pensamentos é como uma simulação do cérebro, que fabrica o conceito de um sujeito, na forma de uma ideia subliminar fixa (que se funde com todas as experiências). O motivo da existência desse processo (fruto da evolução) é que ele traria muitas vantagens de sobrevivência nas interações com o ambiente e outros seres.

"OK, mas o corpo não é um sujeito?"

Como o corpo é interdependente ou inseparável do ambiente, sua individualidade seria uma ilusão no nível absoluto, apesar de ela ser aparente relativamente.

Além disso, há a noção pampsiquista, e também a idealista, de que tudo já é consciência. Nesse contexto, seria possível copiá-la?

Mesmo assim, ainda consigo desfrutar dessas histórias sobre copiar a mente. Para mim, é algo puramente no reino da fantasia ou mitologia, como mágica e dragões, simbolizando a busca por imortalidade.

Nesse sentido, um tema indireto mas central de Pantheon é como a tecnologia virou a nova religião, algo nem tão avançado assim.

A premissa por trás da ideia de copiar a mente é que ela poderia ser codificada em bits, portanto seguiria a lógica de um computador. Do mesmo modo como o corpo seria uma "máquina biológica", a mente seria uma complexa calculadora. "Upload da consciência na nuvem" pode soar como algo evoluído mas, no final, se baseia em projetar mecanismos sobre a realidade. Como era feito há mais de 300 anos, quando algum relojoeiro deslumbrado com sua tecnologia imaginou que o universo talvez fosse um relógio.

---

Spoiler

A conclusão de Pantheon é daquelas que estimulam a reflexão por muito tempo. Apesar de os dois últimos episódios serem apressados e convulsivos, o final é realmente memorável.

Muita gente não aceitou a ideia do casal principal voluntariamente esquecer tudo e voltar para a simulação, para "viverem de verdade".

Após mais de cem mil anos, a versão digital de Maddie se transforma numa divindade com poder sobre bilhões de mundos (virtuais). Como ela poderia abdicar de tudo em nome de uma vida comum, conhecendo toda a angústia que virá?

Esse é um tema central na cosmologia da filosofia Vedanta do hinduísmo. A divindade absoluta se entendia com a própria onisciência — se ela conhece tudo, não há alegria, pois ela se baseia na ignorância sobre quando e como virá ou será. Então ela inventa um "jogo", em que vai esquecer tudo, se fragmentando em toda a existência, simplesmente pelo deleite da experiência incerta, da novidade, variedade e descoberta da vida e de si mesma. Comentei sobre isso no final deste texto.

O modo como isso foi adaptado para uma simulação computadorizada do universo ficou perfeito.

A simulação galática mais ampla da entidade SafeSurf, em parceira com os misteriosos alienígenas, também me deixou pensando.

No caso de haver seres tecnologicamente muito evoluídos universo afora, é bem possível que eles tenham aparatos avançados de simulação da realidade, sendo capazes de implantar mentes ali, com muita energia a disposição (como na esfera de Dyson). Nesse caso, provavelmente estariam fazendo bilhões de simulações, envolvendo uma infinidade de consciências, artificiais ou não, e mundos. Então a probabilidade de estarmos numa simulação de fato existiria.

Ou não.

Essa imagem pode ser mera projeção daquilo que consideramos avançado: computadores e muita energia — seria isso avanço genuíno? E também parte do princípio de que a consciência seria copiável ou fabricável.

---