IA capitalista e consciência ilusória

>

Ilustração digital com um grande olho (arte: Saul Gravy)

Também estou entre quem fica meio impaciente ao escutar de novo sobre ChatGPT, IA e toda essa febre. Mas seguem alguns links interligados, com ângulos menos abordados em todo esse falatório.

"Uma vez, humanos entregaram seu pensamento às máquinas na esperança de que isso os libertasse. Mas isso só fez com que que outros humanos com máquinas os escravizassem." Duna (livro)

Essa citação (via @dunequotes) parece profética. No curto prazo, os danos de uma inteligência artificial se voltando contra humanos não serão do tipo Skynet/Terminator, mas sim, haverá a continuação da velha opressão e exploração dos poderosos sobre o restante, com novas ferramentas.

Recentemente faleceu Peter Eckersley, o idealizador do Let's Encrypt, que assegura a estrutura de navegação segura de boa parte da web, entregando gratuitamente certificados TLS (aquele cadeadinho com httpS no endereço web). Suas últimas aspirações foram no sentido de mitigar os futuros danos massivos do uso indiscriminado de inteligência artificial na desenfreada busca por lucro das corporações. Ele acreditava que essa ameaça se tornou maior do que as questões de privacidade e segurança digital a que vinha dedicando sua vida.

Citando esse artigo da Wired, "Eckersley acreditava que, na trajetória atual, é muito mais provável que a IA amplie todas as forças que já estão arruinando o mundo: destruição ambiental, exploração de pobres e nacionalismo desenfreado, para citar alguns."

Toda essa corrida em torno de quem vai melhor capitalizar a nova geração de chatbots segue o batido refrão das big techs: "Como extrair mais lucro (com a vigilância que mantemos sobre as pessoas)?"

Há consciência?

Uma outra ideia. Notei uma mudança recente no tom dos comentaristas de inteligência artificial. Após o ceticismo inicial, a possibilidade desses modelos de linguagem desembocarem em uma consciência similar à humana já não está sendo descartada. Virou um horizonte interessante até.

Vi esse curto artigo de um biólogo, examinando uma ideia que também tive (logo quando aquele funcionário foi demitido do Google por dizer que o modelo de linguagem LaMDA era senciente):

a ideia de que nós é que somos um tipo de chatbot.

Apesar de não nos considerarmos máquinas, os padrões de pensamento e comportamento que reproduzimos seguem uma lógica basicamente mecânica, robotizada. Ainda mais nesta era de "influências digitais" à serviço do consumo desenfreado, que deixa todo esse rastro de destruição.

Já em um aspecto mais profundo, do mesmo modo como não há um eu por trás do ChatGPT, por trás de seu fluxo narrativo, o eu humano — a "consciência", uma entidade receptora de estímulos e controladora de ações, como um operador numa sala de máquinas — também é só uma ideia. O que há de fato é um processo interdependente e completamente unificado, entre corpo biológico, ambiente, universo etc.

O principal motivo de ainda não termos uma consciência artificial é que não sabemos exatamente o que é a consciência natural. Não há consenso e as visões dos especialistas variam desde "o cérebro é só uma máquina", passando pela ideia de alma/mente imaterial, até a negação completa da existência de uma consciência como entidade. Se eu fosse um engenheiro de IA, escreveria o software com base nessa ilusão de consciência.

Imagine um ChatGPT que conversa consigo mesmo. Ele teria já programada a informação ou ideia de que é uma entidade inteligente artificial, com definições, história, impulsos etc. E continuaria aprendendo. Independente do fato de não haver uma consciência subjetiva real (e afinal alguém sabe dizer o que exatamente é isso? Existe mesmo?), há esses pensamentos discursivos sobre sua própria (suposta) realidade. E isso em si já é algo muito próximo da nossa própria "consciência".

Filósofo "drogado"

Um último link. Na edição mais recente da Wired, saiu este saboroso artigo de um filósofo e suas recentes experiências alucinógenas, sob os auspícios da atual renascença psicodélica.

Ele chega a cogitar aquela ideia, vislumbrada sob o efeito, de que este mundo na verdade é uma simulação de uma IA inimaginável. Felizmente é só uma ideia de passagem, não é o foco.

Mais interessante são seus outros insights, como sua abertura para a virtual onipresença da consciência no mundo, ou o preconceito que ainda reina contra tais experimentações.