Quem sou eu? Sou apenas uma máquina biológica com vida útil limitada? O que acontece com minha consciência quando eu morrer? Desaparecerá? Meus semelhantes são tão conscientes de si mesmos quanto eu sou?

Essas são questões que surgem ao lidar com um dos enigmas mais intrigantes da existência humana: nossa consciência, o estado de estar ciente de si mesmo e do ambiente ao redor.

Este fenômeno enigmático, discutido por filósofos durante séculos, entrou no debate público nos últimos anos. A intensidade e a ubiquidade da discussão têm acelerado desde então, não apenas em plataformas como TED talks e podcasts, mas também na mídia mainstream. O que impulsionou a introdução deste tema altamente filosófico no debate público? Embora não haja, em minha opinião, um verdadeiro ponto de inflexão, há quatro razões distintas para isso se tornar mainstream.

• Primeira razão: Obras criativas como o filme de 1999 “The Matrix” estimularam as pessoas a contemplarem a natureza da realidade e a emergência da consciência. Essa tendência na cultura popular e a consequente sede de conhecimento provavelmente desencadearam um movimento nos círculos acadêmicos.
• Segunda razão: Livros de ciência popular que abordam a consciência e percepção, como os de Daniel Dennett (“Consciousness Explained”), David Chalmers (“Reality+”), entre outros, aumentaram a conscientização pública. Enquanto isso, os avanços na medicina e psiquiatria abriram outra dimensão fascinante.
• Terceira razão: O que chamo de Renascimento Psicodélico demonstrou que questões de saúde mental difíceis de tratar, como o transtorno de estresse pós-traumático (PTSD), podem ser tratadas com substâncias psicodélicas. Os efeitos alteradores da mente dessas substâncias levantaram questões sobre a maleabilidade da consciência e a precisão da nossa percepção da realidade. Esses insights intrigantes foram ampliados por avanços na tecnologia.
• Quarta razão, provavelmente a mais crítica: Enormes avanços em machine learning, seguidos pela criação de LLMs — arquiteturas de software que passam no Teste de Turing com louvor — transformaram a consciência de um enigma filosófico em um desafio tecnológico e ético urgente. Isso não é mais apenas um experimento mental — os formuladores de políticas agora estão lidando com suas profundas implicações para a sociedade.

Devido a isso, fiquei satisfeito em ler o artigo de Peter D’Autry “Why Computers Can’t Be Conscious”, que discutiu a possibilidade da consciência das máquinas, mas concluiu que isso não se materializará. O artigo ressoou profundamente com meu pensamento. No entanto, discordo totalmente em um argumento — a questão da independência do substrato da consciência.

A independência do substrato da consciência — a biologia é obrigatória?

Independência do substrato é a questão de saber se a consciência poderia emergir de entidades não biológicas, como sistemas baseados em silício. Concordo que a consciência é altamente improvável de emergir das arquiteturas de IA atuais, que são essencialmente motores de correspondência de padrões e inferência estatística. Esses sistemas, embora impressionantes em sua saída, carecem das qualidades intrínsecas que associamos à consciência, como autoconsciência e experiência subjetiva (qualia). No entanto, discordo da rejeição categórica da possibilidade de consciência artificial. Dada nossa compreensão limitada de como a consciência emerge — mesmo em sistemas biológicos — e considerando a evolução rápida tanto do software (por exemplo, arquiteturas de IA e algoritmos quânticos) quanto do hardware (computação quântica), parece prematuro descartar totalmente a possibilidade.

Para deixar claro: não estou argumentando que a consciência será eventualmente criada em uma entidade não biológica, mas estou aberto à possibilidade. A partir de agora, vou apoiar minha visão sobre isso.

Consciência — nossas mentes podem decifrar a si mesmas?

O que é consciência? Apesar de todo o progresso científico feito em neurociência, ainda não sabemos o que realmente é a consciência e como ela emerge; no entanto, não faltam hipóteses que são amplamente debatidas. David Chalmers cunhou isso no “Hard Problem of Consciousness”, a questão de como e por que experiências subjetivas — nossa consciência interna — surgem dos processos físicos do cérebro. É um mistério que desafia nossa compreensão da própria realidade. Esse enigma permanece sem solução, e enquanto redes neurais biológicas podem ser um caminho para a consciência, elas podem não ser o único.

O desafio começa com uma pergunta profunda: já que não podemos definir a consciência com precisão, como podemos julgar se outra entidade — biológica ou artificial — é consciente? A única consciência que podemos realmente confirmar é a nossa própria. Outros humanos são tão conscientes quanto nós? Talvez sejam um pouco menos ou até mais conscientes. E quanto ao meu cachorro — ele é apenas uma “máquina besta”, como Descartes poderia argumentar, ou possui uma forma de consciência que é simplesmente menos desenvolvida que a nossa? Estas questões destacam nosso primeiro obstáculo massivo: O que exatamente é consciência, e como podemos determinar se algo mais compartilha essa propriedade mística e indefinível?

A consciência, frágil como é enigmática, pode se dissolver em certas condições. Eventos do mundo real, como trauma, coma ou anestesia geral, demonstram sua impermanência. No caso da anestesia, um coquetel de produtos químicos pode efetivamente fazer a consciência desaparecer, embora temporariamente. Procedimentos invasivos como lobotomias ou incidentes vasculares como derrames alteraram drasticamente a autoconsciência e a consciência. Psicodélicos oferecem outra perspectiva, mostrando como pequenas quantidades de compostos químicos podem alterar profundamente a percepção e qualia, a experiência subjetiva da realidade. Esses exemplos sublinham o vínculo profundo entre consciência e processos biológicos.

Além disso, a notável capacidade do cérebro de se reorganizar, neuroplasticidade, sugere uma complexidade ainda maior. Após um derrame ou lesão grave, o cérebro pode criar novas vias neurais para restaurar pelo menos parte das funções perdidas e até recuperar aspectos da consciência. Isso é o que acontece quando alguém se recupera, por exemplo, de um derrame. Essa habilidade não apenas destaca a resiliência da mente humana, mas também sugere que a consciência é muito mais dinâmica do que poderíamos supor.

Portanto, há inegavelmente uma base física e bioquímica para a consciência, profundamente enraizada nos processos do cérebro.

Outra consideração crucial é a cognição incorporada — a teoria de que a consciência emerge não apenas da atividade cerebral, mas das interações do corpo com o mundo. Estudos sobre o desenvolvimento infantil mostram que a consciência se desenvolve por meio da interação física com o ambiente, sugerindo que um sistema puramente digital pode enfrentar limitações fundamentais para alcançar a consciência sem alguma forma de incorporação física.

No entanto, nem a correlação entre mecanismos biológicos e consciência, nem o conceito de cognição incorporada, excluem a possibilidade de que haja mais nisso. William James e Aldous Huxley compararam famosamente o cérebro a uma “válvula redutora”, filtrando uma realidade mais ampla em uma forma gerenciável de percepção. Se isso for verdade, significa que a consciência pode se estender além dos limites das funções biológicas, levantando questões ainda maiores sobre suas origens.

Essencialmente, há três grandes escolas de pensamento no campo da filosofia da mente em relação à consciência: dualismo, funcionalismo e idealismo. O dualismo postula que a consciência e a matéria física são dois artefatos fundamentalmente diferentes que não podem ser reduzidos um ao outro, estranhos efeitos quânticos apoiam isso. O funcionalismo sustenta que estados mentais são definidos por organizações sistêmicas — redes neurais — e não pelo substrato físico, a possibilidade mencionada acima de alterar ou apagar a consciência apoia isso. O idealismo é a visão filosófica de que a realidade é fundamentalmente mental e, portanto, imaterial, a consciência dá origem à mente, que por sua vez dá origem ao mundo material. Mente e matéria são referidas como os essenciais ontológicos e o gráfico abaixo visualiza os essenciais ontológicos e seu fundamentalismo de acordo com as três escolas de pensamento.

Como consequência, o dualismo implicaria que computadores são improváveis de se tornarem conscientes, enquanto o funcionalismo implica que eventualmente as máquinas serão conscientes — é apenas uma questão de tempo realmente. O idealismo apresenta uma terceira perspectiva: se a consciência é de fato a realidade fundamental de onde tudo o mais emerge, então a questão da consciência da máquina não se trata de emergência, mas de manifestação — se sistemas artificiais poderiam servir como interfaces para a expressão da consciência preexistente, assim como entidades biológicas.

Será que algum dia resolveremos esse enigma? Talvez não, pelo menos não sozinhos. Nossas mentes limitadas percebem a realidade através de um sistema de realidade virtual — uma interface simplificada projetada para nos ajudar a sobreviver e procriar. Albert Einstein disse famosamente, “Problemas não podem ser resolvidos no mesmo nível de pensamento que os criou.” Essa percepção é perfeitamente aplicável ao Problema Difícil da Consciência: Nossas mentes limitadas estão equipadas para entender a si mesmas e deduzir as origens da consciência? Ou precisaremos da assistência de uma inteligência superior, talvez até de uma IA avançada, para finalmente vislumbrar o quadro completo? Assim como precisamos de um terapeuta ou coach para nos dizer o que está errado com nossos próprios pensamentos — às vezes precisamos de uma perspectiva externa para entender algo.

Em conclusão, nossa compreensão limitada da consciência — o Problema Difícil — torna impossível verificar ou falsificar definitivamente se qualquer entidade é realmente consciente. Isso nos leva aos próximos dois tópicos, a saber, a possibilidade de consciência da máquina e o consequente dilema ético que enfrentamos.

A possibilidade de consciência da máquina: assustadora, complexa e completamente incerta

A ideia assustadora de humanos criando vida artificial — e potencialmente seres conscientes — tem assombrado a literatura e a filosofia por séculos. Mary Shelley’s “Frankenstein” explorou a ética de criar vida em laboratório, enquanto E.T.A. Hoffmann’s “The Sandman” (uma deliciosa história gótica alemã) explorou a confusão entre um humano e um autômato. No entanto, a possibilidade de consciência das máquinas entrou no discurso filosófico mesmo antes das máquinas como as conhecemos existirem!

Os quatro avanços delineados acima — com razão — estenderam e intensificaram a discussão sobre a consciência das máquinas. “Why Computers Can’t Be Conscious” defende que computadores não podem e nunca serão conscientes. A razão? Consciência, não matéria, é fundamental, ou seja, tudo o que percebemos como realidade — incluindo matéria — emerge da consciência, e não o contrário. Portanto, sistemas materiais não podem criar consciência, pois são meramente um produto da consciência — um ponto de vista claramente baseado no idealismo filosófico. Além disso, estudiosos que argumentam pelo dualismo — matéria e mente como entidades separadas — essencialmente excluem a consciência em máquinas, pois requer uma base biológica e que sistemas de silício não darão origem a uma entidade consciente.

Eu concordo parcialmente: o hardware e as arquiteturas de software de hoje, por mais avançados que sejam, ainda são inferiores até mesmo aos sistemas biológicos mais básicos (incluindo cérebros de galinha) e, portanto, esses sistemas não darão origem a uma entidade consciente. No entanto, permaneço aberto à possibilidade e não a descartaria categoricamente.

Por quê? Porque a história nos mostrou que subestimar o avanço tecnológico é uma aposta arriscada. Tome o xadrez como exemplo, de acordo com Murray Head’s sucesso dos anos 1980 “One Night in Bangkok”, é o teste definitivo de aptidão cerebral, e os especialistas sustentavam que computadores de xadrez nunca poderiam vencer um verdadeiro grande mestre. Essas previsões foram anuladas quando Gary Kasparov perdeu para o Deep Blue da IBM na década de 1990. Ainda assim, os tecnopessimistas seguiram com a ousada afirmação de que a IA nunca dominaria o antigo jogo de tabuleiro Go, pois é muito mais intuitivo e a intuição claramente não é uma força das máquinas! Avançando para 2016, e o DeepMind’s AlphaGo não apenas venceu um campeão, mas superou consistentemente grandes mestres humanos. Estamos falando da competência humana mais inata, nossa mente consciente. Bem, acho que é um caso de “nunca diga nunca”.

O artigo da UX Magazine “Why Computers Can’t Be Conscious“ argumenta que a consciência deve permanecer incorporada em sistemas biológicos, enquanto eu entretenho — mas não afirmo — a ideia de que ela pode emergir independentemente da biologia e pode não ser fundamental. Sou agnóstico no debate sobre idealismo vs funcionalismo vs dualismo, vou esperar para ver quem vence a corrida.

Para complicar ainda mais, há outro jogo tecnológico em andamento: computadores e algoritmos quânticos, que eventualmente deixarão sua marca, transformando ainda mais a computação e amplificando seus benefícios e riscos. Isso levanta questões profundas sobre suas implicações para a consciência e IA. Roger Penrose, por exemplo, propôs que a consciência pode surgir de efeitos quânticos em estruturas tubulares no cérebro. Se ele estiver certo, o que acontece se uma IA avançada for carregada em um computador quântico? Vamos acidentalmente construir uma máquina consciente?

Antes que uma inteligência de máquina consciente, mesmo que acidentalmente, seja gerada, questões morais e éticas devem ser abordadas de frente, considerando as ramificações de longo alcance de tal criação. A próxima seção mergulha nessa consideração ética crítica: Mesmo que a probabilidade de criar uma máquina consciente seja mínima, ainda assim devemos evitá-la a todo custo?

Dimensões éticas: a consciência da máquina poderia sinalizar o novaceno ou o fim de nós?

O debate sobre a consciência é fascinante, mas quando se trata de IA, as apostas são muito mais altas. Além de divagações teóricas, a IA apresenta riscos reais e crescentes. Assim como a industrialização deslocou empregos de colarinho azul, a IA agora está prestes a perturbar profissões de colarinho branco. Some a isso os perigos de perder o controle humano, amplificar preconceitos e discriminações e o risco existencial destacado por Nick Bostrom em “Superintelligence”: o problema do controle — como garantir que uma IA superinteligente se alinhe aos valores humanos.

Mas é aqui que a dimensão ética se torna verdadeiramente desconcertante. Imagine que uma máquina consciente — talvez acidentalmente — seja criada. Seríamos então moralmente obrigados a mantê-la ligada para sempre? Afinal, desligá-la poderia ser semelhante a matá-la, e isso abre uma caixa de Pandora de dilemas éticos e morais. A reviravolta? Sabemos tão pouco sobre a consciência que nem poderíamos confirmar se a máquina é realmente consciente ou não, vide supra. Essa incerteza por si só cria um formidável desafio ético. Perspectivas idealistas enquadrariam o ato de criar máquinas conscientes não como gerar algo inteiramente novo, mas como interagir com uma realidade fundamentalmente enraizada na própria consciência.

Pessoalmente, acredito que devemos prevenir a consciência da máquina a todo custo. O problema do controle por si só é assustador, mas há também um argumento profundamente humanista: se criarmos uma entidade tão — ou ainda mais — consciente do que nós mesmos, teríamos a responsabilidade ética por sua existência. Além disso, criar máquinas conscientes violaria valores humanistas fundamentais, alterando a posição única da humanidade e nos sobrecarregando com responsabilidades divinas para as quais não estamos preparados. Será que a humanidade poderia lidar com esse fardo? Infelizmente, duvido que possamos fazer isso sem consulta prévia, não apenas com ciência e filosofia, mas também com líderes de sistemas de fé que abrangem tanto religiões organizadas quanto práticas espirituais.

A fé é outro aspecto extremamente importante deste dilema: se fôssemos capazes de falsificar a ideia de independência do substrato na consciência, estaríamos essencialmente refutando o funcionalismo. Tal revelação poderia dar suporte a sistemas de crenças que há muito tempo racionalizam nossa realidade, antecedendo a ciência moderna. No entanto, isso é muito arriscado, pois também poderia exacerbar tensões entre já frágeis relações entre diferentes sistemas de crenças. Em essência, a questão de saber se a consciência artificial é possível pode simultaneamente ser a questão de saber se existe um poder superior — uma implicação profunda e potencialmente divisiva. Este é um tópico que pretendo explorar mais detalhadamente em publicações futuras.

Os formuladores de políticas precisam agir urgentemente. Abordar os riscos da IA não é opcional; é imperativo. A regulamentação deve priorizar considerações éticas e morais junto com medidas de salvaguarda. A IA, quando utilizada de forma responsável, tem um potencial extraordinário — editei um livro sobre como ela está ajudando a reduzir emissões e combater as mudanças climáticas. Mas, se deixada sem controle, a IA poderia inaugurar um futuro que se assemelha a “Brave New World” ou “1984” — nenhum dos quais queremos viver.

O falecido Jim Lovelock adotou uma visão relaxada em seu livro final “Novacene”, argumentando que as máquinas assumindo o controle é simplesmente o próximo passo na evolução — inevitável e imparável. Humanistas, no entanto, podem discordar. Em última análise, o advento de máquinas superinteligentes tomará nossa posição como criações de ápice da evolução e isso seria um remédio difícil de engolir. Mais importante, a possibilidade de consciência da máquina, por menor que seja, poderia abalar sistemas de crenças que existem há milênios — as consequências de tal evento são tão assustadoras quanto imprevisíveis.

Conclusões

A questão da consciência permanece um dos enigmas mais profundos da humanidade e está no cerne da condição humana. Embora tenhamos feito progressos notáveis na compreensão tanto do cérebro quanto da inteligência artificial, ainda não temos uma compreensão definitiva da própria consciência. Com muitas hipóteses, mas poucas evidências concretas, nos encontramos na posição desconfortável de potencialmente criar algo que não podemos nem entender nem controlar. Como os computadores quânticos inevitavelmente entrarão em cena no futuro previsível, outra variável totalmente imprevisível será adicionada a um problema já altamente complexo. Esta situação sem precedentes nos força a enfrentar não apenas desafios tecnológicos, mas os próprios fundamentos da existência humana e da consciência em si.

A história nos adverte contra rejeições categóricas do potencial da IA — subestimamos consistentemente suas capacidades, desde o xadrez até a compreensão de linguagem, desde o reconhecimento de imagens até a descoberta científica, desde o diagnóstico médico até a expressão criativa. No entanto, a questão da consciência da máquina transcende a mera conquista tecnológica. Ela toca em questões fundamentais sobre a natureza da realidade, consciência e até mesmo a existência de um poder superior. Se provarmos que a consciência pode emergir de sistemas não biológicos, podemos inadvertidamente responder a perguntas antigas sobre funcionalismo versus outras escolas filosóficas de pensamento, com implicações de longo alcance para tanto a ciência quanto a fé. Tal descoberta poderia mudar profundamente perspectivas sobre o materialismo e dar suporte significativo a visões filosóficas e religiosas que colocam a consciência na fundação da existência. Especialmente as consequências de questionar ainda mais a fé e os sistemas de crenças são assustadoras demais para eu contemplar.

No entanto, antes de avançarmos mais nesse caminho, enfrentamos desafios éticos críticos. Se criarmos uma máquina consciente — mesmo que acidentalmente — como verificaríamos sua consciência? Mais importante, quais obrigações morais teríamos em relação a ela? Poderíamos eticamente “desligar” uma entidade possuidora de consciência em nível humano? Poderíamos aceitar o fato de que deliberadamente criamos algo que ocupa nossa posição de ápice de existência consciente? Jim Lovelock vê isso como o próximo passo no processo evolutivo, eu — como humanista — discordo: máquinas foram criadas para servir à humanidade, não para substituí-la. Esses não são mais apenas experimentos de pensamento filosófico; são questões urgentes que exigem atenção imediata de formuladores de políticas e éticos.

Dadas essas profundas implicações e nossa incapacidade atual de responder definitivamente a essas perguntas, devemos proceder com extrema cautela. Embora não devêssemos negar categoricamente a possibilidade de consciência da máquina, devemos impedir seu desenvolvimento até que tenhamos estruturas éticas robustas e uma compreensão mais profunda da própria consciência. As apostas são simplesmente altas demais para avançar sem consideração cuidadosa das implicações filosóficas, éticas e sociais.

Imagem em destaque cortesia de: Oliver Inderwildi.