A ascensão da IA generativa trouxe novos recursos tecnológicos e novas possibilidades – geração de textos, imagens, áudios, vídeos – códigos digitais para os diferentes setores da atividade humana, como, p. ex., comunicação, produção, comércio (negócios), segurança, transporte, educação, saúde, artes, esportes, saúde, direito, política, relacionamentos etc. Por outro lado, é inegável que as ferramentas de IA generativa trouxeram consigo novos problemas, riscos e desafios para a humanidade. Dado seu caráter pervasivo, a IA generativa está alterando profundamente a forma de viver, pensar, agir, produzir e se comunicar do homem contemporâneo.

A sobreposição da utilidade e da eficiência produtiva em relação aos outros aspectos e critérios do pensamento evidencia a hegemonia da racionalidade técnica sobre outras formas de racionalidade – o que torna o pensamento um procedimento acrítico e irreflexivo. Neste caso, o pensamento torna-se unidimensional (uniforme). O cálculo – a operação formal do pensamento constitui a estrutura lógica da razão técnica, dado que a eficiência operacional dos meios é mais relevante que a legitimidade dos fins de nossas ações.

Ora, se a primeira Revolução Industrial transferiu para as máquinas muitas tarefas manuais, a revolução digital em curso pretende transferir para as máquinas físicas e robôs virtuais (chatbots) grande parte das funções mentais do ser humano. Neste sentido, o entusiasmo eufórico dos defensores da IA generativa é responsável por disseminar na grande mídia e na sociedade a falsa ideia (crença) de que é possível num futuro próximo, equiparar ou superar a inteligência humana mediante a invenção de dispositivos tecnológicos ou de réplicas humanas – máquinas pensantes (inteligentes). Ao combinar ciência e ficção científica, os prometeicos vislumbram um futuro em que a humanidade será dominada ou submetida às máquinas inteligentes que ela inventou.

As ferramentas de tecnologia de IA generativa nos dão a falsa impressão de que realizam tarefas cognitivas; parecem pensar, ler, entender, falar e escrever, mas, neste caso, o comportamento inteligente é tão somente simulação de inteligência, porque manipular símbolos e signos ou proferir palavras não é o mesmo que pensar, falar e escrever. Embora promissora em suas possibilidades ou potencialidades tecnológicas, a IA generativa é, por sua natureza inorgânica, mecânica e eletroeletrônica, incapaz de pensar, dado que pensar pressupõe não apenas a existência da matéria orgânica, mas a existência de um sujeito pensante – dotado de consciência e de liberdade. Entretanto, o determinismo explícito ou implícito dos algoritmos da IA generativa constitui uma prova convincente contra a ilusória ideia de que é capaz de escolher e decidir livremente. Projetadas e programadas para executar determinadas funções ou tarefas, as ferramentas de IA generativa deixam transparecer o abismo que separa a inteligência humana e a simulação artificial da inteligência pelas máquinas. Os supostos agentes de IA reproduzem o que está depositado nos Big Data – combinando ou recombinando dados e informações para burlar os mecanismos de identificação de plágio. Ou seja, destituída da condição suficiente para pensar, a IA generativa é tão somente um assistente ou agente artificial da inteligência.

Por sua vez, o otimismo, o encantamento e o fascínio que as novas tecnologias exercem no imaginário social nos induzem a pensar que a solução dos problemas da humanidade depende, em grande medida, ou exclusivamente dos meios tecnológicos. Porém, a tecnologia não é neutra ou desinteressada, mas concebida e orientada por determinados fins ou propósitos. Elevada à condição de mito, a tecnologia se apresenta revestida de poderes mágicos e sobre-humanos. Os robôs humanoides – com feições ou aparência humana - realizam inúmeras tarefas que quando realizadas por seres humanos requerem inteligência. Tal feito, porém, fez ressurgir a ideia de que é possível construir uma réplica humana que poderia, em tese, equiparar ou superar a capacidade humana de pensar. Contudo, apesar da capacidade dos dispositivos de IA generativa de realizarem tarefas que quando realizadas por seres humanos requerem inteligência, tal fato por si só não só demonstra que não possuem inteligência, mas que são comandados ou funcionam segundo princípios e mecanismos operacionais inventados, implantados e controlados por seres inteligentes.

Portanto, os possíveis benefícios ou malefícios da tecnologia não dependem apenas do seu uso, mas de sua concepção (projeto), planejamento e desenvolvimento. Daí perguntar: a serviço de que(m) está a IA generativa? O que é a inteligência? O avanço da IA generativa acarretará inevitavelmente a regressão da inteligência humana (natural)? Os seres humanos estão se tornando subinteligentes? A tecnologia digital é uma tecnologia de extensão e de ampliação ou de limitação, controle e domínio de nosso pensamento? As novas ferramentas de IA expandem ou comprimem (encurtam) a inteligência humana? O que significa pensar? É possível separar o pensamento da inteligência? Pode existir pensamento sem um sujeito que pensa? Pensar é calcular? O pensamento é computável? É possível separar a linguagem do pensamento? As ferramentas de “inteligência artificial” promovem ou impedem o desenvolvimento do pensamento crítico e criativo? Ora, de um ponto de vista filosófico, as novas ferramentas de IA operam sob um conceito controverso e deficitário de inteligência.

Diferentemente da cultura escrita, em que o ato de leitura e da escrita possibilitam a formação e o desenvolvimento do pensamento crítico-reflexivo, a cultura digital favorece a dispersão e a irreflexão do pensamento. Na era digital, a linguagem híbrida (escrita e falada), visual ou imagética assume o lugar da reflexão, i.e., o pensar reflexivo cede lugar à visão (ao olhar de superfície). A estimulação sensorial aliada aos estímulos de nossos desejos substitui o juízo crítico pelo senso comum, a ideia pela opinião. Ora, se as imagens dos textos digitais substituem os conceitos – o pensar reflexivo e conceitual – a reflexão pela visão – o ser pelo parecer – pela aparência das coisas, então ocorre uma regressão no pensamento que resulta na impossibilidade de compreensão crítica da realidade. Ou seja, as ferramentas de IA generativa podem comprometer a autoria e a autonomia do pensamento.

No uso das ferramentas digitais, o pensamento tende a ser superficial, irrefletido e simplificado, porque segue a lógica digital das imagens. Na superficialidade das imagens é o algoritmo que toma o lugar do argumento, i.e., do pensamento conceitual, crítico e reflexivo. O exercício do pensamento crítico-reflexivo cede lugar ao pensamento automatizado (irreflexivo, acrítico, repetitivo e funcional), i.e., a aquisição das operações da racionalidade técnica (instrumental) se configura como a mais nova demanda da educação.

Assim, enquanto a cultura escrita traz consigo um potencial emancipatório – capaz de alargar e expandir a inteligência, formar e desenvolver o pensamento, a cultura digital pode fazer regredir a inteligência do ser humano, porque substitui os conceitos pelas imagens – contrai, limita ou reduz o modo de pensar e de se comunicar das novas gerações. O atrofiamento cognitivo – o empobrecimento do pensamento, que se manifesta na incapacidade de ler e de entender textos mais complexos ou elaborados, é um claro sintoma de que a tecnologia digital traz consigo novas possibilidades, perigos e desafios que precisam ser problematizados.

A ascensão da IA generativa orientada pela racionalidade técnica representa uma ameaça ao pensamento crítico-reflexivo e criativo, dado que as máquinas visam substituir o ser humano naquilo que ele tem de mais essencial – a capacidade de pensar. Porém, a automação de tarefas intelectuais pode comprometer o desenvolvimento da inteligência humana uma vez que a dependência da máquina torna ocioso o nosso pensamento. Ao invés de serem usadas como ferramentas auxiliares de nosso pensamento, tais tecnologias de IA generativa são usadas (em grande medida) como próteses de nossa inteligência.

Se, por um lado, é justificável que as tarefas do pensamento operacional (da razão técnica) sejam transferidas para as máquinas, por outro lado, o fetichismo e o totalitarismo tecnológico das mídias digitais impedem o desenvolvimento do pensamento crítico-criativo. Dado seu grande apelo visual, as tecnologias digitais operam a substituição do conceito pela imagem – o que acarreta o estreitamento e o empobrecimento do pensamento.

Reduzido, portanto, à condição de usuário e de consumidor de informações, o indivíduo perde a autonomia intelectual – a capacidade de pensar por si mesmo. As sensações, as emoções e os desejos individuais se sobrepõem ao pensamento racional e aos interesses coletivos. O pensamento crítico-reflexivo necessário para a compreensão da realidade é substituído pelo pensamento operacional, acelerado, dispersivo e encurtado das plataformas digitais. O pensamento é reduzido a um cálculo – procedimento operacional – matemático e computacional. Porém, a razão instrumental (calculadora), diferentemente da razão crítico-reflexiva, não indaga acerca dos princípios e dos fins de nossas ações, mas apenas acerca da eficiência dos meios. Assim, a reflexão e a crítica são suprimidas em nome da operacionalidade técnica do pensamento. O pensamento autônomo é substituído pelo pensamento assistido, i.e., pelos chatbots da IA generativa. Assim, ao eliminar a diferença entre o original e a cópia, as tecnologias digitais comprometem a autoria e a autonomia do pensamento. Ou seja, o pensamento original e sua cópia (réplica ou reprodução) tornaram-se indistinguíveis. Por esta razão, o pensamento autônomo e autoral corre o risco de desaparecer.

A Coluna Anpof é um espaço democrático de expressão filosófica. Seus textos não representam necessariamente o posicionamento institucional.