O ChatGPT: o descaso com a desconfiança e o entusiasmo do pensamento
Natal, RN 22 de abr 2024

O ChatGPT: o descaso com a desconfiança e o entusiasmo do pensamento

17 de abril de 2023
11min
O ChatGPT: o descaso com a desconfiança e o entusiasmo do pensamento

Ajude o Portal Saiba Mais a continuar produzindo jornalismo independente! Apoie com qualquer valor e faça parte dessa iniciativa.

Quero Apoiar
Por Marcos Saiande Casado e Manoel Honório Romão

O ChatGPT é um modelo de linguagem desenvolvido pela OpenAI. É uma rede neural treinada em larga escala usando inteligência artificial (IA) e aprendizado profundo para responder a perguntas e realizar tarefas de conversação. Ele é baseado no GPT-3 (Generative Pretrained Transformer-3), que é uma das maiores redes neurais de linguagem treinadas até o momento. O ChatGPT é projetado para ser utilizado em aplicações de conversação, como chatbots, assistentes virtuais, e plataformas de atendimento ao cliente. Além disso, ele também pode ser usado para a geração de texto, tradução automática, e outros tipos de processamento de linguagem natural. A definição foi escrita pelo próprio ChatGPT, quando questionado sobre o que é o ChatGPT.

Desde a disponibilização de sua versão teste em dezembro de 2022, nos Estados Unidos (EUA), essa nova tecnologia de interação homem-máquina vem sendo objeto de polêmica em toda parte.Segundo matéria publicada na Forbes, mais de 100 milhões de usuários, em 2 meses, se cadastraram para a utilização do poderoso chatbot. As possibilidades de aplicação do ChatGPT são amplas e se estendem inclusive ao ambiente das escolas e universidades. No Brasil, esse efeito não foi diferente e como a chegada desse recurso tecnológico, lançado oficialmente em 10 de fevereiro de 2023, teve início o atual debate em torno das consequências de aplicações do Chat no ambiente de negócios, dos impactos no mundo do trabalho, da tecnologia e da educação. Nas redações de jornais já se fala em substituição de pessoal que se dedica à elaboração de textos sobre clima e horóscopo pelo escritor virtual. Contudo, vale lembrar que a programação de chatbot se confunde com o início da computação. Na década de 1960, o software Eliza, desenvolvido por Joseph Weizenbaum, foi uma tecnologia desenvolvida com intuito de estabelecer uma relação homem-máquina e objetivava simular a atividade de uma psicoterapeuta que fazia perguntas considerando os termos inseridos pelos usuários no decorrer da conversa. A novidade do ChatGPT é a sua capacidade de massificação da interação homem e máquina. Basta um cadastro na página da empresa e qualquer usuário de computador pode ter acesso aos recursos oferecidos pelo cérebro artificial.

A desconfiança e até mesmo o desagrado explícito sobre o excesso de otimismo em relação ao progresso científico e técnico não é um sentimento novo. Um dos exemplos mais significativos na história do pensamento moderno se encontra no núcleo de um dos mais expressivos movimentos de exaltação do progresso intelectual do gênero humano, o iluminismo francês do século XVIII.  Face ao trabalho dos enciclopedistas que, entre outras coisas, glorificavam os largos passos que as ciências e as artes davam pelo menos desde o século XVI, o pensador genebrino Jean-Jacques Rousseau alertava para o fato de que essas conquistas não refletiam uma mudança no plano moral da humanidade e acabavam por produzir um efeito contrário, isto é, aprofundaram as desigualdades sociais. A miséria e a pobreza se alastraram de maneira soberba na capital cultural do mundo. Ilustra isso a mortalidade infantil que, segundo Buffon, denunciava uma taxa de quase cinquenta por cento das crianças que morriam até os quatro anos de idade.

Um outro exemplo de desconfiança aos avanços técnicos foi feita pelo filósofo Martin Heidegger, Em um trecho da Introdução à Metafísica, o autor faz a seguinte pergunta com tonalidades proféticas : “[...] Quando o mais afastado rincão do globo tiver sido conquistado tecnicamente e explorado economicamente; quando qualquer acontecimento em qualquer lugar e a qualquer tempo se tiver tornado acessível com qualquer rapidez; quando um atentado a um Rei na França e um concerto sinfônico em Tóquio poder ser “vivido” simultaneamente; quando tempo significar apenas rapidez, instantaneidade e simultaneidade e o tempo, como História, houver desaparecido da existência de todos os povos; quando o pugilista valer, como o grande homem de um povo; quando as cifras em milhões dos comícios de massa forem um triunfo, - então, justamente então continua ainda a atravessar toda essa assombração, como um fantasma, a pergunta: para que? Para onde? E o que agora?”.  O contexto temporal dessas palavras é 1935, primeiros anos do governo nazista na Alemanha. Nos anos seguintes a humanidade pode assistir ao salto tecnológico promovido tanto pela máquina de guerra Alemã como pelos países aliados como resposta militar. O ápice dos avanços científicos e tecnológicos desse período foi o domínio das forças atômicas que resultou, de um lado, nas usinas de produção abundante de eletricidade e, de outro lado, a bomba que dizimou vidas e cidades inteiras.

Do lado dos otimistas com o avanço técnico e científico podemos citar as palavras de Francis Bacon (1561-1626) sobre as forças potenciais da utopia científica de seu século: “Prolongar a vida. Restituir a juventude. Retardar o envelhecimento. Curar as doenças consideradas incuráveis. Diminuir a dor. Purgantes menos repugnantes. Aumentar a força e a atividade. Aumentar a capacidade de suportar a tortura ou a dor”. Podemos enxergar que as palavras do autor inglês ganharam verdade no mundo tendo como referência apenas os avanços científicos que estavam em marcha no seu tempo. No século XX, o pensador espanhol José Ortega y Gasset, escreve que “Dentre as coisas que o ser humano faz e produz, a ciência é uma das mais elevadas”. Essas palavras são resultado de uma reflexão a respeito da revisão da universidade enquanto espaço de produção da ciência para se tornar um lugar para o ensino de ciência. Ortega y Gasset alerta que a produção científica demanda a figura que ele denomina “o monge moderno”, isto é, o cientista do real. Nessa perspectiva, a ciência é tomada como um produto mais nobre do que qualquer outra atividade humana e, por isso, deve-se pressupor algum efeito moralizante.

Entre as suspeitas que pairam sobre o ChatGPT a principal se concentra no fato de que enquanto plataformas como o Google respondem perguntas possibilitando a consulta a uma infinidade de fontes possíveis. O Chat oferece uma única resposta sem referências às bases consultadas, não sendo possível a confrontação entre fontes. Embora se trate de uma resposta elaborada de maneira rápida e sintética, sobretudo em assuntos matemáticos, o Chat possui potencial de manipulação na medida em que dirige o usuário para a aceitação de uma única resposta, sem qualquer reflexão sobre a construção da resposta. Além disso, ao perguntarmos ao próprio ChatGPT sobre suas limitações a inteligência confessa suas dificuldades, a saber:: a) o seu potencial de desinformação, uma vez que suas respostas tomam como base informações existentes na internet até o ano de 2021 e não garante a total autenticidade das informações que ele emite; b) pode ampliar a propagação do uso inadequado de linguagem e de preconceitos existentes na sociedade, tais como respostas que promnovem a discriminação e outras formas de exclusão; c) o uso excessivo do ChatGPT pode induzir parte da população a assumir informações e opiniões fornecidas pela máquina, fato que fragilizar o pensamento crítico e a qualidade do debate público na sociedade; d) a automatização de funções mais básicas humanas, incluindo as funções de atendimento ao cliente e a geração de conteúdo mais simples como pequenas mensagem, pode levar ao desemprego em larga escala; e) ausência de garantias de privacidade dos usuários, pois o constante uso da inteligência virtual fragiliza a privacidade das pessoas.

Na esfera escolar, pesquisa realizada pela Intelligent com 1.000 estudantes universitários nos EUA faz um primeiro diagnóstico do uso do ChatGPT para o desenvolvimento de seus trabalhos acadêmicos. Os resultados apontam que 30% dos estudantes usaram o Chat e deste universo, cerca de 60% o empregaram para concluir suas atividades escolares. A pesquisa ainda revelou que 75% dos usuários da ferramenta no contexto escolar a consideram como uma forma de trapaça, mas não dispensam o seu uso. Em relação à aceitação pelos professores e universidades quanto ao emprego do chatbot em seus trabalhos, 46% dizem que seus professores e/ou suas universidades baniram o ChatGPT para trabalhos de casa, enquanto 29% dizem que não o baniram e 26% não têm certeza.

Contudo, a incorporação da IA como instrumento de mediação pedagógica já está sendo pensada. Orientar os alunos para desconfiarem, por exemplo, das imagens reproduzidas por veículos de comunicação, buscarem fontes alternativas de certificação da informação é um importante aspecto a ser trabalhado por professores, sobretudo no mundo tensionado pela desinformação, seja nas disputas políticas, seja em questões de saúde pública como a vacinação. Recentemente uma imagem produzida por IA do atual Papa circulou nos veículos de comunicação pelo mundo gerando algum debate, pois o pontífice estaria utilizando trajes não tradicionais. Depois se verificou que se tratava de foto produzida pela inteligência Midjourney.

Outro aspecto digno de destaque é despertar nos estudantes uma pedagogia da pergunta, como postulado por Paulo Freire, no qual a pergunta desempenha a função de motor de uma curiosidade epistemológica que desvenda aspectos da realidade. Traduzir as suas questões investigativas, suas curiosidades, em boas perguntas é uma perspectiva que pode induzir um processo formativo próprio da prática científica. Por outro lado, o risco que o uso não orientado das inteligências artificiais de conduzir alunos e professores a um comodismo estagnante da inteligência é real também. Trabalhos de pesquisa ou mesmo poemas inteiros já podem ser produzidos por meio desses cérebros artificiais gerando um problema de identificação de esforço pessoal e de autoria, preocupante no contexto escolar.

Assim como o magma que sai incandescente da boca de um vulcão, a aplicação do ChatGPT ainda se encontra em sua fase de efusiva especulação. Professores pelo mundo começam a tentar entender os impactos que essa nova tecnologia trouxe e tentam elaborar esboços para incorporá-la como ferramenta de mediação dos processos de ensino-aprendizagem. Perguntar se o novo chatbot é uma doença mortal ou uma tecnologia libertadora para professores e alunos de trabalhos enfadonhos é a questão que mobiliza atualmente as mentes dos “tecno-pessimistas” e os “tecno-otimistas” em educação. A possibilidade de fragilização da formação de uma geração inteira de jovens é possível, assim como também a chance de possibilitar tempo para construírem conhecimentos e novas habilidades.

O dilema é uma questão aberta entre a inteligência humana e as tecnologias, que quando confrontadas entre si mostram um cenário ao mesmo tempo de oposição e complementaridade. A lógica da liberdade em meio a uma sociedade na era da informática surge uma tensão entre o pensamento crítico e a imensa capacidade de gerar e captar informações. Sem a justa retificação das informações geradas por estas tecnologias denominadas IA, é o ato de pensar que é abdicado dentro e fora das ciências e da sociedade. A indicação “vejam isso na internet” é uma mobilização desenfreada que tolhe e reprime o surgimento de seres pensantes e reflexivos ante a sua realidade. É preciso mais um universo amplo de informações para que uma tecnologia seja considerada uma inteligência para a humanidade. Precisamos refletir sobre a relação homem e máquina ao nível do desenvolvimento como liberdade para o humano e não como apenas uma mera ferramenta que gera novas dependências e aprisionam o pensamento crítico e reflexivo. O que nos resta é perguntar: por onde a desconfiança que cria retificação e o entusiasmo da curiosidade epistemológica tão aguardada pelos pensadores de uma sociedade moderna.

Marcos Saiande Casado - Graduado em Filosofia e Doutor em Educação pela UFRN

Manoel Honório Romão - Graduado em Ciências Biológicas e Mestre em Educação para UFRN

As mais quentes do dia

Apoiar Saiba Mais

Pra quem deseja ajudar a fortalecer o debate público

QR Code

Ajude-nos a continuar produzindo jornalismo independente! Apoie com qualquer valor e faça parte dessa iniciativa.

Quero Apoiar

Este site utiliza cookies e solicita seus dados pessoais para melhorar sua experiência de navegação.