Como tema de meu primeiro texto de 2023, trago o assunto do momento para quem trabalha com linguagem: robôs que criam textos com caraterísticas "humanas". Isso é possível? São de fato humanos? Quais as características e propostas de tais plataformas? Quais limites e perigos dessas ferramentas? A questão já provoca debates no meio educacional.

Ouça o podcast sobre este texto:

Criei a Oficina da Palavra para trabalhar com formação e aperfeiçoamento da escrita para jovens e adultos dos mais variados contextos: vestibular, acadêmico, profissional e literário. Sempre defendi a ideia-base de que para escrever bem é preciso ler muito e estar antenado a tudo o que acontece ao nosso redor com olhos críticos. O desenvolvimento da comunicação humana sempre se dá (ou é tolhido) em um contexto social e histórico específico do qual precisamos ter plena consciência. Por isso, gosto sempre de pensar sobre as novidades tecnológicas a partir da base material, no contexto histórico, social, econômico e filosófico.

Estamos falando aqui do tal sistema Chat GPT, da empresa estadunidense "Open AI". Tal plataforma é apresentada com a função de "otimizar modelos de linguagem para o diálogo, cuja interação se dá de forma conversacional escrita". A interação das respostas/textos se dá provocada pelas perguntas de quem o usa. Por meio dele é possível produzir textos, inclusive em português, com conteúdo e correção gramatical e ortográfica.

De forma análoga, quem circula nas redes sociais já tinha se deparado, no final do ano passado, com muita gente publicando ilustrações produzidas pelo DALL-E, sistema da mesma empresa, que cria imagens também a partir de comandos por escrito. Isso já colocava fogo no debate sobre se tais imagens são ou não arte. Mas cultura e arte não são exatamente o que nos caracteriza como humanos? 

O Chat GPT teve uma adesão surpreendente do público (criei uma conta mas ainda não consegui experimentar devido à instabilidade da plataforma dado ao grande número de acessos). Verifiquei que já está sendo aplicado em diversas áreas em que o texto é ferramenta de trabalho, como jornalismo, trabalhos jurídicos, publicidade, literatura, roteiros de filmes, composições musicais, desenvolvimento de blogs, entre muitas outras.

Tenho visto notícias de pessoas bem-intencionadas tentando produzir aplicações da ferramenta para benefício social. Outras relatam o alívio que a inteligência artificial representa no grande volume de trabalho a que são submetidas cotidianamente, frutos de nossa sociedade acelerada e intensificação do processo de trabalho. Já há algum tempo, no campo da linguagem, a Inteligência Artificial faz parte de nosso cotidiano, com corretores ortográficos e gramaticais, além de tradutores simultâneos. 

Com a Inteligência Artificial produzindo textos a partir de poucos comandos em diversas áreas e especialidades, várias luzes de cautela precisam ser acesas. Quais vantagens? Quem ganha com isso? Quais os riscos e impactos na sociedade e no desenvolvimento humano? Como educadora, tais questões me convocaram de imediato, já que meu trabalho é desenvolver e impulsionar jovens e adultos para a escrita de forma autônoma, consistente, clara e criativa. 

Humanidade x máquinas

A relação entre humanidade e máquinas sempre foi cercada de esperança e assombro. Instrumentos, ferramentas, robôs e sistemas, ao mesmo que têm sido criados para nos libertar de trabalho pesado e superar nossos limites físicos - trazendo esperança de mais tempo livre para o "ócio criativo" -, tais soluções trazem pavor e ira quando nos tiram o trabalho e ampliam o desemprego. Não à toa, os ludistas no início da Revolução Industrial movimentavam-se para quebrar as máquinas que "roubavam" seus empregos.

Charges como as de Jean Marc Cotê, em fins do século XIX, dão uma ideia de que é antiga a nossa relação idealizada com as máquinas e o que se espera delas no futuro.

O fetiche sobre essa relação com as máquinas também encontra registro em narrativas na literatura e no cinema, nas quais robôs substituem os humanos para o bem e para o mal. Como exemplo de histórias que têm nos fascinado, cito: Eu, robô; O homem bicentenário; Ela; Blade Runner - o caçador de androides; O exterminador do futuro; Inteligência Artificial; Black Mirror, entre tantas outras.

Minha geração está nesta transição entre o analógico e o digital (nasci em 1966). Adoro um livro impresso e escrever à mão; mas consigo ler no Kindle, crio vídeos e podcasts e acompanho as novidades digitais.

De forma empírica, já percebemos os reflexos da vida digital em nossa capacidade de concentração; e pesquisas em áreas como neurociência, psicologia e sociologia já apontam os impactos biológicos das gerações expostas à intensidade tecnológica, como a dificuldade de desenvolver o foco e o senso crítico e de aprofundar as habilidades de leitura e escrita.

A quantidade de pessoas conectadas em seus dispositivos eletrônicos acreditando em notícias falsas e as repassando sem qualquer critério alastra-se, inclusive, no meio de pessoas que tiveram acesso à educação formal de nível superior. A extrema-direita cresce em diversas partes do mundo surfando nessa desconexão e alienação a que muitos estão expostos.

Outro elemento para o qual precisamos estar atentos é para o uso inadequado dessas plataformas de Inteligência Artificial. Já que o texto imita as características humanas, como diferenciar a autoria? Como evitar a cola no ambiente escolar? Proibir? Adaptar o ensino para essa realidade? Utilizar outras formas de desenvolver o senso crítico nos alunos? Trazer a plataforma para a sala de aula? Como fazer para que os alunos aprendam os conteúdos e não apenas gerem trabalhos de forma automática para cumprir tarefas de forma mecânica?

Além dessas questões, existem outras tantas de natureza ética e política. Uma vez que as informações disponíveis em tal sistema são alimentadas por programações de funcionários e algorítimos dos usuários, elas não são neutras. Como diferenciar autoria e plágio? 

Outro risco grave é o aumento da desinformação e acesso a conteúdos inapropriados, já que o sistema baseia-se em conteúdos produzidos na rede. Como distinguir a veracidade das informações? Como fazer a checagem delas? A quem cabe dizer o que é ou não fake news? Debater de forma ampla sobre essas questões é fundamental, nesses tempos em que a extrema-direita tem usado e abusado da crescente desinformação social para manipulação política.

Enquanto para uns, o ChatGPT é saudado como uma forma de diminuir a quantidade de trabalho; outros já sentem o efeito delas com a perda de seus trabalhos. Uma vez que a ferramenta produz textos adequados para alguns contextos, ela pode tornar descartáveis as pessoas adeptas do "copia e cola" pois, afinal, a qualidade do texto da máquina, nesses casos, seria superior; inclusive sem incorreções gramaticais.

Leio textos de alunos(as) de vários meios, formações e idades, e tenho percebido a dificuldade crescente das pessoas em se comunicar por escrito. Um exemplo relatado por jovens da cidade onde vivo (Florianópolis-SC) aconteceu no vestibular aplicado pela Universidade Federal de Santa Catarina (UFSC), no final do ano passado. Como a instituição tem percebido uma crescente produção de redações pré-formatadas e engessadas, com reflexo imediato na queda da qualidade da escrita dos estudantes que ingressam na universidade, excluiu desta última prova de redação a possibilidade de os candidatos escreverem uma dissertação. A partir do tema proposto, eles deveriam escolher entre carta, manifesto ou crônica, o que exigiu mais flexibilidade linguística. Pelo que se soube, o objetivo da banca era selecionar os alunos que não se prendiam a modelos-padrão de texto.

Com certeza, tais ferramentas de inteligência artificial são bastante sedutoras. Contudo defendo que "pensar fora da caixa" e desenvolver muito o senso crítico ainda são o caminho para lidar com as mudanças. Em alguma medida, sabemos que essas são inevitáveis, mas temos de resistir e espernear para manter viva a nossa humanidade, mantendo tais plataformas e soluções apenas na função de meios e ferramentas; não enxergando nelas o objetivo final.

Já li notícias de que o debate sobre a regulamentação do uso da Inteligência Artificial no Brasil já está no Congresso Nacional. Temos que acompanhar e influir em tais discussões e decisões.

Enquanto eu escrevia este artigo, recebi a proposta de uma empresa me oferecendo um sistema baseado em Inteligência Artificial para ensinar redação a vestibulandos e para corrigi-las. Sei que para os colegas que trabalham em escolas com muitos alunos, sem condições para um trabalho mais cuidadoso e individualizado, tais soluções aparentam diminuir a quantidade de trabalho. Mas, paradoxalmente, não seriam tais professores de redação os próximos a sumirem do cenário, sendo substituídos por robôs? 

Na década de 80, eu já era professora e vivenciei o debate se o uso de vídeos em sala de aula substituiria o trabalho do professor. O mesmo debate ocorreu quando da ampliação do ensino a distância. Mas nós, professoras/es, continuamos aqui sempre nos perguntando qual o nosso papel.

Além dos educadores, os artistas e escritores seriam a bola da vez? A leitura e a escrita, bem como e o ensino delas ficaria, então, a cargo de robôs? O que sobraria para o ser humano? O que permanece inalterado? Como nos ensina a Filosofia, fazer perguntas é uma habilidade que temos que exercitar diariamente. Portanto, precisamos ligar todos os alertas ao máximo! Caso contrário, iremos alegres e saltitantes rumo ao abismo da barbárie.

O que você acha? Isso é papo de uma professora velha e analógica?

Beijo grande,

Cyntia Silva
Professora e fundadora da Oficina da Palavra