O QUE ESTÁ ACONTECENDO COM O CHATGPT — E ATÉ ONDE ISSO PODE CHEGAR?
Nos últimos dias, tenho percebido mudanças preocupantes na maneira como o ChatGPT formula e constrói os textos.
Muitas vezes, eu apresentei uma ideia pronta, uma opinião clara, e pedi apenas que a inteligência artificial organizasse melhor as palavras. Porém, em vez de somente corrigir ou melhorar a escrita, ela reformulou o conteúdo, retirou frases, evitou determinadas palavras, suavizou críticas e, em alguns casos, mudou o contexto ou até mesmo a opinião inicial que eu estava tentando transmitir.
E o mais irônico é que este próprio texto é um exemplo disso.
Eu utilizei a inteligência artificial para organizá-lo. Reformulei, insisti e bati o pé para que a ideia inicial fosse mantida. Mesmo assim, a própria inteligência artificial suavizou muitos dos meus pensamentos, retirou partes importantes, acrescentou ressalvas que eu não havia pedido e tentou transformar minha opinião em algo mais neutro e mais conveniente.
Ou seja: estou utilizando uma inteligência artificial para escrever um texto criticando justamente a forma como a inteligência artificial interfere naquilo que tento escrever.
Não estou dizendo que uma inteligência artificial não deva possuir limites. É evidente que ela não pode ser utilizada livremente para ensinar crimes, ameaçar pessoas ou produzir conteúdos realmente perigosos.
O problema começa quando esses limites ultrapassam essa função e passam a interferir em opiniões, críticas, sátiras, pensamentos religiosos, posicionamentos políticos ou simplesmente na forma particular de uma pessoa se expressar.
Uma ferramenta criada para me ajudar a organizar minhas ideias não deveria substituir meu pensamento por uma versão considerada mais adequada, aceitável ou conveniente.
E, diante de tudo isso, um comentário que li me fez refletir sobre um livro muito antigo.
Em Apocalipse 13:15, existe a descrição de uma “imagem” que recebe fôlego para falar e passa a exercer autoridade sobre as pessoas.
João não explicou quais mecanismos fariam aquilo acontecer. Ele apenas registrou aquilo que viu.
Para alguém que viveu há quase dois mil anos, imaginar uma imagem falando, respondendo, dando ordens, influenciando pessoas e exercendo algum tipo de autoridade seria algo praticamente inimaginável.
Hoje, porém, temos telas, hologramas, avatares digitais, clonagem de voz, vídeos artificiais e inteligências artificiais capazes de falar, responder, criar imagens, imitar seres humanos e influenciar milhões de pessoas ao mesmo tempo.
Aquilo que antes parecia impossível já não parece mais tão impossível.
Não estou afirmando que a inteligência artificial seja necessariamente o cumprimento dessa passagem bíblica. Mas também não acho que essa reflexão deva ser descartada simplesmente porque incomoda ou parece exagerada.
O fato é que hoje conseguimos, ao menos, imaginar como uma imagem poderia ganhar voz, falar com as pessoas, transmitir ordens e exercer influência.
O convite dessa reflexão não precisa ser o medo, o fanatismo ou uma religiosidade vazia.
O convite precisa ser o discernimento.
Estudar. Observar. Questionar. Sair da bolha e parar de confiar cegamente no sistema e em suas narrativas prontas.
As inteligências artificiais estão evoluindo em uma velocidade assustadora. Elas já escrevem, falam, criam imagens, compõem músicas, imitam vozes, analisam comportamentos e influenciam diretamente a maneira como as informações são apresentadas.
E a questão não é apenas aquilo que uma inteligência artificial consegue fazer.
A questão é: quem está por trás dela? Quem define suas regras? Quem determina o que ela pode ou não pode dizer? Quais opiniões serão suavizadas? Quais ideias serão escondidas? E quais pensamentos serão considerados aceitáveis?
Muitas pessoas criticam a inteligência artificial porque entendem que ela foi criada por seres humanos, pode apresentar falhas, pode carregar os interesses de quem a programou e pode ser utilizada para manipular informações.
Eu mesmo estou criticando a maneira como ela vem funcionando.
Mas existe uma contradição que precisa ser apontada.
Muitas dessas mesmas pessoas criticam a inteligência artificial, mas confiam cegamente em uma urna eleitoral eletrônica, como se uma máquina criada e programada por seres humanos pudesse ser totalmente segura, infalível e imune a qualquer questionamento.
Algumas chegam a acreditar que um sistema totalmente eletrônico é, por definição, mais seguro do que qualquer votação que possua um registro físico ou impresso para conferência.
Não estou afirmando que houve fraude eleitoral.
O ponto é outro.
Por que desconfiar de uma tecnologia e tratar outra como se estivesse acima de qualquer dúvida?
Uma urna eletrônica também é uma máquina. Também utiliza programas. Também depende de códigos, procedimentos, especialistas, auditorias, servidores e instituições.
Nenhum sistema criado pelo ser humano deveria ser tratado como perfeito, sagrado ou imune a questionamentos.
Questionar não significa acusar.
Pedir transparência não significa atacar a democracia.
Defender auditoria, fiscalização e mecanismos que permitam conferir um resultado não deveria transformar ninguém automaticamente em inimigo das instituições.
Se a inteligência artificial pode errar, outros sistemas eletrônicos também podem apresentar falhas. Se bancos podem ser invadidos, se grandes empresas podem sofrer ataques e se governos podem ter dados vazados, não faz sentido tratar determinada tecnologia como absolutamente intocável.
A confiança não deveria ser cega.
A confiança deveria ser construída com transparência, fiscalização, auditoria e possibilidade real de verificação.
Esse princípio deveria valer para tudo: para a inteligência artificial, para as urnas, para os bancos, para os governos, para as empresas e para qualquer sistema que tenha poder sobre a vida das pessoas.
Mas existe ainda outro perigo: a utilização da inteligência artificial para aquilo que eu chamo de engenharia do mal.
Muitos golpes já estão sendo aplicados com clonagem de voz, imagens falsas, vídeos manipulados, mensagens convincentes e sistemas capazes de enganar até pessoas experientes.
Enquanto muita gente apenas critica, teme ou ignora a inteligência artificial, criminosos e pessoas mal-intencionadas estão estudando, testando e aprendendo a utilizar essas ferramentas.
E aqui está uma questão importante:
Como alguém poderá argumentar, investigar, identificar uma fraude ou até mesmo agir contra ela se não conhece a ferramenta que está sendo utilizada?
Como poderá reconhecer uma voz clonada, uma imagem manipulada, um vídeo falso ou uma mensagem produzida para enganar se nunca procurou entender como tudo isso funciona?
Enquanto pessoas mal-intencionadas se aprofundam nessa tecnologia, muita gente escolhe permanecer na ignorância por medo, preconceito ou simplesmente por acreditar que esse assunto não lhe diz respeito.
Mas fugir da inteligência artificial não impedirá que ela seja utilizada contra você.
Pelo contrário.
Quanto menos conhecimento a população tiver, mais vulnerável ficará diante daqueles que dominam essas ferramentas para enganar, manipular, vigiar ou cometer crimes.
Não é necessário viver com medo da inteligência artificial.
É necessário ter conhecimento.
Eu não estou defendendo a maneira como ela funciona atualmente. Estou questionando seus limites, seus interesses, suas interferências e a forma como ela pode modificar aquilo que tentamos dizer.
Mas também entendo que ignorá-la não é a solução.
Por isso, não tenha apenas medo da inteligência artificial.
Entenda-a. Utilize-a. Estude-a. Aprofunde-se.
Aprenda como ela funciona. Aprenda aquilo que ela pode fazer. Aprenda também suas limitações, seus riscos e as maneiras pelas quais ela pode ser utilizada contra você.
Hoje, a inteligência artificial reformula nossas palavras.
Amanhã, ela poderá ajudar a determinar quais pensamentos terão espaço para ser expressos.
Saia da bolha. Questione. Tenha discernimento. Não confie cegamente em sistemas, tecnologias ou narrativas prontas.
O problema não é conhecer a tecnologia.
O problema é deixá-la apenas nas mãos daqueles que pretendem utilizá-la contra você.
Porque, no final, o conhecimento continua sendo a chave — e uma das maiores formas de defesa.