A não ser que você tenha se escondido da internet nos últimos meses, certamente já viu ou ouviu falar do ChatGPT, uma ferramenta criada pela OpenAI que, essencialmente, consiste de um sistema de inteligência artificial capaz de carregar conversas e comunicações a um nível quase humano.
Ao menos, é o que promete a OpenAI, que ao desenvolver este chatbot, fez questão de divulgá-lo como a solução primária para qualquer necessidade de comunicação e linguagem para empresas de várias finalidades – e coletando controvérsias bem numerosas no caminho.
Mas afinal, o que é o ChatGPT?
Em essência, o ChatGPT é um chatbot – nome este atribuído a ferramentas de conversação automatizada entre computadores e humanos. A tecnologia em si não é novidade, já que muitas empresas vêm há anos utilizando chatbots em sistemas de atendimento a clientes, por exemplo.
Na prática, é fácil de encontrar um chatbot em ação: a maior parte dos varejistas de comércio eletrônico contam com um atendimento “via chat” e, bom, grandes são as chances de que a conversa que você está levando com “um especialista” não é bem com uma pessoa, mas sim com um sistema computadorizado, treinado para reagir com respostas prontas a perguntas específicas.
O ChatGPT é isso, só que elevado à enésima potência pelo uso da inteligência artificial (IA): o sistema da OpenAI usa um processo conhecido como “Transfer Learning”, no qual um computador estabelece a solução de um problema, aplicando-a em outro problema. E ele o faz graças a um “treinamento” onde este sistema “lê” uma imensa base de dados com exemplos de linguagem e formula respostas mais concentradas na dúvida que você coloca à frente dele – neste caso, a base é a famosa “GPT-3”, que contém um vasto volume de exemplos de linguagem e conversação.
O ChatGPT foi originalmente lançado como um protótipo em novembro de 2022, sendo bastante elogiado por sua capacidade de respostas bastante articuladas em vários tópicos de conhecimento.
Como a ferramenta funciona?
Como dissemos, a essência do ChatGPT trabalha em um processo chamado transfer learning. Mas isso é apenas uma ramificação do conceito de machine learning comum a todos os trabalhos envolvendo inteligência artificial.
De uma forma resumida: antes de “estrear”, um sistema do tipo é treinado por modelos de linguagem para que ele tenha uma base sólida de conversação. Posteriormente, esse mesmo sistema é sujeito a treinos com interações (fechadas e controladas) com seres humanos, em tópicos pré-selecionados. Finalmente, vem a exibição pública do sistema, onde qualquer pessoa consegue interagir com ele.
Tudo isso tem um motivo: quanto mais interação, mais o sistema aprende. E quanto mais ele aprende, mais inteligente ele fica.
Não à toa, hoje, o ChatGPT consegue não apenas dar respostas bastante detalhadas sobre praticamente qualquer tema, mas também lembrar-se do que disse caso você tente desmenti-lo. Teoricamente, um sistema invencível em veracidade.
“Teoricamente”…
Quais são os problemas dela?
No papel, a ferramenta soa como a solução para todos os problemas da sociedade na internet: para qualquer pergunta, a melhor resposta. Na realidade, contudo, nem sempre isso é verdade.
Segundo o MakeUseOf, em seu teste, o ChatGPT falhou até em questões de matemática básica, estipulando que ele nem sempre tem razão no que diz. Isso porque, ao contrário de assistentes virtuais como Siri ou Alexa, a ferramenta não usa a internet como fonte para suas respostas, mas sim “constrói” interação palavra por palavra.
Em termos práticos: isso é mais ou menos a versão virtualizada do “chute”. O ChatGPT vai selecionando as palavras com a maior probabilidade de serem atreladas ao tema proposto em uma pergunta, seguindo com elas dentro de sua resposta. Por esta razão, por exemplo, ele não consegue “desafiar” suas afirmações, aceitando o que você diz como verdade, não importa o quanto você esteja mentindo.
Em dois posts distintos, os especialistas em segurança da Checkpoint Research também conseguiram demonstrar instâncias perigosas de cibercrime, onde o ChatGPT foi incentivado a criar um texto falso se passando por uma empresa de hospedagem para conduzir golpes de phishing. Isso aconteceu em dezembro, como teste, mas em janeiro deste ano, a organização de pesquisa digital identificou casos reais de mau uso.
Já o Axios apontou, em seu teste, que o ChatGPT aponta como verdadeiras afirmações completamente mentirosas – “nove mulheres precisam de um mês para gerar um bebê”, além de imaginar percentuais impossíveis de serem pesquisados e, quando questionado sobre suas fontes, o sistema não oferece resposta.
Em outras, variadas avaliações, um dos principais problemas da internet moderna apareceu repetidas vezes: o chamado viés de confirmação, onde você pesquisa um assunto não para aprender algo, mas para confirmar uma crença própria – muitos aqui vão reconhecer isso como o princípio das fake news, mas isso pode ser ainda mais problemático, reforçando certos preconceitos.
Um exemplo mostrou como o ChatGPT relacionou nações africanas ao problema da exploração militar e sexual de crianças – passando a ideia de que o problema, que é global, vem da África.
Não à toa, este especialista em IA pede que a tecnologia seja tratada com mais cuidado.
Eu já vi esses problemas antes…
Parabéns por confiar no seu instinto de déjà vu: sim, os problemas mais periclitantes do ChatGPT não são uma novidade.
Os mais óbvios são os mais preconceituosos: o caso mais notório veio em 2016, quando a Microsoft lançou o “Tay”, seu chatbot de interação via Twitter. Embora não tivesse uma tecnologia tão densa quanto o ChatGPT, o “Tay” tinha um traço interessante de aprender conforme interagia – só que por replies na rede social.
Você…já pode imaginar aonde isso vai dar: a internet, sendo a internet, começou a ensinar as piores coisas ao chatbot, eventualmente levando-o a tecer respostas extremamente problemáticas – em uma instância, a ferramenta disse que o comediante Ricky Gervais é “um ateu que aprendeu seu totalitarismo com Adolf Hitler, o pai de todos os ateus”, enquanto noutra ocasião, ela disse que “odeia todas as feministas” e que “elas poderiam todas queimar no inferno” (e isso é só o que podemos falar aqui: acredite quando dissermos que a expressão “o buraco é mais embaixo” tem muito peso).
Além deste, o BlenderBot 3, projeto de chatbot da Meta, já criticou abertamente Mark Zuckerberg pelo seu papel durante a investigação do escândalo Facebook-Cambridge Analytica, o peso disso na política norte-americana e até ataques pessoais ao bilionário. Sim, sabemos: a Meta é dona do Facebook, e Mark Zuckerberg é dono da Meta. Goste ou não do homem, é meio estranho ver uma ferramenta que você criou falar mal…de você.
Por essa razão, diversas instituições educacionais estão proibindo o uso do ChatGPT não apenas como mecanismo de estudo (óbvio) mas também como complemento de pesquisa, haja vista que vários alunos estão apelando a ele para escrever dissertações inteiras e, em alguns casos, muitos trabalhos vêm sendo entregues com ampla desinformação, ausência de fontes e, pior, vieses preconceituosos sobre assuntos espinhosos.
Por outro lado, a mesma Microsoft já disse que pretende adotar ferramentas de automatização via IA para o Windows 12 – e rumores dizem que o próprio ChatGPT pode servir como o novo suporte ao Office.
A ferramenta custa algum dinheiro?
Sim e não. É possível testar o ChatGPT sem gastar nada com isso, bastando apenas acessar a página oficial e baixar uma versão executável gratuita do sistema. Entretanto, é impossível dizer qual o tipo de controle exercido pelo sistema nas respostas – para todos os efeitos, ninguém consegue determinar se essa parte liberada consiste da experiência completa do programa.
Ah, e essa parte gratuita fica à mercê da disponibilidade: até o fechamento deste artigo (e pelo menos três semanas antes dele), a equipe do TecMasters vem tentando acessar o sistema para testá-lo, sem nenhuma disponibilidade. Por via das dúvidas, nós fizemos o que você mesmo pode fazer: entrar para a newsletter da OpenAI, onde ela promete avisar, via e-mail, quando o sistema abrirá novas inscrições de teste. Boa sorte para nós, aliás.
O outro lado da moeda é…bem, a moeda: o ChatGPT já está em oferta comercial, podendo ser “assinado” pelo valor de US$ 42 (R$ 213,03) mensais, você ganha acesso prioritário a todos os recursos do serviço, com tempos de resposta mais rápidos e até preferência ao uso de novas funcionalidades. Esta parte paga, no entanto, começou a ser veiculada na última segunda-feira (23), então não estranhe se houver alguma demora aqui também.
Vale a pena?
Em conclusão, é difícil fazer qualquer juízo de valor sobre o ChatGPT: é de longe a ferramenta mais avançada da atualidade nos serviços do gênero, mas ele também tem muitos buracos a serem preenchidos e isso pode fazer com que os mais cautelosos torçam o nariz.
Por um lado, é extremamente preocupante que uma ferramenta que deveria servir para facilitar o aprendizado e a busca pela informação acabe servindo a fins mais nefastos, reforçando preconceitos antigos e desnecessários e até funcionando como vetor para cibercrimes.
Por outro, justamente por ser uma ferramenta de aprendizado é que ela pode ser melhor, afinal, ela é tão boa quanto a ensinam ser – e se boas pessoas lhe passam boas ideias, você por tabela acaba melhorando também.
Créditos: TecMasters
