13 de março de 2025
Há pouco mais de dois anos, o Chat GPT (lançado em novembro de 2022) popularizou a Inteligência Artificial Generativa (IA generativa). Para além do uso em tarefas com perguntas e respostas simples, a pesquisa científica e o ambiente acadêmico têm sentido os impactos dessa ferramenta.
A temática, que foi central do Congresso Nacional da Intercom de 2024, é a base do livro “Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: um guia prático para pesquisadores”, lançado com o selo da Intercom no último ano em uma live no canal do Youtube da Intercom.
Os autores, Rafael Cardoso Sampaio (UFPR), Marcelo Sabbatini (UFPE) e Ricardo Limongi (UFG)explicam que a obra é um guia prático para discutir e promover seu uso ético e responsável, desmistificando o entusiasmo exagerado (hype) em torno da IAG. Ou seja, o livro marca um momento em que há um aumento da popularidade e a necessidade de entender quais são os limites para o uso das ferramentas de IA na pesquisa científica.
Construída a três mãos, a obra já é destaque no cenário da pesquisa brasileira. A fim de entender o processo de construção da obra e sobre o tema, conversamos com Rafael Cardoso Sampaio, professor do Programa de Pós-Graduação em Ciência Política da Universidade Federal do Paraná (UFPR). Além de autor do livro, o professor foi um dos painelistas do Ciclo de Estudos do Congresso Nacional da Intercom.
Intercom (I): A IA Generativa tem sido utilizada cada vez mais no universo acadêmico. Como vocês, dentro do livro, apresentam a temática e refletem sobre os impactos e benefícios da utilização dela no dia a dia da pesquisa e da ciência?
Rafael Cardoso Sampaio (RCS): A gente tentou apresentar tanto o lado positivo quanto o lado negativo da IA generativa. Por um lado, tentamos diminuir um pouco o hype existente em cima da IA generativa, que está muito grande. Mas também buscamos afastar alguns temores dos pesquisadores que não conhecem bem a tecnologia.
I: Dentro das possibilidades da IA Generativa, há muito desconhecimento sobre a utilização. Por que é necessário refletir sobre a ética diante de um cenário ainda de aprendizagem?
RCS: Exatamente por estarmos nesse cenário de aprendizado, de muito desconhecimento, de muitas dúvidas, que as questões éticas precisam ser valorizadas. Em especial, a gente está diante de ferramentas que são capazes de resumir, de ler, de escrever materiais acadêmicos e de analisar dados. Então são ferramentas que, em alguma medida, podem, no limite, até mesmo substituir parte das funções de um ser humano na pesquisa.Tudo isso demanda uma forte preocupação ética com o uso responsável dessas ferramentas.
I: Abordar esse tema é necessário, mas ao mesmo tempo também um desafio, pois está em constante evolução, como vocês citam durante a live de lançamento. Além disso, podemos já notar outros desafios para abordagem da temática nesse momento?
RCS:Isso certamente foi um dos maiores desafios. Pois é uma tecnologia que não apenas está em constante mudança, mas está evoluindo de maneira muito rápida. Lançamos o manual em dezembro, por exemplo, e, em janeiro, foi lançado o Deep Seek, que modificou bastante o cenário dessas inteligências artificiais generativas. Em fevereiro, o ChatGPT lançou o de Deep Research, que é um agente que faz uma pesquisa de forma autônoma pela internet e produz um relatório. Então, duas grandes mudanças em apenas dois meses após o lançamento. Mas quando a gente fez o manual, estávamos cientes disso, então tentamos ser bastante abrangentes nos usos da IA generativa em diferentes etapas da pesquisa acadêmica, com essa ideia de tentar que o manual não ficasse desatualizado tão rápido. Uma coisa muito interessante desse manual foi que teve 3 autores de 3 áreas diferentes dentro das Humanidades e é um manual que foi apoiado por três associações científicas diferentes. Estamos vivendo uma mudança paradigmática tão grande que todas as áreas serão afetadas.
I: Muito se diz sobre como a IA generativa poderá impactar na criatividade e no pensamento crítico, e isso inclusive está retratado na capa do livro. Como os pesquisadores atuais e também os novos podem se beneficiar da IA Generativa sem perder esse lado criativo, com compromisso ético?
RCS: Ao longo do guia, a gente repete algumas vezes, que é muito importante a manutenção da agência humana, ou seja, as IAs generativas são ferramentas, são meios para ajudar em diferentes fases da pesquisa acadêmica, mas o pesquisador continua sendo o ser humano. A pesquisa não se trata apenas de apertar botões, de dar comandos. Existe todo um processo envolvido na prática da pesquisa que ainda depende fortemente do ser humano e foi essa uma das principais questões ressaltadas ao longo do nosso trabalho. A IA pode te ajudar a resumir, a escrever e a fazer coisas de maneira mais prática e rápida. Porém, essas tarefas, por mais difíceis e entediantes que possam ser, ainda são partes fundamentais do que é fazer a pesquisa. Então, uma pessoa só vai aprender a ler um texto difícil lendo outros textos difíceis, ela só vai ter uma boa escrita praticando a escrita. É muito importante que a gente tome cuidado para não haver essa dependência excessiva da inteligência artificial generativa.
I: Outros manuais fora do Brasil já fazem reflexões sobre o tema, mas aqui ainda há uma carência de conteúdos como esse. Considera esse um dos principais pontos positivos do livro? É possível/necessário ainda refletir sobre o uso da IA generativa por aqui?
RCS: Eu acho que certamente esse é um dos grandes diferenciais da obra. Não existe nada parecido em português de forma tão completa e didática. Porém, a obra tem um diferencial que é até bastante difícil de achar, mesmo em outras línguas, como inglês, que é justamente essa reflexão sobre essa parte mais aplicada, mais prática da pesquisa. É muito normal encontrarmos cartilhas e diretrizes similares em inglês falando da questão mais teórica dos princípios como transparência, autoria, integridade acadêmica, mas que acabam sendo um pouco omissos sobre como de fato podem as IAs generativas ser usadas ou não. A nossa obra dá uma contribuição que é original e muito importante para a pesquisa brasileira. E como a gente fala no final da obra, ela não tem a menor pretensão de ser definitiva, de fechar o debate. Ela, na verdade, tem a ideia de iniciar a discussão. Então não só tem muito espaço para que essa discussão aconteça, como é importante que as pessoas tomem essa conscientização de que o debate já está atrasado e precisa acontecer de modo sério e com urgência.
O livro “Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: um guia prático para pesquisadores” está disponível para download gratuito neste link.