Chat GPT é recurso auxiliar, e uso na Universidade deve ter limites e parâmetros de ética, aponta debate no IC

Download PDF
WhatsApp Image 2023-03-31 at 01.48.16

Na mesa “Desmistificando o Chat GPT e os impactos na sociedade”: Tatiane Rios, Daniela Claro e Beatriz Fagundes.

O Chat GPT pode ser utilizado por professores e estudantes como um recurso auxiliar para a realização das atividades acadêmicas, sem deixar de observar certos limites e questões éticas que a Universidade ainda deve debater e estabelecer. Foi nesse sentido que caminhou a discussão entre pesquisadoras do Instituto de Computação (IC) no evento  “Desmistificando o Chat GPT e os impactos na sociedade”, que abriu o semestre 2023.1 da unidade, no dia 28 de março

“Na Universidade, a ferramenta norteada por inteligência artificial (IA), pode ser utilizada como auxiliar para pesquisa, realização de tarefas, assim como já usamos várias outras ferramentas – que inclusive têm inteligência artificial – mas sempre teremos que ficar atento aos limites para evitar prejuízos”, orientou a especialista em inteligência artificial e professora no IC Tatiane Nogueira Rios, palestrante do evento. “Ficar atento às várias questões éticas e estabelecer que dentro da universidade pode-se usar o Chat GPT até certo ponto”, enfatizou.

Outra especialista da mesa, a pesquisadora em processamento de linguagem natural e também docente do IC Daniela Claro, ressaltou que “a ferramenta apresenta grandes limitações linguísticas: não tem sentimentos, não aprende uma língua com os limites do contexto e da cultura, não tem conhecimento das fontes de informação pesquisadas e não sabe lidar com inferência, sarcasmo, ironia e humor, e isso prejudica a compressão para emitir as respostas”. Além disso, acrescenta a pesquisadora em aprendizado de máquina e processamento de linguagem natural, Beatriz Fagundes, mestre em Ciência da Computação pelo PGCOMP/IC, a ferramenta apresenta “limitações como erros graves, infração de leis, alto custo e desatualização”.

Contudo, “não se pode ir contra a ferramenta”, observa Tatiane Rios. “Será preciso entendê-la para que seja utilizada da melhor maneira possível. Ser crítico e estabelecer limites é o mais indicado e utilizar porque se os estudantes não usarem o Chat GPT, eles vão assistir vídeos no YouTube e procurar outros recursos. Então, a partir do momento que se tem uma análise crítica é possível estabelecer limites dentro da universidade para o uso correto da inovação, como um recursos adicional”, afirmou.

“Como professora”, disse Rios, “eu me preocupo se o uso dessa ferramenta vai prejudicar o aprendizado dos estudantes, se eles vão deixar de pesquisar, realizar os trabalhos. Então, eu acho que teremos que rever a nossa forma de avaliação”, pontuou. “Passamos por um processo de pandemia e utilizamos muito as aulas online, as tarefas assíncronas e são justamente nessas tarefas assíncronas que há a preocupação se o estudante está absorvendo o conteúdo de maneira resumida, utilizando o GPT, por exemplo. Então, podemos utilizar esse o Chat para desenvolver o raciocínio crítico e fazer uma pesquisa mais aprofundada”, avalia a docente.

Desmistificando o GPT

WhatsApp Image 2023-03-31 at 10.25.36

Pessoas de diferentes áreas da comunidade universitária lotaram o Auditório B do PAF I para assistir à palestra sobre o tema atual e controverso.

“Desmistificar é entender o quê está por trás dessa ferramenta. Como uma inteligência artificial conversacional, o GPT é um robô com uma capacidade altamente treinada, que se aprimorou ao longo dos anos. A IA vem evoluindo de maneira significativa, como aconteceu ao longo dos anos, nesse processo de desenvolvimento e avanço da área e já temos essa tecnologia presente em nosso cotidiano. Já utilizamos, queira ou não, saiba ou não, entenda ou não o processo, já utilizamos em muitos recursos no nosso cotidiano” afirmou Tatiane Rios.

“Estamos começando a utilizar e vamos continuar utilizando e à medida que esse processo avança, vamos entendendo”, explicou. Entender o processo não é algo restrito ao pessoal da computação. Todo mundo consegue usar e já utilizamos muitas ferramentas semelhantes, por exemplo, a plataforma de stream Netflix, que muitos utilizam e não sabem que ali por trás existe uma inteligência artificial”, pontuou a palestrante.A pesquisadora explica que embora a ferramenta tenha sido desenvolvida por uma empresa privada – a Open IA – , que tem seus interesses, um desses interesses é o de controlar/regular o GPT, “porque ela não quer desenvolver uma ferramenta que causa algum mal”, já que “isso seria um grande prejuízo muito grande para a empresa”. Para Rios, “é extremamente necessário que possamos aprender ao continuar utilizando, porque é assim que vamos aprendendo a lidar com a ferramenta. Foi assim que aprendemos a lidar com o Google, com as redes sociais e até com os livros”, ponderou.

Desinformação, artes e crítica

Rios entende que a IA e outros avanços da computação podem ser usados para evitar a desinformação. “O tempo todo, estamos usando a computação dos dois lados. Pode ocorrer alguma informação que não é correta no Chat GPT, pois a ferramenta utiliza como dados as informações que nós passamos para a máquina, de maneira desordenada e volumosa.”

A todo o tempo, observa Rios, “estamos transferindo o nosso conhecimento para máquina e ela pode absorver esse conhecimento também da maneira errada e a gente pagar o preço da mesma maneira. É um looping: estamos o tempo todo enviando informação e utilizando a informação, por isso o usuário precisa saber o que é verdade e o que é falso, desconfiar, fazer uma poda, tirando alguns pedaços do texto aqui e ali, porque está errado”.

A pesquisadora chamou atenção para os aspectos éticos e autorais envolvidos em casos específicos, como os de matérias jornalísticas, poemas ou músicas feitos pelo Chat GPT. Nesse aspecto, ela entende que “é preciso trazer a intenção do ser humano para esse resultado, avaliar e ser crítico a todo momento”, de modo que “à medida que formos utilizando [a ferramenta], vão surgindo questionamentos e vamos entendendo até onde podemos ir, e assim, vão sendo elaboradas as regulações”, acredita a pesquisadora.