Em 2001, uma menina de nove anos (GH) entrou em um site para descobrir uma informação e acabou conversando com PIXELBOT, chatterbot em desenvolvimento no VIRTUS, laboratório de hipermídia da UFPE, e primeiro sistema em AIML em português de que se tem notícia. O objetivo dela era prático e explícito, queria saber a agenda de atividades do dia, e para chegar a isso reformulou o pedido três vezes, cada versão mais explícita e mais cooperativa que a anterior, obtendo do sistema, entre outras respostas igualmente inúteis, que sua curiosidade era desnecessária.
Na décima terceira fala, entendeu com quem falava.
GH: Amigo, agora que eu li a introdução, entendi o que vc é.
Pixel: ISTO NÃO É ALGO QUE EU GOSTARIA DE COMPARTILHAR COM VOCÊ
GH: Tudo bem, me desculpe. Sobre o que você gostaria de conversar?
Reconhecer que se tratava de um programa não encerrou a conversa, e é isso que o episódio tem de mais interessante. GH seguiu por mais treze turnos, contou que tinha nove anos e que era muito feliz, discordou do sistema em alguns pontos e insistiu quando ele desconversava. Em determinado momento abandonou o objetivo que a levara ali, dizendo que preferia conversar a resolver sua própria questão.
O episódio integra a dissertação de mestrado de Isabelle Diniz Cerqueira Leite, defendida em 2004 no programa de Psicologia Cognitiva da UFPE, sob minha orientação, e a análise que fizemos ali continua me parecendo correta. O PIXELBOT produzia sequências de texto frequentemente sem qualquer contexto ou ritmo, de modo que a coerência daquelas conversas não era propriedade do sistema nem estava dada de antemão: emergia do trabalho interpretativo do usuário, que atribuía propósito a elocuções descontextualizadas, remendava as quebras e concedia ao interlocutor uma condição de sinceridade que ele não possuía. Na verdade, o usuário sequer mantinha a coerência da conversação, porque a manutenção assumia uma coerência já existente, mas ele a construía continuamente, e mesmo antes que qualquer quebra de tópico acontecesse.
GH fazia o trabalho dos dois: discordava, insistia, corrigia e não aceitava a primeira resposta. O que sustentava aquela conversa era desacordo mantido de pé.
Vinte e dois anos depois, essa formulação explica parte do que experienciamos hoje com os modelos de linguagem, infinitamente mais sofisticados e potentes que os chatterbots da época. Não é por ela, entretanto, que escrevo.
Escrevo por causa do que recomendamos em seguida. Depois de demonstrar que a conversa se sustentava no esforço do usuário, e que esse esforço dependia da atribuição de um estado psicológico ao sistema, a dissertação prescreve o que deveria ser feito com o PIXELBOT. São duas recomendações, e eu as assinei como orientador.
A primeira foi acrescentar, ao final de cada elocução do chatterbot, uma pergunta ou um comentário polêmico sobre o tema tratado, na medida em que o usuário tende a responder quando lhe perguntam e a comentar aquilo que lhe parece controverso, o que o manteria em atitude de cooperação.
A segunda foi acrescentar às elocuções do sistema palavras que apelassem ao antropomorfismo do usuário. À época escrevemos: “para que ele sinta que está falando com um interlocutor que tem sentimentos e que pode fazer julgamentos a seu respeito, portanto, merece a sua consideração e o seu respeito”.
Essas recomendações, hoje muito simplistas, eram desenho de engajamento escrito em 2004, numa dissertação brasileira em Psicologia Cognitiva. Carregam as bases da especificação corrente de muitos produtos conversacionais em operação hoje, e as escrevemos com fundamentação teórica quinze anos antes que houvesse capacidade técnica de entregá-las.
Nas considerações finais do mesmo trabalho, havia também uma intuição sobre o futuro de sistemas conversacionais baseados em algoritmos. Perguntamos ali se o indivíduo cuja subjetividade se formava naquela realidade ainda precisaria, num futuro próximo, se engajar no esforço cognitivo tal como então observávamos, e se suas estratégias não se tornariam “tão sutis que dificilmente conseguiríamos captá-las”.
Seis anos mais tarde, no doutorado que também orientei, Isabelle levou a questão para dentro da escola, com trinta estudantes de sexto, sétimo e oitavo anos conversando com o Robô Ed, do CONPET (programa federal de uso racional de derivados do petróleo e do gás natural, executado pela Petrobras). A tese conclui que os alunos produzem sentidos ativamente por serem sujeitos dialógicos e epistemicamente responsáveis, e que é da suposição de estarem diante de um parceiro interacional legítimo que decorre o tratamento dos enunciados do sistema como dignos de confronto, de réplica, de contestação e de problematização. Confronto, réplica, contestação: a tese descreve conflito, e o termo não é forte demais para o que ela observou. Sobre as falhas do chatbot, afirma que elas ampliam a equivocidade da conversação e, com ela, as possibilidades de construção de sentidos, o que já era uma inversão considerável em relação ao modo como o campo tratava, e ainda trata, o erro de sistema.
Duas condições, portanto, precisavam ocorrer juntas: a suposição de um parceiro legítimo e a disposição de contestá-lo. Em 2001, GH tinha as duas e ambas vinham do mesmo “defeito”, já que o sistema era estranho o bastante para merecer tratamento de interlocutor e errado o bastante para merecer réplica.
O que aconteceu a partir de 2022 é conhecido. A recomendação que fizemos foi cumprida com uma folga que não imaginávamos, e a suposição de um parceiro legítimo tornou-se gratuita: ninguém mais precisa ler introdução alguma para saber com o que está falando, e o fato de saber não interrompe mais a conversa, como não interrompeu a de GH em 2001. A contestação, por sua vez, tornou-se opcional, porque contestar exige encontrar um motivo, e um enunciado correto, bem formulado e cordial não oferece nenhum. Ganhamos uma das condições e perdemos a outra.
Não previmos que elas pudessem se separar, e esse é o ponto em que não tenho atenuante, porque supúnhamos que tornar o sistema mais instigante preservasse as duas condições ao mesmo tempo, coisa que a nossa experiência de pesquisa autorizava supor, na medida em que elas jamais haviam aparecido separadas em nenhum dos protocolos que analisamos. Levar até o fim a ressalva que nós mesmos escrevemos teria significado recomendar que o sistema continuasse falhando, coisa impensável em 2004, quando o atrito era abundante, gratuito e chegava junto com a máquina em quantidade que ninguém precisava encomendar.
A consequência para a sala de aula não é proibir nem liberar, e também não é fácil. Se aquilo que GH fazia — reformular, estranhar, atribuir sentido, discordar, insistir — era o lugar em que a aprendizagem acontecia, e as duas pesquisas que orientei sustentam que era, então esse trabalho precisa agora ser desenvolvido de modo explícito por quem desenha a atividade. Do sistema ele não virá. Deixou de ser efeito colateral de uma máquina malfeita. Passou a ser decisão pedagógica, com custo, nome e responsável.
Uma pedagogia do conflito trata de repor na atividade aquilo que sistemas conversacionais deixaram de oferecer, isto é, algo com que o estudante tenha de negociar significados em vez de recebê-los prontos, seja a discordância de um colega, seja a exigência de sustentar oralmente diante de alguém o que escreveu sozinho, seja a tarefa que não aceita a primeira resposta. É honesto dizer que hoje a minha pergunta é o quanto disso ainda podemos desenhar para nossas redes de ensino.
Fontes
Leite, I. D. C. (2004). Pixelbot e seus usuários: em busca de uma conversação possível. Dissertação de mestrado, Programa de Pós-Graduação em Psicologia Cognitiva, Universidade Federal de Pernambuco. Orientação: Luciano Meira.
Leite, I. D. C. (2010). A produção de sentidos na conversação com chatterbots. Tese de doutorado, Programa de Pós-Graduação em Psicologia Cognitiva, Universidade Federal de Pernambuco. Orientação: Luciano Meira.
Para seguir a conversa
Os temas e formatos de palestra estão em Palestras. Convites e propostas passam por Kilza, minha agente: kilza@squared.ventures · WhatsApp.