No início, PLN visava facilitar a interação entre usuários e máquinas. Tudo mudou: nem PLN tem mais esse objetivo e nem a interação, os usuários e as máquinas são os mesmos. De trás pra frente: – Máquinas eram os computadores; hoje, são celulares, tablets, relógios, lâmpadas, drones, carros, portas, qualquer coisa acoplada a um processador. – Usuários são hoje qualquer ser humano, literalmente (crianças de pouco mais de 1 ano já interagem com celulares). – Interação se resumia a pedidos do usuário e respostas do computador; hoje, se assemelha à interação entre humanos: cada parte busca influenciar ou descobrir o que deseja e o se passa com a outra parte. – Finalmente, PLN, que é o que torna possível tudo isso, se sofisticou para atender toda a demanda. E PLN é a língua em ação nas máquinas. O efeito colateral dessa história toda é que finalmente nos demos conta de que a língua humana está intrinsicamente ligada ao humano. Daí que um sistema que lida perfeitamente bem com a língua humana (como o ChatGPT) e que pode passar pelo teste de Turing com nota 10, indefinidamente, traz transformações profundas na sociedade. Nós, de PLN, corremos o risco de, muito em breve, termos de nos dedicar, como detetives, à procura de soluções contra fraudes em textos. Tudo isso por decorrência de já termos alcançado todos os objetivos de PLN: “compreender” e gerar com perfeição linguagens humanas (ainda que essas máquinas não tenham a menor noção do que sabem). Qual é o preço que a sociedade pagará pelo sucesso do PLN? Graça Nunes

Será que falar de ética das máquinas inteligentes não está apenas mascarando nossa hipocrisia em delegar a elas o que só cabe a nós, humanos? Antes de tentar responder essa pergunta é necessário entender o que são essas máquinas e o que entendemos por ética nesse contexto. Desde que surgiu a ideia de uma inteligência artificial para os computadores tenta-se definir, sem muito sucesso, o que separa um sistema computacional convencional do seu parente inteligente. Para simplificar, vou utilizar a noção de que um sistema para ser considerado inteligente deve resolver problemas que necessariamente precisam de habilidade/capacidade humana – e não apenas de força-bruta – para isso. Essas habilidades podem incluir aprendizado, compreensão de língua, raciocínio baseado em senso comum ou em informações incompletas, entre outras. Acontece que, de uma ou outra forma, ainda não ideal, mas satisfatória ou quase, todas essas habilidades já estão presentes nos sistemas de IA atuais. Enquanto muitos comemoram, alguns se preocupam com esse avanço assintótico. O que exatamente causa essa preocupação? O computador, com um hardware muito simples, sempre foi usado como uma máquina que obedece a comandos muito elementares, expressos numa linguagem de programação escrita pelo homem. Acontece que esses comandos manipulam dados que são fornecidos para a máquina, que vêm de fora dela. Assim, a combinação desses comandos com um conjunto potencialmente infinito, variável e imprevisível de dados torna esses programas computacionais potência e imprevisivelmente poderosos. A tecnologia atual para dotar esses programas de inteligência caracteriza-se por fornecer, a algoritmos criados para aprender, grandes quantidades de dados sobre aquilo que deve ser aprendido, ou seja, sobre o conhecimento necessário à solução do problema que se quer resolver. Assim, para criar um programa que vai aprovar crédito bancário, por exemplo, basta fornecer muitos dados sobre clientes aprovados e não aprovados, e assim o programa inferirá o conhecimento necessário para analisar um futuro candidato e aprovar-lhe o crédito ou não. Outro exemplo é fornecer muitas imagens de objetos ou pessoas para que o sistema possa distinguir entre diferentes classes, ou então reconhecer um determinado objeto ou pessoa entre muitas opções possíveis. Esses dois exemplos levantam algumas questões. No caso do crédito bancário, não seria mais simples elencar os requisitos necessários para a aprovação do crédito e então verificá-los para um candidato? Ou estariam esses requisitos implícitos em outros dados a respeito do candidato, que não aqueles financeiros, tradicionais, verificáveis em poucas consultas a papeis e contas bancárias? Ainda que seja necessário um computador para essa verificação, por que delegar a um algoritmo a decisão final da aprovação? Já no caso de reconhecimento de imagens, a situação é diferente. Para diferenciar objetos ou pessoas em imagens quaisquer, é preciso ter certas habilidades e conhecimentos. Dependendo da situação, pode ser impossível para o humano. Esse é o tipo de tarefa para a qual é difícil elencar exatamente o que está envolvido na tarefa de reconhecimento. Daí aprender padrões ao invés de regras é muito mais eficaz. A inteligência, nesse caso, advém da capacidade superior ao homem em executar aquela tarefa – além do fato de ter havido um processo de aprendizado pelo algoritmo. Outra característica importante desses algoritmos que aprendem é que aquilo que aprendem não tem sido recuperável de uma forma legível, ou seja, é impossível recuperar exatamente qual conhecimento foi apreendido pela máquina. Aferimos seu conhecimento apenas pelo seu comportamento numa determinada tarefa. Nesse sentido, dizemos que são obscuros, verdadeiras caixas-pretas. Performam bem, é verdade, mas não conseguem explicar como o fazem. Essa característica indesejável deriva da tecnologia chamada Deep Learning, que nada mais é do que um modelo especial de redes neurais, essas já bem conhecidas há décadas. Indesejável por um lado, inevitável por outro, o fato é que a impossibilidade de se justificar, aliada à presença cada vez mais sentida desses sistemas no nosso cotidiano, tem gerado um sentimento de insegurança e desconfiança. A tecnologia, que não deixa de evoluir, tem se inserido no nosso cotidiano de diferentes formas. Poderia enumerar muitas áreas que se beneficiam – e beneficiam a nós – com o uso da tecnologia. Muitas vezes os sistemas são explícitos, interagimos com ele e sabemos para que servem e a quem servem. Outras vezes, no entanto, os sistemas são ubíquos, não sabemos que estão ali, nem que estamos interagindo com eles. Mas nossos movimentos e falas podem estar se transformando em dados para seus algoritmos. É isso o que gera insegurança e desconfiança. O que esses dados falam de mim? O que acontecerá a partir deles? Quem está por trás desses sistemas e com qual objetivo? Que direitos eu tenho ou não sobre os dados que eu gero e que são inadvertidamente usados por terceiros? Então você deve estar se perguntando: mas se um programa é regido por comandos dados pelo homem, sempre haverá um responsável por isso e, cedo ou tarde, ele será responsabilizado por algum desvio de rota desse programa, certo? Sim e não. Sim, para os programas convencionais, não “inteligentes”, aqueles de fato guiados por comandos do tipo: se acontecer isso então faça isso senão faça aquilo outro. Não, para os programas que foram gerados por algoritmos que aprenderam a partir de dados. Em primeiro lugar, possivelmente esses dados para o aprendizado são dados reais, não artificiais e, desde que usados de forma lícita, induzirão um conhecimento pelo qual não há responsável direto. Em segundo lugar, o resultado do sistema depende do conhecimento aprendido e não de um ser humano que lhe dê comandos para isso ou aquilo. Cada vez mais o que se vê são sistemas que aprendem sozinhos (self learning), ou seja, vão aprendendo e se modificando durante seu uso, tornando seu comportamento cada vez mais imprevisível. Mais que isso, os sistemas tem se tornado autônomos, completamente independentes e livres da ação humana. O exemplo mais evidente dessa autonomia é o carro autônomo, capaz de se locomover sem qualquer interferência humana. Nesse caso, os algoritmos devem ser capazes de processar de forma instantânea muitas informações de sensores, além de mapas, informações em tempo

Durante muito tempo da minha vida pensei diariamente em bits e bytes. Foram mais de 40 anos pensando em máquinas digitais, em se as máquinas podem pensar, e se nós pensamos como máquinas. Hoje me pergunto se valeu a pena investir tanto tempo nessas questões. Considerando as respostas que se apresentam até hoje – não e não -, meu impulso é dizer que não. Muitos nãos injustos, na verdade. Não posso ser ingrata a uma profissão que me trouxe até aqui. Foi bom enquanto durou. Foi desafiador e várias vitórias foram conquistadas. E se hoje esse assunto já não é relevante para mim, certamente o é para todo o mundo. Máquinas de bits e bytes praticamente nos comandam hoje. E o pouco e tudo o que fiz foi tentar construí-las à semelhança do homem, em especial no tocante a sua linguagem. Travei grandes batalhas, e só venci algumas delas porque meus objetivos eram modestos. Exércitos de cientistas perseveram pelo mundo todo e, ganhando pequenos terrenos ao longo de muito tempo, avançam cada vez mais em direção a … a quê? Máquinas que entendem e falam nossa língua, é isso mesmo que queremos? Sim, é isso o que querem milhares de cientistas que se esforçam em mapear a língua humana em bits & bytes. Ah, que triste, tratar nossa língua como um sistema previsível, completamente decifrado e fechado em si mesmo! Ah, as belezas da língua, robotizadas e traduzidas em bits e comandos! Minha reverência à língua embaça os resultados que eu mesma persegui e alcancei. Pode o mundo inteiro ansiar a interação pseudo-humana com uma máquina, mas não eu. Não mais. Podem as máquinas falar sua língua e interagir com o homem, mas não a minha língua. Para expressar minha humanidade prefiro usar a minha língua, imperfeita, insincera, mas que alcance um outro ser humano. Que possa ser compreendida quase tal como eu a compreendo, quase me fazendo compreender. As máquinas podem fazer tudo o que de melhor podem fazer sem que tenham que falar ou pensar como nós. Nós, sim, é que temos a capacidade de nos comunicar mesmo com aquilo que não possui igual habilidade. Mas também somos nós, humanos, que teimamos em quebrar qualquer barreira que se apresente. Que estranho prazer esse de construir artefatos que se assemelhem a nós mesmos! Tantos semelhantes já temos, por que mais? E por que artificiais? Não é minha intenção polemizar; ao contrário, respeito muito aqueles que, como eu, dedicam-se à ciência para avançar o conhecimento. Não combato a robotização, minha questão é com a língua. A língua humana não é apenas um mecanismo de comunicação, ela é muito mais do que isso. É cultura, é expressão, é realidade. É passível de definição formal? Sim. Toda ela? Parece que não. Como explicar e formalizar os vários significados de uma mesma palavra ou expressão, as nuances da fala, a subjetividade de quem ouve ou lê? A aventura de estudar a língua, ainda que seja para aprisioná-la numa máquina, foi um alento à rotina de minha vida profissional. É fascinante se dar conta de seu poder. É igualmente surpreendente que há quem viva uma vida inteira sem jamais lhe prestar atenção. Muitos têm o sonho de dominar uma ou mais línguas estrangeiras, e guardam para essas toda sua admiração. Pobres! Não percebem o tesouro que possuem à disposição, adquirido com quase nenhum esforço. Robôs poderão, sim, entender muito da linguagem humana; poderão também se fazer entender ao se expressarem como humanos. Mas para dominá-la, tal como nós, é preciso viver como nós, nascer, crescer, evoluir como nós, apreendendo e transformando a realidade, tendo a língua como seu principal instrumento. Serão, no máximo, como estrangeiros apátridas, com ótimo domínio da língua, mas nenhum conhecimento do mundo que ela define. Graça Nunes