Por que eu parei de usar a palavra “inteligência” quando falo de IA para os meus alunos.

Foi durante uma aula sobre redes neurais.

Eu havia explicado a arquitetura, mostrado como os pesos são ajustados durante o treinamento, demonstrado o resultado num problema de classificação de imagens. O modelo performava bem. Os alunos estavam engajados.

Então um aluno levantou a mão e fez uma pergunta que, na superfície, parecia simples:

— Professor, em que momento a rede começa a entender o que está vendo?

Fiz uma pausa.

Não porque a pergunta fosse ingênua — era, na verdade, uma das perguntas mais inteligentes que alguém poderia fazer. Era porque percebi, naquele momento, que não havia uma resposta boa dentro do vocabulário que eu havia usado a aula inteira. Eu havia falado em “inteligência artificial”, em como o modelo “aprende a reconhecer padrões”, em como ele “decide” qual classe atribuir a cada imagem.

O aluno estava apenas seguindo o vocabulário que eu mesmo havia oferecido. E esse vocabulário havia criado uma expectativa que o mecanismo real não conseguia satisfazer.

A rede não entende nada. Nunca vai entender. E eu havia passado cinquenta minutos usando palavras que sugeriam o contrário.

Um campo que se nomeou com as palavras erradas

A Inteligência Artificial nasceu, como campo formal, numa conferência em Dartmouth em 1956. John McCarthy, um dos organizadores, escolheu o nome. A proposta original dizia que o objetivo era fazer máquinas se comportarem de formas que, se observadas em seres humanos, seriam chamadas de inteligentes.

É uma definição operacional cuidadosa — baseada no comportamento observável, não em afirmações sobre estados internos. McCarthy sabia o que estava fazendo. O problema não foi a definição. Foi o nome.

“Inteligência Artificial” é um nome que carrega consigo décadas de ficção científica, intuições sobre a mente humana e expectativas sobre o que “ser inteligente” significa. Quando você ouve que uma máquina é inteligente, não pensa em multiplicações de matrizes e gradiente descendente. Pensa em algo que entende, que raciocina, que talvez sinta.

E o campo não parou no nome. Ao longo das décadas, foi acumulando um vocabulário inteiro emprestado da psicologia e da filosofia da mente: os modelos aprendem, compreendem, decidem, reconhecem, raciocinam, julgam. Redes neurais têm neurônios e sinapses. Sistemas têm memória e atenção. Agentes têm crenças e intenções.

Cada uma dessas palavras é uma metáfora. Cada metáfora é útil para comunicar rapidamente o que um sistema faz de forma aproximada. E cada metáfora, quando tomada ao pé da letra, cria uma falsa imagem do que está realmente acontecendo.

O que cada palavra está escondendo

Vale a pena examinar algumas dessas metáforas de perto — não para descartá-las, mas para ver o que elas iluminam e o que elas escondem.

“Inteligência”

No uso cotidiano, inteligência implica flexibilidade — a capacidade de resolver problemas novos em domínios variados, de transferir conhecimento entre contextos, de adaptar estratégias quando o ambiente muda. Um ser humano inteligente não precisa ter visto exatamente aquele problema antes para ter uma chance razoável de resolvê-lo.

Os sistemas que chamamos de IA em geral não têm isso. São extraordinariamente competentes dentro do domínio em que foram treinados — e frequentemente frágeis fora dele. Um modelo que joga xadrez melhor que qualquer humano não consegue jogar damas. Um modelo de linguagem que escreve código fluente em Python pode gerar absurdos numa linguagem menos representada nos dados de treinamento. Isso não é inteligência geral — é competência estreita e profunda, que é uma coisa diferente e em vários aspectos mais limitada.

“Compreensão”

Compreender algo implica representação interna — uma estrutura mental que captura as relações entre conceitos, que permite fazer inferências, que sustenta explicações. Quando você compreende por que objetos caem, você entende gravidade de uma forma que permite raciocinar sobre casos que nunca viu.

Modelos de linguagem produzem texto que frequentemente parece demonstrar compreensão. Respondem perguntas, explicam conceitos, fazem analogias. Mas há experimentos simples que revelam os limites: perguntas que invertem levemente a estrutura de um problema que o modelo “resolveu” corretamente produzem erros grosseiros. O modelo não estava compreendendo — estava reconhecendo padrões superficiais que se parecem com compreensão nos casos mais comuns.

“Decisão”

Quando um sistema de IA “decide” qual anúncio mostrar, qual candidato selecionar, qual paciente priorizar, a palavra “decisão” importa um peso ético que o mecanismo real não carrega. Decisões humanas envolvem responsabilidade, julgamento, possibilidade de ser questionado e de explicar o raciocínio.

Um modelo que produz uma saída a partir de uma entrada não decide no mesmo sentido. Ele computa. A responsabilidade pela decisão — quais dados usar, qual objetivo otimizar, quais consequências aceitar — pertence às pessoas que construíram e implantaram o sistema. Usar a palavra “decisão” para descrever a saída do modelo frequentemente serve para obscurecer onde a responsabilidade humana realmente está.

O perigo concreto das metáforas

Isso não é uma discussão filosófica sem consequências práticas. O vocabulário que usamos para descrever sistemas de IA molda as perguntas que fazemos sobre eles — e as perguntas que não fazemos.

Se um modelo “decide”, a pergunta natural é: a decisão foi correta? Se um sistema “computa uma saída a partir de dados otimizados para um objetivo específico”, as perguntas naturais são outras: quais dados? Otimizado para quê? Quem definiu o objetivo? Quem é responsável pelo resultado?

A segunda família de perguntas é mais trabalhosa. Mas é a que protege as pessoas afetadas pelos sistemas.

Há um padrão que se repete em casos de falha de IA que viraram notícia. Um sistema de reconhecimento facial identifica erroneamente uma pessoa como suspeita. Um algoritmo de seleção filtra currículos de forma discriminatória. Um modelo de concessão de crédito nega empréstimos de forma sistematicamente injusta para certos grupos. Em todos esses casos, a investigação posterior revela que as pessoas que implantaram o sistema confiaram demais no vocabulário — agiram como se o sistema estivesse decidindo ou julgando, quando estava apenas computando uma função sobre dados históricos enviesados.

O vocabulário não causou esses problemas. Mas criou o ambiente mental em que as perguntas certas não foram feitas.

O que eu faço diferente agora

Não abolí o vocabulário padrão das minhas aulas. Isso seria impraticável — os alunos vão encontrar esses termos em todo lugar, e precisam reconhecê-los e usá-los para se comunicar no campo.

O que mudou é que agora introduzo o vocabulário acompanhado explicitamente do que ele está escondendo.

Quando digo “o modelo aprende”, acrescento: no sentido de que seus parâmetros são ajustados para minimizar uma função de perda — não no sentido de que adquire compreensão.

Quando digo “o sistema decide”, acrescento: no sentido de que produz uma saída a partir de uma entrada — a responsabilidade pela escolha do objetivo e dos dados é humana.

Quando digo “rede neural”, menciono: o nome é uma metáfora histórica — o que temos são funções matemáticas compostas em camadas, não neurônios biológicos.

Isso toma mais tempo. Às vezes os alunos acham que estou sendo excessivamente cuidadoso com palavras. Mas volta e meia aparece uma pergunta — como a do aluno que queria saber em que momento a rede começa a entender — que me lembra por que esse cuidado importa.

Aquele aluno estava fazendo a pergunta que o vocabulário convidava a fazer. E a resposta honesta era: a pergunta está baseada numa premissa que o vocabulário criou e que o mecanismo não sustenta.

Isso não é culpa do aluno. É consequência de um campo que se nomeou com as palavras de uma coisa que ainda não sabe construir — e que, décadas depois, ainda não parou para examinar o que esse nome promete e o que os sistemas realmente entregam.

Hoje, quando começo a falar sobre Inteligência Artificial, gosto de fazer uma pausa antes e dizer:

Vamos combinar que vamos usar esse nome porque todo mundo usa. Mas vamos também combinar que vamos lembrar, durante o semestre todo, que é um nome — não uma descrição.

Os alunos riem. Achando que é um detalhe menor.

Não é.