I  A ideia do dia

A fresta por onde entra o chinês

Um homem que não distingue uma palavra de chinês de um rabisco qualquer pode devolver respostas capazes de enganar um nativo.

O quarto começa por uma exigência dura: nenhum símbolo chinês pode ter significado para quem está lá dentro. O ocupante fala inglês, só inglês, e os caracteres chegam a ele como desenhos sem sentido nenhum.

Pela primeira fresta entra um maço de folhas em chinês, chamado de roteiro. Pela segunda entra uma história, também em chinês. Pela terceira entram perguntas sobre a história.

Junto com o material vem um manual grosso, escrito em inglês, com as instruções de trabalho. O manual não traduz nada. Ele descreve os símbolos pela forma e manda casar um desenho com outro desenho.

A instrução típica tem formato de receita: quando aparecer o traço de tal feitio, procure na pilha três o cartão com o traço correspondente e devolva pela fresta de saída.

O ocupante começa devagar e melhora. Depois de alguns meses ele encontra os cartões certos em segundos, e a pilha que sai pela fresta fica indistinguível da que um falante nativo escreveria.

Do lado de fora, a conclusão é imediata. O quarto entende chinês, responde ao que foi perguntado e completa o que a história deixou implícito.

Ao mesmo tempo, alguém empurra perguntas em inglês pela mesma fresta. Ele responde em inglês, como qualquer pessoa responde, e as duas pilhas de respostas saem com a mesma qualidade aparente.

A diferença mora inteira do lado de dentro. Nas perguntas em inglês ele entende o que lê e o que escreve. Nas perguntas em chinês ele move formas, e a compreensão fica em zero absoluto.

O artigo separa duas teses que costumam viajar juntas. A versão fraca diz que o computador é uma ferramenta poderosa para estudar a mente, e ninguém briga com ela. A versão forte diz que o computador com o programa certo é uma mente, com estados mentais de verdade.

O quarto foi construído contra a segunda tese, e só contra ela.

O alvo tinha nome e endereço. Em 1977, Roger Schank e Robert Abelson mantinham em Yale programas que respondiam perguntas sobre historinhas de restaurante, inclusive sobre detalhes que a história nunca dizia.

Perguntada se o cliente comeu o hambúrguer depois de sair furioso sem pagar, a máquina respondia que não. Os autores sustentavam que o programa entendia a história do mesmo jeito que uma pessoa entende.

O argumento sai daí em três passos curtos. Um programa é definido por regras de forma, uma mente tem conteúdo, e regra de forma não gera conteúdo. Se o homem do quarto roda o programa inteiro e continua sem entender, rodar o programa não é entender.

II  Quem pensou

O aluno de Austin em Berkeley

Nasceu em Denver em 1932, filho de um engenheiro elétrico da AT&T e de uma médica. A infância foi de mudança em mudança, atrás dos postos do pai.

Entrou na Universidade de Wisconsin e saiu de lá em 1955 com uma bolsa Rhodes para Oxford. Ficou sete anos na Inglaterra, entre o doutorado e as primeiras aulas.

Em Oxford ele caiu no grupo de J. L. Austin, o centro da filosofia da linguagem comum. A tese de Austin cabe em três palavras: dizer é fazer. Quem promete, batiza, aposta ou declara guerra não descreve o mundo, executa uma ação com palavras.

O aluno levou a ideia adiante em Speech Acts, de 1969, e passou a vida amarrando linguagem, intenção e mundo. Quem estuda por vinte anos como a palavra ganha sentido não engole com facilidade a tese de que o sentido nasce da forma.

Em 1959 ele atravessou o país para Berkeley e ficou. Em 1964, no meio do Movimento pela Liberdade de Expressão, foi o primeiro professor efetivo do campus a apoiar os estudantes em público.

O artigo de 1980 nasceu de um encontro direto com a engenharia. Ele leu os programas de compreensão de histórias construídos em Yale e escreveu contra a interpretação que os autores davam ao próprio trabalho.

O texto saiu na Behavioral and Brain Sciences, uma revista de formato incomum. Cada artigo principal era publicado junto dos comentários de pares convidados e da resposta do autor, no mesmo número.

O resultado foi um julgamento público em papel. Dennett, Hofstadter, Fodor e o próprio Schank escreveram contra, e cada objeção recebeu um parágrafo de resposta assinado.

A tese positiva dele costuma sumir atrás do quarto. Ele nunca disse que máquina não pensa.

A posição é quase o contrário. O cérebro é uma máquina biológica, a consciência é um efeito causal do tecido nervoso, e a forma do programa não reproduz o efeito porque não tem o poder causal certo.

A comparação preferida dele era a fotossíntese. Simular uma folha num computador não produz um grama de açúcar, e simular uma tempestade não molha ninguém. A simulação de um processo não é o processo.

O artigo virou um dos textos mais reimpressos da ciência cognitiva e entrou no currículo de filosofia da mente, de linguística e de computação.

III  Contra o quê

A sala luminosa dos Churchland

Três saídas, três escolas. A primeira aceita a montagem inteira e discute quem é o sujeito da frase.

A resposta do sistema veio de Berkeley. O homem é uma peça, e uma peça não entende mesmo. Quem entende chinês é o sistema completo: homem, manual, pilhas de cartões, frestas e sala.

Searle devolveu o golpe apagando a sala. O homem decora o manual inteiro, memoriza as pilhas de cartões, faz a conta de cabeça e trabalha ao ar livre.

Agora o sistema inteiro cabe dentro de uma pessoa, e a pessoa continua sem entender uma sílaba de chinês. Não sobrou nenhuma outra parte para carregar a compreensão.

A segunda saída veio de Yale e trocou a sala por um corpo. Ponha o programa num robô com câmeras e braços, solte ele no mundo, e os símbolos deixam de ser desenhos soltos porque passam a apontar para coisas.

A réplica repete a mudança de lugar. Coloque o homem dentro do robô, recebendo pela fresta os símbolos que a câmera produz e devolvendo os símbolos que movem os braços.

O robô caminha e responde perguntas, e o operador lá dentro segue sem saber se manipula informação sobre comida, sobre trânsito ou sobre coisa nenhuma.

A terceira saída ataca a premissa. Paul e Patricia Churchland publicaram em 1990, na Scientific American, a versão mais afiada da objeção.

A analogia deles é uma sala escura. Imagine um homem em 1860 sacudindo um ímã para testar a tese de que a luz é uma onda eletromagnética. Ele sacode com força, a sala continua escura, e conclui que a tese está errada.

A intuição falha por um detalhe de escala. Um braço humano não chega perto da frequência necessária, e a tese continua de pé. O quarto teria o mesmo defeito: um homem lento executando regras no nível errado de descrição.

Daniel Dennett foi por outro flanco e chamou a montagem de bomba de intuição, um aparelho que entrega a resposta desejada escondendo a parte difícil. Ninguém consegue imaginar de verdade um manual capaz de sustentar uma conversa inteira.

Mais de quarenta anos depois, a discussão saiu do papel. Sistemas de linguagem escrevem cartas e sustentam conversas longas em dezenas de idiomas, e a pergunta sobre o que acontece do lado de dentro ficou literal.

Fora da discussão acadêmica, a diferença entre casar padrão e entender rende decisão melhor.

O quarto não decide se a máquina pensa. Ele mostra que a resposta certa, sozinha, nunca prova compreensão, e que a prova só aparece para quem olha o lado de dentro.

"Onde você acerta a resposta todo dia sem entender o que está fazendo?"

Contra-Golpe de Schopenhauer

As 38 manobras usadas para te vencer numa discussão e a resposta pronta para cada uma.

Em que ano John Searle publicou o argumento do Quarto Chinês?

Veja o ranking de quem mais acerta →

Como foi a edição de hoje?

Faltam {{xp_falta | 5}} XP pro Nível {{nivel_prox | 1}}

Responda o quiz de hoje: +3 XP

Top {{top_pct | 100}}%: posição {{pos_mes | 0}} na comunidade Filosofia do Dia nesse mês

Quero subir meu nível →