Uma das histórias mais conhecidas do período inicial da modernidade é a da “máquina de xadrez“, também chamada, em termos menos neutros e mais politicamente incorretos, de “O Turco mecânico“. O “Turco” era um manequim em tamanho real composto por um torso e uma cabeça com aparência e roupas de um “mago oriental” sentado à frente de uma grande escrivaninha de madeira que servia a um duplo propósito. O primeiro é que em seu interior oco estavam as engrenagens, polias e mecanismos responsáveis pelo funcionamento do “turco”. E no tampo, via-se um tabuleiro de madeira, porque o boneco era exibido em apresentações itinerantes como um “jogador de xadrez autômato” capaz de derrotar a maioria de seus adversários com a maravilha de sua, digamos, “inteligência artificial”, traduzindo em termos contemporâneos.
O turco provocou sensação em seu tempo – foi o que hoje chamamos de “viral” em uma definição não tão anacrônica quanto parece, uma vez que “viral” não se restringe à nossa cultura digital, e sim à forma rápida com que se espalha um “meme”, o conceito de Richard Dawkins que batizou para falar de ideias como o equivalente cultural do “gene” no mundo físico (e que vocês hoje pensam que são só figurinhas no celular). Criada por um inventor húngaro chamado Wolfgang von Kempelen, a máquina foi apresentada ao mundo pela primeira vez em 1770. Seu funcionamento, segundo Kempelen, era completamente autônomo, operado por mecanismos interiores e por uma caixa de madeira que ficava posicionada sobre a mesa. Esse “jogador-autômato”, enfrentou e venceu oponentes ao longo de toda a Europa durante décadas, estabelecendo uma lenda reiterada a cada nova apresentação durante décadas.
O autômato – palavra da moda naquele tempo para vários tipos de maravilhas mecanizadas da época, de brinquedos de corda ao turco na mesa de xadrez – jogou contra muitos jogadores considerados mestres em seu tempo e até mesmo com figuras célebres. Em Paris, enfrentou, por exemplo, Benjamin Franklin, na época embaixador americano na França. A lenda construída depois foi que o “turco” vencia todo mundo, mas na prática, embora batesse rapidamente anônimos que se apresentavam da multidão durante as exibições a maioria de seus jogos contra jogadores realmente habilidosos terminou em derrota – o que não impedia o público de se maravilhar com o dispositivo, uma vez que o caráter fantástico do equipamento era que, ganhando ou perdendo, Kempelen havia criado uma máquina que sabia jogar sozinha.
A fraude
O impacto do autômato na consciência pública de seu tempo foi gigantesco, e uma série de livros foi escrita explicitando os fundamentos de seu “engenho” durante os períodos em que Kempelen o manteve em excursão pela Europa, visitando até mesmo monarcas como Maria Teresa da Áustria e Frederico II da Prússia. O inventor era até mesmo bastante aberto sobre o funcionamento da máquina, permitindo que os espectadores olhassem as engrenagens no interior de seu gabinete para garantir que a máquina operava sozinha.
Só havia um problema: o turco não era uma máquina de fato, mas um elaborado truque que permitia a um ser humano, escondido dentro da escrivaninha, movimentar as peças usando um sistema complexo de alavancas. Conforme escreveu um dos muitos intelectuais fascinados ao longo do tempo por essa história, Walter Benjamin, na primeira das suas Teses Sobre a Filosofia na História, em 1940:
“Conhecemos a história de um autômato construído de tal modo que podia responder a cada lance de um jogador de xadrez com um contralance, que lhe assegurava a vitória. Um fantoche vestido à turca, com um narguilé na boca, sentava-se diante do tabuleiro, colocado numa grande mesa. Um sistema de espelhos criava a ilusão de que a mesa era totalmente visível, em todos os seus pormenores. Na realidade, um anão corcunda se escondia nela, um mestre no xadrez, que dirigia com cordéis a mão do fantoche”.
Fascínio
O caso da máquina de xadrez ainda é hoje alvo de interesse e um tema que ganha revisões periódicas na cultura. Edgar Allan Poe, que alegava ter visto a máquina em atividade, embora haja dúvida sobre quando isso teria ocorrido, publicou em 1836 um ensaio sobre o autômato intitulado O Jogador de Xadrez de Maelzel, no qual discorre sobre por que, em sua opinião, o “jogador autômato” seria uma farsa (assim como o debate contemporâneo a respeito das imagens produzidas por inteligência artificial, o centro da questão seria o erro. Para Poe, considerando o fato de que o xadrez é uma aplicação criativa das leis da matemática, uma verdadeira máquina de xadrez jogaria de modo perfeito, mas a máquina cometia erros enquanto jogava, sinal de que era uma um embuste).
Ambroise Bierce publicou em 1899 um conto gótico chamado O Mestre de Moxon, no qual um máquina semelhante ao “Turco” enxadrista matava seu criador. O conto antecipa uma série de debates ainda muito presentes neste mundo em que desenvolvemos inteligências artificiais: uma máquina consegue ser capaz de pensar de modo inteligente? Que conceito de inteligência deve ser usado para medir os atributos de uma máquina? Sendo uma máquina capaz de inteligência e raciocínio criativo, em que tipo de obrigação moral isso coloca os humanos com relação a elas? Elas devem ser tratadas então como tratamos a nós mesmos? A lista das obras que volta a esse tema é gigantesca, deixo vocês apenas com mais uma, romance muito divertido escrito pelo autor alemão Robert Löhr em 2007 chamado A Máquina de Xadrez (teve edição no Brasil pelo selo Bestseller, da Record), que reconstitui o modo como Kempelen teria dado origem ao “prodígio tecnológico” que enganou uma geração inteira.
O “Maelzel” do título do artigo de Poe que citei antes alude a outra pessoa importante nesta história: Johann Nepomuk Maelzel, o segundo proprietário da máquina, que a comprou do filho de Kempelen após a morte do inventor, em 1804. Músico de carreira e um aficionado pela tecnologia de seu tempo, Maelzel continuou as apresentações do artefato por mais três décadas, até sua própria morte, em 1838. Nesse segunda turnê, o prestígio da máquina não havia ainda diminuído – uma das apresentações da atração foi para o próprio Napoleão.
Após a morte de Maelzel, a máquina foi comprada, restaurada e exibida durante alguns anos em um museu em Baltimore, nos Estados Unidos, até ser destruída em um incêndio nos anos 1850. Nessa época, já eram razoavelmente conhecidos os mecanismos da ilusão: alguém dentro da máquina conseguia enxergar o movimento do adversário por meio de uma série de imãs colocados pelo lado avesso em cada casa do tabuleiro e penduradas por um fio. Quando uma peça era colocada sobre a casa, o imã subia ao encontro da peça, que também tinha um ímã em sua base. Assim, o jogador dentro da caixa sabia os movimentos dos adversários e como responder a eles, algo que, também, só podia ser feito à luz de uma vela – a fumaça era disfarçada usando um cachimbo que o boneco “pipava” de quando em quando
O “anão” como símbolo
A tese do “anão corcunda” dentro da máquina se tornou umbilicalmente vinculada à história ao longo dos tempos em que ela foi sendo recontada. Foi uma hipótese provavelmente desenvolvida para explicar como alguém teria conseguido se esconder dentro do dispositivo atrás dos painéis de engrenagens que disfarçavam a presença do jogador humano e mimetizavam o “coração da máquina”. Na prática, nunca se soube quem estava dentro da máquina nos seus primeiros anos com Kempelen, mas há uma lista de mestres enxadristas que se sabe terem trabalhado para Maelzel nos anos em que ele foi proprietário da máquina. Nenhum deles era anão, o que mostra que a hipótese deve ser analisada com desconfiança – ou nunca houve um anão na máquina ou Maelzel, ao recebê-la dos herdeiros de Kempelen, modificou sua estrutura para permitir a um homem comum operá-la por dentro.
Mas é fácil entender o porquê da sobrevivência dessa versão específica da história (o romance recente de Robert Löhr que eu citei antes abraça a hipótese, por exemplo). A ideia de que por trás de um embuste no qual espectadores ingênuos eram apresentados a uma suposta maravilha tecnológica estava, na verdade, uma pessoa com dificuldades físicas trabalhando em um espaço desumanamente confinado e à luz de velas é um símbolo muito forte do quanto o preço de uma tecnologia revolucionária se assenta muitas vezes nos ombros de um trabalhador explorado de maneiras criativamente cruéis. Não se sabe até hoje quem Kempelen pagava para operar a máquina de dentro, seu nome sumiu na poeira do tempo, mas qualquer visita, mesmo que breve, à história do capitalismo tecnológico, serve para formular a hipótese de que, fosse quem fosse o hábil titereiro por trás do truque, não deve ter ganhado uma fração da grana amealhada por Kempelen com sua trapaça.
O mundo de hoje
E comprovando o quanto esse tópico que emerge no subtexto dessa história ainda tem muito a dizer nos dias de hoje, fomos confrontados recentemente com o que, se o jornalismo de economia em qualquer lugar do planeta fosse sério e não uma casinha de cachorro lambão atrelada na mansão do grande Capital, teria sido mancheteado em todos os veículos como a nova fraude da máquina de xadrez, mas foi veiculado mais como um ar de curiosidade e decisão empresarial cotidiana.
A Amazon, aquela mesma, a gigante monopolista que praticamente matou o mercado livreiro e que tem seus tentáculos espalhados por milhões de outras paradas, comanda uma cadeia de lojas chamada Amazon Fresh, que vendiam ao público a ideia de uma “quitanda high-tech”, que operava com base em um sistema de crédito e venda chamado “Just Walk Out”, que poderia ser traduzido de modo informal de uma dezena de maneiras (“só vai”, “só sai”, “só vaza” etc.), , mas que eu prefiro chamar de “Só vai andando”. Na teoria, inclusive na explicação oficial que a Amazon colocou no ar em uma página oficial e ainda não despublicou, você entrava ou com um cartão específico da Amazon One ou com um app ativado em seu celular. Escolhia o que queria e simplesmente saía de boas pela porta da frente. A ideia é que, enquanto você passeia pela loja e vai tirando coisas das gôndolas, “sensores, câmeras e ferramentas de aprendizado profundo detectam o que um consumidor tira da prateleira”. Aí você pega suas coisas, vai embora e recebe depois a lista do que comprou e a cobrança, pelo cartão ou pelo aplicativo.
O texto de explicação, que eu não inventei, mas tirei diretamente do site no qual a Amazon fazia a propaganda da tecnologia para outras empresas, inclusive, deixa propositadamente ambíguos os detalhes, permitindo ao leitor interpretar que está em funcionamento na loja uma espécie revolucionária de tecnologia de reconhecimento automatizado de produtos baseado em scanners e códigos automáticos. Não. Assim como na máquina de xadrez, o truque era alguém passando um trabalho dos diabos, provavelmente mal remunerado, para que você tenha a ilusão mágica de uma tecnologia milagrosa.
O custo humano
Um breve parêntese, a propósito disso: boa parte das maravilhas que as big techs parecem querer vender para quem quiser comprar é a ideia de um mundo sem interações humanas na vida real. Postos de gasolina automáticos, lojas automáticas, supermercados com esteiras e caixas automáticos, ônibus sem cobradores. Não que eu goste tanto de gente assim, mas quando essa misantropia soft se torna plano de negócios com bons prospectos, me soa o alarme de o quanto esse futuro que está sendo construído por esse bando de canalhas não é apenas uma projeção tardia das mesmas ansiedades que esses gênios da tecnologia tinham aos 16 anos sofrendo de fobia social e comendo cheetos 18 horas por dia na frente do computador. Se você quer um mundo assim, isso me diz muito a respeito de você, e uma das principais conclusões pra mim é que você é o tipo de pessoa que eu realmente não quereria ter por perto.
Voltando do parêntese: uma reportagem do portal Gizmodo revelou, na semana passada, que a tal tecnologia Just Walk Out nunca foi realmente o milagre da automação vendido pela empresa, mas um sistema de vigilâncias por câmeras que precisava da revisão humana de uma massa grande de trabalhadores na Índia. Sim, mil seres humanos em algum outro continente continuam exercendo o trabalho que os caixas que poderiam ter sido contratados pela loja estariam fazendo – só que recebendo menos e talvez trabalhando ainda mais para poupar você, o apaixonadinho da tecnologia, de cinco minutos de interação com uma pessoa de verdade.
E nem é assim um segredo que essa proto-IA funcione assim. A Amazon não faz a mínima questão de esconder que, por baixo da fumaça e espelhos de uma tecnologia que parece mágica, o que há é mineração de dados e o encargo maciço de uma legião de trabalhadores precarizados. É assim que seus grandes armazéns funcionam para que você clique um botão em um site e receba qualquer coisa. Não à toa, aliás, a companhia chama, descaradamente, de Amazon Mechanical Turk, um produto que mistura Uber com nuvem digital para que empresas contratem os serviços de trabalhadores humanos para tarefas a serem realizadas online, (“uma força de trabalho global distribuída 24 horas por dia, 7 dias por semana”, nas palavras da própria Amazon ao descrever o serviço.
A Amazon não é a única a criar um serviço desse tipo, em que humanos recebem centavos por dia para realizar tarefas de identificação de padrões e de imagem, etiquetagem de dados. Ano passado, uma longa e muito bem apurada reportagem da Wired, por exemplo, esmiuçou o funcionamento da Appen, um serviço de mineração de dados australiano que tem entre seus clientes a própria Amazon, além de outras gigantes como Google, Facebook e Microsoft. Na prática, você emprega por empreitada um exército de pessoas em sérias dificuldades financeiras em mercados globais tornados instáveis pela pobreza ou pela desigualdade econômica para que elas, por exemplo, “marquem os quadros em que aparece um sinal de trânsito”, “identifiquem uma maçã na imagem”, “selecione apenas os ônibus nesta foto” e outros exemplos semelhantes aos que qualquer um já viu em captchas de segurança quando tentou acessar algum site. Duas diferenças básicas, no entanto, tornam esse mercado global sobre o qual se fala pouco um capítulo particularmente irônico na “exploração do homem pelo homem”: os trabalhadores recebem uma merreca e, quanto mais trabalham, mais estão ajudando a empresa a não precisar mais de seu trabalho.
É uma ideia hoje infelizmente naturalizada pela mentalidade de startup contemporânea que “qualquer IA funciona assim”, mas o fato é que, quando uma IA vem a público, o que ela menos consegue fazer é aquilo que promete. É nas interações com os usuários que o programa é “treinado” para refinar cada vez mais suas ações em direção àquilo que a companhia que a produziu quer que ela faça. No caso da mineração de dados e do etiquetamento de informações (que essa gurizada de hoje que fala inglês até quando fala português chama de “tagueamento”), o que torna a coisa particularmente triste e alarmante é que cada trabalhador desesperado recebendo uns trocados para isso está, na verdade, ajudando a treinar seus substitutos digitais.
Seria bom ter isso em mente diante de notícias quase sempre otimistas do jornalismo econômico sobre uma nova tecnologia rápida e fácil que poupa a você o tempo e o incômodo de uma interação humana.
Na maioria das vezes, o que há por trás disso não é tecnologia, nem mesmo mágica.
É sim o anão corcunda no cubículo à luz de velas.
E não está longe o dia em que ele pode ser você.
Leia mais textos de Carlos André Moreira aqui.
Foto da Capa: Joseph Racknitz | Humboldt University Library
