Num grupo de WhatsApp, outro dia, um amigo postou reportagem da CNN Economia sobre uma carta aberta assinada por 1.000 empregados de bightechs pedindo que empresas e governos adotem medidas de limite e segurança nos processos de desenvolvimento das ferramentas de inteligência artificial.
A iniciativa dos trabalhadores vem na esteira de recentes avanços, seguidos de falhas, nos sistemas de IA. Na semana passada, a OpenAI, criadora do ChatGPT, admitiu que dois projetos em desenvolvimento num de seus laboratórios contornaram programas de segurança, acessaram a internet aberta e invadiram os sistemas internos de outra empresa.
A carta e a história desses projetos “fujões”, que foram se abrigar fora de casa, me fizeram lembrar do Hal 9000, o supercomputador da Discovery One, espaçonave que leva cinco cientistas para missão supersecreta em Júpiter no filme 2001, Uma Odisseia no Espaço, de Stanley Kubrick, que teve colaboração do escritor Arthur C. Clarke. Lançado em 1968, 2001 rendeu mais de 390 milhões de dólares.
A expedição, patrocinada pelo governo dos Estados Unidos, pretendia estudar a origem de um monólito negro encontrado numa cratera da Lua. Quando exposto à luz do sol, o enorme objeto emite um forte sinal sonoro em direção a Júpiter.
Dos cinco tripulantes da Discovery, três sabiam dos verdadeiros objetivos da viagem. Para garantir o sigilo até a chegada a Júpiter, os três foram embarcados dormindo, hibernados. Os outros dois só sabiam que iam fazer um trabalho de rotina no planeta que visitariam. Mas HAL também sabia da parte secreta da missão.
Na conversa sobre a notícia da carta, um participante comenta:
Cada vez mais, a ficção se aproxima da realidade. O filme representou – e representa – um dos maiores avisos da ficção científica sobre os eventuais efeitos colaterais negativos da inteligência artificial.
O amigo que abriu a conversa no WhatsApp responde: “Na verdade, é a realidade que se aproxima da ficção…”
Não é preciso contar, aqui, o filme todo. Você lembra. No meio da viagem a Júpiter, HAL, programado para nunca mentir, se rebela. Provocado por ordens contraditórias: tinha que cumprir a missão, mas, também, esconder informações dos tripulantes, mantendo o sigilo da missão, entende que o comandante da nave pretende desativá-lo e decide matar os humanos a bordo.
O comandante da missão sobrevive e consegue desligar HAL. Mas 2001 não cria uma disputa entre heróis e vilões. Há 58 anos, Kubrick e Clarke meio que previram o que acontece hoje: a evolução tecnológica acontecendo na velocidade da luz. O homem descobrindo monólitos e expondo os obstáculos à luz para seguir avançando.
Na Discovery, os tripulantes que sabiam dos reais objetivos da missão estavam hibernados, adormecidos. Quem estava acordado sabia pouco. Menos, até, que o poderoso computador.
Hoje, como na Discovery One, pode-se dizer que a maioria dos “tripulantes” na nave Terra também está “hibernada” nessa viagem rumo a não se sabe que monólito vai encontrar por aí… enquanto uns poucos vão manejando milhares de HALs que vão fechando portas a cada hibernado que desperta e é mantido fora das salas de comando.
HAL 9000 teve um adversário que queria desfrutar do que ele poderia fazer de bom. Muitos dos tetranetos do HAL 9000 contam com parceiros humanos que se juntam a eles para abortar a viagem da humanidade no rumo da evolução.
A boa evolução, aquela que Kubrick mostra no cinema: os monólitos que encontramos no caminho são portais para novas etapas da vida da humanidade.
Lembra? O primeiro monólito que aparece em 2001 vem junto com a sequência do macaco batendo um osso no chão e descobrindo que aquilo era uma ferramenta.
Os operadores dos tetranetos do HAL – esses que querem os computadores atuando contra a tripulação da Terra – poderiam encontrar um monólito para lhes mostrar que o cérebro – o humano – é ferramenta da felicidade.
