Um clássico do jornalismo industrial do século XX é a famosa frase “Parem as máquinas”. Quando ela era dita em meio a uma redação de jornal impresso indicava algo errado na edição ou uma notícia importante de última hora. Era preciso parar a impressão, retrabalhar os arquivos e enviar novamente ao parque gráfico. Todo o processo de produção industrial era controlado por homens, bastava apertar um botão e a operação da rotativa estava suspensa. Neste começo de século XX, o parem as máquinas ganhou um novo sentido e, pior, não sabemos se as máquinas obedecerão.
Na semana que passou, um documento assinado por pesquisadores, engenheiros de computação e empresários pede para a humanidade parar as máquinas de automação. A carta aberta do Future of Life Institute, uma organização sem fins lucrativos, alerta sobre os riscos que o desenvolvimento de inteligências artificiais (IAs) pode trazer para a sociedade. O documento foi provocado pelo lançamento do ChatGPT-4, a evolução do chat de linguagem humana artificial, mas também por inteligências artificiais geradoras de imagem, como Midjourney e Dall-E.
A vida imita o video como compôs Humberto Gessinger. A realidade de hoje lembra o filme Blade Runner, no qual o detetive Deckard enfrenta os replicantes, androides quase indistinguíveis de seres humanos. Os replicantes foram fabricados com um limite de vida útil como uma medida de segurança para evitar que desenvolvessem emoções e motivações próprias e fossem uma ameaça à humanidade. No entanto, alguns replicantes ganharam vontade própria, consciência e um forte desejo de sobreviver, o que os levou a rebelarem-se contra seus criadores.
Na carta aberta, há um apelo para o desenvolvimento de inteligências artificiais ser freado para a humanidade encontrar antes formas de administrar as máquinas porque muitas das tarefas e atividades humanas hoje entraram em competição com as IAs. O documento aponta questionamentos retóricos que eu reproduzo abaixo com meus comentários. O estranho mesmo é o atrasado da hora, já que me parece haver um reconhecimento tardio sobre os danos da IA para a democracia, a humanidade e a civilização.
Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?
Esta preocupação é hoje um dos maiores desafios para as grandes empresas de tecnologia na gestão de plataformas de conteúdo e relacionamento. Portanto, o documento questiona se “devemos deixar que as máquinas inundem” enquanto na prática esta é a nossa realidade atual. A desinformação pode ter efeitos extremamente prejudiciais na sociedade, pois distorce a percepção da realidade, manipula opiniões, prejudica a confiança nas instituições e enfraquecer a democracia. E esse fenômeno está em curso.
Devemos automatizar todos os trabalhos, incluindo os satisfatórios?
A automação pode levar a desigualdades sociais, discriminação algorítmica e perda de controle humano sobre dados e questões sensíveis como nas áreas de saúde e segurança pública. Na realidade social, observamos a automação trazer benefícios para a produtividade como a eficiência e a redução de custos, mas também efeitos negativos, como o desemprego e a perda de habilidades e conhecimentos humanos. Porém, em havendo um trabalho satisfatório ao custo de um funcionário com um equivalente automatizado a custo menor, a sociedade capitalista optará pela segunda opção. E assim é no mercado de trabalho, desde antes das IAs.
Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais esperta e nos substituíssem?
Se deveríamos ou não, o fato é que o chatGPT-4 está pronto para uso mediante assinatura e promete “respostas mais completas e 40% mais corretas que a versão anterior, além de ser menos propenso a criar conteúdos preconceituosos e ofensivos”, como diz no site. O chatGPT é um exemplo de mente não humana ou inteligência artificial (IA) avançada porque possui um sistema de aprendizado profundo (deep learning) e foi desenvolvido para imitar e até mesmo superar algumas habilidades humanas, como reconhecimento de fala, reconhecimento de imagens, tradução de idiomas, criação de textos e arte. As mentes não-humanas são criadas por meio de algoritmos e técnicas computacionais avançadas, se vão superar todos os humanos eu não sei, mas já superam boa parte daqueles que vivem em vulnerabilidade social e sem acesso à educação de qualidade, por exemplo.
Devemos arriscar perder o controle de nossa civilização?
Dever talvez não devêssemos, mas o risco foi tomado. A carta aberta procura frear a velocidade de desenvolvimento adquirida pelas inteligências artificiais, mas é pouco provável que o aprendizado de máquina obedeça. Os algoritmos avançados não possuem o botão de liga e desliga como as rotativas dos jornais, nem os criadores conseguem controlá-las por completo. Elas ainda não têm imagem e semelhança com os humanos, como os replicantes em Blade Runner. Eu escrevi, ainda.
—–
Se a carta aberta de alerta sobre a inteligência artificial terá consequência eu não sei, mas o grito de “Parem as Máquinas”, antes restrito às redações de jornais impressos, está ecoando solto como nunca antes na história da humanidade.
