Em 13 de junho de 1863, uma carta foi publicada em um jornal da Nova Zelândia sob o título “Darwin Among the Machines”, por alguém que assinou como Cellarius e que mais tarde se revelou ser o escritor inglês Samuel Butler (4 de dezembro de 1835–18 de junho de 1902). Com apenas 27 anos, um século e meio à frente de seu tempo, Butler profetizando o futuro do que hoje chamamos de inteligência artificial e o que ele, épocas antes do primeiro computador moderno e da era de ouro dos algoritmos, chamou de “vida mecânica” ou “reino mecânico”, ao lado dos reinos animal, vegetal e mineral.
Em sua carta ao jornal neozelandês, Samuel Butler expande sua analise visionária e faz uma advertência calma e lúcida sobre o que seria necessário para preservar nossa humanidade — nosso gênio humano singular — em meio a essa mudança radical que está mudando o próprio tecido da consciência.
Butler começa:
Existem poucas coisas das quais a geração atual se orgulha mais justamente do que das maravilhosas melhorias que ocorrem diariamente em todos os tipos de aparelhos mecânicos. E, de fato, é motivo de grande congratulação por muitos motivos. Não é necessário mencioná-las aqui, pois são suficientemente óbvias; nosso negócio atual está em considerações que podem tender a humilhar nosso orgulho e nos fazer pensar seriamente nas perspectivas futuras da raça humana. Se voltarmos aos primeiros tipos primordiais da vida mecânica, à alavanca, à cunha, ao plano inclinado, ao parafuso e à polia, ou (pois a analogia nos levaria um passo adiante) àquele tipo primordial do qual todo o reino mecânico foi desenvolvido, queremos dizer a alavanca em si… nos encontramos quase maravilhados com o vasto desenvolvimento do mundo mecânico, com os passos gigantescos com os quais ele avançou em comparação com o lento progresso do reino animal e vegetal. Acharemos impossível deixar de nos perguntar qual será o fim desse poderoso movimento. Em que direção ele está tendendo? Qual será seu resultado?
Prosseguindo “para dar algumas dicas imperfeitas para uma solução dessas questões”, ele acrescenta:
Nestas últimas eras, surgiu um reino inteiramente novo, do qual até agora só vimos o que um dia será considerado o protótipo antediluviano da raça.
Um século antes de Gordon Moore recorrer ao seu trabalho com semicondutores para formular sua lei homônima para a redução e aceleração exponencial da tecnologia ao longo do tempo, Butler observa o ritmo sem precedentes no qual esse “reino” de quase-vida surgiu:
Assim como alguns dos vertebrados mais baixos atingiram um tamanho muito maior do que o que desceu para seus representantes vivos mais altamente organizados, uma diminuição no tamanho das máquinas frequentemente acompanhou seu desenvolvimento e progresso. Tome o relógio como exemplo. Examine a bela estrutura do pequeno animal, observe o jogo inteligente dos minúsculos membros que o compõem; no entanto, esta pequena criatura é apenas um desenvolvimento dos relógios pesados do século XIII — não é uma deterioração deles. Pode chegar o dia em que os relógios, que certamente nos dias atuais não estão diminuindo em volume, podem ser totalmente substituídos pelo uso universal de relógios, caso em que os relógios se tornarão extintos como os primeiros sáurios, enquanto o relógio (cuja tendência tem sido, por alguns anos, diminuir em tamanho do que o contrário) permanecerá o único tipo existente de uma raça extinta.
Basta seguir esta progressão até sua conclusão lógica para enfrentar a questão inevitável de “que tipo de criatura provavelmente será o próximo sucessor do homem na supremacia da Terra”:
Nós mesmos estamos criando nossos próprios sucessores; estamos diariamente adicionando à beleza e delicadeza de sua organização física; estamos diariamente dando a eles maior poder e suprindo, por todos os tipos de engenhosos artifícios, aquele poder auto-regulador e auto-atuante que será para eles o que o intelecto foi para a raça humana. No curso das eras, nos encontraremos como a raça inferior.
E ainda assim Butler desafia nossos preguiçosos binários modernos de tecno-utópicos versus tecno-distópicos. Dentro de sua visão cautelosa pulsa um otimismo infantil — afinal, esta era a infância da era das máquinas — de que nossas máquinas podem se tornar não apenas superiores em poder, mas superiores em poder moral: capazes de autocontrole supremo com cognição “em um estado de calma perpétua”, afligidas por “nenhuma paixão maligna, nenhum ciúme, nenhuma avareza, nenhum desejo impuro”, livres das noções de pecado e vergonha que tanto arrasam o comportamento humano. O custo dessa consciência superior, no entanto, seria nossa servidão incessante — teríamos que manter as máquinas, consertar todos os seus defeitos e “alimentar” seus apetites incessantes. (É curioso, até mesmo assustador, que Butler use a palavra “alimentar” um século e meio antes de se tornar o termo padrão para a matéria cultural selecionada por máquinas servida à nossa consciência por nossas mídias sociais, para se tornar o próprio conteúdo de nossos pensamentos, crenças e valores.)
Butler considera o custo dessa codependência:
Quando o estado das coisas tiver chegado, o qual tentamos descrever acima, o homem terá se tornado para a máquina o que o cavalo e o cachorro são para o homem. Ele continuará a existir, até mesmo a melhorar, e provavelmente estará melhor em seu estado de domesticação sob o governo benéfico das máquinas do que em seu atual estado selvagem… Nossos interesses são inseparáveis dos deles, e os deles dos nossos. Cada raça depende da outra para inúmeros benefícios e, até que os órgãos reprodutivos das máquinas tenham se desenvolvido de uma maneira que mal conseguimos conceber, elas são inteiramente dependentes do homem até mesmo para a continuidade de suas espécies.
Butler conclui com uma prescrição intransigente para o único caminho para a auto-salvação — também infantil, como todo absolutismo diante da complexidade, mas ao mesmo tempo mais madura do que nossa atual civilização auto-infantilizada é capaz de conceder:
Dia após dia, no entanto, as máquinas estão ganhando terreno sobre nós; dia após dia, estamos nos tornando mais subservientes a elas; mais homens são diariamente amarrados como escravos para cuidar delas, mais homens estão diariamente dedicando as energias de suas vidas inteiras ao desenvolvimento da vida mecânica. O resultado é simplesmente uma questão de tempo, mas que chegará o momento em que as máquinas deterão a supremacia real sobre o mundo e seus habitantes é o que nenhuma pessoa de mente verdadeiramente filosófica pode questionar por um momento… guerra até a morte deve ser imediatamente proclamada contra elas. Toda máquina de todo tipo deve ser destruída pelo benquerente de sua espécie. Que não haja exceções, nenhuma trégua mostrada… Se for argumentado que isso é impossível sob a condição atual dos assuntos humanos, isso prova imediatamente que o mal já foi feito, que nossa servidão começou a sério, que criamos uma raça de seres que está além do nosso poder destruir e que não somos apenas escravizados, mas estamos absolutamente aquiescentes em nossa escravidão.
Temendo de fato que, em 1863, a civilização humana estivesse muito avançada para tal recuo total, Butler passou os nove anos seguintes elaborando essa profecia e imaginando futuros alternativos no que se tornou seu romance Erewhon, or, Over the Range (public library | public domain) — a história de um viajante contemporâneo que, por algum acidente sem nome do espaço-tempo, se encontra como visitante de um reino estranho em um canto remoto da Terra, habitado por uma cultura autocontida que há muito havia alcançado estágios mais avançados de civilização do que os nossos, mas sentiu essa escravidão iminente pela tecnologia no reconhecimento de que “as máquinas estavam destinadas, em última análise, a suplantar a raça humana e a se tornarem instintivas com uma vitalidade tão diferente e superior à dos animais, quanto a vida animal à vegetal”; os erewhonianos conseguiram se salvar — salvar seu espírito moral, sua felicidade e a vida da mente — ao promulgar a proposição radical com a qual Butler encerrou “Darwin entre as máquinas”, banindo todos os dispositivos mecânicos.
No romance, Butler desenvolve as ideias expostas em seu ensaio e, contrastando a lenta evolução da vida e da consciência na Terra com a rápida evolução das máquinas, compõe o que é essencialmente um rótulo de advertência impressionante para o que hoje chamamos de inteligência artificial — o próximo estágio da consciência:
Houve um tempo em que a Terra era, a toda a aparência, completamente destituída de vida animal e vegetal, e quando, de acordo com a opinião dos nossos melhores filósofos, era simplesmente uma bola redonda quente com uma crosta gradualmente resfriando. Agora, se um ser humano tivesse existido enquanto a Terra estava nesse estado e tivesse sido autorizado a vê-la como se fosse algum outro mundo com o qual ele não tinha nenhuma preocupação, e se ao mesmo tempo ele fosse totalmente ignorante de toda a ciência física, ele não teria declarado impossível que criaturas possuidoras de algo parecido com consciência pudessem evoluir das cinzas aparentes que ele estava contemplando? Ele não teria negado que ela continha qualquer potencialidade de consciência? No entanto, no decorrer do tempo, a consciência veio. Não é possível então que ainda haja novos canais escavados para a consciência, embora não possamos detectar sinais deles no momento?
Novamente. Consciência, em qualquer coisa como a aceitação atual do termo, tendo sido uma vez uma coisa nova — uma coisa, até onde podemos ver, subsequente até mesmo a um centro individual de ação e a um sistema reprodutivo (que vemos existir em plantas sem consciência aparente) — por que não pode surgir alguma nova fase da mente que seja tão diferente de todas as fases conhecidas atuais, como a mente dos animais é daquela dos vegetais?
Seria absurdo tentar definir tal estado mental (ou como quer que seja chamado), na medida em que deve ser algo tão estranho ao homem que sua experiência não pode lhe dar nenhuma ajuda para conceber sua natureza; mas certamente quando refletimos sobre as múltiplas fases da vida e da consciência que já foram evoluídas, seria precipitado dizer que nenhuma outra pode ser desenvolvida, e que a vida animal é o fim de todas as coisas. Houve um tempo em que o fogo era o fim de todas as coisas.
No cerne do experimento mental de Butler está um convite, repetido quase da mesma forma que na meditação somos continuamente convidados a retornar à respiração, a considerar a alarmante rapidez com que a protoconsciência mecânica emergiu e já começou a dominar tarefas para as quais a consciência orgânica passou eras evoluindo. A esse respeito, e na forma como nossas próprias tarefas se tornaram tão entrelaçadas com as deles, nossas máquinas já são conscientes. “Onde a consciência começa e onde termina?”, ele pergunta. “Quem pode traçar a linha?… Não está tudo entrelaçado com tudo?” Com um olho nessas questões inquietantes e na flecha terrivelmente encurtada do tempo evolutivo, ele escreve:
As máquinas mais altamente organizadas são criaturas não tanto de ontem, mas dos últimos cinco minutos, por assim dizer, em comparação com o tempo passado. Suponha, para efeito de argumentação, que seres conscientes tenham existido por cerca de vinte milhões de anos: veja que avanços as máquinas fizeram nos últimos mil! O mundo não pode durar mais vinte milhões de anos? Se sim, o que eles não se tornarão no final? Não é mais seguro cortar o mal pela raiz e proibir que eles progridam mais? […] Deve-se sempre lembrar que o corpo do homem é o que é porque foi moldado em sua forma atual pelas chances e mudanças de muitos milhões de anos, mas que sua organização nunca avançou com a rapidez com que a das máquinas está avançando.
Mais uma vez, épocas de pensamento à frente de seu tempo — uma época em que “Deus” era considerado o criador de toda a vida e a vida era considerada de fundamento metafísico e não físico — Butler faz alusão à descoberta de Hermann von Helmholtz, uma década antes, da velocidade da eletricidade através das fibras nervosas humanas, sugerindo que se a infraestrutura básica da consciência como a conhecemos e sentimos é apenas uma questão de eletricidade através de fios, então nossos companheiros mecânicos não estão tão distantes do conceito de consciência: Se cada sensação é “química e mecânica em sua operação”, por que pensamos que “aquelas coisas que consideramos mais puramente espirituais são tudo menos perturbações do equilíbrio em uma série infinita de alavancas, começando com aquelas que são muito pequenas para detecção microscópica e indo até o braço humano e os aparelhos que ele utiliza?”
Um dos personagens do romance captura o corolário dessas questões em um sentimento que pode muito bem ser — e talvez deva ser — direcionado às premissas fundamentais do nosso tempo:
Não temo nenhuma das máquinas existentes; o que temo é a extraordinária rapidez com que elas estão se tornando algo muito diferente do que são no presente. Nenhuma classe de seres fez, em qualquer tempo passado, um movimento tão rápido para a frente. Esse movimento não deveria ser observado com ciúmes e verificado enquanto ainda podemos verificá-lo? E não é necessário para esse fim destruir as máquinas mais avançadas que estão em uso no presente, embora se admita que elas sejam em si mesmas inofensivas? […] Não podemos calcular nenhum avanço correspondente nos poderes intelectuais ou físicos do homem que será uma compensação contra o desenvolvimento muito maior que parece reservado para as máquinas. Algumas pessoas podem dizer que a influência moral do homem será suficiente para governá-las; mas não posso pensar que será seguro depositar muita confiança no senso moral de qualquer máquina.
Naquela que pode ser a frase mais assustadoramente profética escrita em seu século, Butler acrescenta:
Nossa escravidão nos invadirá silenciosamente e por abordagens imperceptíveis.
Um século e meio depois, Butler parece ter razão em todos os aspectos. É um pensamento arrepiante considerar que as rédeas da nossa própria humanidade podem já estar muito longe das nossas mãos. Felizmente, esta continua sendo uma questão em aberto, a ser respondida com as nossas próprias vidas. Cada ato de resistência conta.
Artigo publicado em themarginalian.org por Maria Popova, traduzido e revisado por Mauro Demarchi
