“Qualquer forma suficientemente avançada de tecnologia é indistinguível da magia”, dizia o britânico Arthur Charles Clarke (1917-2008), talvez o mais influente dos escritores de ficção científica do século 20 e um dos criadores de “2001: Uma Odisseia no Espaço”. A frase é brilhante, não nego, mas tampouco resisto a estragá-la um pouco com as seguintes rasuras: qualquer tecnologia avançada parece mágica, e mais poderosa do que realmente é, para quem não tenta entender as limitações dela.

Digo isso por conta de algumas reações interessantes dos leitores à minha coluna anterior neste espaço. Como afirmei que não estava nem de longe claro como diabos uma inteligência artificial descontrolada seria capaz de simplesmente extinguir a nossa espécie, houve quem me respondesse que eu estava desconsiderando a possibilidade de que a IA criasse e disseminasse um vírus letal. Ele poderia ser muito mais hábil na arte de matar pessoas do que os vírus que conhecemos —portanto, capaz de nos dizimar a todos.

OK. Vamos pensar nas implicações desse tipo de hipótese, levando em conta o princípio que enunciei no primeiro parágrafo.

Em qualquer vírus de verdade, feito de proteínas e material genético e que precisa sequestrar o maquinário interno de uma célula viva para funcionar, existe uma tensão entre ser capaz de se assenhorar das engrenagens celulares para criar mais cópias de si mesmo, de um lado, e o de alterar a fisiologia (ou mesmo o comportamento) do hospedeiro para alcançar mais vítimas.

No fundo, é uma equação de custo-benefício (que o vírus, sendo só um amontoado de moléculas orgânicas que, a rigor, nem vivo está, “resolve” sem consciência alguma, pelas vias tortas da seleção natural).

O ponto de equilíbrio exato que o vírus vai encontrar para continuar se multiplicando depende de uma infinidade de coisas, mas tudo o que a gente sabe sobre como eles se comportam no mundo real —e não na fieira de zeros e uns virtuais de um software rodando na nuvem— sugere que não dá para priorizar, ao mesmo tempo, máxima letalidade e máxima transmissibilidade.

Um dos lados, no longo prazo, tem de ceder, o que sugere que a futura IA genocida terá de decidir se “quer” matar muita gente numa tacada só em pouco tempo e depois parar de matar, ou espalhar seu vírus para todo mundo ao longo de anos e ir matando aos poucos.

Repare que nem entramos no mérito de que a variabilidade genética de 8 bilhões de pessoas é grande o suficiente para dificultar a criação de um vírus que consiga infectar seres humanos, de um lado, e não encontre ninguém com algum nível de defesa natural contra ele, do outro. De novo, não há mágica que resolva esse dilema com 100% de eficiência para o lado do vírus (e do nosso também, é claro).

Fora tudo isso, vírus precisam se espalhar no mundo físico, não por fibra óptica. Não há garantia nenhuma de que uma única introdução, num só ponto do planeta, basta para criar uma extinção.

Seria preciso desenvolver uma infraestrutura de disseminação —um exército de seringas-robôs? Sei lá eu— que dificilmente passaria despercebida de uma espécie inteira que não estivesse dormindo no ponto feito Homer Simpson. (Imagine a cena: “Nossa, seu robô, porque o senhor tá cultivando esse monte de vírus aí nesse laboratório? E essa seringa voadora aqui, serve pra quê?”).

Achar que coisas desse tipo poderiam acontecer sem mais nem menos é achar que a IA seria capaz de revogar as leis da física e da biologia.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.