No filme, 2001 Odisseia no Espaço, os macacos dançavam perante obeliscos gigantes, ao som do Also sprach Zarathustra (Assim Falou Zaratustra), de Richard Strauss, um poema sinfónico de 1886, baseado na obra, com o mesmo nome, do filósofo alemão Friedrich Nietzsche, em que o pensador defende que os homens são uma forma de vida entre os macacos e os vindouros Übermensch, literalmente ‘além-do-homem’ , uma espécie de super-humanos que nos vai suceder. Na última cena do filme, o astronauta desliga o super-computador que tomou conta da nave e põe em risco a sua vida.
A ideia de singularidade tecnológica é a designação de um momento em que a inteligência das máquinas será superior aos humanos e elas poderão dar cabo literalmente de nós.
Segundo relembra O Mito da Singularidade, Devemos Temer a Inteligência Artificial, de Jea-Gabriel Ganascia, no dia 1 de maio de 1914, o recentemente falecido físico Stephen Hawking, publicou no jornal britânico The Independent, um artigo de opinião em que se avisava sobre os perigos do desenvolvimento da inteligência artificial. Hawkings, no fim da sua vida, tinha-se tornado bastante receoso com uma série de coisas, e nomeadamente alertou para os riscos que corria a humanidade ao lançar mensagens para o espaço para possíveis civilizações extraterrestres. No entender do também cosmólogo, o nosso possível encontro com essas civilizações poderia ser tão favorável a nós como foi o encontro dos espanhóis com os astecas, maias e diferentes indígenas da América Latina – num encontro em que nós não faríamos certamente de espanhóis. Mas voltemos à inteligência artificial. No entender de Hawking há consequências que, se não forem acauteladas, podem ser irreversíveis com o atual ritmo e direção do desenvolvimento da inteligência artificial. Há o perigo dessas tecnologias se tornarem ingovernáveis, podendo pôr em risco mesmo a existência da humanidade. Para o físico, deixar esta discussão para amanhã e não tomar medidas pode implicar que amanhã já seja demasiado tarde para parar essa corrida para o abismo.
Bill Joy, cofundador da empresa Sun Mocrosystems, publicou em 2000 um artigo sobre a matéria profeticamente intitulado Why the future doesnt’ need us. Neste texto, previu a proliferação de miríades de nanotecnologias que alastrariam como se fossem vírus até destruírem todo o ambiente terrestre, de forma que fosse impossível qualquer forma de vida. Digamos que Bill Joy se esquece que para destruir a Terra e o meio ambiente estamos cá nós.
Muitos autores citados no livro falam deste processo que conduziria à nossa obsolescência, não como uma rutura num momento, mas como uma espécie de fervura grau a grau em que um dia estaríamos fervidos. «Acontecerá quase naturalmente, com uma propagação espontânea, prolífica e irreprimível das máquinas que se criarão, crescerão e multiplicarão sem dizer água vai, antes de nos engolirem», escreve Jean-Gabriel Ganascia.
De qualquer forma, a ideia de um domínio das máquinas pressupõe a possibilidade de elas ganharem autonomia de decisão sobre os humanos – os algoritmos de autoaprendizagem são um caminho, mas para que isso se verifique é preciso que possam ganhar ‘consciência’ ou pelo menos programar-se para deixarem os humanos sem acesso aos comandos.
Neste interessante livro também se discutem outras possibilidades e otimismos que remetem para fusões estranhamente próximas do cenário de Nietzsche e a criação de uma entidade que pegasse nos humanos e os ultrapassasse.
Rayond Kurzweil, que foi chefe de projetos da Google, e que ficou conhecido aos 15 anos de idade por ter elaborado um programa informático que fazia a síntese de partituras musicais, por volta de 2045-2050 conseguiremos «descarregar» os nossos cérebros em computadores, conseguindo assim atingir um limiar que nos permite viver sem corpo, mas de uma forma imortal. Existe já uma fundação chamada 2045 Strategic Social Initiative, financiada pelo empresário russo Dmitry Istkov, que se propõe fabricar «avatares de reconhecimento para mentes descarregadas».
