A criatura que se emancipa do criador e acaba por destruí-lo serve de prudente aviso contra os perigos da inteligência artificial e do domínio da humanidade pelas máquinas. Basta olhar para os nossos semelhantes, deambulando pelas ruas de uma qualquer cidade de olhar fixo e perdido nuns espelhinhos coloridos que acariciam incessantemente, para percebermos que a guerra foi já ganha pelas máquinas. Na utopia que aposta na bondade das máquinas, desde logo na versão de Isaac Asimov, o domínio dos robôs seria justificado pela necessidade de proteger a humanidade contra as fraquezas dos homens. O sacrifício do indivíduo para salvação do grupo, mesmo que o número de indivíduos sacrificados possa ser exponencial e incluir o extermínio de determinados grupos, tem firmes tradições na história da humanidade. A decisão de sacrificar o indivíduo já foi atribuída aos sacerdotes, aos chefes militares, aos políticos eleitos, a juízes ou aos semelhantes do sacrificado, seja por via do funcionamento dos tribunais de júri, seja pela via expedita do linchamento. Faltava a possibilidade de ser o robô a decidir a eliminação do indivíduo prejudicial à humanidade.
A fé na tecnologia e nas máquinas, travestida para efeitos de marketing como “inteligência artificial”, não conhece fronteiras. Para os espíritos mais optimistas, até a arte da guerra poderia beneficiar da substituição dos soldados por robôs. Os robôs assassinos (Lethal Autonomous Weapons, LAW) violariam a primeira das leis da robótica definidas por Asimov (um robô não pode, por acção ou inacção, causar dano a um humano). Mas fá-lo-iam em nome de um valor superior, a preservação da humanidade como um todo, em obediência a uma nova lei forjada por robôs – a lei de Zeroth –, deixando aos robôs a escolha da supressão dos humanos que atentam contra a humanidade. A tentativa de fixar uma ética para robôs a partir das relações entre criador e criatura não tem corrido bem com Deus – há quem defenda que a relação está invertida – e não correrá melhor com os robôs.
No caso dos robôs assassinos, o departamento de marketing e publicidade da respectiva indústria consegue explicar os perigos de continuar a combater com recurso a soldados humanos. Os tempos de reacção, os erros de análise, “the fog of war”, o medo de morrer ou de sofrer lesões, o stresse, os distúrbios psíquicos jogam contra os soldados humanos. No entendimento das almas verdadeiramente piedosas, os humanos são muito mais capazes de violar as normas de direito internacional humanitário do que os robôs, que não erram, não se assustam, respondem em milissegundos e não têm medo de morrer ou de perder uma perna ou um braço.
Os robôs assassinos seriam não só o futuro da guerra como assegurariam uma guerra eficaz, limpa, com respeito pelo direito internacional humanitário, mantendo o número de baixas humanas dentro dos critérios que fizeram a glória das nações civilizadas ao redigirem a cláusula Martens na 2.a Convenção da Haia de 1899 sobre as leis e os costumes da guerra em terra (na versão contemporânea, vertida para o i Protocolo Adicional às Convenções de Genebra: “Nos casos não previstos pelo presente Protocolo ou por outros acordos internacionais, as pessoas civis e os combatentes ficarão sob a proteção e autoridade dos princípios do direito internacional, tal como resulta do costume estabelecido, dos princípios humanitários e das exigências da consciência pública.”).
Glória ao futuro!
Escreve à sexta-feira, sem adopção das regras do acordo ortográfico de 1990
