(Carlos Matos Gomes, in Medium.com, 15/12/2024, revisão Estátua de Sal)
Discutir o papel da inteligência é discutir o tipo de sociedade em que queremos viver. É discutir a democracia. É discutir a responsabilidade individual e coletiva, é discutir os limites dos mandatos que delegamos nos nossos representantes.
Sou militar — ou fui no tempo em que os comandantes se encontravam nos campos de batalha e tinham de conduzir os seus comandados. Conheci grandes comandantes. O que os distinguia? A arte de representar a coragem, a arte de representar a incerteza da decisão com a maior convicção, como se fossem o resultado da resposta de um computador que resolvia a angustia do guarda-redes antes do pênalti? (Peter Handle) Ou a do marcador do pênalti.
Dir-me-ão que uma das vantagens da decisão baseada em inteligência artificial é a ausência das emoções. Aparentemente assim é: o robot humanoide que pilota um F35 sobre Gaza não sente qualquer emoção ao lançar uma bomba. Mas as centenas ou milhares de seres humanos que sofrem os seus efeitos sentem e, mais, os milhões de outros seres humanos espalhados pelo planeta que veem as imagens também sentem, emocionam-se e formam opinião. A robotização do piloto — a inteligência artificial que o conduz desde a descolagem até ao alvo — provoca consequências políticas e sociais. Robotizar um ser humano para o transformar num assassino desresponsabiliza quem? O autor da desumanização do humano? O humano torna-se inimputável a partir do momento em que cumpre o seu programa de inteligência artificial? O capacete de um piloto de um caça, de um carro de combate, de um drone, contem inteligência artificial? Quem ou o que está dentro de um capacete de um piloto de bombardeiro ou de um Carro de Combate, ou até na cabeça de um general de cinco estrelas?
Os capacetes que vemos na cabeça dos soldados não servem para lhes proteger a cabeça, mas para determinar o que ele deve realizar, servem para lhe retirar a consciência da consequência dos seus atos.
O que define a essência da inteligência não é de modo algum o de ela ser natural ou artificial, mas o que Maquiavel designou como a virtú, que era, como se sabia desde Cicero, indissociável da vida pública. Ou seja, o homem que almeja a virtude não pode perder de vista a noção de dever para com os outros.
Mas este dever para com os outros é inerente a todos os seres vivos — das abelhas aos lobos, das formigas aos golfinhos. Quando um gnu fica para trás para servir de presa a um predador e aumentar a possibilidade de sobrevivência do seu grupo essa atitude não poderá ser considerada ética? Por isso a inteligência dos humanos deve ser compatível com a dos outros seres e com o respeito pelo ambiente. A Inteligência artificial integra estes fatores nas suas elaboradas computações?
A deontologia é definida como um forte sentido de serviço comunitário, realizada com um profissional com profundo sentido da responsabilidade. Como se atribui sentido de responsabilidade a um artefacto obra de um ser humano distinto do sentido de responsabilidade dos interesses do seu criador?
O Manual de Deontologia Militar que constava do currículo na Academia Militar — não sei se a disciplina ainda existe nos curricula das Academias Militares portuguesas ou estrangeiras, ou das modern schools of business or technology — apresentava-a como o estudo da finalidade das Forças Armadas e dos princípios que devem reger os seus membros tanto em tempo de guerra como em paz, a identificação da moral, ou do comportamento moral, que deve orientar os militares na sua vida, por forma a que, sem faltarem ao cumprimento dos seus deveres para com os camaradas, (subordinados e superiores), os cumpram também e igualmente para com o inimigo, para com a sua Nação e, acima de tudo, para com a comunidade nacional e internacional, as suas leis universais, caso da Carta dos Direitos Humanos da ONU ou da defesa dos bens considerados património da Humanidade.
A Inteligência Artificial anula a Deontologia do ser que está no cockpit de uma aeronave, na ponte de comando de um navio, na torre de um Carro de Combate? Retira-lhe a qualidade de ser cidadão? De ser julgado? De ser politicamente avaliado? Os tribunais internacionais, marciais, de honra julgam quem age predeterminado, programado, ou quem determinada e programa?
O que distingue os seres humanos não é a capacidade técnica, é a sujeição a leis — a julgamento. O que distingue os seres humanos dos outros seres não é a inteligência, mas a capacidade de entenderem a sociedade, como um todo, a capacidade de escolher e julgar.
Com a admissão de que a inteligência artificial é um acrescento novo na história do mundo — e não da humanidade — Esopo não escreveria as fábulas onde os animais falam e pensam, porque nos programas apenas os humanos são inteligentes. Nem teríamos o Triunfo dos Porcos, de Orwell.
Uma definição de artificial é a de algo produzido pela humanidade. É uma definição arrogante: um ninho de uma ave é uma obra mais natural que uma cabana de um hominídeo? Um formigueiro é uma obra natural? Uma teia de aranha? A minha questão não é a da existência de uma inteligência natural, mas sim da não existência de uma inteligência que não seja artificial. E mais, que a inteligência não é um exclusivo dos humanos. E é o facto de existirem inteligências compatíveis entre espécies que permitem o diálogo entre elas, entre humanos e cães, golfinhos, corvos, serpentes, de cavalos com cães e com aves.
Aquilo a que temos dado o nome de Inteligência Artificial é, na realidade um ensimesmamento. Uma vida de clausura como a da gruta de Platão. Um onanismo. Um ser humano interroga uma máquina e esta responde. Pura mistificação: o homem apenas obtém as respostas que já se encontram dentro do mundo descoberto, e, mais perigoso, descoberto por outro que o quer explorar. Aquilo que Elon Musk, para citar uma personagem conhecida, apresenta como inteligência artificial é a velha técnica do alquimista: vender como ouro o pechisbeque, por novo o que é velho.
A utilização de super computadores, agora os computadores quânticos, com cada vez maiores capacidades de resolução não altera as duas questões fundamentais: estamos perante um produto conhecido e temos de nos concentrar na utilização que é dada a essa renovada velharia. E a renovada velharia é descendente dos velhos astrónomos e adivinhos, de curandeiros e feiticeiros, dos ditadores, dos profetas, dos salvadores, dos pregadores de cruzadas. Os campos de concentração, os mais atrozes instrumentos de tortura foram e são obra da inteligência humana. Importante, pois, é que o sistema político que os gerou seja dominado por aqueles a quem repugnam e náo por aqueles a quem servem. E os campos de concentração e tortura criados com o apoio da Inteligência Artificial não são distintos dos seus antecessores, apenas com o acrescento da perversidade que os faz parecer mais aceitáveis.
Uma experiência pessoal. No início dos anos 90 fui nomeado para uma comissão técnica que iria aconselhar o Exército a adquirir um simulador de tiro e tática para carros de combate. Entre as companhias concorrentes encontrava-se uma israelo-americana e fui a Israel apreciar o desempenho dos aparelhos. Conhecia os CC da geração da II GM e da Coreia — M47 e 48 — os novos CC eram um painel de computadores quer na torre quer no compartimento de condução. Os CC atuavam coordenadamente com helicópteros e isso exigia um controlo que apenas podia ser executado por computadores. E as imagens eram sempre a verde ou a preto e branco, independentemente ser de dia ou de noite e os inimigos eram apenas um ponto luminoso onde o apontador colocava uma cruz e fazia desaparecer. Não havia restos de corpos, nem ruídos, apenas a voz dos auscultadores, nice shot.
Nos anos 90, a voar a cerca de 30 km da marginal de Beirute, o ecrã do painel de instrumentos de um helicóptero israelita lia as matriculas das viaturas com um instrumento designado FLIR e uma arma podia ser apontada através do eixo de visão do apontador.
Os modernos sistemas de há 20 anos já tinham um dispositivo designado IFF — Identificação amigo — inimigo — com um código de reconhecimento e regras estritas de emprego. Vi a filmagem de um incidente causado pela tecnologia, dois helicópteros dos EUA, um do Exército e outro dos Marines a voarem no mesmo campo de batalha, cumprindo missões diferentes interrogam-se através do IFF, são visíveis as silhuetas dos helicópteros, ainda hoje em utilização os Black Hawk e os Sea Hawk, americanos, do mesmo fabricante, a Sikorsky. A resposta do helicóptero dos marines não foi reconhecida pelo do Exército e este disparou sobre ele automaticamente.
São exemplos de há mais de um quarto de século. Hoje interrogo-me a que ponto de desumanização chegámos quando o jovem piloto israelita, aos comandos do mais avançado caça um F35, superprotegido por toda a tecnologia, toca com um dedo num ecrã e sabe que duas toneladas de explosivos vão destruir uma escola, um hospital, um campo de refugiados. E o que pensam os dirigentes políticos que foram eleitos quando investem os recursos da inteligência humana a preparar seres robotizados que executam estas ações?
A associação da guerra à tecnologia, sendo o motor da civilização, é também o detonador da destruição. E todos nós conhecemos, mesmo que seja do cinema, o que é um explosor– um aparelho (antigo) com um manípulo e que apenas um especialista manejava à ordem de fogo.
Hoje existem nuvens de explosores comandados por sistemas de que os cidadãos não conhecem a lógica de disparo. Não há democracia, nem cidadania. Os cidadãos regressaram à condição servil.
A tecnologia pode e está a destruir os valores que considerávamos basilares para a sociedade: a capacidade de alterar comportamentos nos decisores de todos os níveis dos mais altos aos mais baixos. De seleção de decisores e operadores de sistemas programados para tomarem determinadas decisões possibilidades reais. Não há Deontologia que possa ser ensinada porque há meios tecnológicos para cortar o acesso a essas áreas do cérebro, como se cortava e corta com vesicante os tendões dos cavalos para eles não sentirem dor ao galopar e ao saltar.
