Embora tenha tido uma enorme projeção nos últimos anos, com divulgação maciça na comunicação social, grande parte da população talvez ainda não tenha formado uma ideia muito específica em que consistem estas tecnologias que, na opinião de vários autores, conduzem à Quarta Revolução Industrial. Parece-nos fazer sentido iniciar este artigo, ainda que de um modo muito abreviado, identificando referências que contribuam para as noções de Inteligência Artificial (IA) e Ética, permitindo ao leitor algum enquadramento destas matérias e o motivo do título a roçar a provocação.
Na realidade a noção de IA ainda não se encontra consolidada na comunidade científica. Foi interessante a abordagem do Prof. Catedrático Mário Figueiredo do IST numa Conferência na Culturgest com o título “Inteligência Artificial: Aplicações; Implicações; Especulações, em 17 de abril de 2019, ao referir: “A definição dos termos “inteligência” e “pensar”, não reúne consenso na filosofia, psicologia e nas neurociências, que nos habilite na conceptualização de um conceito de IA, que propõe algumas aceções de IA, plasmadas em manuais e compêndios: simulação de inteligência por máquinas (nomeadamente computadores); comportamento que os humanos consideram inteligente; e sistema que percebe o ambiente e toma decisões para atingir um objetivo”.[i]
Encontramos ainda definições em vários documentos da União Europeia, que tem devotado uma particular atenção às questões da Ética na IA, que apresentam alguma evolução ao longo do tempo, identificando a IA com sistemas que apresentam um comportamento inteligente, analisando o seu ambiente e tomando medidas com alguma autonomia para atingir objetivos específicos. Encontramos IA, por ex. em assistentes de voz, programas de análise de imagens, motores de busca, sistemas de reconhecimento facial e de discurso, mas também robôs avançados, automóveis autónomos, veículos aéreos não tripulados ou Internet das coisas[ii]. A Comissão Europeia também defendeu que a definição de IA necessita transmitir equilíbrio entre a flexibilidade para abarcar os progressos técnicos, com a precisão necessária para conferir a segurança jurídica[iii].
O cidadão comum embora tenha ouvido falar muito da IA, talvez ainda tenha uma noção um pouco vaga dos benefícios e dos riscos desta recente área da ciência, com origens mais nítidas após a segunda guerra mundial e das algumas possíveis implicações que podem surgir no nosso quotidiano. A IA também em conjunto com a internet móvel, as tecnologias emergentes e a aprendizagem automática – com técnicas que permitem que as máquinas aprendam com a experiência, também se carateriza pela capacidade de criação de novos produtos e serviços que incrementam o progresso em vários domínios, Existe algum consenso quanto ao poder da IA para remodelar a atividade económica, gerando produtividade, melhorando eficiência, reduzindo custos, e permitindo decisões mais informadas. A IA pode contribuir, ainda, para uma vida melhor, também em função da distribuição que se venha a fazer dos seus benefícios.[iv]
Definir Ética também não parece ser uma tarefa fácil, desde logo, pela necessidade de encontrar uma definição que abarque a globalidade das aceções em que a ética é referida, basta pensar em todos os volumes da coleção “Ética Aplicada” organizada pela Professora Catedrática Maria do Céu Patrão Neves, mas também na distinção nem sempre nítida entre ética e moral, com utilização indistinta dos dois conceitos por muitos autores.
A ética e a moral resultam de preocupações do Homem com as suas condutas em sociedade, refere o prof. António Maia, ISCSP: “esta reflexão procura princípios como dignidade, solidariedade e cidadania dando origem ao reconhecimento da existência de interesses e valores idênticos.”[v] Tem-se entendido que a moral prevalece no domínio do senso comum, no que respeita a hábitos, aos valores. Já a ética está identificada com a interpretação e análise dessa mesma moral. Talvez a definição de ética proposta por Savater seja de fácil apreensão: “…a ética é apenas o propósito racional de averiguarmos como vivemos melhor.”[vi]
Atualmente alguns autores defendem uma ética da máquina, necessária para estudar o comportamento das máquinas com os humanos e com outras máquinas, procurando estabelecer princípios éticos que as máquinas venham a respeitar nos trabalhos que executam e sobre as possíveis consequências da sua ação. O Prof. Luís Moniz Pereira, professor emérito da Universidade Nova, adotou o termo “máquinas”[vii] para incluir robôs, computadores e outras tecnologias.
Algumas aplicações da IA têm contribuindo para a continuação de discriminações em virtude do sexo, origem racial ou étnica, religião ou crença, deficiência, idade ou orientação sexual. Considerando que o Direito geralmente não acompanha a evolução tecnológica a par e passo, o contributo da Ética tem sido considerado essencial na abordagem destas questões.
O estudo da Ética na IA, assume particular importância na medida em que alguns sistemas já apresentam capacidade para tomarem decisões autonomamente no âmbito das entidades públicas, privadas ou governamentais. Algumas decisões destes sistemas têm sido problemáticas, de que é exemplo o sistema de recrutamento usado pela Amazon apenas selecionou homens, devido a um enviesamento com base nos dados de recrutamentos anteriores.[viii] Outras situações bastante preocupantes já estão identificadas nos futuros veículos autónomos, e na capacidade do seu sistema de IA decidir entre o atropelamento de um peão e a proteção da integridade do seu ocupante.
Se o leitor pensar na utilização da IA na Administração Pública e das diversas áreas que a compõem que vão desde a educação à saúde, passando pela justiça, todas elas já com sistemas de IA implementados, estas questões podem ainda adquirir uma dimensão maior, afetando um número considerável de cidadãos.
Na nossa investigação estabelecemos a seguinte pergunta de partida: “Que aspetos éticos podem suscitar-se com a introdução da IA na Administração Pública?” para alcançarmos o seguinte objetivo geral: Identificar, estudar e caraterizar questões éticas decorrentes de possíveis desigualdades, preconceitos e outras injustiças com origem em decisões tomadas pelos sistemas de IA, analisando os possíveis impactos na AP. A nossa dissertação de mestrado assume uma posição pioneira e inovadora, não existem trabalhos académicos, ao nível do mestrado ou mesmo do doutoramento, que tenham como objeto as questões éticas decorrentes da implementação e utilização da IA na Administração Pública.
Chegado a este ponto perguntará o leitor se são conhecidas grandes diferenças entre estas questões na Administração Pública e na atividade privada, nas conclusões a que chegamos, destacamos que os desafios éticos da IA são transversais na sociedade, não obstante algumas especificidades da Administração Pública decorrentes da sua natureza e finalidades, como seja o interesse público, ou a grande amplitude de destinatários.
A conjugação da ética no panorama da IA procura alcançar caminhos com soluções mais justas, mais equitativas, menos preconceituosas, mas também mais responsáveis e mais seguras.
[i] In “Novos Desafios da Administração Pública: Inteligência Artificial e Ética nos Sistemas Inteligentes com Autonomia”, tese de mestrado que concluímos no Instituto Superior de Ciências Socias e Políticas, com coorientação do Instituto Superior Técnico.
[ii] Orientações Éticas para uma IA de Confiança. União Europeia. Disponível em https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF
[iii] Livro Branco sobre a inteligência artificial, da Comissão Europeia, disponível em https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
[iv] Máquinas Éticas, Da moral da máquina à maquinaria moral, disponível em https://pt.z-lib.org/
[v] Ética e integridade, uma responsabilidade de todos, disponível em https://expresso.pt/opiniao/2020-11-25-Etica-e-integridade-uma-responsabilidade-de-todos
[vi] In Ética para um Jovem, Biblioteca Expresso, 2019
[vii] [vii] Máquinas Éticas, Da moral da máquina à maquinaria moral, disponível em https://pt.z-lib.org/
[viii] Como a Amazon foi atraiçoada pelo algoritmo sexista, in Jornal Expresso, de 09.12.2018, https://expresso.pt/economia/2018-12-09-Como-a-Amazon-foi-atraicoada-pelo-algoritmo-sexista
Licenciado em Direito pela Faculdade de Direito de Lisboa
Mestre em Administração Pública / Ética na Inteligência Artificial, pelo Instituto de Ciências Sociais e Políticas (ISCSP), com coorientação do Instituto Superior Técnico (IST)
