“Os infortúnios da inteligência (II)”


: “Tendo sido anunciado um futuro inteligente e artificial muitos foram os que, pobremente receosos de tão grande esmola, exigiram um quadro normativo capaz de garantir o futuro da espécie humana.”


Para ser eficaz esse quadro normativo terá de ser cumprido por todos os actores relevantes. A solução natural seria, como já se escreveu, o recurso a uma convenção multilateral geral, desejavelmente no âmbito da ONU. Não havendo por lá um consenso quanto ao mínimo denominador comum, a tarefa deslizou para as organizações regionais.

A primeira a concluir os trabalhos de casa foi o Conselho da Europa (CE) que tem um currículo invejável em matéria de produção de soluções normativas de excelente técnica, em particular no plano da protecção dos direitos humanos, cruzando habilmente um nível elevado de protecção com soluções realistas e eficazes. Neste mês de Maio o CE anunciou a versão final da Convenção Quadro sobre inteligência artificial, direitos humanos e Estado de Direito (CQIA). A CQIA será aberta à assinatura em Vilnius, no dia 5 de Setembro. E será aberta a todos os Estados membros do CE, aos Estados terceiros que, com base numa decisão unânime do CE, venham a ser convidados e aos que participaram na negociação da CQIA (nomeadamente Argentina, Austrália, Canada, Costa Rica, Santa Sé, Israel, Japão, México, Peru, EUA e Uruguai). O apetite de Estados terceiros pela CQIA antecipa a possibilidade de esta se tornar um standard multilateral relevante e, no que respeita aos Estados terceiros que participaram na negociação, vontade de influenciar o conteúdo da mesma.

A opção pelo mecanismo da convenção quadro reconhece a probabilidade de evolução do texto normativo, postergando negociações que se revelaram infrutíferas e abrindo a mecânica da convenção a futuras realidades que possam ser incorporadas em protocolos adicionais.

O artigo 2º da CQIA define sistema de inteligência artificial (IA) como sendo baseado em máquinas que, para objectivos explícitos ou implícitos, infere, a partir da informação recebida, gerando resultados tais como predições, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. A definição é bastante ampla e tende a cobrir quase todas as aplicações conhecidas e futuras da IA. Com esta base o respeito exigido pela CQIA pela dignidade humana, autonomia do indivíduo, pelos princípios da transparência, supervisão, “prestação de contas”, responsabilidade, igualdade, não-discriminação, privacidade, protecção de dados pessoais, fiabilidade e inovação segura, torna muito ampla a protecção material outorgada contra os malefícios da IA.

A CQIA tem um conteúdo obrigatório para as entidades públicas e as entidades privadas agindo em nome daquelas (com as tradicionais excepções relativas à defesa e segurança nacionais) e a possibilidade de a todo o tempo os Estados-membros, por mera declaração, alargarem o âmbito da CQIA ao sector privado.

O âmbito material de protecção inclui os direitos fundamentais, a integridade, independência e efectividade das instituições e processos democráticos, incluindo o princípio da separação de poderes, respeito pela independência judicial e acesso à justiça. Mesmo sem que a CQIA entre em vigor, o seu conteúdo acabará por informar a interpretação e a aplicação da Convenção Europeia dos Direitos do Homem (CEDH) garantindo o acesso dos particulares a mecanismos jurisdicionais contra o Estado.

Tome-se como exemplo o direito a não participar em blind dates, previsto no nº 2 do artigo 15º da CQIA: o direito a ser informado de que se está a interagir com sistemas de IA e não com um ser humano, direito que deve ser garantido por cada Estado parte.

“Os infortúnios da inteligência (II)”


: "Tendo sido anunciado um futuro inteligente e artificial muitos foram os que, pobremente receosos de tão grande esmola, exigiram um quadro normativo capaz de garantir o futuro da espécie humana."


Para ser eficaz esse quadro normativo terá de ser cumprido por todos os actores relevantes. A solução natural seria, como já se escreveu, o recurso a uma convenção multilateral geral, desejavelmente no âmbito da ONU. Não havendo por lá um consenso quanto ao mínimo denominador comum, a tarefa deslizou para as organizações regionais.

A primeira a concluir os trabalhos de casa foi o Conselho da Europa (CE) que tem um currículo invejável em matéria de produção de soluções normativas de excelente técnica, em particular no plano da protecção dos direitos humanos, cruzando habilmente um nível elevado de protecção com soluções realistas e eficazes. Neste mês de Maio o CE anunciou a versão final da Convenção Quadro sobre inteligência artificial, direitos humanos e Estado de Direito (CQIA). A CQIA será aberta à assinatura em Vilnius, no dia 5 de Setembro. E será aberta a todos os Estados membros do CE, aos Estados terceiros que, com base numa decisão unânime do CE, venham a ser convidados e aos que participaram na negociação da CQIA (nomeadamente Argentina, Austrália, Canada, Costa Rica, Santa Sé, Israel, Japão, México, Peru, EUA e Uruguai). O apetite de Estados terceiros pela CQIA antecipa a possibilidade de esta se tornar um standard multilateral relevante e, no que respeita aos Estados terceiros que participaram na negociação, vontade de influenciar o conteúdo da mesma.

A opção pelo mecanismo da convenção quadro reconhece a probabilidade de evolução do texto normativo, postergando negociações que se revelaram infrutíferas e abrindo a mecânica da convenção a futuras realidades que possam ser incorporadas em protocolos adicionais.

O artigo 2º da CQIA define sistema de inteligência artificial (IA) como sendo baseado em máquinas que, para objectivos explícitos ou implícitos, infere, a partir da informação recebida, gerando resultados tais como predições, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais. A definição é bastante ampla e tende a cobrir quase todas as aplicações conhecidas e futuras da IA. Com esta base o respeito exigido pela CQIA pela dignidade humana, autonomia do indivíduo, pelos princípios da transparência, supervisão, “prestação de contas”, responsabilidade, igualdade, não-discriminação, privacidade, protecção de dados pessoais, fiabilidade e inovação segura, torna muito ampla a protecção material outorgada contra os malefícios da IA.

A CQIA tem um conteúdo obrigatório para as entidades públicas e as entidades privadas agindo em nome daquelas (com as tradicionais excepções relativas à defesa e segurança nacionais) e a possibilidade de a todo o tempo os Estados-membros, por mera declaração, alargarem o âmbito da CQIA ao sector privado.

O âmbito material de protecção inclui os direitos fundamentais, a integridade, independência e efectividade das instituições e processos democráticos, incluindo o princípio da separação de poderes, respeito pela independência judicial e acesso à justiça. Mesmo sem que a CQIA entre em vigor, o seu conteúdo acabará por informar a interpretação e a aplicação da Convenção Europeia dos Direitos do Homem (CEDH) garantindo o acesso dos particulares a mecanismos jurisdicionais contra o Estado.

Tome-se como exemplo o direito a não participar em blind dates, previsto no nº 2 do artigo 15º da CQIA: o direito a ser informado de que se está a interagir com sistemas de IA e não com um ser humano, direito que deve ser garantido por cada Estado parte.