Breves considerações:
A Inteligência Artificial (IA) tem vindo a evoluir de forma exponencial no último século, o que tem provocado uma série de mudanças em diversos setores, pelo que o Direito Administrativo não poderia permanecer indiferente. Novas pautas culturais e novos paradigmas estão a ser desenvolvidos, graças à inteligência artificial, em todos os campos da sociedade – seja a nível social, político, económico ou jurídico. Todo este processo evolutivo, que tem vindo a ser denominado como a quarta revolução industrial[1] por alguns autores, tem vindo a romper com as estruturas tradicionais a que estávamos acostumados, o que como é evidente, acarreta as suas vantagens como também as suas desvantagens como irá ser explicitado posteriormente.
O Direito sofreu inúmeras alterações com a esta nova era de digitalização, o que supõe uma realidade de inevitável adoção pela atividade administrativa.[2] O Direito Administrativo tem vindo a amplificar o uso desta nova ferramenta, seja na governação pública local digital, na simplificação administrativa e procedimento administrativo eletrónico, na contratação pública e mesmo a nível de uma justiça administrativa digital, o que suscita algumas questões constitucionais.
Esta nova realidade, foi recentemente impulsionada de forma particular pelo Estado na crise sanitária que se instaurou com o surgimento da COVID-19. O Estado começou a estudar alternativas para que o distanciamento social fosse garantido e bem sucedido, sendo discutidas várias alternativas – a obrigatoriedade da aplicação STAYAWAY COVID e a existência de um algoritmo que efetua-se a triagem na linha do SNS24 dos cidadãos que apresentassem sintomas típicos da COVID-19 – soluções que causaram bastante controvérsia, em especial a aplicação STAYAWAY COVID, que aportava muitas dificuldades de aceitação uma vez que se estaria a colocar em causa o direito da igualdade, tema que irá ser abordado posteriormente.[3]
A Inteligência Artificial, Ética e a Administração Pública
A inteligência artificial significa uma aptidão para criar programas de computador que sejam capazes de desenvolver tarefas assumidas por seres humanos, exigindo a aprendizagem, organização de dados, racionalidade e funções de fundamentação. É muitas vezes considerada em sentido forte e em sentido fraco, quer isto dizer que em sentido forte temos um “supercomputador” capaz de recriar a mente humana através de meios artificiais, e em sentido fraco, em que assume determinadas tarefas concretas mas em que o sistema não consegue tomar decisões autónomas, nem simular o pensamento humano. Neste âmbito, temos também de fazer referência ao algoritmo, que tem de ser programado segundo uma sequência de ações diversas para que possa então resolver um problema computacional, onde se gera um massivo armazenamento de dados. Podemos então afirmar que a inteligência artificial assenta em três vetores: o acesso a uma quantidade massiva de dados (Big Data), sistemas de aprendizagem que envolvem algoritmos que geram novos dados, e por fim supervisão humana (requerida inicialmente).
O princípio da boa administração tutelado no art.5º do Código do Procedimento Administrativo (CPA), estreitou uma relação com o uso da inteligência artificial, aportando à luz deste princípio inúmeras vantagens na sua utilização para garantir a eficiência, economicidade e celeridade na atividade da Administração Pública.
No entanto, há que realizar uma ponderação – podemos simplesmente substituir o capital humano por mecanismos de inteligência artificial?
A resposta, no meu entendimento deve ser negativa. Primeiramente, apesar de os mecanismos de inteligência artificial serem inicialmente programados por seres humanos como referido supra, nunca irão realizar um controlo efectivo, nem iria nunca atingir a sensibilidade e racionalidade que nos assiste enquanto seres humanos. Será, como é lógico, um bom auxiliar e ferramenta em deteção de falhas da Administração, mas nunca poderá ser um mecanismo que tome decisões de forma autónoma. Para além disso, a sua utilização na Administração Pública é passível de gerar desconfiança quando o Estado pretenda controlar a sociedade através deste tipo de mecanismos – como sucede na China, em que existe um mecanismo de pontuação entre os cidadãos, em que os cidadãos são avaliados de acordo com o seu comportamento social, definindo uma pontuação e consequentemente o estabelecimento de uma série de punições ou recompensas – o que supõe, no meu entendimento, um abuso de poder por parte do Estado, interferindo com a privacidade e a liberdade pessoal de cada indivíduo.
A ética e a inteligência artificial entram em confronto direto, o que causa no Direito Administrativo o receio de que, os parâmetros valorativos exigidos que conformam o procedimento administrativo, sendo estes a dignidade da pessoa humana e os direitos fundamentais dos cidadãos sejam desrespeitados e violados pelo uso da IA por parte do Estado.
Neste sentido o professor Artur Flamínio da Silva enumera três desafios essenciais no Direito Administrativo face à “ética digital”, sendo eles o problema da responsabilidade (1), a questão da padronização ética nos sistemas de Inteligência Artificial (2) e a relação entre os seres humanos e as máquinas (3).
No primeiro desafio (1), temos um problema de responsabilização e controlo sobre as decisões administrativas autonomizadas, tendo em conta os efeitos que aportam nos seus destinatários – quem deve controlar e efetuar uma tutela sobre este tipo de decisões? Quem poderá ser responsabilizado?
No segundo desafio (2), envolvendo a análise do conteúdo ético dos meios de obtenção de conhecimento através de sistemas de IA – isto supõe um grande problema, qual será a credibilidade desse conhecimento? Não colocará em causa o princípio da imparcialidade (art.9º do CPA)? Será legítimo um algoritmo julgar segundo conhecimentos tripartidos e programados segundo uma orientação única? Veremos adiante.
No último desafio (3), coloca-se a questão mais popularizada, o problema da substituição dos seres humanos nomeadamente nas suas funções por máquinas, um sistema técnico robotizado. Como debatemos em sala de aula, a legitimidade de um sistema de IA substituir uma decisão humana da Administração – o local para construção do futuro aeroporto, que tem sido amplamente discutido.
Inteligência Artificial e Princípios reguladores da atividade administrativa
O professor Paulo Otero refere que, a passagem para a Administração electrónica nunca deverá colocar em causa os direitos e garantias procedimentais e contenciosas dos cidadãos, podendo assumir uma configuração diferente – colocando em causa o princípio da paridade garantística entre as formas de exercício tradicional da atividade administrativa, com as normas formas do agir administrativo[4].
Outro grande problema reside na transparência do agir administrativo, que pode ser discutível numa relação estreita com a Inteligência Artificial, colocando em causa o princípio da transparência administrativa que, embora não esteja expressamente regulado na Constituição o que tem suscitado controvérsias, uma vez que não decorre necessariamente dos artigos 266º e 267º da CRP, nos quais se condensam os princípios fundamentais e organizatórios da Administração[5] não aludem ao vocábulo transparência, de igual modo o artigo 268º da CRP que consagra os direitos fundamentais e garantias dos administrados.
No entanto, o exercício da atividade administrativa é considerado um pressuposto fundamental, a Administração tem de ser uma “casa de vidro”[6] – o facto de a ideia de transparência administrativa não ter cobertura constitucional tem suscitado problemas a nível de fundamentação “A presença de uma cobertura constitucional pouco propensa às ideias de democracia e transparência administrativas tem como consequência que a revolução geral do imperativo da fundamentação fica adiada até ao vencimento de um movimento de sentido contrário, o que só vem a ocorrer com o novo enquadramento constitucional.”[7] Do mesmo prisma encaramos o problema que reside na relação da Administração com a IA, o que suscita uma propensão a uma falta de transparência devido às “black boxes”[8], pelo que iria completamente contra este princípio pelo qual se deve pautar a Administração pública. Para ser legítimo recorrer a este mecanismo a Administração teria de reconduzir a “white boxes”[9], apenas assim a Administração poderia continuar a ser uma “casa de vidro”, facilitando o acesso aos cidadão e proporcionando deste modo um conhecimento generalizado. No entanto, a complexidade dos sistemas de IA atingiu graus tão elevados de processamento de dados que podemos dizer que escapou ao controlo do seu criador, o ser humano, sendo cada vez mais difícil de apurar como é que estes programas chegaram a determinadas conclusões, e portanto afirma-se que os sistemas de IA são caixas negras – isto colocaria gravemente em causa da fundamentação das decisões tomadas pela Administração.
No entanto são ponderadas soluções, que visam permitir a existência de um espaço legal e físico de experimentação tecnológica com uma tutela estadual – as “sandboxes”[10] – veja-se a este respeito o Decreto-Lei nº 67/2021 de 30 de Julho, que estabelece regras essenciais para a criação de zonas livres tecnológicas.
Outro princípio colocado em causa é o princípio da igualdade, pelo qual se pauta a atuação administrativa por imposição constitucional (art.13º e 266º, nº2 CRP, art.5º, nº1 CPA), que impõe “(…) que situações iguais sejam tratadas de maneira igual e que situações diferentes sejam tratadas de maneira diferente, na medida da diferença.”[11] Posto isto, a utilização de sistemas de IA pode levar a cabo uma descriminação pelos seguintes motivos:
(1) Discriminação no acesso, nem todos os cidadãos têm acesso facilitado a tecnologias seja por questões de índole financeira, seja por questões de conhecimento técnico;
(2) A possibilidade de algoritmos neste tipo de sistemas poderem potenciar decisões administrativas discriminatórias;
(3) No domínio do predictive policing.
O Professor Paulo Otero reconhece de igual modo o perigo da utilização de sistemas de IA na atividade administrativa, preconizando um risco elevadíssimo de desigualdades entre os cidadãos, “(…) desde logo entre aqueles que têm acesso aos meios tecnológicos e todos os cidadãos que, por razões de idade, educação, local ou residência, não têm vocação ou contacto com esses novos meios tecnológicos: a Administração eletrónica não pode servir de fator de discriminação entre novos e velhos, residentes em zonas urbanas e residentes em zonas rurais, entre instruídos e ‘analfabetos digitais’”[12].
Problema a que assistimos nomeadamente no período da mais recente crise sanitária, As companhias tecnológicas e as redes sociais tiveram um papel importante durante este período. Veja-se o surgimento de determinadas plataformas como o Zoom, Colibri, Meets.e Teams, que permitiram contornar a estagnação dos setores empresariais assim como a atividade académica, foram decretadas aulas obrigatórias na área do ensino por via das referidas plataformas, em que uma parte significativa (do ponto de vista de uma ponderação geral) dos alunos não tinha condições de acesso assim como determinados docentes em virtude da sua faixa etária não possuíam conhecimentos técnicos para manejar tais plataformas – o mesmo irá suceder numa Adminsitração electrónica que adote sistemas de IA, como é o exemplo dos propostos “chatbots”[13]. Também permitiu a reaproximação das pessoas em período de isolamento, contribuindo para fazer face a esta crise sanitária, assim como se tentou desenvolver mecanismos no cerne da atividade da administração pública - STAWAYCOVID[14]. No entanto, não podemos desconsiderar os benefícios que estas plataformas obtiveram, traduzindo-se ainda mais no seu crescimento o que “(…) nos coloca diretamente num mundo digital tecnologicamente avançado como constitucionalmente deficitário.”[15]
O último problema que se coloca reporta-se a atuação policial poder ser preditiva, realizando-se com base em sistemas de IA, dando legitimidade às forças policiais para agirem de acordo com dados que supostamente são de elevada fiabilidade, permitindo antever que determinado crime irá ocorrer naquele local ou espaço, e antecipar qualquer cenário de perigosidade – no entanto o recurso a estes dados seria completamente discriminatório, o que poderia gerar a uma atuação policial mais intensa sobre certos indivíduos do que outros com base nesses dados.
Considerações finais
Para concluir considero pertinente fazer referência à democracia, também colocada em risco com o surgimento desta nova tecnologia[16], sendo ela um processo público, aberto ao debate e à participação livre tendo em vista chegar a um consenso. A constituição existe para garantir a democracia, através das suas garantias formais – revisões constitucionais, as leis de base de alteração legislativa, separação de poderes entre o Governo e Assembleia – e também substanciais. Com o processo legislativo garante-se a democracia, e o algoritmo nunca poderia substituir o processo democrático, do mesmo modo nunca poderia substituir a Administração pública nas suas plenas funções, embora sejam diversas as ameaças e cada vez mais frequentes tendo em conta o grande desenvolvimento tecnológico a que assistimos nos dias de hoje – a quarta revolução industrial como preconizam alguns autores.
Temos, portanto, dois âmbitos: a tomada de decisões ( na esfera da Administração, processo legislativo e garantias formais) e o algoritmo ( processo puramente matemático) - e se o algoritmo substitui o capital humano?
O algoritmo é um processo que não pode ser alterado, cingindo-se a uma programação destinada a resolver problemas matemáticos e execução de tarefas, envolvendo um conjunto de raciocínios e instruções tendo em vista um objetivo. Um processo exato, sem capacidade de ser alterado, não dando margem para deliberação e discussão nunca poderia substituir o processo democrático, nem a Administração pública, pelo que a sua utilização não só a nível da Administração como também no mundo jurídico lato sensu coloca em causa as garantias constitucionais e os princípios pelos quais se deve reger uma boa Administração. Pese embora que em Portugal, tem sido bastante utilizado de uma perspectiva positiva na feitura de contratos públicos, na deteção irregularidades que comprometem seriamente a qualidade dos bens e serviços viabilizados pelo Estado.[17]
É necessária a ponderação entre os benefícios que se podem retirar da utilização de sistemas de IA e por outro lado a necessidade de garantir e defender os direitos subjetivos dos cidadãos, assim como é necessário adaptar a Constituição e o CPA a esta nova realidade - a “virtualização” do Direito Constitucional e Administrativo.
Bibliografia
1) Silva, Artur Flamínio da: “Direito Administrativo e Tecnologia”, 2ª edição, Almedina, 2021
2) Otero, Paulo: “Manual de Direito Administrativo”, Vol.I, Coimbra, Almedina, 2013
3) Fernandes, Débora Melo: “O Princípio da Transparência Administrativa: Mito ou Realidade?”, in Revista da Ordem dos Advogados, nº 1e 2 (2015)
4) Duarte, David: “ Procedimentalização, Participação e Fundamentação: para uma concretização do princípio da imparcialidade administrativa como parâmetro decisório”, Coimbra, Almedina, 1996
5) Silva, Vasco Pereira da: “Direito Constitucional e Direito Administrativo Sem Fronteiras”, Almedina, 2019
6) Balaguer Callejón, Francisco: “La constituición del algoritmo”, Fundación Manuel Giménez Abad, Zaragoza, 2022
7) Sousa, Tiago Dias de : “Aplicação de técnicas de IA na deteção de irregularidades em contratos públicos”, 5-Ago-2022 https://repositorium.sdum.uminho.pt/handle/1822/83650
Inês Nabeiro, nº64848, 2ºB, subturma 15
Faculdade de Direito da Universidade de Lisboa, Novembro de 2023.
[1] Originalmente por Klaus Shwab, The fourth Industrial Revolution, Geneva, World Económico Forum, 2016, pp.7 e ss.
[2] Artur Flamínio Da Silva, Direito Administrativo e Tecnologia , 2ª edição, Almedina, 2021, p.9.
[3] Nem todos os cidadãos poderiam ter acesso, pelo que esta obrigatoriedade se traduzia numa discriminação injustificada entre os cidadãos, pois nem todos tinham ao seu alcance meios para a possuirem, fossem estes técnicos ou financeiros.
[4] Paulo Otero, Manual de Direito Administrativo, Vol.I, Coimbra, Almedina, 2013.
[5] Débora Melo Fernandes, “O Princípio da Transparência Administrativa: Mito ou Realidade?”, in Revista da Ordem dos Advogados, nº 1e 2 (2015) p.428.
[6] Expressão primeiramente introduzida por Filippo Turati – não prevalecendo nenhum interesse público que imponha um segredo momentâneo, a Administração deve ser uma casa de vidro.
[7] David Duarte, Procedimentalização, Participação e Fundamentação: para uma concretização do princípio da imparcialidade administrativa como parâmetro decisório, Coimbra, Almedina, 1996, p.199.
[8] O seu funcionamento interno é opaco, não pode ser conhecido e por esse motivo não há como saber como atingem determinadas conclusões.
[9] Permite aos seres humanos interpretar e conhecer como foi produzido determinado resultado ou conclusão, dando uma visão do funcionamento interno algoritmo.
[10] Artur Flamínio Da Silva, Direito Administrativo e Tecnologia , 2ª edição, Almedina, 2021, p.17.
[11] Vasco Pereira da Silva, Direito Constitucional e Direito Administrativo Sem Fronteiras, Almedina, 2019, p.167.
[12] Paulo Otero, Manual de Direito Administrativo, Vol.I, Coimbra, Almedina, 2013, p.489.
[13] Conversação entre humanos, neste caso seriam os cidadãos e a Administração pública robotizada.
[14] Como referido no início, p.1.
[15] Sobre o desfasamento do mundo físico e o mundo virtual, a ineptidão a constituição face a esta nova realidade., Francisco Balaguer Callejón, La constituición del algoritmo, Fundación Manuel Giménez Abad, Zaragoza, 2022 , p. 31.
[16] Como tive oportunidade de aprofundar no curso por mim frequentado de “Redes Sociales, Comapañias Tecnológicas y Democracia”, lecionado pelo Professor Doutor Francisco Balaguer Callejón, 2023.
Sem comentários:
Enviar um comentário