Introdução
A inteligência artificial é a capacidade de uma máquina para duplicar competências humanas. Os sistemas de inteligência artificial têm a capacidade de adaptar os seus comportamentos através de uma análise de ações anteriores e de um trabalho autónomo. Nas últimas décadas, a inteligência artificial tem-se tornado uma prioridade da União Europeia, devido á prodigalidade das suas previstas mudanças futuras. Com isto, a inteligência artificial pode ter um papel fundamental para a transformação principal da sociedade[1].
A inteligência artificial tem variadas aplicações no Direito, nomeadamente, no Direito Administrativo. Tendo em consideração a divergência doutrinária nesta nova área, podemos constatar que a inteligência artificial tem potencial para melhorar a eficiência, precisão e consistência de certos processos administrativos e jurisdicionais. A inteligência artificial pode estar relacionada com Direito Administrativo relativamente á análise de documentos e pesquisa jurídica, tomada de decisões automatizadas, análise preditiva, monitoramento de conformidade, eficiência operacional, ou até á privacidade e proteção de dados.
Princípio da Fundamentação
Num contexto administrativo, o princípio da fundamentação implica fundamentar devidamente as decisões judiciais e administrativas, o que é imprescindível para garantir a transparência e a legalidade dos processos administrativos. Segundo Emanuel Alcides Romão Pinto, o dever da fundamentação explica-se pela essencialidade de justificação do exercício do poder estadual, da rejeição do segredo nos atos do Estado, da necessidade de avaliação dos atos estaduais, incluindo a controlabilidade, previsibilidade, fiabilidade e a confiança nos atos do Estado[2]. Com isto, a fundamentação é indispensável para que o respeito pelo princípio da legalidade da decisão judicial seja assegurado, segundo o Supremo Tribunal de Justiça. Este princípio é fundamental em sistemas jurídicos democráticos, estando regularmente consagrado em documentos legais e constituições.
Agora que estabelecemos a essência do princípio da fundamentação, importa referir a sua relevância no âmbito da inteligência artificial. A inteligência artificial tem tido uma função crescente em processos decisórios, tanto num âmbito administrativo quanto num âmbito judicial. Quando a inteligência artificial é usada para tomar certas decisões, embora o princípio da fundamentação continue a ter uma atribuição pertinente, podem surgir confrontos particulares. Por exemplo, um dos principais critérios do princípio da fundamentação é a transparência que ele exige, de modo a assegurar a fiabilidade e a confiança nos atos do estado, tal como previamente mencionado. Porém, devido á complexidade e possível dificuldade de compreensão de certos processos de tomada de decisão da inteligência artificial, a transparência em questão fica comprometida. Com isto, é necessário que as decisões tomadas pela inteligência artificial sejam explicadas de uma maneira compreensível não só para as partes envolvidas, mas também para a sociedade em geral. Outro aspeto que pode pôr em causa o princípio da fundamentação quando a inteligência artificial for utilizada é a responsabilidade e a justiça. Isto é, no caso de um individuo ser afetado por uma decisão automatizada, é necessário que a responsabilidade pelas decisões seja clara, e o mesmo deve ter a capacidade de perceber que a decisão pode ter sido influenciada por dados e algoritmos. Adicionalmente, o princípio da fundamentação torna-se crucial para garantir que as decisões tomadas pela inteligência artificial não são discriminatórias, e que cumprem os requisitos constitucionais. Ou seja, mesmo utilizando decisões automatizadas, pode ser necessário corrigir possíveis injustiças. Importa também mencionar que o uso das decisões automatizadas, normalmente, está sujeito a regulamentações específicas quando envolve decisões jurídicas e administrativas. O princípio da fundamentação torna-se então necessário para facilitar a conformidade com essas regulamentações.
Com isto, podemos perceber que mesmo com o uso da inteligência artificial, o princípio da fundamentação continua a desempenhar um pepel crucial na garantia da justiça, transparência e responsabilidade. Visto que os sistemas de inteligência artificial nem sempre conseguem fornecer uma decisão clara, justa ou compreensível, é sempre necessário adaptar as suas respostas com a necessária fundamentação, de modo a cumprir com os requisitos legais e constitucionais.
Princípio da Imparcialidade
Para além do princípio da fundamentação, a inteligência artificial também interfere noutras áreas do Direito Administrativo, como por exemplo, no princípio da imparcialidade. Segundo o Professor Doutor Marcello Caetano, “O Juiz deve ser imparcial, isto é, não deve estar, em princípio, com nenhuma das partes no pleito. E para isso tem de ouvir ambas. Audia alteram partem, é uma regra fundamental da justiça.”[3]. Este princípio encontra-se estabelecido no artigo 266° n°2 da Constituição da República Portuguesa, sendo ele um dos critérios estruturantes que vinculam os órgãos e agentes administrativos. O princípio da imparcialidade estabelece que as decisões administradoras, entre outras, devem carecer de preconceitos, influências injustas ou favoritismos. Ou seja, este princípio exige que as decisões sejam tomadas de maneira objetiva, sem qualquer inclinação pessoal em favor de uma parte ou interesse. De acordo com a Professora Doutora Maria Teresa de Melo Ribeiro, o aparecimento do princípio da imparcialidade num âmbito administrativo está, historicamente, ligado à necessidade de garantir a independência e a neutralidade política dos funcionários públicos e, consequentemente, da própria Administração Pública. Segundo a professora, a imparcialidade administrativa, é defendida maioritariamente devido à alteração das relações entre o Estado e a sociedade, e a consequente transformação da Administração Pública[4]. Com isto, é coerente a compreensão da importância deste princípio, e da razão pela qual o mesmo não deve, nem pode ser posto em causa pela inteligência artificial.
Tal como o já analisado no princípio da fundamentação, o princípio da imparcialidade também pode ser afetado pelo uso da inteligência artificial. Claro que, mesmo considerando os possíveis impactos positivos da mesma tais como a análise objetiva de dados ou mesmo a automação de tarefas repetidas, existem variados possíveis impactos negativos. Exemplificativamente, visto que os sistemas de inteligência artificial são treinados com dados que contêm viés, eles podem proceder á amplificação de preconceitos existentes, afetando negativamente a imparcialidade. Adicionalmente, se o treinamento da inteligência artificial não for projetado para evitar preconceitos, as decisões podem afetar grupos diferentes de maneiras diversas, novamente afetando a imparcialidade. Importa também mencionar que a desumanização de processos decisórios leva a menos elementos subjetivos e empáticos que são fundamentais para a imparcialidade de processos administrativos e judiciais. Complementarmente, tal como visto no princípio da fundamentação, também a imparcialidade exige responsabilidade e prestação de contas. Com isto, usando a inteligência artificial, pode ser desafiador determinar sobre quem cai a responsabilidade por decisões incorretas ou injustas. Por fim, vale pôr em evidência que a imparcialidade pode ser afetada se certas questões éticas, tais como a privacidade de dados, a segurança ou a autonomia não forem adequadamente consideradas e regulamentadas. Desta forma, a implementação da inteligência artificial deve ser cuidadosamente monitorada e regulamentada para garantir que cumpre corretamente o princípio da imparcialidade, junto com os demais deveres legais e constitucionais.
Uma das grandes obras doutrinárias relativamente ao princípio da imparcialidade é a tese de mestrado do Professor Doutor David Duarte, que tem uma abordagem objetiva quando fala da imparcialidade administrativa. O professor prevê que ao ser estabelecida uma relação direta entre o decisor e as circunstâncias, a possibilidade de se atingir uma solução material mais adequada às exigências do caso concreto é significativamente maior[5]. Mesmo tendo em conta que a escritura da tese em questão não considerou a grandeza da inteligência artificial, através deste pensamento do professor, podemos prever como é que a mesma pode impactar negativamente os processos administrativos, e, mais especificamente, a imparcialidade dos mesmos. Com isto, é fácil a compreensão de que a empatia e a compreensão humana desempenham um papel crucial na tomada de decisões imparciais, pois consideram fatores que por vezes a inteligência artificial não consegue examinar. A tomada de decisões discricionárias também é fundamental quando se abordam casos administrativos, e os algoritmos podem ter uma certa dificuldade a reproduzir julgamentos subjetivos e adaptados a circunstâncias específicas.
Importa também mencionar que, segundo o Professor Doutor José Carlos Vieira de Andrade, os princípios jurídicos fundamentais materiais (substanciais ou valorativos), regem diretamente a atividade administrativa – seja autonomamente, como padrões de validade, seja influenciando a interpretação e aplicação administrativa e judicial das disposições legais (interpretação conforme os princípios). No caso do princípio da imparcialidade, nas suas vertentes subjetiva ou formal (imparcialidade do órgão) e objetiva ou material (imparcialidade da decisão). Isto justifica o porquê de não se dever pôr em causa o princípio mencionado, devido á importância do mesmo[6].
Pode haver parcialidade nas decisões da Inteligência Artificial?
Consequentemente, e agora sabendo que as decisões humanas têm mais facilidade em encontrar soluções imparciais para decisões judiciais ou administrativas, importa discutir se poder haver parcialidade na inteligência artificial, relativamente às mesmas decisões. Está tudo relacionado com o projeto dos algoritmos. Se o algoritmo for mal projetado, o mesmo pode favorecer certos grupos ou categorias, sendo então parcial. Consequentemente, tal como mencionado anteriormente, a ausência de transparência, compreensão contextual ou empatia no processo judicial ou administrativo, seguindo por insuficientes níveis de treino e programação, ou mesmo falta de controle humano adequado são todos fatores que podem tomar decisões inteiramente parciais. Para combater esta parcialidade, seria necessário implementar treinamentos rigorosos, utilizar dados diversificados, promover a transparência nos algoritmos, e mesmo assim a supervisão humana teria de ser permitida.
Desta forma, podemos realizar que a inteligência artificial põe em causa, pelo menos, dois princípios fundamentais do Direito Administrativo, ameaçando a sua credibilidade e conformidade com os princípios legais e constitucionais portugueses.
Viés Cognitivo (Cognitive Bias)
Em termos simples, o viés cognitivo é a tendência de agir de forma irracional devido a uma capacidade limitada de processar informações objetivamente. Envolve influências inconscientes ou não intencionais em decisões legais, tal como em decisões administrativas. Isto difere do entendimento de preconceito do direito consuetudinário, que envolve influências conscientes que afetam juízes ou magistrados que possam ter um interesse particular no caso em questão. Assim, o viés cognitivo pode ser geralmente descrito como tendências, inclinações ou disposições sistemáticas e de ocorrência universal na tomada de decisões humanas que podem torná-lo venerável por resultados imprecisos ou errados[7].
O professor Govind Persad argumenta que a avaliação normativa de um viés depende da sua ligação com alguma perspetiva razoável[8]. Assim, como as decisões jurídicas têm de ser imparciais e equitativas, ao avaliar o viés em questões jurídicas, é crucial que os juízes e peritos jurídicos considerem diferentes pontos de vista e garantam que o processo de tomada de decisão não favorece injustamente um lado em detrimento de outro. Isto ajuda a promover um sistema jurídico justo e equitativo para todos os envolvidos. Dado que o preconceito tem o potencial de comprometer a integridade dos processos judiciais e indeterminar a legitimidade dos resultados, para administrar a justiça de forma eficaz, as autoridades legais devem aceder meticulosamente a potenciais viés a partir de várias perspetivas razoáveis. Ao reconhecer viés através de uma avaliação normativa, o sistema jurídico procura defender os princípios da imparcialidade e da igualdade de tratamento perante a lei.
No entanto, a ausência de viés cognitivo na inteligência artificial, embora inicialmente pareça vantajosa, pode levantar algumas preocupações no âmbito do Direito Administrativo. As decisões humanas, influenciadas por viés cognitivos, refletem uma compreensão diferenciada do contexto, empatia e uma consideração de perspetivas distintas. No Direito Administrativo, onde os casos envolvem frequentemente dimensões sociais e éticas complexas, a falta de viés cognitivo na inteligência artificial pode resultar numa aplicação rígida e mecanicista de regras sem a capacidade de compreender as características de cada caso concreto. Os viés humanos, quando devidamente reconhecidos e geridos, podem servir como um mecanismo para adaptar as decisões jurídicas às complexidades das situações do mundo real. Embora a inteligência artificial seja objetivamente um ponto forte em determinados contextos, a ausência de viés cognitivos humanos pode levar a uma aplicação simplificada e potencialmente injusta da lei. Isto sublinha a importância de manter um equilíbrio, onde a inteligência artificial aumenta a tomada de decisões humanas em vez de a substituir inteiramente, para garantir um sistema jurídico que seja justo e adaptável às complexidades da experiência humana.
Direitos Fundamentais
Já estabelecemos várias maneiras da inteligência artificial impactar negativamente a solução de situações concretas no Direito Administrativo, tal como o seu impacto na implementação e estabilidade no princípio da fundamentação e no princípio da imparcialidade, ou até como a sua falta de viés cognitivo pode ser vista como um aspeto negativo neste ramo do Direito. Com isto, e para concluir os principais aspetos negativos que a inteligência artificial pode ter no Direito Administrativo, fica a faltar apenas uma referência á falta de ponderação da inteligência artificial quanto aos direitos fundamentais.
Os direitos fundamentais são as posições jurídicas básicas reconhecidas pelo direito, com vista à defesa dos valores e interesses mais relevantes que assistem às pessoas singulares e coletivas. Alguns exemplos destes direitos incluem o direito à liberdade, o direito à propriedade privada, o direito à liberdade de expressão, entre outros. Os direitos fundamentais são cruciais para um Estado constitucional democrático não só porque representam os fundamentos da comunidade, mas também porque definem as áreas nas quais o poder estatal não deve interferir.
A intervenção da inteligência artificial no Direito Administrativo levanta apreensões relativamente à ponderação dos direitos fundamentais. Cada vez mais, os sistemas de inteligência artificial têm vindo a desempenhar papeis mais relevantes nos processos de tomada de decisão nos órgãos administrativos, o que pode ser preocupante devido à sua inabilidade de considerar ou priorizar adequadamente os direitos fundamentais, pois ao contrário dos humanos, a inteligência artificial não tem a capacidade de raciocinar moralmente ou de compreender contextos sociais. Com isto, surge o risco que os processos administrativos dirigidos maioritariamente pela inteligência artificial possam pôr em causa os direitos fundamentais constitucionais, visto que a inteligência artificial funciona através de algoritmos e padrões de dados, ao invés de uma compreensão abrangente das dimensões jurídicas do Direito Administrativo.
Conclusão
Para resumir todos os argumentos supramencionados, há vários aspetos do Direito Administrativo que sofrem desvantagens pela utilização da inteligência artificial. Primeiramente, tal como foi inicialmente abordado, o uso da inteligência artificial dificulta a proteção do princípio da fundamentação. Ou seja, mesmo utilizando sistemas de inteligência artificial, em princípio, a fundamentação jurídica teria sempre de ser adicionada posteriormente, invalidando, possivelmente, a necessidade de uso destes sistemas. Em seguida, foi abordada a intervenção negativa da inteligência artificial no princípio da imparcialidade. Com isto, foi concluído que os sistemas em questão podem ter uma certa dificuldade a reproduzir julgamentos subjetivos e adaptados a circunstâncias específicas, e que a falta de controlo humano adequado pode levar a decisões parciais. Também foi concluído que a falta de viés cognitivos pode levar a uma decisão demasiado simplificada ou até injusta perante a lei. Por fim, importa referir novamente que a inteligência artificial não tem a capacidade de ponderar direitos fundamentais, o que, repetidamente, torna difícil a adaptação ao caso concreto. Com isto, o desafio reside em encontrar um equilibro entre aproveitar a eficiência e a objetividade da inteligência artificial na tomada de decisões administrativas, mas, ao mesmo tempo, garantir a salvaguarda dos princípios constitucionais, do viés cognitivo e dos direitos fundamentais, de modo a constituir a base de um sistema jurídico justo e equitativo.
Bibliografia:
Alcides Romão Pinto, Emanuel. Do Dever de Fundamentação Das Decisões Judiciais Como Garantia Constitucional: Em Especial a Sentença Penal.
de Melo Ribeiro, Maria Teresa. O Princípio Da Imparcialidade Da Administração Pública. Almedina, pp. 1–359.
DUARTE, D. Imparcialidade Administrativa e Controlo Jurisdicional da Decisão: Administrative Impartiality and Jurisdictional Control of the Decision.
Europeu, Parlamento. O Que é a Inteligência Artificial E Como Funciona? 4 Sept. 2020,
Korteling, Johan. E. (Hans), Paradies, G. L., & Sassen-van Meer, J. P. (2023). Cognitive bias and how to improve sustainable decision making. Frontiers in Psychology, 14. https://doi.org/10.3389/fpsyg.2023.1129835
Marcello Caetano, História do Direito Português, 2ª ed., Editorial VERBO, pág. 260.
Persad, G. (2014). When, and How, Should Cognitive Bias Matter to Law. Law & Inequality: A Journal of Theory and Practice, 32. https://scholarship.law.umn.edu/cgi/viewcontent.cgi?article=1244&context=lawineq
Vieira de Andrade, José Carlos. Lições de Direito Administrativo. 2a edição ed., Coimbra 2011, pp. 1–243. página 41.
[1]Europeu, Parlamento. O Que é a Inteligência Artificial E Como Funciona? 4 Sept. 2020,
[2] Alcides Romão Pinto, Emanuel. Do Dever de Fundamentação Das Decisões Judiciais Como Garantia Constitucional: Em Especial a Sentença Penal.
[3] Marcello Caetano, História do Direito Português, 2ª ed., Editorial VERBO, pág. 260.
[4] de Melo Ribeiro, Maria Teresa. O Princípio Da Imparcialidade Da Administração Pública. Almedina, pp. 1–359.
[5] DUARTE, D. Imparcialidade Administrativa e Controlo Jurisdicional da Decisão: Administrative Impartiality and Jurisdictional Control of the Decision.
[6] Vieira de Andrade, José Carlos. Lições de Direito Administrativo. 2a edição ed., Coimbra 2011, pp. 1–243. página 41.
[7] Korteling, Johan. E. (Hans), Paradies, G. L., & Sassen-van Meer, J. P. (2023). Cognitive bias and how to improve sustainable decision making. Frontiers in Psychology, 14. https://doi.org/10.3389/fpsyg.2023.1129835
[8] Persad, G. (2014). When, and How, Should Cognitive Bias Matter to Law. Law & Inequality: A Journal of Theory and Practice, 32. https://scholarship.law.umn.edu/cgi/viewcontent.cgi?article=1244&context=lawineq
Sem comentários:
Enviar um comentário