A Inteligência Artificial na Administração Pública: uma decisão administrativa artificial?

Abstract

A incorporação de inteligência artificial (IA) no processo decisório da Administração apresenta-se como um futuro inevitável. Neste processo de digitalização, a Administração deparar-se-á com problemáticas jurídicas sem qualquer precedente na sua atividade automatizada, devido à eficiência e à opacidade características dos sistemas inteligentes.Inexistindo um regime jurídico especificamente concebido para a regulação deste fenómeno, os únicos limites à atuação administrativa “artificial” resultam do direito da proteção de dados e dos princípios gerais da Administração Pública. Neste trabalho, procuramos abordar as principais problemáticas suscitadas pela decisão administrativa auxiliada por sistemas de IA, através de uma perspetiva cronológica.Num primeiro plano, questionamos se o exercício de poderes discricionários pode ser auxiliado por sistemas de IA e se, para o efeito da automatização da decisão, a Administração necessita de uma habilitação legal específica que autorize a utilização destas tecnologias. Adotando como ponto de partida o procedimento que os especialistas associam ao desenvolvimento de um sistema de IA, procuramos compreender qual a natureza das várias fases desse procedimento quando o mesmo é adotado pela Administração Pública. Concluímos que o dever de boa administração e o princípio da transparência impõem à Administração o cumprimento de regras técnicas e jurídicas durante todo este procedimento.Por fim, refletimos sobre a possibilidade de imputação da decisão adotada com o auxílio de sistemas de IA ao órgão administrativo competente e determinamos quais os elementos que devem ser concedidos aos destinatários da decisão, em cumprimento do dever de fundamentação.

The incorporation of artificial intelligence (AI) in Public Administration decision-making process is presented as an inevitable future. In this digitalization transformation, the Administration will face legal problems without any precedent in its automated activity, due to the efficiency and the opacity of intelligent systems.In the absence of a legal framework specifically designed to regulate this phenomenon, the only limits to “artificial” public activity arise from data protection regulation and the general principles of Public Administration. In this study, we seek to address the main issues raised by the use of AI systems in the administrative decision-making process, through a chronological perspective.In the first place, we question if the exercise of discretionary powers can be supported by AI systems and whether, for the purpose of decision automation, the Administration needs a specific legal authorization. Adopting as a starting point the procedure associated by experts to the development of an AI system, we seek to understand the nature of the various stages of this procedure when it is adopted by the Public Administration. We conclude that the principles of good administration and transparency impose to the Administration the compliance with technical and normative rules.Finally, we reflect on whether the administrative decision assisted by AI systems can be imputed to the competent administrative body and determine which relevant elements should be granted to the addressee of the decision, in compliance with the obligation of the Administration to give reasons to its decisions.