Algorithms as Regulations: Considering Algorithms, when Used by the Public Administration for Decision-making, as Legal Norms in order to Guarantee the proper adoption of Administrative Decisions
ISSN: 2724-5969
Year of publication: 2020
Volume: 1
Issue: 1-2
Pages: 75-100
Type: Article
More publications in: European review of digital administration & law
Abstract
In this paper, it is argued that the algorithms used by the Public Administrations for the effective adoption of decisions must be considered administrative regulations from a legal point of view because they fulfil a function which is strictly equivalent to that of legal norms, i.e. to regulate and predetermine the action of the public powers. Additionally, it is studied which consequences can be deduced from this assumption in many areas: better regulation procedures for algorithms, complete publication of their code as it is legally binding for every norm and the necessity of legal remedies against algorithms. All these consequences, as stated in the text, represent a significant and necessary increase in relation with the current guarantees existing in our legal system regarding the use of AI by Public Administrations
Bibliographic References
- A. Boix Palop, De McDonald’s a Google: la ley ante la tercera revolución productiva, in Teoría y Derecho, 1, 2007, 124-147.
- N. Bostron, Superintelligence. Paths, Dangers, Strategies, Oxford, Oxford University Press, 2014.
- M. Tegmark, Life 3.0. Being human in the age of Artificial Intelligence, 49-55.
- Y. N. Harari, Homo Deus. A Brief History of Tomorrow, London, Harvill Secker, 2016.
- W. Hoffmann-Riem, Big data. Desafíos también para el Derecho, Madrid, Editorial Civitas, 2018, 59-62
- F. Schmiedchen and alii, Informe sobre los principios Asilomar en Inteligencia Artificial, Grupo de Estudio Evaluación de la Tecnología de la Digitalización de la Federación de Científicos Alemanes (VDW), 2018.
- L. Cotino Hueso, Riesgos e impactos del Big Data, la inteligencia artificial y la robótica: enfoques, modelos y principios de la respuesta del derecho, in Revista General de Derecho Administrativo, 50, 2019
- U. Beck, Risikogesellschaft. Auf dem Weg in eine andere Moderne, Berlin, Suhrkamp, 1986.
- K. Yeung, Why Worry about Decision-Making by Machine?, in Algorithmic Regulation, K. Yeung and M. Lodge (eds,), Oxford, Oxford University Press, 2019
- M. U. Scherer, Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies, in Harvard Journal of Law and Technology, 2016, 29(2), 353-400
- P. Daly, Artificial Administration: Administrative Law in the Age of Machines, SSRN Working Paper, 2019.
- cera revolución productiva, 130-134. 22 M. Veale and I. Brass, Administration by Algorithm? Public Management meets Public Sector Machine Learning, in Algorithmic Regulation, K. Yeung and M. Lodge (eds.), Oxford, Oxford University Press, 2019.
- J. Valero Torrijos, Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la Buena administración, in Revista Catalana de Dret Públic, 58, 2019
- C. Ramió Matas, Inteligencia artificial y administración pública. Robots y humanos compartiendo el servicio público, Madrid, Los Libros de La Catarata, 2019
- A. Cerrillo i Martínez, El impacto de la inteligencia artificial en el derecho administrativo, ¿nuevos conceptos para nuevas realidades técnicas?, in Revista General de Derecho Administrativo, 50, 2019, 8-10
- A. Cerrillo i Martínez, Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús d’algoritmes, in Revista Catalana de Dret Públic, 58, 2019, 18-20.
- C. Coglianese and D. Lehr, Regulating by Robot: Administrative Decision Making in the Machine Learning Era, in Penn Faculty Scholarship, 1734, 2017, 1160-1176
- M. U. Scherer, Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies
- C. O’Neil, Weapons of Math Destruction, Allen Lane, 2016, 84-91
- T. Zarsky, The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making, in Science, Technology and Human Values, 41(1), 2016, 118-132
- T. Scantamburlo, A. Charlesworth, and N. Cristiniani, Machine Decisions and Human Consequences, in Algorithmic Regulation, K. Yeung and M. Lodge (eds.), Oxford, Oxford University Press, 2019, 58-68.
- J. Nieva Fenoll, Inteligencia artificial y proceso judicial, Madrid, Marcial Pons, 2018, 26-28 and 105-115.
- H.W. Liu, C.F. Lin LIN and Y.J. Chen, Beyond State v. Loomis: artificial intelligence, government algorithmization and accountability, in International Journal of Law and Information Technology, 27(2), 2019
- K. Yeung and M. Lodge, Algorithmic regulation. An Introduction, in Algorithmic Regulation, K. Yeung and M. Lodge (eds.), Oxford, Oxford University Press, 2019, 12-13
- M. Martini and D. Nink, Wenn Maschinenentscheiden… Persönlichkeitsschutz in vollautomatisierten Verwaltungsverfahren, in NVwZ, vol. 10, 2017, 681-682
- T. Siegel, Automatisierung des Verwatungsverfahrens – zugleicheine Anmerkungzu §§35a, 24 I 3, 41 IIaVwVfG, in DVBI, vol. 1, 2017, 24-28
- G. Manuel Díaz González, Algoritmos y actuación policial: la policía predictiva, A. Huergo Lora (dir.), La regulación de los algoritmos, Madrid, Thomson-Reuters Aranzadi, 2020, 195-216.
- I. Martín Delgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, in Revista de Administración Pública, 180, 2009, 371.
- H. Kelsen, Teoría pura del Derecho, Buenos Aires, Eudeba, 1960, 38.
- Also, L. Lessig, Code version 2.0, New York, Basic books, 2006
- L. Lessig, Code version 2.0, 81-82; K. Yeung, Algorithmic regulation: a critical interrogation, in Regulation and Governance, 12(4), 2017, 505-523
- E. García de Enterría and T.R. Fernández, Curso de Derecho Administrativo, I, Madrid, Editorial CivitasThomson Reuters, 2013, 207.
- S. Muñoz Machado, Tratado de Derecho Administrativo y Derecho Público General, Madrid, Editorial Iustel, 2006,
- J. L. Carro Fernández-Valmayor, Reglamento, in Diccionario de Derecho Administrativo, S. Muñoz Machado (dir.), Madrid, Editorial Iustel, 2005, 2150-2151.
- A.G. Orofino and R.G. Orofino, L’automazione amministrativa: imputazione e responsabilità, in Giornale di diritto amministrativo, 2005, 1300-1311
- A. Huergo Lora, Una aproximación a los algoritmos desde el Derecho administrativo, in La regulación de los algoritmos, A. Huergo Lora (Dir.), Madrid, Thomson-Reuters Aranzadi, 2020, 64-67. 851-855.
- A. Gallego Anabitarte, Ley y reglamento en el Derecho público occidental, Instituto de Estudios Administrativos, 1971, 81
- J. M. Baño León, Los límites constitucionales de la potestad reglamentaria, Madrid, Editorial Civitas, 1991, 203-206.
- J. Valero Torrijos, Innovación tecnológica e innovación administrativa, presentation at Seminario de Teoría y Método del Derecho Público, 2016.
- I. Martín Delgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, 353- 386; J. Valero Torrijos Derecho, innovación y administración electrónica, Sevilla, Global Law Press, 2013, 46-50.
- J. De la Cueva, ¿Quién vigila al algoritmo?, in El Notario del Siglo XXI, 87, 2019.
- J. Ponce Solé, Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico, in Revista General de Derecho Administrativo, 50, 2019, 42.
- A. Palma Ortigosa, Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos, in Revista General de Derecho Administrativo, 50, 2019
- M. Sancho López, Estrategias legales para garantizar los derechos fundamentals frente a los desafíos del Big Data, in Revista General de Derecho Administrativo, 50, 2019, 5-10
- L. A. Bygrave, Minding the Machine v2.0. The EU General Protection Regulation and Automated Decision-Making, in Algorithmic Regulation, K. Yeung and M. Lodge (eds.), Oxford, Oxford University Press, 2019, 243-262.
- G. Lazcoz Moratinos, Análisis jurídico de la toma de decisiones algorítmica en la asistencia sanitaria, in La regulación de los algoritmos, A. Huergo Lora (Dir.), Madrid, Thomson-Reuters Aranzadi, 2020, 287-293
- R. Fisman and M. Luca, Fixing Discrimination in Online Marketplaces, in Harvard Business Review, 12-2016, 2016, 88-95
- R. Martínez Martínez, Inteligencia artificial desde el diseño. Retos y estrategias para el cumplimiento normativo, in Revista Catalana de Dret Públic, 58, 2019, 68-72.
- S. Barocas and A. D. Selbst, Big Data’s Disparate Impact, in California Law Review, 104, 2016, 671-732
- J. A. Kroll, J. Huey, S. Barocas, E. W. Felten, J. R. Reidenberg, D. G. Robinson and H. Yu, Accountable algorithms, in University of Pennsylvania Law Review, 165(3), 2017, 633-705.
- B. Edelman, B. Luca and D. Svirsky, Racial Discrimination in the Sharing Economy: Evidence from a Filed Experiment, in American Economic Journal: Applied Economics, 9(2), 2017, 1-22.
- C. Coglianese and D. Lehr, Transparency and Algorithmic Governance, in Administrative Law Review, 70(4), 2018.
- L. Cotino Hueso, SyRI, ¿A quién sanciono? Garantías frente al uso de la inteligencia artificial y decisions automatizadas en el sector público y la sentencia holandesa de febrero de 2020, in La Ley Privacidad, 4, 2020.
- A. Soriano Arnanz, The control of algorithmic discrimination, PhD dissertation, University of València, 2020.
- J. Kleinberg, J. Ludwig, S. Mullainathan and C. R. Sunstein, Discrimination in the Age of Algorithms, in Journal of Legal Analysis, 10(2018), 2018, 154-163.
- E. Melero Alonso, Reglamentos y disposiciones administrativas: análisis teórico y práctico, Madrid, Lex Nova, 2005, 339-340.
- C. Gimeno Fernández, La qualitat normativa al País Valencià, Barcelona, Riurau Editors, 2018.
- I. Araguàs Galcerà, La transparencia en el ejercicio de la potestad reglamentaria, 2016, Barcelona, Atelier
- D. Canals Ametler, El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos), in Revista General de Derecho Administrativo, 50, 2019.
- R. Binns, Algorithmic Accountability and Public Reason, in Philosophy and Technology, 31(4), 2017,543-556.
- M. Bovens, T. Schillemans and P. Hart, Does public accountability work? An assessment, in Public Administration, 86(1), 2008 230-234
- J. Castellanos Claramunt, La democracia algorítmica: inteligencia artificial, democracia y participación política, in Revista General de Derecho Administrativo, 50, 2019.
- L. Lessig, Code version 2.0, 151-153; G. Lazcoz Moratinos, Análisis jurídico de la toma de decisiones algorítmica en la asistencia sanitaria, in La regulación de los algoritmos, A. Huergo Lora (Dir.), Madrid, ThomsonReuters Aranzadi, 2020, 293-295
- G. Doménech Pascual, La invalidez de los reglamentos, València, Tirant lo Blanch, 2002, 222-223
- L. Martínez Garayand F. Montes Suay, El uso de valoraciones del riesgo de violencia en Derecho Penal: algunas cautelas necesarias, in Indret, núm. 2(2018), 2018
- I. De Miguel Beriain, Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling, in Law, Probability and Risk, núm 17(1), 2018, 45-53.
- C. M. Romeo Casabona, Riesgo, procedimientos actuariales basados en inteligencia artificial y medidas de seguridad, in REDS, 13, 2018, 39-55.
- M. Ananny and K. Crawdford, Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability, in New Media and Society, 20(3), 2018, 983-985
- J. Zerilli, A. Knott, J. Maclaurin and C. Gavaghan, Transparency in Algorithmic and Human Decision-Making: Is There a Double Standard?, in Philosophy and Technology, 32(4), 2018, 661-683.
- P. B. De Laat, Algorithmic Decision-Making Based on Machine Learning from Big Data: Can Transparency Restore Accountability?, in Philosophy and Technology, 31(2), 2017, 1-17.
- J. M. Baño León, Los límites constitucionales de la potestad reglamentaria, 211-216
- V. Álvarez García, Normalización industrial, in Diccionario de Derecho Administrativo, S. Muñoz Machado (dir.), Madrid, Editorial Iustel, 2005, 1672-1675.
- C. Velasco Rico, La ciudad inteligente: entre la transparencia y el control, in Revista General de Derecho Administrativo, 50, 2019, 20-23.
- A. Tutt, An FDA for algorithms, in Administrative Law Review, 69(1), 2017, 84-123
- J. Valero Torrijos, Innovación tecnológica e innovación administrativa, presentation at Seminario de Teoría y Método del Derecho Público, 2016.
- K. Freeman, Algorithmic Injustice: How the Wisconsin Supreme Court Failed to Protect Due Process Rights in State v. Loomis, in The North Carolina Journal of Law and Technology, vol. 10, 2016,113-115
- M. Perel and N. Elkin-Koren, Black Box Tinkering: Beyond Disclosure in Algorithmic Enforcement, in Florida Law Review, 69, 2017, 181-222.
- J. M. Rodríguez de Santiago, Metodología del Derecho administrativo. Reglas de racionalidad para la adopción y el control de la decisión administrativa, Madrid, Marcial Pons, 2016, 35-38
- J. Burrell, How the machine ‘thinks’: Understanding opacity in machine learning algorithms, in Big Data and Society, 3(1), 2016.
- M. Rebollo Puig, La actividad inspectora, in La función inspectora, Asociación Española de Profesores de Derecho Administrativo, 2013, 67-69.