Algunos riesgos para el estatus de las personas en la utilización de la inteligencia artificialAproximación a los avances de la Ley 15/2022

  1. Sarrión Esteve, Joaquín 1
  2. Benlloch Domènech, Cristina 2
  1. 1 Universidad Nacional de Educación a Distancia
    info

    Universidad Nacional de Educación a Distancia

    Madrid, España

    ROR https://ror.org/02msb5n36

  2. 2 Universitat de València
    info

    Universitat de València

    Valencia, España

    ROR https://ror.org/043nxc105

Revista:
IgualdadES

ISSN: 2695-6403

Año de publicación: 2024

Año: 6

Número: 10

Páginas: 91-121

Tipo: Artículo

DOI: 10.18042/CEPC/IGDES.10.04 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: IgualdadES

Resumen

El crecimiento exponencial de las tecnologías digitales, en particular de la inteligencia artificial, junto con el grado de penetración que tiene hoy en día internet y lo digital en la sociedad, posibilitan el acceso a un mundo lleno de oportunidades, al mismo tiempo que se plantean riesgos para la persona y su estatus jurídico, sea como ciudadano, usuario, profesional, investigador o tecnólogo. Esto se manifiesta de forma especial cuando la tecnología permite la utilización de algoritmos en el proceso de toma de decisiones que pueden tener consecuencias jurídicas o bien otros resultados o efectos que pueden ser equivalentes o similares, dados los potenciales efectos discriminatorios de estas decisiones, lo que afecta especialmente a personas que forman parte de colectivos vulnerables. La Ley 15/2022, de 12 de julio, Integral para la Igualdad de Trato y no Discriminación, que se inserta dentro de la Estrategia Nacional sobre la Inteligencia Artificial, tiene como gran objetivo constituir el mínimo común normativo fundamental del derecho antidiscriminatorio español, así como establecer sus garantías básicas. En este trabajo realizamos una aproximación a la problemática de la revolución tecnológica y los riesgos asociados a su desarrollado para el estatus de las personas, así como el avance que supone la Ley 15/2022, en el contexto de las iniciativas nacionales y europeas sobre esta materia.

Referencias bibliográficas

  • Aba Catoira, A. (2023). La garantía de los derechos como respuesta frente a los retos tecnológicos. En F. Balaguer Callejón y L. Cotino Hueso (coords.). Derecho Público de la IA (pp. 57-84). Zaragoza: Fundación Giménez Abad.
  • Arenas Ramiro, M. (2022). La igualdad a la luz de los derechos digitales. En N. Reche Tello y R. Tur Ausina (dirs.), F. J. Sanjuán Andrés y C. Ortega Giménez (coords). La teoría constitucional frente a la transformación digital y las nuevas tecnologías (pp. 121-144). Cizur Menor: Thomsom Reuters Aranzadi.
  • Arroyo Jiménez, L. (2021). Algoritmos y reglamentos. Almacén del Derecho [blog], 25-02-2020. Disponible en: https://tinyurl.com/3shc6a3s.
  • Balaguer Callejón, F. (2023a). La Constitución del algoritmo. Zaragoza: Fundación Giménez Abad de Estudios Parlamentarios y del Estado Autonómico.
  • Balaguer Callejón, F. (2023b). La Constitución del algoritmo. El difícil encaje de la constitución analógica en el mundo digital. En F. Balaguer Callejón, L. Cotino Hueso (coords.). Derecho Público de la IA (pp. 29-56). Zaragoza: Fundación Giménez Abad.
  • Bartolini, A., Cippitani, R. y Colcelli, V. (2019). Dictionary of Statuses within EU Law. Cham: Springer. Disponible en: https://doi.org/10.1007/978-3-030-00554-2.
  • Baz Lomba, C. (2021). Los algoritmos y la toma de decisiones administrativas. Especial referencia a la transparencia. Revista CEFLegal, 243, 119-160. Disponible en: https://doi.org/10.51302/ceflegal.2021.9441.
  • Benlloch Domènech, C. y Sarrión Esteve, J. (2021a). Los derechos fundamentales ante las aporías de la era digital. Cuestiones Constitucionales, 46, 3-28. Disponible en: https://doi.org/10.22201/iij.24484881e.2022.46.17046.
  • Benlloch Domènech, C. y Sarrión Esteve, J. (2021b). Los retos sociales y jurídicos de un mundo en transformación: una aproximación a la Sociología del Derecho. Valencia: Tirant lo blanch.
  • Bobić, A. (2017). Constitutional Pluralism is not Dead: An Analysis of Interactions Between Constitutional Courts of Member States and the European Court of Justice. German Law Journal, 18 (6), 1395-1428. Disponible en: https://doi.org/10.1017/S2071832200022380.
  • Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, 1, 223-270. Disponible en: https://doi.org/10.37417/RPD/vol_1_2020_33.
  • Christensen, C. M. (1997). The Innovator’s dilemma. Boston: Harvard Business Review Press.
  • Cippitani, R. (2015). Academic Freedom as a Fundamental Right. En 1st International Conference on Higuer Education Advances, HEAd’15. Valencia: Universitat Politècnica de València. Disponible en: https://doi.org/10.4995/HEAd15.2015.357.
  • Cippitani, R. (2023). La dimension jurídica del espacio europeo de investigación. Roma: CNR.
  • Comisión Europea (2018a). A multi-dimensional approach to disinformation. Report of the independent High Level Group on Fake News and Online Disinformation. Disponible en: https://tinyurl.com/pnx8sc5z.
  • Comisión Europea (2018b). Joint Communication to the European Parliament, the European Council, the Council, The European Economic and Social Committee and the Committee of the Regions. Action Plan Against Disinformation. JOIN(2018) 36 final. Disponible en: https://tinyurl.com/mr37249d.
  • Comisión Europea (2018c). EU Code of Practice on Disinformation. Disponible en: https://tinyurl.com/mvfmep6.
  • Comisión Europea. (2018d). Comunicación de la Comisión Europea «IA para Europa», SWD(2018)137 final. 25-4-2018. Disponible en: https://tinyurl.com/2heb2ub8.
  • Comisión Europea (2021). Ethics By Design and Ethics of Use Approaches for Artificial Intelligence. 21/12/2021. Disponible en: https://tinyurl.com/4hm4pvsn.
  • Comité de Ministros del Consejo de Europa (2021). Recommendation CM/Rec(2021)8 of the Committee of Ministers to member States on the protection of individuals with regard to automatic processing of personal data in the context of profiling (adopted by the Committee of Ministers on 3 November 2021 at the 1416 meeting of the Ministers’ Deputies). Disponible en: https://tinyurl.com/yrnusn7w.
  • Comité de Ministros del Consejo de Europa (2024). Committee on Artificial Intelligence (CAI). Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. CM(2024)52-final. Disponible en: https://search.coe.int/cm?i=0900001680afb11f.
  • Consejo de Europa (2019). Umboxing Artificial Intelligence: 10 Steps to Protect Human Rights. Bruselas: Consejo de Europa. Disponible en: https://tinyurl.com/56978sje.
  • Cotino Hueso, L. (2017). Big data e IA. Una aproximación a su tratamiento jurídico desde los derechos fundamentales. ILEMATA, 24, 131-150.
  • Engisch, K. (2001). Introducción al pensamiento jurídico. Granada: Comares.
  • Fernández Hernández, C. (2022). La Ley 15/2022 introduce la primera regulación positiva de la IA en España. Ciberderecho. Diario La Ley [blog], 13-07-2022. Disponible en: https://tinyurl.com/3r46avyc.
  • FRA. European Union Agency for Fundamental Rights (2020). Getting the future right- Artificial Intelligence and fundamental rights. Disponible en: https://tinyurl.com/3mw3yxpt.
  • Gascón Marcén, A. (2020). Derechos humanos e IA. En A. Pérez G. M. Teruel, E. C. Raffiotta y M. P. Iadicicco (dirs.). Setenta años de Constitución italiana y cuarenta años de Constitución española (pp. 335-350). Madrid: Centro de Estudios Políticos y Constitucionales.
  • Generalitat de Catalunya (2021). Riscanvi: el protocol de valoració del risc. Disponible en: https://tinyurl.com/2zyuvd4t.
  • Generalitat Valenciana (2021). Sistema de alerta rápida SALER. Disponible en: https://tinyurl.com/2btzv8ww.
  • Gil González, E. (2017). Aproximación al estudio de las decisiones automatizadas en el seno del Reglamento General Europeo de Protección de Datos a la luz de las tecnologías big data y de aprendizaje computacional, Revista Española de la Transparencia, 5, 165-179.
  • Gobierno de España (2020). ENIA. Estrategia Nacional de IA. Disponible en: https://tinyurl.com/bdc2pj92.
  • Gobierno de España (2021). Carta de Derechos Digitales. Disponible en: https://tinyurl.com/m935vu8v.
  • Gómez Sánchez, Y. (2009). La libertad de creación y producción científica: especial referencia a la Ley de Investigación Biomédica. Revista de Derecho Político, 75-76, 489-514.
  • Gómez Sánchez, Y. (2020). Constitucionalismo multinivel. Derechos fundamentales. Madrid: Sanz y Torres. Disponible en: https://doi.org/10.5944/rdp.75-76. 2009.9100.
  • Grupo de Trabajo del Artículo 29 (2018). Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679. Adoptadas el 3 de octubre de 2017. Disponible en: https://tinyurl.com/3vzbvk98.
  • Guillen López, E. (2022). Definición y redefinición del constitucionalismo en la era digital. En N. Reche y R. Tur Ausina (dirs), F. J. Sanjuán Andrés y C. Ortega Giménez (coords). La teoría constitucional frente a la transformación digital y las nuevas tecnologías (pp. 97-117). Valencia: Thomsom Reuters Aranzadi.
  • Hildebrandt, M. (2016). Smart Technologies and the End(s) of Law. Cheltenham: Edward Elgar. Disponible en: https://doi.org/10.4337/9781849808774.
  • Huelgo Lorga, A. J. (2020). Una aproximación a los algoritmos desde el derecho administrativo. En A. J. Huergo Lorga (dir.) y G. M. Díaz González (coord.). La regulación de los algoritmos (pp. 23-87). Cizur Menor: Thomsom Reuters Aranzadi.
  • Innerarity, D. y Colomina, C. (2020). La verdad en las democracias algorítmicas. Revista CIDOB d’Afers Internacionals, 124, 11-23. Disponible en: https://doi.org/10.24241/rcai.2020.124.1.11.
  • Kaplan, A. y Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62, 15-25. Disponible en: https://doi.org/10.1016/j.bushor.2018.08.004.
  • Klein, E. (2020). Why We’re Polarized. Nueva York: Avid Reader Press.
  • Martínez Martínez, R. (2019). IA desde el diseño. Retos y estrategias para el cumplimiento normativo. Revista Catalana de Dret Públic. 58, 64-81.
  • Martínez López-Sáez, M. (2021). La ratificación española del Convenio 108+: consideraciones jurídicas básicas del nuevo marco paneuropeo de protección de datos. Revista General de Derecho Europeo, 54, 229-254.
  • Montero Pascual, J. J. y Rodríguez Ayuso, J. F. (2023). La nueva regulación de los datos. Navarra: Aranzadi.
  • Moreno, E. (2022). News Report España 2022. Pamplona: Publicaciones de la Universidad Universidad de Navarra.
  • OdiseIA. (2022). Guía de buenas prácticas para el uso de la IA ética. Disponible en: https://tinyurl.com/yc38bekw.
  • O’Neil, C. (2018). Armas de destrucción masiva. Madrid: Capitán Swing Libros.
  • Palma Ortigosa, A. (2019). Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos. Revista General de Derecho Administrativo, 50.
  • Pariser, E. (2017). El filtro burbuja. Barcelona: Taurus.
  • Parlamento Europeo (2017). Resolución del 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre Normas de Derecho Civil sobre Robótica (2015/2103(INL)). Disponible en: https://tinyurl.com/yafcdp4y.
  • Parlamento Europeo (2024). Resolución legislativa del Parlamento Europeo, de 13 de marzo de 2024, sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de IA (ley de IA) y se modifican determinados actos legislativos de la Unión (COM(2021)0206—C9-0146/2021—2021/0106(COD). Disponible en: https://tinyurl.com/3ex3kjzd.
  • Pérez Zafrilla, P. J. (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en internet. Recerca. Revista de Pensament i Anàlisi, 26 (2), 1-23. Disponible en: http://dx.doi.org/10.6035/recerca.4661.
  • Pérez Zafrilla, P. J., Benlloch Domènech, C. y Sarrión Esteve, J. (2021). E-democracia rural. Valencia: Tirant lo Blanch.
  • Reche Tello, N. y Tur Ausina, R. (2022). Poder y persona en una sociedad digital. En N. Reche Tello, R. Tur Ausina (dirs.), F. J. Sanjuán Andrés y C. Ortega Giménez (coords.). La teoría constitucional frente a la transformación digital y las nuevas tecnologías (pp. 13-28). Cizur Menor: Thomsom Reuters Aranzadi.
  • Sánchez Barrilao, J. F. (2016). El Derecho constitucional ante la era de Utrón: la informática y la IA como objeto constitucional. Estudios de Deusto, 64 (2), 225-58. Disponible en: https://doi.org/10.18543/ed-64(2)-2016pp225-258.
  • Sancho Villa, D. (2021). Las decisiones individuales automatizadas, incluida la elaboración de perfiles (comentario al artículo 22 RGPD). En A. Troncoso Reigada (dir). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de protección de los datos personales y garantía de los derechos digitales (pp.1725-1745). Cizur Menor: Thomsom Reuters Aranzadi.
  • Sarrión Esteve, J. (2019). Consumer. En A. Bartolini, R. Cippitani y V. Colcelli (eds.). Dictionary of Statuses within EU Law. Cham: Springer. Disponible en: https://doi.org/10.1007/978-3-030-00554-2_13
  • Sarrión Esteve, J. (2022a). El reconocimiento y protección de los derechos y libertades en un mundo en transformación. ¿Hacia un nuevo paradigma constitucional. Cizur Menor: Thomsom Reuters Aranzadi.
  • Sarrión Esteve, J. (2022b). Algunas notas sobre el paradigma de protección de los derechos fundamentales frente a la IA y las neurotecnologías. En N. Reche Tello y R. Tur Ausina (dirs.), F. J. Sanjuán Andrés y C. Ortega Giménez (coords.). La teoría constitucional frente a la transformación digital y las nuevas tecnologías (pp. 181-197). Cizur Menor: Thomsom Reuters Aranzadi.
  • Soriano Arnanz, A. (2021a). Decisiones automatizadas y discriminación: aproximación y propuestas generales. Revista General de Derecho Administrativo, 56, 11.
  • Soriano Arnanz, A. (2021b). Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos. Revista de Derecho Público: Teoría y Método, 3, 85-127. Disponible en: https://doi.org/10.37417/RPD/vol_3_2021_535.
  • Sustein, C. (2003). República.com. Internet, democracia y libertad. Barcelona: Paidós.
  • UNESCO (2022). Recomendación sobre la ética de la IA. Disponible en: https://tinyurl.com/4tv2f7hr.
  • Valero Torrijos, J. (2022). Los derechos en la era digital. En J. F. Rodríguez Ayuso (coord.). Nuevos retos en materia de derechos digitales en un contexto de pandemia: perspectiva multidisciplinar (pp. 25-42). Cizur Menor: Thomsom Reuters Aranzadi.
  • Vara-Miguel, A. (2022). Se agrava la desconfianza de los españoles en las noticias. En: A. Vara, A. Amoedo, E. Moreno, S. Negredo y J. Kaufmann (coords). Digital News Report España 2022. (pp. 23-29). Pamplona: Servicio de Publicaciones de la Universidad de Navarra. Disponible en: https://doi.org/10.15581/019.2022.
  • Vara, A., Amoedo, A., Moreno, E., Negredo, S. y Kaufmann, J. (2022). Digital News Report España 2022. Pamplona: Servicio de Publicaciones de la Universidad de Navarra. Disponible en: https://doi.org/10.15581/019.2022.
  • Zweig, S. (2003). El legado de Europa. Barcelona: Acantilado.
Fuente de los datos: Dialnet