Inteligencia artificial en la justicia con perspectiva de género: amenazas y oportunidades.
ISSN: 2386-4567
Year of publication: 2024
Issue: 21
Pages: 566-597
Type: Article
More publications in: Actualidad jurídica iberoamericana
Abstract
The use of applications and tools based on artificial intelligence in the justice system is beginning to be implemented, although it is still in its infancy. In this paper, we analyse their risks and benefits from a gender perspective. First, we examine the threats posed by algorithmic biases that reinforce gender stereotypes, as well as deepfakes as new forms of violence perpetrated by AI, whose main victims are women. Second, we look at the use of algorithmic tools in the fight against the greatest exponent of inequality, such as gender-based violence. Specifically, to support victims, to investigate certain crimes and to prevent their execution through predictive techniques that assess the risk of recidivism.
Bibliographic References
- Arruti Benito, S.: “Justicia e inteligencia artificial en clave de género”, en AA.VV.: Investigación y género. Proyectos y resultados en estudios de las mujeres: VIII Congreso Universitario Internacional de Investigación y Género (ed. por M. E. García y A. M. de la Torre Sierra), Universidad de Sevilla, 2022, pp. 395-406.
- Barona Vilar, S.: Algoritmización del Derecho y de la Justicia. De la inteligencia artificial a la Smart Justice, Tirant lo Blanch, Valencia, 2021.
- Barona Vilar, S.: “La necesaria deconstrucción del modelo patriarcal de justicia”, en AA.VV.: Análisis de la Justicia desde la perspectiva de género, Tirant Lo Blanch, Valencia, 2018.
- Barona Vilar, S.: “Dataización de la justicia (Algoritmos, Inteligencia Artificial y Justicia, ¿el comienzo de una gran amistad?)”, Revista Boliviana de Derecho, 2023, núm. 36, pp. 14-45.
- Belloso Martin, N.: “La problemática de los sesgos algorítmicos (con especial referencia a los de género) ¿Hacia un derecho a la protección contra los sesgos?”, en AA.VV.: Inteligencia artificial y filosofía del derecho (dir. por F. llano Alonso), Laborum, Murcia, 2022.
- Bello San Juan, P.: “La inteligencia artificial al servicio del crimen: La revolución del deepfake desde una perspectiva criminológica”, en AA.VV.: La justicia en la sociedad 4.0: nuevos retos para el siglo XXI (dir. por L. Fontestad Portalés), Colex, 2023.
- Blanco García, A. I.: “Retos para una inteligencia artificial inclusiva de los colectivos vulnerables”, Revista Actualidad jurídico Iberoamericana, 2024, núm. 21.
- Blázquez Moreno, R.: “Deepfakes en el procedimiento probatorio”, Revista vasca de derecho procesal y arbitraje, 2023, vol. 35, núm. 3.
- Borraz, M. y Pastor, A.: “‘Deepfakes’ sexuales: el caso de las menores de Almendralejo consolida una nueva forma de violencia machista”, el Diario.es, 19 de septiembre de 2023.
- Catalán Chamorro, M.J.: “La carta de derechos digitales y su implicación en el derecho procesal español”, en AA. VV.: Digitalización de la justicia: prevención, investigación y enjuiciamiento (dir. por M. Llorente Sánchez-Arjona y S. Calaza López), Aranzadi, Cizuer Menor, 2022, pp. 179 - 208.
- Catalán Chamorro, M.J.: La justicia digital en España. Retos y desafíos, Tirant Lo
- Blanch, Valencia, 2023.
- Cerdán Martínez, V. y Padilla Castillo, G.: “Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso”, Historia y comunicación social, 2019, núm. 24 (2).
- Constanza Gamboa, N.: “La inteligencia artificial como herramienta al servicio de la erradicación de la Violencia de Género”, Observatorio violencia, septiembre 21, 2020.
- Danesi, C.: “Sesgos algorítmicos de género con identidad iberoamericana: las técnicas de reconocimiento facial en la mira”, Revista Derecho de Familia, 2021, núm.100.
- Delfino, R. A., “Deepfakes on trial: a call to expand the trial judge’s. Gatekeeping role to protect legal proceedings from technological fakery”, Hastings Law Journal, 2023, vol. 74, núm. 2, pp. 293- 348.
- De Luis García, E., “Justicia, inteligencia artificial y derecho de defensa”, IDP: revista de internet, derecho y política, 2023, núm. 39.
- Ei, D., y Moser, G.: “Human arbitrators (the undisputed champion) v (the robots challenger)”, Hong Kong L.J, 2020, vol. 50.
- Fernández, A.: “Inteligencia artificial en los servicios financieros”, Boletín económico - Banco de España, 2019, núm. 2.
- Gil, P.: “La perspectiva de la mujer víctima del sistema judicial ajeno al género”, en AA.VV.: Análisis de la Justicia desde la perspectiva de género, Tirant Lo Blanch, Valencia, 2018.
- González Pulido, I.: “El uso de la inteligencia artificial generativa en la investigación de la ciberdelincuencia de género: ante el auge de los deepfakes”, Ius et Scientia, 2023, vol. 9, núm. 2.
- González-Álvarez, J.L., Santos-Hermoso, J. y Camacho-Collados, M.: “Policía predictiva en España. Aplicación y retos futuros”, Behavior & Law Journal, 2020, núm. 6(1).
- Hao, K., “This Is How AI Bias Really Happens - and Why It’s So Hard to Fix”, MIT Technology Review, 4 febrero 2019.
- Kweilin, L.T.: “Deepfakes and domestic violence: perpetrating intimate partner abuse using video technology”, Victims & Offenders, 2022, vol. 17, núm. 5.
- Llorente Sánchez-Arjona, M.: “La inteligencia artificial como nueva estrategia de prevención en los delitos de violencia sexual”, en AA.VV.: Uso de la información y de los datos personales en los procesos: los cambios en la era digital (dir. por I. Colomer Hernández), Aranzadi, Cizur Menor, 2022.
- Lloria García, P.: Violencia sobre la mujer en el siglo XXI. Violencia de control y nuevas tecnologías: habitualidad, sexting y stalking, Iustel, Madrid, 2020.
- LO, M.: “A Domestic Violence Dystopia: Abuse via the Internet of Things and Remedies Under Current Law”, California Law Review, 2021, vol. 109.
- Lorente Acosta, M.: “Justicia, género y estereotipos”, en AA.VV.: Análisis de la Justicia desde la perspectiva de género, Tirant Lo Blanch, Valencia, 2018.
- Macchiavelli, N.: “La violencia de género y el uso de algoritmos como herramienta efectiva para la protección de los derechos fundamentales”, 2022, AFD, (XXXVIII).
- Macchiavelli, N.: “Perspectiva de género en las nuevas tecnologías. El problema de los sesgos”, Diario Suplemento Derecho y Tecnología, 2021, núm. 84.
- Magro Servet, v.: “La inteligencia artificial para mejorar la lucha contra la violencia de género”, en AA.VV.: Inteligencia artificial legal y Administración de Justicia (dir. por S. Calaza López y M. Llorente Sánchez-Arjona), Cizur Menor: Aranzadi, 2022.
- Marchena Gómez, M.: “Inteligencia artificial y jurisdicción penal”, Discurso con motivo de su ingreso como Académico de Número de la Real Academia de Doctores de España el 26 de octubre de 2022, separata de la Real Academia de Doctores de España, Madrid.
- Marcos Francisco, D.: “Sistema arbitral de consumo: algunas propuestas ‘inteligentes’ de lege ferenda”, InDret, 2024, núm. 1, pp. 114-150.
- Marks, P., “Bangladesh: Sex harassment app helps women map abuse”, NewScientist, mayo 2014.
- Martin, P., “España usará la IA y el ‘big data’ para proteger mejor a las víctimas del machismo”, Diario el Periódico, 23 de septiembre de 2023.
- Martínez García, E.; Borges Blázquez, R. y Simó Soler, E.: “Inteligencia artificial y perspectiva de género en la justicia penal”, Diario La Ley, Sección Ciberderecho, 20 de enero de 2021, núm 47.
- Mayson, S. G.: “Bias In, Bias Out”, Yale Law Journal, 2018, núm. 128, pp. 2218-2300.
- Miguel Freita, P.: “Deepfakes, conteúdo gerado por inteligência artificial e verdade processual”, en AA.VV.: El proceso penal ante una nueva realidad tecnológica europea (dir. por C. Arangüena Fanego, M. De Hoyos Sancho y E. Pillado González), Thomson Reuters Aranzadi, 2023.
- Miró Llinares, F.: “Inteligencia artificial y justicia penal: más allá de los resultados lesivos causados por robots”, Revista de Derecho Penal y Criminología, 2018, núm. 20.
- Navas Navarro, S.: “La perspectiva de género en la inteligencia artificial”, Diario La Ley, sección Ciberderecho, 8 de marzo de 2021, núm. 48.
- O’neil, C.: Armas de destrucción matemática, Capitán Swing, Madrid, 2017. Ortiz De Zárate, L. y Guevara gómez, A.: Inteligencia artificial e igualdad de género. Un análisis comparado entre la UE, Suecia y España, Fundación alternativas, 2021, núm. 101.
- Pfefferkorn, R.: «Deepfakes” in the Courtroom», BU Pub. Int. LJ, 2020, vol. 29.
- Rivas Vallejo, P.: “Sesgos de género en el uso de inteligencia artificial para la gestión de las relaciones laborales: análisis desde el derecho antidiscriminatorio”, e-Revista Internacional de la Protección Social(e-RIPS), 2022, vol. VII, núm. 1.
- Romeo Casabona, C. M.: “Riesgo, procedimientos actuariales basados en inteligencia artificial y medidas de seguridad”, Revista de Derecho, Empresa y Sociedad (REDS), julio-diciembre 2018, núm. 13.
- Sanchis Crespo, C., “Inteligencia artificial y decisiones judiciales: crónica de una transformación anunciada”, Scire: Representación y organización del conocimiento, 2023, vol. 29, núm. 2, pp. 65-84.
- Senden Xenidis, R. y Senden, L.: “EU non-discrimination law in the era of artificial intelligence: Mapping the challenges of algorithmic discrimination”, en AA.VV.: General Principles of EU law and the EU Digital Order (ed. por U. Bernitz et al.), Kluwer Law International, Países Bajos, 2020.
- Simó Soler, E.: “Retos jurídicos derivados de la Inteligencia Artificial Generativa Deepfakes y violencia contra las mujeres como supuesto de hecho”, InDret, febrero 2023, núm. 2, pp. 493- 515.
- Simó Soler, E., Estereotipos de género en procesos por violencia sexual, Tirant lo Blanch, Valencia, 2023.
- Simón Castellano, P., Justicia Cautelar e inteligencia artificial. La alternativa a los atávicos heurísticos judiciales, Bosch, Barcelona, 2021.
- Soriano Arnanz, A.: “Discriminación algorítmica: garantías y protección jurídica”, en AA.VV.: Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas (dir. por L. Cotino Hueso), Aranzadi, 2022, pp. 139-169.
- Soriano Arnanz, A.: “Creating non-discriminatory Artificial Intelligence systems: balancing the tensions between code granularity and the general nature of legal rules”, Revista de Internet, Derecho y Política, 2023, núm. 38.
- Soto Santana, M.: “Justice for Women: Deep fakes and Revenge Porn”, 3rd Global Conference on woman´s studies, 25-27 septiembre 2022.