Límites legales y consecuencias de crear imágenes falsas con Inteligencia Artificial
25 Septiembre 2023
Desde Legálitas analizamos si crear imágenes falsas con ayuda de la Inteligencia Artificial es un delito, si hay consecuencias para los autores y la relación que existe en nuestro país sobre la IA.
Crear imágenes falsas con IA, pero de personas reales: ¿es un delito?
En función de las circunstancias que concurran y del bien jurídico lesionado con esos actos, podremos estar ante: un delito de injurias de los artículos 208 y siguientes del Código Penal si con esa imagen se lesiona de forma grave el derecho al honor de una persona o, por otro lado, ante un delito contra la intimidad regulado en los artículos 197 y siguientes del Código Penal cuando la finalidad perseguida por el autor sea la vulneración del derecho a la intimidad ajena.
Además, si la víctima es menor de edad, estaremos ante un delito de pornografía infantil, castigada en el artículo 189 del Código Penal.
Se considera pornografía infantil:
- Todo material que represente de manera visual a un menor participando en una conducta sexualmente explícita, real o simulada, la representación de los órganos sexuales de un menor.
- Todo material que represente de forma visual a una persona que parezca ser un menor participando en una conducta sexualmente explícita, real o simulada o cualquier representación de los órganos sexuales de una persona que parezca ser un menor, con fines principalmente sexuales, salvo que la víctima que parezca ser un menor resulte tener en realidad dieciocho años o más en el momento de obtenerse las imágenes.
- También las imágenes realistas de un menor participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, con fines principalmente sexuales. si la víctima es menor de edad y esa imagen falsa representa de forma realista a un menor.
Se castiga la mera tenencia de material pornográfico infantil, aunque se adquiera para el propio uso y a quién a sabiendas acceda a la pornografía infantil por medio de las tecnologías de la información y la comunicación.
Chat GPT: plagios, derecho de autor y propiedad intelectual.
¿Qué consecuencias tienen los autores tras la denuncia de las víctimas?
El artículo 197 del Código Penal castiga con penas de prisión de uno a cuatro años y multa de 12 a 24 meses al que para vulnerar la intimidad de otro utilice artificios técnicos de escucha, transmisión, grabación o reproducción del sonido o de la imagen, o cualquier otra señal de comunicación.
Se castiga con prisión de 2 a 5 años a quienes difundan las imágenes captadas.
Estas penas se impondrán en su mitad superior en su mitad superior cuando la víctima fuera menor de edad.
Será el propio juzgador quien, valorando las circunstancias concurrentes, considere si realmente estamos ante un delito contra la intimidad y el derecho a la propia imagen, en función de cómo se hayan obtenido las fotos auténticas posteriormente manipuladas con la IA.
Una vez manipuladas esas fotos originales, si el resultado final son imágenes realistas de menores participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, si concurre el requisito de actuar el culpable con fines principalmente sexuales, estaremos ante un delito de pornografía infantil que se castiga en el artículo 189.2 del Código Penal con prisión de cinco a nueve años, cuando se utilice a menores de 16 años, cuando los hechos revistan un carácter particularmente degradante o vejatorio y cuando el culpable pertenezca a una organización, incluso de carácter transitorio, que se dedique a realizar estas actividades. Por lo tanto, las penas a imponer tienen el carácter de graves o menos graves en función de las circunstancias.
Por último, podremos estar también ante un delito de organización criminal que ya contempla como subtipo agravado el delito de pornografía infantil del artículo 189 .2.f) del Código Penal, castigándose los hechos en este caso con prisión de 5 a 9 años si el culpable pertenece a una organización criminal.
Se entiende por organización criminal la agrupación formada por más de dos personas con carácter estable o por tiempo indefinido, que de manera concertada y coordinada se repartan diversas tareas o funciones con el fin de cometer delitos.
¿Y si los autores son menores de edad?
Los menores que no alcancen la edad de 14 años son inimputables penalmente hablando y las víctimas en este caso pueden reclamar daños y perjuicios en vía civil a los padres de los autores.
Para los menores que tengan entre 14 y 17 años, se les aplicará la Ley Orgánica de Represión Penal del Menor y las víctimas podrán denunciar los hechos ante las Fuerzas y Cuerpos de Seguridad del Estado, o en Fiscalía de Menores, que se va a encargar de investigar los hechos que luego juzgará el Juez de Menores.
A los menores no se les imponen penas, sino medidas de corrección, que se acuerdan siempre tratando de corregir esa conducta ilícita del menor y en su propio beneficio. Estas medidas pueden ir desde una amonestación para casos leves, hasta el sometimiento a una terapia, jornadas de trabajos en beneficio para la comunidad, el ingreso en un centro semi abierto o incluso en un centro cerrado para los casos más graves.
Los menores responden penalmente y los padres civilmente por los daños morales causados a las víctimas.
¿Qué hacer si eres victima de un delito así?
La víctima debe recabar todas las pruebas necesarias para acreditar los hechos y la culpabilidad del autor e interponer la correspondiente denuncia ante las Fuerzas y Cuerpos de Seguridad del Estado, ante el juzgado de instrucción de guardia del lugar de los hechos, con todas las pruebas que podamos conseguir.
Además, los jueces pueden acordar la adopción de las medidas cautelares necesarias para la retirada de las web o aplicaciones de internet que contengan o difundan pornografía infantil o bloquear el acceso a las mismas a los usuarios de internet que se encuentren en territorio español.
Consecuencia de la exposición de los menores en las redes sociales.
¿Existe regulación del uso de la IA en nuestro país?
En nuestro país no existe una regulación detallada del uso de la IA. A nivel europeo, está en vías de desarrollo la creación de un Reglamento Europeo que regule el buen uso de la IA. Aunque, el Parlamento Europeo ha aprobado por mayoría la “AI Act”, que tiene regular el uso de la IA.
En España tan sólo tenemos la Ley 7/2021 de 20 de mayo de cambio climático y transición energética, que en su artículo 6 alude a que el Gobierno adoptará acciones de impulso a la digitalización de la economía, en el marco de la estrategia España Digital 2025.
La Ley 12/2021 de 28 de septiembre que modificó el Estatuto de los Trabajadores, en el art. 64.4 establece el derecho del comité de empresa a ser informado por la empresa de las reglas en las que se basan los sistemas de IA que afecten a la toma de decisiones que puedan incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles.
La Ley 22/2021 de 28 de diciembre de Presupuestos Generales del Estado para 2022, autoriza al Gobierno a impulsar una ley para crear la Agencia Española de Supervisión de IA en España.
El artículo 23 de la Ley 15/2022, de 12 de julio, ley integral para la igualdad de trato y la no discriminación, que viene a regular el uso de la inteligencia artificial por las administraciones públicas y las empresas en España.
¿Para qué es legal usar la IA y para qué no?
Como prácticas permitidas tendríamos el acceso a toda la información académica y puede resultar un instrumento de suma utilidad para impulsar la innovación y crecimiento económico, social, inclusivo y sostenible, convirtiendo a España en un referente en la transformación hacia una Economía del Dato.
Entre las prácticas prohibidas estarían todas las que pudieran ser constitutivas de delito o invasivas de cualquier derecho fundamental, como la creación de bases de datos de reconocimiento facial basada en la recopilación de imágenes en internet, el software de reconocimiento de emociones, la identificación biométrica remota.
Los menores y las redes sociales: ¿A qué delitos se enfrentan?
Referencia legal:
Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal.
