1. Introducción

La tecnología avanza a pasos agigantados, y con ella, nos vienen nuevas realidades muchas veces recogidas en primer lugar por los medios de comunicación a los que es necesario dar una respuesta desde la ley y desde la ética. Uno de los temas más actuales e inquietantes es la pornografía infantil generada por inteligencia artificial. En este artículo, exploraremos cómo se está utilizando la IA para crear contenidos sexuales de menores y qué dice la ley al respecto.

2. La Alarmante Realidad de la Pornografía Infantil Generada por Inteligencia Artificial.

El 18 de septiembre de 2023, varias madres de un instituto de Almendralejo (Badajoz) denunciaron un delito continuado de pornografía infantil generada por inteligencia artificial al difundirse desnudos de sus hijas menores de edad creados a través de herramientas de inteligencia artificial (IA).

Estos contenidos no solo vulneran el derecho al honor o a la imagen personal, sino que en el caso de menores, pueden considerarse un delito de pornografía infantil, independientemente de que no sean imágenes reales y hayan sido generadas con esta tecnología.

Desde ya te comentamos que la pornografía infantil generada por inteligencia artificial se castiga del mismo modo a que si se tratara de imágenes de personas reales.

3. La Ley y la IA en la Creación de Material Sexual de Menores.

La legislación española no regula específicamente el uso de una tecnología en concreto, como la Inteligencia artificial (o «IA» o también llamada «AI»), sino que se centra en el daño causado a la persona. Si alguien utiliza nuestra imagen sin consentimiento para crear contenido sexual, se considera una intromisión ilegítima en el derecho a la imagen.

Además, si se utiliza nuestra imagen para fines sexuales, se podría considerar una intromisión ilegítima en el derecho al honor y estaríamos ante un delito de pornografía infantil generada por inteligencia artificial

4. Derechos Afectados: Imagen, Honor e Intimidad.

Cuando alguien utiliza nuestra imagen sin consentimiento para crear contenido sexual, se vulneran nuestros derechos a la imagen, honor e intimidad. La legislación defiende a las víctimas, independientemente de la tecnología utilizada.

Nos encontramos, sin duda, ante un delito de pornografía infantil generada por inteligencia artificial incluso aunque las imágenes sean ficticias (y también en el caso de que sean reales).

5. Delitos y Penas Asociados a la Pornografía Infantil

La pornografía infantil generada por inteligencia artificial se encuentra regulada en el artículo 189 del Código Penal. El artículo de la ley que habla de ello, que a continuación te detallo, establece penas de prisión de uno a cinco años por la producción, distribución o difusión de pornografía infantil, sin importar si es creada por IA o por otros medios. Es decir, la pornografía infantil generada por inteligencia artificial tiene los mismos castigos que si es creada de cualquier otra forma.

A continuación te detallo el artículo y te pongo en negrita lo que más nos importan a estos efectos sobre pornografía infantil generada por inteligencia artificial (por si no te quieres leer mucho más del resto):

Pornografía infantil generada por Inteligencia Artificial. PenalTech analiza este fenómeno en los medios de comunicación

Artículo 189.
1. Será castigado con la pena de prisión de uno a cinco años:

a) El que captare o utilizare a menores de edad o a personas con discapacidad necesitadas de especial protección con fines o en espectáculos exhibicionistas o pornográficos, tanto públicos como privados, o para elaborar cualquier clase de material pornográfico, cualquiera que sea su soporte, o financiare cualquiera de estas actividades o se lucrare con ellas.

b) El que produjere, vendiere, distribuyere, exhibiere, ofreciere o facilitare la producción, venta, difusión o exhibición por cualquier medio de pornografía infantil o en cuya elaboración hayan sido utilizadas personas con discapacidad necesitadas de especial protección, o lo poseyere para estos fines, aunque el material tuviere su origen en el extranjero o fuere desconocido.

A los efectos de este Título se considera pornografía infantil o en cuya elaboración hayan sido utilizadas personas con discapacidad necesitadas de especial protección:

a) Todo material que represente de manera visual a un menor o una persona con discapacidad necesitada de especial protección participando en una conducta sexualmente explícita, real o simulada.

b) Toda representación de los órganos sexuales de un menor o persona con discapacidad necesitada de especial protección con fines principalmente sexuales.

c) Todo material que represente de forma visual a una persona que parezca ser un menor participando en una conducta sexualmente explícita, real o simulada, o cualquier representación de los órganos sexuales de una persona que parezca ser un menor, con fines principalmente sexuales, salvo que la persona que parezca ser un menor resulte tener en realidad dieciocho años o más en el momento de obtenerse las imágenes.

d) Imágenes realistas de un menor participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, con fines principalmente sexuales.

2. Serán castigados con la pena de prisión de cinco a nueve años los que realicen los actos previstos en el apartado 1 de este artículo cuando concurra alguna de las circunstancias siguientes:

a) Cuando se utilice a menores de dieciséis años.

b) Cuando los hechos revistan un carácter particularmente degradante o vejatorio, se emplee violencia física o sexual para la obtención del material pornográfico o se representen escenas de violencia física o sexual.

c) Cuando se utilice a personas menores de edad que se hallen en una situación de especial vulnerabilidad por razón de enfermedad, discapacidad o por cualquier otra circunstancia.

d) Cuando el culpable hubiere puesto en peligro, de forma dolosa o por imprudencia grave, la vida o salud de la víctima.

e) Cuando el material pornográfico fuera de notoria importancia.

f) Cuando el culpable perteneciere a una organización o asociación, incluso de carácter transitorio, que se dedicare a la realización de tales actividades.

g) Cuando el responsable sea ascendiente, tutor, curador, guardador, maestro o cualquier otra persona encargada, de hecho, aunque fuera provisionalmente, o de derecho, de la persona menor de edad o persona con discapacidad necesitada de especial protección, o se trate de cualquier persona que conviva con él o de otra persona que haya actuado abusando de su posición reconocida de confianza o autoridad.

h) Cuando concurra la agravante de reincidencia.

3. Si los hechos a que se refiere la letra a) del párrafo primero del apartado 1 se hubieran cometido con violencia o intimidación se impondrá la pena superior en grado a las previstas en los apartados anteriores.

4. El que asistiere a sabiendas a espectáculos exhibicionistas o pornográficos en los que participen menores de edad o personas con discapacidad necesitadas de especial protección, será castigado con la pena de seis meses a dos años de prisión.

5. El que para su propio uso adquiera o posea pornografía infantil o en cuya elaboración se hubieran utilizado personas con discapacidad necesitadas de especial protección, será castigado con la pena de tres meses a un año de prisión o con multa de seis meses a dos años.

La misma pena se impondrá a quien acceda a sabiendas a pornografía infantil o en cuya elaboración se hubieran utilizado personas con discapacidad necesitadas de especial protección, por medio de las tecnologías de la información y la comunicación.

6. El que tuviere bajo su potestad, tutela, guarda o acogimiento a un menor de edad o una persona con discapacidad necesitada de especial protección y que, con conocimiento de su estado de prostitución o corrupción, no haga lo posible para impedir su continuación en tal estado, o no acuda a la autoridad competente para el mismo fin si carece de medios para la custodia del menor o persona con discapacidad necesitada de especial protección, será castigado con la pena de prisión de tres a seis meses o multa de seis a doce meses.

7. El Ministerio Fiscal promoverá las acciones pertinentes con objeto de privar de la patria potestad, tutela, guarda o acogimiento familiar, en su caso, a la persona que incurra en alguna de las conductas descritas en el apartado anterior.

8. Los jueces y tribunales ordenarán la adopción de las medidas necesarias para la retirada de las páginas web o aplicaciones de internet que contengan o difundan pornografía infantil o en cuya elaboración se hubieran utilizado personas con discapacidad necesitadas de especial protección o, en su caso, para bloquear el acceso a las mismas a los usuarios de Internet que se encuentren en territorio español.

Estas medidas podrán ser acordadas con carácter cautelar a petición del Ministerio Fiscal.

6. Normativa Europea y Regulación Internacional.

En el ámbito europeo, existen normativas que castigan la creación de imágenes realistas de menores, incluyendo las imágenes de pornografía infantil generadas por inteligencia artificial.

La regulación internacional intenta ir a la misma velocidad que los avances tecnológicos (aunque no siempre lo consigue…), lo que teóricamente ofrece soluciones legales para castigar estos comportamientos.

Esto es así pero tienes que saber que en muchas ocasiones este tipo de contenidos provienen de países donde no existe un convenio de cooperación internacional, como el Convenio de Budapest para Europa u otros. En estos casos en los que el origen del material relacionado con pornografía infantil generada por inteligencia artificial es muy difícil que se pueda identificar y culpar a una persona en particular.

7. Casos Recientes en España.

En España, ya se han registrado casos de pornografía infantil generada por inteligencia artificial por lo que este asunto de Almendralejo no es el primero. Esto incluye la difusión de imágenes de menores creadas de forma artificial, absolutamente inventado, lo que aumenta la gravedad de los delitos y puede ser considerado un delito de pornografía infantil.

8. Acciones Legales y Protección de Víctimas

Las víctimas de contenidos relacionados con pornografía infantil generada por inteligencia artificial pueden tomar medidas legales para protegerse. Es importante acudir a la Agencia Española de Protección de Datos para solicitar la retirada de estas imágenes y denunciar ante la Policía. Además, se pueden ejercer otros derechos legales para combatir esta práctica.

La denuncia ante la policía podría dar lugar a un procedimiento judicial en el que el juez acordara, por ejemplo, la retirada de las imágenes de pornografía infantil generadas por inteligencia artificial de una página web de contenido sexual.

9. Medidas para Combatir la Difusión de Material Sexual No Consentido.

En caso de que se difundan imágenes íntimas (reales o no), es fundamental tomar medidas aunque la realidad es que si las imágenes de pornografía infantil generada por inteligencia artificial no son de nadie en particular pueden pasar desapercibidas y no denunciarse.

Es importante no borrar ninguna prueba, recopilar cualquier evidencia que tengas y bloquear a los posibles autores en redes sociales. Estos pasos son importantes para tu defensa, tanto si eres víctima, como si estás siendo acusado del delito y no tienes nada que ver con el tema (incluso en el supuesto en que seas el autor es importante saber lo que hay en tu contra).

Recuerda que también existe una cosa llamada el derecho al olvido y denunciar ante las autoridades (la policía o el juzgado).

10. Conclusión

La pornografía infantil generada por inteligencia artificial es un tema alarmante que necesita de una respuesta legal y social.

Con situaciones como esta, ha quedado demostrado que la tecnología se puede usar muy fácilmente para cometer delitos y vulnerar los derechos de las personas, especialmente de los menores. Conocer la ley y las medidas de protección es fundamental para combatir esta problemática.