Chicas del Pellegrini desnudadas con IA: los límites legales para castigar a los autores en medio del auge de las deepfakes

El ...

El caso de la Escuela Superior de Comercio Carlos Pellegrini y el Colegio Nacional de Buenos Aires, donde estudiantes difundían a través de un grupo de WhatsApp imágenes reales y manipuladas con inteligencia artificial de sus compañeras desnudas, volvió a poner el foco en las deepfakes.

Un reciente informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires que analiza experiencias de adolescentes con foco en la violencia digital y deepfakes identifica un fenómeno emergente. Si bien solo el 1% de la muestra (912 estudiantes de 12 a 19 años) reporta haber sido víctima directa, un 13% señala conocer casos en su entorno escolar. A la vez, el 43% afirma haber recibido imágenes o videos editados con IA.

En esa misma línea, desde la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (Ufedyci) de la ciudad afirman que ya hace tiempo que reciben denuncias sobre esta problemática en colegios. En 2023 ingresaron cuatro denuncias, en 2024 fueron cinco, en 2025 ascendieron a nueve y en lo que va de 2026 ya son cuatro las denuncias por difusión de imagenes creadas con IA en establecimientos educativos, según contestaron ante la consulta de LA NACION.

“La problemática está instalada y es internacional. Es constante el avance de la tecnología que colabora a que se puedan cometer delitos más fácilmente”, describió a LA NACION Daniela Dupuy, la fiscal a cardo de la Ufedyci. Expone, además, un desafío jurídico: cómo responder a delitos atravesados por tecnologías que evolucionan mucho más rápido que las leyes y que, en este caso, involucran a personas menores de edad.

Si bien la denominada Ley Olimpia reconoce a cualquier tipo de violencia contra las mujeres en entornos digitales e incorpora mecanismos para su prevención y penalización, el uso de IA para falsificar imágenes o videos pornográficos no está específicamente penalizado.

Cuando se trata de la difusión de imágenes que involucran a menores de edad, es decir, una creación parcial con inteligencia artificial con un cuerpo desnudo generado artificialmente, pero en la que la identidad de una adolescente puede reconocerse, Dupuy explica que ella considera que el delito de producción y distribución de material de explotación sexual de niñas, niños y adolescentes (art. 128 del Código Penal) existe.

Cuando se trata de creaciones totales con inteligencia artificial, sin embargo, no hay regulación. “Suelen estar mezcladas con imágenes reales y suelen ser utilizadas para convencer a niñitos de que es una conducta normal, ese es el riesgo. Esto luego se distribuye en redes de comercialización internacional”, advierte.

En el caso del Pellegrini, pese a que aún la investigación judicial debe determinarlo, los señalados como autores serían alumnos de esa institución y del Nacional Buenos Aires menores de edad, por lo que son inimputables. El nuevo régimen penal juvenil que baja la edad de imputabilidad a los 14 años, sancionado por el Congreso en febrero, comenzará a regir a nivel nacional en septiembre. Mientras tanto, Dupuy propone un abordaje integral que trabaje en la prevención y concientización del daño que se genera en los establecimientos involucrados, ambos dependientes de la Universidad de Buenos Aires (UBA).

“Creo que hay que trabajar mucho en una educación digital, que hoy no está abordada de manera profunda. El Estado tiene que tomar cartas en el asunto. Si yo le pongo una pena o una probation en suspenso, un chico de 18 años se va a su casa sin entender el fondo del problema y sigue cometiendo el delito. Por eso, hay que focalizarse en políticas de prevención y concientización. ¿Cuáles son los efectos cuando un chico de 15 años desnuda en un segundo, literalmente, a sus compañeras?”, marcó.

En ese sentido, según adelantó, el Ministerio Público Fiscal de la ciudad –a cargo de Javier Martínn López Zavaleta– junto con el Ministerio Público Tutelar –encabezado por Carolina Stanley– y los ministerios de Justicia y de Educación porteños están trabajando para articular políticas para chicos.

Desde la cartera educativa, no especificaron un protocolo a raíz de este caso. Indicaron que en mayo pasado se conformó el Consejo Asesor en Protección Digital Infantil y Adolescente, un grupo de especialistas convocados para fortalecer las políticas de cuidado digital en las escuelas. Además, cuentan con un protocolo ante situaciones de violencia que incluye escucha activa, intervención pedagógica, aviso a las autoridades y trabajo con las familias.

En los colegios preuniversitarios de la UBA, se aplicaron los de esa casa de estudios superiores, que prevé que un equipo interdisciplinario debe recomendar los cursos de acción tras conocer la situación de violencia. Indica también que deben capacitar a docentes, autoridades y no docentes además de promover acciones de sensibilización y difusión.

A la vez, Dupuy señala que se requiere mayor legislación. “Necesitamos que los legisladores adapten la legislación al avance de las nuevas tecnologías”, dijo.

Entre otros proyectos, está el conocido como Ley Ema, para crear el Programa Nacional de Prevención y Abordaje Integral de la Violencia Digital en Ámbitos Educativos. Lo impulsan diversas organizaciones y la familia de Ema Bondaruk, una adolescente de 15 años de Longchamps que se quitó la vida 24 horas después de la viralización y difusión no consentida de imágenes íntimas en su colegio. La iniciativa incluye la Guía Ema, una herramienta para abordar la difusión no consentida de material íntimo en escuelas.

La accesibilidad a las herramientas de generación de contenido amplió la capacidad de ejercer violencia y las más afectadas, una vez, son las mujeres. El 98% de los videos deepfake en internet son de carácter pornográfico y el 99% de las víctimas son mujeres, según un informe de la Universidad de Zúrich. Un claro ejemplo fue la tendencia que se viralizó a principios de año: los usuarios subían una foto real de una mujer vestida y le pedían el chatbot Grok, la herramienta de inteligencia artificial de la red X, que la “desnudara”.

Según un relevamiento de Bloomberg, llegó a generar hasta 6700 imágenes por hora. Las usuarias que lo reportaron no tuvieron respuesta y Elon Musk finalmente contestó publicamente con una foto suya en bikini. Recién después de que la fiscalía de California iniciara una investigación, la empresa dijo que bloquearía esta opción para los usuarios en aquellas jurisdicciones donde esas acciones se consideren ilegales.

La difusión no consentida de imágenes íntimas de adultos

“Las mujeres somos quienes estamos desproporcionadamente más expuestas a ser víctimas de la difusión no consentida de imágenes íntimas. En Estados Unidos se llevaron a cabo investigaciones que indican que más del 90% de las víctimas de esta conducta son mujeres. Relevaron que en la mayoría de estos casos la difusión fue acompañada de insultos o manifestaciones estereotipadas en cuanto al género y el acto sexual. Este punto me parece central para la caracterización de la difusión no consentida de imágenes como una manifestación de la violencia de género”, señaló a LA NACION Genoveva Cardinali, fiscal especializada en violencia de género del Ministerio Público Fiscal porteño.

Explicó también cómo se da una doble victimización y vulneración de derechos. “La primera, evidente, al derecho a la privacidad, a la intimidad, a que una práctica que fue consensuada para ser desarrollada en un espacio privado ahora circule masivamente por la web. Pero además las mujeres estamos expuestas a una segunda forma de violencia que se da a partir de las agresiones que recibimos, los juicios, las opiniones y los comentarios, basados en estereotipos de cómo se espera que nos comportemos en nuestras casas y en nuestras habitaciones”, apuntó.

La iniciativa de Ley Olimpia incorpora la violencia digital como otra forma de violencia contra las mujeres. “Establece que se respete la dignidad, reputación e identidad de las mujeres en los espacios digitales, y permite mayor difusión de lo que no se puede hacer. Pero no incluye una tipificación penal que permita perseguir algunas de estas conductas como delitos. En la ciudad, hoy la difusión es una contravención que tiene un reproche penal mucho menor que la amenaza o coacción de difundir las imágenes íntimas (sextorsion), que sí es un delito. Tuvimos casos en los que pudimos impedir la difusión. Hay un proyecto de ley que busca tipificar esta conducta como delito, la llamada Ley Belén, está trabada en la Comisión de Legislación Penal de la Cámara de Diputados”, ahondó Cardinali.

La norma lleva ese nombre en homenaje a Belén San Román, una mujer policía de la ciudad bonaerense de Bragado que se quitó la vida el 30 de noviembre de 2020 porque un preso la extorsionó con la difusión de videos íntimos, ante lo que Asuntos Internos de la Policía Bonaerense reaccionó con una investigación como responsable.