Cada vez son más frecuentes las denuncias por manipulación de fotos con Inteligencia Artificial (IA) con menores o bien en colegios, entre compañeros (como fue el caso de un chico de 18 años en Córdoba que fue imputado por hacerlo con sus compañeras y compartirlas en sitios pornográficos). Este sería el primer caso conocido de una imputación de este tipo frente al vacío legal existente frente al mal uso de las IA.

Ante este vacío legal que vengo señalando, el fiscal sugirió la imputación de lesiones graves por violencia de género. A pesar de eso el fiscal Tagle reconoció que “la ley penal debe necesariamente actualizarse generando nuevos tipos penales específicos contra la IA”. Al chico imputado se le allanó la casa donde se le secuestraron la computadora y el celular para hacer las pericias para comprobar los hechos. Finalmente, la clave para dar con el responsable fue la IP (dirección de internet asignada a un usuario) para su identificación.

Aquí es importante analizar el encuadre legal de este caso que amplía el concepto de lesiones frente a la actuación de estas conductas, que tienen la intención de dañar la imagen y prestigio de las personas causando un daño psíquico.

Este caso llama la atención por la imputación de un delito con lesiones graves en las que enmarcó el fiscal, pero el acoso digital utilizando IA en la manipulación de imágenes y voz ya está sucediendo hace meses, por más que no se den a conocer masivamente. Además, el caso tomó notoriedad por las imágenes sexuales, pero la alteración por IA con la intención de destruir el prestigio de personas, marcas o empresas ya está en marcha hace tiempo, por eso la urgencia de una legislación acorde que ponga límites claros a estas conductas.

Es clave impulsar activamente una regulación clara y transparente de la IA que no impida la fuerza de su capacidad innovadora, pero que contenga sus riesgos. Para eso podemos basarnos en las normas ya existentes en el mundo, como la SB1047 de California y en el reglamento de la UE 2024/1689 formulado este año, más concretamente el 23 de junio. La subsecretaría de Tecnologías de la información de Argentina también emitió un conjunto de recomendaciones en 2023 que debería actualizarse y hacerse más exhaustivo, ya que constituye una excelente base para comenzar.

Solamente hay que estar atentos a los nuevos desarrollos y regulaciones a nivel mundial que señalan el camino. No son necesarias teorías paranoicas o ingenuas respecto a las dificultades que nos trae esta nueva realidad, sólo hay que ponerle cabeza y trabajo para avanzar en un desarrollo tecnológico que brinde mejores herramientas de mayor productividad, y al mismo tiempo garanticen los derechos.

Por otro lado, en Argentina existe un nuevo código penal que aún no está vigente que propone de tres a seis años de prisión por la alteración digital de imágenes sexuales con agravantes que incluyan violencia de género o menores. El proyecto que incluye a la IA en las tipificaciones del Código Penal será elevado al Congreso de la Nación próximamente. Esperemos que se pueda debatir, y que ponga eje en el debate mayor de regulación en el mal uso de la IA.