Crece la preocupación por deepfakes en la Justicia argentina. Díaz y Barona advierten sobre pruebas falsas, vacíos legales y la urgencia de sistemas de validación
El avance de los deepfakes —contenidos audiovisuales generados o alterados mediante inteligencia artificial— plantea uno de los mayores desafíos actuales para el sistema judicial en Argentina. La posibilidad de introducir pruebas falsas con apariencia real abre un escenario complejo en materia de garantías procesales.
Durante el programa Arriba la Radio por Radio Up, el ministro del Superior Tribunal de Justicia de Misiones, Juan Manuel Díaz, reconoció que el marco legal argentino todavía no está preparado para enfrentar este fenómeno. “Hoy por hoy todavía contamos con importantes brechas legales”.
El problema no es solo tecnológico, sino normativo. Según explicó, el Código Penal no contempla de manera específica ciertas conductas vinculadas al uso de inteligencia artificial. “Nuestro Código Penal no contempla la utilización de imágenes mediante inteligencia artificial en determinados casos”.
Pruebas bajo sospecha: el desafío de la autenticidad también en Argentina
La principal dificultad radica en determinar si una evidencia es genuina o fue manipulada. “El deepfake plantea un desafío a la hora de poder establecer qué es prueba válida y qué no”.
En un proceso judicial, esta incertidumbre puede afectar derechos fundamentales como la defensa y la contradicción de la prueba.
Barona: “Es mucho más complicado el tema del fake como prueba”
Desde una perspectiva internacional, Silvia Barona advirtió que el problema ya es concreto y complejo. “Es mucho más complicado el tema del fake como valor probatorio en el proceso”.
La especialista explicó que la inteligencia artificial permite generar contenido falso con alto nivel de credibilidad. “Al final es una prueba falsa creada”.
Cuando la tecnología invierte la lógica del proceso
Uno de los escenarios más preocupantes es la dificultad para refutar una prueba manipulada. Barona describió una situación que ya comienza a observarse: “Puede ocurrir que alguien diga que el video no es suyo y que sea la otra parte la que tenga que demostrarlo”.
Este tipo de situaciones altera principios básicos del derecho, donde la carga de la prueba y la posibilidad de contradicción son pilares del proceso. Frente a este escenario, la especialista propuso avanzar en nuevas herramientas institucionales. “Deberíamos tener organismos para generar veracidad”.
La idea apunta a contar con sistemas capaces de certificar si un contenido fue producido o alterado mediante inteligencia artificial.
Tecnología, costos y control de datos
Más allá del aspecto legal, el desafío también es técnico y económico. Díaz señaló que la clave está en la infraestructura. “El punto crítico es la tecnología, la seguridad y la trazabilidad”.
En ese sentido, explicó que el Poder Judicial de Misiones ya trabaja en desarrollos propios, aunque no descarta otras alternativas. “Hay dos caminos: el desarrollo interno o la contratación de empresas”. Cada modelo implica distintos niveles de control sobre los datos y los sistemas utilizados.
Interoperabilidad y financiamiento: la experiencia europea
Barona aportó la experiencia europea, donde el proceso de digitalización estuvo acompañado por financiamiento público. “El coste gordo es la infraestructura digital y la interoperabilidad”.
La especialista explicó que el verdadero desafío no es solo incorporar tecnología, sino conectar todos los sistemas involucrados en el proceso judicial. Además, destacó el rol de la Unión Europea en ese proceso: “Se otorgó mucha financiación para la digitalización”.
Un sistema frente a un cambio inevitable
El consenso entre los especialistas es claro: los deepfakes ya forman parte del escenario judicial y su impacto crecerá en los próximos años. La combinación de tecnología avanzada, vacíos legales y falta de herramientas de validación coloca al sistema judicial ante un desafío urgente.
En ese contexto, el debate ya no es si estos casos llegarán a los tribunales, sino cuándo y con qué herramientas estarán preparados para resolverlos
Fuente: Radio Up.
