La magistrada Berta Pellicer, del Juzgado Mercantil 3 de Barcelona, ha puesto en alerta sobre el uso potencialmente problemático de los 'deepfakes' en los tribunales. En una conferencia reciente en el VI Congreso de Prueba Judicial, enfatizó que los contenidos creados por inteligencia artificial podrían convertirse en herramientas de manipulación asistidas por tecnología en los procedimientos legales.

Durante su intervención, Pellicer abordó las implicaciones legales de aceptar estos contenidos como pruebas en casos civiles. Destacó la preocupante facilidad con la que la tecnología actual permite a los usuarios crear audio y video falsificados extremadamente realistas, llevando al espectador a creer en su autenticidad.

Un reto adicional en la detección de estas falsificaciones es la evolución de las herramientas utilizadas para crearlas, que están perfeccionándose de manera rápida. Según la opinión de los expertos, dentro de una década podría resultar prácticamente imposible discernir entre material auténtico y deepfakes, lo que plantea serias dudas sobre la validez de la evidencia digital en el futuro.

Pellicer subrayó la necesidad de evaluar los deepfakes en el contexto de la evidencia existente, sugiriendo que se debe corroborar su autenticidad a través de otros elementos probatorios. Esto incluye la verificación con testimonios que puedan confirmar al hablante en otros lugares, y el análisis de imágenes o geolocalizaciones pertinentes que contextualicen el material presentado.

La magistrada también mencionó el trabajo de los peritos informáticos forenses en la validación de estos archivos, quienes emplean técnicas que, aunque prometedoras con tasas de fiabilidad entre el 85 % y el 90 %, aún dejan un margen del 10 % al 15 % de incertidumbre. Esta fluctuación implica que en algunos casos, simplemente no se puede determinar si un video es real o falso.

A pesar de que estas técnicas aún están en desarrollo, Pellicer exhortó a los jueces a no descartarlas, aunque reconoció que sus costos elevados pueden generar desigualdades entre las partes implicadas en los litigios. También hizo un llamado a que las evidencias sean presentadas de manera clara para facilitar la comprensión del juez, sugiriendo que la formación en este ámbito es crucial para el futuro de los procesos judiciales.

Por otra parte, el catedrático Joan Picó i Junoy, que participó en el congreso, también abordó el tema del valor legal de los símbolos digitales como emoticonos y memes. Afirmó que estos pueden ser considerados como elementos probatorios válidos dentro de un juicio, pero advirtió que no deben valorarse de manera aislada, ya que por sí mismos no son suficientes para corroborar un hecho no probado.

Picó i Junoy mencionó que la naturaleza estática de los símbolos digitales y su susceptible manipulación limitan su valor probatorio, lo que lleva a que generalmente los tribunales opten por evaluarlos en conjunto con otras evidencias disponibles. A pesar de estas limitaciones, concluyó que su inclusión en los procesos judiciales podría ser útil, aunque su impacto sea moderado.