El debate sobre la regulación de la inteligencia artificial gana fuerza con nuevas normas internacionales
El avance de la inteligencia artificial (IA) ha abierto un debate global sobre la necesidad de establecer marcos regulatorios que permitan controlar su uso, reducir riesgos legales y definir responsabilidades para quienes desarrollan o implementan estos sistemas. A medida que la tecnología se expande hacia sectores cada vez más relevantes, desde la medicina hasta la administración de justicia, distintos organismos internacionales y gobiernos trabajan en la construcción de normas y principios que orienten su implementación.
El fenómeno ya muestra impactos concretos. En los últimos meses se han registrado sanciones a abogados litigantes que citaron jurisprudencia inexistente en escritos judiciales generados con ayuda de herramientas de IA. Este tipo de situaciones refleja algunos de los riesgos asociados con el uso incorrecto o poco controlado de estos sistemas, lo que ha intensificado la discusión sobre cómo regularlos.
La cuestión central radica en cómo garantizar responsabilidades cuando los sistemas tecnológicos fallan o generan resultados erróneos. En muchos casos, los proveedores de estas tecnologías operan en entornos digitales globales, lo que complica la posibilidad de presentar reclamos o exigir respuestas frente a posibles perjuicios.
Un desafío jurídico en expansión
La inteligencia artificial está transformando numerosos ámbitos de actividad, incluyendo diagnósticos médicos, análisis de datos y modelos predictivos aplicados a sistemas judiciales. Esta evolución tecnológica ha mejorado múltiples procesos, pero también ha generado nuevos desafíos éticos, sociales y legales.
En el Derecho Internacional, este fenómeno impulsa el debate sobre la necesidad de cooperación entre estados y organismos multilaterales. A medida que los sistemas de IA adquieren mayor autonomía y capacidad de adaptación, surge la necesidad de establecer principios que garanticen que su uso sea ético, seguro y responsable, sin frenar el desarrollo tecnológico.
Además, la experiencia demuestra que las innovaciones tecnológicas suelen avanzar más rápido que las regulaciones. Esto implica que las herramientas digitales también pueden ser utilizadas para cometer delitos, lo que refuerza la necesidad de contar con marcos normativos adecuados.
Un antecedente relevante en materia de delitos digitales es la Convención de Cibercrimen de Budapest de 2001. Este instrumento internacional estableció bases para la cooperación entre estados en la investigación de delitos informáticos. En la actualidad, Naciones Unidas debate una convención complementaria que amplíe las herramientas para abordar el uso de tecnologías de la información con fines criminales.
Dentro de ese proceso, mediante la Decisión 78/549 de Naciones Unidas se creó un comité ad hoc para debatir un tratado multilateral enfocado en el uso criminal de tecnologías digitales. El objetivo es avanzar hacia una cooperación internacional más efectiva para la investigación y producción de pruebas judiciales en casos de delitos transnacionales.
Principios y recomendaciones de organismos internacionales
La importancia de regular el desarrollo y uso de la inteligencia artificial ha impulsado a diversas organizaciones internacionales a proponer lineamientos y principios orientadores.
OCDE
La Organización para la Cooperación y el Desarrollo Económico (OCDE) cuenta con un Consejo sobre Inteligencia Artificial que ha elaborado recomendaciones firmadas por 42 países, entre ellos la República Argentina. Estas recomendaciones promueven la responsabilidad y la transparencia tanto en el desarrollo como en la utilización de las tecnologías de IA, además de fomentar el impulso estatal a la investigación y la cooperación internacional.
El organismo definió la inteligencia artificial como sistemas basados en máquinas capaces de generar resultados como predicciones o decisiones que influyen en entornos reales o virtuales. Entre sus principios rectores se destacan:
- El crecimiento inclusivo y el desarrollo sostenible.
- La transparencia y la explicabilidad de los sistemas.
- La seguridad y robustez durante todo su ciclo de vida.
- La responsabilidad de desarrolladores y usuarios frente al impacto de estos sistemas.
Organización de las Naciones Unidas
Las Naciones Unidas también han avanzado en el análisis del impacto de la inteligencia artificial. La Resolución A/RES/78/265, aprobada en 2024, enfatiza la necesidad de promover sistemas de IA centrados en las personas, con enfoque ético y respetuosos de los derechos humanos.
Entre los aspectos destacados por la resolución se encuentran la integración de la inteligencia artificial dentro de la Agenda 2030 para el Desarrollo Sostenible, la reducción de la brecha digital entre países y el impulso a la cooperación internacional para la transferencia de tecnología y el fortalecimiento de capacidades en países en desarrollo.
No obstante, estas resoluciones y recomendaciones se centran principalmente en establecer definiciones y principios orientativos, dejando a los estados la tarea de desarrollar regulaciones más específicas.
El enfoque regulatorio de la Unión Europea
Entre las iniciativas existentes, la regulación desarrollada por la Unión Europea aparece como la más avanzada. El Reglamento UE-2024/1689 establece un marco integral para el desarrollo, implementación y supervisión de sistemas de inteligencia artificial.
La normativa incluye definiciones detalladas sobre qué se considera un sistema de IA y aborda conceptos específicos como los sistemas de identificación biométrica a distancia y las tecnologías de generación de contenidos falsificados, conocidos como deepfakes.
Asimismo, el reglamento identifica determinadas prácticas consideradas prohibidas, como la manipulación subliminal, la explotación de vulnerabilidades humanas o evaluaciones de riesgo basadas en perfiles sin fundamentos verificables.
Otra disposición relevante establece la obligación de que los proveedores de sistemas de IA de alto riesgo cuenten con representantes dentro de la Unión Europea. De esta forma, las autoridades competentes pueden exigir información y documentación para verificar que dichos sistemas cumplen los requisitos regulatorios.
Según el artículo 21 del reglamento, los proveedores deberán proporcionar a las autoridades toda la información necesaria para demostrar la conformidad del sistema con los requisitos establecidos, utilizando una lengua oficial de las instituciones europeas.
Este marco normativo es considerado un ejemplo de regulación detallada para otros países que buscan establecer normas sobre el uso de estas tecnologías.
Implicaciones legales y riesgos emergentes
El uso masivo de sistemas de inteligencia artificial plantea importantes implicaciones jurídicas. La expansión de estas herramientas requiere mecanismos claros de responsabilidad que permitan prevenir abusos y garantizar la confiabilidad de los sistemas.
La transparencia en el diseño y funcionamiento de la IA es un elemento clave para que usuarios y autoridades puedan comprender las decisiones generadas por estos sistemas y evaluar sus limitaciones.
En materia de propiedad intelectual y confidencialidad, el marco europeo establece obligaciones para proteger datos y secretos comerciales utilizados durante el desarrollo o uso de tecnologías de IA. Estas medidas buscan fortalecer la confianza en la tecnología y facilitar su interoperabilidad internacional.
Sin embargo, la utilización de estas herramientas también plantea desafíos éticos, especialmente en tecnologías como el reconocimiento facial o la generación de deepfakes, que pueden afectar derechos fundamentales como la privacidad o la autenticidad de la información.
Por este motivo, diversos organismos coinciden en que la expansión de la inteligencia artificial debe estar acompañada por un marco jurídico capaz de proteger derechos fundamentales, fomentar la transparencia y garantizar la responsabilidad de quienes desarrollan o implementan estos sistemas.
El desafío global consiste en encontrar un equilibrio entre innovación y regulación, de modo que las oportunidades ofrecidas por la inteligencia artificial puedan aprovecharse sin aumentar riesgos ni desigualdades tecnológicas.
Fuente: Ámbito
