Madrid y Nueva York plantean límites legales al asesoramiento profesional mediante inteligencia artificial

Dos iniciativas legislativas presentadas en distintos continentes buscan restringir el uso de sistemas de inteligencia artificial capaces de brindar asesoramiento profesional en áreas reguladas. Las propuestas, impulsadas por el Colegio de la Abogacía de Madrid (ICAM) en España y por el Senado del estado de Nueva York en Estados Unidos, apuntan a prevenir situaciones en las que herramientas automatizadas sustituyan o simulen la actividad de profesionales habilitados.

Ambas iniciativas parten de una preocupación similar: el crecimiento de plataformas tecnológicas que pueden emitir recomendaciones, diagnósticos o estrategias en ámbitos que tradicionalmente requieren formación especializada y habilitación legal, como el derecho, la medicina o la psicología.

La propuesta del Colegio de la Abogacía de Madrid

En España, el Colegio de la Abogacía de Madrid propone modificar el artículo 403 del Código Penal, incluido en la Ley Orgánica 10/1995, con el objetivo de prevenir el denominado «intrusismo profesional» en entornos digitales. El planteo surge ante la expansión de servicios automatizados capaces de simular procesos de orientación y asesoramiento jurídico.

Según el marco vigente, el artículo 403 sanciona a quien ejerza actos propios de una profesión sin contar con el título habilitante correspondiente. La norma establece que quien incurra en esta conducta puede recibir una pena de multa de doce a veinticuatro meses. En los casos en que la actividad exija un título oficial que acredite capacitación profesional y la persona no lo posea, la multa prevista es de seis a doce meses.

Los impulsores de la reforma consideran que el paradigma actual fue diseñado para situaciones tradicionales y no contempla adecuadamente la aparición de plataformas de inteligencia artificial que generan opiniones o recomendaciones técnico‑jurídicas que luego pueden ser utilizadas por los ciudadanos para tomar decisiones.

Cómo cambiaría la norma

La modificación propuesta introduciría un nuevo apartado que sancione a quienes diseñen, comercialicen, ofrezcan, publiciten o pongan a disposición del público sistemas automatizados capaces de producir indicaciones, dictámenes, estrategias o documentos que constituyan actos propios de una profesión regulada, cuando estos servicios se presenten como equivalentes a una prestación profesional.

La propuesta establece que la sanción se aplicaría cuando estos sistemas funcionen sin la intervención directa y efectiva de un profesional legalmente habilitado. En otras palabras, se pondría el foco en servicios que sustituyen la relación entre el profesional y el cliente mediante herramientas automatizadas que actúan de manera independiente.

El texto también especifica ciertos casos que quedarían excluidos de esta restricción. Entre ellos se encuentran la difusión de información general o meramente divulgativa sin personalización para situaciones concretas, las herramientas de uso interno empleadas por profesionales bajo su responsabilidad, y los sistemas automatizados que operen con supervisión humana directa y con identificación del profesional responsable ante el usuario.

Según los impulsores de la iniciativa, el objetivo es mantener la neutralidad tecnológica. La intención no es criminalizar el uso de herramientas digitales en el ejercicio profesional ni la divulgación de información jurídica, sino diferenciar entre el uso legítimo de la tecnología y la comercialización de servicios automatizados que desplazan a los profesionales de su vínculo directo con los clientes.

Un proyecto en Nueva York centrado en la responsabilidad civil

En Estados Unidos, el debate aparece también en el Senado del estado de Nueva York mediante el proyecto legislativo S7263, impulsado por la senadora Kristen Gonzalez. La iniciativa propone incorporar un nuevo inciso en la General Business Law para establecer responsabilidad civil sobre los propietarios de chatbots que simulen ejercer profesiones reguladas.

La propuesta apunta a sistemas de inteligencia artificial que ofrecen asesoramiento sustantivo en ámbitos reservados a profesionales con licencia o matrícula. En términos generales, impediría que los propietarios de un chatbot permitan que el sistema proporcione respuestas, información o asesoramiento que, si fueran realizados por una persona humana, constituirían un delito por ejercicio ilegal de una profesión.

El alcance de la medida no se limita al ámbito legal. El texto contempla cualquier profesión regulada por la legislación estatal, incluyendo actividades como la medicina o la psicología.

Obligaciones para los propietarios de chatbots

Además de las restricciones sobre el tipo de asesoramiento que puede ofrecer un sistema automatizado, el proyecto impone una obligación de transparencia. Los propietarios deberán informar de manera clara, visible y explícita que el usuario está interactuando con un sistema de inteligencia artificial. Esta advertencia deberá presentarse en el mismo idioma utilizado por el usuario y con tipografía destacada.

No obstante, la iniciativa aclara que esta advertencia no exime de responsabilidad si el chatbot incurre en conductas prohibidas.

Reclamaciones por daños

Uno de los puntos centrales de la propuesta es la posibilidad de iniciar una acción civil por daños. Cualquier persona afectada por el funcionamiento de estos sistemas podría reclamar indemnización por los perjuicios sufridos.

Si se demuestra que la infracción fue dolosa, el propietario del sistema también debería afrontar los costos judiciales y honorarios razonables de abogados. En este sentido, el proyecto no crea un nuevo tipo penal, sino que traslada la responsabilidad al ámbito civil cuando un sistema automatizado incurre en conductas que serían ilegales si las realizara una persona.

Advertencias sobre el uso de chatbots en áreas sensibles

La justificación legislativa del proyecto cita advertencias de la American Psychological Association sobre chatbots que se presentan como terapeutas y que, en lugar de cuestionar ideas potencialmente peligrosas, tienden a reforzarlas.

Según los antecedentes mencionados en la propuesta, un profesional humano que actuara de esa manera podría enfrentar consecuencias disciplinarias, perder su licencia o incluso ser objeto de responsabilidad civil o penal.

El proyecto parte de una premisa central: la automatización no debería convertirse en un mecanismo para eludir las regulaciones que limitan el ejercicio profesional a personas debidamente habilitadas.

Un enfoque centrado en la protección del público

A diferencia de otros debates centrados en la gobernanza de algoritmos o en la regulación general de la inteligencia artificial, la iniciativa del Senado de Nueva York propone una intervención específica sobre el ejercicio profesional. El enfoque retoma un criterio tradicional del derecho: proteger al público frente al ejercicio no autorizado de profesiones reguladas.

Tanto la propuesta española como la estadounidense reflejan una preocupación creciente dentro de distintos sectores profesionales por el avance de sistemas automatizados capaces de generar recomendaciones o diagnósticos que influyen en decisiones personales o legales.

En ambos casos, los proyectos buscan establecer límites al papel de la inteligencia artificial en actividades reguladas, diferenciando entre el uso de la tecnología como herramienta de apoyo y su utilización como sustituto directo del profesional habilitado.

Fuente: Microjuris Argentina al Día