LA INTELIGENCIA ARTIFICIAL COMO BIEN Y NO COMO POTENCIAL SUJETO. SU LUGAR EN EL DERECHO

 


                                                                                     Por: Fernando Javier MARCOS.

(Publicado en Revista Derecho, Innovación & Desarrollo Sustentable, Buenos Aires, Ed. El Derecho, junio 2025, nro. 25, pp. 26/31).

 

Sumario: I. El panorama de lo humano frente a la inteligencia artificial. II. IA y Derecho. Algunas consideraciones iniciales. III. Intentando definir la IA. IV. La IA ¿puede tener personalidad jurídica? V. La IA como un bien integrante del patrimonio de un sujeto real y no artificial.


I. El panorama de lo humano frente a la inteligencia artificial

 

1. El geométrico progreso que día a día, por no decir, hora a hora, está experimentando la inteligencia artificial (IA), ha sacudido al ordenamiento jurídico de manera especial, porque sus capacidades para hacer gran parte de aquello que los humanos creíamos era patrimonio exclusivo de nuestra condición de tales, que asombra y alarma con la misma intensidad, impone la urgente necesidad de repensar muchos aspectos e institutos del derecho que conocemos, su funcionamiento y las nuevas formas de abordar su estudio, frente a la impresionante realidad tecnológica que aquella encarna.

Las posibilidades de desarrollo que la IA presenta son, de alguna manera, infinitas. Por lo menos, actualmente, nos resulta sumamente complejo poder entender, tanto para bien o para mal, sus límites y efectos en todos los sentidos.

Nos deja perplejos todo lo que nos muestra y demuestra todo el tiempo, prácticamente sin solución de continuidad.

Además, resulta dificultoso definirla, porque su propia naturaleza lo es, sumándose a esto algunas de sus características más salientes, a saber: ser totalmente disruptiva, dinámica al extremo y, por sobre todo, impredecible.

Nos provoca admiración y estupor a la vez, que la IA posea aquellas cualidades que considerábamos patrimonio de lo humano: aprender, pensar y razonar.

 Si, aprende, “piensa” y razona sola, en base a la información que colecta ―big data―, identifica, selecciona y analiza, para luego decidir, todo a una velocidad inigualable.

Esto es así, por más que busquemos falsas excusas para seguir sosteniendo la vigencia de aquella omnipotencia que como sapiens nos había colocado ―igual allí estamos hoy, no desesperen― en la cima de la escala natural de los seres vivos.

Ni qué hablar, si se ingresa a este tema desde otros planos, como el antropológico, filosófico o teológico, o cuando se estudia su impacto sobre la humanidad misma y, en particular, en el campo de la dignidad de la persona humana, dada la indiscutible centralidad que ésta tiene para el Derecho, al que le da sustento y razón para su existencia.

En rigor de verdad, aunque no lo digamos de manera explícita, la IA ha herido nuestra humana vanidad.

Entre tantas cosas que nacen de la incertidumbre que caracteriza estos tiempos, nos preguntamos, cómo puede ser que una serie de algoritmos, en definitiva, una simple “máquina” ―si le queremos bajar el precio y que de simple nada tiene― creados por el ser humano, puede ser mejor que su creador ―o, en algunas facetas igual―, al punto que puede llegar a reemplazarnos en gran cantidad de tareas o actividades.

Pero si algo nos genera una verdadera preocupación a causa de la incertidumbre que rodea a este fenómeno tecnológico, es que aquella facultad creadora ya no es resorte exclusivo del género humano, porque las IA también pueden crear, modificar y mejorar las cosas sin la necesaria intervención de los humanos, construyendo conocimientos nuevos: es autogenerativa.

En efecto, la IA puede funcionar en forma autónoma, interactuando “individualmente” en la sociedad misma como su fuera una persona. Tienen capacidad de adaptación, es empática, entre otras características que se le puede atribuir y, como consecuencia de ello, también pueden ser impredecibles.

Tal es el caso de los robots programados con inteligencia artificial cuyo tratamiento desde el plano jurídico viene preocupando y ocupando a la doctrina y, por su trascendencia futura ―y actual―, a organismos como la ONU, la OCDE, la UE y, también, a la Iglesia Católica, por mencionar solo algunas instituciones de relevancia internacional.

Como derivación de estos estudios, se ha llegado a plantear la posibilidad de atribuirles personalidad jurídica, con todo lo que ello significa[1]. Luego volveré sobre este tema.

El problema o, la realidad, para ser más precisos, es que, en muchas, muchas cosas o actividades, mal que nos pese, la IA es y puede ser más eficaz y eficiente que nosotros, pobres mortales.

Sin embargo, la incertidumbre[2] que de aquella se deriva y que no nos deja ver con claridad el horizonte en esta materia, también es propia de esta época que transitamos, donde los vertiginosos avances del conocimiento disipan algunas dudas y resuelven problemas, aunque al mismo tiempo, dan paso a otras nuevas ―dudas, enigmas, cuestiones, etc.―, motorizando así el proceso para obtener e incorporar nuevos saberes, ratificando la idea aristotélica que ve a la duda como principio de la sabiduría o del proceso de conocimiento, es para el derecho.

Pero todos sabemos que la incertidumbre no se lleva bien con el derecho y, meno todavía, con la seguridad jurídica.

 

2. La inteligencia artificial, y todo lo que esta implica, reitero, tanto lo bueno como lo malo, ―dualidad esta a la que siempre estuvieron expuestos muchos progresos tecnológicos―, es el gran reto que tenemos por delante, principalmente en todo lo que se relaciona con la “dignidad humana”, porque su impronta ha comenzado a llegar hasta allí y continuará golpeando su puerta en esa dirección, por lo que el Derecho se deben comenzar a encontrar a esta temática tan revolucionaria un razonable tratamiento y regulación.

A causa de esa dinámica propia e incierta que la IA representa, se ha señalado que, “[l]a dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana, deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso, de modo que el progreso digital pueda realizarse en el respeto de la justicia y contribuir a la causa de la paz […] La inteligencia artificial será cada vez más importante. Los desafíos que plantea no son sólo técnicos, sino también antropológicos, educativos, sociales y políticos. Promete, por ejemplo, un ahorro de esfuerzos, una producción más eficiente, transportes más ágiles y mercados más dinámicos, además de una revolución en los procesos de recopilación, organización y verificación de los datos”[3].

Recientemente, el actual papa León XIV, durante una reunión con el Colegio Cardenalicio, expresó: “[h]oy la Iglesia ofrece a todos su patrimonio de doctrina social para responder a otra revolución industrial y a los desarrollos de la inteligencia artificial, que comportan nuevos desafíos en la defensa de la dignidad humana, de la justicia y el trabajo”[4].

Lo cierto es que, algunos humanos han desarrollado la IA y, con ello, nos están cambiado la forma de vida sin pedirnos permiso, pero así son ―y siempre fueron― las cosas en el mundo.

El desafío, es ver qué hacemos nosotros con esos cambios y cómo los encausamos para el bien de todos, detectando los riesgos y otros problemas que pueden afectarnos negativamente, pero sin obstaculizar los avances y mejoras que, para bien, vienen y vendrán de la mano de la inteligencia artificial.

La revolución industrial y las nuevas formas de trabajo determinaron en su momento, cambios económicos, sociales y jurídicos sustanciales para dar cobertura a una problemática y a las tensiones que se fueron gestando, especialmente desde mediados del siglo XIX, iniciándose así un camino de transformaciones que, desde las grandes potencias europeas, poco a poco se fue trasladando a los distintos puntos del globo.

En este contexto, se fue tomando consciencia de otras asimetrías –porque estas siempre existieron con distintas características y alcances― que eran consecuencia de las nuevas modalidades de trabajo que los procesos de industrialización encaminados a la producción de bienes produjeron, principalmente por la irrupción de las máquinas en el quehacer laboral y la empresa ―y el empresario― como nueva ―en aquél entonces― forma de organización de los factores de producción y de la economía en general, principalmente en países de base capitalista[5].

Nos toca a nosotros ser protagonistas de un hito histórico tan relevante y apasionante como es la IA que, por su trascendencia y capacidad transformadora de lo que hasta ahora conocíamos, se asemeja a lo que en su momento fueron para la humanidad, el manejo del fuego, la creación de la rueda, la escritura, la imprenta ―que revolucionó el acceso al conocimiento―, el maquinismo y la informática ―la computadora, Internet―, por nombrar a los que más se distinguen.

Para cerrar este primer punto, advertir que la diferencia de la IA con aquellos avances ―sin perjuicio de las excepciones a la regla que siempre se dan―, es que, en mayor o menor medida sirvieron para hacer progresar al ser humano, porque fueron ―y son― herramientas o medios para mejorar la calidad de vida ―al margen del uso negativo que también se les pueda dar―, sin la potencialidad de afectar a los sujetos en forma directa y de manera contundente, como sí puede hacerlo la IA, si no le damos cauce a la misma, con razonables y prácticas regulaciones básicas que tiendan a favorecer y a no afectar la dignidad humana, que no se puede perder de vista en todos estos análisis.

 

 

II. IA y Derecho. Algunas consideraciones iniciales

 

1. Retornando al campo de lo jurídico para no irnos por las ramas ―demasiado complicada es toda esta temática como para apelar, además, a la retórica―, existe una cualidad del Derecho ―como ciencia práctica― que conceptualmente comparte con la inteligencia artificial: ambos se caracterizan por ser esencialmente dinámicos.

En efecto, el Derecho es dinámico y cambiante, lo que afirma su índole dialéctica, simplemente porque se ocupa de lo humano y de todo lo que ello implica. Ordena y regula la actuación de las personas ―de todas―, características estas que determina esa naturaleza practica ya mencionada, sustentada en ese constante movimiento y en el devenir en el que se presentan las situaciones y relaciones jurídicas.

A su turno, la IA se caracteriza especialmente por ser una tecnología, sin duda, impredecible en sus consecuencias, que progresa de manera exponencial y a una velocidad que impide captar sus verdaderos efectos en la humanidad en tiempo real, cuya vida cotidiana es transformada, y progresivamente lo será más y en menos tiempo del que pensamos[6]. Tal estado de cosas, por cierto, dificulta más todavía su adecuada y completa regulación jurídica.

 

2. Aclarado esto, para poder intentar una primerísima aproximación desde la ciencia jurídica ―porque de eso se trata este simple y preliminar ensayo― sobre qué es la IA y cual su naturaleza, la teoría general del derecho, aporta elementos ―conceptos― sustanciales muy útiles, interesantes y, por sobre todo, atemporales, para encausar este primer análisis, sin que ello signifique caer en la simplificación de querer ubicar por la fuerza a esta nueva realidad en categorías predispuestas.

Posee esta teoría general, diversas categorías perfectamente aplicables integradas a una estructura sistémica que aquella expresa ―necesaria para poder construir racionalmente un sistema legal―, sin perjuicio, obviamente, del tratamiento especial que eso que aparece como novedoso determine y exija en función de sus propias cualidades.

En general, los sistemas jurídicos clásicos y su funcionamiento, en especial, el continental —o continental europeo— de indiscutida base romanista, fueron pensados, estructurados y puestos en ejecución asentados en principios basales y en una estructura metodológica de características dogmáticas, donde la sistematización, el racionalismo, el conceptualismo y la naturaleza jurídica que facilita esa tarea de sistematización, establecen cuál es el género al que pertenece un concepto “especie”[7].

Es habitual que cuando aparecen figuras o realidades a ser captadas y contenidas por el derecho, se sostenga que frente a estas novedades la doctrina y los jueces buscan ―con cierta ortodoxia―, encasillarlas, clasificarlas o, directamente, identificarlas con institutos jurídicos conocidos, como una manera de dar mayor certidumbre y seguridad, aunque, en ocasiones, esa búsqueda pueda dar como resultado una solución forzada y poco útil.

Es así que, muchas veces con razón, se habla de supuestos, relaciones jurídicas o formas que, dadas sus características totalmente nuevas o porque podrían constituir una categoría ―género― singular y excepcional ―en estos casos se apela al término sui generis― deben ser abordados desde otra perspectiva diferente de la que el ordenamiento vigente, hasta ese momento reconoce, define, describe y trata.

Pues bien, en base a estas premisas, se puede establecer como un posible punto de partida o principio liminar, que todo el Derecho, en especial el derecho privado y la temática relacionada con los derechos individuales, gira en torno a dos categorías principales que no merecen debate: la persona, esencialmente la humana ―también las jurídicas― y los bienes ―materiales e inmateriales―, estos últimos, como elementos constitutivos del patrimonio de aquellas, cuando estos son susceptibles de apreciación pecuniaria. O sea, cuando representan un valor económico.

Desde esta plataforma continuaremos con este preliminar análisis propuesto.

 

 

III. Intentando definir la IA.

 

1. Antes de seguir adelante, intentemos aportar algún concepto sobre qué es la IA, conscientes de lo complicado que esta tarea siempre resulta, con mayor razón aun, si el objeto a definir es algo tan peculiar como el que ocupa estas reflexiones.

De qué estamos hablando cuando nos referimos a la IA o a “las máquinas” ―robots y otras― que están programadas en base a aquella.

Usualmente, se las suele tratar como si tuvieran alguna suerte de “personalidad”, como si a causa de poder realizar algunas funciones humanas como las apuntadas en el capítulo I de este trabajo, ello nos hiciera a nosotros mismos alucinar y creer que estamos en presencia de otro sujeto, al margen de su artificialidad.

Para tomarnos de propuestas conocidas y trabajadas, partiré de lo que se indica al respecto en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo (13 de junio de 2024) sobre inteligencia artificial.

Puntualmente, en su artículo 3º define específicamente lo que entiende por sistema de IA, indicándose en ese precepto que se trata de “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”[8]

Por su parte, la Organización para la Cooperación y el Desarrollo Económico (OCDE), definió a la IA como, “un sistema de IA es un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y adaptabilidad tras su implementación”[9].

Estos conceptos que he transcripto anteriormente, descriptivos de esta verdadera realidad digital, donde se exhiben y combinan lo material ―hardware― y lo inmaterial, esto último propio del origen intelectual software y los algoritmos que lo conforman e indican a la IA como “actuar”, y los derechos patrimoniales que todo esto genera, tienen como único fin, servirnos de plataforma conceptual para poder avanzar hacía nuestro objetivo, cual es, ubicar el lugar de la inteligencia artificial en nuestro sistema jurídico, es decir, de qué estamos hablando ―desde la teoría general del derecho― cuando nos referimos a ella.

 

2. Dicho esto, si algo nos muestran estas definiciones, es una obvia y principal cualidad que posee nuestro objeto de estudio en este breve trabajo: la IA es, ante todo, una tecnología, especial, genial ―como adelantamos―, pero tecnología, al fin y al cabo.

Esta primera y fundamental caracterización, nos lleva a tener que decir qué entendemos por tecnología. La RAE, entre diversas acepciones, la define como un “conjunto de teorías y de técnicas que permiten el aprovechamiento práctico del conocimiento científico”.

Claramente, esto aplica, sin necesidad de forzar ninguna interpretación, a todas las manifestaciones de IA, aun cuando esta puede autogenerar y desarrollar nuevos conocimientos, incluso, cosas u otros bienes.

Como toda tecnología, no solo tienen un creador, sino también un dueño, generalmente, aunque no necesariamente identificado con el primero, algo que también alcanza a una desarrollada por la propia IA, porque en algún momento esta última fue producto de la invención y labor humana que le dio forma y la puso en marcha.

A esta altura, entiendo de suma importancia efectuar esta básica caracterización, porque por mostrar algunas características humanas a nivel “intelectual”, se ha terminado por humanizar a la IA en alguna medida, al extremo de designarlas como “inteligencia”, como un reflejo de su capacidad de pensar, razonar y, como si fuera poco, también de alucinar y empatizar ―ejemplo de esto último, son los sistemas de acompañamiento para personas que viven solas―, cuando nada tiene de humano.

 

3. Antes de decidir qué hacemos con este ente ―en términos metafísicos[10]― tan singular, debemos detenernos en un aspecto no menor al que nos conduce inexorablemente todo este análisis.

Me refiero a no perder de vista, que el Derecho solo tiene sentido si está orientado a regular los derechos e intereses de las personas humanas, pues estas son la razón final que justifica la propia existencia de aquél.

Luis Legaz y Lacambra, enseñaba hace mucho tiempo que, “el Derecho es vida humana, que es vida de la persona, y con esto tocamos el dato jurídico fundamental, la realidad jurídica fundamental, que es la persona humana conviviente”[11]. Luego, citándolo nada menos a Zubiri, apuntó algo sustancial: “el hombre es la única esencia de la persona”[12].

Por cierto, nada de esto ha perdido vigencia, sino todo lo contrario. Se ha reafirmado particularmente en el ordenamiento jurídico argentino, con la Reforma Constitucional de 1994 ―como lo demuestra, en especial, los nuevos derechos y garantías (artículos 26 a 45) y la incorporación de los tratados y convenciones sobre derechos humanos (artículo 75, inciso 22)― y, posteriormente, con la unificación del derecho civil y comercial, donde se ratificó contundentemente a centralidad de la persona humana y su dignidad, como principio y fin del sistema legal.

Este verdadero cardinal no puede ser desoído en absoluto a la hora de pensar cómo encausar estas nuevas tecnologías que, ciertamente, solo pueden operar con licitud para el derecho, si no se contraponen a la dignidad de la persona humana y en la medida que contribuyan a su real bienestar. Al menos, así lo entiendo honestamente.

Es necesario, para ello, no dejarse llevar por la emoción que naturalmente genera la novedad y mantener los pies en la tierra, para dar soluciones plausibles y útiles orientadas en el sentido señalado en el párrafo anterior.

Lo advierto, porque sucede que, en algunas ocasiones, se quiere innovar con total buena fe y honestidad intelectual, especialmente cuando aparecen figuras novedosas, formulando propuestas que a primera vista parecen adecuadas, sin medir las consecuencias que lo propuesto puede causar.

 

 

IV. La IA ¿puede tener personalidad jurídica?

 

1. Cuando el sistema legal crea una persona jurídica, está otorgando a ese ente aptitud para adquirir derechos y contraer obligaciones para el cumplimiento de su objeto y los fines de su creación (artículo 141, Código Civil y Comercial), es decir, lo transforma en un sujeto de derecho, con los alcances previstos por el ordenamiento vigente. Un sujeto tal como lo es ―obvio de acuerdo a su propia naturaleza― la persona humana o física, como la designaba el Código de Vélez.

La personalidad jurídica no es un mero recurso técnico o de un vehículo, sino que “es la vestimenta jurídica que eligen los hombres para actuar en conjunto en el mundo del derecho y para asumir organizadamente relaciones jurídicas, pero la realidad asociativa precede a la regulación y tiene existencia plena”[13].

A esta caracterización no escapan las denominadas sociedades unipersonales ―sociedad anónima unipersonal (SAU) o la sociedad por acciones simplificada unipersonal (SASU)―, porque también estas son un ropaje legal para organizar un patrimonio especial destinado a desarrollar un negocio jurídico precedente ―o, por lo menos pensado con anterioridad― por una sola persona, en cuyo gobierno y gestión siempre intervienen personas humanas, socios o administradores, de una forma u otra.

 

2. Párrafos más arriba, al referirme a la necesidad caracteriza a la IA, mencioné que algunos consideraban la posibilidad de reconocer a estas personalidad jurídica, especialmente cuando operan con cierta autonomía ―casi absoluta o absoluta cuando funcionan totalmente “solas”― interactuando con las personas en general, tomando decisiones y desarrollando acciones sin intervención de otros sujetos, de los que, en alguna manera, se independizan en el proceso de apropiación de la información, su análisis y de toda de decisión. Si se quiere, robots “responsables de sus actos”[14]

Autores como Vítolo se encuentran en esta tendencia, basados en la autonomía de la IA, cualidad ya mencionada, que “les permite formarse y desarrollarse”[15] por sí solas, agrego, sin intervención humana. Entiende que la personalidad jurídica es un instituto de creación legal que se incorpora al sistema jurídico con carácter instrumental a efectos de permitir brindar soluciones a cuestiones que plantean la propia dinámica jurídica, económica y social, y que no encuentran solución adecuada por otros medios alternativos”, para luego agregar que, “según las características de cada inteligencia artificial (IA) podrán establecerse ―también― normas referidas a sus creadores, propietarios, administradores u otros sujetos vinculados a su desenvolvimiento”.

Otra importante referencia sobre ello, es la que contiene el artículo 59, inciso f de la Resolución del Parlamento Europeo del 16 de febrero de 2017, sobre recomendaciones destinadas a la Comisión en materia de normas de Derecho civil sobre robótica (2015/2103 –INL-), donde se propone la creación de una “personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente"[16].

 

3. Ahora bien, sin pretensión alguna de hacer un estudio sobre el instituto de la personalidad jurídica, creo importante señalar que esta, como herramienta brindada por el derecho, lo es, únicamente, con el fin último de satisfacer, directa o indirectamente, las necesidades de las personas humanas que se valen de ellas.

Son instrumentos que, si bien se transforman en centro de imputación de derechos y deberes jurídicos ―sujetos―, no son más que un recurso jurídico para ordenar esos vínculos intersubjetivos, pero siempre dirigidos concretar un objeto que fue el que les dio origen. Es decir, “debe tener un fin, que forma la razón de su existencia”[17].

Es, propiamente, una creación del ordenamiento jurídico (artículo 141, Código Civil y Comercial), al que se le reconoce su “subjetivación jurídica, lo que implica concederles capacidad para ser titular de relaciones jurídicas como se tratara de personas humanas[18], cuyo objeto “es el elemento teleológico que da a la masa de los asociados y a las instituciones un carácter unitario, imprimiéndole una individualidad propia”[19].

Es así que, se ha definido a las personas jurídicas “como asociaciones o instituciones formadas para la consecución de un fin” que reciben el reconocimiento de sujetos de derecho por parte del ordenamiento legal de un Estado, importando “una realidad y no una ficción”[20].

En palabras de Ascarelli, “las personas jurídicas deben así su vida al ordenamiento jurídico […] El derecho, con un procedimiento de unificación, dirige, precisamente, sus normas a la colectividad organizada o al patrimonio; eleva la una y el otro a sujeto de derecho”[21].

En resumen, se reconoce personalidad jurídica a un ente creado por una colectividad de personas ―sociedades, asociaciones―, e incluso, por una sola persona ―la mal llamada sociedad unipersonal, en realidad, empresario individual (persona humana o jurídica) con responsabilidad limitada al patrimonio afectado al objeto de ese acto jurídico―, dando nacimiento a un sujeto distinto, al que por esa causa, se lo inviste de una personalidad diferenciada de sus miembros artículo 143, Código Civil y Comercial).

Así, cuando se otorgar personalidad jurídica a cualquiera de los sujetos que enumera el artículo 148 del Código Civil y Comercial, se puede afirmar que la norma guarda una relación lógica con lo que se viene expresando, porque estos nuevos sujetos tienen como objetivo final, ordenar y normar los derechos de las personas humanas que los integran y las relaciones patrimoniales que se generan.

 

4. Desde esta perspectiva, considerar que la IA puede tener personalidad porque puede actuar y comportarse con autonomía funcional, en muchos aspectos, como cualquier sujeto, o porque también el ordenamiento jurídico le ha reconocido tal carácter a una creación ideal como es una asociación o sociedad, no es un argumento sustentable que justifique la necesidad de concederle la calidad jurídica de sujeto de derecho, fundamentalmente, porque se trata de algo que no es más que un bien creado artificialmente y muy sofisticado, que en parte es una cosa ―su hardware, la máquina― y en parte un bien inmaterial ―software―.

Insisto en que estamos, en verdad, ante un bien de naturaleza compleja que, por sus particulares características y autonomía funcional, es una cosa ―por ejemplo, un robot, máquina―, un bien inmaterial ―como se dio antes― y también una actividad que puede ser catalogada como riesgosa o peligrosa, según el caso, que hace responsable a su dueño o guardián ―persona humana o persona jurídica integrada y gestionada, total o parcialmente por humanos― (artículo 1757, Código Civil y Comercial), no al autómata artificial (IA), por los daños injustificados que pueda causar a otros.

Ir por esta vía y reconocer personalidad a un ente que puede prescindir, una vez puesto en marcha, de la intervención humana, es el resultado de no tener presente en toda su dimensión la esencia de lo que representa una persona jurídica.

Indudablemente, la IA está totalmente lejos de cualquier hipótesis que pueda justificar razonablemente otorgarles o reconocerles personalidad jurídica propia y, por ello, la condición de sujeto de derecho, pues, en definitiva, insisto, es solo un bien más que integra el patrimonio de una persona que es su propietario o dueño.

Tampoco considero viable aquella posición que, entre otros recaudos, pretende reconocerle personalidad a la IA, identificando a su creador y a su dueño e, incluso, designando un eventual representante.

Reitero, se está confundiendo la naturaleza propia de la IA, al extremo que, por humanizarla en el discurso, se ha terminado creyendo ese relato, cuando no deja de ser un bien como cualquier otro, cuya sofisticación y genialidad no le cambia su propia índole.

Coincido con Favier Dubois cuando señala que, de crearse un nuevo sujeto ―” sujeto comercial empresario”, en análisis que realizó el autor en el trabajo que citamos―, “[t]al situación debe ser absolutamente rechazada ya que implicaría crear un sujeto de enorme poder de mercado, sin finalidad humana y sin control humano [algo que] resultaría absolutamente peligroso para los co-contratantes, los consumidores y para la misma humanidad ya que podría implicar su extinción o la subordinación del mundo humano a un mundo tecnológico autónomo”[22].

 

5. Personas físicas o humanas, o jurídica de aquellas descriptas por el citado artículo 148 del Código Civil y Comercial, si bien tienen autonomía jurídica y funcional como sujetos, no son autómatas.

Siempre están integradas ―miembros― o gestionadas, en mayor o menor medida, por humanos. Estos pueden ser sus asociados o socios y, en especial, conforman sus órganos ―gobierno, administración y fiscalización―. Y aun cuando puedan intervenir en algunos casos otras personas jurídicas ―por ejemplo, como socios―, todos estos entes funcionan también a través de la intervención de sujetos humanos.

Nada de esto sucede, en general, con la IA, porque esta, en base a su programación y capacidades con las que esta cuenta, opera con total autonomía ―como se viene destacando―, con todos los riesgos que ello trae, por lo que no existe justificación alguna para dar a, por ejemplo, un robot ―con IA― el carácter de persona, porque si bien este concepto es, como cualquier instituto, una herramienta o recurso técnico-jurídico, no tienen un fin en sí mismos, sino que son regulados mediante normas para encausar y responder a una necesidad real y, al final del camino, de humanos.

En el caso de las personas jurídicas, la posibilidad de ser titulares de derechos y obligaciones solo encuentra fundamento en el cumplimiento de un fin dirigido a satisfacer aquellas necesidades ciertas y lícitas.

Luego, tratar a la IA como un sujeto es fruto de una mera abstracción que se desentiende de todas las razones que han dado sustento a la existencia de las personas jurídicas.

Repito, se la ha asimilado tanto en el discurso y en las argumentaciones a una persona real, cuando, por más genial que pueda ser, es pura tecnología y, como tal, un bien que conforma el patrimonio de alguien

No tengo dudas que un robot programado con IA puede ser maravilloso y brindar un sinnúmero de ventajas y beneficios positivos a todos, pero siempre será una “máquina” una “cosa” que funciona en base a un software creado por un humano ―aunque luego de lugar a la autogeneración de conocimiento―.

Una cosa es utilizar la IA como herramienta para mejorar la vida de las personas y, otra muy distinta, es que transformemos a esta en un sujeto independiente, autosuficiente, con voluntad propia, decisor e individualmente responsable, un centro de imputación de derechos y obligaciones con personalidad diferenciada de sus miembros, con el agravante que no tiene miembros, ni humanos, ni otros a los que atribuirle responsabilidad llegado el momento.

En las posiciones más extremas, solo el “autómata IA” es quien actúa y asume las consecuencias de sus “actos” ―¿una máquina actúa jurídicamente por sí?―, desligando de todo a su creador, a su dueño real ―si es distinto del primero― o a su guardián.

Realmente, no encuentro sentido alguno a ello. En síntesis, la mona se podrá vestir de seda, pero siempre será mona.

Seguir en esta dirección, podría transformar a la IA en la herramienta perfecta para un potencial ―si me permiten la licencia― Dr. Frankenstein, pero que, a diferencia del personaje de la novela de Mary Shelley, hoy quedaría ajeno a toda responsabilidad por los hechos y actos ―u omisiones― ilícitos de la criatura que el mismo creó y lanzo al mundo, a sabiendas que no podía controlarlo, o sin estar seguro de poder hacerlo. Esto puede parecer un razonamiento básico, pero lo es solo en apariencia.

Dónde quedaría el deber de prevención del daño que regula el artículo 1710 del Código Civil y Comercial frente a esto.

 

6. Para concluir con este punto y, para justificar que la actuación individual y autosuficiente como persona de la IA es incompatible con la tutela efectiva de los derechos, en particular, de la persona humana, aunque no lo refiera explícitamente, traigo a colación los Principios para una IA confiable de la OCDE. Entre otros, estableció en el Principio 1.2 sobre “Respeto al estado de derecho, los derechos humanos y los valores democráticos, incluidos la equidad y la privacidad” , que: “Los actores de la IA deben respetar el Estado de derecho, los derechos humanos, la democracia y los valores centrados en el ser humano durante todo el ciclo de vida del sistema de IA. Estos incluyen la no discriminación y la igualdad, la libertad, la dignidad, la autonomía de las personas, la privacidad y la protección de datos, la diversidad, la equidad, la justicia social y los derechos laborales internacionalmente reconocidos. Esto también incluye abordar la desinformación y la información errónea que la IA amplifica, respetando al mismo tiempo la libertad de expresión y otros derechos y libertades protegidos por el derecho internacional aplicable.

Con este fin, los actores de la IA deben implementar mecanismos y salvaguardas, como capacidad de agencia y supervisión humana, incluso para abordar los riesgos derivados de usos fuera del propósito previsto, mal uso intencional o mal uso no intencional de una manera apropiada al contexto y consistente con el estado del arte”[23].

A su vez, en el Principio 1.5 sobre “Rendición de cuentas”, se dice que: “Los actores de la IA deben ser responsables del correcto funcionamiento de los sistemas de IA y del respeto de los principios anteriores, en función de sus funciones, el contexto y en consonancia con el estado del arte.

Para tal fin, los actores de la IA deben garantizar la trazabilidad, incluso en relación con los conjuntos de datos, los procesos y las decisiones tomadas durante el ciclo de vida del sistema de IA, para permitir el análisis de los resultados del sistema de IA y las respuestas a las consultas, de manera adecuada al contexto y coherente con el estado del arte.

Los actores de la IA, en función de sus funciones, el contexto y su capacidad de acción, deben aplicar un enfoque sistemático de gestión de riesgos a cada fase del ciclo de vida del sistema de IA de forma continua y adoptar una conducta empresarial responsable para abordar los riesgos relacionados con los sistemas de IA, incluyendo, según corresponda, la cooperación entre diferentes actores de la IA, proveedores de conocimientos y recursos de IA, usuarios de sistemas de IA y otras partes interesadas. Los riesgos incluyen los relacionados con sesgos perjudiciales, derechos humanos (incluida la seguridad, la protección y la privacidad), así como derechos laborales y de propiedad intelectual”[24] .

Pregunto, ¿es razonable pensar que deberes como estos, jurídicos, éticos y morales, pueden ser dejados al “libre albedrío” de a IA, cuando hasta sus propios creadores tiene reservas y temor ―algunos lo expresan, pero otros no― sobre su forma de actuar, sus límites, al extremo de no poder asegurar totalmente su control? Entiendo que no.

 

 

V. La IA como un bien integrante del patrimonio de un sujeto real y no artificial.

 

1. Desechada, en mi opinión, la opción de la personalidad, como lo fui advirtiendo en diversas parcelas, propongo ver a la IA como lo que es, un bien, caracterizado por representar una tecnología muy sofisticada y avanzada ―y que avanza sola también, autogenerativa―, pero, al final del día, un bien creado directa o indirectamente por humanos. Esto es un hecho evidente y objetivo.

En términos jurídico, se trata de un bien ―en sentido amplio, comprensivo de cosas y objetos inmateriales, en ambos casos, con valor pecuniario[25]―, creado, pensado, diseñado, fabricado o construido por una ―o varias― persona humana, sea en forma directo o indirecta.

Ese bien, como cualquier otro, legalmente es propiedad de una persona, física o jurídica ―sociedad, asociación, etc.―, en las que, en algún punto, siempre encontramos humanos identificables y, llegado el momento, de corresponder, responsables ―asociados, socios, administradores―.

 

2. El Código Civil y Comercial trata inicialmente el tema de los derechos individuales y los bienes en sus artículos 15 y 16, cuyos preceptos permiten sostener que “en nuestro derecho vigente, hay bienes con valor económico que, cuando son materiales, se llaman “cosas”; y bienes sin valor económico que son los que recaen sobre el cuerpo humano y las comunidades indígenas”[26]

Así, “bienes es una noción genérica que abarca derechos inmateriales (un crédito) y cosas”[27]. Estas últimas, como lo hacía el artículo 2311 del Código Civil derogado, son los objetos materiales propiamente dichos, cuyas normas se aplican a “la energía y a las fuerzas naturales susceptibles de ser puestas al servicio del hombre” (artículo 16, código Civil y Comercial), como así también, los citados objetos inmateriales que tienen valor económico y, que, como tales, son bienes en “sentido estricto” ―derechos―[28].

En la IA, según su funcionalidad, exteriorización y materialización, puede adquirir diversas formas y, como bien que es, es susceptible de valor económico (artículo 16, Código civil y Comercial).

Por ejemplo, como ya fue señalado, en un robot programado con IA, confluye la noción de cosa ―como objeto material― y la de bienes inmateriales ―la IA como un activo digital[29] y los derechos intelectuales que se derivan del software―.

Pero de lo que no quedan dudas es que la IA, por su propia esencia, no es más que un bien que compone el patrimonio de una persona[30] y, por lo tanto, su activo, porque técnicamente este no es otra cosa que un bien que tiene valor económico y puede convertirse en dinero[31].

La sofisticación, novedad y características disruptivas del objeto bajo análisis no cambia su naturaleza, o sea, ser un bien de otro, de una persona humana o jurídica, pero nunca ser la IA dueña de sí misma, para lo cual, se debe recrear forzosamente una personalidad que de manera alguna puede tener, ni siquiera potencialmente, porque no se ajusta a su propia esencia como bien con valor económico.

El exponencial desarrollo e irrupción en todos los ámbitos de la vida humana que tiene y, cada vez más, tendrá, la inteligencia artificial, exige a quienes estudiamos y ejercemos el Derecho, tomar el “toro por las astas” y comenzar a pensar, repensar lo que existe, diseñar y presentar propuestas razonables a los desafíos y cambios de paradigmas que plantea esta particular tecnología.

Prefiero un derecho plausible y razonable, a un derecho sofisticado, con apariencia de originalidad, que nos traiga dolores de cabeza en el futuro.

 

3. Propongo regular ―porque de eso se ocupa el Derecho― lo que los sujetos creadores, dueños o que se valen de la IA pueden hacer con esta, su uso, su eventual responsabilidad y los demás efectos que se derivan de esa relación persona-bien; pero no transformarla en un sujeto, cuando no puede serlo en absoluto, en lugar de decir lo que la máquina puede o no hacer.

El Derecho regula conductas, es decir, la manera con que las personas se comportan en su vida y acciones[32]. Y estas son, como fue dicho, directa o indirectamente humanas, por más que las consecuencias puedan ser atribuidas, por imperio de la ley, a una persona jurídica ―también algunas específicas responsabilidades penales―a la que pertenecen o donde se desempañan esos humanos que son, en definitiva, los que se comportan, los que actúan e interactúan subjetivamente, como lo resaltaba Carlos Cossio al desarrollar su Teoría Egológica del Derecho.

Si no “desconectamos” a la IA-máquina de las personas que les dieron “vida a estas criaturas tecnológicas”, las cosas son distintas y más precisas ―no digo fácil― de encarar desde el plano legal, dado que voy a regular, insisto, no lo que “puede hacer la maquina o una IA” que, reitero, no es más que un mero bien, sino aquello que las personas que las crearon o que se valen de estas puede hacer con ellas y sus consecuencias jurídicas.

Y si la IA se salen de control ―de allí la calificación de actividad riesgosa o peligrosa, según corresponda en un caso concreto que hemos adelantado―, no va a ser responsabilidad de la misma ―como algunos proponen―, sino de personas de verdad, humanas o jurídicas, que resulten responsables de acuerdo al derecho vigente.

Pienso que justificar la personalidad y, consecuentemente, la potencial responsabilidad de una IA porque tiene autonomía para tomar decisiones “sola” ―el tema del sesgo lo dejamos para otra oportunidad― es, al mismo tiempo, un gran acto de "irresponsabilidad".

Si esto fuera posible, el sujeto que crea la IA, que luego va a funcionar sin su intervención sin poder dominarla o controlarla en su totalidad, se sacaría mágicamente la responsabilidad de encima para cargársela a este sujeto materialmente artificial. Es, salvando las distancias, como si a un auto que estaciona solo con IA y que por “error/falla” choca a otro auto, le atribuimos responsabilidad por los daños causados y no al dueño o guardián.

Como ha sucedido con todo avance, el Derecho, supo, con mayor o menor eficiencia y eficacia, captarlo y encontrarle un camino razonable.

Mas allá de las "palabras", me preocupan los efectos potencialmente reales de lo que se vaya decidiendo, al margen de como se lo catalogue o llame.

Nos queda mucho por recorrer en materia de IA.

Si atrás de esta no van a existir humanos que se hagan cargo, aunque sea subsidiariamente ―como sucede con las asociaciones y sociedades en la medida de su responsabilidad―, estaremos hablando de otra cosa, pero seguro, seguro, no de una efectiva tutela del derecho de la persona humana.

Busquemos soluciones, alternativas y regulaciones razonables a los distintos problemas que presentan la IA, sin inventar otras criaturas, esta vez, jurídicas, que luego se nos salgan de control.


[1] MARTINO, Antonio A., GRANERO, Horacio R. y BARRIO ANDRÉS, Moisés, Regulación de la inteligencia artificial, Buenos Aires, Ed. Astrea, 2024, pp. 44-49.

[2] PÉREZ ÁLVAREZ, Matilde, El principio de precaución y los riesgos del desarrollo, Buenos aires ed. El derecho, 2024, pp. 375-425. La autora efectúa un profundo e interesantísimo análisis sobe la incertidumbre científica e innovación tecnológica, en el marco de su estudio sobre el “principio de precaución y los riesgos del desarrollo”, temática con directa aplicación al tema que abordamos en este primer análisis que presentamos.

[5] Entre tantas reacciones a todo esto, apareció la encíclica Rerum novarum (5 de mayo de 1891) del papa León XIII, documento fundamental que inauguró la llamada Doctrina Social de la Iglesia (DSI) que, desde su aparición, ha ejercido una notable y positiva influencia en el campo de la economía, en lo social y, sin duda alguna, en lo jurídico, siendo un antecedente directo de los derechos humanos, al valorizar y dar centralidad a la persona humana y a su inalienable dignidad, como un fin inexorable por el que se debe velar desde todos las áreas antes referidas.

[6] Véase, por ejemplo, “La velocidad de la IA y la preocupación de Eric Schmidt sobre su impacto en la humanidad”, entrevista a Eric Schmidt, ex Google y autor de “The Age of AI” (La era de la IA), Infobae. https://www.infobae.com/tecno/2025/01/28/la-velocidad-de-la-ia-y-la-preocupacion-de-eric-schmidt-sobre-su-impacto-en-la-humanidad/

 

[7] LE PERA, Sergio, La Naturaleza Jurídica, Buenos Aires, Ed. Pannedille, 1971, p. 90.

[10] ARISTÓTELES, Metafísica, (trad. García Yebra, V.), Madrid, Ed. Gredos, 2012, L. IV, 1, 1003a 21-26, pp. 150-152.

[11] LEGAZ Y LACAMBRA, Luis, Filosofía del Derecho, Barcelona, Bosch Casa Editorial, 1972, p. 264.

[12] Ibidem, p. 265.

[13] RIVERA, Julio C. y MEDINA, Graciela (Dirs.), CROVI, Luis D. (Dir. De área), FISSORE, Diego (autor), Código Civil y Comercial de la Nación – Comentado, Ed. Thomson Reuters – La Ley, Buenos Aires, 2023, T. I, p. 545.

[14] MARTINO, A. A., GRANERO, H. R y BARRIO ANDRÉS, M., op. cit., p. 44.

[15] VITOLO, Daniel R., “La personificación jurídica de las Inteligencias Artificiales (IAs) no es solo inminente, sino algo absolutamente necesario” en La Doctrina más destacada, Rubinzal - Culzoni Editores, cita: RC D 572/2024.

[16] FAVIER DUBOIS, Eduardo M., ¿Puede la inteligencia artificial ser un nuevo sujeto mercantil?, en Abogados.com, https://abogados.com.ar/puede-ser-la-inteligencia-artificial-un-nuevo-sujeto-mercantil/36081

[17] FERRARA, Francisco, Teoría de las Personas Jurídicas, Ed. Comares, Granada, p. 275.

[18] RIVERA, J. C. y MEDINA, G. (dirs.), CROVI, L. D. (dir. de área), FISSORE, D. (autor), Código …, T. I, p.540.

[19] FERRARA. F., op. cit. p. 275.

[20] Ibídem, p. 268.

[21] ASCARELLI, Tullio, Sociedades y asociaciones comerciales, Santiago Sentis Melendo (trad.), Ed. Ediar S.A., Editores, Buenos Aires, 1947,

[22] FAVIER DUBOIS, E. M., op. cit.

[25] RIVERA, Julio C. y MEDINA, Graciela (dirs.), Derecho Civil – Parte General, Buenos Aires, Ed. Abeledo Perrot, p. 556.

[26] RIVERA, J. C. y MEDINA, G. (dirs.) y ESPER, Mariano (coord..), Código Civil y Comercial de la Nación - Comentado, Buenos Aires, Ed. Thomson Reuters, 2023, T. I, p. 115.

[27] RIVERA, Julio C. y MEDINA, Graciela (dirs.), Derecho Civil – Parte General, Buenos Aires, Ed. Abeledo Perrot, p. 556.

[28] ALTERINI, Jorge H. (dir. gral.), TOBÍAS, José W., Código Civil y Comercial Comentado – Tratado Exegético, Buenos Aires, Ed. Thomson Reuters-La Ley, 2016, T. I, p. 128.

[29] UNIDROIT, Principios sobre Activos Digitales y Der. Priv., Roma 2023: define al “activo digital”, como 2) “un registro electrónico que puede estar sujeto a control”, https://www.unidroit.org/wp-content/uploads/2023/04/C.D.-102-6-Principles-on-Digital-Assets-and-Private-Law.pdf

[30] LORENZETTI, Ricardo Luis (dir.), DE LORENZO, Miguel F. y LORENZETTI, Pablo (coords.), Código Civil y Comercial de la Nación – Comentado, Santa Fe, 2016, T. I, p. 16.

[31] FOWLER NEWTON, Enrique, Contabilidad básica, Buenos Aires, Ed. La Ley, 2007, p. 39. En términos contables, un activo es “un objeto material o inmaterial que tiene un valor, siendo ésta la cualidad que justifica que por poseerla, se pague una suma de dinero, se entregue otro bien o se asma una obligación”.

[32] RAE 

Publicadas por

No hay comentarios:

Publicar un comentario

Suscribirse a: Enviar comentarios (Atom)