La propuesta impulsada por el Gobierno nacional para habilitar empresas gestionadas íntegramente por inteligencia artificial (IA) abrió un fuerte debate sobre los límites de la tecnología, la responsabilidad jurídica y el futuro de las sociedades comerciales. La iniciativa, que busca posicionar a la Argentina como un polo de innovación tecnológica, genera tanto expectativas como interrogantes en especialistas del ámbito legal.
Uno de ellos es Marcelo Temperini, abogado especializado en cibercrimen y derecho informático e investigador en seguridad de la información, quien analizó el tema en una entrevista con LT10 y advirtió sobre los riesgos de avanzar en una regulación de este tipo sin un debate profundo.
Según explicó, el primer aspecto a considerar es que no existen antecedentes concretos en el mundo de sociedades comerciales completamente automatizadas y sin responsables humanos identificables.
"Esta idea de las sociedades comerciales automatizadas, es decir, sin humanos detrás, no está implementada en ningún lugar del mundo. Este es un primer punto para entender que se trata de algo experimental", señaló.
Para Temperini, la principal preocupación radica en las consecuencias que podrían surgir si el modelo falla o es utilizado de manera abusiva. "Es importante que tenga un análisis y un estudio profundos antes de ser regulado, porque acá aparecen grandes riesgos jurídicos que tendríamos que tener en cuenta por si esto sale mal", sostuvo.
La discusión sobre la responsabilidad
Uno de los ejes centrales del debate es quién responde cuando una inteligencia artificial toma decisiones que generan daños económicos, delitos o perjuicios a terceros.
En ese sentido, el especialista cuestionó la idea de atribuir autonomía plena a estos sistemas y remarcó que toda inteligencia artificial depende de instrucciones humanas.
"Creo que se está creando una fantasía con esto de que es posible tener una empresa sin humanos. No se puede, porque ninguna inteligencia artificial funciona sin la instrucción de un humano", afirmó.
Y agregó: "La inteligencia artificial no deja de ser una tecnología. Puede ejecutar instrucciones, pero no puede ser responsable. Entonces, ¿quién responde? La persona que ordena la ejecución de tales instrucciones".
Para Temperini, el riesgo es que estas estructuras terminen convirtiéndose en herramientas para diluir responsabilidades civiles o penales. "Ese es el gran riesgo: que utilicemos esta figura para tapar o para limitar responsabilidades que sí deberían existir", advirtió.
Como ejemplo, mencionó escenarios vinculados con delitos económicos. "Iniciando el caso de que exista un hecho, por ejemplo, de lavado de dinero o evasión fiscal, si hay posibilidad de responsabilidad penal, ¿quién responde?", planteó.
Un proyecto sin antecedentes
Durante la entrevista, también se abordó la posibilidad de que estas sociedades operen en mercados financieros o administren activos sin intervención humana directa.
Aunque reconoció que existen desarrollos tecnológicos avanzados, especialmente vinculados al blockchain y a las organizaciones autónomas descentralizadas (DAO), Temperini marcó diferencias entre esas herramientas y la idea de empresas completamente administradas por inteligencia artificial.
"Las DAO ya funcionan como un smart contract (contrato inteligente); sobre esto sí hay antecedentes y ya operan en otros lugares. Pero en cualquiera de las dos figuras no tenemos que perder de vista que son tecnologías y que detrás de la tecnología siempre hay una persona", explicó.
El abogado consideró que Argentina debe modernizar su legislación y adaptarse a los cambios tecnológicos, pero sin perder de vista los riesgos.
"Está bueno incorporar las cuestiones tecnológicas, tenemos que aggiornarnos como en otras tantas materias. Mi llamado de atención es hacerlo teniendo en cuenta la responsabilidad y evitar que generemos un instituto jurídico que pueda caer en el abuso por parte de personas que nos están utilizando", expresó.
El desafío de legislar la inteligencia artificial
Temperini también observó que mientras Argentina parece orientarse hacia un modelo más cercano al estadounidense, basado en la promoción de inversiones y la reducción de regulaciones, en Europa el foco está puesto en controlar los riesgos asociados a la inteligencia artificial.
"En Europa se está pensando cómo regulamos la inteligencia artificial, cómo prevenimos ataques contra la privacidad y contra la humanidad. Tenemos que abrir la mirada y ver qué está pasando porque podemos quedar, en esta búsqueda de inversiones, experimentando con algo que puede ser una bomba que nos explote en las manos", sostuvo.
Finalmente, insistió en que el proyecto merece una discusión amplia y profunda en el Congreso antes de avanzar en una transformación de semejante magnitud.