Los derechos fundamentales a la luz de la intromisión de la inteligencia artificial en el Estado: breve análisis de actualidad jurídica

Columna publicada en El Mercurio Legal el 19 de noviembre de 2025.

En Chile se ha discutido latamente respecto a la necesidad de modernizar el Estado producto de las distintas problemáticas que aquejan a la Administración pública y, que, atentarían contra la eficiencia y eficacia de una buena gestión pública. Algunas de las problemáticas que más resuenan son: el sistema de permisos sectoriales;  el uso de los recursos públicos de forma proba por parte de los tomadores de decisiones; y, por último y el mayor desafío futuro para todas las administraciones de los países, será el uso de inteligencia artificial en la adopción de decisiones administrativas. Particularmente, esta última temática es respecto de la cual se han planteado menos soluciones.

Ahora bien, la pertinencia del estudio de la intromisión de la inteligencia artificial en las decisiones del Estado, es una cuestión que debe ser de total interés para la doctrina chilena, en especial por las implicancias que derivan de esta temática. Es claro que el uso de la inteligencia artificial puede afectar los derechos fundamentales de todas las personas, en especial, porque es la Administración la que al momento de adoptar una decisión puede: conceder o rechazar un beneficio social; sancionar o eximir de una multa; proveer una prestación pública o no hacerlo, etc.

Estas decisiones pueden afectar distintos derechos constitucionales, algunos de ellos son: la igualdad ante la ley (artículo 19 N°2)  ante una decisión automatizada eventualmente arbitraria; el derecho de propiedad (artículo 19 N°24) al no conceder un beneficio, subsidio o asignación afectando el patrimonio de la persona; o el debido proceso (artículo 19 N°3), al adoptar una decisión que no fue clara con respecto al procedimiento administrativo utilizado, o derechamente saltándoselo. En las decisiones en las que interviene la artificial deben ser controladas, o al menos, abordadas desde una perspectiva jurídica para entregar algunas respuestas.   

Respecto del uso de la inteligencia artificial por parte de la Administración, estimamos que esta herramienta tecnológica puede colaborar con el Estado en la prosecución de sus fines, esto es, el bien común. Para ello, deberá ceñirse a los principios de eficiencia y eficacia, ambos establecidos en Ley de Bases Generales de la Administración del Estado N°18.575 (artículo 3 y siguientes). Estos principios mandatan básicamente que la Administración deberá lograr los resultados deseados con el mínimo posible de recursos y podrá lograr el efecto que se desea o se espera (Real Academia Española).

Asimismo, el principio de transparencia, que es un mandato constitucional para todo el Estado (artículo 8 de la Constitución Política de la República), se materializa por medio de la Ley N°20.285, que establece la obligación para la Administración de actuar bajo un estándar mínimo de transparencia. En esta ley se creó el Consejo para la Transparencia (título V de la ley), y es justamente el que se ha hecho cargo de la temática del uso de la inteligencia artificial por parte del Estado, dictando la resolución N°373 del año 2024 titulada “recomendaciones del consejo para la transparencia sobre transparencia algorítmica”. Este es un antecedente fundamental para esta temática, ya que parte por el reconocimiento del uso de herramientas y procesos automatizados y entrega recomendaciones.

Esta resolución tuvo por objeto “(…) orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público (…)”, según señala la misma resolución (artículo 1 N°2). Esta decisión del Consejo vino a establecer el principio de transparencia algorítmica, y con ello, buscó en su oportunidad que, los organismos regulados por esta ley pudieran realizar sus actividades con estricto apego y sujeción a una nueva clase de transparencia, en la que se declare el uso de la inteligencia artificial en sus procesos.

Debemos aclarar que esta resolución es simplemente una recomendación, por lo que los organismos regulados por la Ley de Transparencia, no están obligados a obedecer esta directriz. Solo la ley podría obligar a los organismos públicos que adopten medidas para la utilización de las decisiones automatizadas de forma transparente, y que, con ello, se pueda fiscalizar si estos procesos pudieran afectar los derechos fundamentales de los administrados. De lo contrario, las recomendaciones no surtirán los efectos deseados por el Consejo para la Transparencia, cuyo objeto es la protección de los intereses de la comunidad manifestado en una decisión automatizada transparente y controlada. 

En cuanto al procedimiento administrativo, el artículo 41 de la Ley N°19.880 establece el deber de motivación o fundamentación de todo acto administrativo que tenga por objeto adoptar una decisión formal y terminal. Estos procedimientos están indudablemente alimentados técnicamente por una serie de datos, los cuales en la actualidad en su mayoría provienen de sistemas automatizados, o algoritmos que entregan elementos de juicio a la autoridad pública que deberá adoptar una decisión basado en esos datos. En este tránsito hacia la decisión final, el organismo no tiene vetado utilizar herramientas tecnológicas, sino que más bien, lo que se espera es que fundamente suficientemente su decisión basado en criterios transparentes, declarando el uso de automatización si así lo fuere.

En la vereda legislativa, nuestro país se ha hecho cargo de reconocer y regular la inteligencia artificial, para ello, el ejecutivo presentó el día 7 de mayo de 2024 un proyecto de ley que tiene por objeto “(…) regular los usos de los sistemas de Inteligencia Artificial (en adelante IA), promover su creación, desarrollo, innovación e implementación, y proporcionar un marco normativo que vele por el desarrollo sostenible y ético de la IA al servicio de las personas, respetuoso de los principios democráticos y del estado de derecho”, mediante el boletín N°16.821-19. Este proyecto que actualmente se encuentra en tramitación en segundo trámite constitucional en el Senado, tiene un alcance universal, por cuanto intenta regular la inteligencia artificial como herramienta tecnológica para su uso en Chile, es decir, el proyecto de ley tendría alcance para el sector público, como también para el sector privado.

El proyecto es bastante ambicioso, ya que, como se dijo, no solo regulará al sector público, sino que también al sector privado. Y, lo hará por medio de establecer regulaciones de cómo deberá operar la inteligencia artificial en Chile. Además, este proyecto establece algunos principios que justamente permitirán cautelar los derechos fundamentales de las personas: (a) la intervención y supervisión humana; (b) la solidez y seguridad técnica; (c) la privacidad y gobernanza de datos; (d) transparencia e identificación; (e) diversidad y equidad social; (f) bienestar social y medioambiental; entre otros. Todos ellos, buscan que la utilización de las herramientas tecnológicas se haga mediante límites claros y transparentes, y bajo la supervisión humana.

Este proyecto de ley es importante para que Chile se coloqué al más alto nivel de los estándares internacionales, en esta materia de resguardo de los derechos fundamentales por el uso de herramientas tecnológicas en las decisiones automatizadas por parte del Estado. Y, es aún más importante en una era donde existe desconfianza de parte de la ciudadanía respecto de las instituciones públicas, entonces, esta regulación justamente viene a responder a una necesidad ante el inminente avance de las tecnologías, y su intromisión en las decisiones de la Administración. 

En cuanto al aporte de la sociedad civil a la temática de la inteligencia artificial y la adopción de decisiones por parte del Estado. El año 2021 la Universidad Adolfo Ibáñez junto a la colaboración del Consejo para la Transparencia emitió un informe después de haber analizado distintos procesos administrativos, el que tuvo por objeto proponer “(…) un estándar normativo, indicando qué aspectos deben ser contenidos en aquél y por tanto debieran ser conocidos por los ciudadanos” (Escuela de Gobierno, Universidad Adolfo Ibáñez. Transparencia algorítmica en el sector público, 2021).

Este informe, probablemente sustentó en gran medida el sentido y alcance de la resolución N°373 del año 2024 dictada por el Consejo para la Transparencia. En definitiva, tanto la sociedad civil, como el Estado, han buscado mecanismos de control y límites para la inteligencia artificial, lo que da cuenta de que el diagnóstico está hecho. Es decir, existe una alta probabilidad de afectación a los derechos fundamentales de las personas por el uso de herramientas tecnológicas automatizadas en los distintos servicios públicos, municipios y otros organismos dependientes del Estado. Además, esto es extensivo a los procesos o herramientas tecnológicas que dependan del mundo privado, ya que la inteligencia artificial es utilizada por las empresas, y por ello es tan importante que la futura ley de inteligencia artificial se haga cargo de ambas realidades –público y privado– como bien lo hace en el proyecto.

En conclusión, es evidente que al menos desde el punto de vista de la Administración, el Estado debe regular el uso de las herramientas tecnológicas en las decisiones automatizadas, y estas, deben respetar los grandes principios pertinentes en esta materia, como lo son la transparencia, la protección de los datos personales y la fundamentación de toda decisión automatizada. El respeto irrestricto de estas directrices, hará que la tensión entre los derechos fundamentales y, la eficiencia y eficacia del actuar estatal, se vea equilibrado en la medida del respeto de la libertad de los derechos esenciales de las personas y, el adecuado desarrollo de la función pública.  

Eduardo Lara Aguayo es abogado y magíster en Derecho Público de la Universidad Mayor y candidato a doctor en Derecho de la Universidad Católica de la Santísima Concepción. Actualmente se desempeña como profesor de Derecho Constitucional de la Universidad Católica de Temuco y asesor jurídico externo en el Senado de la República.

Andrés Bazán Montaña es abogado, magíster en Alta Dirección Pública de la Universidad Mayor, magíster en Docencia Universitaria de la Universidad de Aconcagua y doctorando en Derecho de la Universidad Nacional de Rosario, Argentina. Actualmente se desempeña como director docente de Postgrado de Derecho de la Universidad Mayor sede Temuco y es profesor de la carrera de Derecho de esta universidad.