Bogotá, D.C., diciembre 3 de 2025 Honorable senador ALEX XAVIER FLOREZ HERNANDEZ Presidente Comisión Sexta Constitucional permanente senado HAIVER RINCÓN GUTIÉRREZ Presidente Comisión Sexta Constitucional permanente cámara Bogotá D.C. Referencia: Informe de Ponencia Positiva para primer debate al Proyecto de Ley número 043-2025 Senado - 324 de 2025 Cámara En cumplimiento de la designación realizada por la Honorable Mesa Directiva de la Comisión Sexta Constitucional del Senado de la República y Cámara de Representantes y de conformidad con lo establecido en el artículo 156 de la Ley 5ª de 1992, nos permitimos rendir Informe de Ponencia para primer debate al Proyecto de Ley 043 -2025 Senado- 324 de 2025 Cámara. ‘‘Por medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo ético, responsable, competitivo e innovador, y se dictan otras disposiciones”. Cordialmente, PEDRO HERNANDO FLOREZ PORRAS GERSON LISÍMACO MONTAÑO ARIZALA Senador de la República Representante a la Cámara CITREP-10° Sur Nariño INFORME DE PONENCIA PARA PRIMER DEBATE DEL PROYECTO DE LEY NO. 043 DE 2025 SENADO - 324 DE 2025 CAMARA “Por medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo ético, responsable, competitivo e innovador, y se dictan otras disposiciones”. I. Trámite de la iniciativa Este proyecto fue radicado el día 28 de julio de 2025 por parte de: LA MINISTRA DE CIENCIA, TECNOLOGÍA E INNOVACIÓN, DRA. ÁNGELA YESENIA OLAYA REQUENE; EL MINISTRO DE EDUCACIÓN NACIONAL, DR. JOSÉ DANIEL ROJAS MEDELLÍN; EL MINISTRO DE TECNOLOGÍAS DE LA INFORMACIÓN Y LAS COMUNICACIONES, DR. JULIÁN RUPERTO MOLINA GÓMEZ, H.S.PEDRO HERNANDO FLÓREZ PORRAS, ALEX XAVIER FLÓREZ HERNÁNDEZ, SANDRA RAMÍREZ LOBO SILVA, SONIA BERNAL SÁNCHEZ, SANDRA JAIMES CRUZ, ROBERT DAZA GUEVARA, CARLOS ALBERTO BENAVIDES MORA, CARLOS JULIO GONZÁLEZ VILLA, MARTHA PERALTA EPIEYÚ, H.R. DIEGO CAICEDO NAVAS, INGRID SOGAMOSO ALFONSO, ELIÉCER SALAZAR LÓPEZ, CIRO RODRIGUEZ PINZÓN, DAVID ALEJANDRO TORO, DOLCEY TORRES ROMERO, GABRIEL BECERRA YAÑEZ, ALIRIO URIBE MUÑÓZ, OLGA VELÁSQUEZ NIETO, DAVID RACERO MAYORCA, ETNA TAMARA ARGOTE CALDERÓN, JAMES MOSQUERA TORRES, JAIRO CALA SUÁREZ, DORINA HERNÁNDEZ PALOMINO, GERMÁN GÓMEZ LÓPEZ, MARIA DEL MAR PIZARRO GARCÍA, EDUARD SARMIENTO HIDALGO, HAIVER RINCÓN GUTIERREZ, CARMEN RAMÍREZ BOSCAN, CRISTOBAL CAICEDO ANGULO. Fue publicado en la gaceta no. 1390 de 2025, con Oficio De Adhesión por parte de la H.S. GLORIA FLOREZ publicado en gaceta no. 1300 de 2025. El día 14 agosto de 2025 fue repartido a la comisión sexta constitucional permanente del senado de la república donde la Honorable Mesa Directiva de la misma designó el 2 de septiembre de 2025 al H.S PEDRO HERNANDO FLOREZ PORRAS como ponente para el primer debate en Senado de la República del Proyecto de Ley en cuestión. El 8 de septiembre de 2025 se radico solicitud de mensaje de urgencia, de conformidad con lo establecido en los artículos 163 de la constitución política y 191 de la ley 5 de 199, para el proyecto de ley 043 de 2025 senado. El 18 de noviembre, la Mesa Directiva de la Comisión Sexta de la Cámara de Representantes designó como ponente único en la Cámara al Representante Gerson Montaño Arizala, designación que fue publicada mediante la Gaceta del Congreso No. 1300 de 2024. II. Objeto El artículo 1 define como objeto de la ley promover el desarrollo e implementación de la inteligencia artificial en Colombia, garantizando un enfoque ético, territorial, inclusivo, responsable y sostenible. El proyecto tendrá ámbito de aplicación sobre todas las personas naturales o jurídicas, públicas o privadas, que intervengan en cualquier etapa del ciclo de vida de un sistema de IA, desde su diseño y entrenamiento hasta su comercialización o uso, siempre que exista un vínculo territorial o efectos directos sobre personas o entidades en Colombia. Con esta disposición, se asegura que la norma sea efectiva ante fenómenos transnacionales, como el uso de datos o servicios digitales alojados en el extranjero pero con impacto sobre la ciudadanía colombiana. III. Exposición de motivos La Inteligencia Artificial (IA) está transformando aceleradamente las dinámicas económicas, sociales y tecnológicas del mundo contemporáneo. Su capacidad para optimizar procesos, crear nuevos modelos de negocio y ampliar las fronteras del conocimiento la convierte en un eje central del desarrollo global. Sin embargo, también plantea retos complejos asociados con su uso seguro, ético y responsable. En este contexto, surge la necesidad de que Colombia establezca un marco regulatorio claro que permita aprovechar sus beneficios sin comprometer los derechos de las personas ni la estabilidad institucional. Este proyecto de ley propone regular la IA en el país para impulsar su adopción de manera responsable, transparente e innovadora. El propósito es sentar las bases para que la IA contribuya al crecimiento sostenible, fortalezca la competitividad empresarial y fomente una ciencia y tecnología alineadas con el bienestar colectivo. La regulación no busca frenar la innovación; por el contrario, pretende crear condiciones para que esta florezca dentro de límites que salvaguarden la seguridad, la privacidad y los valores democráticos. La iniciativa es especialmente relevante para Colombia, un país que debe prepararse para la integración plena de estas tecnologías, garantizando no solo su disponibilidad sino también su comprensión y control. El proyecto reconoce que el avance de la IA exige normas que articulen a la academia, el Estado, la industria y la ciudadanía, con el fin de garantizar que su adopción sea incluyente, equitativa y socialmente beneficiosa. La propuesta se organiza en capítulos que abordan dimensiones claves de la IA: incentivos a la investigación, mecanismos de transparencia y rendición de cuentas, categorización de riesgos, sistemas de capacitación, responsabilidades institucionales y estándares de manejo de datos. Cada sección está diseñada para facilitar la incorporación segura y estratégica de la IA en el país, promoviendo una sociedad más competitiva, con una economía basada en conocimiento, respetuosa del medio ambiente y protectora de los derechos fundamentales. En suma, este proyecto constituye un paso necesario para asegurar que la implementación de la IA en Colombia se realice con criterios éticos, seguros e inclusivos, y que contribuya efectivamente al desarrollo nacional y al bienestar general. IV. Antecedentes y contexto El desarrollo y uso de la inteligencia artificial (IA) se ha convertido en uno de los principales motores de transformación económica, social y cultural en el mundo contemporáneo. Su impacto trasciende los ámbitos de la ciencia y la tecnología para incidir directamente en la forma en que producimos, educamos, nos relacionamos y gobernamos. En el contexto colombiano, la Política Nacional de Inteligencia Artificial (CONPES 4144 de 2025) marcó un punto de partida para la construcción de capacidades institucionales y científicas, sin embargo, el país carece aún de un marco jurídico integral que defina reglas claras sobre su uso ético, seguro y responsable, en armonía con los principios constitucionales. La ausencia de una regulación específica plantea riesgos en materia de derechos fundamentales, soberanía tecnológica y equidad social, y al mismo tiempo genera incertidumbre para el sector productivo y la investigación científica. Este proyecto busca llenar ese vacío normativo, sin obstaculizar la innovación, estableciendo principios, definiciones, mecanismos de gobernanza y responsabilidades que permitan que Colombia se inserte de manera competitiva en la cuarta revolución industrial. V. Justificación general El acelerado desarrollo tecnológico ha situado a la IA como una de las principales fuerzas transformadoras de la economía mundial. Sus aplicaciones abarcan múltiples sectores y generan oportunidades inéditas para la productividad, la innovación y la calidad de vida. No obstante, la ausencia de lineamientos claros puede amplificar riesgos sociales, económicos y jurídicos, especialmente en países en proceso de adopción tecnológica. A medida que la IA se integra en campos como la salud, el trabajo, la seguridad, la educación y la gestión pública, se evidencian tensiones entre los beneficios económicos y los riesgos asociados a la autonomía de los algoritmos, la posibilidad de decisiones sesgadas, la opacidad en el tratamiento de datos y los impactos sobre derechos fundamentales. Estos escenarios requieren una respuesta normativa equilibrada que garantice que la IA se utilice para fortalecer, y no debilitar, los principios del Estado Social de Derecho. Desde una perspectiva de derechos, preocupa el uso de sistemas de IA para vigilancia masiva, discriminación algorítmica, interceptación ilegítima de comunicaciones o afectaciones a la privacidad. Asimismo, existen riesgos derivados de la dependencia tecnológica, la falta de explicabilidad de los sistemas y la afectación a poblaciones vulnerables. Regular estos escenarios es necesario para evitar abusos, asegurar la responsabilidad institucional y proteger a los ciudadanos frente a decisiones automatizadas. Al mismo tiempo, regular la IA permite incentivar la innovación y el crecimiento industrial. Otros países ya han avanzado en marcos legales que equilibran competitividad y protección de derechos. Para Colombia, mantenerse al margen implicaría rezagarse en un escenario global donde la transformación digital es determinante para la productividad y para la inserción en cadenas de valor basadas en conocimiento. La propuesta también responde al llamado de organismos internacionales —como la ONU, la UNESCO, la OCDE y el Consejo de Europa— que han enfatizado la importancia de adoptar marcos éticos y jurídicos comunes para orientar el desarrollo tecnológico. Estos organismos han señalado que la IA debe regirse por principios de transparencia, equidad, seguridad, sostenibilidad y respeto por los derechos humanos. En consecuencia, este proyecto se justifica como un instrumento necesario para armonizar el avance tecnológico con la protección constitucional, garantizar un sistema de innovación responsable y nivelar al país frente a los estándares internacionales. Su objetivo es asegurar que la IA contribuya al desarrollo humano, la igualdad de oportunidades y la consolidación de un entorno económico dinámico y moderno, sin generar nuevas formas de exclusión o vulneración de derechos. La presente iniciativa responde a tres propósitos estratégicos: 1. Garantizar el desarrollo ético y responsable de la IA, en coherencia con la Constitución Política, los tratados internacionales de derechos humanos y los principios de la OCDE y la UNESCO sobre el uso ético de la tecnología. 2. Fomentar la competitividad, la innovación y la soberanía tecnológica, mediante un marco flexible que incentive la investigación, la inversión y el emprendimiento digital en todos los territorios. 3. Proteger los derechos fundamentales, asegurando que los sistemas automatizados operen bajo supervisión humana, transparencia y rendición de cuentas. La iniciativa no busca limitar la innovación, sino generar confianza y seguridad jurídica para todos los actores del ecosistema tecnológico. De igual manera el proyecto de ley se estructura de la siguiente forma: El Capítulo I establece un conjunto de principios orientadores que garantizan la coherencia ética y social de la regulación. Entre ellos destacan: Supervisión humana: los sistemas de IA deberán operar siempre bajo control humano, asegurando la centralidad de la persona; Diversidad e inclusión: se promueve la participación de mujeres, pueblos étnicos, comunidades rurales, personas con discapacidad y demás grupos históricamente excluidos; Transparencia y explicabilidad: los usuarios deben poder comprender cómo se generan las decisiones automatizadas; Soberanía tecnológica y autonomía digital: se busca fortalecer la capacidad nacional de desarrollo e infraestructura tecnológica; Innovación responsable: se fomenta la experimentación segura mediante sandbox regulatorios y entornos colaborativos; Estos principios orientan la aplicación progresiva de la ley y aseguran que el desarrollo tecnológico se realice en función del bienestar colectivo y no del interés puramente económico. El Capítulo II introduce un conjunto de definiciones técnicas precisas que delimitan los conceptos de Sistema de Inteligencia Artificial, Ciclo de vida del sistema de IA, Datos, Sandbox regulatorio, Deepfake, Responsable, Desarrollador, Proveedor, Implementador y Usuario, entre otros. La claridad conceptual permitirá a las autoridades y actores del sector aplicar la ley con precisión, evitando vacíos interpretativos. Además, se diferencian las responsabilidades según el rol que cada actor desempeñe en el ciclo de vida del sistema, garantizando un régimen de responsabilidad proporcional y compartida. El Capítulo III constituye una de las innovaciones centrales del proyecto. Establece un modelo de regulación basada en riesgos, con cuatro niveles: 1. Sistemas de IA de riesgo crítico, cuya implementación general no está permitida por su potencial afectación a los derechos humanos. 2. Sistemas de alto riesgo, sujetos a evaluaciones de impacto, auditorías y control. 3. Sistemas con obligaciones específicas de transparencia, que deben informar su uso al usuario. 4. Sistemas de riesgo mínimo o nulo, sujetos a autorregulación y buenas prácticas. Este enfoque adopta los estándares del Reglamento Europeo de Inteligencia Artificial (UE, 2024), garantizando proporcionalidad normativa y competitividad internacional. Asimismo, el artículo 6 dispone la Evaluación de Impacto en IA, mecanismo de prevención que fortalece la rendición de cuentas y la confianza social en los algoritmos. El Capítulo IV crea la Autoridad Nacional para la Inteligencia Artificial, en cabeza del Ministerio de Ciencia, Tecnología e Innovación (MinCiencias), encargada de orientar la implementación de la ley, coordinar la gobernanza y emitir conceptos técnicos vinculantes en materia de riesgo. Adicionalmente, se conforma el Comité Intersectorial de Coordinación en IA, que integra entidades del orden nacional, el sector académico, productivo y la sociedad civil, así como el Consejo Asesor Nacional de Expertos en IA, como órgano consultivo de alto nivel. Este diseño institucional busca evitar la duplicidad de funciones y fortalecer la coordinación técnica y política entre las distintas entidades del Estado, promoviendo una gobernanza colaborativa y transparente. El Capítulo V impulsa la creación de programas y fondos de apoyo a la investigación científica y tecnológica en IA, fomentando la colaboración público-privada y la participación de universidades, centros de investigación y emprendedores. El artículo 13 establece la figura del sandbox regulatorio, entorno de prueba supervisado que permitirá experimentar con tecnologías de alto impacto bajo control ético y técnico. Por su parte, los artículos 15 a 25 desarrollan un robusto componente educativo que incorpora contenidos sobre IA desde la educación básica hasta la superior, así como incentivos para la formación de talento técnico y especializado. Este eje formativo convierte a la ley en un instrumento de política educativa y de desarrollo humano, coherente con los artículos 67 y 70 de la Constitución. El Capítulo VII reconoce que la automatización y la IA pueden modificar los mercados laborales, y establece mecanismos para una transición justa. Los empleadores deberán diseñar planes de reconversión y capacitación para los trabajadores cuyos oficios sean impactados por la automatización, garantizando respeto por la dignidad humana y protección del empleo. El Ministerio del Trabajo y MinCiencias coordinarán lineamientos y guías técnicas para este fin. Esta previsión sitúa al país a la vanguardia regional en materia de derechos laborales frente a la transformación digital. El Capítulo VIII promueve la cooperación internacional en materia de IA, preservando al mismo tiempo la autonomía regulatoria y la soberanía tecnológica del país. Los acuerdos multilaterales deberán observar los principios de justicia tecnológica, transparencia y responsabilidad compartida, priorizando el fortalecimiento de capacidades nacionales y la transferencia de conocimiento. El Capítulo IX establece un régimen de responsabilidades administrativas, civiles, penales y éticas, con enfoque preventivo. Las infracciones se sancionarán bajo criterios de proporcionalidad, gradualidad y mejora continua, privilegiando las acciones pedagógicas y correctivas sobre las punitivas. El proyecto establece la posibilidad de multas, suspensión temporal o cierre de sistemas de IA en casos de incumplimiento grave, y designa a la Superintendencia de Industria y Comercio como autoridad de inspección y vigilancia en materias de protección de datos, libre competencia y derechos de los consumidores. Los Capítulos IX y X también regulan la adaptación de los sistemas existentes, la financiación de la política pública de IA y la revisión periódica de la ley. De esta manera, el marco normativo será dinámico y adaptable, permitiendo al país ajustarse a los avances tecnológicos y a las buenas prácticas internacionales. VI. Conclusión y Consideraciones El Proyecto de Ley 043 de 2025 constituye un instrumento jurídico de carácter estructural que permitirá al Estado colombiano orientar la transición digital con criterios de ética, competitividad y soberanía. Sus disposiciones equilibran el impulso a la innovación con la protección de los derechos fundamentales, fortalecen las capacidades científicas nacionales y promueven una economía del conocimiento inclusiva y sostenible. El Proyecto de Ley 043 de 2025 constituye, en esencia, una arquitectura jurídica diseñada no para contener la innovación, sino para habilitarla bajo estándares que respondan a la realidad institucional, productiva y social del país. Su mayor fortaleza radica en que articula, por primera vez en Colombia, un ecosistema regulatorio integral que responde simultáneamente a la necesidad de proteger los derechos fundamentales y a la urgencia de fortalecer la competitividad nacional en inteligencia artificial. Al colocar la proporcionalidad del riesgo como eje estructural y no la restricción preventiva indiscriminada, el proyecto evita los errores más comunes de la sobrerregulación temprana, permitiendo que la IA de bajo y medio riesgo prospere sin cargas adicionales, mientras concentra la acción estatal en aquellos usos cuyo potencial de daño exige intervención especializada. Este enfoque adaptativo y basado en evidencia no sólo es técnicamente sólido, sino que alinea a Colombia con las mejores prácticas regulatorias internacionales, sin calcar modelos ajenos que no responden a nuestras realidades económicas, territoriales o institucionales. El proyecto también ofrece un pilar de gobernanza robusto y moderno: la Autoridad Nacional de IA y el Comité Intersectorial, mecanismos que permiten superar la actual dispersión normativa y técnica entre entidades. En un país con profundas asimetrías institucionales y capacidades regulatorias heterogéneas, centralizar la orientación técnica en MinCiencias no es un capricho burocrático, sino una garantía de consistencia, trazabilidad y capacidad estatal real para enfrentar la velocidad del cambio tecnológico. La creación de esta gobernanza coordinada permitirá que sectores estratégicos como salud, justicia, educación, transporte, seguridad y agricultura puedan adoptar la IA con claridad normativa y supervisión técnica experta, en lugar de regular de manera fragmentada, reactiva o contradictoria. De manera particularmente innovadora, el proyecto introduce un instrumento que lo sitúa a la vanguardia regional: los sandbox regulatorios. Esta figura, diseñada con rigor conceptual y operativo, permite al Estado colombiano aprender mientras regula, evaluar antes de sancionar y ajustar antes de prohibir. En lugar de replicar esquemas rígidos que penalizan la experimentación, el modelo de sandbox plantea una relación dinámica entre innovación y supervisión, donde desarrolladores y autoridades co-construyen evidencia regulatoria en entornos controlados. Este enfoque no solo minimiza riesgos en tecnologías sensibles, sino que acelera la capacidad del país para adoptar soluciones emergentes en sectores productivos, sociales y administrativos, reduciendo las brechas frente a potencias tecnológicas y aumentando la soberanía científica y digital. Asimismo, el proyecto reconoce que la IA no es solo un asunto técnico, sino un fenómeno transversal que afecta la formación de talento, la equidad territorial, la estructura productiva y la transformación laboral. En este sentido, incorpora disposiciones para el fortalecimiento de la educación en todos los niveles, la creación de talento especializado, la reconversión laboral responsable y la inclusión de mujeres, pueblos étnicos, jóvenes, regiones y sectores históricamente excluidos. Esta visión integral es fundamental para que la IA no profundice desigualdades, sino que se convierta en un motor de movilidad social, democratización del conocimiento y generación de oportunidades para territorios y sectores productivos que hoy están al margen de la economía digital. Finalmente, el proyecto es conveniente porque equilibra adecuadamente innovación y garantía de derechos. Establece mecanismos de responsabilidad diferenciada, medidas preventivas antes que punitivas, sanciones graduales y una clara política de protección de datos, propiedad intelectual y derechos fundamentales, sin caer en prohibiciones absolutas que frenen el desarrollo científico. Su enfoque de progresividad, adaptabilidad, soberanía tecnológica y colaboración multiactor coloca a Colombia en una posición estratégica para liderar la regulación inteligente de la IA en América Latina, generando certidumbre para los inversionistas, confianza para los ciudadanos y un marco de seguridad jurídica que potencia, en lugar de restringir, la creatividad de nuestro ecosistema académico, productivo y tecnológico. En síntesis, este proyecto no es simplemente una ley: es un marco de futuro que construye capacidades, reduce riesgos, promueve innovación, protege derechos y prepara al país para el nuevo orden tecnológico global. Su aprobación permitirá que Colombia transite de la improvisación regulatoria a una política pública de Estado en materia de inteligencia artificial, capaz de fomentar un desarrollo ético, responsable y competitivo que beneficie a toda la sociedad. Por ello, la conveniencia del proyecto no solo es defendible: es imperativa para asegurar que Colombia no quede rezagada en la revolución tecnológica que ya redefine las democracias, las economías y las instituciones contemporáneas. Por lo anterior, el suscrito ponente recomienda dar trámite favorable al articulado del Proyecto de Ley 043 de 2025 Senado, por considerar que armoniza los valores constitucionales de dignidad humana, trabajo, conocimiento y desarrollo sostenible con las demandas del nuevo contexto tecnológico global. VII. Pliego de modificaciones Texto radicado Texto propuesto primer Comentarios debate Capítulo I: Disposiciones Sin modificaciones generales Artículo 1. Objeto: La Sin modificaciones presente ley tiene por objeto promover la generación de conocimiento, el desarrollo de la infraestructura tecnológica y la implementación de la Inteligencia Artificial (IA) en Colombia, el crecimiento económico y la competitividad, con un enfoque territorial, ético, inclusivo, responsable y sostenible, que fortalezca las capacidades científicas, productivas, institucionales y de innovación, y contribuya a la prevalencia de los derechos fundamentales y de los derechos adquiridos en el ordenamiento jurídico vigente, incluido el bloque de constitucionalidad. Artículo 2. Ámbito de Sin modificaciones aplicación: La presente ley se aplica a todas las personas naturales o jurídicas, de carácter público o privado, que participen en cualquier etapa del ciclo de vida de un sistema de inteligencia artificial — incluyendo su diseño, desarrollo, entrenamiento, prueba, validación, despliegue, operación, monitoreo, mantenimiento, comercialización, importación, distribución o uso— cuando se configure alguno de los siguientes supuestos: a. Que el Sistema de IA sea desarrollado, entrenado, implementado o utilizado físicamente en territorio colombiano. b. Que el Sistema de IA produzca efectos jurídicos, económicos, sociales o ambientales sobre personas naturales o jurídicas ubicadas en Colombia. c. Que el Sistema de IA utilice como insumos datos personales, contenidos, obras o información proveniente de personas, entidades o infraestructuras domiciliadas en Colombia, incluyendo información protegida por normas legales nacionales. d. Que el Sistema de IA dependa de bases de datos, plataformas, servicios de almacenamiento, curación de contenidos u otros insumos esenciales suministrados desde Colombia o por actores sujetos a la legislación colombiana. Para todos los efectos de esta ley, las personas o entidades que cumplan con alguno de los supuestos anteriores serán consideradas “Responsables de IA”. Artículo 3. Principios Artículo 3. Principios En el numeral 3.16 Se rectores para el desarrollo y rectores para el desarrollo y modifica la palabra uso de la Inteligencia uso de la Inteligencia “dominadas” por Artificial: Sin perjuicio de lo Artificial: Sin perjuicio de lo “dominantes”, dado que el dispuesto en la Constitución dispuesto en la Constitución contexto corresponde al Política y en la Ley 1341 de Política y en la Ley 1341 de análisis de posiciones de 2009, todas las personas y 2009, todas las personas y mercado. entidades sujetas al ámbito de entidades sujetas al ámbito de aplicación de la presente ley, aplicación de la presente ley, deberán atender los siguientes deberán atender los siguientes principios: principios: 3.1. Intervención y 3.1. Intervención y supervisión humana: Los supervisión humana: Los sistemas de IA se desarrollarán sistemas de IA se desarrollarán y utilizarán como herramientas y utilizarán como herramientas al servicio del ser humano, al servicio del ser humano, respetando la privacidad, la respetando la privacidad, la dignidad y autonomía dignidad y autonomía personal. Estos sistemas personal. Estos sistemas deberán operar de manera que deberán operar de manera que permitan su control, auditoría y permitan su control, auditoría y supervisión adecuada por parte supervisión adecuada por parte de seres humanos. de seres humanos. 3.2. Diversidad, inclusión y 3.2. Diversidad, inclusión y enfoque diferencial: La enfoque diferencial: La inteligencia artificial en inteligencia artificial en Colombia deberá desarrollarse Colombia deberá desarrollarse con respeto por la dignidad con respeto por la dignidad humana, la pluralidad étnica, humana, la pluralidad étnica, cultural, de género y territorial, cultural, de género y territorial, sin reproducir prácticas sin reproducir prácticas discriminatorias ni generar discriminatorias ni generar brechas. Se promoverá la brechas. Se promoverá la participación activa de participación activa de mujeres, pueblos étnicos, mujeres, pueblos étnicos, comunidades rurales, personas comunidades rurales, personas con discapacidad y otros con discapacidad y otros grupos históricamente grupos históricamente excluidos, adoptando acciones excluidos, adoptando acciones afirmativas que garanticen su afirmativas que garanticen su inclusión en todos los procesos inclusión en todos los procesos relacionados con la IA. relacionados con la IA. 3.3. Bienestar social y 3.3. Bienestar social y medioambiental: El medioambiental: El desarrollo y uso de los sistemas desarrollo y uso de los sistemas de IA en Colombia deberán de IA en Colombia deberán contribuir activamente al contribuir activamente al bienestar colectivo y a la bienestar colectivo y a la sostenibilidad ambiental, sostenibilidad ambiental, fomentando su integración con fomentando su integración con los principios de justicia social, los principios de justicia social, inclusión, innovación inclusión, innovación productiva y respeto por la productiva y respeto por la diversidad natural y cultural diversidad natural y cultural del país. Los actores públicos y del país. Los actores públicos y privados vinculados al ciclo de privados vinculados al ciclo de vida de los sistemas de IA vida de los sistemas de IA incorporarán prácticas de incorporarán prácticas de evaluación de impactos evaluación de impactos sociales, culturales, sociales, culturales, económicos y ambientales en económicos y ambientales en sus contextos específicos, sus contextos específicos, considerando los efectos a considerando los efectos a corto, mediano y largo plazo. corto, mediano y largo plazo. Estas acciones deberán orientar Estas acciones deberán orientar la mejora continua, la la mejora continua, la innovación responsable y la innovación responsable y la generación de valor público, generación de valor público, sin comprometer el equilibrio sin comprometer el equilibrio entre crecimiento económico, entre crecimiento económico, desarrollo humano y desarrollo humano y sostenibilidad. sostenibilidad. 3.4. Ética y sostenibilidad: El 3.4. Ética y sostenibilidad: El desarrollo y uso de la desarrollo y uso de la inteligencia artificial en inteligencia artificial en Colombia se basarán en Colombia se basarán en principios éticos que principios éticos que promuevan la transparencia, la promuevan la transparencia, la equidad, la no discriminación, equidad, la no discriminación, la protección de la privacidad y la protección de la privacidad y el respeto por los derechos el respeto por los derechos humanos. La sostenibilidad humanos. La sostenibilidad ambiental, social y económica ambiental, social y económica orientará la innovación orientará la innovación tecnológica hacia la generación tecnológica hacia la generación de valor público y privado, la de valor público y privado, la inclusión social y el bienestar inclusión social y el bienestar presente y futuro, sin que ello presente y futuro, sin que ello represente una limitación al represente una limitación al progreso científico y progreso científico y productivo. productivo. 3.5. Transparencia y 3.5. Transparencia y confianza: Los sistemas de IA confianza: Los sistemas de IA deberán ser diseñados y deberán ser diseñados y operados con criterios que operados con criterios que aseguren la claridad, aseguren la claridad, trazabilidad y trazabilidad y comprensibilidad de sus comprensibilidad de sus procesos y resultados, tanto procesos y resultados, tanto para usuarios como para las para usuarios como para las autoridades competentes. En autoridades competentes. En contextos que involucren contextos que involucren derechos fundamentales o el derechos fundamentales o el interés público, se fomentará la interés público, se fomentará la capacidad de verificación, capacidad de verificación, auditoría y cuestionamiento. auditoría y cuestionamiento. Las personas deberán ser Las personas deberán ser informadas cuando interactúan informadas cuando interactúan con sistemas de IA, con sistemas de IA, promoviendo confianza, promoviendo confianza, inclusión y seguridad sin inclusión y seguridad sin afectar la innovación afectar la innovación tecnológica. tecnológica. 3.6. Innovación Responsable: 3.6. Innovación Responsable: La innovación es un motor La innovación es un motor fundamental para el desarrollo fundamental para el desarrollo científico, tecnológico y social científico, tecnológico y social del país. El uso de la IA deberá del país. El uso de la IA deberá promover soluciones promover soluciones transformadoras que transformadoras que respondan a desafíos públicos, respondan a desafíos públicos, productivos, sociales y productivos, sociales y ambientales, fortaleciendo las ambientales, fortaleciendo las capacidades locales, la capacidades locales, la transferencia de conocimiento transferencia de conocimiento y la creación de valor público y y la creación de valor público y privado. La regulación privado. La regulación fomentará entornos fomentará entornos colaborativos, adaptativos y colaborativos, adaptativos y propicios para el propicios para el emprendimiento, la inversión y emprendimiento, la inversión y la experimentación la experimentación responsable con tecnologías responsable con tecnologías emergentes. emergentes. 3.7. Privacidad y 3.7. Privacidad y confidencialidad: La confidencialidad: La implementación y uso de implementación y uso de sistemas de IA deberá respetar sistemas de IA deberá respetar el derecho fundamental a la el derecho fundamental a la intimidad y garantizar la intimidad y garantizar la protección de los datos protección de los datos personales, conforme a la personales, conforme a la regulación vigente en regulación vigente en Colombia. Se promoverá un Colombia. Se promoverá un enfoque de innovación segura enfoque de innovación segura que permita el avance que permita el avance tecnológico con respeto por la tecnológico con respeto por la autonomía de las personas, la autonomía de las personas, la confianza pública y la confianza pública y la confidencialidad de la confidencialidad de la información. información. 3.8. Proporcionalidad o 3.8. Proporcionalidad o inocuidad: Las medidas de inocuidad: Las medidas de supervisión y gestión de los supervisión y gestión de los sistemas de IA deberán ser sistemas de IA deberán ser proporcionales a los niveles de proporcionales a los niveles de riesgo, autonomía y contexto riesgo, autonomía y contexto de uso, promoviendo un de uso, promoviendo un equilibrio entre la protección equilibrio entre la protección de los derechos fundamentales de los derechos fundamentales y la habilitación de soluciones y la habilitación de soluciones innovadoras. El desarrollo de la innovadoras. El desarrollo de la IA deberá orientarse al IA deberá orientarse al beneficio de las personas, la beneficio de las personas, la sociedad y el ambiente, sociedad y el ambiente, garantizando que los garantizando que los mecanismos regulatorios no mecanismos regulatorios no impongan barreras impongan barreras innecesarias al progreso innecesarias al progreso científico, económico o científico, económico o tecnológico. tecnológico. 3.9. Respeto, protección y 3.9. Respeto, protección y promoción de los derechos promoción de los derechos fundamentales y la dignidad fundamentales y la dignidad humana: Los desarrolladores humana: Los desarrolladores de sistemas basados en IA de sistemas basados en IA serán responsables de serán responsables de garantizar que el desarrollo garantizar que el desarrollo tecnológico respete, proteja y tecnológico respete, proteja y promueva los derechos promueva los derechos fundamentales y la dignidad fundamentales y la dignidad humana. Ninguna persona o humana. Ninguna persona o comunidad debe ser comunidad debe ser perjudicada o sometida debido perjudicada o sometida debido al desarrollo y uso de la IA y es al desarrollo y uso de la IA y es su deber evitar a toda costa su deber evitar a toda costa perjuicios y garantizar un perjuicios y garantizar un desarrollo tecnológico desarrollo tecnológico inclusivo. inclusivo. 3.10. Protección del medio 3.10. Protección del medio ambiente y los ecosistemas: ambiente y los ecosistemas: El desarrollo y uso de sistemas El desarrollo y uso de sistemas de IA deberán minimizar su de IA deberán minimizar su impacto ambiental, promover impacto ambiental, promover prácticas sostenibles y prácticas sostenibles y contribuir a la conservación de contribuir a la conservación de los ecosistemas y la los ecosistemas y la biodiversidad. Se incentivará biodiversidad. Se incentivará la innovación en tecnologías la innovación en tecnologías verdes y soluciones verdes y soluciones ambientales que impulsen el ambientales que impulsen el desarrollo económico desarrollo económico responsable, reduzcan la huella responsable, reduzcan la huella de carbono, mitiguen el cambio de carbono, mitiguen el cambio climático y prevengan el uso no climático y prevengan el uso no sostenible de los recursos sostenible de los recursos naturales, en armonía con la naturales, en armonía con la Constitución y la ley. Constitución y la ley. 3.11. Promoción del 3.11. Promoción del desarrollo económico desarrollo económico sostenible: Las personas sostenible: Las personas naturales y jurídicas sujetas a naturales y jurídicas sujetas a esta ley contribuirán al esta ley contribuirán al crecimiento económico crecimiento económico sostenible, la generación de sostenible, la generación de empleo de calidad y el empleo de calidad y el fortalecimiento de sectores fortalecimiento de sectores productivos emergentes. La IA productivos emergentes. La IA será impulsada como una será impulsada como una herramienta para aumentar la herramienta para aumentar la competitividad, dinamizar la competitividad, dinamizar la innovación y fomentar el innovación y fomentar el emprendimiento. El desarrollo emprendimiento. El desarrollo tecnológico promoverá la tecnológico promoverá la creación de valor en todo el creación de valor en todo el territorio nacional y la territorio nacional y la distribución equitativa de sus distribución equitativa de sus beneficios, fortaleciendo un beneficios, fortaleciendo un ecosistema productivo ecosistema productivo inclusivo y ético. inclusivo y ético. 3.12. Soberanía tecnológica y 3.12. Soberanía tecnológica y autonomía digital: El autonomía digital: El desarrollo de IA en Colombia desarrollo de IA en Colombia promoverá el fortalecimiento promoverá el fortalecimiento de capacidades nacionales en de capacidades nacionales en infraestructura, talento, datos y infraestructura, talento, datos y conocimiento, favoreciendo la conocimiento, favoreciendo la apropiación tecnológica y la apropiación tecnológica y la autonomía digital en el marco autonomía digital en el marco de la sociedad del de la sociedad del conocimiento. conocimiento. 3.13. Progresividad y 3.13. Progresividad y adaptabilidad normativa: La adaptabilidad normativa: La aplicación de esta ley se aplicación de esta ley se realizará de manera progresiva, realizará de manera progresiva, adaptativa y basada en adaptativa y basada en evidencia, considerando los evidencia, considerando los avances tecnológicos, las avances tecnológicos, las capacidades institucionales, la capacidades institucionales, la madurez de los ecosistemas madurez de los ecosistemas locales y las mejores prácticas locales y las mejores prácticas nacionales e internacionales. nacionales e internacionales. 3.14. Colaboración 3.14. Colaboración multiactor: La gobernanza, multiactor: La gobernanza, desarrollo y uso de la desarrollo y uso de la inteligencia artificial en inteligencia artificial en Colombia se orientará por Colombia se orientará por esquemas de articulación esquemas de articulación efectiva entre el sector público, efectiva entre el sector público, la academia, el sector la academia, el sector productivo y la sociedad civil, productivo y la sociedad civil, promoviendo la cocreación de promoviendo la cocreación de soluciones, la interoperabilidad soluciones, la interoperabilidad de estándares y el diálogo de estándares y el diálogo constante entre actores. constante entre actores. 3.15. Aprovechamiento del 3.15. Aprovechamiento del conocimiento local: Se conocimiento local: Se fomentará la creación, fomentará la creación, adaptación y transferencia de adaptación y transferencia de tecnologías de inteligencia tecnologías de inteligencia artificial a partir del artificial a partir del conocimiento científico, conocimiento científico, ancestral, comunitario y ancestral, comunitario y técnico existente en Colombia, técnico existente en Colombia, reconociendo su potencial para reconociendo su potencial para generar soluciones pertinentes generar soluciones pertinentes y sostenibles. y sostenibles. 3.16. Libre competencia 3.16. Libre competencia económica: El desarrollo, económica: El desarrollo, entrenamiento, entrenamiento, comercialización, comercialización, implementación y uso de los implementación y uso de los sistemas de inteligencia sistemas de inteligencia artificial deberán respetar y artificial deberán respetar y promover el principio de libre promover el principio de libre competencia económica. En tal competencia económica. En tal sentido, los desarrolladores, sentido, los desarrolladores, creadores, proveedores, creadores, proveedores, operadores y demás operadores y demás responsables de la IA deberán responsables de la IA deberán abstenerse de utilizar esta abstenerse de utilizar esta tecnología para generar tecnología para generar barreras de entrada barreras de entrada injustificables, conceder injustificables, conceder ventajas competitivas ventajas competitivas indebidas, facilitar prácticas de indebidas, facilitar prácticas de coordinación anticompetitiva o coordinación anticompetitiva o consolidar posiciones consolidar posiciones dominadas que no se deriven dominadas dominantes que no del mérito empresarial. En se deriven del mérito ningún caso, la inteligencia empresarial. En ningún caso, la artificial podrá emplearse inteligencia artificial podrá como medio para incurrir en emplearse como medio para prácticas restrictivas de la incurrir en prácticas restrictivas competencia, actos de de la competencia, actos de competencia desleal y/o abusos competencia desleal y/o abusos de posición dominante. de posición dominante. Capítulo II: Definiciones Sin modificaciones Artículo 4. Definiciones: Para Artículo 4. Definiciones: Para Se ajusta la definición 4.1 de los efectos de la presente ley, se los efectos de la presente ley, se Inteligencia Artificial (IA) adoptan las siguientes adoptan las siguientes para hacerla más precisa, definiciones: definiciones: excluyendo expresamente su . Conceptos generales y A. Conceptos generales y caracterización como técnicos técnicos disciplina. 4.1. Inteligencia 4.1. Inteligencia Artificial (IA): Artificial (IA): Disciplina científica Disciplina científica orientada al desarrollo orientada al desarrollo de tecnologías capaces de tecnologías capaces de simular procesos de simular procesos cognitivos asociados a cognitivos asociados a la inteligencia la inteligencia humana, como el humana, como el aprendizaje, el aprendizaje, el razonamiento lógico, razonamiento lógico, la resolución de la resolución de problemas o la problemas o la creatividad, mediante creatividad, mediante sistemas informáticos sistemas informáticos que procesan datos y que procesan datos y ejecutan tareas de ejecutan tareas de forma automatizada. forma automatizada. 4.2. Sistema de Conjunto de Inteligencia tecnologías, sistemas Artificial: Sistema y algoritmos que basado en máquina permiten a los que, para un conjunto sistemas informáticos de objetivos definidos procesar datos, por humanos, puede percibir su entorno, generar predicciones, aprender de la recomendaciones o experiencia y realizar decisiones que tareas o tomar influyen en entornos decisiones de manera reales o virtuales. autónoma o Utiliza entradas semiautónoma, humanas y/o de simulando funciones máquina para percibir cognitivas asociadas su entorno, abstraerlo a la inteligencia mediante modelos humana, tales como computacionales y el aprendizaje, el derivar acciones o razonamiento, la información mediante resolución de inferencia lógica, problemas y la probabilística o generación de algorítmica. contenidos, con el 4.3. Ciclo de vida del propósito de apoyar, sistema de IA: optimizar o Conjunto de fases por automatizar procesos las que transita un en distintos ámbitos sistema de IA, desde de la actividad su diseño hasta su humana. desmantelamiento, 4.2. Sistema de incluyendo las etapas Inteligencia de desarrollo, Artificial: Sistema entrenamiento, basado en máquina validación, que, para un conjunto implementación, de objetivos definidos operación, monitoreo, por humanos, puede actualización y cese de generar predicciones, uso. recomendaciones o 4.4. Datos: decisiones que Información digital influyen en entornos estructurada o no reales o virtuales. estructurada, personal Utiliza entradas o no personal, que humanas y/o de puede ser utilizada máquina para percibir como insumo para el su entorno, abstraerlo entrenamiento, mediante modelos evaluación o computacionales y funcionamiento de derivar acciones o sistemas de IA. información mediante 4.5. Sandbox inferencia lógica, regulatorio en probabilística o inteligencia artificial: algorítmica. Entorno controlado y 4.3. Ciclo de vida del temporal, autorizado sistema de IA: por la autoridad Conjunto de fases por competente, que las que transita un permite probar sistema de IA, desde tecnologías o su diseño hasta su aplicaciones basadas desmantelamiento, en IA bajo supervisión incluyendo las etapas institucional, con el fin de desarrollo, de facilitar la entrenamiento, innovación validación, responsable, evaluar implementación, riesgos y explorar operación, monitoreo, posibles ajustes actualización y cese de normativos sin uso. comprometer derechos fundamentales ni la 4.4. Datos: seguridad de los Información digital sistemas públicos o estructurada o no privados involucrados. estructurada, personal 4.6. Deepfake: o no personal, que Técnica de síntesis de puede ser utilizada medios basada en IA como insumo para el que permite crear, entrenamiento, modificar o evaluación o reemplazar contenido funcionamiento de audiovisual con un alto sistemas de IA. grado de realismo, 4.5. generalmente Sandbox regulatorio mediante aprendizaje en profundo. inteligencia artificial: 4.7. Suplantación Entorno controlado y personal: Acción de temporal, autorizado hacerse pasar por una por la autoridad persona natural o competente, que jurídica mediante el permite probar uso no autorizado de tecnologías o atributos como su voz, aplicaciones basadas imagen, firma o en IA bajo supervisión identidad digital, con institucional, con el fin el fin de obtener un de facilitar la beneficio o causar un innovación perjuicio. responsable, evaluar riesgos y explorar posibles ajustes B. Sujetos regulados normativos sin comprometer derechos 4.8. Responsable de fundamentales ni la IA: Toda persona seguridad de los natural o jurídica, sistemas públicos o pública o privada, que privados involucrados. participe en cualquier 4.6. Deepfake: etapa del ciclo de vida Técnica de síntesis de de un sistema de IA medios basada en IA conforme al ámbito de que permite crear, aplicación de esta ley. modificar o reemplazar contenido 4.9. Desarrollador de audiovisual con un alto IA: Persona natural o grado de realismo, jurídica que diseña o generalmente desarrolla un sistema o mediante aprendizaje modelo de IA con la profundo. intención de ponerlo 4.7. Suplantación en el mercado o en personal: Acción de operación. Será hacerse pasar por una responsable por la persona natural o calidad técnica, la jurídica mediante el robustez, la mitigación uso no autorizado de de sesgos y la atributos como su voz, transparencia sobre imagen, firma o capacidades y identidad digital, con el fin de obtener un limitaciones del beneficio o causar un sistema. perjuicio. 4.10. Proveedor de IA: Persona natural o C. Sujetos regulados jurídica que comercializa o pone en 4.8. Responsable de operación un sistema IA: Toda persona de IA, propio o de natural o jurídica, terceros. Debe pública o privada, que asegurar el participe en cualquier cumplimiento etapa del ciclo de vida normativo previo a su de un sistema de IA puesta en servicio y conforme al ámbito de ofrecer información aplicación de esta ley. clara sobre su uso previsto. 4.9. Desarrollador de IA: Persona natural o 4.11. Implementador jurídica que diseña o de IA: Persona natural desarrolla un sistema o o jurídica que, bajo su modelo de IA con la control, utiliza un intención de ponerlo sistema de IA en un en el mercado o en contexto de aplicación operación. Será específico. Será responsable por la responsable de su calidad técnica, la configuración, robustez, la mitigación operación, supervisión de sesgos y la y del cumplimiento de transparencia sobre obligaciones de capacidades y transparencia hacia los limitaciones del usuarios. sistema. 4.12. Usuario de IA: 4.10. Proveedor de Persona natural o IA: Persona natural o jurídica que interactúa jurídica que con un sistema de IA y comercializa o pone en lo utiliza conforme a operación un sistema las condiciones y de IA, propio o de límites definidos por el terceros. Debe proveedor o el asegurar el implementador. cumplimiento normativo previo a su puesta en servicio y C. Principios operativos ofrecer información y de gobernanza clara sobre su uso previsto. 4.13. Transparencia: Disponibilidad de 4.11. Implementador información clara, de IA: Persona natural verificable y o jurídica que, bajo su comprensible sobre el control, utiliza un diseño, sistema de IA en un funcionamiento y contexto de aplicación propósito de los específico. Será sistemas de IA, responsable de su accesible para usuarios configuración, y autoridades operación, supervisión competentes. y del cumplimiento de obligaciones de 4.14. Explicabilidad: transparencia hacia los Capacidad de un usuarios. sistema de IA para presentar de forma 4.12. Usuario de IA: comprensible sus Persona natural o decisiones, procesos y jurídica que interactúa razonamientos con un sistema de IA y técnicos a las personas lo utiliza conforme a afectadas. las condiciones y límites definidos por el 4.15. Supervisión proveedor o el humana: Intervención implementador. significativa de personas en el ciclo de vida de un sistema de D. Principios operativos IA, con capacidad de y de gobernanza supervisar, modificar, detener o revertir 4.13. Transparencia: decisiones Disponibilidad de automatizadas cuando información clara, sea necesario. verificable y comprensible sobre el 4.16. Gobernanza de diseño, la IA: Conjunto de funcionamiento y políticas, normas, propósito de los principios éticos y sistemas de IA, mecanismos accesible para usuarios institucionales que y autoridades regulan el desarrollo, competentes. uso y control de los sistemas de IA. 4.14. Explicabilidad: Capacidad de un 4.17. Privacidad sistema de IA para desde el diseño: presentar de forma Enfoque que incorpora comprensible sus la protección de datos decisiones, procesos y personales desde las razonamientos fases iniciales del técnicos a las personas desarrollo de sistemas afectadas. de IA, garantizando la seguridad y el respeto 4.15. Supervisión por la intimidad como humana: Intervención principio estructural. significativa de personas en el ciclo de 4.18. Robustez: vida de un sistema de Capacidad de un IA, con capacidad de sistema de IA para supervisar, modificar, funcionar de manera detener o revertir confiable, segura y decisiones precisa en diferentes condiciones, incluidas automatizadas cuando aquellas adversas o sea necesario. imprevistas. 4.16. Gobernanza de 4.19. Sesgo: la IA: Conjunto de Distorsión en los políticas, normas, datos, algoritmos o principios éticos y resultados de un mecanismos sistema de IA que institucionales que puede generar regulan el desarrollo, resultados uso y control de los discriminatorios o sistemas de IA. injustos. 4.17. Privacidad desde el diseño: D. Gestión del riesgo Enfoque que incorpora la protección de datos 4.20. Evaluación de personales desde las impacto de IA: fases iniciales del Proceso técnico y desarrollo de sistemas participativo para de IA, garantizando la identificar, analizar y seguridad y el respeto mitigar los posibles por la intimidad como efectos adversos de un principio estructural. sistema de IA en los derechos 4.18. Robustez: fundamentales, la Capacidad de un sociedad, el medio sistema de IA para ambiente y la funcionar de manera economía. confiable, segura y precisa en diferentes 4.21. Mitigación de condiciones, incluidas riesgos en IA: aquellas adversas o Conjunto de imprevistas. estrategias orientadas a prevenir o reducir los 4.19. Sesgo: riesgos asociados al Distorsión en los desarrollo y uso de datos, algoritmos o sistemas de IA, resultados de un garantizando su sistema de IA que seguridad, puede generar confiabilidad y resultados alineación con los discriminatorios o principios injustos. constitucionales. E. Gestión del riesgo E. Responsabilidades jurídicas y éticas 4.20. Evaluación de impacto de IA: 4.22. Proceso técnico y Responsabilidad participativo para administrativa en IA: identificar, analizar y Obligación de cumplir mitigar los posibles las normas vigentes en efectos adversos de un materia de IA y de sistema de IA en los responder ante derechos autoridades fundamentales, la competentes por sociedad, el medio infracciones ambiente y la relacionadas con su economía. desarrollo, implementación o uso. 4.21. Mitigación de riesgos en IA: 4.23. Conjunto de Responsabilidad civil estrategias orientadas en IA: Obligación de a prevenir o reducir los reparar los daños o riesgos asociados al perjuicios causados a desarrollo y uso de personas naturales o sistemas de IA, jurídicas por el uso garantizando su indebido o negligente seguridad, de sistemas de IA. confiabilidad y alineación con los 4.24. principios Responsabilidad constitucionales. penal en IA: Consecuencias jurídicas derivadas de F. Responsabilidades la comisión de delitos jurídicas y éticas relacionados con el uso o desarrollo 4.22. indebido de sistemas Responsabilidad de IA, conforme al administrativa en IA: ordenamiento penal Obligación de cumplir colombiano. las normas vigentes en materia de IA y de 4.25. responder ante Responsabilidad autoridades ética en IA: competentes por Compromiso de los infracciones actores que relacionadas con su desarrollen, desarrollo, implementen o utilicen implementación o uso. IA con el respeto a principios como la 4.23. equidad, la justicia, la Responsabilidad civil transparencia, la no en IA: Obligación de discriminación y el reparar los daños o bienestar colectivo, perjuicios causados a más allá del personas naturales o cumplimiento legal jurídicas por el uso obligatorio. indebido o negligente de sistemas de IA. 4.24. Responsabilidad penal en IA: Consecuencias jurídicas derivadas de la comisión de delitos relacionados con el uso o desarrollo indebido de sistemas de IA, conforme al ordenamiento penal colombiano. 4.25. Responsabilidad ética en IA: Compromiso de los actores que desarrollen, implementen o utilicen IA con el respeto a principios como la equidad, la justicia, la transparencia, la no discriminación y el bienestar colectivo, más allá del cumplimiento legal obligatorio. Capítulo III: Clasificación Sin modificaciones de riesgos Artículo 5. Clasificación de Sin modificaciones riesgos: La regulación de los sistemas de inteligencia artificial (IA) se basará en un enfoque diferenciado y proporcionado al riesgo. La clasificación de un sistema de IA en una categoría de riesgo se determinará considerando su uso previsto específico, el contexto de su despliegue, la gravedad potencial del daño y la probabilidad de que dicho daño ocurra. Se priorizará la identificación y mitigación de riesgos conocidos y demostrables sobre los puramente especulativos. Esta clasificación incluye los siguientes niveles: 1. Sistemas de IA de Riesgo Crítico: Se consideran de riesgo crítico aquellos sistemas de inteligencia artificial cuyo desarrollo o utilización pueda contradecir de manera sustancial los derechos fundamentales, la dignidad humana o el interés público superior. Su implementación para usos generales no estará permitida, salvo en condiciones excepcionales justificadas, como investigaciones científicas o pilotos técnicos con alto valor público, siempre que cuenten con supervisión ética independiente, condiciones estrictas de trazabilidad, control, evaluación de impacto y una finalidad legítima previamente definida. La autoridad nacional competente podrá revisar y actualizar periódicamente esta clasificación, con base en criterios técnicos, científicos, éticos y participativos, considerando la evolución de los riesgos, las capacidades de mitigación disponibles y el contexto de aplicación. Los sistemas que, entre otros, podrán ser clasificados como de riesgo crítico incluyen: . Sistemas de IA diseñados o utilizados para influir de manera subliminal en el comportamien to humano, o que exploten vulnerabilidad es específicas de ciertos grupos, cuando ello pueda causar un daño físico o psicológico grave y verificable. a. Sistemas de IA aplicados a la calificación social (social scoring) por autoridades públicas para fines generales, cuando esto conlleve discriminació n sistemática, trato perjudicial o exclusión injustificada. b. Sistemas de identificación biométrica remota en tiempo real en espacios públicos por parte de autoridades, excepto cuando exista autorización judicial específica y motivada, y se trate de casos de interés público urgente, tales como búsqueda de personas desaparecidas, prevención de amenazas inminentes o persecución de delitos graves conforme al ordenamiento jurídico. 0. Sistemas de IA de Alto Riesgo: Se considerarán sistemas de IA de alto riesgo aquellos que, por su naturaleza, contexto y finalidad prevista, presenten un alto riesgo de impacto adverso sobre la salud, la seguridad o los derechos fundamentales de las personas. Estos sistemas estarán sujetos a requisitos específicos de evaluación de conformidad, gestión de riesgos, transparencia y supervisión humana antes de su comercialización, pue sta en servicio y actualizaciones. La autoridad nacional para la inteligencia artificial, mediante acto administrativo motivado y previa consulta pública, establecerá y actualizará periódicamente una lista de usos específicos de IA que se considerarán de alto riesgo, tomando como referencia, entre otros, los siguientes ámbitos: . Sistemas de IA destinados a ser utilizados como componentes de seguridad en productos sujetos a regulación sectorial específica (e.g., maquinaria, vehículos, dispositivos médicos). a. Sistemas de IA utilizados en la gestión y operación de infraestructura s críticas esenciales. b. Sistemas de IA utilizados en la educación y formación profesional que puedan determinar el acceso a la educación o la evaluación de los estudiantes. c. Sistemas de IA utilizados en el empleo, la gestión de trabajadores y el acceso al autoempleo, como los utilizados para la selección de personal, la evaluación del rendimiento o la toma de decisiones sobre ascensos o despidos. d. Sistemas de IA utilizados por las autoridades públicas o en su nombre para evaluar la elegibilidad de las personas físicas para prestaciones y servicios de asistencia pública esenciales, así como para conceder, reducir, revocar o reclamar dichas prestaciones y servicios. e. Sistemas de IA utilizados en la aplicación de la ley que puedan interferir directamente con los derechos fundamentales de las personas, como los utilizados para la evaluación individual de riesgos de reincidencia o para la detección de estados emocionales. f. Sistemas de IA utilizados en la administració n de justicia y procesos democráticos. g. Sistemas de IA utilizados para la identificación biométrica remota, salvo los casos expresamente críticos. 0. Sistemas de IA con Obligaciones Específicas de Transparencia: Ciertos sistemas de IA, aunque no se clasifiquen como de alto riesgo, deberán cumplir con obligaciones específicas de transparencia para garantizar que los usuarios estén debidamente informados. Estos, entre otros, incluyen: . Sistemas de IA destinados a interactuar directamente con personas físicas, los cuales deberán informar claramente que están interactuando con un sistema de IA, a menos que esto sea obvio por las circunstancias y el contexto de uso. a. Sistemas de IA que generen o manipulen contenido de imagen, audio o vídeo que se asemeje notablemente a personas, objetos, lugares u otras entidades o acontecimientos existentes y que falsamente parezcan auténticos o veraces ("deepfakes"), deberán indicar claramente que el contenido ha sido generado o manipulado artificialmente, salvo cuando sea necesario para el ejercicio de un derecho fundamental o por razones de interés público. 0. Sistemas de IA de Riesgo Mínimo o Nulo: los sistemas de IA que no entren en las categorías anteriores se considerarán de riesgo mínimo o nulo. Se fomentará la adopción voluntaria de códigos de conducta y buenas prácticas para estos sistemas. Parágrafo. Las obligaciones específicas para Desarrollador de IA, Proveedor de IA, Implementador de IA y Usuarios de IA se determinarán en función de su rol y capacidad de control sobre el riesgo asociado al sistema de IA en su respectivo contexto de uso, de conformidad con los principios de proporcionalidad y responsabilidad compartida. Artículo 6. Evaluación de Sin modificaciones potencial de impacto de Sistemas de IA de Alto Riesgo. Los implementadores de sistemas de IA clasificados como de alto riesgo deberán realizar una evaluación de impacto antes de su implementación y después de cualquier modificación sustancial. La evaluación de impacto deberá incluir, como mínimo: . Descripción detallada del sistema y su propósito. a. Evaluación de los riesgos potenciales, incluyendo riesgos de discriminación algorítmica. b. Medidas de mitigación de riesgos implementadas. c. Análisis de la calidad y representatividad de los datos utilizados. d. Evaluación del desempeño y precisión del sistema. e. Medidas de transparencia y explicabilidad implementadas. f. Mecanismos de supervisión humana y monitoreo continuo. La evaluación de impacto deberá ser revisada y actualizada periódicamente, al menos una vez al año o cuando se realicen modificaciones sustanciales al sistema. Todos los sistemas de IA no considerados de alto riesgo están exentos de este requisito de evaluación de impacto. Capítulo IV: Gobernanza para la Inteligencia Artificial Artículo 7. Autoridad Sin modificaciones Nacional para la Inteligencia Artificial: El Ministerio de Ciencia, Tecnología e Innovación será la autoridad nacional competente para orientar la implementación de esta ley y coordinar la gobernanza de la IA en Colombia. En el marco de sus competencias, podrá adoptar lineamientos, estándares técnicos y buenas prácticas, con fundamento en la evidencia científica, los desarrollos regulatorios nacionales e internacionales y los principios establecidos en esta ley. El Ministerio ejercerá funciones de carácter técnico, consultivo y articulador, promoviendo la colaboración con otras entidades públicas, el sector productivo, la academia, los territorios y la sociedad civil, e impulsando mecanismos de autorregulación, certificación y evaluación responsable por parte de los actores del ecosistema de IA. En los casos de sistemas clasificados como de alto riesgo o no permitidos conforme al artículo 5, el Ministerio podrá emitir recomendaciones técnicas o establecer requisitos adicionales para mitigar riesgos significativos que afecten derechos fundamentales, la seguridad o el bienestar colectivo. Estas acciones se adoptarán con enfoque preventivo, proporcional y en coordinación con las autoridades sectoriales competentes. Frente a incumplimientos relacionados con los sistemas de IA regulados en esta ley, el Ministerio podrá formular recomendaciones vinculantes para su adecuación o mejora, siempre de manera articulada con las entidades responsables de vigilancia y control, y sin perjuicio de las medidas que estas puedan adoptar según sus funciones legales. Parágrafo 1. El Gobierno Nacional, a través del Ministerio de Ciencia, Tecnología e Innovación, reglamentará, dentro de los veinticuatro (24) meses siguientes a la promulgación de la presente ley, los detalles técnicos y operativos relacionados con los sistemas de IA clasificados en el artículo 5, respetando las definiciones y disposiciones sustantivas establecidas por el legislador. Parágrafo 2. Las medidas de suspensión, adecuación, restricción o intervención sobre sistemas de IA deberán ser adoptadas por las autoridades competentes, conforme a sus atribuciones legales y sectoriales. La Autoridad Nacional para la Inteligencia Artificial podrá emitir conceptos técnicos y recomendaciones con carácter vinculante en lo que respecta al nivel de riesgo de los sistemas de IA, los cuales constituirán insumo para las decisiones de las entidades con funciones de inspección, vigilancia o control. En los casos en que no exista una autoridad sectorial definida por la ley, el Ministerio de Ciencia, Tecnología e Innovación podrá ejercer funciones directas de orientación, acompañamiento y evaluación, de acuerdo con los procedimientos y condiciones que se establezcan en la reglamentación de la presente ley. Parágrafo 3. En el desarrollo de sus funciones, la Autoridad Nacional para la Inteligencia Artificial deberá promover la innovación, la libre iniciativa, el crecimiento económico, la competitividad y el desarrollo tecnológico, evitando la imposición de restricciones desproporcionadas o barreras injustificadas que limiten el despliegue ético y responsable de sistemas de IA. Las disposiciones reglamentarias deberán guardar coherencia con los principios y normas vigentes del ordenamiento jurídico nacional. Artículo 8. Articulación Artículo 8. Articulación Parágrafo 3 que estipule como interinstitucional e interinstitucional e en la reglamentación se intersectorial para la intersectorial para la escogen los representantes de gobernanza de la inteligencia gobernanza de la inteligencia academia, reglamentación artificial. El Ministerio de artificial. El Ministerio de sector productivo y sociedad Ciencia, Tecnología e Ciencia, Tecnología e civil. Innovación, como autoridad Innovación, como autoridad nacional en inteligencia nacional en inteligencia artificial, establecerá y liderará artificial, establecerá y liderará los mecanismos de articulación los mecanismos de articulación interinstitucional e interinstitucional e intersectorial para la intersectorial para la implementación, seguimiento implementación, seguimiento y actualización de esta ley, en y actualización de esta ley, en coherencia con la Política coherencia con la Política Nacional de Inteligencia Nacional de Inteligencia Artificial definida en el Artificial definida en el CONPES 4144 de 2025 y sus CONPES 4144 de 2025 y sus actualizaciones. actualizaciones. Para tal fin, créase el Comité Para tal fin, créase el Comité Intersectorial de Coordinación Intersectorial de Coordinación para la Inteligencia Artificial, para la Inteligencia Artificial, como instancia asesora y como instancia asesora y articuladora de carácter técnico articuladora de carácter técnico y político. Este Comité estará y político. Este Comité estará presidido por el Ministerio de presidido por el Ministerio de Ciencia, Tecnología e Ciencia, Tecnología e Innovación e integrado por: Innovación e integrado por: 1. Departamento 11. Departamento Nacional de Nacional de Planeación. Planeación. 2. Ministerio de 12. Ministerio de Educación Nacional. Educación Nacional. 3. Ministerio de 13. Ministerio de Tecnologías de la Tecnologías de la Información y las Información y las Comunicaciones. Comunicaciones. 4. Ministerio de 14. Ministerio de Comercio, Industria y Comercio, Industria y Turismo. Turismo. 5. Ministerio de las 15. Ministerio de las Culturas, los Artes y Culturas, los Artes y los Saberes. los Saberes. 6. Ministerio de 16. Ministerio de Relaciones Exteriores. Relaciones Exteriores. 7. Ministerio del Trabajo. 17. Ministerio del Trabajo. 8. Dos representantes del 18. Dos representantes del sector académico, sector académico, designados conforme a designados conforme a reglamentación reglamentación posterior. posterior. 9. Dos representantes del 19. Dos representantes del sector productivo, sector productivo, designados conforme a designados conforme a reglamentación reglamentación posterior. posterior. 10. Dos representantes de 20. Dos representantes de la sociedad civil, la sociedad civil, designados conforme a designados conforme a reglamentación reglamentación posterior. posterior. Parágrafo 1. El Comité tendrá Parágrafo 1. El Comité tendrá funciones de recomendación funciones de recomendación técnica, priorización de líneas técnica, priorización de líneas estratégicas, coordinación estratégicas, coordinación interinstitucional y interinstitucional y formulación de directrices no formulación de directrices no vinculantes en materia de vinculantes en materia de inteligencia artificial. Será una inteligencia artificial. Será una instancia asesora en los instancia asesora en los procesos de reglamentación e procesos de reglamentación e implementación de la presente implementación de la presente ley. Sesionará al menos dos ley. Sesionará al menos dos veces por año y presentará veces por año y presentará informes públicos de avance y informes públicos de avance y recomendaciones al Congreso recomendaciones al Congreso de la República. de la República. Parágrafo 2. MinCiencias Parágrafo 2. MinCiencias podrá convocar, además, mesas podrá convocar, además, técnicas, comités mesas técnicas, comités especializados u otras especializados u otras instancias de coordinación que instancias de coordinación que fortalezcan el seguimiento, la fortalezcan el seguimiento, la participación multisectorial y participación multisectorial y la articulación con entidades la articulación con entidades del orden territorial, así como del orden territorial, así como con actores académicos, con actores académicos, productivos y sociales, en el productivos y sociales, en el desarrollo, implementación, desarrollo, implementación, evaluación y actualización de evaluación y actualización de políticas e iniciativas políticas e iniciativas relacionadas con la inteligencia relacionadas con la inteligencia artificial. artificial. Parágrafo 3. La designación de los representantes del sector académico, del sector productivo y de la sociedad civil previstos en este artículo se realizará conforme a los criterios y procedimientos establecidos en el acto reglamentario de la presente ley, una vez ésta sea aprobada por el Congreso de la República y sancionada por el Presidente de la República. Dicho acto reglamentario definirá los requisitos, plazos y demás condiciones para su designación, en cumplimiento estricto de los principios constitucionales de pluralismo, transparencia y participación ciudadana. Artículo 9. Supervisión y Sin modificaciones monitoreo. El Gobierno Nacional, a través de la Autoridad para la Inteligencia Artificial, establecerá las directrices técnicas y coordinará la designación de las entidades responsables de la supervisión y monitoreo continuo de los sistemas de IA de alto riesgo y aquellos no permitidos, con base en los principios establecidos en la Constitución, el bloque de constitucionalidad, esta ley, la normativa vigente y los estándares internacionales aplicables. Estas acciones se desarrollarán con enfoque preventivo, técnico y proporcional, orientadas a identificar, gestionar y mitigar riesgos significativos sobre los derechos humanos, la seguridad y el bienestar colectivo, promoviendo al mismo tiempo un entorno que favorezca la innovación, el desarrollo científico y la adopción responsable de tecnologías emergentes. Artículo 10. Principios y Artículo 10. Principios y Se cambia titulo con el fin de reglas para la gobernanza y Reglas para la gobernanza y no generar confusión frente al el uso responsable de la el uso responsable de la articulo de principios. Inteligencia Artificial en la Inteligencia Artificial en la administración pública: El administración pública: El uso de sistemas de IA en la uso de sistemas de IA en la administración pública deberá administración pública deberá observar los siguientes observar los siguientes principios y reglas, con el principios y reglas, con el objetivo de garantizar una objetivo de garantizar una gobernanza efectiva, la gobernanza efectiva, la provisión de servicios públicos provisión de servicios públicos de calidad, la protección de los de calidad, la protección de los derechos fundamentales y la derechos fundamentales y la confianza de la ciudadanía: confianza de la ciudadanía: . Los sistemas de IA h. Los sistemas de IA deberán ser utilizados deberán ser utilizados para mejorar el acceso para mejorar el acceso a los servicios a los servicios públicos, garantizando públicos, garantizando la igualdad de la igualdad de oportunidades, oportunidades, evitando cualquier tipo evitando cualquier tipo de discriminación y de discriminación y promoviendo el promoviendo el bienestar social. bienestar social. a. Las decisiones i. Las decisiones tomadas con el apoyo tomadas con el apoyo de sistemas de IA de sistemas de IA deberán ser claras, deberán ser claras, comprensibles y comprensibles y transparentes para los transparentes para los ciudadanos, ciudadanos, permitiendo su permitiendo su revisión y revisión y cuestionamiento cuestionamiento cuando sea necesario. cuando sea necesario. El uso de dichos El uso de dichos sistemas no exime a sistemas no exime a los servidores públicos los servidores públicos ni a las autoridades ni a las autoridades competentes del deber competentes del deber de responder por sus de responder por sus actuaciones, en los actuaciones, en los términos establecidos términos establecidos por la ley. por la ley. b. La implementación de j. La implementación de IA deberá respetar y IA deberá respetar y garantizar los derechos garantizar los derechos fundamentales de las fundamentales de las personas, incluyendo personas, incluyendo su privacidad, su privacidad, seguridad y dignidad. seguridad y dignidad. c. Los sistemas de IA k. Los sistemas de IA deberán ser diseñados deberán ser diseñados para optimizar la para optimizar la provisión de servicios provisión de servicios públicos, garantizando públicos, garantizando su sostenibilidad, su sostenibilidad, eficiencia y mejora eficiencia y mejora constante. constante. d. Las entidades públicas l. Las entidades públicas que implementen IA que implementen IA serán responsables de serán responsables de su correcta utilización su correcta utilización y deberán establecer y deberán establecer mecanismos de mecanismos de gobernanza que gobernanza que incluyan supervisión, incluyan supervisión, auditoría y mitigación auditoría y mitigación de riesgos. de riesgos. e. Los sistemas deberán m. Los sistemas deberán ser auditables y ser auditables y someterse a someterse a evaluaciones de evaluaciones de impacto previas a su impacto previas a su implementación, implementación, asegurando su asegurando su conformidad con los conformidad con los principios legales, principios legales, éticos y de gobernanza éticos y de gobernanza vigentes. vigentes. f. El Gobierno Nacional n. El Gobierno Nacional garantizará la garantizará la capacitación adecuada capacitación adecuada para los funcionarios para los funcionarios encargados de operar encargados de operar los sistemas de IA, los sistemas de IA, promoviendo su uso promoviendo su uso responsable y efectivo. responsable y efectivo. g. Deberá asegurarse la o. Deberá asegurarse la protección de los datos protección de los datos personales y sensibles personales y sensibles de los ciudadanos que de los ciudadanos que interactúan con dichos interactúan con dichos sistemas, alineándose sistemas, alineándose con la legislación con la legislación vigente en materia de vigente en materia de protección de datos, protección de datos, privacidad y principios privacidad y principios de gobernanza. de gobernanza. Artículo 11. Creación del Artículo 11. Creación del Miembros trabajarán ad- Consejo Asesor Nacional de Consejo Asesor Nacional de honorem. Expertos en Inteligencia Expertos en Inteligencia Artificial. Se crea el Consejo Artificial. Se crea el Consejo Asesor Nacional de Expertos Asesor Nacional de Expertos en IA, como una instancia en IA, con carácter ad- permanente de alto nivel dentro honorem, como una instancia del Sistema Nacional de permanente de alto nivel dentro Ciencia, Tecnología e del Sistema Nacional de Innovación (SNTeI), de Ciencia, Tecnología e carácter consultivo y Innovación (SNTeI), de multisectorial, encargado de carácter consultivo y brindar asesoría especializada multisectorial, encargado de en IA al Gobierno Nacional. brindar asesoría especializada Parágrafo: En el acto en IA al Gobierno Nacional. reglamentario se establecerán las funciones específicas a Parágrafo: En el acto cargo del Consejo Asesor reglamentario se establecerán Nacional de Expertos en IA, las funciones específicas a los requisitos y mecanismos cargo del Consejo Asesor para la selección de ternas para Nacional de Expertos en IA, la escogencia de los miembros, los requisitos y mecanismos entre otros aspectos que sean para la selección de ternas para requeridos para el correcto la escogencia de los miembros, funcionamiento del mismo entre otros aspectos que sean dentro del SNCTeI. requeridos para el correcto funcionamiento del mismo dentro del SNCTeI. Capítulo V: Fortalecimiento Sin modificación. del ecosistema de ciencia, tecnología e innovación de la IA Artículo 12. Fomento a la Artículo 12. Fomento a la Se deja potestativo, con el fin investigación, desarrollo investigación, desarrollo de harmonizar con concepto tecnológico e innovación en tecnológico e innovación en de Ministerio de hacienda. Inteligencia Artificial. El Inteligencia Artificial. El Gobierno Nacional promoverá Gobierno Nacional podrá crear programas y fondos programas y fondos específicos para apoyar la específicos para apoyar la investigación, desarrollo investigación, desarrollo tecnológico e innovación en IA tecnológico e innovación en IA siempre con un compromiso siempre con un compromiso ético y sostenible en su ético y sostenible en su desarrollo y uso, mediante desarrollo y uso, mediante criterios de inclusión y criterios de inclusión y accesibilidad. Esto podrá accesibilidad. Esto podrá incluir: incluir: 11.1. Financiamiento para 11.1. Financiamiento para proyectos de Investigación, proyectos de Investigación, desarrollo tecnológico e desarrollo tecnológico e innovación en articulación con innovación en articulación con la academia. la academia. 11.2. Promover infraestructura 11.2. Promover infraestructura para la investigación, para la investigación, desarrollo tecnológico e desarrollo tecnológico e innovación en IA. innovación en IA. 11.3. Plataformas e incentivos 11.3. Plataformas e incentivos para la colaboración público- para la colaboración público- privada e interdisciplinar en el privada e interdisciplinar en el desarrollo de la IA. desarrollo de la IA. 11.4. Promoción de la ética y la 11.4. Promoción de la ética y la responsabilidad en la responsabilidad en la investigación en IA. investigación en IA. 11.5. Apoyo a emprendedores 11.5. Apoyo a emprendedores en IA y actores de la economía en IA y actores de la economía popular. popular. Artículo 13. Gobernanza de Artículo 13. Gobernanza de No es regulatorio se cambia el los Sandbox regulatorios: El los Sandbox regulatorios: El verbo rector en el paragrafo 1 Gobierno Nacional será Gobierno Nacional será responsable de definir y responsable de definir y establecer los lineamientos establecer los lineamientos generales para la creación, generales para la creación, operación y evaluación de operación y evaluación de sandbox regulatorios en sandbox regulatorios en materia de inteligencia materia de inteligencia artificial, con el objetivo de artificial, con el objetivo de fomentar la innovación ética, fomentar la innovación ética, responsable y segura de esta responsable y segura de esta tecnología. tecnología. Así mismo, el Gobierno Así mismo, el Gobierno Nacional podrá impulsar, Nacional podrá impulsar, coordinar o directamente crear coordinar o directamente crear sandbox regulatorios como sandbox regulatorios como entornos de prueba controlados entornos de prueba controlados y flexibles que permitan y flexibles que permitan experimentar, adaptar y escalar experimentar, adaptar y escalar soluciones de IA en soluciones de IA en condiciones seguras, éticas y condiciones seguras, éticas y supervisadas, incluso cuando supervisadas, incluso cuando presenten riesgos potenciales presenten riesgos potenciales para los derechos para los derechos fundamentales o el interés fundamentales o el interés público. público. Estos espacios estarán Estos espacios estarán orientados a facilitar el orientados a facilitar el desarrollo progresivo de desarrollo progresivo de tecnologías emergentes, tecnologías emergentes, fortalecer las capacidades fortalecer las capacidades institucionales de regulación institucionales de regulación adaptativa y promover la adaptativa y promover la mejora continua del marco mejora continua del marco normativo, sin recurrir a normativo, sin recurrir a enfoques excluyentes o enfoques excluyentes o punitivos anticipados. punitivos anticipados. Para tal efecto, se conformará Para tal efecto, se conformará un Comité Técnico Nacional un Comité Técnico Nacional de Sandbox Regulatorios, de Sandbox Regulatorios, coordinado por el Ministerio de coordinado por el Ministerio de Ciencia, Tecnología e Ciencia, Tecnología e Innovación e integrado por Innovación e integrado por representantes de entidades del representantes de entidades del orden nacional competentes en orden nacional competentes en el desarrollo, uso y supervisión el desarrollo, uso y supervisión de sistemas de inteligencia de sistemas de inteligencia artificial. Este Comité será artificial. Este Comité será responsable de definir los responsable de definir los lineamientos técnicos, lineamientos técnicos, jurídicos y operativos para el jurídicos y operativos para el diseño, implementación, diseño, implementación, seguimiento y evaluación de seguimiento y evaluación de los sandbox. los sandbox. Cada sandbox aprobado deberá Cada sandbox aprobado deberá contar con un plan específico contar con un plan específico que incluya objetivos, alcance, que incluya objetivos, alcance, actores participantes, actores participantes, condiciones técnicas y condiciones técnicas y jurídicas, medidas de jurídicas, medidas de mitigación de riesgos mitigación de riesgos proporcionales, mecanismos proporcionales, mecanismos de seguimiento y criterios de de seguimiento y criterios de evaluación, garantizando la evaluación, garantizando la trazabilidad de los aprendizajes trazabilidad de los aprendizajes obtenidos. Este plan será obtenidos. Este plan será vinculante para quienes vinculante para quienes participen en la prueba. participen en la prueba. Parágrafo 1. Los sistemas de Parágrafo 1. Los sistemas de inteligencia artificial inteligencia artificial clasificados como de alto clasificados como de alto riesgo, conforme al artículo 6 riesgo, conforme al artículo 6 de la presente ley, podrán ser de la presente ley, podrán objeto de prueba en sandbox deberán ser objeto de prueba regulatorios, siempre que se en sandbox regulatorios, desarrollen bajo condiciones siempre que se desarrollen bajo de supervisión ética, condiciones de supervisión evaluación técnica y ética, evaluación técnica y seguimiento permanente. Esta seguimiento permanente. Esta disposición busca su disposición busca su perfeccionamiento progresivo, perfeccionamiento progresivo, sin recurrir a prohibiciones sin recurrir a prohibiciones categóricas. categóricas. Parágrafo 2. En caso de Parágrafo 2. En caso de identificarse riesgos identificarse riesgos sustanciales durante el sustanciales durante el desarrollo de un sandbox que desarrollo de un sandbox que no puedan ser mitigados de no puedan ser mitigados de manera adecuada en el corto manera adecuada en el corto plazo, el Comité Técnico plazo, el Comité Técnico Nacional podrá adoptar Nacional podrá adoptar medidas de suspensión medidas de suspensión temporal, ajustes o temporal, ajustes o terminación, aplicando terminación, aplicando criterios de proporcionalidad, criterios de proporcionalidad, enfoque preventivo y respeto enfoque preventivo y respeto por la innovación. por la innovación. Parágrafo 3. En un plazo no Parágrafo 3. En un plazo no mayor a veinticuatro (24) mayor a veinticuatro (24) meses contados a partir de la meses contados a partir de la entrada en vigor de la presente entrada en vigor de la presente ley, el Gobierno Nacional ley, el Gobierno Nacional reglamentará el reglamentará el funcionamiento operativo del funcionamiento operativo del Comité Técnico Nacional y de Comité Técnico Nacional y de los sandbox regulatorios, los sandbox regulatorios, asegurando su coherencia asegurando su coherencia institucional y evitando la institucional y evitando la duplicidad de funciones entre duplicidad de funciones entre entidades. entidades. Artículo 14. Responsabilidad Sin modificación. generada a partir de Sandbox regulatorios. Los desarrolladores de sistemas de IA que operen en Sandbox regulatorios serán responsables por cualquier daño o perjuicio causado a terceros debido a la experimentación realizada en dichos entornos, siempre y cuando se haya incumplido el plan específico mencionado en el primer inciso del artículo anterior. Artículo 15. Descuento para Artículo 15. Descuento para Se elimina el artículo debido a inversiones realizadas en inversiones realizadas en que no es claro cuáles serían investigación, desarrollo investigación, desarrollo los descuentos aplicables a las tecnológico o innovación. El tecnológico o innovación. El inversiones realizadas en Ministerio de Ciencia, Ministerio de Ciencia, investigación, desarrollo Tecnología e Innovación, en Tecnología e Innovación, en tecnológico o innovación. coordinación con el Consejo coordinación con el Consejo Nacional de Beneficios Nacional de Beneficios Tributarios diseñará y adoptará Tributarios diseñará y adoptará un criterio de priorización para un criterio de priorización para los proyectos de ciencia, los proyectos de ciencia, tecnología e innovación que tecnología e innovación que busquen acceder a beneficios busquen acceder a beneficios tributarios para desarrollar tributarios para desarrollar soluciones basadas en IA o que soluciones basadas en IA o que adopten estas tecnologías para adopten estas tecnologías para la sofisticación de sus procesos la sofisticación de sus procesos productivos. productivos. Parágrafo 1. El criterio de Parágrafo 1. El criterio de priorización deberá fomentar la priorización deberá fomentar la transferencia de tecnología y transferencia de tecnología y conocimiento hacia las micro, conocimiento hacia las micro, pequeñas y medianas empresas pequeñas y medianas empresas (Mipymes) y promover la (Mipymes) y promover la creación de emprendimientos creación de emprendimientos de base científico-tecnológica de base científico-tecnológica en el ámbito de la IA, en el ámbito de la IA, contribuyendo al contribuyendo al fortalecimiento del ecosistema fortalecimiento del ecosistema de innovación y al desarrollo de innovación y al desarrollo sostenible del país. sostenible del país. Parágrafo 2. El diseño del Parágrafo 2. El diseño del criterio de priorización deberá criterio de priorización deberá incorporar lineamientos de incorporar lineamientos de transparencia, objetividad y transparencia, objetividad y proporcionalidad, con el fin de proporcionalidad, con el fin de asegurar que la asignación de asegurar que la asignación de los beneficios tributarios se los beneficios tributarios se realice bajo condiciones realice bajo condiciones equitativas, técnicas y no equitativas, técnicas y no discriminatorias. Para este discriminatorias. Para este propósito, el Ministerio de propósito, el Ministerio de Ciencia, Tecnología e Ciencia, Tecnología e Innovación establecerá Innovación establecerá parámetros verificables y parámetros verificables y diferenciados, acordes con las diferenciados, acordes con las capacidades de los distintos capacidades de los distintos tipos de beneficiarios y tipos de beneficiarios y garantizará la publicación garantizará la publicación oportuna, clara y accesible de oportuna, clara y accesible de los criterios aplicables y de los los criterios aplicables y de los resultados de esta resultados de esta convocatoria. convocatoria. Artículo 16. Fomento del Artículo 15. Fomento del Se modifica numeración y se desarrollo de Inteligencia desarrollo de Inteligencia deja potestativo, con el fin de Artificial en regiones. El Artificial en regiones. El harmonizar con concepto de Gobierno Nacional, en cabeza Gobierno Nacional, en cabeza Ministerio de hacienda. De del Ministerio de Ciencia, del Ministerio de Ciencia, igual manera se incluye Tecnología e Innovación y en Tecnología e Innovación y en parágrafo para fortalecer la coordinación con el Ministerio coordinación con el Ministerio coherencia del artículo. de las Tecnologías de la de las Tecnologías de la Información y las Información y las Comunicaciones, promoverá el Comunicaciones, podrá desarrollo de la IA en las promover el desarrollo de la IA regiones del país a través de en las regiones del país a través estrategias que incluyan el de estrategias que incluyan el fortalecimiento de fortalecimiento de infraestructura tecnológica infraestructura tecnológica para la IA, el apoyo a proyectos para la IA, el apoyo a proyectos de investigación e innovación de investigación e innovación tecnológica, y la creación de tecnológica, y la creación de condiciones para la condiciones para la transferencia de conocimiento transferencia de conocimiento y tecnologías para impulsar el y tecnologías para impulsar el progreso económico, social y progreso económico, social y ambiental de las regiones, ambiental de las regiones, adaptándose a sus necesidades adaptándose a sus necesidades y retos específicos, y y retos específicos, y fomentando la colaboración fomentando la colaboración entre los sectores público, entre los sectores público, privado y académico- privado y académico- científico. científico. Parágrafo. Las estrategias que se desarrollen en el marco de este artículo podrán incorporar enfoques y acciones dirigidas a fortalecer las capacidades en los territorios priorizados por los Programas de Desarrollo con Enfoque Territorial (PDET) y en las Zonas Más Afectadas por el Conflicto (ZOMAC), promoviendo el cierre de brechas y aprovechando sus potencialidades para el desarrollo de la inteligencia artificial. Esta orientación permitirá una participación territorial amplia y pertinente, de acuerdo con las particularidades y demandas de cada región. Artículo 17. Promoción de la Artículo 16. Promoción de la Se modifica numeración y se inclusión y diversidad en la inclusión y diversidad en la deja potestativo, con el fin de investigación en Inteligencia investigación en Inteligencia harmonizar con concepto de Artificial. El Gobierno Artificial. El Gobierno Ministerio de hacienda. Nacional promoverá la Nacional podrá promover la participación de mujeres, participación de mujeres, grupos étnicos, campesinos, grupos étnicos, campesinos, jóvenes y otros grupos sociales jóvenes y otros grupos sociales representativos en proyectos de representativos en proyectos de investigación y desarrollo en investigación y desarrollo en IA garantizando un enfoque IA garantizando un enfoque inclusivo que fomente la inclusivo que fomente la diversidad y el acceso a estas diversidad y el acceso a estas tecnologías. tecnologías. Artículo 18. Promoción de la Artículo 17. Promoción de la Se modifica numeración y se transferencia de tecnología transferencia de tecnología amplía a sector salud. en Inteligencia Artificial. El en Inteligencia Artificial. El Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, en Tecnología e Innovación, en coordinación con el Ministerio coordinación con el Ministerio de Comercio, Industria y de Comercio, Industria y Turismo, fomentarán la Turismo, fomentarán la transferencia de tecnología transferencia de tecnología desde las universidades, desde las universidades, centros e institutos de centros e institutos de investigación y otras entidades investigación y otras entidades del ecosistema de innovación del ecosistema de innovación hacia el sector industrial y hacia el sector industrial, comercial. Esta transferencia comercial y de la salud en estará orientada a la particular para fortalecer implementación efectiva de capacidades diagnósticas, desarrollos basados en IA que asistenciales y contribuyan al desarrollo de gestión pública. Esta económico y social del país. transferencia estará orientada a la implementación efectiva de desarrollos basados en IA que contribuyan al bienestar, desarrollo económico y social del país. Artículo 19. Protección de la Artículo 18. Protección de la Se modifica numeración. propiedad industrial en propiedad industrial en Inteligencia Artificial y uso Inteligencia Artificial y uso legítimo de contenidos. El legítimo de contenidos. El Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, en Tecnología e Innovación, en coordinación con la coordinación con la Superintendencia de Industria Superintendencia de Industria y Comercio y las demás y Comercio y las demás autoridades competentes, autoridades competentes, promoverá la apropiación y promoverá la apropiación y protección efectiva de los protección efectiva de los derechos de propiedad derechos de propiedad industrial por parte de industrial por parte de investigadores, desarrolladores investigadores, desarrolladores y entidades que participen en el y entidades que participen en el diseño, entrenamiento o diseño, entrenamiento o implementación de sistemas de implementación de sistemas de inteligencia artificial, de inteligencia artificial, de conformidad con la legislación conformidad con la legislación nacional e internacional nacional e internacional aplicable. aplicable. El desarrollo de sistemas de IA El desarrollo de sistemas de IA deberá respetar los derechos de deberá respetar los derechos de autor, derechos conexos, autor, derechos conexos, derechos de imagen y demás derechos de imagen y demás formas de protección formas de protección intelectual, garantizando que el intelectual, garantizando que el uso de obras, fonogramas, uso de obras, fonogramas, interpretaciones, ejecuciones, interpretaciones, ejecuciones, emisiones u otros contenidos emisiones u otros contenidos protegidos cuente con protegidos cuente con consentimiento expreso del consentimiento expreso del titular o se sustente en una base titular o se sustente en una base jurídica válida. El uso de voces jurídica válida. El uso de voces e imágenes de personas e imágenes de personas requerirá autorización previa, requerirá autorización previa, expresa y bajo condiciones expresa y bajo condiciones acordadas. acordadas. El Gobierno Nacional El Gobierno Nacional fomentará modelos de fomentará modelos de licenciamiento accesibles, licenciamiento accesibles, flexibles y negociables que flexibles y negociables que permitan equilibrar la permitan equilibrar la protección de los derechos con protección de los derechos con la promoción de la innovación, la promoción de la innovación, la investigación y la generación la investigación y la generación de valor en el ecosistema de IA. de valor en el ecosistema de IA. Se impulsará el desarrollo de Se impulsará el desarrollo de mecanismos de trazabilidad mecanismos de trazabilidad voluntaria sobre los insumos voluntaria sobre los insumos utilizados en la formación y utilizados en la formación y operación de sistemas de IA, operación de sistemas de IA, conforme a estándares técnicos conforme a estándares técnicos definidos por la autoridad definidos por la autoridad competente. competente. Cuando resulte necesario para Cuando resulte necesario para la salvaguarda del interés la salvaguarda del interés público o la garantía de público o la garantía de derechos reconocidos, dicha derechos reconocidos, dicha autoridad podrá establecer autoridad podrá establecer mecanismos de trazabilidad mecanismos de trazabilidad obligatoria o reportes técnicos, obligatoria o reportes técnicos, con base en criterios de con base en criterios de necesidad, razonabilidad y necesidad, razonabilidad y proporcionalidad. proporcionalidad. Capítulo VI: Formación y Sin modificación. apropiación social del conocimiento para la Inteligencia Artificial Artículo 20. Formación y Artículo 19. Formación y Se modifica numeración. apropiación social del apropiación social del conocimiento para el uso conocimiento para el uso responsable y ético de la responsable y ético de la Inteligencia Artificial. El Inteligencia Artificial. El Gobierno Nacional, en cabeza Gobierno Nacional, en cabeza del Ministerio de Ciencia, del Ministerio de Ciencia, Tecnología e Innovación, en Tecnología e Innovación, en coordinación con el Servicio coordinación con el Servicio Nacional de Aprendizaje - Nacional de Aprendizaje - SENA- y el Ministerio de las SENA- y el Ministerio de las Tecnologías de la Información Tecnologías de la Información y las Comunicaciones, y las Comunicaciones, diseñarán e implementarán una diseñarán e implementarán una estrategia nacional de estrategia nacional de formación y apropiación social formación y apropiación social del conocimiento que del conocimiento que promueva el uso responsable y promueva el uso responsable y ético de la IA. ético de la IA. Artículo 21. Educación. El Artículo 20. Educación. El Modifica numeración y se Ministerio de Educación Ministerio de Educación harmoniza con ley 30. Nacional, el Ministerio de Nacional, el Ministerio de Ciencia, Tecnología e Ciencia, Tecnología e Innovación y el Ministerio de Innovación y el Ministerio de Tecnologías de la Información Tecnologías de la Información y las Comunicaciones y las Comunicaciones podrán diseñarán e implementarán diseñarán e implementarán programas integrales de programas integrales de educación, formación y educación, formación y capacitación en IA, orientados capacitación en IA, orientados a fortalecer las habilidades y a fortalecer las habilidades y competencias del siglo XXI en competencias del siglo XXI en todos los niveles y todos los niveles y modalidades educativas, modalidades educativas, incluyendo la educación incluyendo la educación inicial, básica, media, técnica, inicial, básica, media, técnica, tecnológica, superior y de tecnológica, superior y de adultos. adultos. Estos programas promoverán Estos programas podrán el pensamiento crítico, la promoverán el pensamiento creatividad, la innovación crítico, la creatividad, la tecnológica y el análisis ético, innovación tecnológica y el así como la apropiación social análisis ético, así como la del conocimiento, fomentando apropiación social del la investigación y el desarrollo conocimiento, fomentando la responsable de tecnologías investigación y el desarrollo basadas en IA desde una responsable de tecnologías perspectiva intercultural, basadas en IA desde una ambiental y territorial. perspectiva intercultural, ambiental y territorial. Se garantizará la formación permanente de directivos En la medida de lo posible, Se docentes y maestros, garantizará la formación asegurando la actualización permanente de directivos continua de contenidos, docentes y maestros, metodologías y recursos asegurando la actualización pedagógicos pertinentes, continua de contenidos, abiertos y contextualizados. metodologías y recursos pedagógicos pertinentes, Las acciones educativas abiertos y contextualizados. estarán orientadas al cierre de brechas en el acceso al Las acciones educativas conocimiento, la ciencia y la estarán orientadas al cierre de tecnología, y se desarrollarán brechas en el acceso al en articulación con conocimiento, la ciencia y la instituciones educativas, tecnología, y se desarrollarán universidades, centros de en articulación con investigación, comunidades, instituciones educativas, empresas y actores del universidades, centros de ecosistema productivo. Se investigación, comunidades, incentivarán espacios de empresas y actores del aprendizaje activo, proyectos ecosistema productivo. Se colaborativos y experiencias incentivarán espacios de prácticas que preparen a los aprendizaje activo, proyectos estudiantes para participar, con colaborativos y experiencias idoneidad y responsabilidad, prácticas que preparen a los en entornos sociales y laborales estudiantes para participar, con mediados por la IA. idoneidad y responsabilidad, en entornos sociales y laborales mediados por la IA. Artículo 22. Formación Artículo 21. Formación Modifica numeración. técnica y tecnológica para la técnica y tecnológica para la inteligencia artificial. El inteligencia artificial. El Gobierno Nacional, a través Gobierno Nacional, a través del Ministerio de Ciencia, del Ministerio de Ciencia, Tecnología e Innovación, el Tecnología e Innovación, el Ministerio de Educación Ministerio de Educación Nacional y el Ministerio del Nacional y el Ministerio del Trabajo, articulará al Servicio Trabajo, articulará al Servicio Nacional de Aprendizaje Nacional de Aprendizaje (SENA) y a las instituciones de (SENA) y a las instituciones de educación superior de carácter educación superior de carácter técnico y tecnológico en las técnico y tecnológico en las estrategias de formación de estrategias de formación de talento humano especializado talento humano especializado en inteligencia artificial. Estas en inteligencia artificial. Estas estrategias incluirán el estrategias incluirán el desarrollo de mallas desarrollo de mallas curriculares orientadas a curriculares orientadas a aplicaciones prácticas, aplicaciones prácticas, interoperabilidad, interoperabilidad, sostenibilidad y ética de los sostenibilidad y ética de los sistemas automatizados, en sistemas automatizados, en consonancia con las consonancia con las necesidades del sector necesidades del sector productivo, académico y productivo, académico y público. público. Parágrafo. Las estrategias de Parágrafo. Las estrategias de formación deberán incorporar formación deberán incorporar enfoque territorial, de género y enfoque territorial, de género y diferencial, promoviendo la diferencial, promoviendo la inclusión de poblaciones inclusión de poblaciones históricamente excluidas del históricamente excluidas del acceso a tecnologías acceso a tecnologías emergentes, y estarán emergentes, y estarán alineadas con los procesos de alineadas con los procesos de planeación regional y de planeación regional y de desarrollo productivo del país. desarrollo productivo del país. Artículo 23. Inclusión de la Artículo 22. Inclusión de la Modifica numeración y se deja inteligencia artificial en la inteligencia artificial en la potestativo. educación básica y media. El educación básica y media. El Ministerio de Educación Ministerio de Educación Nacional, en articulación con Nacional, en articulación con el el Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, Tecnología e Innovación, promoverá la incorporación podrá promover la progresiva de contenidos incorporación progresiva de relacionados con ciencia de contenidos relacionados con datos, pensamiento ciencia de datos, pensamiento computacional, ética digital e computacional, ética digital e inteligencia artificial en los inteligencia artificial en los niveles de educación básica y niveles de educación básica y media, a través de estrategias media, a través de estrategias curriculares y pedagógicas curriculares y pedagógicas contextualizadas. Esta contextualizadas. Esta incorporación deberá incorporación deberá responder a las realidades responder a las realidades territoriales, culturales y territoriales, culturales y sociales del país, y contribuir a sociales del país, y contribuir a la formación de ciudadanía la formación de ciudadanía digital crítica y creativa. digital crítica y creativa. Parágrafo. Se priorizará Parágrafo. Se priorizará acciones orientadas a la acciones orientadas a la formación docente, el formación docente, el desarrollo curricular y la desarrollo curricular y la creación de recursos creación de recursos educativos abiertos, que educativos abiertos, que fortalezcan el pensamiento fortalezcan el pensamiento crítico, ético y reflexivo frente crítico, ético y reflexivo frente al uso de tecnologías al uso de tecnologías emergentes en entornos emergentes en entornos escolares. escolares. Artículo 24. Fortalecimiento Artículo 23. Fortalecimiento Se modifica numeración. de la formación especializada de la formación especializada en inteligencia artificial. El en inteligencia artificial. El Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación y el Tecnología e Innovación y el Ministerio de Educación Ministerio de Educación Nacional fomentarán la Nacional fomentarán la creación y consolidación de creación y consolidación de programas académicos, programas académicos, facultades o departamentos facultades o departamentos especializados en inteligencia especializados en inteligencia artificial en instituciones de artificial en instituciones de educación superior del país. educación superior del país. Esta estrategia estará orientada Esta estrategia estará orientada a formar talento humano a formar talento humano altamente calificado, impulsar altamente calificado, impulsar la investigación avanzada, la investigación avanzada, promover la innovación promover la innovación científica y tecnológica, y científica y tecnológica, y consolidar capacidades consolidar capacidades institucionales para el institucionales para el desarrollo y uso responsable de desarrollo y uso responsable de estas tecnologías en todos los estas tecnologías en todos los sectores estratégicos del país. sectores estratégicos del país. Artículo 25. Incorporación Artículo 24. Incorporación Se modifica numeración y se transversal de contenidos transversal de contenidos elimina inciso con el fin de no sobre inteligencia artificial en sobre inteligencia artificial afectar autonomía la educación superior. El en la educación superior. El universitaria. Ministerio de Educación Ministerio de Educación Nacional, en articulación con el Nacional, en articulación con el Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, Tecnología e Innovación, fomentará la inclusión fomentará la inclusión progresiva y transversal de progresiva y transversal de contenidos formativos sobre contenidos formativos sobre fundamentos, aplicaciones fundamentos, aplicaciones sectoriales, impactos sociales y sectoriales, impactos sociales y principios éticos de la principios éticos de la inteligencia artificial en inteligencia artificial en programas de educación programas de educación superior que no pertenezcan a superior que no pertenezcan a áreas de ingeniería, ciencias áreas de ingeniería, ciencias computacionales o afines. Esta computacionales o afines. Esta incorporación se promoverá incorporación se promoverá mediante la actualización de mediante la actualización de lineamientos curriculares, la lineamientos curriculares, la creación de núcleos comunes o creación de núcleos comunes o asignaturas electivas de asignaturas electivas de formación general, y el formación general, y el impulso de enfoques impulso de enfoques interdisciplinares en campos interdisciplinares en campos como la salud, el derecho, las como la salud, el derecho, las ciencias sociales, las ciencias sociales, las humanidades, las artes, la humanidades, las artes, la educación y la agricultura, educación y la agricultura, entre otros. entre otros. Parágrafo. Se priorizará el Parágrafo. Se priorizará el desarrollo de materiales desarrollo de materiales educativos, la cualificación educativos, la cualificación docente y la conformación de docente y la conformación de alianzas entre instituciones de alianzas entre instituciones de educación superior y centros de educación superior y centros de investigación con trayectoria investigación con trayectoria en inteligencia artificial, con el en inteligencia artificial, con el fin de facilitar procesos de fin de facilitar procesos de transferencia pedagógica y transferencia pedagógica y tecnológica, especialmente tecnológica, especialmente hacia regiones con menores hacia regiones con menores capacidades técnicas y capacidades técnicas y académicas. académicas. Capítulo VII: Promoción de Sin modificaciones. la innovación y transformación laboral en la era de la Inteligencia Artificial Artículo 26. Transición Artículo 25. Transición Se modifica numeración y laboral y lineamientos laboral y lineamientos termino se cambia a trabajo laborales. El Gobierno laborales. El Gobierno digno, con el fin de mantener Nacional, a través del Nacional, a través del harmonía constitucional. Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación y en Tecnología e Innovación y en coordinación con el Ministerio coordinación con el Ministerio del Trabajo y otras entidades del Trabajo y otras entidades pertinentes, definirá los pertinentes, definirá los lineamientos de transición lineamientos de transición justa justa frente al impacto de la IA frente al impacto de la IA sobre sobre el empleo y el trabajo el empleo y el trabajo digno. decente. Dichos lineamientos deberán Dichos lineamientos deberán considerar las diferencias considerar las diferencias regionales, sectoriales y de regionales, sectoriales y de género, con enfoque de género, con enfoque de derechos humanos y de trabajo derechos humanos y de trabajo digno, e incluirán criterios para digno, e incluirán criterios para la reconversión laboral, la reconversión laboral, actualización de competencias, actualización de competencias, protección del empleo, protección del empleo, mecanismos de participación mecanismos de participación de los trabajadores y esquemas de los trabajadores y esquemas de corresponsabilidad por parte de corresponsabilidad por parte de los empleadores. de los empleadores. Estos lineamientos deberán Estos lineamientos deberán estar articulados con las estar articulados con las políticas públicas vigentes de políticas públicas vigentes de formación para el trabajo, formación para el trabajo, protección al cesante y protección al cesante y fortalecimiento del Servicio fortalecimiento del Servicio Público de Empleo, sin Público de Empleo, sin perjuicio de la autonomía perjuicio de la autonomía técnica de las entidades técnica de las entidades participantes. participantes. Artículo 27. Reconversión y Artículo 26. Reconversión y Se modifica numeración, se capacitación laboral por capacitación laboral por suprime la palabra efectos de Inteligencia efectos de Inteligencia reconversión por considerarse Artificial. Los empleadores Artificial. Los empleadores demasiado ambigua y se que implementen sistemas de que implementen sistemas de incluye un parágrafo para IA que puedan generar IA que puedan generar mayor claridad. desplazamiento o desplazamiento o transformación sustancial de transformación sustancial de las funciones laborales las funciones laborales existentes deberán adoptar existentes deberán adoptar planes de reconversión, planes de reconversión, reubicación o capacitación reubicación o capacitación dirigidos a los trabajadores dirigidos a los trabajadores potencialmente afectados. potencialmente afectados. Estos planes deberán ser Estos planes deberán ser diseñados con enfoque diseñados con enfoque preventivo, garantizar el preventivo, garantizar el respeto a la dignidad humana, y respeto a la dignidad humana, y estar alineados con los estar alineados con los lineamientos de transición lineamientos de transición justa a que se refiere el artículo justa a que se refiere el artículo anterior. anterior. El cumplimiento de estas El cumplimiento de estas obligaciones será objeto de obligaciones será objeto de seguimiento por parte del seguimiento por parte del Ministerio del Trabajo, a través Ministerio del Trabajo, a través de sus funciones de inspección, de sus funciones de inspección, vigilancia y control, sin vigilancia y control, sin perjuicio de las acciones que perjuicio de las acciones que puedan adelantar otras puedan adelantar otras entidades competentes. entidades competentes. El Ministerio del Trabajo, en El Ministerio del Trabajo, en coordinación con el Ministerio coordinación con el Ministerio de Ciencia, Tecnología e de Ciencia, Tecnología e Innovación, podrá emitir guías, Innovación, podrá emitir guías, orientaciones o criterios orientaciones o criterios técnicos para apoyar a los técnicos para apoyar a los empleadores en la formulación empleadores en la formulación e implementación de estos e implementación de estos planes. planes. Parágrafo. El Ministerio del Trabajo, en coordinación con el Ministerio de Ciencia, Tecnología e Innovación, definirá que se considera transformación sustancial, teniendo en cuenta criterios técnicos y jurídicos. Capítulo VIII: Acuerdos y Sin modificaciones colaboración internacional para la competitividad en Inteligencia Artificial Artículo 28. Acuerdos Artículo 27. Acuerdos Modifica numeración. internacionales en internacionales en inteligencia artificial. El inteligencia artificial. El Gobierno Nacional, a través del Gobierno Nacional, a través del Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, en Tecnología e Innovación, en coordinación con el Ministerio coordinación con el Ministerio de Relaciones Exteriores, de Relaciones Exteriores, APC-Colombia y demás APC-Colombia y demás entidades competentes, entidades competentes, promoverá la gestión, promoverá la gestión, formulación y formulación y acompañamiento técnico de acompañamiento técnico de acuerdos bilaterales y acuerdos bilaterales y multilaterales en materia de multilaterales en materia de inteligencia artificial, en el inteligencia artificial, en el marco de las competencias marco de las competencias legales y constitucionales legales y constitucionales vigentes. Estos acuerdos vigentes. Estos acuerdos deberán observar principios de deberán observar principios de soberanía, justicia tecnológica, soberanía, justicia tecnológica, responsabilidad compartida y responsabilidad compartida y protección de los derechos protección de los derechos fundamentales, e incorporar fundamentales, e incorporar criterios de transparencia, criterios de transparencia, evaluación de impacto y evaluación de impacto y comunicación pública. comunicación pública. Artículo 29. Cooperación Artículo 28. Cooperación Modifica numeración. técnica y científica para la técnica y científica para la inteligencia artificial. El inteligencia artificial. El Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, en Tecnología e Innovación, en articulación con el Ministerio articulación con el Ministerio de Relaciones Exteriores y de Relaciones Exteriores y demás entidades competentes, demás entidades competentes, fomentará la participación fomentará la participación activa de Colombia en espacios activa de Colombia en espacios multilaterales, redes multilaterales, redes internacionales de internacionales de investigación y mecanismos de investigación y mecanismos de construcción de estándares construcción de estándares globales sobre inteligencia globales sobre inteligencia artificial. Esta cooperación artificial. Esta cooperación estará orientada al estará orientada al fortalecimiento de capacidades fortalecimiento de capacidades nacionales, la adopción de nacionales, la adopción de buenas prácticas, el acceso a buenas prácticas, el acceso a tecnologías estratégicas, la tecnologías estratégicas, la transferencia de conocimiento transferencia de conocimiento y la actualización normativa y la actualización normativa continua, con base en continua, con base en principios éticos, científicos, principios éticos, científicos, jurídicos y de inclusión jurídicos y de inclusión territorial. territorial. Capítulo IX: Garantías, Sin modificacion. responsabilidades y mecanismos de supervisión para un uso ético y seguro de la Inteligencia Artificial Artículo 30. Adecuación Artículo 29. Criterios de Se elimina el articulo 30 normativa de tipo penal en imposición y graduación de radicado y se mueve el relación con la Inteligencia sanciones. Las sanciones articulo 36 a la presente Artificial. En un plazo no derivadas de infracciones a la posición con el fin de mayor a doce (12) meses presente ley serán impuestas mantener coherencia con el contados a partir de la entrada atendiendo a los principios de capitulo en cuestión. en vigor de la presente ley, el proporcionalidad, gradualidad, Gobierno Nacional, a través del necesidad y razonabilidad, Ministerio de Justicia y del considerando los siguientes Derecho, y en coordinación criterios, cuando resulten con el Consejo Superior de aplicables: Política Criminal, deberá presentar una propuesta 1. Grado de afectación o riesgo normativa ante el Congreso de efectivo a los derechos la República orientada a la fundamentales, al interés actualización del Código Penal público о a los principios Colombiano. Esta propuesta establecidos en esta ley. tendrá como finalidad tipificar 2. Existencia de acciones de forma específica y previas de advertencia u excepcional aquellas orientación técnica por parte de conductas que, mediante el uso la Autoridad Nacional para la indebido, doloso o fraudulento IA o de la autoridad de sistemas de Inteligencia competente, y la respuesta dada Artificial, generen impactos por el Responsable de IA ante negativos graves sobre los dichas acciones. derechos fundamentales, la 3. El beneficio económico integridad de las personas o el obtenido por el Responsable de interés público. IA o por terceros como resultado de la infracción. La propuesta normativa deberá 4. Reincidencia comprobada, sustentarse en estudios entendida como la repetición técnicos, jurídicos y de política de una conducta infractora criminal, y garantizará el luego de haber sido objeto de respeto por los principios advertencia o sanción previa. constitucionales, la 5. Conducta obstructiva, como proporcionalidad punitiva, el la negativa injustificada a debido proceso, los derechos colaborar con las labores de fundamentales y los estándares inspección, vigilancia o internacionales en materia de control. derechos humanos. Las 6. Desacato o incumplimiento disposiciones penales deberán reiterado de las diferenciar claramente entre recomendaciones técnicas o fallas técnicas, errores no correctivos ordenados por la dolosos y usos maliciosos de la autoridad competente, cuando IA, garantizando que no se hayan sido emitidos con sancione el desarrollo anterioridad. tecnológico experimental sin 7. Reconocimiento voluntario daño ni negligencia grave. o aceptación temprana de la infracción, así como la El Ministerio de Ciencia, adopción espontánea de Tecnología e Innovación medidas correctivas por parte participará como entidad del Responsable de IA. asesora técnica en la Parágrafo. Las sanciones identificación de los riesgos deberán aplicarse como último tecnológicos que podrían dar recurso, una vez agotadas las lugar a tales conductas medidas de orientación, punibles. advertencia y mejora, salvo en aquellos casos en que exista daño grave, riesgo inminente o intención dolosa demostrable. Artículo 31. Infracciones Artículo 30. Infracciones Se modifica el artículo para administrativas y administrativas en mayor coherencia. mecanismos preventivos. inteligencia artificial. Constituyen infracciones a lo dispuesto en la presente ley las Constituyen infracciones a lo siguientes conductas, cuando dispuesto en la presente ley las sean realizadas por los conductas realizadas por los Responsables de IA en Responsables de IA que cualquier etapa del ciclo de impliquen el incumplimiento vida de los sistemas, una vez de obligaciones técnicas, hayan sido advertidos o jurídicas o administrativas acompañados por la autoridad previstas en su respectivo rol competente y persista el dentro del ciclo de vida de los incumplimiento sin sistemas de inteligencia justificación técnica o legal: artificial. Serán infracciones, entre otras: 1. Implementar, operar o 1. Implementar, operar o poner en poner en funcionamiento un funcionamiento un sistema de IA sistema de IA clasificado como de clasificado como de riesgo inaceptable por riesgo inaceptable por la Autoridad Nacional, la autoridad salvo que cuente con competente. una autorización especial para fines de 2. Incumplir los investigación, requisitos técnicos, desarrollo o mejora jurídicos o técnica bajo administrativos condiciones de exigidos para la control. comercialización, 2. Incumplir los implementación u requisitos técnicos, operación de sistemas jurídicos o de IA de alto riesgo. administrativos para la comercialización, 3. Omitir las implementación o uso obligaciones de de sistemas de IA transparencia o clasificados como de información al usuario alto riesgo, según lo en sistemas que deban establecido por la cumplir con requisitos autoridad competente. específicos en esta 3. Omitir las materia. obligaciones de transparencia o 4. Incumplir las información adecuada obligaciones de a los usuarios sobre el gestión del riesgo funcionamiento de cuando ello derive en sistemas de IA de impacto negativo riesgo limitado, verificable o especialmente cuando persistente. interactúen con personas sin 5. Desatender conocimiento previo requerimientos del uso de IA. técnicos emitidos por 4. Incumplir las la autoridad disposiciones sobre competente sin gestión del riesgo de justificación válida. sistemas de bajo riesgo, cuando haya evidencia de impacto negativo no mitigado o persistente. 5. Desatender las recomendaciones, medidas de mejora o requerimientos técnicos emitidos por la Autoridad Nacional para la IA o las autoridades competentes, cuando estas hayan sido formuladas previamente y exista resistencia injustificada. Parágrafo. Antes de imponer cualquier sanción, las autoridades competentes deberán privilegiar las acciones de orientación, advertencia formal y acompañamiento técnico, salvo en casos en los que exista daño grave, intencionalidad, reincidencia o riesgo inminente para los derechos fundamentales o el interés público. Artículo 32. Medidas de Artículo 31. Medidas de Se modifica todo el articulo mitigación y prevención. Los mitigación, prevención y para mayor coherencia. Responsables de IA, conforme procedimiento al ámbito de aplicación de la administrativo. presente ley, deberán implementar medidas de Los Responsables de IA mitigación y prevención deberán implementar medidas acordes con el nivel de riesgo de mitigación y prevención del sistema de IA que acordes con el nivel de riesgo desarrollen, comercialicen, del sistema utilizado, distribuyan, implementen o orientadas a prevenir utilicen, con el objetivo de afectaciones a los derechos proteger los derechos humanos y prevenir impactos negativos humanos, al interés público y al en la sociedad y el medio medio ambiente. ambiente. La investigación de posibles infracciones administrativas se adelantará conforme a lo previsto en la legislación vigente. El procedimiento deberá incluir, en lo posible, fases de advertencia, asesoría técnica y planes de mejora progresiva, sin perjuicio de la adopción inmediata de medidas cuando exista riesgo grave o daño ya causado, en harmonía con los códigos de procedimiento vigente. Parágrafo. Las sanciones derivadas del incumplimiento de otros regímenes legales serán aplicadas por las autoridades competentes en cada sector, según su propio marco sancionatorio. Artículo 33: Procedimiento: Artículo 32. Medidas Se modifica todo el articulo Para efectos de la investigación correctivas y sanciones. para mayor coherencia. de las posibles infracciones administrativas señaladas en la Las autoridades competentes presente ley se tendrá en cuenta podrán imponer medidas para su desarrollo el capítulo correctivas y sanciones a los III Artículo 47 y siguientes de Responsables de IA que la ley 1437 de 2011. incumplan lo dispuesto en esta ley, respetando los principios Las sanciones derivadas del de proporcionalidad, incumplimiento de otros gradualidad, debido proceso y regímenes por parte de los mejora continua. Las sanciones Responsables de IA serán podrán incluir: impuestas conforme a los procedimientos aplicables, 1. Requerimientos de según el tipo de infracción y el mejora voluntaria con régimen sancionatorio vigente. acompañamiento técnico. Antes de imponer sanciones, se procurará agotar mecanismos 2. Advertencia oficial pedagógicos y de mejora por escrito con plazo continua, salvo en casos de para ajuste. afectación grave, daño irreversible, intención dolosa o 3. Multas hasta por tres riesgo inminente. El mil (3.000) salarios procedimiento sancionatorio mínimos mensuales incluirá fases de advertencia, legales vigentes, asesoría técnica y planes de aplicables ajuste progresivo, orientados a sucesivamente subsanar las deficiencias mientras subsista el detectadas. incumplimiento. 4. Suspensión de actividades por un periodo máximo de veinticuatro (24) meses. 5. Cierre temporal o definitivo de la operación del sistema de IA, incluido el bloqueo de acceso en el territorio nacional, cuando los riesgos sean graves, deliberados o irreversibles. Parágrafo. Las sanciones previstas en este artículo aplican exclusivamente a personas naturales o jurídicas privadas. En caso de presunto incumplimiento por parte de autoridades públicas, la actuación se remitirá a la Procuraduría General de la Nación. Artículo 34. Medidas Artículo 34. Medidas Se elimina el presente articulo. correctivas, sanciones e correctivas, sanciones e instrumentos de mejora. Las instrumentos de mejora. Las autoridades competentes autoridades competentes podrán imponer medidas podrán imponer medidas correctivas y sanciones a los correctivas y sanciones a los Responsables de IA que Responsables de IA que incumplan lo dispuesto en la incumplan lo dispuesto en la presente ley, conforme a su presente ley, conforme a su régimen jurídico aplicable. Las régimen jurídico aplicable. Las sanciones se aplicarán bajo sanciones se aplicarán bajo principios de gradualidad, principios de gradualidad, proporcionalidad, debido proporcionalidad, debido proceso y mejora continua, y proceso y mejora continua, y podrán incluir una o varias de podrán incluir una o varias de las siguientes medidas: las siguientes medidas: 1. Requerimiento de 6. Requerimiento de mejora voluntaria, con mejora voluntaria, con acompañamiento acompañamiento técnico por parte de la técnico por parte de la Autoridad Nacional Autoridad Nacional para la IA o la entidad para la IA o la entidad competente, cuando se competente, cuando se identifiquen riesgos identifiquen riesgos corregibles que no corregibles que no hayan generado daños hayan generado daños efectivos. efectivos. 2. Advertencia oficial 7. Advertencia oficial por por escrito, con plazo escrito, con plazo razonable para la razonable para la adopción de adopción de correctivos. correctivos. 3. Multas de carácter 8. Multas de carácter personal o personal o institucional, hasta por institucional, hasta por el equivalente de tres el equivalente de tres mil (3.000) salarios mil (3.000) salarios mínimos mensuales mínimos mensuales legales vigentes al legales vigentes al momento de la momento de la imposición de la imposición de la sanción. Las multas sanción. Las multas podrán ser sucesivas podrán ser sucesivas mientras subsista el mientras subsista el incumplimiento que incumplimiento que las originó. las originó. 4. Suspensión de 9. Suspensión de actividades actividades relacionadas con el relacionadas con el sistema de IA hasta por sistema de IA hasta por veinticuatro (24) veinticuatro (24) meses, indicando los meses, indicando los correctivos que deben correctivos que deben adoptarse para adoptarse para reanudar operaciones. reanudar operaciones. 5. Cierre temporal o 10. Cierre temporal o definitivo de la definitivo de la operación relacionada operación relacionada con el sistema de IA, con el sistema de IA, incluyendo el bloqueo incluyendo el bloqueo de acceso en el de acceso en el territorio nacional, territorio nacional, cuando el cuando el incumplimiento incumplimiento persista o los riesgos persista o los riesgos sean graves, sean graves, deliberados o deliberados o irreversibles. irreversibles. Parágrafo. Las sanciones Parágrafo. Las sanciones previstas en el presente artículo previstas en el presente artículo aplican exclusivamente a los aplican exclusivamente a los Responsables de IA de Responsables de IA de naturaleza privada. En caso de naturaleza privada. En caso de presunto incumplimiento por presunto incumplimiento por parte de una autoridad pública, parte de una autoridad pública, se remitirá la actuación a la se remitirá la actuación a la Procuraduría General de la Procuraduría General de la Nación. Nación. Artículo 35. Coordinación Artículo 35. Coordinación Se elimina el presente articulo. institucional para la institucional para la supervisión del uso de supervisión del uso de inteligencia artificial. La inteligencia artificial. La Superintendencia de Industria Superintendencia de Industria y Comercio ejercerá sus y Comercio ejercerá sus funciones de inspección, funciones de inspección, vigilancia y control frente al vigilancia y control frente al uso de tecnologías de uso de tecnologías de inteligencia artificial, inteligencia artificial, conforme a sus competencias conforme a sus competencias legales en materia de legales en materia de protección de datos personales, protección de datos personales, protección al consumidor y protección al consumidor y libre competencia. El libre competencia. El Ministerio de Ciencia, Ministerio de Ciencia, Tecnología e Innovación, Tecnología e Innovación, como autoridad nacional en como autoridad nacional en inteligencia artificial, podrá inteligencia artificial, podrá emitir conceptos técnicos y emitir conceptos técnicos y recomendaciones no recomendaciones no vinculantes que orienten las vinculantes que orienten las decisiones de las autoridades decisiones de las autoridades competentes. En lo no previsto competentes. En lo no previsto expresamente, se aplicará el expresamente, se aplicará el Código de Procedimiento Código de Procedimiento Administrativo y de lo Administrativo y de lo Contencioso Administrativo. Contencioso Administrativo. 1. Grado de afectación o 8. Grado de afectación o riesgo efectivo a los riesgo efectivo a los derechos derechos fundamentales, al fundamentales, al interés público o a los interés público o a los principios establecidos principios establecidos en esta ley. en esta ley. 2. Existencia de acciones 9. Existencia de acciones previas de advertencia previas de advertencia u orientación técnica u orientación técnica por parte de la por parte de la Autoridad Nacional Autoridad Nacional para la IA o de la para la IA o de la autoridad competente, autoridad competente, y la respuesta dada por y la respuesta dada por el Responsable de IA el Responsable de IA ante dichas acciones. ante dichas acciones. 3. El beneficio 10. El beneficio económico obtenido económico obtenido por el Responsable de por el Responsable de IA o por terceros como IA o por terceros como resultado de la resultado de la infracción. infracción. 4. Reincidencia 11. Reincidencia comprobada, comprobada, entendida como la entendida como la repetición de una repetición de una conducta infractora conducta infractora luego de haber sido luego de haber sido objeto de advertencia o objeto de advertencia o sanción previa. sanción previa. 5. Conducta obstructiva, 12. Conducta obstructiva, como la negativa como la negativa injustificada a injustificada a colaborar con las colaborar con las labores de inspección, labores de inspección, vigilancia o control. vigilancia o control. 6. Desacato o 13. Desacato o incumplimiento incumplimiento reiterado de las reiterado de las recomendaciones recomendaciones técnicas o correctivos técnicas o correctivos ordenados por la ordenados por la autoridad competente, autoridad competente, cuando hayan sido cuando hayan sido emitidos con emitidos con anterioridad. anterioridad. 7. Reconocimiento 14. Reconocimiento voluntario o voluntario o aceptación temprana aceptación temprana de la infracción, así de la infracción, así como la adopción como la adopción espontánea de medidas espontánea de medidas correctivas por parte correctivas por parte del Responsable de IA. del Responsable de IA. Parágrafo. Las sanciones Parágrafo. Las sanciones deberán aplicarse como último deberán aplicarse como último recurso, una vez agotadas las recurso, una vez agotadas las medidas de orientación, medidas de orientación, advertencia y mejora, salvo en advertencia y mejora, salvo en aquellos casos en que exista aquellos casos en que exista daño grave, riesgo inminente o daño grave, riesgo inminente o intención dolosa demostrable. intención dolosa demostrable. Capítulo X: Disposiciones Sin modificacion. finales Artículo 36. Criterios de Artículo 36. Criterios de Articulo se pasa al articulo 30. imposición y graduación de imposición y graduación de sanciones. Las sanciones sanciones. Las sanciones derivadas de infracciones a la derivadas de infracciones a la presente ley serán impuestas presente ley serán impuestas atendiendo a los principios de atendiendo a los principios de proporcionalidad, gradualidad, proporcionalidad, gradualidad, necesidad y razonabilidad, necesidad y razonabilidad, considerando los siguientes considerando los siguientes criterios, cuando resulten criterios, cuando resulten aplicables: aplicables: 1. Grado de afectación o riesgo 1. Grado de afectación o riesgo efectivo a los derechos efectivo a los derechos fundamentales, al interés fundamentales, al interés público о a los principios público о a los principios establecidos en esta ley. establecidos en esta ley. 2. Existencia de acciones 2. Existencia de acciones previas de advertencia u previas de advertencia u orientación técnica por parte de orientación técnica por parte de la Autoridad Nacional para la la Autoridad Nacional para la IA o de la autoridad IA o de la autoridad competente, y la respuesta dada competente, y la respuesta dada por el Responsable de IA ante por el Responsable de IA ante dichas acciones. dichas acciones. 3. El beneficio económico 3. El beneficio económico obtenido por el Responsable de obtenido por el Responsable de IA o por terceros como IA o por terceros como resultado de la infracción. resultado de la infracción. 4. Reincidencia comprobada, 4. Reincidencia comprobada, entendida como la repetición entendida como la repetición de una conducta infractora de una conducta infractora luego de haber sido objeto de luego de haber sido objeto de advertencia o sanción previa. advertencia o sanción previa. 5. Conducta obstructiva, como 5. Conducta obstructiva, como la negativa injustificada a la negativa injustificada a colaborar con las labores de colaborar con las labores de inspección, vigilancia o inspección, vigilancia o control. control. 6. Desacato o incumplimiento 6. Desacato o incumplimiento reiterado de las reiterado de las recomendaciones técnicas o recomendaciones técnicas o correctivos ordenados por la correctivos ordenados por la autoridad competente, cuando autoridad competente, cuando hayan sido emitidos con hayan sido emitidos con anterioridad. anterioridad. 7. Reconocimiento voluntario 7. Reconocimiento voluntario o aceptación temprana de la o aceptación temprana de la infracción, así como la infracción, así como la adopción espontánea de adopción espontánea de medidas correctivas por parte medidas correctivas por parte del Responsable de IA. del Responsable de IA. Parágrafo. Las sanciones Parágrafo. Las sanciones deberán aplicarse como último deberán aplicarse como último recurso, una vez agotadas las recurso, una vez agotadas las medidas de orientación, medidas de orientación, advertencia y mejora, salvo en advertencia y mejora, salvo en aquellos casos en que exista aquellos casos en que exista daño grave, riesgo inminente o daño grave, riesgo inminente o intención dolosa demostrable. intención dolosa demostrable. Artículo 37. Adaptabilidad y Artículo 33. Adaptabilidad y Se ajusta numeración. revisión. El Ministerio de revisión. El Ministerio de Ciencia, Tecnología e Ciencia, Tecnología e Innovación reglamentará los Innovación reglamentará los aspectos y contenidos aspectos y contenidos relacionados con las temáticas relacionados con las temáticas de la presente ley, para de la presente ley, para asegurar su relevancia y asegurar su relevancia y eficacia ante los avances eficacia ante los avances tecnológicos y las necesidades tecnológicos y las necesidades sociales, en coordinación con sociales, en coordinación con las demás entidades las demás entidades involucradas. Esta revisión involucradas. Esta revisión también considerará pero no se también considerará pero no se limitará a: limitará a: a) Establecer nuevas a) Establecer nuevas normativas y adoptar las normativas y adoptar las mejores prácticas mejores prácticas internacionales. internacionales. b) Evaluar el impacto y los b) Evaluar el impacto y los resultados de la ley. resultados de la ley. c) Incorporar los nuevos c) Incorporar los nuevos avances tecnológicos y sus avances tecnológicos y sus implicaciones. implicaciones. d) Establecer los mecanismos d) Establecer los mecanismos de monitoreo y supervisión de de monitoreo y supervisión de la implementación de la ley. la implementación de la ley. Artículo 38. Adaptación de Artículo 34. Adaptación de Se ajusta numeración. sistemas existentes. Todos los sistemas existentes. Todos los sistemas de IA que se sistemas de IA que se encuentren en funcionamiento encuentren en funcionamiento en el territorio nacional a la en el territorio nacional a la fecha de entrada en vigor de la fecha de entrada en vigor de la presente ley deberán ajustarse a presente ley deberán ajustarse a las disposiciones establecidas las disposiciones establecidas en la misma. Los responsables en la misma. Los responsables de estos sistemas, ya sean de estos sistemas, ya sean personas naturales o jurídicas, personas naturales o jurídicas, deberán asegurarse de que sus deberán asegurarse de que sus sistemas de IA cumplan con los sistemas de IA cumplan con los requisitos, clasificaciones de requisitos, clasificaciones de riesgo, y normativas riesgo, y normativas establecidas en la presente ley. establecidas en la presente ley. Artículo 39. Financiación. El Artículo 35. Financiación. El Se ajusta numeración. Gobierno Nacional establecerá Gobierno Nacional establecerá vínculos que posibiliten vínculos que posibiliten garantizar una financiación garantizar una financiación sólida y sostenible, sólida y sostenible, promoviendo la diversificación promoviendo la diversificación de las fuentes de de las fuentes de financiamiento por medio de la financiamiento por medio de la cooperación internacional, las cooperación internacional, las alianzas público-privadas, alianzas público-privadas, entre otros mecanismos, para entre otros mecanismos, para impulsar la regulación, la impulsar la regulación, la verificación, la investigación, verificación, la investigación, la implementación y la la implementación y la adopción responsable de la IA adopción responsable de la IA en nuestro país. en nuestro país. Artículo 40. Gastos para la Artículo 36. Gastos para la Se ajusta numeración. implementación. Cualquier implementación. Cualquier gasto generado para la gasto generado para la implementación de esta ley implementación de esta ley estará sujeto a la disponibilidad estará sujeto a la disponibilidad de recursos del Presupuesto de recursos del Presupuesto General de la Nación, de General de la Nación, de conformidad con el Marco conformidad con el Marco Fiscal de Mediano Plazo y el Fiscal de Mediano Plazo y el Marco de Gasto de Mediano Marco de Gasto de Mediano Plazo referente a las Plazo referente a las proyecciones de gasto del proyecciones de gasto del sector de ciencia, tecnología e sector de ciencia, tecnología e innovación. innovación. Se ajusta numeración. Artículo 41. Entrada en Artículo 37. Entrada en vigencia. La presente ley regirá vigencia. La presente ley regirá a partir de su promulgación y a partir de su promulgación y deroga todas las disposiciones deroga todas las disposiciones que le sean contrarias. que le sean contrarias. Conflicto de intereses El artículo 291 de la Ley 5ª de 1992 -Reglamento Interno del Congreso, modificado por el artículo 3° de la Ley 2003 de 2019, establece que: “el autor del proyecto y el ponente presentarán en el cuerpo de la exposición de motivos un acápite que describa las circunstancias o eventos que podrían generar un conflicto de interés para la discusión y votación del proyecto, de acuerdo con el artículo 286. Estos serán criterios guías para que los otros congresistas tomen una decisión en torno a si se encuentran en una causal de impedimento, no obstante, otras causales que el Congresista pueda encontrar”. Sobre este asunto ha señalado el Consejo de Estado (2019): No cualquier interés configura la causal de desinvestidura en comento, pues se sabe que sólo lo será aquél del que se pueda predicar que es directo, esto es, que per se el alegado beneficio, provecho o utilidad encuentre su fuente en el asunto que fue conocido por el legislador; particular, que el mismo sea específico o personal, bien para el congresista o quienes se encuentren relacionados con él; y actual o inmediato, que concurra para el momento en que ocurrió la participación o votación del congresista, lo que excluye sucesos contingentes, futuros o imprevisibles. También se tiene noticia que el interés puede ser de cualquier naturaleza, esto es, económico o moral, sin distinción alguna. De igual forma, es pertinente señalar lo que la Ley 5 de 1992 dispone sobre la materia en el artículo 286, modificado por el artículo 1 de la Ley 2003 de 2019: “Se entiende como conflicto de interés una situación donde la discusión o votación de un proyecto de ley o acto legislativo o artículo, pueda resultar en un beneficio particular, actual y directo a favor del congresista. a) Beneficio particular: aquel que otorga un privilegio o genera ganancias o crea indemnizaciones económicas o elimina obligaciones a favor del congresista de las que no gozan el resto de los ciudadanos. Modifique normas que afecten investigaciones penales, disciplinarias, fiscales o administrativas a las que se encuentre formalmente vinculado. b) Beneficio actual: aquel que efectivamente se configura en las circunstancias presentes y existentes al momento en el que el congresista participa de la decisión. c) Beneficio directo: aquel que se produzca de forma específica respecto del congresista, de su cónyuge, compañero o compañera permanente, o parientes dentro del segundo grado de consanguinidad, segundo de afinidad o primero civil.” De lo anterior y de manera meramente orientativa, se considera que para la discusión y aprobación de este Proyecto de Ley no existen circunstancias que pudieran dar lugar a un eventual conflicto de interés por parte de los Honorables Congresistas, pues es una iniciativa de carácter general, impersonal y abstracta, con lo cual no se materializa una situación concreta que permita enmarcar un beneficio particular, directo ni actual. En suma, se considera que este proyecto se enmarca en lo dispuesto por el literal a del artículo primero de la Ley 2003 de 2019 sobre las hipótesis de cuando se entiende que no hay conflicto de interés. En todo caso, es pertinente aclarar que los conflictos de interés son personales y corresponde a cada Congresista evaluarlos, pudiendo manifestar cuando considere que está inmerso en impedimento. Impacto Fiscal La Ley 819 de 2003 “Por la cual se dictan normas orgánicas en materia de presupuesto, responsabilidad y transparencia fiscal y se dictan otras disposiciones”, en el artículo 7 establece: “ARTÍCULO 7o. ANÁLISIS DEL IMPACTO FISCAL DE LAS NORMAS. En todo momento, el impacto fiscal de cualquier proyecto de ley, ordenanza o acuerdo, que ordene gasto o que otorgue beneficios tributarios, deberá hacerse explícito y deberá ser compatible con el Marco Fiscal de Mediano Plazo. Para estos propósitos, deberá incluirse expresamente en la exposición de motivos y en las ponencias de trámite respectivas los costos fiscales de la iniciativa y la fuente de ingreso adicional generada para el financiamiento de dicho costo. El Ministerio de Hacienda y Crédito Público, en cualquier tiempo durante el respectivo trámite en el Congreso de la República, deberá rendir su concepto frente a la consistencia de lo dispuesto en el inciso anterior. En ningún caso este concepto podrá ir en contravía del Marco Fiscal de Mediano Plazo. Este informe será publicado en la Gaceta del Congreso. Los proyectos de ley de iniciativa gubernamental, que planteen un gasto adicional o una reducción de ingresos, deberán contener la correspondiente fuente sustitutiva por disminución de gasto o aumentos de ingresos, lo cual deberá ser analizado y aprobado por el Ministerio de Hacienda y Crédito Público. En las entidades territoriales, el trámite previsto en el inciso anterior será surtido ante la respectiva Secretaría de Hacienda o quien haga sus veces.” De esta manera, la Corte Constitucional expresó en la Sentencia C-911 de 2007, bajo la ponencia del Magistrado Jaime Araujo Rentería, que el análisis del impacto fiscal de un proyecto de ley no debe ser visto como un impedimento insuperable para la labor legislativa. Es el Ministerio de Hacienda, como entidad competente y dotada de las herramientas necesarias, quien debe llevar a cabo estos estudios para complementar las exposiciones de motivos de las iniciativas legislativas, actuando como una entidad de apoyo. “Precisamente, los obstáculos casi insuperables que se generarían para la actividad legislativa del Congreso de la República conducirían a concederle una forma de poder de veto al ministro de Hacienda sobre las iniciativas de ley en el Parlamento. El Ministerio de Hacienda es quien cuenta con los elementos necesarios para poder efectuar estimativos de los costos fiscales, para establecer de dónde pueden surgir los recursos necesarios para asumir los costos de un proyecto y para determinar la compatibilidad de los proyectos con el Marco Fiscal de Mediano Plazo. A él tendrían que acudir los congresistas o las bancadas que quieren presentar un proyecto de ley que implique gastos. De esta manera, el Ministerio decidiría qué peticiones atiende y el orden de prioridad para hacerlo. Con ello adquiriría el poder de determinar la agenda legislativa, en desmedro de la autonomía del Congreso” La Corte Constitucional, en la Sentencia C-866 de 2020, con ponencia del Magistrado Jorge Ignacio Pretelt Chaljub, ha delineado las subreglas para el análisis del impacto fiscal de las iniciativas legislativas así: “En hilo de lo expuesto, es posible deducir las siguientes subreglas sobre el alcance del artículo 7o de la Ley 819 de 2003: (i) las obligaciones previstas en el artículo 7o de la Ley 819 de 2003 constituyen un parámetro de racionalidad legislativa, que cumple fines constitucionalmente relevantes como el orden de las finanzas públicas y la estabilidad macroeconómica; (ii) el cumplimiento de lo dispuesto en el artículo 7o de la Ley 819 de 2003 corresponde al Congreso, pero principalmente al Ministro de Hacienda y Crédito Público, en tanto que “es el que cuenta con los datos, los equipos de funcionarios y la experticia en materia económica. Por lo tanto, en el caso de que los congresistas tramiten un proyecto incorporando estimativos erróneos sobre el impacto fiscal, sobre la manera de atender esos nuevos gastos o sobre la compatibilidad del proyecto con el Marco Fiscal de Mediano Plazo, le corresponde al Ministro de Hacienda intervenir en el proceso legislativo para ilustrar al Congreso acerca de las consecuencias económicas del proyecto”; (iii) en caso de que el Ministro de Hacienda y Crédito Público no intervenga en el proceso legislativo u omita conceptuar sobre la viabilidad económica del proyecto no lo vicia de inconstitucionalidad, puesto que este requisito no puede entenderse como un poder de veto sobre la actuación del Congreso o una barrera para que el Legislador ejerza su función legislativa, lo cual “se muestra incompatible con el balance entre los poderes públicos y el principio democrático”; y (iv) el informe presentado por el Ministro de Hacienda y Crédito Público no obliga a las células legislativas a acoger su posición, sin embargo, sí genera una obligación en cabeza del Congreso de valorarlo y analizarlo. Sólo así se garantiza una debida colaboración entre las ramas del poder público y se armoniza el principio democrático con la estabilidad macroeconómica” (Subrayado y negrilla propio) Durante el trámite legislativo, el Ministerio de Hacienda y Crédito Público puede decidir deliberadamente si es necesario o no realizar un estudio del impacto fiscal de las normas en proceso. Sin embargo, la falta de un pronunciamiento al respecto no impide una posible declaración de inconstitucionalidad en el futuro. La Corte Constitucional en Sentencia C-110 de 2019, con Magistrado Ponente Alejandro Linares Cantillo, reiteró que la responsabilidad principal de realizar el estudio del impacto fiscal de una norma recae en el Ministerio de Hacienda y Crédito Público, debido a su conocimiento técnico y su rol principal como ejecutor del gasto público. “80.3. Con el propósito de unificar la interpretación en esta materia, la Corte estima necesario precisar (i) que el Congreso tiene la responsabilidad -como lo dejó dicho la sentencia C-502 de 2007 y con fundamento en el artículo 7 de la ley 819 de 2003- de valorar las incidencias fiscales del proyecto de ley. Tal carga (ii) no exige un análisis detallado o exhaustivo del costo fiscal y las fuentes de financiamiento. Sin embargo, (iii) sí demanda una mínima consideración al respecto, de modo que sea posible establecer los referentes básicos para analizar los efectos fiscales del proyecto de ley. En todo caso (iv) la carga principal se encuentra radicada en el MHCP por sus conocimientos técnicos y por su condición de principal ejecutor del gasto público. En consecuencia, (v) el incumplimiento del Gobierno no afecta la decisión del Congreso cuando este ha cumplido su deber. A su vez (vi) si el Gobierno atiende su obligación de emitir su concepto, se radica en el Congreso el deber de estudiarlo y discutirlo–ver núm. 79.3 y 90-.” Lo anterior ha sido confirmado por la Corte Constitucional en su jurisprudencia reciente. Por ejemplo, en la Sentencia C-520 de 2019, con la Magistrada Ponente Cristina Pardo Schlesinger, se señaló que el análisis de impacto fiscal en el trámite legislativo ha flexibilizado las obligaciones establecidas en el artículo 7 de la Ley 819 de 2003, con el fin de evitar que se convierta en una barrera formal que limite desproporcionadamente la actividad del legislador, tal como se consideró a continuación: “La jurisprudencia de esta Corporación ha flexibilizado las obligaciones que surgen de lo dispuesto en el artículo 7 de la Ley 819 de 2003, de forma que no se transforme en una barrera formal que contraríe o límite de desproporcionadamente la actividad del legislador, dicha flexibilización no puede interpretarse como una autorización para que el legislador o el Gobierno puedan eximirse de cumplir con lo dispuesto en la Ley Orgánica del Presupuesto” Finalmente, la misma sentencia fija las subreglas constitucionales: “(i.) Verificar si la norma examinada ordena un gasto o establece un beneficio tributario, o si simplemente autoriza al Gobierno nacional a incluir un gasto, pues en este último caso no se hace exigible lo dispuesto en la Ley Orgánica de Presupuesto; (ii.) Comprobar si efectivamente, en las exposiciones de motivos de los proyectos y en las ponencias para debate se incluyeron expresamente informes y análisis sobre los efectos fiscales de las medidas y se previó, al menos someramente, la fuente de ingreso adicional para cubrir los mencionados costos; (iii.) Establecer si el Ministerio de Hacienda rindió concepto acerca de los costos fiscales que se han estimado para cada una de las iniciativas legislativas bajo el entendido de que la no presentación del concepto no constituye un veto a la actividad del legislador; (iv.) En caso de que el Ministerio de Hacienda haya rendido concepto, revisar que el mismo haya sido valorado y analizado en el Congreso de la República, aunque no necesariamente acogido. (v.) Analizar la proporcionalidad de la exigencia en cuanto a la evaluación del impacto fiscal de las medidas, tomando en consideración el objeto regulado y la naturaleza de la norma, a fin de ponderar la racionalidad fiscal que implica la evaluación de impacto, frente al ámbito de configuración que tiene el legislador según se trate de cada medida en particular” Proposición Con fundamento en las anteriores consideraciones, se presenta informe de ponencia positiva y se solicita a los Honorables Senadores y Representantes que integran las Comisiones Sextas del Senado de la República y la Cámara de representantes, dar Primer Debate al Proyecto de Ley número 043 de 2025 Senado, - 324 de 2025 Cámara “Por medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo ético, responsable, competitivo e innovador, y se dictan otras disposiciones”, conforme al texto propuesto. Cordialmente, PEDRO HERNANDO FLOREZ PORRAS GERSON LISÍMACO MONTAÑO ARIZALA Senador de la República Representante a la Cámara CITREP-10° Sur Nariño TEXTO PROPUESTO PARA PRIMER DEBATE EN SENADO DE LA REPÚBLICA Y CÁMARA DE REPRESENTANTES DEL PROYECTO DE LEY No. 043 DE 2025 SENADO - 324 DE 2025 CÁMARA El Congreso de Colombia, DECRETA Capítulo I: Disposiciones generales Artículo 1. Objeto: La presente ley tiene por objeto promover la generación de conocimiento, el desarrollo de la infraestructura tecnológica y la implementación de la Inteligencia Artificial (IA) en Colombia, el crecimiento económico y la competitividad, con un enfoque territorial, ético, inclusivo, responsable y sostenible, que fortalezca las capacidades científicas, productivas, institucionales y de innovación, y contribuya a la prevalencia de los derechos fundamentales y de los derechos adquiridos en el ordenamiento jurídico vigente, incluido el bloque de constitucionalidad. Artículo 2. Ámbito de aplicación: La presente ley se aplica a todas las personas naturales o jurídicas, de carácter público o privado, que participen en cualquier etapa del ciclo de vida de un sistema de inteligencia artificial —incluyendo su diseño, desarrollo, entrenamiento, prueba, validación, despliegue, operación, monitoreo, mantenimiento, comercialización, importación, distribución o uso— cuando se configure alguno de los siguientes supuestos: a. Que el Sistema de IA sea desarrollado, entrenado, implementado o utilizado físicamente en territorio colombiano. b. Que el Sistema de IA produzca efectos jurídicos, económicos, sociales o ambientales sobre personas naturales o jurídicas ubicadas en Colombia. c. Que el Sistema de IA utilice como insumos datos personales, contenidos, obras o información proveniente de personas, entidades o infraestructuras domiciliadas en Colombia, incluyendo información protegida por normas legales nacionales. d. Que el Sistema de IA dependa de bases de datos, plataformas, servicios de almacenamiento, curación de contenidos u otros insumos esenciales suministrados desde Colombia o por actores sujetos a la legislación colombiana. Para todos los efectos de esta ley, las personas o entidades que cumplan con alguno de los supuestos anteriores serán consideradas “Responsables de IA”. Artículo 3. Principios rectores para el desarrollo y uso de la Inteligencia Artificial: Sin perjuicio de lo dispuesto en la Constitución Política y en la Ley 1341 de 2009, todas las personas y entidades sujetas al ámbito de aplicación de la presente ley, deberán atender los siguientes principios: 3.1. Intervención y supervisión humana: Los sistemas de IA se desarrollarán y utilizarán como herramientas al servicio del ser humano, respetando la privacidad, la dignidad y autonomía personal. Estos sistemas deberán operar de manera que permitan su control, auditoría y supervisión adecuada por parte de seres humanos. 3.2. Diversidad, inclusión y enfoque diferencial: La inteligencia artificial en Colombia deberá desarrollarse con respeto por la dignidad humana, la pluralidad étnica, cultural, de género y territorial, sin reproducir prácticas discriminatorias ni generar brechas. Se promoverá la participación activa de mujeres, pueblos étnicos, comunidades rurales, personas con discapacidad y otros grupos históricamente excluidos, adoptando acciones afirmativas que garanticen su inclusión en todos los procesos relacionados con la IA. 3.3. Bienestar social y medioambiental: El desarrollo y uso de los sistemas de IA en Colombia deberán contribuir activamente al bienestar colectivo y a la sostenibilidad ambiental, fomentando su integración con los principios de justicia social, inclusión, innovación productiva y respeto por la diversidad natural y cultural del país. Los actores públicos y privados vinculados al ciclo de vida de los sistemas de IA incorporarán prácticas de evaluación de impactos sociales, culturales, económicos y ambientales en sus contextos específicos, considerando los efectos a corto, mediano y largo plazo. Estas acciones deberán orientar la mejora continua, la innovación responsable y la generación de valor público, sin comprometer el equilibrio entre crecimiento económico, desarrollo humano y sostenibilidad. 3.4. Ética y sostenibilidad: El desarrollo y uso de la inteligencia artificial en Colombia se basarán en principios éticos que promuevan la transparencia, la equidad, la no discriminación, la protección de la privacidad y el respeto por los derechos humanos. La sostenibilidad ambiental, social y económica orientará la innovación tecnológica hacia la generación de valor público y privado, la inclusión social y el bienestar presente y futuro, sin que ello represente una limitación al progreso científico y productivo. 3.5. Transparencia y confianza: Los sistemas de IA deberán ser diseñados y operados con criterios que aseguren la claridad, trazabilidad y comprensibilidad de sus procesos y resultados, tanto para usuarios como para las autoridades competentes. En contextos que involucren derechos fundamentales o el interés público, se fomentará la capacidad de verificación, auditoría y cuestionamiento. Las personas deberán ser informadas cuando interactúan con sistemas de IA, promoviendo confianza, inclusión y seguridad sin afectar la innovación tecnológica. 3.6. Innovación Responsable: La innovación es un motor fundamental para el desarrollo científico, tecnológico y social del país. El uso de la IA deberá promover soluciones transformadoras que respondan a desafíos públicos, productivos, sociales y ambientales, fortaleciendo las capacidades locales, la transferencia de conocimiento y la creación de valor público y privado. La regulación fomentará entornos colaborativos, adaptativos y propicios para el emprendimiento, la inversión y la experimentación responsable con tecnologías emergentes. 3.7. Privacidad y confidencialidad: La implementación y uso de sistemas de IA deberá respetar el derecho fundamental a la intimidad y garantizar la protección de los datos personales, conforme a la regulación vigente en Colombia. Se promoverá un enfoque de innovación segura que permita el avance tecnológico con respeto por la autonomía de las personas, la confianza pública y la confidencialidad de la información. 3.8. Proporcionalidad o inocuidad: Las medidas de supervisión y gestión de los sistemas de IA deberán ser proporcionales a los niveles de riesgo, autonomía y contexto de uso, promoviendo un equilibrio entre la protección de los derechos fundamentales y la habilitación de soluciones innovadoras. El desarrollo de la IA deberá orientarse al beneficio de las personas, la sociedad y el ambiente, garantizando que los mecanismos regulatorios no impongan barreras innecesarias al progreso científico, económico o tecnológico. 3.9. Respeto, protección y promoción de los derechos fundamentales y la dignidad humana: Los desarrolladores de sistemas basados en IA serán responsables de garantizar que el desarrollo tecnológico respete, proteja y promueva los derechos fundamentales y la dignidad humana. Ninguna persona o comunidad debe ser perjudicada o sometida debido al desarrollo y uso de la IA y es su deber evitar a toda costa perjuicios y garantizar un desarrollo tecnológico inclusivo. 3.10. Protección del medio ambiente y los ecosistemas: El desarrollo y uso de sistemas de IA deberán minimizar su impacto ambiental, promover prácticas sostenibles y contribuir a la conservación de los ecosistemas y la biodiversidad. Se incentivará la innovación en tecnologías verdes y soluciones ambientales que impulsen el desarrollo económico responsable, reduzcan la huella de carbono, mitiguen el cambio climático y prevengan el uso no sostenible de los recursos naturales, en armonía con la Constitución y la ley. 3.11. Promoción del desarrollo económico sostenible: Las personas naturales y jurídicas sujetas a esta ley contribuirán al crecimiento económico sostenible, la generación de empleo de calidad y el fortalecimiento de sectores productivos emergentes. La IA será impulsada como una herramienta para aumentar la competitividad, dinamizar la innovación y fomentar el emprendimiento. El desarrollo tecnológico promoverá la creación de valor en todo el territorio nacional y la distribución equitativa de sus beneficios, fortaleciendo un ecosistema productivo inclusivo y ético. 3.12. Soberanía tecnológica y autonomía digital: El desarrollo de IA en Colombia promoverá el fortalecimiento de capacidades nacionales en infraestructura, talento, datos y conocimiento, favoreciendo la apropiación tecnológica y la autonomía digital en el marco de la sociedad del conocimiento. 3.13. Progresividad y adaptabilidad normativa: La aplicación de esta ley se realizará de manera progresiva, adaptativa y basada en evidencia, considerando los avances tecnológicos, las capacidades institucionales, la madurez de los ecosistemas locales y las mejores prácticas nacionales e internacionales. 3.14. Colaboración multiactor: La gobernanza, desarrollo y uso de la inteligencia artificial en Colombia se orientará por esquemas de articulación efectiva entre el sector público, la academia, el sector productivo y la sociedad civil, promoviendo la cocreación de soluciones, la interoperabilidad de estándares y el diálogo constante entre actores. 3.15. Aprovechamiento del conocimiento local: Se fomentará la creación, adaptación y transferencia de tecnologías de inteligencia artificial a partir del conocimiento científico, ancestral, comunitario y técnico existente en Colombia, reconociendo su potencial para generar soluciones pertinentes y sostenibles. 3.16. Libre competencia económica: El desarrollo, entrenamiento, comercialización, implementación y uso de los sistemas de inteligencia artificial deberán respetar y promover el principio de libre competencia económica. En tal sentido, los desarrolladores, creadores, proveedores, operadores y demás responsables de la IA deberán abstenerse de utilizar esta tecnología para generar barreras de entrada injustificables, conceder ventajas competitivas indebidas, facilitar prácticas de coordinación anticompetitiva o consolidar posiciones dominantes que no se deriven del mérito empresarial. En ningún caso, la inteligencia artificial podrá emplearse como medio para incurrir en prácticas restrictivas de la competencia, actos de competencia desleal y/o abusos de posición dominante. Capítulo II: Definiciones Artículo 4. Definiciones: Para los efectos de la presente ley, se adoptan las siguientes definiciones: A. Conceptos generales y técnicos 4.1. Inteligencia Artificial (IA): Conjunto de tecnologías, sistemas y algoritmos que permiten a los sistemas informáticos procesar datos, percibir su entorno, aprender de la experiencia y realizar tareas o tomar decisiones de manera autónoma o semiautónoma, simulando funciones cognitivas asociadas a la inteligencia humana, tales como el aprendizaje, el razonamiento, la resolución de problemas y la generación de contenidos, con el propósito de apoyar, optimizar o automatizar procesos en distintos ámbitos de la actividad humana. 4.2. Sistema de Inteligencia Artificial: Sistema basado en máquina que, para un conjunto de objetivos definidos por humanos, puede generar predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales. Utiliza entradas humanas y/o de máquina para percibir su entorno, abstraerlo mediante modelos computacionales y derivar acciones o información mediante inferencia lógica, probabilística o algorítmica. 4.3. Ciclo de vida del sistema de IA: Conjunto de fases por las que transita un sistema de IA, desde su diseño hasta su desmantelamiento, incluyendo las etapas de desarrollo, entrenamiento, validación, implementación, operación, monitoreo, actualización y cese de uso. 4.4. Datos: Información digital estructurada o no estructurada, personal o no personal, que puede ser utilizada como insumo para el entrenamiento, evaluación o funcionamiento de sistemas de IA. 4.5. Sandbox regulatorio en inteligencia artificial: Entorno controlado y temporal, autorizado por la autoridad competente, que permite probar tecnologías o aplicaciones basadas en IA bajo supervisión institucional, con el fin de facilitar la innovación responsable, evaluar riesgos y explorar posibles ajustes normativos sin comprometer derechos fundamentales ni la seguridad de los sistemas públicos o privados involucrados. 4.6. Deepfake: Técnica de síntesis de medios basada en IA que permite crear, modificar o reemplazar contenido audiovisual con un alto grado de realismo, generalmente mediante aprendizaje profundo. 4.7. Suplantación personal: Acción de hacerse pasar por una persona natural o jurídica mediante el uso no autorizado de atributos como su voz, imagen, firma o identidad digital, con el fin de obtener un beneficio o causar un perjuicio. B. Sujetos regulados 4.8. Responsable de IA: Toda persona natural o jurídica, pública o privada, que participe en cualquier etapa del ciclo de vida de un sistema de IA conforme al ámbito de aplicación de esta ley. 4.9. Desarrollador de IA: Persona natural o jurídica que diseña o desarrolla un sistema o modelo de IA con la intención de ponerlo en el mercado o en operación. Será responsable por la calidad técnica, la robustez, la mitigación de sesgos y la transparencia sobre capacidades y limitaciones del sistema. 4.10. Proveedor de IA: Persona natural o jurídica que comercializa o pone en operación un sistema de IA, propio o de terceros. Debe asegurar el cumplimiento normativo previo a su puesta en servicio y ofrecer información clara sobre su uso previsto. 4.11. Implementador de IA: Persona natural o jurídica que, bajo su control, utiliza un sistema de IA en un contexto de aplicación específico. Será responsable de su configuración, operación, supervisión y del cumplimiento de obligaciones de transparencia hacia los usuarios. 4.12. Usuario de IA: Persona natural o jurídica que interactúa con un sistema de IA y lo utiliza conforme a las condiciones y límites definidos por el proveedor o el implementador. C. Principios operativos y de gobernanza 4.13. Transparencia: Disponibilidad de información clara, verificable y comprensible sobre el diseño, funcionamiento y propósito de los sistemas de IA, accesible para usuarios y autoridades competentes. 4.14. Explicabilidad: Capacidad de un sistema de IA para presentar de forma comprensible sus decisiones, procesos y razonamientos técnicos a las personas afectadas. 4.15. Supervisión humana: Intervención significativa de personas en el ciclo de vida de un sistema de IA, con capacidad de supervisar, modificar, detener o revertir decisiones automatizadas cuando sea necesario. 4.16. Gobernanza de la IA: Conjunto de políticas, normas, principios éticos y mecanismos institucionales que regulan el desarrollo, uso y control de los sistemas de IA. 4.17. Privacidad desde el diseño: Enfoque que incorpora la protección de datos personales desde las fases iniciales del desarrollo de sistemas de IA, garantizando la seguridad y el respeto por la intimidad como principio estructural. 4.18. Robustez: Capacidad de un sistema de IA para funcionar de manera confiable, segura y precisa en diferentes condiciones, incluidas aquellas adversas o imprevistas. 4.19. Sesgo: Distorsión en los datos, algoritmos o resultados de un sistema de IA que puede generar resultados discriminatorios o injustos. D. Gestión del riesgo 4.20. Evaluación de impacto de IA: Proceso técnico y participativo para identificar, analizar y mitigar los posibles efectos adversos de un sistema de IA en los derechos fundamentales, la sociedad, el medio ambiente y la economía. 4.21. Mitigación de riesgos en IA: Conjunto de estrategias orientadas a prevenir o reducir los riesgos asociados al desarrollo y uso de sistemas de IA, garantizando su seguridad, confiabilidad y alineación con los principios constitucionales. E. Responsabilidades jurídicas y éticas 4.22. Responsabilidad administrativa en IA: Obligación de cumplir las normas vigentes en materia de IA y de responder ante autoridades competentes por infracciones relacionadas con su desarrollo, implementación o uso. 4.23. Responsabilidad civil en IA: Obligación de reparar los daños o perjuicios causados a personas naturales o jurídicas por el uso indebido o negligente de sistemas de IA. 4.24. Responsabilidad penal en IA: Consecuencias jurídicas derivadas de la comisión de delitos relacionados con el uso o desarrollo indebido de sistemas de IA, conforme al ordenamiento penal colombiano. 4.25. Responsabilidad ética en IA: Compromiso de los actores que desarrollen, implementen o utilicen IA con el respeto a principios como la equidad, la justicia, la transparencia, la no discriminación y el bienestar colectivo, más allá del cumplimiento legal obligatorio. Capítulo III: Clasificación de riesgos Artículo 5. Clasificación de riesgos: La regulación de los sistemas de inteligencia artificial (IA) se basará en un enfoque diferenciado y proporcionado al riesgo. La clasificación de un sistema de IA en una categoría de riesgo se determinará considerando su uso previsto específico, el contexto de su despliegue, la gravedad potencial del daño y la probabilidad de que dicho daño ocurra. Se priorizará la identificación y mitigación de riesgos conocidos y demostrables sobre los puramente especulativos. Esta clasificación incluye los siguientes niveles: 1. Sistemas de IA de Riesgo Crítico: Se consideran de riesgo crítico aquellos sistemas de inteligencia artificial cuyo desarrollo o utilización pueda contradecir de manera sustancial los derechos fundamentales, la dignidad humana o el interés público superior. Su implementación para usos generales no estará permitida, salvo en condiciones excepcionales justificadas, como investigaciones científicas o pilotos técnicos con alto valor público, siempre que cuenten con supervisión ética independiente, condiciones estrictas de trazabilidad, control, evaluación de impacto y una finalidad legítima previamente definida. La autoridad nacional competente podrá revisar y actualizar periódicamente esta clasificación, con base en criterios técnicos, científicos, éticos y participativos, considerando la evolución de los riesgos, las capacidades de mitigación disponibles y el contexto de aplicación. Los sistemas que, entre otros, podrán ser clasificados como de riesgo crítico incluyen: a. Sistemas de IA diseñados o utilizados para influir de manera subliminal en el comportamiento humano, o que exploten vulnerabilidades específicas de ciertos grupos, cuando ello pueda causar un daño físico o psicológico grave y verificable. b. Sistemas de IA aplicados a la calificación social (social scoring) por autoridades públicas para fines generales, cuando esto conlleve discriminación sistemática, trato perjudicial o exclusión injustificada. c. Sistemas de identificación biométrica remota en tiempo real en espacios públicos por parte de autoridades, excepto cuando exista autorización judicial específica y motivada, y se trate de casos de interés público urgente, tales como búsqueda de personas desaparecidas, prevención de amenazas inminentes o persecución de delitos graves conforme al ordenamiento jurídico. 2. Sistemas de IA de Alto Riesgo: Se considerarán sistemas de IA de alto riesgo aquellos que, por su naturaleza, contexto y finalidad prevista, presenten un alto riesgo de impacto adverso sobre la salud, la seguridad o los derechos fundamentales de las personas. Estos sistemas estarán sujetos a requisitos específicos de evaluación de conformidad, gestión de riesgos, transparencia y supervisión humana antes de su comercialización, puesta en servicio y actualizaciones. La autoridad nacional para la inteligencia artificial, mediante acto administrativo motivado y previa consulta pública, establecerá y actualizará periódicamente una lista de usos específicos de IA que se considerarán de alto riesgo, tomando como referencia, entre otros, los siguientes ámbitos: a. Sistemas de IA destinados a ser utilizados como componentes de seguridad en productos sujetos a regulación sectorial específica (e.g., maquinaria, vehículos, dispositivos médicos). b. Sistemas de IA utilizados en la gestión y operación de infraestructuras críticas esenciales. c. Sistemas de IA utilizados en la educación y formación profesional que puedan determinar el acceso a la educación o la evaluación de los estudiantes. d. Sistemas de IA utilizados en el empleo, la gestión de trabajadores y el acceso al autoempleo, como los utilizados para la selección de personal, la evaluación del rendimiento o la toma de decisiones sobre ascensos o despidos. e. Sistemas de IA utilizados por las autoridades públicas o en su nombre para evaluar la elegibilidad de las personas físicas para prestaciones y servicios de asistencia pública esenciales, así como para conceder, reducir, revocar o reclamar dichas prestaciones y servicios. f. Sistemas de IA utilizados en la aplicación de la ley que puedan interferir directamente con los derechos fundamentales de las personas, como los utilizados para la evaluación individual de riesgos de reincidencia o para la detección de estados emocionales. g. Sistemas de IA utilizados en la administración de justicia y procesos democráticos. h. Sistemas de IA utilizados para la identificación biométrica remota, salvo los casos expresamente críticos. 3. Sistemas de IA con Obligaciones Específicas de Transparencia: Ciertos sistemas de IA, aunque no se clasifiquen como de alto riesgo, deberán cumplir con obligaciones específicas de transparencia para garantizar que los usuarios estén debidamente informados. Estos, entre otros, incluyen: a. Sistemas de IA destinados a interactuar directamente con personas físicas, los cuales deberán informar claramente que están interactuando con un sistema de IA, a menos que esto sea obvio por las circunstancias y el contexto de uso. b. Sistemas de IA que generen o manipulen contenido de imagen, audio o vídeo que se asemeje notablemente a personas, objetos, lugares u otras entidades o acontecimientos existentes y que falsamente parezcan auténticos o veraces ("deepfakes"), deberán indicar claramente que el contenido ha sido generado o manipulado artificialmente, salvo cuando sea necesario para el ejercicio de un derecho fundamental o por razones de interés público. 4. Sistemas de IA de Riesgo Mínimo o Nulo: los sistemas de IA que no entren en las categorías anteriores se considerarán de riesgo mínimo o nulo. Se fomentará la adopción voluntaria de códigos de conducta y buenas prácticas para estos sistemas. Parágrafo. Las obligaciones específicas para Desarrollador de IA, Proveedor de IA, Implementador de IA y Usuarios de IA se determinarán en función de su rol y capacidad de control sobre el riesgo asociado al sistema de IA en su respectivo contexto de uso, de conformidad con los principios de proporcionalidad y responsabilidad compartida. Artículo 6. Evaluación de potencial de impacto de Sistemas de IA de Alto Riesgo. Los implementadores de sistemas de IA clasificados como de alto riesgo deberán realizar una evaluación de impacto antes de su implementación y después de cualquier modificación sustancial. La evaluación de impacto deberá incluir, como mínimo: a. Descripción detallada del sistema y su propósito. b. Evaluación de los riesgos potenciales, incluyendo riesgos de discriminación algorítmica. c. Medidas de mitigación de riesgos implementadas. d. Análisis de la calidad y representatividad de los datos utilizados. e. Evaluación del desempeño y precisión del sistema. f. Medidas de transparencia y explicabilidad implementadas. g. Mecanismos de supervisión humana y monitoreo continuo. La evaluación de impacto deberá ser revisada y actualizada periódicamente, al menos una vez al año o cuando se realicen modificaciones sustanciales al sistema. Todos los sistemas de IA no considerados de alto riesgo están exentos de este requisito de evaluación de impacto. Capítulo IV: Gobernanza para la Inteligencia Artificial Artículo 7. Autoridad Nacional para la Inteligencia Artificial: El Ministerio de Ciencia, Tecnología e Innovación será la autoridad nacional competente para orientar la implementación de esta ley y coordinar la gobernanza de la IA en Colombia. En el marco de sus competencias, podrá adoptar lineamientos, estándares técnicos y buenas prácticas, con fundamento en la evidencia científica, los desarrollos regulatorios nacionales e internacionales y los principios establecidos en esta ley. El Ministerio ejercerá funciones de carácter técnico, consultivo y articulador, promoviendo la colaboración con otras entidades públicas, el sector productivo, la academia, los territorios y la sociedad civil, e impulsando mecanismos de autorregulación, certificación y evaluación responsable por parte de los actores del ecosistema de IA. En los casos de sistemas clasificados como de alto riesgo o no permitidos conforme al artículo 5, el Ministerio podrá emitir recomendaciones técnicas o establecer requisitos adicionales para mitigar riesgos significativos que afecten derechos fundamentales, la seguridad o el bienestar colectivo. Estas acciones se adoptarán con enfoque preventivo, proporcional y en coordinación con las autoridades sectoriales competentes. Frente a incumplimientos relacionados con los sistemas de IA regulados en esta ley, el Ministerio podrá formular recomendaciones vinculantes para su adecuación o mejora, siempre de manera articulada con las entidades responsables de vigilancia y control, y sin perjuicio de las medidas que estas puedan adoptar según sus funciones legales. Parágrafo 1. El Gobierno Nacional, a través del Ministerio de Ciencia, Tecnología e Innovación, reglamentará, dentro de los veinticuatro (24) meses siguientes a la promulgación de la presente ley, los detalles técnicos y operativos relacionados con los sistemas de IA clasificados en el artículo 5, respetando las definiciones y disposiciones sustantivas establecidas por el legislador. Parágrafo 2. Las medidas de suspensión, adecuación, restricción o intervención sobre sistemas de IA deberán ser adoptadas por las autoridades competentes, conforme a sus atribuciones legales y sectoriales. La Autoridad Nacional para la Inteligencia Artificial podrá emitir conceptos técnicos y recomendaciones con carácter vinculante en lo que respecta al nivel de riesgo de los sistemas de IA, los cuales constituirán insumo para las decisiones de las entidades con funciones de inspección, vigilancia o control. En los casos en que no exista una autoridad sectorial definida por la ley, el Ministerio de Ciencia, Tecnología e Innovación podrá ejercer funciones directas de orientación, acompañamiento y evaluación, de acuerdo con los procedimientos y condiciones que se establezcan en la reglamentación de la presente ley. Parágrafo 3. En el desarrollo de sus funciones, la Autoridad Nacional para la Inteligencia Artificial deberá promover la innovación, la libre iniciativa, el crecimiento económico, la competitividad y el desarrollo tecnológico, evitando la imposición de restricciones desproporcionadas o barreras injustificadas que limiten el despliegue ético y responsable de sistemas de IA. Las disposiciones reglamentarias deberán guardar coherencia con los principios y normas vigentes del ordenamiento jurídico nacional. Artículo 8. Articulación interinstitucional e intersectorial para la gobernanza de la inteligencia artificial. El Ministerio de Ciencia, Tecnología e Innovación, como autoridad nacional en inteligencia artificial, establecerá y liderará los mecanismos de articulación interinstitucional e intersectorial para la implementación, seguimiento y actualización de esta ley, en coherencia con la Política Nacional de Inteligencia Artificial definida en el CONPES 4144 de 2025 y sus actualizaciones. Para tal fin, créase el Comité Intersectorial de Coordinación para la Inteligencia Artificial, como instancia asesora y articuladora de carácter técnico y político. Este Comité estará presidido por el Ministerio de Ciencia, Tecnología e Innovación e integrado por: 1. Departamento Nacional de Planeación. 2. Ministerio de Educación Nacional. 3. Ministerio de Tecnologías de la Información y las Comunicaciones. 4. Ministerio de Comercio, Industria y Turismo. 5. Ministerio de las Culturas, los Artes y los Saberes. 6. Ministerio de Relaciones Exteriores. 7. Ministerio del Trabajo. 8. Dos representantes del sector académico, designados conforme a reglamentación posterior. 9. Dos representantes del sector productivo, designados conforme a reglamentación posterior. 10. Dos representantes de la sociedad civil, designados conforme a reglamentación posterior. Parágrafo 1. El Comité tendrá funciones de recomendación técnica, priorización de líneas estratégicas, coordinación interinstitucional y formulación de directrices no vinculantes en materia de inteligencia artificial. Será una instancia asesora en los procesos de reglamentación e implementación de la presente ley. Sesionará al menos dos veces por año y presentará informes públicos de avance y recomendaciones al Congreso de la República. Parágrafo 2. MinCiencias podrá convocar, además, mesas técnicas, comités especializados u otras instancias de coordinación que fortalezcan el seguimiento, la participación multisectorial y la articulación con entidades del orden territorial, así como con actores académicos, productivos y sociales, en el desarrollo, implementación, evaluación y actualización de políticas e iniciativas relacionadas con la inteligencia artificial. Parágrafo 3. La designación de los representantes del sector académico, del sector productivo y de la sociedad civil previstos en este artículo se realizará conforme a los criterios y procedimientos establecidos en el acto reglamentario de la presente ley, una vez ésta sea aprobada por el Congreso de la República y sancionada por el Presidente de la República. Dicho acto reglamentario definirá los requisitos, plazos y demás condiciones para su designación, en cumplimiento estricto de los principios constitucionales de pluralismo, transparencia y participación ciudadana. Artículo 9. Supervisión y monitoreo. El Gobierno Nacional, a través de la Autoridad para la Inteligencia Artificial, establecerá las directrices técnicas y coordinará la designación de las entidades responsables de la supervisión y monitoreo continuo de los sistemas de IA de alto riesgo y aquellos no permitidos, con base en los principios establecidos en la Constitución, el bloque de constitucionalidad, esta ley, la normativa vigente y los estándares internacionales aplicables. Estas acciones se desarrollarán con enfoque preventivo, técnico y proporcional, orientadas a identificar, gestionar y mitigar riesgos significativos sobre los derechos humanos, la seguridad y el bienestar colectivo, promoviendo al mismo tiempo un entorno que favorezca la innovación, el desarrollo científico y la adopción responsable de tecnologías emergentes. Artículo 10. Reglas para la gobernanza y el uso responsable de la Inteligencia Artificial en la administración pública: El uso de sistemas de IA en la administración pública deberá observar los siguientes principios y reglas, con el objetivo de garantizar una gobernanza efectiva, la provisión de servicios públicos de calidad, la protección de los derechos fundamentales y la confianza de la ciudadanía: a. Los sistemas de IA deberán ser utilizados para mejorar el acceso a los servicios públicos, garantizando la igualdad de oportunidades, evitando cualquier tipo de discriminación y promoviendo el bienestar social. b. Las decisiones tomadas con el apoyo de sistemas de IA deberán ser claras, comprensibles y transparentes para los ciudadanos, permitiendo su revisión y cuestionamiento cuando sea necesario. El uso de dichos sistemas no exime a los servidores públicos ni a las autoridades competentes del deber de responder por sus actuaciones, en los términos establecidos por la ley. c. La implementación de IA deberá respetar y garantizar los derechos fundamentales de las personas, incluyendo su privacidad, seguridad y dignidad. d. Los sistemas de IA deberán ser diseñados para optimizar la provisión de servicios públicos, garantizando su sostenibilidad, eficiencia y mejora constante. e. Las entidades públicas que implementen IA serán responsables de su correcta utilización y deberán establecer mecanismos de gobernanza que incluyan supervisión, auditoría y mitigación de riesgos. f. Los sistemas deberán ser auditables y someterse a evaluaciones de impacto previas a su implementación, asegurando su conformidad con los principios legales, éticos y de gobernanza vigentes. g. El Gobierno Nacional garantizará la capacitación adecuada para los funcionarios encargados de operar los sistemas de IA, promoviendo su uso responsable y efectivo. h. Deberá asegurarse la protección de los datos personales y sensibles de los ciudadanos que interactúan con dichos sistemas, alineándose con la legislación vigente en materia de protección de datos, privacidad y principios de gobernanza. Artículo 11. Creación del Consejo Asesor Nacional de Expertos en Inteligencia Artificial. Se crea el Consejo Asesor Nacional de Expertos en IA, con carácter ad-honorem, como una instancia permanente de alto nivel dentro del Sistema Nacional de Ciencia, Tecnología e Innovación (SNTeI), de carácter consultivo y multisectorial, encargado de brindar asesoría especializada en IA al Gobierno Nacional. Parágrafo: En el acto reglamentario se establecerán las funciones específicas a cargo del Consejo Asesor Nacional de Expertos en IA, los requisitos y mecanismos para la selección de ternas para la escogencia de los miembros, entre otros aspectos que sean requeridos para el correcto funcionamiento del mismo dentro del SNCTeI. Capítulo V: Fortalecimiento del ecosistema de ciencia, tecnología e innovación de la IA Artículo 12. Fomento a la investigación, desarrollo tecnológico e innovación en Inteligencia Artificial. El Gobierno Nacional podrá crear programas y fondos específicos para apoyar la investigación, desarrollo tecnológico e innovación en IA siempre con un compromiso ético y sostenible en su desarrollo y uso, mediante criterios de inclusión y accesibilidad. Esto podrá incluir: 11. 1. Financiamiento para proyectos de Investigación, desarrollo tecnológico e innovación en articulación con la academia. 11.2. Promover infraestructura para la investigación, desarrollo tecnológico e innovación en IA. 11.3. Plataformas e incentivos para la colaboración público-privada e interdisciplinar en el desarrollo de la IA. 11.4. Promoción de la ética y la responsabilidad en la investigación en IA. 11.5. Apoyo a emprendedores en IA y actores de la economía popular. Artículo 13. Gobernanza de los Sandbox regulatorios: El Gobierno Nacional será responsable de definir y establecer los lineamientos generales para la creación, operación y evaluación de sandbox regulatorios en materia de inteligencia artificial, con el objetivo de fomentar la innovación ética, responsable y segura de esta tecnología. Así mismo, el Gobierno Nacional podrá impulsar, coordinar o directamente crear sandbox regulatorios como entornos de prueba controlados y flexibles que permitan experimentar, adaptar y escalar soluciones de IA en condiciones seguras, éticas y supervisadas, incluso cuando presenten riesgos potenciales para los derechos fundamentales o el interés público. Estos espacios estarán orientados a facilitar el desarrollo progresivo de tecnologías emergentes, fortalecer las capacidades institucionales de regulación adaptativa y promover la mejora continua del marco normativo, sin recurrir a enfoques excluyentes o punitivos anticipados. Para tal efecto, se conformará un Comité Técnico Nacional de Sandbox Regulatorios, coordinado por el Ministerio de Ciencia, Tecnología e Innovación e integrado por representantes de entidades del orden nacional competentes en el desarrollo, uso y supervisión de sistemas de inteligencia artificial. Este Comité será responsable de definir los lineamientos técnicos, jurídicos y operativos para el diseño, implementación, seguimiento y evaluación de los sandbox. Cada sandbox aprobado deberá contar con un plan específico que incluya objetivos, alcance, actores participantes, condiciones técnicas y jurídicas, medidas de mitigación de riesgos proporcionales, mecanismos de seguimiento y criterios de evaluación, garantizando la trazabilidad de los aprendizajes obtenidos. Este plan será vinculante para quienes participen en la prueba. Parágrafo 1. Los sistemas de inteligencia artificial clasificados como de alto riesgo, conforme al artículo 6 de la presente ley, deberán ser objeto de prueba en sandbox regulatorios, siempre que se desarrollen bajo condiciones de supervisión ética, evaluación técnica y seguimiento permanente. Esta disposición busca su perfeccionamiento progresivo, sin recurrir a prohibiciones categóricas. Parágrafo 2. En caso de identificarse riesgos sustanciales durante el desarrollo de un sandbox que no puedan ser mitigados de manera adecuada en el corto plazo, el Comité Técnico Nacional podrá adoptar medidas de suspensión temporal, ajustes o terminación, aplicando criterios de proporcionalidad, enfoque preventivo y respeto por la innovación. Parágrafo 3. En un plazo no mayor a veinticuatro (24) meses contados a partir de la entrada en vigor de la presente ley, el Gobierno Nacional reglamentará el funcionamiento operativo del Comité Técnico Nacional y de los sandbox regulatorios, asegurando su coherencia institucional y evitando la duplicidad de funciones entre entidades. Artículo 14. Responsabilidad generada a partir de Sandbox regulatorios. Los desarrolladores de sistemas de IA que operen en Sandbox regulatorios serán responsables por cualquier daño o perjuicio causado a terceros debido a la experimentación realizada en dichos entornos, siempre y cuando se haya incumplido el plan específico mencionado en el primer inciso del artículo anterior. Artículo 15. Fomento del desarrollo de Inteligencia Artificial en regiones. El Gobierno Nacional, en cabeza del Ministerio de Ciencia, Tecnología e Innovación y en coordinación con el Ministerio de las Tecnologías de la Información y las Comunicaciones, podrá promover el desarrollo de la IA en las regiones del país a través de estrategias que incluyan el fortalecimiento de infraestructura tecnológica para la IA, el apoyo a proyectos de investigación e innovación tecnológica, y la creación de condiciones para la transferencia de conocimiento y tecnologías para impulsar el progreso económico, social y ambiental de las regiones, adaptándose a sus necesidades y retos específicos, y fomentando la colaboración entre los sectores público, privado y académico-científico. Parágrafo. Las estrategias que se desarrollen en el marco de este artículo podrán incorporar enfoques y acciones dirigidas a fortalecer las capacidades en los territorios priorizados por los Programas de Desarrollo con Enfoque Territorial (PDET) y en las Zonas Más Afectadas por el Conflicto (ZOMAC), promoviendo el cierre de brechas y aprovechando sus potencialidades para el desarrollo de la inteligencia artificial. Esta orientación permitirá una participación territorial amplia y pertinente, de acuerdo con las particularidades y demandas de cada región. Artículo 16. Promoción de la inclusión y diversidad en la investigación en Inteligencia Artificial. El Gobierno Nacional podrá promover la participación de mujeres, grupos étnicos, campesinos, jóvenes y otros grupos sociales representativos en proyectos de investigación y desarrollo en IA garantizando un enfoque inclusivo que fomente la diversidad y el acceso a estas tecnologías. Artículo 17. Promoción de la transferencia de tecnología en Inteligencia Artificial. El Ministerio de Ciencia, Tecnología e Innovación, en coordinación con el Ministerio de Comercio, Industria y Turismo, fomentarán la transferencia de tecnología desde las universidades, centros e institutos de investigación y otras entidades del ecosistema de innovación hacia el sector industrial, comercial y de la salud en particular para fortalecer capacidades diagnósticas, asistenciales y de gestión pública. Esta transferencia estará orientada a la implementación efectiva de desarrollos basados en IA que contribuyan al bienestar, desarrollo económico y social del país. Artículo 18. Protección de la propiedad industrial en Inteligencia Artificial y uso legítimo de contenidos. El Ministerio de Ciencia, Tecnología e Innovación, en coordinación con la Superintendencia de Industria y Comercio y las demás autoridades competentes, promoverá la apropiación y protección efectiva de los derechos de propiedad industrial por parte de investigadores, desarrolladores y entidades que participen en el diseño, entrenamiento o implementación de sistemas de inteligencia artificial, de conformidad con la legislación nacional e internacional aplicable. El desarrollo de sistemas de IA deberá respetar los derechos de autor, derechos conexos, derechos de imagen y demás formas de protección intelectual, garantizando que el uso de obras, fonogramas, interpretaciones, ejecuciones, emisiones u otros contenidos protegidos cuente con consentimiento expreso del titular o se sustente en una base jurídica válida. El uso de voces e imágenes de personas requerirá autorización previa, expresa y bajo condiciones acordadas. El Gobierno Nacional fomentará modelos de licenciamiento accesibles, flexibles y negociables que permitan equilibrar la protección de los derechos con la promoción de la innovación, la investigación y la generación de valor en el ecosistema de IA. Se impulsará el desarrollo de mecanismos de trazabilidad voluntaria sobre los insumos utilizados en la formación y operación de sistemas de IA, conforme a estándares técnicos definidos por la autoridad competente. Cuando resulte necesario para la salvaguarda del interés público o la garantía de derechos reconocidos, dicha autoridad podrá establecer mecanismos de trazabilidad obligatoria o reportes técnicos, con base en criterios de necesidad, razonabilidad y proporcionalidad. Capítulo VI: Formación y apropiación social del conocimiento para la Inteligencia Artificial Artículo 19. Formación y apropiación social del conocimiento para el uso responsable y ético de la Inteligencia Artificial. El Gobierno Nacional, en cabeza del Ministerio de Ciencia, Tecnología e Innovación, en coordinación con el Servicio Nacional de Aprendizaje -SENA- y el Ministerio de las Tecnologías de la Información y las Comunicaciones, diseñarán e implementarán una estrategia nacional de formación y apropiación social del conocimiento que promueva el uso responsable y ético de la IA. Artículo 20. Educación. El Ministerio de Educación Nacional, el Ministerio de Ciencia, Tecnología e Innovación y el Ministerio de Tecnologías de la Información y las Comunicaciones podrán diseñar e implementarán programas integrales de educación, formación y capacitación en IA, orientados a fortalecer las habilidades y competencias del siglo XXI en todos los niveles y modalidades educativas, incluyendo la educación inicial, básica, media, técnica, tecnológica, superior y de adultos. Estos programas podrán promoverán el pensamiento crítico, la creatividad, la innovación tecnológica y el análisis ético, así como la apropiación social del conocimiento, fomentando la investigación y el desarrollo responsable de tecnologías basadas en IA desde una perspectiva intercultural, ambiental y territorial. En la medida de lo posible, Se garantizará la formación permanente de directivos docentes y maestros, asegurando la actualización continua de contenidos, metodologías y recursos pedagógicos pertinentes, abiertos y contextualizados. Las acciones educativas estarán orientadas al cierre de brechas en el acceso al conocimiento, la ciencia y la tecnología, y se desarrollarán en articulación con instituciones educativas, universidades, centros de investigación, comunidades, empresas y actores del ecosistema productivo. Se incentivarán espacios de aprendizaje activo, proyectos colaborativos y experiencias prácticas que preparen a los estudiantes para participar, con idoneidad y responsabilidad, en entornos sociales y laborales mediados por la IA. Artículo 21. Formación técnica y tecnológica para la inteligencia artificial. El Gobierno Nacional, a través del Ministerio de Ciencia, Tecnología e Innovación, el Ministerio de Educación Nacional y el Ministerio del Trabajo, articulará al Servicio Nacional de Aprendizaje (SENA) y a las instituciones de educación superior de carácter técnico y tecnológico en las estrategias de formación de talento humano especializado en inteligencia artificial. Estas estrategias incluirán el desarrollo de mallas curriculares orientadas a aplicaciones prácticas, interoperabilidad, sostenibilidad y ética de los sistemas automatizados, en consonancia con las necesidades del sector productivo, académico y público. Parágrafo. Las estrategias de formación deberán incorporar enfoque territorial, de género y diferencial, promoviendo la inclusión de poblaciones históricamente excluidas del acceso a tecnologías emergentes, y estarán alineadas con los procesos de planeación regional y de desarrollo productivo del país. Artículo 22. Inclusión de la inteligencia artificial en la educación básica y media. El Ministerio de Educación Nacional, en articulación con el Ministerio de Ciencia, Tecnología e Innovación, podrá promover la incorporación progresiva de contenidos relacionados con ciencia de datos, pensamiento computacional, ética digital e inteligencia artificial en los niveles de educación básica y media, a través de estrategias curriculares y pedagógicas contextualizadas. Esta incorporación deberá responder a las realidades territoriales, culturales y sociales del país, y contribuir a la formación de ciudadanía digital crítica y creativa. Parágrafo. Se priorizará acciones orientadas a la formación docente, el desarrollo curricular y la creación de recursos educativos abiertos, que fortalezcan el pensamiento crítico, ético y reflexivo frente al uso de tecnologías emergentes en entornos escolares. Artículo 23. Fortalecimiento de la formación especializada en inteligencia artificial. El Ministerio de Ciencia, Tecnología e Innovación y el Ministerio de Educación Nacional fomentarán la creación y consolidación de programas académicos, facultades o departamentos especializados en inteligencia artificial en instituciones de educación superior del país. Esta estrategia estará orientada a formar talento humano altamente calificado, impulsar la investigación avanzada, promover la innovación científica y tecnológica, y consolidar capacidades institucionales para el desarrollo y uso responsable de estas tecnologías en todos los sectores estratégicos del país. Artículo 24. Incorporación transversal de contenidos sobre inteligencia artificial en la educación superior. El Ministerio de Educación Nacional, en articulación con el Ministerio de Ciencia, Tecnología e Innovación, fomentará la inclusión progresiva y transversal de contenidos formativos sobre fundamentos, aplicaciones sectoriales, impactos sociales y principios éticos de la inteligencia artificial en programas de educación superior que no pertenezcan a áreas de ingeniería, ciencias computacionales o afines. Parágrafo. Se priorizará el desarrollo de materiales educativos, la cualificación docente y la conformación de alianzas entre instituciones de educación superior y centros de investigación con trayectoria en inteligencia artificial, con el fin de facilitar procesos de transferencia pedagógica y tecnológica, especialmente hacia regiones con menores capacidades técnicas y académicas. Capítulo VII: Promoción de la innovación y transformación laboral en la era de la Inteligencia Artificial Artículo 25. Transición laboral y lineamientos laborales. El Gobierno Nacional, a través del Ministerio de Ciencia, Tecnología e Innovación y en coordinación con el Ministerio del Trabajo y otras entidades pertinentes, definirá los lineamientos de transición justa frente al impacto de la IA sobre el empleo y el trabajo digno. Dichos lineamientos deberán considerar las diferencias regionales, sectoriales y de género, con enfoque de derechos humanos y de trabajo digno, e incluirán criterios para la reconversión laboral, actualización de competencias, protección del empleo, mecanismos de participación de los trabajadores y esquemas de corresponsabilidad por parte de los empleadores. Estos lineamientos deberán estar articulados con las políticas públicas vigentes de formación para el trabajo, protección al cesante y fortalecimiento del Servicio Público de Empleo, sin perjuicio de la autonomía técnica de las entidades participantes. Artículo 26. Capacitación laboral por efectos de Inteligencia Artificial. Los empleadores que implementen sistemas de IA que puedan generar desplazamiento o transformación sustancial de las funciones laborales existentes deberán adoptar planes de reubicación o capacitación dirigidos a los trabajadores potencialmente afectados. Estos planes deberán ser diseñados con enfoque preventivo, garantizar el respeto a la dignidad humana, y estar alineados con los lineamientos de transición justa a que se refiere el artículo anterior. El cumplimiento de estas obligaciones será objeto de seguimiento por parte del Ministerio del Trabajo, a través de sus funciones de inspección, vigilancia y control, sin perjuicio de las acciones que puedan adelantar otras entidades competentes. El Ministerio del Trabajo, en coordinación con el Ministerio de Ciencia, Tecnología e Innovación, podrá emitir guías, orientaciones o criterios técnicos para apoyar a los empleadores en la formulación e implementación de estos planes. Parágrafo. El Ministerio del Trabajo, en coordinación con el Ministerio de Ciencia, Tecnología e Innovación, definirá que se considera transformación sustancial, teniendo en cuenta criterios técnicos y jurídicos. Capítulo VIII: Acuerdos y colaboración internacional para la competitividad en Inteligencia Artificial Artículo 27. Acuerdos internacionales en inteligencia artificial. El Gobierno Nacional, a través del Ministerio de Ciencia, Tecnología e Innovación, en coordinación con el Ministerio de Relaciones Exteriores, APC-Colombia y demás entidades competentes, promoverá la gestión, formulación y acompañamiento técnico de acuerdos bilaterales y multilaterales en materia de inteligencia artificial, en el marco de las competencias legales y constitucionales vigentes. Estos acuerdos deberán observar principios de soberanía, justicia tecnológica, responsabilidad compartida y protección de los derechos fundamentales, e incorporar criterios de transparencia, evaluación de impacto y comunicación pública. Artículo 28. Cooperación técnica y científica para la inteligencia artificial. El Ministerio de Ciencia, Tecnología e Innovación, en articulación con el Ministerio de Relaciones Exteriores y demás entidades competentes, fomentará la participación activa de Colombia en espacios multilaterales, redes internacionales de investigación y mecanismos de construcción de estándares globales sobre inteligencia artificial. Esta cooperación estará orientada al fortalecimiento de capacidades nacionales, la adopción de buenas prácticas, el acceso a tecnologías estratégicas, la transferencia de conocimiento y la actualización normativa continua, con base en principios éticos, científicos, jurídicos y de inclusión territorial. Capítulo IX: Garantías, responsabilidades y mecanismos de supervisión para un uso ético y seguro de la Inteligencia Artificial Artículo 29. Criterios de imposición y graduación de sanciones. Las sanciones derivadas de infracciones a la presente ley serán impuestas atendiendo a los principios de proporcionalidad, gradualidad, necesidad y razonabilidad, considerando los siguientes criterios, cuando resulten aplicables: 1. Grado de afectación o riesgo efectivo a los derechos fundamentales, al interés público о a los principios establecidos en esta ley. 2. Existencia de acciones previas de advertencia u orientación técnica por parte de la Autoridad Nacional para la IA o de la autoridad competente, y la respuesta dada por el Responsable de IA ante dichas acciones. 3. El beneficio económico obtenido por el Responsable de IA o por terceros como resultado de la infracción. 4. Reincidencia comprobada, entendida como la repetición de una conducta infractora luego de haber sido objeto de advertencia o sanción previa. 5. Conducta obstructiva, como la negativa injustificada a colaborar con las labores de inspección, vigilancia o control. 6. Desacato o incumplimiento reiterado de las recomendaciones técnicas o correctivos ordenados por la autoridad competente, cuando hayan sido emitidos con anterioridad. 7. Reconocimiento voluntario o aceptación temprana de la infracción, así como la adopción espontánea de medidas correctivas por parte del Responsable de IA. Parágrafo. Las sanciones deberán aplicarse como último recurso, una vez agotadas las medidas de orientación, advertencia y mejora, salvo en aquellos casos en que exista daño grave, riesgo inminente o intención dolosa demostrable. Artículo 30. Infracciones administrativas en inteligencia artificial. Constituyen infracciones a lo dispuesto en la presente ley las conductas realizadas por los Responsables de IA que impliquen el incumplimiento de obligaciones técnicas, jurídicas o administrativas previstas en su respectivo rol dentro del ciclo de vida de los sistemas de inteligencia artificial. Serán infracciones, entre otras: 1. Implementar, operar o poner en funcionamiento un sistema de IA clasificado como de riesgo inaceptable por la autoridad competente. 2. Incumplir los requisitos técnicos, jurídicos o administrativos exigidos para la comercialización, implementación u operación de sistemas de IA de alto riesgo. 3. Omitir las obligaciones de transparencia o información al usuario en sistemas que deban cumplir con requisitos específicos en esta materia. 4. Incumplir las obligaciones de gestión del riesgo cuando ello derive en impacto negativo verificable o persistente. Desatender requerimientos técnicos emitidos por la autoridad competente sin justificación válida. Artículo 31. Medidas de mitigación, prevención y procedimiento administrativo. Los Responsables de IA deberán implementar medidas de mitigación y prevención acordes con el nivel de riesgo del sistema utilizado, orientadas a prevenir afectaciones a los derechos humanos, al interés público y al medio ambiente. La investigación de posibles infracciones administrativas se adelantará conforme a lo previsto en la legislación vigente. El procedimiento deberá incluir, en lo posible, fases de advertencia, asesoría técnica y planes de mejora progresiva, sin perjuicio de la adopción inmediata de medidas cuando exista riesgo grave o daño ya causado, en harmonía con los códigos de procedimiento vigente. Parágrafo. Las sanciones derivadas del incumplimiento de otros regímenes legales serán aplicadas por las autoridades competentes en cada sector, según su propio marco sancionatorio. Artículo 32. Medidas correctivas y sanciones. Las autoridades competentes podrán imponer medidas correctivas y sanciones a los responsables de IA que incumplan lo dispuesto en esta ley, respetando los principios de proporcionalidad, gradualidad, debido proceso y mejora continua. Las sanciones podrán incluir: 1. Requerimientos de mejora voluntaria con acompañamiento técnico. 2. Advertencia oficial por escrito con plazo para ajuste. 3. Multas hasta por tres mil (3.000) salarios mínimos mensuales legales vigentes, aplicables sucesivamente mientras subsista el incumplimiento. 4. Suspensión de actividades por un periodo máximo de veinticuatro (24) meses. 5. Cierre temporal o definitivo de la operación del sistema de IA, incluido el bloqueo de acceso en el territorio nacional, cuando los riesgos sean graves, deliberados o irreversibles. Parágrafo. Las sanciones previstas en este artículo aplican exclusivamente a personas naturales o jurídicas privadas. En caso de presunto incumplimiento por parte de autoridades públicas, la actuación se remitirá a la Procuraduría General de la Nación. Capítulo X: Disposiciones finales Artículo 33. Adaptabilidad y revisión. El Ministerio de Ciencia, Tecnología e Innovación reglamentará los aspectos y contenidos relacionados con las temáticas de la presente ley, para asegurar su relevancia y eficacia ante los avances tecnológicos y las necesidades sociales, en coordinación con las demás entidades involucradas. Esta revisión también considerará, pero no se limitará a: a) Establecer nuevas normativas y adoptar las mejores prácticas internacionales. b) Evaluar el impacto y los resultados de la ley. c) Incorporar los nuevos avances tecnológicos y sus implicaciones. d) Establecer los mecanismos de monitoreo y supervisión de la implementación de la ley. Artículo 34. Adaptación de sistemas existentes. Todos los sistemas de IA que se encuentren en funcionamiento en el territorio nacional a la fecha de entrada en vigor de la presente ley deberán ajustarse a las disposiciones establecidas en la misma. Los responsables de estos sistemas, ya sean personas naturales o jurídicas, deberán asegurarse de que sus sistemas de IA cumplan con los requisitos, clasificaciones de riesgo, y normativas establecidas en la presente ley. Artículo 35. Financiación. El Gobierno Nacional establecerá vínculos que posibiliten garantizar una financiación sólida y sostenible, promoviendo la diversificación de las fuentes de financiamiento por medio de la cooperación internacional, las alianzas público-privadas, entre otros mecanismos, para impulsar la regulación, la verificación, la investigación, la implementación y la adopción responsable de la IA en nuestro país. Artículo 36. Gastos para la implementación. Cualquier gasto generado para la implementación de esta ley estará sujeto a la disponibilidad de recursos del Presupuesto General de la Nación, de conformidad con el Marco Fiscal de Mediano Plazo y el Marco de Gasto de Mediano Plazo referente a las proyecciones de gasto del sector de ciencia, tecnología e innovación. Artículo 37. Entrada en vigencia. La presente ley regirá a partir de su promulgación y deroga todas las disposiciones que le sean contrarias. Cordialmente, PEDRO HERNANDO FLOREZ PORRAS GERSON LISÍMACO MONTAÑO ARIZALA Senador de la República Representante a la Cámara CITREP-10° Sur Nariño