La Ley de Inteligencia Artificial, cuyo objetivo es establecer un marco normativo único para los sistemas de IA que operen en la Unión Europea, mitigando riesgos para la seguridad y los derechos fundamentales de los ciudadanos. Este reglamento, que excluye el sector militar, tiene el potencial de convertirse en una referencia global, similar al Reglamento General de Protección de Datos (RGPD).
La Ley de Inteligencia Artificial es el primer intento global de regular la IA, clasificando sus aplicaciones según el riesgo y estableciendo prohibiciones específicas para aplicaciones de alto riesgo, como el reconocimiento biométrico a distancia y la manipulación subliminal. La normativa se aplicará de forma gradual hasta su plena entrada en vigor en 2026.
Un apartado dentro del reglamento destaca la necesidad de apoyar a las pequeñas y medianas empresas (PYMES), empresas emergentes y usuarios en su adaptación a este nuevo marco regulatorio. Este artículo explora las actividades de sensibilización y desarrollo de competencias digitales propuestas, destacando su relevancia y beneficios para estos actores clave.
En el reglamento sobre sistemas de Inteligencia Artificial (IA), se proponen diversas actividades de sensibilización y desarrollo de competencias digitales específicamente dirigidas a las PYMES, empresas emergentes y usuarios. Equipar a las PYMES y empresas emergentes con habilidades digitales avanzadas permite a estas entidades aprovechar mejor las oportunidades que ofrece la IA, mejorando su competitividad e innovación.
Este enfoque asegura que tanto el sector educativo como el empresarial estén alineados en sus objetivos de digitalización, promoviendo una transición más fluida hacia la adopción de tecnologías de IA. Estas iniciativas tienen como objetivo mejorar la preparación y concienciación de estos actores clave, promoviendo un uso responsable y ético de la IA. A continuación, se detallan algunas de las propuestas más relevantes.
El despliegue de sistemas de IA en el ámbito educativo y empresarial es importante a la hora de fomentar una formación digital de alta calidad. Esto permitirá que tanto los empleados de PYMES y empresas emergentes como los estudiantes y profesores adquieran y compartan las capacidades y competencias digitales necesarias, incluyendo la alfabetización mediática y el pensamiento crítico. Estas habilidades son esenciales para que los individuos participen activamente en la economía, la sociedad y los procesos democráticos.
Para las PYMES y empresas emergentes, es crucial incorporar la alfabetización mediática y el pensamiento crítico en sus estrategias de formación y desarrollo. La Carta Iberoamericana de Inteligencia Artificial del CLAD subraya la importancia de estas competencias para enfrentar los desafíos y aprovechar las oportunidades que ofrece la IA . Equipar a las PYMES con estas habilidades mejora su capacidad para innovar, adaptarse a los cambios tecnológicos y competir en un mercado cada vez más digitalizado.
No obstante, es esencial gestionar los sistemas de IA con cuidado, especialmente aquellos clasificados como de alto riesgo. Esto incluye sistemas que determinan el acceso a programas educativos o laborales, distribuyen a las personas entre distintas instituciones o empresas, evalúan el desempeño o influyen significativamente en las oportunidades de desarrollo profesional. Estos sistemas tienen el potencial de decidir la trayectoria formativa y profesional de una persona, afectando directamente su capacidad para asegurar su subsistencia. Si no se diseñan y utilizan correctamente, pueden invadir derechos fundamentales como el derecho a la educación, la formación y el empleo, perpetuando patrones históricos de discriminación.
Por ello, el desarrollo y la implementación de sistemas de IA en la educación y en las PYMES deben ser cuidadosamente monitoreados y regulados para evitar abusos y garantizar que se utilicen de manera justa y ética. Las medidas de alfabetización mediática y pensamiento crítico no solo empoderan a los miembros de una empresa o a estudiantes, sino que también establecen una base sólida para la evaluación crítica y el uso responsable de la tecnología de IA en todos los contextos.
El Reglamento también propone fomentar la adquisición y compartición de competencias digitales necesarias en el ámbito educativo. Este enfoque es integral, abarcando tanto a estudiantes como a profesores, y busca asegurar que todos los involucrados en el proceso educativo estén equipados con las habilidades digitales necesarias para adaptarse a un entorno tecnológico en constante evolución.
Las competencias digitales incluyen no solo la capacidad de utilizar herramientas tecnológicas, sino también la comprensión de sus implicaciones éticas y sociales. Esto es importante en la IA, donde las decisiones automatizadas pueden tener efectos significativos en la vida de las personas. Al equipar a estudiantes y profesores con estas competencias, se promueve una cultura de aprendizaje continuo y adaptación, esencial para la integración efectiva de la IA en la educación.
Además, fomentar estas competencias facilita la creación de una base sólida de conocimientos que pueden transferirse y aplicarse en el contexto empresarial. Las PYMES y empresas emergentes, al contar con personal educado en competencias digitales, pueden aprovechar mejor las oportunidades que ofrece la IA, mejorando su competitividad y capacidad de innovación. Este enfoque holístico asegura que el ecosistema educativo y empresarial estén alineados en sus objetivos de digitalización y adopción de IA.
Se anima a los proveedores y responsables del despliegue de sistemas de IA a aplicar requisitos adicionales voluntarios relacionados con la sostenibilidad medioambiental, la inclusividad y la diversidad en el diseño y desarrollo de sistemas de IA. Esto incluye la participación de partes interesadas y la diversidad de los equipos de desarrollo, promoviendo la paridad de género.
La adopción de estos requisitos voluntarios no solo mejora la ética y la responsabilidad en el desarrollo de IA, sino que también puede aumentar la aceptación y la confianza del público en estas tecnologías. Por ejemplo, considerar la sostenibilidad medioambiental en el desarrollo de sistemas de IA puede ayudar a mitigar los impactos negativos en el medio ambiente, promoviendo una tecnología más verde y sostenible.
Además, la inclusión y la diversidad en los equipos de desarrollo y en el diseño de sistemas de IA aseguran que las perspectivas y necesidades de diferentes grupos sociales sean consideradas. Esto es crucial para evitar sesgos y discriminación en los algoritmos de IA, y para garantizar que los beneficios de la tecnología sean accesibles para todos. Al fomentar la participación de una variedad de partes interesadas, desde organizaciones empresariales hasta la sociedad civil, se crea un ecosistema más inclusivo y equitativo.
Otra punto clave es el establecimiento de herramientas de alfabetización en materia de inteligencia artificial. Estas herramientas están diseñadas para garantizar el cumplimiento adecuado y la correcta ejecución de los sistemas de IA, además de promover la sensibilización pública y la comprensión de los beneficios, riesgos, salvaguardias, derechos y obligaciones asociados con el uso de la IA.
Estas herramientas de alfabetización en IA proporcionarán a proveedores, responsables del despliegue y usuarios los conceptos necesarios para tomar decisiones informadas. Esto incluye entender cómo aplicar correctamente los elementos técnicos durante el desarrollo del sistema de IA, las medidas a implementar durante su uso, y cómo interpretar adecuadamente la información generada por el sistema de IA. También es esencial que las personas afectadas por decisiones automatizadas comprendan cómo estas decisiones impactan sus vidas.
La implementación generalizada de estas herramientas y medidas de alfabetización en IA contribuirá a mejorar las condiciones de trabajo y sostener la consolidación y la senda de innovación de una IA fiable en la Unión. El Comité Europeo de Inteligencia Artificial apoyará a la Comisión en la promoción de estas herramientas, fomentando una mayor comprensión y conciencia pública sobre el uso responsable y ético de la IA.
El Reglamento sobre sistemas de IA subrayan la importancia de apoyar a las PYMES, empresas emergentes y usuarios en su adaptación al nuevo marco regulatorio. Las iniciativas propuestas buscan fomentar una educación digital integral, que incluya no solo habilidades técnicas, sino también competencias críticas como la alfabetización mediática y el pensamiento crítico. La correcta implementación de sistemas de IA en el ámbito educativo, con un enfoque en la ética y la equidad, es esencial para evitar la perpetuación de discriminaciones y garantizar un acceso justo a las oportunidades educativas.
El fomento de competencias digitales en el ámbito empresarial es igualmente crucial. Equipar a las PYMES y empresas emergentes con habilidades avanzadas en IA no solo mejora su competitividad, sino que también promueve un entorno de innovación y adaptación constante. Al alinear los objetivos educativos y empresariales, se asegura una transición más fluida y efectiva hacia la adopción de tecnologías, beneficiando a todo el ecosistema.
Finalmente, la promoción de requisitos voluntarios adicionales y el establecimiento de herramientas de alfabetización en IA son pasos vitales para garantizar un desarrollo y uso responsable de la IA. Estas medidas no solo aumentan la confianza del público en la tecnología, sino que también aseguran que sus beneficios sean equitativamente distribuidos. La cooperación entre diversos actores, desde proveedores hasta usuarios finales, es esencial para crear un entorno inclusivo y ético en este ámbito.
Centro Latinoamericano de Administración para el Desarrollo. (2023). Carta Iberoamericana de Inteligencia Artificial [Versión 2].
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión.
Comisión Europea. (2023). Informe A9-0188/2023 sobre la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial).
Parlamento Europeo. (2024). Enmiendas al Reglamento sobre sistemas de Inteligencia Artificial. Obtenido de Documento TA-9-2024-0138.
Unión Europea. (2024). Opinión del Comité Económico y Social sobre la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial). Obtenido de CESE 2021/02482.
Unión Europea. (2024). Opinión del Comité de las Regiones sobre la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial). Obtenido de CDR 2021/02682.
