Ética de la IA y Tecnologías Emergentes

Competencia laboral: Analizar los fundamentos filosóficos, los conceptos técnicos básicos y los marcos internacionales y nacionales de principios éticos de la inteligencia artificial para fundamentar juicios morales sobre el desarrollo y uso de sistemas inteligentes en el contexto colombiano.

• Diferenciar la ética aplicada a la tecnología del derecho, el cumplimiento normativo y la gobernanza de la inteligencia artificial.
• Aplicar el consecuencialismo, la deontología, la ética de las virtudes y la ética del cuidado al análisis de decisiones tomadas con sistemas inteligentes.
• Explicar qué son el aprendizaje automático, los modelos fundacionales y los sistemas autónomos para identificar dónde surgen sus problemas éticos.
• Examinar la agencia moral, la autonomía humana y la responsabilidad distribuida en sistemas sociotécnicos con inteligencia artificial.
• Interpretar los valores, los diez principios y los ámbitos de acción de la Recomendación de la UNESCO sobre la Ética de la IA de 2021.
• Comparar los Principios de IA de la OCDE actualizados en 2024 con otras declaraciones internacionales para identificar convergencias y vacíos.
• Relacionar el Marco Ético para la IA en Colombia con el eje de ética y gobernanza de la Política Nacional de IA, CONPES 4144 de 2025.
• Valorar las perspectivas latinoamericanas, interculturales y de derechos humanos que amplían la ética de la inteligencia artificial.

Competencia laboral: Evaluar la calidad ética de los datos y la equidad de los resultados de sistemas de inteligencia artificial mediante métricas de sesgo y criterios de protección de datos personales para prevenir la discriminación algorítmica en organizaciones reales o simuladas.

• Identificar los dilemas éticos que surgen en la recolección, el etiquetado, el almacenamiento y la reutilización de datos para entrenar modelos de IA.
• Aplicar la Ley 1581 de 2012 y la Circular Externa 002 de 2024 de la SIC al tratamiento de datos personales en proyectos de inteligencia artificial.
• Clasificar los tipos de sesgo algorítmico, desde el sesgo histórico y de representación hasta el de medición, agregación y despliegue.
• Calcular métricas de equidad como paridad demográfica, igualdad de oportunidades, probabilidades igualadas y calibración a partir de matrices de confusión.
• Analizar los teoremas de imposibilidad de la equidad y justificar qué criterio priorizar según el contexto de decisión.
• Examinar casos documentados de discriminación algorítmica como COMPAS, Gender Shades y herramientas automatizadas de selección de personal.
• Seleccionar técnicas de mitigación del sesgo en las etapas de preprocesamiento, entrenamiento y posprocesamiento de un modelo.
• Evaluar impactos de sistemas de IA sobre poblaciones vulnerables con enfoque diferencial e interseccional en Colombia.

Competencia laboral: Evaluar el nivel de transparencia, explicabilidad y supervisión humana de sistemas de inteligencia artificial para asignar responsabilidades y garantizar la rendición de cuentas en decisiones automatizadas del sector público y privado.

• Explicar las causas de la opacidad algorítmica: modelos de caja negra, secreto comercial y asimetrías de información.
• Comparar la interpretabilidad intrínseca con métodos de explicación post hoc como LIME, SHAP y explicaciones contrafactuales.
• Analizar el alcance del derecho a la explicación frente a decisiones automatizadas que producen efectos sobre las personas.
• Diferenciar los modelos de supervisión humana en el circuito, sobre el circuito y al mando, y sus condiciones de eficacia.
• Determinar cómo se distribuye la responsabilidad ética y jurídica por los daños causados por sistemas de inteligencia artificial.
• Elaborar documentación de transparencia con fichas de modelos, hojas de datos y registros de uso de sistemas de IA.
• Evaluar el uso de IA en decisiones públicas y judiciales a partir de la sentencia T-323 de 2024 y el Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura.

Competencia laboral: Analizar los riesgos, beneficios y dilemas éticos de la IA generativa, la biometría, la neurotecnología, la robótica, el Internet de las cosas, el blockchain y la computación cuántica para anticipar impactos sobre los derechos de las personas y el ambiente.

• Analizar los dilemas éticos de la IA generativa: desinformación, deepfakes, propiedad intelectual y confabulación de contenidos.
• Evaluar el uso de biometría y reconocimiento facial frente a la vigilancia masiva, el consentimiento y el tratamiento de datos sensibles.
• Explicar los neuroderechos y la privacidad mental a partir de la experiencia chilena y la Recomendación de la UNESCO sobre neurotecnología de 2025.
• Examinar los dilemas de la robótica y los sistemas autónomos en seguridad, cuidado de personas, trabajo y usos militares.
• Identificar los riesgos éticos del Internet de las cosas y los entornos inteligentes para la privacidad, la seguridad y la autonomía.
• Valorar el blockchain y los criptoactivos según su aporte a la trazabilidad y la inclusión y según sus impactos sociales y ambientales.
• Explicar los desafíos éticos de la computación cuántica: criptografía poscuántica, uso dual y brecha de capacidades entre países.
• Estimar los impactos ambientales de la IA en consumo de energía, agua, minerales críticos y residuos electrónicos.

Competencia laboral: Evaluar dilemas éticos y proyectos tecnológicos mediante métodos de deliberación, evaluación de impacto ético y gestión de riesgos de IA para formular recomendaciones fundamentadas en casos reales o simulados de organizaciones colombianas.

• Aplicar métodos de deliberación ética, como el análisis de partes interesadas y el equilibrio reflexivo, a dilemas tecnológicos complejos.
• Utilizar la herramienta de Evaluación de Impacto Ético de la UNESCO y la evaluación de impacto algorítmico en proyectos de IA.
• Desarrollar evaluaciones de impacto en privacidad y en derechos humanos para iniciativas basadas en inteligencia artificial.
• Valorar riesgos de IA con las funciones gobernar, mapear, medir y gestionar del NIST AI RMF 1.0 y su perfil de IA generativa.
• Diseñar productos tecnológicos con diseño sensible a valores y ética desde el diseño.
• Analizar los efectos éticos de la automatización y la IA en el empleo, la educación y las relaciones laborales.
• Redactar informes y recomendaciones éticas claras para directivos, equipos técnicos y comunidades afectadas.

Competencia laboral: Evaluar la alineación de prácticas y sistemas de inteligencia artificial con marcos normativos internacionales y nacionales, normas técnicas y códigos profesionales para sostener una práctica ética documentada y en mejora continua.

• Interpretar el enfoque de riesgos, las prácticas prohibidas y el calendario de aplicación del Reglamento Europeo de IA 2024/1689 a 2026.
• Explicar las obligaciones del Convenio Marco del Consejo de Europa sobre IA, derechos humanos, democracia y Estado de derecho.
• Analizar el marco jurídico colombiano en evolución: CONPES 4144, Ley 2502 de 2025 y proyectos de ley de inteligencia artificial.
• Comparar las normas ISO/IEC 42001:2023, ISO/IEC 23894:2023 e ISO/IEC 42005:2025 como referentes de una práctica ética de la IA.
• Proponer comités de ética, códigos de conducta y canales de alerta que institucionalicen la reflexión ética en las organizaciones.
• Desarrollar programas de alfabetización en IA y competencias éticas para profesionales y equipos de trabajo.
• Documentar decisiones éticas con buenas prácticas profesionales de registro, revisión y mejora continua.