Perfilado de sección

  • Nuestra responsabilidad algorítmica culmina con un análisis profundo de la integración ética y social de soluciones con IA. Un ingeniero de ejecución en computación que despliega modelos predictivos sin medir su impacto social comete una negligencia estructural profunda.

    Revisaremos transversalmente los temas del curso, evaluando cómo los sesgos históricos se introducen en las bases de datos y son amplificados por modelos de PLN o Visión por Computador. Analizaremos casos reales de discriminación algorítmica y la necesidad imperativa de contar con Inteligencia Artificial Explicable (XAI).

    El diseño de un sistema basado en Inteligencia Artificial tiene repercusiones tangibles en diagnósticos médicos, accesos financieros y sistemas legales. Por ello, la ética y las métricas de equidad deben codificarse desde la primera línea de lógica en nuestros entornos de desarrollo.

    • Actividad (Tarea):

      Descarga el dataset público Adult Income (frecuentemente usado para estudiar sesgos demográficos en predicciones financieras): Adult Income Dataset (CSV). Utilizando Pandas en Google Colab, realiza una agrupación de datos (groupby) para analizar qué porcentaje de individuos, divididos por género y raza, son clasificados erróneamente si simuláramos un modelo básico. Escribe un comentario técnico argumentando por qué entrenar una red neuronal a ciegas con este dataset replicaría brechas salariales históricas.

    • Foro:

      ¿Debería el gobierno exigir que el código fuente de los algoritmos de "caja negra" utilizados en los servicios públicos (ej. evaluación de subsidios habitacionales) sea abierto y auditable por entes universitarios independientes?