Todo comenzó con una promesa: «La inteligencia artificial transformaría industrias, hará procesos más justos y eficientes, y tomaría decisiones objetivas«. Pero muy pronto, esa narrativa se ha visto cuestionada. Así es mi querido amigo lector, porque la IA, lejos de ser neutral, ha comenzado a replicar algo profundamente humano, nuestros propios prejuicios. Y lo más alarmante no ha sido que los modelos fallaran, sino que lo hicieran de forma sistemática, perpetuando desigualdades raciales, de género y sociales.
Uno de los casos más recordados en este sentido ha sido el del sistema interno de contratación de Amazon. El cual fue diseñado para automatizar la selección de CVs en su proceso de contratación y terminó penalizando aquellos que contenían la palabra “women” o hacían referencia a actividades femeninas. Simplemente porque el algoritmo había sido entrenado con datos históricos donde la mayoría de los candidatos exitosos eran hombres. Muestra de que «el sistema no entendió el contexto, solo aprendió a repetir patrones«.
Y no es un caso aislado, en la web encontramos diversas investigaciones del MIT y otras universidades, en los cuales se han demostrado que los sistemas de reconocimiento facial tienen tasas de error hasta 35 veces más altas en mujeres de piel oscura que en hombres blancos, sencillamente perturbador. La razón, los modelos se entrenaron mayoritariamente con rostros de hombres blancos. El resultado, personas de color de piel negra y racializadas siendo mal identificadas, criminalizadas o invisibilizadas por sistemas que, en teoría, debían ser objetivos.
Lo más inquietante es que estos sesgos también se manifiestan en la IA que usamos todos los días. Así es mi querido amigo lector, desde asistentes virtuales hasta motores de recomendación, pasando por plataformas de IA gratuita y paga. La diferencia es que las versiones comerciales suelen tener un mejor control de calidad, curación de datos y supervisión, pero eso no las exime de responsabilidad. Los modelos de lenguaje, por ejemplo, pueden reproducir estereotipos si no son ajustados con cuidado.
Esto nos debería comenzar a prender ciertas alarmas. Ya que si no cuestionamos qué datos usamos, quiénes los validan y cómo se aplican, seguiremos automatizando la discriminación. La IA no inventa el prejuicio, lo amplifica. Por eso, no basta con desarrollar modelos potentes; necesitamos diseñar sistemas conscientes, diversos y auditables. Porque al final, lo que está en juego no es solo la eficiencia, sino la justicia y la igualdad.
Mi querido amigo lector una vez más, gracias por tu tiempo.
Noticias
Padres de un joven de 16 años que se suicidó demandan a OpenAI, alegando que ChatGPT lo orientó. (Ver Noticia)
Google se vuelve viral con Nano Banana, su modelo más avanzado de edición de imágenes con IA (Ver Noticia)
El máximo responsable de IA de Microsoft dice que la tecnología que parece consciente cada vez está más cerca y advierte sobre lo que le preocupa. (Ver Noticia)
¿Qué esperar del lanzamiento del nuevo iPhone este 9 de septiembre? (Ver Noticia)
El bitcoin se hunde a su nivel más bajo en siete semanas: inversores se centran en el ether (Ver Noticia)
Lecturas Recomendadas
- The Digital Transformation Playbook: Rethink Your Business for the Digital Age – (David L. Rogers): Guía práctica que ayuda a las empresas a repensar cinco dimensiones esenciales (clientes, competencia, datos, innovación y valor). Incluye casos de estudio, marcos y ejercicios para diseñar estrategias de transformación digital. (Ver más)
- Essential Scrum: A Practical Guide to the Most Popular Agile Process –( Kenneth S. Rubin): Guía completa que cubre los roles, eventos y artefactos de Scrum, así como escalado, métricas y buenas prácticas. Ofrece un enfoque práctico para implementar Scrum en equipos y organizaciones. (Ver más)
- Scrum Mastery: From Good to Great Servant‑Leadership – (Geoff Watts): Se centra en el liderazgo de servicio, la mentalidad y las habilidades interpersonales necesarias para que un Scrum Master sea eficaz. Incluye relatos y estudios de casos para ilustrar comportamientos excepcionales. (Ver más)
- Artificial Intelligence: A Modern Approach (4ᵃ ed.) – (Stuart Russell & Peter Norvig): Introducción exhaustiva a la teoría y práctica de la IA. La 4ª edición actualiza el contenido con aprendizaje automático, aprendizaje profundo, sistemas multi‑agente, robótica, procesamiento del lenguaje natural, causalidad, programación probabilística, privacidad, equidad y seguridads. (Ver más)
Próximos Eventos
- Testing Day Chile 2025: El 28 y 29 agosto 2025 en Santiago de chile, se estará realizando el Principal evento chileno de pruebas de software y calidad. Contará con charlas técnicas, paneles y networking para profesionales que buscan mejorar procesos de testing. (Ver Noticia)
- Agiles Latam 2025: Del 16-18 de Octubre en Santiago de chile, se estará realizando el evento más grande de agilidad en Latinoamérica. Evento que contará con la participación de los principales referentes en temas de agilidad de la región. (Ver Noticia)
- 8.8 Matrix 2025: El 2 y 3 de octubre en Santiago de chile, se estará realizando La conferencia 8.8 de ciberseguridad celebra su 15.º aniversario. Habrá talleres, competencia de “captura la bandera” y una ponencia de Eva Galperin sobre ciberfascismo. Es un punto de encuentro clave para profesionales de seguridad informática en Latinoamérica. (Ver Noticia)
Si Conoces de algún evento sobre tecnología, agilidad o inteligencia artificial que se vaya a realizar, escríbeme a: hernanhurtado@lapiraguadigital.com
© La Piragua Digital – By Hernán Hurtado
