KAIZEN CENTER ha compartido esto
Buen viernes querida red, a propósito de la moda IA que ha llegado para quedarse y que no para de evolucionar, me gustaría compartir con ustedes un ámbito que veo que se aborda de forma muy escasa y que, desde mi punto de vista, es altamente relevante: "La #Ética en la adopción de #InteligenciaArtificial". Un caso de estudio de "Ética e Inteligencia Artificial" es el de Amazon, que entre 2014 y 2017 desarrolló un sistema automatizado de selección de personal basado en aprendizaje automático. El objetivo era agilizar la revisión de CVs (Hojas de vida) y recomendar a los candidatos más adecuados para roles técnicos. Sin embargo, el algoritmo fue entrenado utilizando datos históricos de contrataciones de años anteriores, y éstos registraban una preferencia histórica hacia los hombres en el sector tecnológico. Como consecuencia, el sistema comenzó a penalizar automáticamente a candidatas mujeres, disminuyendo sus puntuaciones si detectaba términos como "women's" en su historial. Este caso puso en evidencia cómo un modelo entrenado con datos sesgados puede reproducir y amplificar discriminaciones estructurales preexistentes, comprometiendo no solo la equidad en los procesos de selección, sino también la reputación corporativa y el cumplimiento regulatorio. Se confirmó que Amazon canceló el proyecto antes de su implementación masiva, pero el incidente reveló la necesidad de mecanismos de auditoría algorítmica y participación multidisciplinaria en el diseño de sistemas de IA, especialmente cuando éstos influyen en decisiones con impacto humano relevante. Es importante plantearnos la reflexión de que la responsabilidad de asegurar que los algoritmos actúen con justicia, transparencia y respeto por la dignidad humana; no es ámbito único de la Gerencia de Ingeniería ni de los equipos técnicos, sino que es una responsabilidad compartida en toda la estructura organizacional, gestándose inclusive desde la alta dirección hacia abajo; por otro lado y aún más crítico, cómo podemos aportar desde nuestro rol y puesto de trabajo a este cambio de mindset cuando existen casos no éticos promovidos por las mismas gerencias en la empresa en la cual estás inserto(a). En el primer comentario te dejo el link del artículo en su versión extendida. Respaldo internacional: Scrum Manager | Agile Alliance & Cert | #ISO9001_2015 | #SENCE #COMUNIDAD TAURUS GALAXY | KAIZEN CENTER | ATI Consultores | ALTO - Alianza Latinoamericana de Transformación Organizacional | Cámara Oficial Española de Comercio en Chile | OTIC CAMACOES | Scrum LATAM Comunidad #StrongerTogether #Taurus_Partners, #Taurus_, #Taurus_Friends #OrganizationalTransformation #LeanAgileMindset #LeanAgileLeadership