Workday, uno de los gigantes tecnológicos más importantes del mundo en el software de gestión de capital humano, está a punto de pasar por un juicio crucial en el estado de California. Un juez federal ha ordenado que la compañía tecnológica deberá responder ante las acusaciones colectivas que señalan que sus herramientas y sistemas basados en Inteligencia Artificial (IA) discriminan de manera sistemática a solicitantes de empleo afroamericanos, mayores de 40 años y personas con discapacidades, de acuerdo con informes legales urgentes de la agencia Reuters.

La demanda alega que los algoritmos de detección, evaluación y filtrado de currículums de Workday actúan como un "guardián digital" sesgado para las miles de corporaciones que utilizan sus servicios alrededor del mundo. El principal demandante en el caso afirma haber sido rechazado automáticamente para más de 100 trabajos a los que se postuló en la plataforma de Workday, a pesar de cumplir con los requisitos, pues las herramientas predictivas de Workday reproducen prejuicios humanos del pasado.

Este litigio tendrá un impacto significativo en dos áreas importantes para el futuro digital:

• En materia legal y regulatoria: Las leyes de igualdad de oportunidades laborales en Estados Unidos han sido tradicionalmente interpretadas como que hacen responsable únicamente al empleador que contrata. Si el tribunal considera que Workday puede ser considerado legalmente como una “agencia de empleo” por el simple hecho de que su software toma decisiones automatizadas de descarte, esto abrirá la puerta para que cualquier desarrollador de IA del mundo pueda ser demandado directamente por los sesgos de sus productos.
• Dentro de la órbita de Recursos Humanos: Este caso obliga a las empresas de tecnología y software de recursos humanos (HR Tech) a que reevalúen con urgencia la transparencia y la auditoría de sus modelos de aprendizaje automático. Los diseñadores ya no podrán recurrir al secreto comercial del código o al argumento de la "caja negra" si sus algoritmos siguen penalizando estadísticamente a minorías u otros grupos protegidos por la ley.

Workday, por su parte, ha negado rotundamente las acusaciones, defendiendo la legalidad y neutralidad de sus sistemas, argumentando que sus herramientas están diseñadas para apoyar los procesos de contratación humanos, no para reemplazarlos, y afirmando que la demanda carece de sustento fáctico. A medida que este proceso se desarrolla en los tribunales de California, la industria tecnológica se enfrenta a un punto de inflexión definitivo en el que la eficiencia matemática de la Inteligencia Artificial tendrá que alinearse completamente con los derechos civiles fundamentales.

Etiquetas