CALIFORNIA – Un tribunal federal de California ha permitido que un solicitante de empleo frustrado proceda con una demanda por discriminación laboral contra un proveedor de inteligencia artificial (IA) después de que más de 100 empleadores que utilizan las herramientas de selección del proveedor lo rechazaran.
La decisión del juez, fechada el 12 de julio, permite que la acción colectiva contra Workday continúe basándose en las decisiones de empleo tomadas por los clientes de Workday bajo la teoría de que Workday actuó como “agente” para todos los empleadores que lo rechazaron y que sus herramientas algorítmicas de selección estaban sesgadas en contra de su raza, edad y estado de discapacidad.
Aquí hay un breve resumen de las acusaciones contenidas en la demanda:
Derek Mobley es un hombre negro de más de 40 años que se identifica como alguien que sufre de ansiedad y depresión. Tiene un título en finanzas de Morehouse College y una amplia experiencia en diversos puestos de finanzas, mesa de ayuda de TI y servicio al cliente.
Entre 2017 y 2024, Mobley solicitó más de 100 empleos con empresas que utilizan las herramientas de contratación basadas en IA de Workday, y dice que fue rechazado en cada ocasión. Veía una oferta de trabajo en un sitio web de terceros (como LinkedIn), hacía clic en el enlace del trabajo y era redirigido a la plataforma de Workday.
Miles de empresas utilizan las herramientas de selección de solicitantes basadas en IA de Workday, que incluyen pruebas de personalidad y cognitivas. Luego interpretan las calificaciones de un candidato a través de métodos algorítmicos avanzados y pueden automáticamente rechazarlos o hacerlos avanzar en el proceso de contratación.
Mobley alega que los sistemas de IA reflejan sesgos ilegales y se basan en datos de entrenamiento sesgados. Señala el hecho de que su raza podría ser identificada porque se graduó de un colegio históricamente negro, su edad podría determinarse por su año de graduación y sus discapacidades mentales podrían revelarse a través de las pruebas de personalidad.
Presentó una demanda federal contra Workday alegando discriminación racial bajo el Título VII y la Sección 1981, discriminación por edad bajo la ADEA y discriminación por discapacidad bajo la ADA.
Pero no presentó cualquier tipo de demanda. Presentó una reclamación de acción colectiva, buscando representar a todos los solicitantes como él que no fueron contratados debido al supuesto proceso de selección discriminatorio.
Workday solicitó al tribunal que desestimara la reclamación sobre la base de que no era el empleador quien tomaba la decisión de empleo respecto a Mobley, pero después de más de un año de disputas procedimentales, el juez dio luz verde para que Mobley continúe con su demanda.
Es importante recordar que este caso está en las etapas muy iniciales del litigio y Workday aún no ha proporcionado una respuesta directa a las acusaciones, así que tome estos puntos con cautela y reconozca que pueden incluso ser falsos.
En un panorama donde la tecnología juega un papel cada vez más crucial en la contratación, es vital que los sistemas de IA sean monitoreados y regulados adecuadamente para evitar cualquier forma de discriminación.
La demanda de Mobley podría sentar un precedente importante y obligar a las empresas a reevaluar y ajustar sus procesos de selección para garantizar que sean inclusivos y equitativos para todos los solicitantes.
La demanda de Derek Mobley contra Workday subraya los desafíos y riesgos asociados con el uso de IA en los procesos de contratación. Mientras este caso continúa desarrollándose, las empresas y desarrolladores de tecnología deben prestar atención y trabajar diligentemente para eliminar cualquier sesgo en sus herramientas de selección.
La justicia y la equidad en el empleo son derechos fundamentales que deben ser protegidos, y este caso podría ser un paso crucial hacia la realización de ese objetivo.
