La ciudad de Nueva York aprueba un proyecto de ley para abordar el sesgo en las herramientas de contratación basadas en la IA

El Ayuntamiento de Nueva York ha aprobado un proyecto de ley destinado a abordar los prejuicios en las herramientas de contratación basadas en la IA.

El proyecto de ley se presentó en febrero de 2020; el Consejo de Nueva York lo aprobó el 10 de noviembre. El alcalde de Nueva York, Bill de Blasio, tiene hasta el 10 de diciembre para firmar el proyecto de ley, vetarlo o permitir que se convierta en ley sin ser firmado. Si el proyecto de ley se promulga, entrará en vigor el 1 de enero de 2023. Eso da a los vendedores, empleadores y agencias de empleo más de un año para asegurarse de que sus herramientas cumplen con las normas del proyecto de ley.

“Este proyecto de ley exigiría que se realizara una auditoría de prejuicios en una herramienta automatizada de decisión de empleo antes de utilizar dicha herramienta”, dice el NYCC en su resumen de la propuesta. “El proyecto de ley también requeriría que los candidatos o empleados que residen en la ciudad sean notificados sobre el uso de dichas herramientas en la evaluación o valoración para la contratación o promoción, así como, ser notificados sobre las calificaciones y características del trabajo que serán utilizadas por la herramienta de decisión de empleo automatizado.”

The Associated Press informa de que este proyecto de ley está destinado específicamente a abordar los prejuicios raciales o de género; no incluye protecciones contra los prejuicios relacionados con la discapacidad o la edad. Sin embargo, permite a los solicitantes de empleo pedir un proceso de revisión alternativo, incluyendo la opción de que otro ser humano revise su solicitud. Los empleadores y las agencias de empleo que no superen las auditorías obligatorias de prejuicios del proyecto de ley estarán sujetos a una multa de hasta 1.500 dólares por infracción.

Sin embargo, puede que no sea difícil para una herramienta de contratación basada en la IA pasar esas auditorías, porque se supone que las administran los propios proveedores. (Lo que podría explicar por qué la AP dice que “ha habido poca oposición al proyecto de ley por parte de los proveedores de contratación de IA más utilizados por los empleadores”). Los proveedores tampoco serían los que pagarían las multas, por lo que sólo tendrían que preocuparse por la penalización indirecta de la posible pérdida de clientes si no superan una auditoría de sesgo.

Pero este es sólo un primer paso para abordar el potencial de sesgo algorítmico en el proceso de contratación. Otras ciudades, estados y países son libres de introducir sus propios requisitos. Sin embargo, la ciudad de Nueva York es la primera en tomar medidas, y otros legisladores pueden aprender de los esfuerzos de la ciudad.