В среду город Нью-Йорк сделал небольшой шаг в регулировании влияния технологий искусственного интеллекта на процессы найма на работу в городе. Такие технологии, называемые Automated Employment Decision Tools (AEDT), обычно используют искусственный интеллект или алгоритмы для автоматического присвоения рейтингов или оценок кандидатам на работу или повышение в должности. Городской закон об автоматизированных инструментах принятия решений о приеме на работу, также известный как местный закон 144, требует, чтобы любой работодатель, использующий такие технологии, проводил аудит этих инструментов на предмет преднамеренной или случайной предвзятости третьей стороной. Закон вступил в силу 5 июля 2023 г., после чего компании, не соблюдающие его, могут быть оштрафованы на сумму от 500 долл. до 1 500 долл. в день за каждый используемый инструмент.
Это первый серьезный законодательный акт в области практики найма и искусственного интеллекта. По данным компании Zippia, 65% рекрутеров в той или иной форме используют ИИ в процессе найма - например, для сортировки тысяч заявок на одну вакансию по определенным квалификационным параметрам, просмотра социальных сетей или даже анализа мимики и языка тела кандидатов во время видеоинтервью.
AEDT часто рекламируются как способ управления процессом найма на работу с большим количеством претендентов. "В эпоху Интернета подать заявку на работу стало намного проще. И для кандидатов существуют инструменты, позволяющие упростить этот процесс. Например, "дайте нам свое резюме, и мы подадим его на 400 вакансий", - заявила NBC News Кэти О'Нил, генеральный директор консалтинговой компании Orcaa. "Они получают слишком много заявок. Они должны как-то отсеять их, и эти алгоритмы делают это за них".
Однако искусственный интеллект далеко не всегда беспристрастно оценивает потенциальных кандидатов - наборы данных и технологии ИИ часто могут закреплять человеческие предубеждения, такие как расизм, сексизм и эйджизм.
Критики утверждают, что закон недостаточен. В частности, одна из квалификаций, дающих право на проверку, требует, чтобы ИИ "существенно помогал или заменял принятие дискреционных решений". Александра Гивенс, президент Центра демократии и технологий, считает, что в таких случаях ИИ является "единственным или основным фактором при принятии решения о найме или используется для отмены решения, принятого человеком", а не частью процесса, как она заявила в мае в интервью газете New York Times.
"Меня больше всего беспокоит то, что это станет шаблоном в масштабах страны, в то время как мы должны требовать от наших политиков гораздо большего", - добавила она. В настоящее время подобные законы находятся на рассмотрении в Нью-Джерси, Мэриленде, Иллинойсе и Калифорнии.
Как отметила NBC Джулия Стоянович, профессор информатики Нью-Йоркского университета и один из основателей городской целевой группы по системам автоматического принятия решений, требуемый аудит также не рассматривает дискриминацию по возрасту или инвалидности.
Предвзятость при приеме на работу, будь то с помощью человека или искусственного интеллекта, является вопиющей проблемой на протяжении десятилетий, и с годами она нередко становится все менее заметной. Сможет ли этот закон изменить ситуацию к лучшему, пока неизвестно.
"Я не питаю надежд на то, что [закон] даст нам какую-либо информацию, - сказал Бен Уинтерс из Информационного центра электронной конфиденциальности в интервью изданию Quartz, - или действительно позволит людям повысить уровень равенства при приеме на работу".