В последние годы искусственный интеллект стремительно проникает в различные сферы бизнеса и человеческой жизни, меняя традиционные методы работы и управления персоналом. Однако с быстрым развитием технологий появляются и значительные вызовы, связанные с этичностью, прозрачностью и контролем решений, принимаемых алгоритмами. Одним из таких шагов стала инициатива штата Калифорния, направленная на ограничение полномочий искусственного интеллекта в критичных вопросах управления человеческими ресурсами. Новый закон — «No Robo Bosses Act» (Закон о запрете автоматизированных руководителей) — стремится гарантировать, что ключевые кадровые решения будут приниматься с обязательным участием живого человека, а не исключительно программного обеспечения или робота. Этот законопроект, известный как Сенатский билль 7, был предложен сенатором Джерри Макнерни от Демократической партии.
Основная идея состоит в том, чтобы запретить компаниям полагаться преимущественно на системы искусственного интеллекта или аналогичные автоматизированные цифровые технологии при решении вопросов о продвижении по службе, дисциплинарных взысканиях или увольнениях сотрудников. Таким образом, закон защищает права работников, обеспечивая человеческий фактор в ситуациях, которые напрямую влияют на их карьеру и рабочие условия. Причины для появления такого закона коренятся в стремительном распространении технологий «bossware» — специализированных программ, предназначенных для мониторинга, оценки и управления персоналом. В последние годы появились программные решения, пытающиеся анализировать настроение или психоэмоциональное состояние сотрудника, основываясь на данных о работе, такие как скорость выполнения задач, частота коммуникаций или даже выражения лица через камеры. При этом научные исследования показывают, что эффективность и корректность таких методов находятся под большим вопросом.
Европейские регуляторы даже включили запрет на использование ИИ для определения эмоций в первом европейском акте по регулированию искусственного интеллекта, что подчеркивает значимость подобной проблемы. В случае принятия «No Robo Bosses Act» компании в Калифорнии должны будут обеспечивать участие человека, который рассматривает решения, принятые искусственным интеллектом, и подтверждает их корректность при помощи дополнительных данных или подтверждений. Это будет означать, что ни одна автоматизированная система не сможет самостоятельно принять решение об увольнении или дисциплинарных мерах без пересмотра человеком. Такой подход помогает минимизировать риски ошибок, необоснованных увольнений и несправедливого отношения к сотрудникам. Первоначально в законопроект включалась также статья, запрещающая полностью автоматизированные системы при найме персонала.
Однако этот пункт был вычеркнут после того, как Калифорнийская торговая палата выразила обеспокоенность, заявив, что подобные ограничения значительно усложнят процесс рекрутинга, особенно для малых предприятий, которые не обладают ресурсами для ведения масштабных ручных процессов подбора сотрудников. Тем не менее, даже без этого положения закон сохраняет ключевые ограничения, направленные на критичные этапы управления персоналом — дисциплинарные взыскания, увольнения и повышение. Современные инструменты ИИ широко используются для оптимизации процессов найма. Они умеют быстро сортировать резюме, выявлять потенциальных кандидатов по ключевым навыкам и даже помогать планировать обучение персонала. Например, некоторые крупные технологические компании внедрили системы, которые автоматически выявляют пробелы в навыках сотрудников и предлагают варианты повышения квалификации.
Microsoft выпустила обновление для своей рабочей платформы Microsoft 365, включающее «агента навыков», который с помощью ИИ может анализировать компетенции команды и рекомендовать пути развития.Однако такая автоматизация вызывает опасения. Генеративные модели ИИ иногда способны создавать необоснованные или неверные выводы, искажающие реальные данные — этот феномен называют «галлюцинациями» ИИ. Более того, алгоритмы, обученные на исторических данных, могут непреднамеренно усилить существующие предубеждения, что приводит к дискриминационным решениям. Все это требует дополнительного контроля и человеческого надзора, особенно когда речь идет о жизни сотрудников и их карьерных перспективах.
Закон Калифорнии становится важным прецедентом в регулировании ИИ в трудовой сфере, показывая, что несмотря на преимущества технологий, их применение должно быть ограничено в ключевых кадровых вопросах. Это помогает сохранить баланс между эффективностью процессов и уважением прав работников.Для бизнеса новый законопроект означает необходимость пересмотра подходов к внедрению ИИ в HR-процессы. Компании, работающие в Калифорнии, должны будут интегрировать механизмы контроля и привлечения людей к принятию окончательных решений. В других регионах мира и в России это создает определенный пример и предупреждение — слишком широкое доверие искусственному интеллекту без должной проверки может иметь серьезные последствия.
В конечном итоге изменения, предложенные «No Robo Bosses Act», могут положительно сказаться на корпоративной культуре. Обеспечение участия человека в решениях, касающихся работников, способствует более справедливой оценке, уменьшает стресс сотрудников и повышает их уверенность в компании. Это ключевой фактор для привлечения и удержания талантливых специалистов в эпоху, когда технологии развиваются намного быстрее, чем законодательство и этические стандарты.Глобальная тенденция на регулирование ИИ становится все более заметной. Европейский союз, США и другие регионы активизируют усилия по созданию правовых рамок для безопасного и ответственного использования искусственного интеллекта.
В сфере трудовых отношений Калифорнийский закон может стать образцом для подражания, стимулирующим разработку аналогичных инициатив по всему миру.В конечном счете, баланс между инновациями и заботой о людях — главная задача в эпоху цифровой трансформации. Закон «No Robo Bosses Act» напоминает бизнесу о важности сохранения человеческого фактора в управлении и показывает, что технологии должны служить людям, а не заменять их полностью.
