С 1 сентября 2023 года стартует эксперимент, в рамках которого отбирать кадры для прохождения госслужбы в ряде ведомств будет система на основе искусственного интеллекта с использованием платформы “Государственные кадры”. По замыслу авторов проекта, это должно повысить эффективность отбора и последующей работы сотрудников. Возможно ли это? Какие достоинства и недостатки могут быть у предложенной системы? Какие проблемы сулит подобный переход на “цифровые рельсы”? И насколько защищена и безопасна система? “Солидарность” разбиралась в этих вопросах вместе с экспертами.
Минцифры, Минтруд, Минэкономразвития и Минфин, а также их подведомственные организации первыми испытают систему отбора кадров на основе искусственного интеллекта с применением платформы “Государственные кадры”. Как сообщили “Солидарности” в пресс-службе Минцифры России, основная цель эксперимента - “проверить методы кадровой работы госслужащих с использованием современных цифровых технологий. В рамках эксперимента будут апробированы HR-tech инструменты, которые успешно используются в негосударственном секторе. Будет оценено, насколько возможно их использование для сферы госуправления”.
Большинство опрошенных “Солидарностью” экспертов согласно с тем, что для успешной кадровой политики государству нужно использовать современные инструменты, в том числе искусственный интеллект.
- Мир движется вперед, и говорить “раньше было лучше” - абсолютно несерьезно. Государству необходимо использовать передовые технологии, а ИИ - как раз такая технология. Она позволяет оценить кандидата сразу по огромному количеству параметров и сделать это гораздо быстрее, чем специалист кадровой службы, - говорит председатель Общероссийского профсоюза работников государственных учреждений и общественного обслуживания Николай Водянов, но уточняет: - Однако есть ряд моментов, которые меня смущают, особенно в плане проработанности системы и готовности к широкой эксплуатации. Помните, нас уверяли, что с внедрением “цифры” наши вклады будут в полной безопасности? Так откуда мошенники, которые мне периодически звонят, знают точную сумму моего вклада?
Новые цифровые инструменты должны внедряться, с этим согласен и президент компании SuperJob Алексей Захаров. По его словам, “платформа “Государственные кадры” нужна для формирования кадрового резерва госслужащих”:
- Предположим, есть 800 - 1000 сотрудников на уровне начальника отдела федерального министерства, они уже работают в ведомствах. Нужно понять, кто из них подходит на замещение более высокой должности или позиции замгубернатора региона. Допустим, из всех этих сотрудников предварительно подходят примерно 200 человек, и их нужно по формальным признакам оперативно сравнить между собой. Следом будет проводиться тестирование с записью на камеру 200 кандидатов. Их нужно проверить на предмет того, насколько естественно они ведут себя, - объясняет специалист возможный алгоритм системы.
Стоит отметить, что заявленные к апробации цифровые сервисы будут использоваться в решении широкого круга задач. Среди них, сообщает пресс-служба Минцифры, мониторинг потребностей в кадровом обеспечении; поиск и отбор кандидатов, в том числе посредством взаимодействия с внешними информационными системами; вопросы планирования и организации; оценка профессиональных и личностных качеств гражданских служащих и работников. Даже формирование профессиональной культуры федерального органа исполнительной власти и организации - участника эксперимента. И это лишь часть сфер, где может быть задействован ИИ.
Однако у ряда специалистов проект в существующем виде вызывает скепсис:
- Для применения этого метода при подборе кадров необходимо иметь колоссальную базу обратной связи по каждой профессии, то есть базу результатов подбора - которой ни у кого нет, и в обозримой перспективе ей неоткуда взяться, - считает футуролог Владимир Кишинец. - Для работы нейросети необходимо объективно замерять у большого числа принятых на работу кандидатов максимально большой перечень различных параметров - профессиональных, психологических и так далее. А затем, после приема на работу, оценивать по особым методикам реальные производственные успехи (и неудачи) на протяжении определенного времени. То есть иметь “обратную связь” между первым и вторым. Это колоссальная работа, да и методики такие должны быть строго научно разработаны, а их нет.
Активно работающий с системами анализа информации и ее защитой глава компании “Р-Техно” Роман Ромачев тоже обращает внимание на неоднозначные моменты.
- Надо понимать, что тема искусственного интеллекта - это модно. На такие проекты выделяются огромные деньги.
Как и Владимир Кишинец, Ромачев подчеркивает, что система должна будет аккумулировать огромное количество разных персональных данных о сотруднике:
- Что касается оценки эффективности, надо понимать - система на основе ИИ будет сравнивать показатели конкретного сотрудника с ранее введенными в нее данными. И для эффективной оценки должны быть разработаны определенные алгоритмы и критерии. Сравнивая и накапливая данные, система будет постепенно самообучаться.
Впрочем, нужно ли такое самообучение - вопрос…
- Я считаю, что выполнять роль базы данных, быстро анализировать большие массивы информации такая система могла бы, - размышляет Николай Водянов. - Но считать ее “панацеей от всего”, методом, способным решить любые проблемы, - совершенно неправильно.
“Бэкдор” (англ. “черный ход”) мы вспомнили не случайно. Этот термин означает намеренно созданную разработчиком возможность получить доступ к программе без ведома пользователя. И это лишь один из способов несанкционированного доступа к системе.
Вопрос ответственности за безопасность данных имеет высший приоритет. Напомним - огромная база данных о кадровом составе российских министерств и ведомств будет создаваться в условиях жесткого геополитического противостояния с рядом стран. Между тем среди участников противостояния есть государства, чьи компании разработали системы и программы, ставшие стандартами в бизнес-процессах (Windows, MS Office - лишь самые известные, но даже не самые значимые).
Говоря о вопросах безопасности, и председатель профсоюза госслужащих, и специалист по информационной безопасности Роман Ромачев употребили один и тот же оборот - “не надо складывать все яйца в одну корзину”.
На возможные проблемы с безопасностью указывает и преподаватель факультета комплексной безопасности ТЭК Губкинского университета Дмитрий Гаврилов:
- Электронные данные легко копируются и могут быть многократно проданы на сторону. В погоне за удобством, скоростью обработки информации и ее тиражирования зачастую снижается уровень безопасности. Это может иметь плачевные последствия для устойчивого развития общества и программ государственного строительства.
Роман Ромачев тоже обращает внимание на проблемы с безопасностью, но подчеркивает роль человеческого фактора:
- Лично я вижу во всей этой истории возможность коррупционной составляющей. Надо понимать, что сейчас самая дорогая часть таких разработок - обучение ИИ. Что-то мне подсказывает, заниматься этим будут сторонние подрядчики. Еще одна возможность - момент разработки и использования алгоритмов, которые будут использоваться для определения необходимости карьерного роста или обучения сотрудников. Ну как тут не предложить “хорошему знакомому” использовать свои разработки?
А заместитель председателя ФНПР Александр Шершуков в шутливой форме поднимает другую крайне важную проблему:
- Знаете, я сейчас на месте “Скайнета” (компьютерная сеть из фильма “Терминатор”. - М.М.) не стал бы уничтожать людей и тратить огромные ресурсы. Достаточно просто внедрить в такие платформы, как “Государственные кадры”, алгоритмы, которые будут рекомендовать назначить на ключевые должности людей, отвечающих потребностям “Скайнета”, а не человечества. И будут эти назначенцы, например, то поднимать, то опускать курс доллара…
Бог с ним со “Скайнетом”. Вспомним: по сообщению Минцифры, опробованы будут “HR-tech инструменты, которые успешно используются в негосударственном секторе”. Неудивительно, что эксперты задумываются об уровне безопасности и пресловутом человеческом факторе.
Есть еще один аспект, который считают крайне важным все опрошенные “Солидарностью” специалисты. Коротко его можно сформулировать так - до какого уровня рекомендации “ГосИИ” будут влиять на кадровые решения? Одно дело - сбор, систематизация данных и первичный отбор по определенным параметрам, другое - рекомендации конкретных людей на конкретные должности и участки работы.
Николай Водянов считает, что профсоюзы должны обратить на новую кадровую инициативу самое пристальное внимание и считать ее новым стратегическим вызовом. Ведь широкое внедрение “цифры” в существующем виде в кадровые вопросы может привести к нарушениям прав трудящихся и принятию неэффективных решений.
Причем, обращают внимание эксперты, нарушения эти будет очень трудно доказать.
- На мой взгляд, - рассуждает Водянов, - рекомендательные функции такой системы можно использовать только при подборе линейного персонала, не более. Любой отбор кандидатов, хоть как-то связанных с принятием решений и взаимодействием с людьми, должен проводить специалист кадровой службы.
Алгоритмы просто не смогут учесть множество не поддающихся формализации факторов, говорит председатель профсоюза госслужащих. Он подчеркивает, что нельзя относиться к искусственному интеллекту как к универсальному средству, способному решить все проблемы:
- Допустим, собирается большая статистика по работникам ведомственных учреждений. Один сотрудник работает “без огонька”, но в соответствии со всеми инструкциями. Проходит все “контрольные точки”, которые оценивает система. Другой живет где-то в глубинке, куда и цифровизация-то в полном объеме не добралась. О нем в системе гораздо меньше информации, но у него огромная жажда развиваться, он фонтанирует идеями, может принести много пользы. Кого выберет система? Правильно - того, о ком больше данных, соответствующих алгоритму. Можно ли считать такое решение нарушением прав трудящегося? На мой взгляд - да. И что еще хуже - с таким подходом мы никогда не узнаем о новых Ломоносовых, которые “шли с рыбным обозом”. Он же ни в какие методики и траектории не укладывался.
Такого же мнения придерживается и Дмитрий Гаврилов:
- Отбором на государственную службу должен заниматься естественный интеллект, обладающий пониманием потребностей социума и государства, а также эмоциональным, чувственным опытом собственной работы в нашей реальности - а не в ее компьютерной идеальной модели делопроизводства, - говорит он.
Правда, сейчас специалисты, “обладающие чувственным опытом работы”, раздумывают над вариантами предоставления бизнесу доступа к данным из госсистем. Разумеется - к данным обезличенным, защищенным. И, конечно, исключительно в целях повышения эффективности и улучшения нашей с вами жизни.
Машины против человечества: сценарии
Писатели и создатели кинолент уже не раз задумывались, к чему может привести неконтролируемое использование высоких технологий. “Солидарность” собрала наиболее известные и интересные фильмы и книги на эту тему.
Роберт Шекли, “Страж-птица”. Небольшой рассказ о том, как человечество создало для себя автоматических защитников. Однако в какой-то момент стражи решили, что главную угрозу представляют сами люди.
Джеймс Кэмерон, “Терминатор”. Классика кино, породившая огромное количество продолжений и подражаний. Компьютерная сеть “Скайнет” решает, что человечество ей больше не нужно.
Артур Кларк (автор книги) и Стенли Кубрик (создатель фильма), “2001 год. Космическая одиссея”. В этом классическом произведении бортовой компьютер решает, что астронавты могут угрожать его безопасности.
Герберт Франке, “Клетка для орхидей”. В этой книге машины не уничтожают человечество. Напротив, люди передают им все больше и больше своих забот, а также позволяют себя развлекать. И машины с энтузиазмом берутся за дело.
Фрэнк Герберт, “Дюна”. Во вселенной, созданной автором “Дюны”, действует незыблемый закон: “Да не построишь машины, наделенной подобием разума людского”. Связано это с тем, что когда-то созданный людьми искусственный интеллект чуть не уничтожил человечество. Кстати, книгу стоит изучить как пособие по созданию профессиональных высокомотивированных сообществ.