В пояснительной записке к документу указано, что авторство принадлежит ведомству Максута Шадаева — Минцифры. Министерство планирует установить строгий контроль над сферой информационно-коммуникационных технологий (ИКТ) в стране.
На данный момент эта сфера обозначена как зона риска для граждан, особенно для пожилых людей и несовершеннолетних, а также представляет собой серьезные угрозы для государства и национальной безопасности. Изменения касаются не только борьбы с мошенничеством, но и в значительной степени — государственного контроля над цифровой реальностью, в которой все активнее применяется искусственный интеллект.
Один из ведущих отечественных экспертов в области цифровых технологий Игорь Ашманов, выступая перед президентом на заседании СПЧ, поднял вопросы бесконтрольного внедрения ИИ в социальную сферу. Он сравнил мощные нейросети с техническим спиртом: «Это как с ацетоном или метанолом, его можно и нужно использовать в промышленности, в обороне, но нельзя нюхать или добавлять в продукты питания. Точно так же ИИ необходим в производстве, но в образовании, воспитании и госуправлении он требует строжайшего регулирования».
Ашманов привел пример того, как «массовое применение генеративных сетей школьниками и студентами приводит к тому, что процесс получения знаний заменяется генерацией ответов. Появляется иллюзия: знать необязательно, главное – сдать».
Накануне Нового года очередной скандал из цифровой сферы возник благодаря вмешательству в управление трудовыми коллективами того самого ИИ. В Сбербанке искусственный интеллект признал 20% сотрудников неэффективными и не исключил возможность их увольнения.
Игорь Ашманов назвал авторов этого исследования «техноварварами», так как критерии оценки часто устанавливают люди с низкими интеллектуальными способностями и моральными качествами.
— Мораль их не интересует — их интересует программирование, — считает Ашманов. — Незаконность этой ситуации очевидна: если руководство даст указание программистам разработать программу ИИ для выявления «неэффективных», то это будет просто кошмар: у них нет представления о том, что такое должностные обязанности или трудовое законодательство.
Павел Максимов