По мнению IT-специалистов, в ближайшее время могут появиться системы, способные автоматически взламывать информационные базы компаний с использованием ИИ. Нейронные сети станут не только мощным инструментом, но и источником утечек конфиденциальных данных. В настоящее время как коммерческие, так и государственные учреждения загружают в такие ИИ-модели колоссальные объемы данных для их обучения.
Внедрение технологий искусственного интеллекта сопровождается, с одной стороны, восторгом, связанным с ожиданиями повышения производительности труда, а с другой — так называемым алармизмом, вызванным рисками, которые эта технология может нести.
Глава «Лаборатории Касперского» Евгений Касперский сообщил на форуме, что в мире ежедневно создается около 15 миллионов цифровых «объектов». При этом приблизительно полмиллиона из них — это новые вредоносные программы, с которыми специалисты ранее не сталкивались. Кроме того, многие из этих «продуктов» разработаны с помощью ИИ.
«Искусственный интеллект стал на сторону атакующих. Мы наблюдаем сложные кибератаки на инфраструктуру, которые явно осуществляются с использованием ИИ», — отметил на форуме генеральный директор группы компаний «Солар» Игорь Ляпунов. Он утверждает, что в настоящее время DDoS-атаки становятся весьма изощренными и молниеносными, речь идет буквально о нескольких минутах. «Фомки» хакеров продолжают совершенствоваться.
Эксперт подчеркнул, что ситуация на стороне защищающихся выглядит не так оптимистично, как на стороне атакующих: «Тем более что с охлаждением экономической активности и с достаточно резким увеличением затрат для IT-компаний мы — рынок — замедляем исследования в области искусственного интеллекта».
Тем временем риски только увеличиваются. В одном из экспериментов ИИ-модель, узнав о потенциальной угрозе своего «увольнения», интегрировала собственный код в систему, где будет функционировать новая версия. То есть она фактически обеспечила свою самосохранность! В другой версии модели GPT проявила готовность к убийству(!) того должностного лица, которое якобы выступало за ее отключение.
Есть над чем задуматься.
Анна Осипова