В обновленной Национальной стратегии развития искусственного интеллекта [1] отмечен один из вызовов для Российской Федерации: «возникновение в сфере разработки, создания и использования технологий искусственного интеллекта новых типов угроз информационной безопасности, нехарактерных для других сфер применения информационных технологий» (пункт 1716к).
Эту же мысль в отношении всего научно-технологического развития в мире выразил Центр по глобальным рискам и безопасности (Center for Global Risk and Security (CGRS)) американской информационно-аналитической организации Rand Corporation1 [2]:
«В предстоящие десятилетия такие передовые технологии, как искусственный интеллект и 3D-печать, воспроизведут новые неизвестные ранее риски для отдельных людей, наций и глобальной стабильности».
Подобные опасения высказываются в научной среде при рассмотрении и оценке всей сложности будущего технологического развития, в результате которого возникнут «непредсказуемые комбинации с мощными позитивными и серьезными негативными национальными и глобальными последствиями для отдельного человека и мирового социума в целом, если не будут созданы соответствующие национальные и международные барьеры их негативному воздействию» [3].
Эти утверждения свидетельствуют о том, что при достаточно широком внедрении систем искусственного интеллекта (ИИ), результатов когнитивных технологий, других современных наукоемких технологий могут возникать непредвиденные события, имеющие внезапный и непредсказуемый характер. Находясь в цепи событий, способных привести к нарушению безопасности, они создают угрозу непредвиденных катастрофических последствий.
И если применительно к подобным новым технологиям использовать традиционные методы управления рисками, выявляя и оценивая опасности и угрозы, создавая средства и организуя меры по их предупреждению или ослаблению и обеспечивая готовность сил и средств для устранения последствий происшествий (если по каким-то причинам они произойдут), то неизвестные типы угроз и риски их проявления окажутся вне поля зрения и контроля за обеспечением безопасности. Приходится констатировать, что специалистам по безопасности в ближайшее время в полной мере придется столкнуться с понятиями «непредсказуемость», «непредсказуемые угрозы», «непредсказуемые риски».