Усиление нерегулируемой коммерциализации и милитаризации таких кибертехнологий, как искусственный интеллект и нейротехнологии, актуализирует проблему международной безопасности в широком контексте и в среднесрочной перспективе, а не только как проблему соблюдения прав человека, которую настойчиво будирует коллективный Запад. Данный подход «страдает политизацией и экономизацией при одновременных попытках навязать другим странам свою культуру, а главное — двойные стандарты и правила игры “в боях без правил на треке гонки ИИ”» [1]. В то же время проблема носит глобальный характер в борьбе за выживание человеческого вида на новом технологическом витке эволюции.
Существует риск негативных и трудно предсказуемых последствий для человека и человеческой цивилизации возрастающего злонамеренного использования ИИ, когда процесс может приобрести трудно управляемый характер с прохождением «точки невозврата». Существуют риски, связанные с непосредственным и опосредованным воздействием на самого человека и общество технологий искусственного интеллекта и нейротехнологий.
Сложность прогнозирования среднесрочной перспективы последствий для общества и человека быстро развивающихся технологий ИИ проистекает и из возможных рисков саморазвития технологий искусственного интеллекта [2] и изменения места человека в эволюции. Сегодня отсутствует полное понимание глубоких последствий для человека, вызванных технологическими возможностями доступа к человеческому разуму и получения доступа к внутренним психическим процессам и оказание на них прямого информационного воздействия [3]. А тем более трудно предвидеть последствия взаимодействий человека и искусственного интеллекта.
К непосредственному влиянию на человека относятся действия опасного характера. Так, использование технологий искусственного интеллекта для совершения киберпреступлений ведет к появлению инновационных форм киберпреступности, а также форм и способов ведения военных операций, превосходящих по своим последствиям ныне существующие. ИИ может способствовать злонамеренному внедрению в системные программы беспилотных гражданских и военных объектов с целью нападения на человека и поражения критически важной инфраструктуры государства. Кроме того, с помощью ИИ враждебные государства и их спецслужбы, негосударственные организации и преступные сообщества, а также хакеры могут проводить автоматизированные дезинформационные акции с определенными дестабилизирующими общественную и международную обстановку целями.