По всем вопросам звоните:

+7 495 274-22-22

УДК: 656.2.08:004.08:006

О безопасности функционирования искусственного интеллекта

В. М. Рудановский канд. техн. наук, e-mail: rudanovsckyv@yandex.ru

Рассматриваются предписания национальных стратегий безопасности Российской Федерации и США в отношении безопасности, связанной с применением искусственного интеллекта. Приводится краткий обзор достижений по использованию разработок, претендующих на статус искусственного интеллекта, в ОАО «РЖД». Дается оценка предложениям по замене человека-оператора искусственным интеллектом и связанному с этим проявлению замены одних рисков другими. Предлагается перечень отличительных признаков, характеризующих искусственный интеллект на данном этапе его развития, в целях его четкой идентификации. Отмечается необходимость выведения на первый план требований безопасности к системам с использованием искусственного интеллекта.

Литература:

1. National Security Strategy // The White House. — Washington. — October 12, 2022. — 48 p. — URL: https://www.whitehouse.gov (дата обращения: 16.10.2022).

2. Стратегия национальной безопасности Российской Федерации. Утверждена Указом Президента РФ от 02.07.2021 № 400.

3. National Artificial Intelligence Initiative Act of 2020 (Division E). — Became law on January 1, 2021. — URL: https://www.aip.org/fyi/pdf (дата обращения: 22.12.2022).

4. Национальная стратегия развития искусственного интеллекта на период до 2030 года. Утверждена Указом Президента РФ от 10.10 2019 № 490.

5. Долгосрочная программа развития открытого акционерного общества «Российские железные дороги» до 2025 года. Утверждена распоряжением Правительства РФ от 19.03.2019 № 466-р.

6. Отчет о деятельности ОАО «РЖД» в области устойчивого развития // ОАО «РЖД». — 2020. — 180 с. — URL: https://ar2020rzd.ru (дата обращения: 17.11.2022).

7. Охотников А.Л., Зажигалкин А.В. Искусственный интеллект для железных дорог // Автоматика, связь, информатика. — 2021. — № 5 — С. 30–34.

8. РЖД присоединились к Кодексу этики в сфере искусственного интеллекта. — URL: https:// company.rzd.ru/page (дата обращения: 22.12.2022).

9. Стратегия научно-технологического развития холдинга «РЖД» на период до 2025 года и на перспективу до 2030 года (Белая книга). Утверждена распоряжением ОАО «РЖД» от 17.04.2018 № 769/р.

10. Security 2040. Perils and Promise Over the Near Horizon // Rand Corporation. — URL: https:// www.rand.org/international/cgrs/security-2040.html (дата обращения: 04.07.2022).

11. Рудановский В.М. Безопасность и искусственный интеллект в нормативно-правовой документации // Безопасность и охрана труда на железнодорожном транспорте. — 2022. — № 5. — C. 4–17.

12. Академик Арутюн Аветисян. О кибервойне против нас, чипах для ракет, хакерах и правде об искусственном интеллекте // Аргументы недели. — 21–27 декабря 2022 г. — № 50 (845) — С. 1, 10.

13. Schwartz Reva and others. Towards a Standard for Identifying and Managing Bias in Artificial Intelligence // NIST Special Publication 1270. — National Institute of Standards and Technology (NIST). — U.S. Department of Commerce. — March 2022. — 77 p. — URL: https://doi.org/10.6028/ NIST.SP.1270 (дата обращения: 04.07.2022).

Требования безопасности процессов функционирования любых систем, способных оказать (проявить, высвободить) опасное воздействие на человека и его жизненное пространство, являются главенствующими и учитываются на всех стадиях жизненного цикла системы. Не являются исключением транспортные системы, в том числе железнодорожные. До недавнего времени эти требования формировались исходя из управления этими системами и их обслуживания человеком. Появление технологий, основанных на применении искусственного интеллекта (ИИ), дало надежду на возможность управления такими источниками опасности, как транспортные системы, без непосредственного участия человека.

В настоящее время в мире идет бурный процесс разработки систем ИИ и подготовки нормативной базы для регулирования их воплощения и использования. О необходимости создания систем ИИ разного назначения и обеспечения ими безопасности стали указывать в нормативно-правовой документации самого высокого уровня.

Так, в недавно опубликованной Национальной стратегии безопасности США [1] термин «искусственный интеллект» (artificial intelligence) хотя и встречается всего 3 раза, но его упоминание весьма весомо. Первый раз — в разделе, посвященном модернизации и усилению вооруженных сил США, как одна из новых передовых технологий наряду с космическими и кибертехнологиями, ракетной поражающей техникой и квантовыми системами, в которые будут направляться инвестиции.

Второй и третий раз — в разделе, посвященном формированию правил межгосударственного обмена технологиями, как «мера укрепления техническо-индустриальной основы, обеспечивающая США, их союзникам и партнерам безопасность (здесь и далее выделено автором), процветание и сохранение ценностей». При этом особо выделено трансатлантическое партнерство (через деятельность Торгово-технологического совета США — ЕС) по разработке «заслуживающего доверия искусственного интеллекта для выявления дезинформации и злоупотреблений технологиями, угрожающими безопасности и правам человека, а также для контроля экспорта и проверки законности инвестиций» [1].

Для Цитирования:
В. М. Рудановский, О безопасности функционирования искусственного интеллекта. Безопасность и охрана труда на железнодорожном транспорте. 2023;2.
Полная версия статьи доступна подписчикам журнала
Язык статьи:
Действия с выбранными: