Нейт Соарес не откладывает деньги на свой накопительный счет 401(k) (название пенсионного банковского счета США, куда работающие американцы могут добровольно перечислять часть своего дохода до налогового вычета. — Прим. «ИноСМИ»). «У меня нет надежды, что к моему выходу на пенсию этот мир еще будет существовать», — рассказывает он мне в офисе Института исследования машинного интеллекта, президентом которого и является.
Пару недель тому назад с похожими пессимистичными прогнозами выступил и директор Центра безопасности искусственного интеллекта Дэн Хендрикс. Он предполагает, что к моменту, когда можно будет обналичить свои пенсионные накопления, все банковские операции «станут автоматизированными», если, конечно, «человечество все еще будет существовать» в привычном виде.
Последние годы для Соареса и Хендрикса превратились в настоящий ад, иначе бы они не возглавляли организации, цель которых — не допустить уничтожения человечества алгоритмами искусственного интеллекта. Вместе с другими критиками ИИ они неоднократно, довольно пафосно и с драматизмом предупреждали, что чат-боты могут однажды выйти из-под контроля. И последствия этого будут сравнимы с апокалипсисом. И вот в 2025 г. даже отъявленные скептики стали фаталистами.
«У нас не осталось времени на внедрение достаточных технологических мер безопасности, — говорит Соарес. — Отрасль просто развивается слишком быстро. Остается лишь бить тревогу».
В апреле несколько исследователей, разделяющих апокалиптический настрой, опубликовали «ИИ 2027» — длинный и подробный гипотетический сценарий того, как современные модели искусственного интеллекта могут стать всемогущими к 2027 г. и, таким образом, уничтожат человечество.
«Через два года мы можем потерять контроль абсолютно над всем, — сказал мне профессор Массачусетского технологического института и президент Института будущего жизни Макс Тегмарк. — У компаний, которые сейчас разрабатывают собственные модели ИИ, до сих пор нет четкого плана, как это предотвратить». Его институт не так давно проанализировал работу ведущих цифровых лабораторий и оценил их готовность к худшему сценарию как неудовлетворительную.