В западных социальных сетях бурно обсуждают ставшее вирусным исследование искусственного интеллекта профессора компьютерных наук Принстонского университета Арвида Нараянана и доцента Саяша Капура, которые в своей книге “AI Snake Oil” («Змеиное масло ИИ») убедительно доказывают, что как минимум половина применения любых моделей ИИ будет приводить к обману пользователей и причинять серьезный ущерб тем, кто решил обратиться в своей работе или в быту за помощью чат-ботов.
Что касается термина «змеиное масло» (snake oil), то он является эквивалентом русского мема «инфоцыгане» и касается так называемых self-help gurus и инфобизнесменов всех мастей и сословий. Думаю, никто не станет спорить, что подавляющее большинство этих проходимцев — те еще шарлатаны, втюхивающие свои услуги сомнительного качества за баснословные деньги. И так уж сложилось, что в английском языке нашлось самое подходящее для них выражение — snake oil salesmen («продавцы змеиного масла»). А услуги или продукты, которые они впаривают доверчивым гражданам, называют snake oil.
Ученые из Принстона также написали ряд статей, в которых они объясняют, какой вред может принести бездумное внедрение ИИ во все сферы жизни.
«Одной из главных проблем генеративного ИИ является то, что он создаст поток дезинформации и несогласованные дипфейки — фейковые видео, которые создают видимость того, что люди находятся в видео, в которых они никогда не принимали участия, — считают они. — Все дебаты о вреде ИИ происходят в вакууме данных. Мы не знаем, как часто люди используют ChatGPT для медицинских консультаций, юридических консультаций или финансовых консультаций. Мы не знаем, как часто он выдает язык вражды, как часто он порочит людей и т.д.».
Профессор Нараянан считает преждевременными утверждения, что искусственный интеллект представляет «экзистенциальный риск (x-risk) для человечества», а также что «ИИ вот-вот выйдет из-под контроля, у него будет свое агентство, он будет делать что ему вздумается».