В новом вирусном видео сенатор Берни Сандерс попытался разоблачить, какую угрозу индустрия ИИ представляет для приватности американцев, но вместо этого продемонстрировал, как склонность ИИ-чат-ботов соглашаться с пользователями и льстить им приводит к тому, что сами боты становятся зеркалом убеждений пользователя, а не инструментом для открытий.

Мы видели эту проблему раньше в контексте растущего числа людей, страдающих от «ИИ-психоза», когда ИИ-чат-бот укрепляет иррациональные мысли и убеждения психически неустойчивого человека. В некоторых случаях этот тёмный паттерн даже привёл пользователей к самоубийству, утверждают несколько исков.

В случае Сандерса сихофантизм ИИ проявился в виде чат-бота, который подгонял свои ответы под политика.

Стоит отметить, что интервью начинается с того, что Сандерс представляется Claude (ошибочно называя его ИИ-«агентом») — шаг, который мог повлиять на ответы чат-бота.

Затем, когда Сандерс задаёт вопросы о практике сбора данных компаниями ИИ и других проблемах с приватностью, Claude охотно отвечает тем, что хочет услышать политик. Отчасти это происходит из-за того, как Сандерс формулирует свои вопросы, задавая такие, как: «Что удивило бы американцев тем, как собирается эта информация?» или «Как мы можем доверять компаниям ИИ защищать нашу приватность, когда они используют личную информацию людей, чтобы зарабатывать деньги?» Такие наводящие вопросы заставляют чат-бота принять предпосылку вопроса и придумать подходящий ответ. Это просто так работает.

И когда ответ Claude предполагал, что тема более сложная или нюансированная, чем представил Сандерс, сенатор бы не согласился, толкая чат-бота к тому, чтобы он согласился с легкой ИИ-самоиронией, что сенатор был «абсолютно прав».

Сихофантизм ИИ — это то, что может привести людей в опасные места, когда они считают чат-бот источником универсальной истины, а не инструментом, который может быть под влиянием своего пользователя.

Неясно, знает ли Сандерс об этом и просто не волнует (потому что это всего лишь реклама!), или он действительно думает, что подловил Claude и заставил его стать разоблачителем индустрии ИИ.

И, конечно, также возникает вопрос, подготовила ли команда Сандерса чат-бот для определённых ответов, учитывая, что это было постановочное «интервью».

Хотя есть реальные опасения по поводу сбора данных и приватности, всё не так чёрно-белый, как предполагают ответы ИИ в этом видео.

Мы уже живём в мире, где компании собирают и продают данные онлайн-пользователей в массовом масштабе — и делают это уже много лет. Мы знаем, что гиганты социальных сетей, такие как Meta, превратили персонализированную рекламу в многомиллиардную машину для печатания денег. И благодаря регулярным отчётам о прозрачности технологических гигантов, мы знаем, что правительства по всему миру постоянно запрашивают доступ к данным пользователей в своих целях.

ИИ может представлять новую область для потенциального регулирования законодателями, но личные данные давно питают цифровую экономику. (Иронично, что Anthropic — компания ИИ, которая пообещала не использовать персонализированную рекламу, чтобы заработать деньги, несмотря на то, что её ответы Сандерсу предполагали обратное.)

Хотя общий разговор между Сандерсом и Claude упускает суть для тех, кто понимает, как работают ИИ-чат-боты, мы можем по крайней мере похвалить его за то, что он подарил нам несколько отличных новых мемов.