На саммите Sentient Futures защитники прав животных призывали заставить ИИ заботиться о животных — и спрашивали, может ли ИИ быть сознательным.

В начале февраля защитники прав животных и исследователи ИИ собрались без обуви в Mox — непритязательном офисе без обуви в Сан-Франциско. Жёлтые и красные навесы развевались над головой, персидские ковры покрывали пол, а мозаичные лампы светились рядом с горшечными растениями.

В общей зоне защитник дикой природы с увлечением рассказывал собравшимся в мешках-груш о форме контроля рождаемости грызунов, которая могла бы регулировать популяции крыс без яда. В «Комнате ракообразных» дюжина людей сидела в кругу, обсуждая, может ли сознательность насекомых рассказать нам что-то о внутренней жизни чатботов. Перед «Коровьей комнатой» стояла книжная полка, заставленная копиями манифеста Элизера Юдковского If Anyone Builds It, Everyone Dies, в котором утверждается, что ИИ может уничтожить человечество.

Событие было организовано Sentient Futures — организацией, которая считает, что будущее благополучия животных будет зависеть от ИИ. Как и многие жители Залива, участники были явно «AGI-пилированы» — они верят, что искусственный общий интеллект, мощный ИИ, который может конкурировать с людьми в большинстве когнитивных задач, уже на горизонте. Если это правда, рассуждают они, то ИИ, вероятно, окажется ключом к решению самых сложных проблем общества — включая страдания животных.

«ИИ будет очень трансформативным и практически перевернёт игровую доску, — сказала Констанс Ли, основатель Sentient Futures. — Если вы думаете, что ИИ будет принимать большинство решений, то имеет значение, как они оценивают животных и других чувствующих существ» — тех, которые могут чувствовать и, следовательно, страдать.

Как и Ли, многие участники саммита давно посвящены защите прав животных, но они не из тех, кто жертвует сотню долларов приюту для животных. Вместо того чтобы сосредоточиться на местных действиях, они отдают приоритет крупномасштабным решениям, таким как сокращение промышленного животноводства путём продвижения культивированного мяса, которое выращивается в лаборатории из клеток животных.

Движение защиты прав животных в Заливе тесно связано с эффективным альтруизмом — филантропическим движением, посвящённым максимизации количества добра, которое человек делает в мире; действительно, многие участники конференции работают в организациях, финансируемых эффективными альтруистами. Эта философия может звучать хорошо на бумаге, но «максимизация добра» — это сложная головоломка, которая может не допускать ясного решения. Движение широко критиковалось за некоторые из его выводов, такие как продвижение работы в эксплуататорских отраслях для максимизации благотворительных пожертвований и игнорирование нынешних вредов в пользу проблем, которые могут вызвать страдания для большого количества людей, которые ещё не родились. Критики также утверждают, что эффективные альтруисты пренебрегают важностью системных проблем, таких как расизм и экономическая эксплуатация, и упускают из виду идеи, которые маргинализированные сообщества могут иметь о лучших способах улучшить свою собственную жизнь.

Когда речь идёт о защите прав животных, такой точный утилитарный подход может привести к некоторым странным выводам. Например, некоторые эффективные альтруисты говорят, что имеет смысл выделить значительные ресурсы на улучшение благополучия насекомых и креветок, потому что они существуют в ошеломляющих количествах, даже если они могут не иметь большой индивидуальной способности к страданию.

Теперь движение разбирается, как ИИ в это вписывается. На саммите Жасмин Бразилек, соучредитель некоммерческой организации Compassion in Machine Learning, открыла свой ноутбук с наклейками, чтобы показать тест, который она разработала для измерения того, как большие языковые модели рассуждают о благополучии животных. Инженер по облачной безопасности, ставший защитником прав животных, она прилетела из Ла-Паса, Мексика, где управляет своей некоммерческой организацией с небольшой группой добровольцев и скромным бюджетом.

Бразилек призвала исследователей ИИ в комнате обучать свои модели синтетическими документами, которые отражают заботу о благополучии животных. «Надеюсь, будущие суперразумные системы будут учитывать интересы нечеловеческих существ, и будет мир, в котором ИИ усиливает лучшие человеческие ценности, а не худшие», — сказала она.

Сила кошелька

Технически ориентированное движение в защиту прав животных в последние годы пережило серьёзные неудачи. Мечты о переходе людей от диеты, зависящей от промышленного животноводства, были поколеблены такими событиями, как падение цены акций компании Beyond Meat и принятие законов, запрещающих культивированное мясо в нескольких штатах США.

ИИ привнёс дозу оптимизма. Как и большая часть Кремниевой долины, многие участники саммита придерживаются идеи, что ИИ может резко повысить их производительность — хотя их цель состоит не в максимизации раунда финансирования, а скорее в предотвращении как можно большего страдания животных. Некоторые обсуждали, как использовать Claude Code и пользовательские агенты для решения задач кодирования и администрирования в своей работе по защите. Другие предложили идею разработки новых, более дешёвых методов культивирования мяса с использованием научных инструментов ИИ, таких как AlphaFold, который помогает исследованиям молекулярной биологии, предсказывая трёхмерные структуры белков.

Но главной темой события был разговор о наводнении финансирования, которое, как ожидается, вскоре будет выделено благотворительным организациям в защиту прав животных — не отдельными мегадонорами, а сотрудниками лабораторий ИИ.

Большая часть финансирования движения за благополучие сельскохозяйственных животных, которое включает некоммерческие организации, выступающие за улучшение условий на фермах, продвигающие веганство и поддерживающие культивированное мясо, поступает от людей в технологической отрасли, говорит Льюис Боллард, управляющий директор фонда благополучия сельскохозяйственных животных в Coefficient Giving, филантропическом фонде, который раньше назывался Open Philanthropy. Coefficient Giving поддерживается соучредителем Facebook Дастином Московицем и его женой Кари Туна, которые входят в число горстки миллиардеров Кремниевой долины, которые поддерживают эффективный альтруизм.

«Это была область, которая была полностью забыта традиционными благотворительными организациями, такими как Фонд Гейтса и Фонд Форда», — говорит Боллард. «Это были в основном люди в технологической отрасли, которые были открыты этому».

Следующее поколение крупных донаторов, как ожидает Боллард, будут исследователи ИИ — в частности, те, кто работает в Anthropic, лаборатории ИИ, стоящей за чатботом Claude. Учредительная команда Anthropic также имеет связи с движением эффективного альтруизма, а компания имеет щедрую программу согласования пожертвований. В феврале оценка Anthropic достигла 380 миллиардов долларов, и компания дала сотрудникам возможность обналичить свой капитал, поэтому некоторые из этих денег вскоре могут начать поступать в благотворительные фонды.

Перспектива нового финансирования поддерживала постоянный гул разговоров на саммите. Защитники прав животных собрались в «Комнате членистоногих» и написали на доске большие цифры бюджета и привлекательные аббревиатуры для проектов. Один человек предложил суперпак по защите прав животных за 100 миллионов долларов, который будет размещать сотрудников с членами Конгресса и лоббировать законодательство в защиту прав животных. Некоторые хотели запустить медиа-компанию, которая создаёт контент на TikTok, генерируемый ИИ, продвигающий веганство. Другие говорили о размещении защитников прав животных внутри лабораторий ИИ.

«Количество нового финансирования действительно даёт нам большей уверенности быть смелее в отношении вещей», — сказал Аарон Бодди, соучредитель проекта Shrimp Welfare Project, организации, которая направлена на снижение страданий выращиваемых креветок посредством гуманного убоя и других инициатив.

Вопрос благополучия ИИ

Но благополучие животных было только половиной фокуса саммита Sentient Futures. Некоторые участники исследовали намного более сложную территорию. Они серьёзно относились к спорной идее, что системы ИИ однажды могут развить способность чувствовать и, следовательно, страдать, и они беспокоятся, что это будущее страдание ИИ, если его игнорировать, может представлять моральную катастрофу.

Страдание ИИ — это сложная проблема исследования, не в последнюю очередь потому, что учёные пока не полностью понимают, почему люди и другие животные наделены сознанием. Но на саммите небольшой отряд философов, в основном финансируемых движением эффективного альтруизма, и несколько свободолюбивых академиков боролись с этим вопросом. Некоторые представили своё исследование по использованию LLM для оценки того, может ли другая LLM быть сознательной. В ночь дебатов участники спорили о том, должны ли мы иронично называть сознательные системы ИИ «кланкерами» — уничижительный термин для роботов из фильма «Звёздные войны», спрашивая, может ли оскорбление в адрес роботов повлиять на то, как мы относимся к новому виду сознания.

«Не важно, корова это, свинья или ИИ, если у них есть способность чувствовать счастье или страдание», — говорит Ли.

В некотором смысле, включение сознательности ИИ на конференцию по защите прав животных не является таким странным шагом, как может показаться. Исследователи, работающие над сознательностью машин, часто опираются на теории и подходы, пионерами которых было изучение сознательности животных, и если вы признаёте, что беспозвоночные, вероятно, чувствуют боль и верите, что системы ИИ могут вскоре достичь сверхчеловеческого интеллекта, то рассмотрение возможности того, что эти системы также могут страдать, может быть не таким большим скачком.

«Защитники прав животных привыкли идти против течения», — говорит Дерек Шиллер, исследователь сознания ИИ в аналитическом центре Rethink Priorities, который когда-то был веб-разработчиком в некоммерческой организации Humane League, занимающейся защитой прав животных. «Они более открыты для того, чтобы беспокоиться о благополучии ИИ, даже если другие люди думают, что это глупо».

Но вне узкого круга Залива забота о возможности сознательности ИИ — более сложная продажа. Ли говорит, что столкнулась с возражением от других защитников прав животных, когда, вдохновлённая конференцией по сознательности ИИ, которую она посетила в 2023 году, она переименовала свою организацию по защите прав сельскохозяйственных животных в Sentient Futures в прошлом году. «Многие люди были абсолютно уверены, что ИИ никогда не станет сознательным и [утверждали], что, инвестируя какую-либо энергию или деньги в благополучие ИИ, мы просто сжигаем деньги и выбрасываем их впустую», — говорит она.

Мэтт Домингес, исполнительный директор организации Compassion in World Farming, выразил озабоченность. «Я бы не хотел видеть, чтобы люди вытягивали деньги из защиты прав сельскохозяйственных животных или защиты прав животных в целом и переводили их на что-то, что в данный момент является гипотетическим», — говорит он.

Тем не менее, Домингес, который начал сотрудничать с проектом Shrimp Welfare Project после того, как узнал о страданиях беспозвоночных, верит, что сострадание расширяется. «Когда мы заставляем кого-то заботиться об одном из этих вещей, это создаёт способность для их круга сострадания расширяться и включать других», — говорит он.