Anthropic создала свой публичный имидж вокруг идеи, что это компания, ответственно подходящая к разработке ИИ. Она публикует детальные работы по вопросам рисков ИИ, нанимает одних из лучших исследователей в этой области и громко говорит об ответственности, которая сопутствует созданию столь мощной технологии — настолько громко, что в данный момент судится с Министерством обороны. Но во вторник кто-то там забыл отметить галочку.
Примечательно, что это уже второй такой инцидент за неделю. В прошлый четверг Fortune сообщила, что Anthropic случайно выложила в открытый доступ почти 3000 внутренних файлов, включая черновик блога с описанием мощной новой модели, которую компания ещё не объявила.
Вот что произошло во вторник: когда Anthropic выпустила версию 2.1.88 своего пакета Claude Code, она случайно включила файл, который раскрыл почти 2000 файлов исходного кода и более 512 000 строк кода — по сути полный архитектурный план одного из самых важных продуктов компании. Исследователь безопасности по имени Чаофань Шоу заметил это почти сразу и опубликовал пост в X. Официальное заявление Anthropic для различных СМИ звучало непринужденно: «Это была проблема с упаковкой релиза, вызванная человеческой ошибкой, а не нарушением безопасности». (Можно предположить, что внутри компании обстановка была более напряженной.)
Claude Code — это далеко не второстепенный продукт. Это инструмент командной строки, который позволяет разработчикам использовать ИИ Anthropic для написания и редактирования кода, и он стал достаточно мощным, чтобы тревожить конкурентов. По данным WSJ, OpenAI закрыла свой продукт для генерации видео Sora всего через шесть месяцев после публичного запуска, чтобы сосредоточиться на разработчиках и корпоративных клиентах — отчасти в ответ на растущую популярность Claude Code.
Утекла не сама модель ИИ, а программное обеспечение, её поддерживающее — инструкции, которые указывают модели, как себя вести, какие инструменты использовать и где её пределы. Разработчики начали публиковать подробные анализы почти сразу, и один из них описал продукт как «production-grade опыт разработчика, а не просто обёртку над API».
Будет ли это иметь какие-либо долгосрочные последствия — вопрос, который лучше оставить разработчикам. Конкуренты могут найти архитектуру поучительной; в то же время в этой области всё движется быстро.
В любом случае, где-то в Anthropic вы можете себе представить, что один очень талантливый инженер провел остаток дня в тихом раздумье о том, сохранил ли он свою работу. Остается только надеяться, что это не тот же инженер или команда инженеров, которые допустили ошибку на прошлой неделе.