Коммерсантъ: Победа открытых весов. Как 270 компаний выступили против ограничения открытых ИИ-моделей в США

Этим летом более 270 компаний и организаций выступили против возможных ограничений на разработку, распространение и использование ИИ-моделей с открытыми весами. Среди подписантов — как стартапы, так и крупнейшие технологические корпорации с собственными ИИ-лабораториями.

Почему даже компании, способные создавать собственные модели с нуля, выступают за открытый обмен разработками, какую роль такой обмен играет в научно-технологическом прогрессе и где проходят границы его безопасного использования — разбирались с экспертами.

Что произошло: индустрия против изоляции

Июльский релиз модели Kimi K3 с открытыми весами от китайской компании Moonshot AI стал поводом для острой дискуссии в индустрии. Модель мгновенно вошла в топ мировых рейтингов и стала предметом особого внимания для властей США: звучали обвинения в использовании дистилляции западных моделей и доступе к ограниченным вычислительным ресурсам. На этом фоне в Вашингтоне заговорили о необходимости ограничить свободное распространение мощных открытых моделей, созданных внутри страны.

Это вызвало широкий резонанс в индустрии. Против ограничений выступили не только стартапы, но и технологические гиганты с собственными лабораториями: Nvidia, OpenAI, Google, Microsoft, Meta (признана в РФ экстремистской и запрещена), IBM, Palantir и другие. Более 270 подписантов отправили администрации письмо «Open Weights and American AI Leadership», предупредив, что запреты могут ослабить конкуренцию, вытолкнуть разработку за пределы США и, вопреки ожиданиям регуляторов, не гарантируют безопасность. Итогом стало решение от 4 августа: доступ к открытым разработкам сохранен, а новые правила проверки коснулись только закрытых моделей передового уровня. Открытые модели, включая зарубежные, были полностью исключены из-под требований. Этот прецедент показал: технологическое сообщество видит в открытости огромную ценность, а не угрозу.

Открытость как двигатель научно-технологического прогресса

Развитие современных больших языковых моделей стало возможным благодаря открытому обмену фундаментальными научными результатами. Ключевым событием в истории развитии современного ИИ стала публикация в 2017 году статьи «Attention Is All You Need», представившей архитектуру Transformer. Именно эта открытая работа легла в основу практически всех существующих сегодня генеративных систем. Это продемонстрировало, что открытый обмен знаниями дает индустрии возможность мгновенно масштабировать технологию без необходимости тратить годы на собственные независимые исследования.

«Опенсорс исторически был двигателем научно-технологического прогресса: открытая публикация исследований и код позволяют разным командам одновременно проверять и улучшать одну и ту же разработку, а не воспроизводить ее с нуля. Языковые модели развиваются по той же логике, что в свое время открытые интернет-протоколы и Linux»,— комментирует Максим Болотских, директор по ИИ «Яков и партнеры».

Крупнейшие международные игроки индустрии выбирают стратегию комбинирования собственных разработок с решениями от исследователей и разработчиков других компаний и лабораторий. Так, Nvidia обучила с нуля модель Nemotron-3, но также построила семейство моделей на базе открытой Llama от Meta (признана в РФ экстремистской и запрещена). Microsoft развивает собственное семейство Phi и параллельно интегрирует в свои продукты открытые модели других разработчиков.

В России компании начинают идти по такому же пути. «Мы придерживаемся диверсифицированного подхода: продолжаем разрабатывать собственные модели и не игнорируем лучшие открытые модели там, где они лучше подходят задаче. Современная ИТ-разработка во многом опирается на открытый код, открытые стандарты и обмен результатами исследований. Одной модели, лучшей для всех задач и ограничений, нет. Поэтому в прикладных продуктах конкуренция все сильнее идет на уровне агентной обвязки (agent harness) — в маршрутизации запросов, работе с контекстом и данными, подключении инструментов, контроле качества и безопасности. Именно этот слой превращает модель в работающий продукт»,— рассказывает Петр Ермаков, бренд-директор по машинному обучению «Яндекса».

Этот процесс носит двусторонний характер: компании не только используют готовые решения, но и предоставляют сообществу собственные наработки, замыкая цикл улучшений. Глобальными лидерами по вкладу в открытый код традиционно остаются технологические гиганты: в рейтинге Open Source Contributor Index (OSCI) первые строчки занимают Google, Red Hat, Microsoft, AMD, Intel и Nvidia. Среди российских компаний в этот мировой топ входит «Яндекс», который занимает 15-е место.

Инженерная сложность использования открытых решений и экономика

Вопреки распространенному мнению, использование открытых весов не сводит работу с моделями до уровня «скачать и запустить». Напротив, интеграция таких моделей в реальные продукты требует полноценной инженерной инфраструктуры и высоких компетенций, сопоставимых с обучением систем с нуля.

«Есть расхожее заблуждение, что взять открытые веса — значит присвоить чужую работу и получить результат в обход инженерии, а команда без модели с нуля якобы теряет экспертизу. Использование открытых весов — тот же инженерный путь, что и обучение со случайной инициализацией: те же данные, та же инфраструктура, та же работа над архитектурой. Разница только в стартовой точке, а выбор в ее пользу — рациональная оптимизация, а не отказ от инженерии. Изоляция разработки от рынка сама по себе экспертизы не гарантирует»,— говорит Максим Болотских.

Сергей Николенко, доктор физико-математических наук, ведущий научный сотрудник ПОМИ РАН и профессор СПбГУ, также отмечает, что использование готовой базовой модели не отменяет дальнейшей разработки. Он подчеркивает, что ключевая ценность создается не на этапе предобучения, а при построении сервисной оболочки: «Если ваш продукт опирается на LLM, заменить ее — открытую или закрытую — невозможно: либо вы сами тратите огромные ресурсы на предобучение, либо берете готовую, очевидно открытую. Но есть огромные возможности разрабатывать разные “обвязки” (harnesses) вокруг базовых моделей, и большинство AI-стартапов как раз этим и занимаются. Не вижу смысла отказываться от того, чтобы переиспользовать очень большую работу, которую за вас уже сделали и предоставляют бесплатно. Дело не в том, с чего вы начинаете, а в том, что у вас в итоге получится».

Такой подход также показывает экономическую целесообразность, в частности в перераспределении бюджета: вместо затрат на фундаментальное обучение компании инвестируют в адаптацию под конкретные задачи. «Есть экономический фактор. Обучение современной фундаментальной модели с нуля требует несопоставимо большего объема вычислений и инвестиций, чем ее адаптация под конкретную прикладную задачу. Открытые веса позволяют не воспроизводить весь дорогостоящий цикл обучения, а направлять ресурсы на то, что непосредственно создает ценность для бизнеса: собственные данные, RAG, дообучение, интеграции и инференс. Для российских компаний открытые модели еще и способ снизить зависимость от внешних API и развернуть систему внутри собственного контура. Я бы при этом не говорил, что без зарубежных открытых моделей российский рынок остановится. Есть отечественные LLM, и развивается собственная экосистема»,— отмечает Игорь Кириченко, президент ГК Naumen.

По его словам, конечный продукт определяется не только количеством параметров в базовой модели, но и тем, как она встраивается в бизнес-процессы: «Это корпоративные данные и знания, память, RAG, инструменты, интеграции с бизнес-системами, права доступа, маршрутизация между моделями и контроль качества. В конечном счете бизнес покупает не LLM с определенным количеством параметров, а сокращение времени обработки обращения, рост автоматизации или снижение стоимости конкретного процесса».

Дмитрий Сошников, доцент НИУ ВШЭ и МАИ, выделяет несколько стратегических сценариев применения опенсорса крупным бизнесом: от предоставления моделей через облачные платформы (как Yandex Cloud) до создания собственных решений на базе чужих весов. Также компании активно используют методы квантования и дистилляции для адаптации тяжелых моделей под работу в небольших дата-центрах без потери качества. «Наконец, модель может быть вписана в более сложную сервисную инфраструктуру или использоваться в рамках готового агентного решения»,— резюмирует эксперт.

Риски и безопасность

Вопрос безопасности открытых моделей остается предметом дискуссий. NTIA в 2024 году пришла к выводу, что риск широко доступных весов недостаточен для введения ограничений. Исследователи Принстона указывают, что риск открытой модели нужно сравнивать с существующими альтернативами и в большинстве случаев он оказывается небольшим.

«Сам принцип опенсорса — для программных продуктов в целом — может способствовать выявлению и устранению уязвимостей. «Open source способствует свободной коллаборации между людьми — а теперь и ИИ-агентами. Когда любой заинтересовавшийся может заметить недостающую функциональность или дыру в безопасности и сразу же исправить найденное, для программного продукта это, разумеется, очень хорошо. Именно поэтому open source продукты обычно наиболее безопасны и эффективны: их проверяло максимальное число глаз», — отмечает Николенко.

Если говорить об ИИ-моделях — здесь тоже есть свои аспекты безопасности. Существуют практические риски, такие как обнаружение вредоносного кода в файлах весов на платформах вроде Hugging Face: в 2024 году исследователи безопасности JFrog обнаружили на Hugging Face несколько десятков моделей с вредоносным кодом, замаскированным внутри файлов весов.»

«Закрытая модель тоже не обеспечивает безопасность автоматически. Там возникают другие вопросы: куда передаются данные, кто контролирует инфраструктуру, как меняется модель со стороны поставщика и насколько компания зависит от внешнего сервиса. Поэтому для корпоративного применения важнее оценивать не тип лицензии сам по себе, а весь контур использования модели»,— напоминает Кириченко. По его словам, перед внедрением необходимо проверить происхождение модели, качество на собственных сценариях и устойчивость к атакам.

Несмотря на существование возможных рисков, введение ограничений на распространение и использование открытых ИИ-моделей может более существенно повлиять на индустрию и несоразмерно преимуществам. По словам Дмитрия Сошникова, запрет открытых ИИ-моделей сильно замедлит развитие ИИ как отрасли, не только в России: «Справедливости ради, в России есть свои обученные с нуля LLM, и соответствующие компетенции создания больших моделей есть как минимум у двух больших компаний. Хотя, как это всегда и бывает, конкуренция в среде моделей с открытыми весами способствует их быстрому совершенствованию и развитию».

Фото: Коммерсантъ