В июле 2025 года Марк Цукерберг опубликовал письмо о «личном сверхинтеллекте», в котором также предостерёг о необходимости осторожности с тем, что Meta решит открыть. Это сочетание — вся проблема политики на одной странице: гонка к общим системам и решение о выпуске, которое нельзя отменить, когда веса стали общедоступны.
Что здесь значит «открытый»
Люди говорят «open source AI», когда имеют в виду разные вещи: открытый код, открытые данные, открытые веса, открытая статья. Основная борьба ведётся в основном вокруг веса: обученные параметры, которые можно скачать и запустить. Как только такие модели выйдут на уровень передовых систем общего назначения, любой, у кого хватит оборудования, сможет дообучить их, снять фильтры и навсегда сохранить приватную версию.
Выпуск — это дверь в одну сторону. Вы можете обновить размещённый API. Вы не можете отозвать торрент.
Что на самом деле защищает открытость
Самый сильный аргумент за открытость — не наивность. Закрытая концентрация несёт риск власти. Независимым исследователям нужен доступ, чтобы находить сбои, которыми лаборатории не станут заниматься в приоритетном порядке. Безопасность через obscurity часто не работает. Исследователи за пределами богатых стран не должны навсегда оставаться арендаторами API. Открытые инструменты, открытые оценки и открытая наука о системах, которые мы ещё можем сдерживать, — ценности, которые стоит защищать.
Аргумент риска без мелодрамы
При высокой способности открытые общие веса означают распространение. Они умножают число акторов, способных злоупотреблять помощью в биологии, кибератаками, убеждением и автономными агентами. Они также умножают независимые эксперименты с долгосрочной автономией. Большинство из них провалится. Некоторые породят новые методы обхода защиты. Лицензии и текст об «ответственном использовании» не сдержат решительного файн-тюнера. Red-teaming перед выпуском помогает, но всё равно не может гарантировать модель против любой будущей обвязки и инструментов.
Самое жёсткое возражение
Самое справедливое возражение — что открытые веса демократизируют scrutiny, а настоящая концентрация опасности — в закрытых лабораториях. Scrutiny помогает для систем, которые ещё можно патчить и отзывать. Демократия доступа — это не то же самое, что безопасность возможностей. Мир, где frontier-модели размещают только три компании, имеет проблемы управления. Мир, где высокоуниверсальные веса лежат на каждом GPU энтузиаста, имеет другие, более сложные проблемы.
«Плохие актёры уже это имеют» обычно преждевременно. Скачки возможностей. То, что более слабая модель утекла в прошлом году, не даёт права выпускать следующую. Время имеет значение.
Реалистичные средние пути
Поэтапный релиз: открыть малое и узкое; запереть большое и общее. Структурированный доступ: доверенные исследовательские среды, логирование запросов и аттестованные файн-тюны вместо сырой выгрузки. Открытые инструменты: оставлять компиляторы, фреймворки для оценки и стеки исследований безопасности открытыми, даже если веса передовых моделей остаются закрытыми. Это политические решения, а не вопрос «вайба».
Дерево решений для лабораторий
Будет ли эта загрузка по-прежнему полезна после следующих шести скачков возможностей? Если да — рассматривайте это как решение о распространении. Если нет — относитесь к ней скорее как к обычному запуску продукта. Могут ли независимые команды по безопасности и биобезопасности получить необходимый доступ без публичного торрента? Если да — отдавайте предпочтение структурированному доступу. Если единственный довод за открытие — маркетинговое равенство с конкурентом, это не аргумент безопасности.
Что делать
Разработчики: по умолчанию закрытый доступ на высоком уровне; публиковать оценки и интерфейсы, позволяющие внешний анализ. Хосты и платформы: вести логи и ограничивать частоту высокорискованных использований; не маскировать распространение под «сообщество». Политики: вводить триггеры по возможностям и вычислениям, а не по слову «открытый»; требовать поэтапной проверки перед общим раскрытием весов. Частные лица: предпочитать открытые инструменты для узких систем; относиться к выпуску весов передовых моделей как к гражданскому событию, а не к бесплатной раздаче.
Линия Фонда проста. Узкий ИИ, остающийся инструментальным, может и должен оставаться открытым. Программы, нацеленные на искусственный суперразум, не следует открывать с весами в дикую природу, пока проблема контроля не решена. Открытая наука — не пакт о самоубийстве. См наш план.