Разработка ИИ в настоящее время требует больших вычислительных мощностей. Обучение моделей на переднем крае возможностей нуждается в кластерах из тысяч специализированных чипов, работающих неделями или месяцами и потребляющих десятки мегаватт. Чипы проектирует небольшое число компаний, производят на оборудовании ещё меньшего числа фирм, а поставки проходят через цепочки, контролируемые конкретными юрисдикциями. Такая концентрация оборудования — одна из немногих черт разработки передового ИИ, которая делает возможным регулирование в обозримом будущем.
Такая концентрация создаёт узкое место в управлении — одно из немногих мест, где регулирование разработки передового ИИ в ближайшей перспективе практически осуществимо.
Управление вычислительными мощностями — подход к регулированию ИИ, который пытается использовать эту концентрацию как рычаг. Вместо того чтобы напрямую регулировать, что можно или нельзя строить (вопрос, требующий технических суждений, которые большинство регуляторов не могут вынести), управление вычислительными мощностями регулирует оборудование, необходимое для их создания. Контролируя вычисления, вы получаете определённую степень контроля над тем, кто может разрабатывать передовой ИИ, в каком масштабе и с какой степенью отчётности и прозрачности.
Аппаратные узкие места
Эти узкие места не вечны. Китай активно инвестирует в собственное производство полупроводников, чтобы снизить зависимость от западной цепочки поставок. Текущие отечественные чипы всё ещё значительно уступают передовым, и этот разрыв создаёт реальные издержки для китайской разработки ИИ, но не делает разработку передового ИИ невозможной при достаточном времени и ресурсах. Окно управления, созданное существующей концентрацией аппаратного обеспечения, реально, но ограничено по времени.
Какие меры управления вычислительными мощностями уже существуют
Правительство US ввело экспортный контроль за передовыми ИИ-чипами как наиболее значимую меру управления вычислительными мощностями на сегодняшний день. Контроль, объявленный в октябре 2022 года, ограничил продажу чипов Nvidia A100 и H100 Китаю, России и другим указанным странам. Последующие раунды контроля в 2023 и 2024 годах распространили ограничения на чипы, специально спроектированные так, чтобы оставаться ниже исходных порогов, закрыв самый очевидный обходной путь. Контроль наложил реальные издержки на китайские ИИ-лаборатории: задокументированные попытки контрабанды чипов, чёрный рынок и сниженные возможности китайских обучающих кластеров — всё это свидетельствует об эффекте ограничений.
Исполнительный указ администрации Байдена по ИИ от октября 2023 года включал требование, чтобы разработчики сообщали правительству о тренировочных запусках свыше примерно 10^26 операций с плавающей запятой — примерно того объёма вычислений, который требуется для обучения модели масштаба GPT-4. Это требование отчётности стало первым шагом к надзору на основе вычислительных мощностей: оно даёт правительству возможность видеть, кто запускает крупные тренировочные прогоны, до развёртывания систем, а не после.
Для запуска передового обучения всё ещё нужен целый корпус специализированных чипов и счёт за электричество, который видно из космоса. Эта физическая инфраструктура — лучший рычаг, который есть у правительств. Управление вычислительными мощностями — это прозаичный проект превращения таких зданий в лицензируемую, подлежащую инспекции инфраструктуру.
Что не может сделать управление вычислительными мощностями
Три существенных ограничения снижают эффективность управления вычислительными ресурсами как инструмента безопасности. Первое — обход: чипы можно закупать через третьи страны до вступления ограничений в силу, накапливать запасы или заменять чуть менее мощными чипами, не попадающими под пороги регулирования. Контроль US уже обходили в задокументированных случаях, а схемы контрабанды и маршруты через третьи страны оказались настолько масштабными, что потребовали нескольких раундов ужесточения.
Во-вторых, алгоритмическая эффективность: по мере того как обучение ИИ становится эффективнее, вычислительные ресурсы, необходимые для достижения заданного уровня способностей, уменьшаются. Порог вычислений, установленный на нужном уровне сегодня, через три года может оказаться слишком мягким, поскольку эффективность растёт. Системы управления, построенные вокруг фиксированных порогов вычислений, нуждаются в механизмах корректировки этих порогов по мере изменения связи между вычислениями и способностями.
В-третьих и важнее всего, управление вычислительными мощностями не решает проблему выравнивания. Система, обученная на должным образом лицензированном оборудовании, заявленная соответствующим органам и в пределах разрешённого порога вычислений, всё равно может оказаться невыровненной. Управление вычислительными мощностями может контролировать темп и масштаб разработки передового ИИ и давать видимость того, кто что обучает. Оно не может гарантировать, что то, что обучают, выровнено.
Именно поэтому управление вычислительными мощностями лучше рассматривать как один элемент более широкой системы наряду с требованиями верификации согласованности и международными договорными обязательствами, а не как самостоятельное решение. Фонд три политических предложения рассматривать управление вычислительными мощностями как рычаг ближайшего срока, который даёт время и видимость, пока продвигается более сложная техническая и дипломатическая работа по верификации выравнивания и переговорам о международном договоре.