Экспортные правила могут определять, кто вправе купить чип. Чип, который жёстко прописывает условия лицензии в кремнии, идёт дальше. Управление через аппаратные средства — это ставка на то, что некоторые правила должны жить в металле, а не только в PDF-файлах, которые упорная лаборатория может проигнорировать.

Идея опирается на факт, который делает ИИ необычайно поддающимся управлению. Обучение модели передового уровня требует огромного количества специализированных чипов, сосредоточенных в крупных дата-центрах и производимых через цепочку поставок с жёсткими узкими местами. Программное обеспечение копируется незаметно и мгновенно. Десятки тысяч передовых процессоров, потребляющих мегаватты энергии, — нет. Именно этот физический след позволяет управлению зацепиться, та же идея лежит в основе управление вычислениями, спускаясь до уровня чипа.

Что можно встроить в аппаратное обеспечение

Предложения варьируются от скромных до амбициозных.

  • Проверка использования. Чипы могли бы подтверждать, в защищённом от подделки и сохраняющем приватность виде, свойства своей работы — например, сколько вычислительных ресурсов потребовал тренировочный запуск, — позволяя инспектору проверить соблюдение требований, не читая саму модель или данные.
  • Лимиты использования. Аппаратное обеспечение могло бы enforced ceilings, отказываясь участвовать в тренировочном запуске выше заданного масштаба без разрешения, превращая юридическое ограничение в физическое.
  • Местоположение и целостность. Такие механизмы могли бы подтверждать, что чип находится там, где заявлено, и не подвергался вмешательству, поддерживая экспортный контроль и предотвращая попадание в неконтролируемые объекты.

Некоторые из них опираются на функции защищённого оборудования, уже существующие в современных процессорах по другим причинам. Инженерия сложна и отчасти не решена, но это не научная фантастика, и серьёзная работа по её воплощению уже идёт.

Почему это такой привлекательный рычаг

Привлекательность в том, что это решает проблему, подрывающую большинство схем управления ASI: верификацию. Договор, который нельзя проверить, — это Конвенция о биологическом оружии, реальный запрет, нарушаемый десятилетиями без обнаружения. Управление, которое может действительно подтвердить соблюдение, как режим ядерных инспекций подтверждает это для расщепляющихся материалов, — это управление, способное удержать. Механизмы на основе аппаратного обеспечения открывают путь к такой проверке для ИИ, опирающейся на физику, а не на доверие. Они позволят государствам договориться об ограничениях и убедиться, что другие их соблюдают, — недостающий элемент почти всех международных предложений.

Самая сложная часть любого соглашения по ИИ — доказать, что правило соблюдается, а не написать само правило. Доказательство может появиться на уровне аппаратного обеспечения.

Двойное лезвие

Честность требует назвать риск. Механизм, позволяющий легитимной власти проверять и ограничивать вычисления, одновременно является механизмом контроля, а контроль можно использовать во зло. Инфраструктура, созданная для соблюдения лимитов безопасности, в чужих руках может обеспечить монополию, укрепить тех, кто держит ключи, или стать инструментом слежки и принуждения. Тот же рычаг, который мог бы обеспечить справедливую международную остановку, способен обеспечить концентрация власти против чего Фонд предостерегает в других местах.

Это не аргумент против технологии. Это аргумент за то, чтобы создавать её с управлением самого управления: прозрачностью механизмов, ограничениями на тех, кто ими распоряжается, и международным, а не односторонним контролем. При таком подходе аппаратно-обеспеченное управление становится одним из самых перспективных инструментов, поскольку решает проблему верификации в корне. Именно поэтому Фонд считает, что credible, проверяемая международная система достижима, а не утопична, и именно эта идея проходит через наш план.