Консультативный орган объединил экспертов из правительств, промышленности, академии и гражданского общества всех регионов, чтобы придать предложению глобального управления легитимность, которой не может дать западный клуб или одно правительство. Его итоговый доклад, представленный перед Саммитом будущего UN 2024 года, диагностировал пробел в управлении и предложил набор функций и институтов для его заполнения. При всех своих ограничениях он представляет собой ближайшее к официальной универсальной отправной точке для дискуссии.

Его доклад за 2024 год «Управление ИИ ради человечества» — самая авторитетная попытка набросать универсальную архитектуру, а заодно и показательное исследование того, насколько далёк мейнстримный разговор от рисков переднего края.

Что рекомендовал отчёт

Вместо предложения единого мощного агентства доклад рекомендовал многоуровневый набор лёгких функций, рассчитанных на политическую достижимость. Ключевые рекомендации включали международную научную группу по ИИ для формирования общего понимания, значимого для политики; регулярный политический диалог между правительствами; механизм обмена для разработки совместимых стандартов; сеть развития потенциала, чтобы помочь Глобальному Югу участвовать; и небольшой координационный офис в секретариате UN для связывания всех элементов. Также рассматривались глобальный фонд и рамки управления данными.

Логика, стоящая за скромностью

Осторожность доклада намеренная и заслуживает понимания. Она отражает суждение, что при нынешней разобщённости государств первым достижимым шагом станет не обязательный регулятор, а связующая инфраструктура (общая наука, диалог и стандарты), на которой позже можно будет строить более сильное управление. Научная группа в частности опирается на опыт озонового слоя и климата, где авторитетная общая оценка (модель IPCC) создала общую фактическую основу, сделавшую соглашение возможным. В таком прочтении доклад закладывает фундамент, а не возводит стены.

  • Научная комиссия чтобы предоставить миру общую, достоверную картину возможностей и рисков ИИ — фактическую основу, от которой зависит любое управление.
  • Диалог по политике чтобы правительства продолжали диалог и чтобы предотвратить фрагментацию соперничающих региональных подходов.
  • Биржа стандартов работать над интероперабельностью, а не над лоскутным одеялом несовместимых национальных правил.
  • Наращивание потенциала вовлечь Глобальный Юг в управление как полноправного участника, а не как запоздалую мысль, — необходимое условие легитимности.

Пробел в отношении катастрофических рисков

При всей своей авторитетности доклад имеет заметное ограничение с точки зрения безопасности: он рассматривает ASI-управление в основном как вопрос регулирования широкого спектра общественных вредов (предвзятость, дезинформация, неравенство, нарушение рынка труда) и уделяет сравнительно мало внимания конкретной опасности потери контроля над сверхразумной системой. В нём нет предложенной красной линии, порога вычислений, режима проверки, запрета. Рекомендуемые инструменты предназначены для координации и понимания, а не для ограничения.

Этот разрыв важен, потому что инфраструктура связей, которую предлагает доклад, при всей своей ценности не предназначена для главного, что требуется безопасности передовых систем: предотвращения создания слишком опасных для контроля систем. Научная группа и политический диалог могут создать общее понимание, необходимое для заключения обязывающего соглашения, но не могут его заменить. Процесс UN — необходимая подготовительная работа, но сама по себе недостаточная; это описание подходит к большей части нынешнего ландшафта управления.

Чертеж UN создаёт стол, за которым могут сесть все, и в этом действительно есть ценность. Но стол — это ещё не соглашение. Самый трудный вопрос (как остановить разработку систем, которые никто не сможет контролировать) до сих пор не готов поставить на повестку основной процесс.

Почему это всё ещё важно

Работа консультативного органа важна именно благодаря его легитимности и охвату. Она устанавливает на высшем уровне международной системы, что управление ASI — это глобальная проблема, требующая глобальных институтов, и предлагает механизмы общей науки и диалога, которые со временем могли бы сформировать общее понимание, необходимое для обязательного договора. Реалистичный путь — рассматривать рамки UN как инклюзивную основу, на которую накладывается более требовательное, ориентированное на безопасность управление: использовать предлагаемую ею научную панель и политический диалог, чтобы сдвинуть mainstream-разговор в сторону катастрофических рисков, которым сейчас уделяется недостаточно внимания, и в сторону красных линий и верификации, которые может обеспечить только обязательное соглашение. UN создал форум. Задача — повысить амбициозность того, что происходит внутри него.