Управление суперинтеллектом:
Краткое руководство для политиков
Аргументы за международное управление безопасностью ИИ: проблема, что необходимо и прецеденты, показывающие, что это возможно.
Беспрецедентная технология без рамок управления
Искусственный сверхразум (система, превосходящая человеческий интеллект во всех областях) активно разрабатывается частными корпорациями при минимальном регулировании. Ведущие лаборатории ИИ заявили внутри компании, что ожидают достичь этого порога в текущем десятилетии.
В отличие от прежних технологических рисков, сверхразум не имеет никакой существующей международной системы управления. Нет ни договора, ни органа по проверке, ни многостороннего стандарта безопасности и ни механизма остановки разработки при появлении тревожных сигналов. Пробел в управлении полный.
Окно для эффективного управления закрывается
Международные управленческие рамки требуют лет переговоров для создания. Договор о нераспространении ядерного оружия занял десятилетие дипломатии после первых ядерных испытаний. Монреальский протокол потребовал длительного формирования научного консенсуса до достижения многостороннего принятия.
Развитие возможностей ИИ ускоряется. Улучшения, на которые раньше уходили годы, теперь приходят за месяцы. Как только появится достаточно мощная система, наложить meaningful ограничения может оказаться уже поздно. Управление должно опережать возможности, а не следовать за ними.
Прецеденты: мы уже делали это раньше
Рекомендуемые политические меры
- Обязательные оценки безопасности перед развёртыванием независимыми государственными органами до выпуска любой передовой системы ИИ, по аналогии с клиническими испытаниями лекарств.
- Мониторинг и лицензирование вычислений для тренировочных запусков выше заданных порогов возможностей. Вычислительные мощности — измеримый proxy возможностей; их можно отслеживать и регулировать.
- Международное агентство по безопасности ИИ с полномочиями инспекции по образцу IAEA, чтобы проверять соблюдение согласованных стандартов безопасности в разных юрисдикциях.
- Требования к отчётности об инцидентах за опасное поведение, выявленное во время обучения или развёртывания; сейчас это добровольно и неединообразно между лабораториями.
- Внутреннее законодательство по безопасности ИИ закрепление юридической ответственности за предсказуемый вред от недостаточно протестированных систем ИИ, создающее рыночные стимулы к осторожности.
- Многосторонние переговоры для установления международных стандартов до достижения пороговых возможностей, а не после. Начать сейчас, пока окно открыто.
Это научный консенсус, а не маргинальная позиция
Более пятисот специалистов по ИИ, включая нобелевских лауреатов Джеффри Хинтона и Йошуа Бенжио, а также руководителей OpenAI и DeepMind, подписали в 2023 году заявление, в котором назвали риск вымирания от ИИ «глобальным приоритетом наравне с пандемиями и ядерной войной».
Правительство UK создало первый в мире Институт безопасности ИИ (ныне Институт безопасности ИИ) в 2023 году. Закон EU об ИИ ввёл обязательную классификацию рисков для систем ИИ. Исполнительный указ US по ИИ требовал проведения оценок безопасности для передовых моделей. Международной структуры ещё не существует, но политическая воля формируется. Момент действовать — сейчас.
nakadafoundation.org
Nakada Foundation to Save Humanity выступает за международное управление безопасностью ИИ. Мы предоставляем экспертизу в области политики, просвещение общественности и поддержку в адвокации. Свяжитесь с нами, чтобы организовать брифинг для вашего ведомства или сотрудников.