상업용 여객기 기종이 승객을 태울 수 있도록 인증받기 전에 규제 당국은 구조화된 안전 논증을 요구합니다. 주장, 추론, 증거가 거부할 수 없을 만큼 충분해야 합니다. 영국에서 원전 부지 허가는 원자력규제청이 운영 전에 받아들여야 하는 안전 사례를 통해 이루어집니다. 많은 의료 기기도 같은 부담을 따릅니다. 운영자는 먼저 실행하고 나중에 설명할 수 없습니다. 허가는 적대적 검토를 통과한 사례 뒤에 옵니다.
AI 안전 사례는 그 형태를 빌려옵니다. 그것은 특정 시스템이 특정 환경에서 훈련하거나 배포하기에 충분히 안전하다는 구조화되고 증거에 기반한 주장입니다. 프론티어 모델에 적용하면 구축자에게 긍정적인 사례를 강요합니다. 다른 사람들은 누구도 브레이크를 밟기 전에 위험을 증명할 필요가 없습니다. 구축자는 안전을 보여주거나 멈춰야 합니다.
실제 AI 안전 사례에 포함될 내용
진지한 주장은 체크리스트 이상입니다. 형태가 있습니다.
- 한 주장: 이 모델을 이런 식으로 사용할 때, 명시된 피해의 용인할 수 없는 위험을 초래하지 않는다.
- 주장: 증거를 주장과 연결하는 추론으로, 확인된 위험이 어떻게 다뤄지고 왜 안전장치가 충분한지 포함합니다.
- 증거: 결과 출처 능력 평가, 적대적 평가, 보안 조치 및 논증이 의존하는 분석.
가정과 실패 지점도 명시해야 합니다. 좋은 사례는 반증 가능합니다. 결론이 성립하기 위해 무엇이 참이어야 하는지 검토자에게 알려서 그 조건이 실제로 성립하는지 확인할 수 있게 합니다. 없으면 연극입니다.
규율이 가치 있는 이유
주장을 글로 쓰면 자신 있는 릴리스 노트가 숨길 수 있는 빈틈이 드러난다. 위험은 그것을 다루는 명시적 추론을 구성해야 할 때 치워버리기 어렵다. 이 방법은 다른 고위험 분야가 더 안전해진 방식과 같다. 사고 후에만 잔해를 세는 것이 아니라, 운용 전에 위험을 추론하는 것이다. 또한 책임 있는 확장 정책, 능력 한계를 넘는 순간 다음 단계로 나아갈 충분한 근거가 되는 경우를 말한다.
이름 붙여진 민간 반대론
반대 의견은 실용적입니다. 과학에 몇 년 더 평가와 해석 가능성을 부여하면 안전 사례가 저절로 작성될 것이며, 지금 요구하면 유용한 시스템만 느려진다는 것입니다. 이 관점에서 서류 작업은 증거를 따라야 하며, 증거를 앞서서는 안 됩니다.
항공에서는 성숙한 과학, 알려진 고장률, 이해된 물리학, 수십 년간의 함대 데이터에 의존할 수 있습니다. 프런티어 모델의 경우 정직한 주장은 우리가 현재 증명할 수 있는 것이 얼마나 적은지에 부딪힙니다. 우리는 아직 유능한 모델이 기만적으로 정렬되지 않았음을 입증할 수 없습니다. 아무도 검사하지 않은 능력을 배제할 수 없습니다. 평가에서의 행동이 배포에서도 유지된다는 것을, 특히 시스템이 능력 숨기기.
충분히 고도화된 모델에 대한 엄밀한 안전 사례는 현재 과학이 제공할 수 없는 보증을 필요로 한다. 따라서 정직한 시도는 종종 실제 산출물로 그 시스템이 아직 안전하다고 입증될 수 없는 이유에 대한 명확한 진술을 내놓는다. 서류 작업은 격차를 고무도장 찍지 않을 때 제 역할을 한 것이다.
안전 사례의 가치는 거부할 수 있는 권한이다.
재단이 그들을 지지하는 이유
안전 사례에 기반한 거버넌스 체제는 위험을 증명하지 못한 것을 진행 허가로 삼지 않습니다. 부담은 개발자에게 있습니다. 개발자가 이를 충족하지 못하면 다음 도약을 훈련하고 기대하는 것이 아니라 거부하는 것입니다. 안전 사례는 의무적이고, 자체 평가가 아닌 독립 검토를 받아야 하며, 제품 출시 후가 아니라 최대 규모 훈련 실행 전에 요구되어야 합니다.
그 형태로 구속력을 갖추면, 이는 이용 가능한 더 강력한 도구 중 하나가 됩니다. 그래서 G0의 더 넓은 설계에 포함됩니다 우리의 계획.