미국에서 신약이 출시되기 전에 누군가는 발매를 막을 수 있는 규정에 따라 안전성과 효능을 입증해야 합니다. 대부분의 소프트웨어는 여전히 먼저 출시하고 나중에 사과합니다. 식품의약국 방식이 바로 인공지능 정책이 계속 피하고 있는 질문입니다. 되돌릴 수 없는 피해가 생기기 전에 증명하라는 것입니다.
의약품은 큰 예외입니다. 제약회사는 약을 출시하고 부작용을 기다릴 수 없습니다. 식품의약국에 단계적 임상시험을 통해 안전성과 효능을 입증해야 합니다 전에 제품을 판매할 수 있는지 여부입니다. 증명의 책임은 개발자에게 있으며, 배포 전에 적용됩니다. AI에 대한 FDA 모델은 의학을 예외로 만든 특징을 공유하는 프런티어 AI가 같은 방식으로 규제되어야 하는지 묻습니다.
비유가 매력적인 이유
유사점이 처음 보기보다 더 많습니다. 의약품이 시판 전 승인을 받는 이유가 최전선 인공지능에도 그대로 적용되기 때문입니다.
- 증명의 책임이 뒤집혔습니다. 개발자는 제품이 안전하다는 것을 입증해야 하며, 규제 기관이나 대중이 출시 후에 위험하다는 것을 증명할 필요가 없어야 합니다. 그 반전이 바로 재단이 다른 곳에서 주장하는 내용입니다 안전 사례 그리고 규모 확장 정책.
- 승인은 배포 전에 온다. 점검은 시스템이 아직 격리되어 있을 때 이루어져야 하며, 세상에 풀려난 뒤가 아닙니다. 예방이 대응보다 앞서는 유일한 시점입니다.
- 단계적 테스트는 위험에 비례하여 확장됩니다. 임상시험은 단계별로 진행되며, 각 관문마다 다음 단계로 넘어가기 전 증거가 필요합니다. 이는 인공지능 능력 기준에 자연스럽게 대응합니다.
일부 실패가 심각하고 되돌리기 어려울 수 있는 기술의 경우, 최고 위험 시스템을 안전성이 명확히 입증될 때까지 외부에 공개하지 않는 체제는 진지하고 매력적인 제안입니다.
모델이 압박받는 곳
비유는 안내서일 뿐 틀이 아니며, 차이점들이 교훈을 줍니다.
약물은 신체에서 특정 작용을 하는 고정된 분자로, 성숙한 과학을 통해 정량화된 위험을 연구한다. 최전선 모델은 일반 목적이며, 아무도 완전히 열거하지 못한 개방형 작업에 사용되며 예측할 수 없이 나타날 수 있는 능력 배포 후 미세 조정이나 새로운 도구를 통해 바뀔 수 있는 행동입니다. 혈압 약이 안전하다는 것이 무엇을 의미하는지는 정의할 수 있습니다. 일반 추론 시스템이 안전하다는 것이 무엇을 의미하는지를 정의하는 것은 이 분야의 중심에 있는 미해결 문제이며, 식품의약국 스타일의 심사자가 필요로 하는 과학은 아직 존재하지 않는 경우가 많습니다.
국경 문제도 있다. FDA는 경계가 분명한 국내 시장을 규제한다. 위험한 모델은 어디서든 훈련될 수 있고 어디서든 복제될 수 있으므로, 국가 차원의 사전 승인만으로는 국제 협력만이 메울 수 있는 공백이 남는다. 그 협력은 연산 거버넌스.
FDA 모델은 출시 전에 안전성을 입증해야 한다는 올바른 원칙을 제시하며, 우리가 아직 얼마나 많은 기반 안전 과학을 갖추지 못했는지를 상기시킵니다.
그것에서 얻을 것
FDA 모델은 그대로 복사할 청사진으로서보다는, 리콜로 처리하기에는 위험이 너무 심각한 제품에 대해 시판 전 승인이 정상적이고 실행 가능하며 받아들여진다는 것을 보여주는 사례로서 가치가 있다. 사회는 이미 의약품의 경우 일부 사안은 우리에게 도달하기 전에 안전성이 입증돼야 한다는 데 동의한다. 가장 심각한 실패를 초래할 수 있는 프론티어 AI 시스템에 이 확립된 원칙을 확장하는 것은, 기존 규범을 분명히 해당되는 신기술에 적용하는 것이며, 국내 요건과 국제 틀의 조합을 통해 전달된다 우리의 계획, 급진적인 요구가 아닙니다.