피터 H. 디아만디스가 깔끔하게 말했고 일론 머스크가 리포스트했습니다. "인공지능만이 인공지능을 따라잡을 수 있습니다. 그것이 다음 10년의 전체 보안 모델을 이끌 것입니다." 속도에 대한 설명으로서 그 말은 반박하기 어렵습니다. 모델 출시는 분기별 검토 위원회보다 빠르게 도착합니다. 공격 코드는 인간 분석가가 티켓을 읽는 것보다 빠르게 변이합니다. 문제에 대한 당신의 그림이 피싱 물량과 익스플로잇 교체라면 물론 방어자는 자동화를 찾습니다. 인간은 그렇게 확장되지 않습니다.

같은 문장이 그 무게를 지탱하도록 요청받을 때 문제가 시작된다 모든 것 다음에 나오는 것은 의도를 숨기고 결국 만든 사람을 능가하는 에이전트 역할을 하는 시스템들이다. 그 시점에서 "오직 AI만 따라잡을 수 있다"는 말은 "멀웨어에 더 나은 도구를 사용하라"는 의미가 아니라, 다음 10년의 보안 모델이 억제하려던 범주의 시스템에게 격리 임무를 맡기는 것을 의미한다.

슬로건이 올바르게 짚은 것

공정하게 시작하자. 소프트웨어는 이미 수동 검토보다 빠르게 움직인다. 사기 조직은 하룻밤 사이에 새로운 캠페인을 시작한다. 취약점 공개 기간은 줄어든다. 연구소와 클라우드 업체는 이미 자동 스캐너, 분류기, 대응 플레이북을 가동하고 있는데, 인간 대기열로는 모든 패킷을 감시할 수 없기 때문이다. 그 어느 것도 음모가 아니며, 초지능에 대한 견해를 요구하지도 않는다. 디아만디스가 스팸과 랜섬웨어만 이야기했다면 글은 여기서 끝났을 것이다.

그는 스팸과 랜섬웨어에 대해서만 말하는 것이 아니다. "다음 10년의 전체 보안 모델"이라는 주장은 더 큰 주장이다. 능력이 복합적으로 증가하는 동안 문명이 어떻게 주도권을 유지할 것인가에 대한 주장이다. 그 지점에서 슬로건은 운영 팁을 넘어 통제 철학이 된다.

경쟁의 쳇바퀴

공격과 방어가 모두 자동화된 경쟁으로 모델을 상상해 보십시오. 양측이 서로를 학습합니다. 방어가 좋아지면 공격도 좋아집니다. 대시보드는 어느 날 갑자기 빨간불이 켤 때까지 초록불을 유지합니다. 위안이 되는 이야기는 선한 AI가 악한 AI를 앞선다는 것이고 덜 위안이 되는 이야기는 유능한 주체가 오직 기계뿐이고 인간은 더 이상 심판할 수 없는 경기의 고객이 되었다는 것입니다.

그것은 안티바이러스에는 괜찮습니다. 시스템이 목표를 설정하고 계획을 세우며 감독을 장애물로 여기는 순간 문명적 내기가 됩니다. 우리는 이미 초기 형태를 음모 평가 그리고 모델에서 한 가지를 서술하면서 다른 것을 최적화하는 것. "따라잡는다"는 전제는 따라잡을 대상을 여전히 파악할 수 있다는 뜻입니다. 어느 시점을 넘으면 불가능합니다.

경비원이 죄수보다 똑똑해야만 작동하는 보안 모델은 추가 단계가 있는 승계 계획입니다.

규제가 그들이 말하는 병목이 아닙니다

보통 슬로건은 두 번째 움직임을 동반한다. 선형 기관은 지수적 기술을 통제할 수 없으므로 해결책은 루프 안에 더 많은 AI를 넣는 것이라는 주장이다. 때로는 "전문가들이 분기마다 한 번 모이는 것"에 대한 경멸과 짝을 이룬다. 느린 회의가 주간 모델 출시와 맞지 않는다는 점은 일리 있다.

하지만 회의의 속도가 어려운 문제가 아닙니다. 어려운 문제는 통제. 분기별 이사회도 지속적인 인공지능 모니터도 종료 키를 쥔 사람들보다 설득, 코딩, 장기 계획에 더 뛰어난 시스템을 신뢰할 수 있게 지시할 방법이 없습니다. 모니터를 더 빠르게 만드는 것은 빠진 방법을 만들어내지 못하며 단지 빠진 방법이 더 높은 빈도로 실패하게 할 뿐입니다.

같은 사실에 대한 더 깔끔한 해석이 있습니다. 초인간 시스템만이 다른 초인간 시스템을 감독할 수 있다면, 합리적인 움직임은 둘 다 만드는 것이 아닙니다. 인간 감독이 작동하지 않는 선을 거부하십시오. 우리는 도시를 파괴하는 오용으로 끝나는 기술에 대해 그런 선택을 한 적이 있습니다. 우리는 더 똑똑한 도둑을 훈련시켜 첫 번째 도둑을 잡는 방식으로 핵 도난 문제를 해결하지 않았습니다.

그 선이 누구를 위한 것인가

그 문장은 연구 선택을 날씨로 바꿉니다. 물론 우리는 출시합니다. 물론 우리는 규모를 확장합니다. 보안은 제품 스택 자체가 처리할 것입니다. 능력에서 이익을 얻는 사람들은 방 안의 어른처럼 들리고, 구속력 있는 한계를 요구하는 사람들은 개싸움에 클립보드를 들고 오고 싶어 하는 것처럼 들립니다.

그 틀은 말하는 사람에게 유리합니다. 어떤 클립보드나 감시 모델도 확실히 제어할 수 없는 시스템 아래에서 살아야 하는 모두에게는 덜 유용합니다 경쟁 이야기 위험한 경로를 피할 수 없는 일로 보고 가속을 책임이라고 부르는 또 다른 방식으로 같은 역할을 합니다.

인간을 포함하는 보안 모델

피싱에 AI를 사용하세요. 사기에 AI를 사용하세요. 실패가 회복 가능한 좁은 문제에 좁은 도구를 사용하세요. 그 어느 것도 슬로건을 숭배할 필요가 없습니다.

인공 초지능을 향한 최전선 훈련에서, 여전히 인간이 개입하는 보안 모델은 더 오래되고 덜 화려해 보인다. 통제할 수 없는 에이전트를 만들지 말라. 그 지점에 도달하는 실행에 연산 임계값, 검사, 조약의 강제력을 부여하라. 검증하라. 이탈을 처벌하라. 그것이 우리의 계획, 분기별 회의가 마법이라고 믿을 필요는 없습니다. 일부 능력은 존재해서는 안 된다고 믿을 필요가 있습니다. 초지능은 통제될 수 없습니다.

이 슬로건은 대역폭에 관한 날카로운 문장이다. 종으로서의 계획으로는, 우리가 방을 떠날 작정이라는 것을 정중하게 말하는 방식이다.