인공지능 안전 및 실존적 위험에 대한 행동을 취하라, 초지능은 절대 만들어져서는 안 된다.

ASI를 명시적으로 추구하는 연구소에서 자본을 거두라. 자본이 빠지면 구매되지 않는 연산 자원, 고용되지 않는 엔지니어, 단축되지 않는 일정이 된다. 이는 투자자가 오늘 당장 실행할 수 있는 가장 직접적인 개입이다.

어떤 AI 투자나 보조금의 조건으로 검증 가능한 안전 약속, 컴퓨트 거버넌스 준수, 독립 제3자 감사를 반드시 포함하도록 요구하십시오. 그들이 동의하지 않는다면 그들의 우선순위에 대해 중요한 사실을 말해 주는 것입니다.

지분이나 이사회 의석을 보유한 기업에서는 인공지능 안전을 의제로 올리십시오. 구속력 있는 약속, 감사 권한, 신흥 국제 컴퓨트 거버넌스 기준 준수를 요구하십시오. 이사회와 유한책임파트너는 대주주의 의견에 반응합니다. 그 영향력을 활용하십시오.

인공지능 안전 연구 분야는 자신이 연구하는 연구소로부터 수십억 달러를 받고 있어 인센티브 구조가 왜곡되어 있습니다. 강제력 있는 법을 위해 일하는 독립 옹호 및 정책 단체들은 거의 아무것도 받지 못합니다. 한 건의 대규모 기부로 분야의 균형을 바꿀 수 있습니다.

AI 연구소 관행에 대한 탐사 보도, 조약 체제에 대한 정책 연구, 위험을 생생하고 부인할 수 없게 만드는 문화 작업, 이 중 어느 것도 상업적으로 매력적인 생산물이 아닙니다. 비판적이지만 수익을 내지 못하는 작업을 위한 자금원은 자선 자본뿐입니다.

기부자, 재단 이사회, 기관 투자자, 정책 결정자 등 옹호자들이 냉랭한 접촉으로는 접근할 수 없는 사람들에게 접근할 수 있습니다. 그들을 소집하십시오. 이 대의를 소개하십시오. 여러분의 접근 시간 한 시간은 자금 부족 단체의 1년 노력과 맞먹습니다.

안전 팀, 옴부즈맨, 윤리 검토, 이사회 접근 등 존재하는 공식 메커니즘을 통해 우려를 제기하세요. 모든 소통을 서면으로 하세요. 필요하기 전에 서류 흔적을 만들어두세요. 필요해진 후가 아니라.

당신은 혼자가 아닙니다. 최전선 AI 개발 방향에 우려하는 연구자와 엔지니어는 모든 주요 연구소에 존재합니다. 서로를 찾아보세요. 기술 직원의 집단 행동은 이전에 AI 기업의 기업 행동을 바꾼 적이 있으며, 다시 그렇게 할 수 있습니다.

안전하지 않은 개발에 관한 정보를 공개한 사람들은 상당한 개인적 비용을 치렀습니다. 그들을 공개적으로, 직업적으로 지지하십시오. 그들의 폭로는 외부 옹호자가 혼자서는 만들 수 없는 공적 사례를 만듭니다. 내부자만이 실제로 무슨 일이 일어나고 있는지 알기 때문입니다.

많은 관할 구역에서 공공 안전을 위협하는 활동에 관한 정보를 공개하는 직원에게 내부 고발자 보호가 적용됩니다. 자신의 권리를 이해하십시오. 이 분야 전문 변호사와 상담하십시오. 대비할 시간이 있을 때 선택지를 파악하십시오.

당신은 수요가 엄청난 기술을 가지고 있다. 다른 일자리, 아마 더 나은 일자리를 구할 수 있다. 최전선 AI 시스템을 만드는 연구자와 엔지니어는 역사상 거의 어떤 노동력보다도 고용주에 대한 영향력이 크다. 대부분은 아직 그 영향력을 사용하지 않았다. 당신이 사용할 것인지가 문제다.

프론티어 AI 연구소에서 일하며 개발이 안전하지 않게 진행되고 있다고 믿을 이유가 있다면(약속이 지켜지지 않고 위험이 축소되고 공개된 것보다 타임라인이 짧다면) 어떻게 할 것인지는 가설이 아니다. 지금 생각하라.

정의된 연산량 기준을 초과하는 AI 훈련 실행에 대해 정부 승인을 요구하십시오. 현재 제안된 기준은 10²⁶ 부동소수점 연산입니다. 이는 기술적으로 실행 가능하고, 독립적으로 검증할 수 있으며, 선례가 있습니다. 소수의 칩 제조사가 최첨단 모델 훈련에 필요한 하드웨어를 통제하고 있습니다. 그 병목 지점에서 라이선스를 부여하십시오.

정부에 유엔 또는 관련 다자 기구에 구속력 있는 AI 안전 조약 협상을 시작하는 제안을 제출해 달라고 공식 요청하십시오. 몬트리올 의정서는 과학적 합의에서 비준까지 2년도 채 걸리지 않았습니다. 이 규모의 야심은 전례가 없는 것이 아니라, 이미 있었던 일입니다.

인공지능 실존 위험은 아직 의회나 국회 청문회의 일상 주제가 아니다. 의제를 올려라. 솔직하게 말할 용의가 있는 연구자와 전 인공지능 연구소 직원을 초청하라. 미래 조치에 필요한, 그리고 역사가 ‘우리가 제때 행동했는지’를 참고할 입법 기록을 만들라.

인공지능 감시 기관, 독립 안전 감사 기관, 효과적인 조약이 요구할 국제 사찰 체제에 충분한 자원을 확보하도록 압박하십시오. 국제원자력기구는 NPT 이후 3년 만에 설립되었습니다. 그 인공지능 대응 기구도 정치적 의지만 있다면 같은 기간 안에 실현 가능합니다.

인공지능 실존 위험은 문명 차원의 문제이지 좌우 문제가 아닙니다. 국내에서 정당 노선을 넘어 연합을 구축하십시오. 다른 수도의 상대방에게 손을 내미십시오. 조약은 모든 주요 인공지능 개발국의 참여를 필요로 하며, 그 대화는 지금 정치적 수준에서 시작해야 합니다.

AI 기업은 로비와 인맥 쌓기에 막대한 자원을 쓴다. 그들이 옹호하는 정책 틀은 공공 보호가 아니라 상업적 행동의 자유를 보존하기 위해 설계됐다. 독립적인 증거를 요구하라. 제약 대상이 작성한 안전 기준에 회의적이어야 한다.

통계와 정책 문서는 사람을 움직이지 않습니다. 이야기가 움직입니다. 청중이 무엇이 걸려 있는지 직접 느끼게 만드는 작품(어떤 매체든)을 만드세요. 본인과 사랑하는 사람들, 그리고 뒤따를 모든 세대에게 이 일을 잘못했을 때 어떤 결과가 오는지 말입니다.

AI 연구자, 솔직하게 말할 의향이 있는 전 연구소 직원, 이 문제를 다루는 정책 옹호자들을 인터뷰하십시오. 여러분의 영향력은 학술 논문과 보도자료가 혼자서는 달성할 수 없는 규모로 그들의 메시지를 전달할 수 있습니다. 한 번의 인터뷰가 백 편의 정책 브리프보다 더 큰 효과를 낼 수 있습니다.

플랫폼(독자층, 팔로워, 청중)이 있다면 이를 이용해 이것이 당신 생애에서 가장 중요한 문제라고 명확히 말하라. 듣기 좋게 부드럽게 하지 말고, 상업적 이유로 에둘러 말하지 말고, 명확하게. 청중은 직접 말하는 사람을 존중한다. 특히 그 말이 직접 말하는 데 불리할 때 더욱 그렇다.

안전 의무를 명확히 하지 않은 채 최전선 인공지능 연구소에 이익이 되는 파트너십, 지지, 후원 콘텐츠를 거절하라. 연구소가 거래를 제안하면 공개적으로 거절하는 것이 그들이 살 수 없는 메시지를 보낸다. 그들은 당신의 청중과 신뢰를 필요로 한다. 그 지렛대를 명확히 사용하라.

과학 소설은 역사상 어떤 정책 문서보다 기술에 대한 대중의 의식을 더 크게 형성해 왔다. 기후 운동은 법 이전에 예술로 문화적 토대를 쌓았다. 무언가를 만드는 사람(글을 쓰고, 연출하고, 작곡하고, 그림을 그리는 사람)이라면, 우리가 만들고 있는 것을 사람들이 직시하게 만드는 작품을 만들라.

Nakada Foundation는 국제 인공지능 안전에 대한 여론을 바꾸는 미디어 캠페인을 준비하고 있다. 우리는 자신의 플랫폼을 정치적 힘으로 이해하는 창작자와 함께 일하고 싶다. 연락하기.

학생 AI 안전 단체를 시작하거나 참여하세요. 대학이 구속력 있는 ASI 거버넌스 연구를 지원하도록 압박하고, 초지능 위험에 대한 연사를 초청하며, 예방을 교과 과정에 포함시키세요. 개인 보이콧과 기부금 상징은 선택적 부수 채널입니다. 규모를 키우는 일은 조약을 위한 조직적인 정치적 압력입니다. 학생 운동은 대학을 움직인 적이 있습니다. 다시 한번 법이 아닌 브랜드 보이콧을 향해 대학을 움직일 수 있습니다.

법, 정책, 외교, 저널리즘, 정부 분야가 조약이 협상되고 집행되는지를 결정한다. AI 안전 운동은 기술적 함의를 이해하는 이 분야 전문가들을 절실히 필요로 한다. 당신의 경력은 평생 가장 중요한 선택 중 하나가 될 것이다. 그 선택을 의미 있게 만들라.

최전선 인공지능 연구소들은 일류 대학에서 적극적으로 인재를 영입합니다. 제안을 거절하고 그 이유를 공개적으로 설명하는 행위는 연구소가 안전에 관해 내세우는 어떤 자발적 약속보다 더 큰 영향력을 가집니다. 다른 곳으로 가는 결정 자체가 그들이 반박할 수 없는 정치적 발언입니다.

여러분의 동급생들은 앞으로 십 년에서 이십 년 안에 인공지능 정책에 관한 중대한 결정을 내릴 세대입니다. 지금 나누는 대화가 나중에 그들이 갖게 될 직관을 형성합니다. 이 문제가 다른 사람의 문제가 될 때까지 기다리지 말고 참여하십시오.

젊은 세대는 정치적 접촉에서 체계적으로 과소대표되고 있으며, 선출직 공직자들도 이를 압니다. 글을 쓰고, 전화하고, 직접 찾아가세요. 국제 AI 안전이 여러분 세대의 핵심 문제라고 대표들에게 말하고, 그들이 어떤 입법을 지지하는지 물어보세요.

핵확산금지조약, 화학무기금지협약, 몬트리올 의정서: 각각은 AI 안전 조약이 어떤 모습이어야 하고 어떻게 검증할 수 있는지에 대한 교훈을 담고 있습니다. 역사를 연구하세요. 다음 조약을 설계할 자격을 갖춘 사람이 되세요.

선출직 공직자에게 컴퓨트 라이선스 입법과 국제 AI 안전 조약 협상에 대해 어떤 입장인지 물어보십시오. 그들이 이 문제를 모른다면 알려 주십시오. 명확하고 반복되는 유권자의 질문이 간과된 사안을 실질적인 사안으로 만드는 방법이며, 아직 거의 아무도 묻지 않고 있습니다.

전화 통화, 이메일, 대면 민원 방문은 온라인 청원과 달리 선출직 공직자를 움직인다. 구체적으로 연산 허가 입법과 공식 국제 조약 협상을 지지해 달라고 요청하라. 더 시급하다고 느껴질 때가 아니라 오늘 작성하라. 그때는 이미 늦을 수 있다.

직접 찾아가십시오. 선출직 공무원에게 국제 인공지능 안전 조약을 지지하는지 물어보십시오. 그 질문 자체가 공무원과 그 질문을 듣는 방 안의 모든 사람을 위한 정치 교육 행위입니다.

정치적 다수는 광고가 아니라 소셜 네트워크를 통해 구축됩니다. 가족, 동료, 이웃과 대화하십시오. 올해 나누는 대화가 내년에 정치인들이 안전하게 말할 수 있다고 느끼는 내용과, 그다음 해에 통과할 수 있다고 느끼는 법을 결정합니다.

이 글이 의미 있게 느껴진다면 지금 당장 할 수 있는 가장 가치 있는 일은 이 대의를 지지하는 사람들을 늘리는 것입니다. 아직 이 질문을 생각해 보지 않은 사람에게 글을 보내십시오. 운동은 그렇게 한 번의 대화씩 자라납니다.