2016년, 전형적인 전문가 추정치는 인간 수준 인공지능을 수십 년 후로 보았습니다. 2020년대 중반까지 대규모 설문조사와 연구소 지도자들은 그 시기를 앞당겼으며, 때로는 이 글을 읽는 사람들의 생애로 끌어당겼습니다. 일정은 여전히 불확실합니다. 수정 방향은 그렇지 않습니다.
예측 설문조사가 실제로 보여주는 것
AGI 타임라인에 대한 가장 체계적인 데이터는 AI Impacts에서 나온다. 이 기관은 인공지능 연구자들을 대상으로 여러 해에 걸쳐 "인간 수준의 기계 지능"(대략 AGI에 해당)을 언제 볼 것으로 기대하는지 설문 조사했다. 그 결과는 유익하다.
2016년 설문조사에서 연구자들은 HLMI의 중간 확률을 2061년경 50퍼센트로 보았습니다. 2022년 GPT-4 공개 전까지 그 중간값은 이미 상당히 앞당겨졌습니다. 이 예측을 하는 연구자들은 예측 대상 시스템을 구축하는 사람들이지, 종말론자나 홍보 담당자가 아닙니다.
데이터에서 드러나는 패턴은 합의된 목표 날짜는 없지만 정확한 연도에 대한 합의는 적으면서도 수렴하는 창입니다. 그 패턴은 실제 능력 발전에 맞춰 보정된 새로운 조사일수록 이전 조사보다 더 짧은 일정을 제시한다는 점입니다.
4년. barely 이어지던 텍스트에서 전문가 역량을 측정하는 표준화된 지표에서 인간 전문가 상위 10% 성능까지. 이것이 타임라인 예측을 보정해야 할 경험적 기록입니다.
AI를 만드는 사람들이 말하는 것
최전선 AI 연구소 경영진의 공개 발언은 내부 작업 가정과 같지 않습니다. 그러나 이 역할에 있는 사람들의 공개 발언은 일반적으로 보수적이며, 투자자 관계, 규제 감시, 비범한 주장에 대한 직업적 신중함 규범에 의해 제약받기 때문에 주목할 만합니다.
"우리는 이제 전통적으로 이해해 온 AGI을 만드는 방법을 안다고 확신합니다."
샘 올트먼, OpenAI 최고경영자 · 2025년 1월
"우리는 전반적으로 인간 지능을 능가하는 AI와 불과 몇 년, 어쩌면 그보다 더 빨리 만날 수 있다고 생각합니다."
Dario Amodei, CEO of Anthropic · "Machines of Loving Grace" essay · October 2024
이들은 내부 예측에 따라 자본 배분 결정을 내리는 사람들이 공개적으로 내놓은 신중한 발언이며, AGI를 먼 미래로 보는 사람들의 말이 아니다. 그 내부 예측은 거의 확실히 공개된 것보다 짧다.
한 회사가 내부적으로 변혁적 AI가 임박했다고 가정하고 수백억 달러를 AI 인프라에 투자한다면, 홍보팀이 불확실성에 대해 뭐라고 하든 그 타임라인은 실질적으로 현실이다.
날짜가 분포보다 덜 중요한 이유
AGI 시간표 논의에 대한 자연스러운 반응은 특정 날짜에 집중하는 것입니다: 2027년일까? 2030년일까? 2040년일까? 이 틀은 이해할 수 있지만 오해를 불러옵니다. 거버넌스에 중요한 질문은 "정확히 언제인가?"가 아니라 "현재 제도의 계획 지평 안에 AGI이 도달할 확률은 얼마인가?"입니다.
충분한 ASI 거버넌스를 구축하려면 실제로 무엇이 필요한지 생각해 보십시오:
- 국제 조약 협상은 일반적으로 시작부터 서명까지 수년이 걸립니다
- 국제 협정의 비준과 이행에는 추가로 수년이 걸립니다
- 검증과 감시를 위한 기술 인프라는 설계되고, 자금이 지원되며, 배치되어야 한다
- 주요 인공지능 개발국에서는 국가 입법이 반드시 통과되어야 합니다
- 컴퓨트 거버넌스 프레임워크는 시간이 지남에 따라 구축된 산업 준수 메커니즘이 필요합니다.
비범한 정치적 의지가 있더라도, 의미 있는 국제 ASI 거버넌스 체계를 처음부터 구축하는 데는 최소 5~10년이 필요하다. AGI가 10년 안에 도래할 확률이 무시할 수 없을 정도로 높다면(증거는 그렇게 시사한다), AGI가 '명백히 임박'해진 뒤에 시작되는 거버넌스는 제때 끝나지 못할 것이다.
이것은 이미 현재의 문제입니다. 거버넌스 창은 무한하지도 정적이지 않습니다. 좁아지고 있습니다.
이 결정을 쉽게 만드는 비대칭성
여기서 가능한 두 가지 오류 유형에는 비대칭성이 존재합니다. 만약 우리가 강력한 ASI 거버넌스 체계를 구축하고 AGI가 예상보다 더 멀리 있다는 것이 밝혀진다면 비용은 약간의 헛된 노력, 인공지능 개발에 대한 규제 마찰, 그리고 순간이 왔을 때 대비된 국제 기구들의 집합입니다. 만약 우리가 거버넌스를 구축하기 전에 일정에 대한 확신을 기다리고 거버넌스가 자리 잡기 전에 AGI가 도착한다면 비용은 잠재적으로 회복 불가능합니다.
이 비대칭성은 무기가 확산되기 전에 핵 거버넌스를, 오존층이 붕괴되기 전에 오존 보호를, 다음 발병 전에 팬데믹 대비를 추진하게 한 것과 같다. 불확실성 속에서 만들어진 제도는 예측된 상황이 현실화됐을 때 그 가치를 증명했다.
"인류는 사실을 미리 예상해 구축해야 하는 제도를 사후에 세운 기록이 형편없다."
Yoshua Bengio, 튜링상 수상자 및 노벨상 수상자 · 2024
지금 행동해야 한다는 주장은 가장 공격적인 AGI 일정을 믿는 데 의존하지 않습니다. 신뢰할 수 있는 추정 범위를 진지하게 받아들이고 그 불확실성에 적절한 거버넌스 조치로 대응하는 데만 의존합니다.
AGI 이후에 오는 것
AGI는 우려의 문턱이지 종착점이 아닙니다. 모든 영역에서 인간 수준 인지 성능에 도달한 시스템은 스스로 설계를 개선하고, AGI에서 로 가는 시간을 압축할 수 있는 방식으로 재귀적으로 자가 강화할 능력을 갖습니다 인공 초지능 수십 년이 아닌 수개월로.
이 시나리오는 기술에 가장 가까운 연구자들이 내린 가장 심각한 경고를 촉발했다. AGI 자체가 아니라 AGI 이후에 나타날 수 있는 역학, 즉 인간 기관이 대응할 수 있는 속도보다 빠르게 통제 가능한 시스템에서 통제 불가능한 시스템으로 이동할 가능성을 포함한다.
거버넌스에 대한 함의는 직접적입니다. 프레임워크는 AGI 문턱을 넘은 뒤가 아니라 넘기 전에 갖춰져야 합니다. 협상할 시간은 지금이며, 모든 당사자가 아직 문턱을 향해 구축 중이고 아무도 넘지 않은 때입니다. Nakada Foundation의 세 가지 정책 제안 정확히 이 기간을 위해 설계되었습니다.
가장 강력한 반발
가장 공정한 반론은 타임라인 예측이 이전에도 틀린 적이 있으므로 이를 바탕으로 규제하는 것은 공황이라는 것이다. 점 예측에 대해서는 공정하다. 휴대할 수 있는 사실은 수정 방향과 늦는 것의 비대칭성이다. 기관은 수년이 필요하고, 능력은 분기 단위로 도약할 수 있다. 문턱이 아직 앞에 있을 때 프레임워크를 구축하라.