인공지능은 얼마나 빠르게 규모를 확대하고 있나요?
AI 진보의 가장 큰 단일 동인은 원시 규모, 즉 각 새 모델을 훈련하는 데 사용된 연산량이었습니다. 로그 스케일로 표시하면 그 성장은 압도적이고 멈추지 않습니다. 곡선을 표시하는 모델들을 살펴보고, 최전선이 얼마나 빠르게 움직이는지 확인하십시오.
~6개월
최전선 모델 학습 연산량이 얼마나 자주 두 배로 늘었는가
~5×
최전선 훈련 연산량의 연평균 증가
108×
선도 모델의 컴퓨트가 AlexNet(2012)보다 많음
모델 (이름과 연구소에 마우스를 올리세요)
중국에서 개발된 모델
추세 (≈6개월 배증)
차트의 아무 지점이나 탭하세요
이것이 왜 중요한가
연산 능력이 전부는 아니지만(알고리즘과 데이터도 중요합니다) 새로운 능력을 예측하는 데 가장 신뢰할 만한 지표였습니다. 시스템에 들어가는 입력이 십 년 조금 넘는 기간 동안 1억 배로 늘어나고, 다음 백 배 증대가 무엇을 열어줄지 아무도 완전히 이해하지 못하는 상황에서 “안전 문제는 나중에 해결하자”는 큰 도박이 됩니다.
이 추세는 경쟁의 의미도 다시 바꾼다. 중국의 딥시크-V3 같은 효율적 모델이 보고된 연산량의 극히 일부로 최전선에 가까운 성능에 도달했다는 사실은, 능력이 점점 더 더 저렴한, 더 클 뿐만 아니라.
데이터에 대하여
훈련 컴퓨트 수치는 주로 ...에서 추정한 것이다 Epoch AI의 주목할 만한 모델 데이터베이스이며, 부동소수점 연산(FLOP)으로 표현됩니다. 연구소는 정확한 수치를 거의 공개하지 않으므로 최근 프런티어 값은 대략적이며 예시로 표시합니다. 유지되는 발견은 추세이지 개별 지점이 아닙니다.
표시된 배증 시간은 그래프에 그려진 모델들에서 계산한 것이므로, 전체 분야가 아니라 이 선별된 표본을 반영합니다.
더 많은 상호작용 도구
모든 도구 →