오찬종
👤 SpeakerAppearances Over Time
Podcast Appearances
앞서서 오천종 기자님이 이 메모리를 책상에 비유해서 설명을 해주셨거든요.
저는 이 메모리라는 책상의 자료들을 갖고 AI를 움직이는 CPU와 GPU에 대한 얘기를 들려드릴 건데 사실 우리가 예전에는 PC 살 때 그거 CPU 사양 어떻게 되는데 이거를 항상 따졌었거든요.
그런데 이제 최GPT 같은 AI 시대가 열리면서 양상이 완전 달라졌어요.
방대한 데이터를 동시다발적으로 기계적으로 학습시키는 병렬 연산의 뛰어난 GPU가 훨씬 유리했거든요.
그래서 이 골을 넣는 gpu가 관중들의 환호를 독차지하면서 스포트라이트 받았고 그 덕에 엔비디아도 시가총회 1위까지 등극을 한 거죠.
이게 제가 스포츠 경기에 한번 비유를 해보면 gpu는 경기장에서 직접 뛰는 선수고 cpu가 이걸 지휘하는 감독의 역할이거든요.
감독인 CPU가 작전을 지시하고 주전이랑 선수들 적정히 기용하면서 경기를 조율을 하면 직접 뛰는 선수인 GPU는 그거에 따라서 플레이를 하는 거예요.
그래서 이걸 기술적으로 보면 단계적인 추론을 빨리 처리하기 위해서는 CPU가 메모리에 저장된 데이터를 그때그때 불러와서 GPU한테 전달을 해줘야만 그때서야 GPU가 연사를 처리를 할 수 있어요.
그러니까 ai가 단순한 답변을 뱉어내는 걸 넘어서서 수록 계획도 세우고 실행하는 고도화된 단계가 되다 보니까 좀 더 빠르고 정확한 명령 내려줄 수 있는 이 cpu가.
조금 더 고성능으로 나와야 되는 그런 상황이 된 겁니다.
그래서 이제는 품귀 현상까지 우려되고 있어요.
수요 속도 굉장히 빠르게 폭증하고 있는데요.
추론용 AI 모델 경쟁에 불이 붙으면서 앞으로 데이터 센터에서는 기존보다 기가와트당 4배 이상의 엄청난 CPU 용량이 필요할 것으로 예상이 되고 있고요.
심지어 2028년까지는 CPU 시장의 성장세가 GPU를 넘어설 것이라는 관측까지 나오고 있습니다.
그래가지고 반도체 회사들은 앞다퉈서 데이터 센터용 서버용 CPU 개발에 굉장히 사활을 걸고 있는 상황인 거죠.
당장 GPU로 떼돈 벌고 있는 엔비디아조차 젠슨 황이 직접 나서가지고 출원 수요 겨냥한 에이전틱 AI 전용 칩 베라 CPU 전격 공개를 했고요.