이날 기조연설에 나선 최태원 SK그룹 회장은 "AI는 이제 규모가 아닌 효율의 경쟁"이라며 포문을 열었다. 그는 "스케일만 갖고 싸우면 너무 많은 돈이 투입되고 비효율이 일어난다"며 "효율성을 높여 AI 양극화가 일어나지 않도록 해야한다"고 강조했다.
실제로 오픈AI는 스타게이트 프로젝트를 진행하며 월 90만장의 HBM을 요청하기도 했다. 이는 전 세계 HBM 월 생산량의 두 배에 달하는 규모다. 이외에도 많은 기업들이 SK에 메모리칩을 요구하는 상황이다.
최 회장은 "저희가 공급하지 못하면 그들이 비즈니스를 못하는 상황에 접어들 수도 있어서 수익성을 넘어 책임감을 가지는 것이 고객을 위한 길이라고 생각하고 있다. 이 문제를 지금 상당히 고민하고 있다"고 밝혔다.
곽노정 SK하이닉스 CEO는 "프로바이더를 넘어 크리에이터로 거듭나겠다"며 '풀스택 AI 메모리 크리에이터'라는 새 비전을 제시했다. "고객이 원하는 것 이상을 제공하겠다"는 의지였다. 그는 커스텀 HBM, AI-D(AI용 DRAM), AI-N(AI용 NAND) 등 구체적인 제품 로드맵을 처음 공개하며 "단순한 기술 제조업체가 아니라 미래를 설계하겠다"고 선언했다.
지금까지는 모든 연산을 CPU나 GPU가 담당했으나 이에 따른 비효율적인 면을 보완한 것이다. SK하이닉스가 선보이는 PIM은 연산 기능을 갖고 있다. 관계자는 "예를 들어 매트릭스 곱하기 벡터 연산을 보면 실제 데이터는 많이 가지고 있지만 연산 결과는 벡터 하나만 남습니다. LLM 같은 모델을 돌리면 매트릭스는 사실상 버려지는 셈이죠"라고 말했다.
전시 관계자는 "생성형 AI에서 뭔가를 생성할 때 굉장히 버려지는 데이터들이 많은데 PIM은 이걸 효율적으로 처리할 수 있다"며 "1기가바이트 정도 되는 용량으로 나중에 데이터센터에서 GPU와 함께 배치하면 시너지를 일으킬 것"이라고 설명했다.
PIM은 아직 양산 전 단계다. 관계자는 "현재 PIM에 관심 있는 회사들이 있긴 하지만 실제 연결되려면 아직 시간이 좀 더 필요할 것 같다"며 "양산 단계까지 가려면 여러 업체들을 고려해 타임라인 등을 다 맞춰야 한다. 구체적인 시점은 답변하기 어렵다"고 설명했다.
전시관 한쪽에는 데이터센터 솔루션 부스가 마련돼 있었다. SK가 구축 중인 AI 데이터센터의 축소 모형이었다. 전시 관계자는 "쿨링부터 시작해서 전력 관리, 네트워크까지 모든 것을 SK 제품으로 구성했습니다"라고 말했다.
부스 담당자는 SK텔레콤의 네트워크 기술, SK이노베이션의 배터리·에너지 솔루션, SK하이닉스의 메모리가 어떻게 하나로 통합되는지를 설명했다. 최태원 회장이 기조연설에서 언급했던 울산 1기가급 데이터센터, 가산 블랙웰 B200 클러스터가 바로 이런 컨셉으로 구축되고 있다는 설명이다.
이처럼 구축된 AI 생태계가 있었기에 그룹의 기술력을 총체적으로 보여줄 수 있었다. 이날 최태원 회장은 “젠슨 황도 이제 개발 속도를 묻지 않는다”며 기술력에 자신감을 보였고 곽노정 CEO도 “메모리가 단순 컴포넌트에서 키 밸류 프로덕트로 위상이 높아지고 있다”고 강조했다.
Copyright © 이코노믹데일리, 무단전재·재배포 금지
