삼성전자 HBM3E가 엔비디아에 공급될 수 밖에 없는 이유

삼성전자가 24년 1분기 컨퍼런스 콜에서 밝힌 내용

삼성전자는 2024년 4월 컨퍼런스 콜에서 회사가 작년 대비 HBM 공급을 세 배 늘릴 것이며, 이미 고객들과 합의가 완료되었다고 밝혔습니다. 또한, 2025년에는 2024년 대비 HBM 공급이 두 배로 증가할 것이라고 예측하였습니다. HBM관련 주요 내용은 아래와 같습니다.

1. 8단 HBM3E의 초기 양산을 개시하였고, 빠르면 2분기 말부터 수익을 창출할 것으로 전망다.

2. 현재 회사는 고객들과 함께 12층 HBM3E 샘플을 테스트 중이며, 2분기부터 양산을 전개 예정이다.

  • 특히 36GB의 고용량을 지원하는 12단 제품의 경우, 고단 스택의 장점이 있는 TC-NCF 기술을 기반으로 선도적인 제품 경쟁력을 갖줬다고 판단된다.

3. 삼성전자 HBM3E의 매출은 올해 말까지 전체 HBM 매출의 3분의 2 이상을 차지할 것으로 예상됩니다.

위의 내용은 현재 시장에서 믿고 있는 소문과는 많이 다른 내용입니다. 유튜브나 언론 등을 통해 확대 재생산되는 삼성과 관련된 소문은 삼성이 여전히 HBM3E의 승인을 받는 데 어려움을 겪고 있다는 내용입니다.

삼성전자가 컨퍼런스 콜에서 밝힌 내용이 사실이라면, 올해 삼성은 엔비디아향 HBM3E 공급을 기정사실화하고 있습니다. 삼성은 이미 HBM1부터 2E 시장을 지배해 온 강자입니다. 따라서 올해 2분기부터 발생할 것으로 예상되는 삼성전자 HBM3E의 매출이 전체의 2/3 수준이 될 것이라는 전망은 HBM3E부터 하이닉스와 시장을 양분할 것이라는 자신감을 내비친 것으로 해석됩니다.

삼성전자 HBM3E가 승인에 어려움을 겪는 이유

삼성전자 전 반도체 연구원인 한 전문가는 인포맥스 라이브와의 토론에서 TSMC로 인해 삼성이 엔비디아의 GPU 시장에 진입하는 데 어려움을 겪고 있을지도 모른다는 이야기를 했습니다. TSMC는 슈퍼 을이긴 하지만, 고객인 엔비디아가 삼성 제품을 테스트하고 승인을 준다는 점에서 TSMC가 왜 여기에서 나올까 하는 의문이 들게 됩니다. 그러나 HBM의 구조를 들여다보면, 엔비디아의 AI 칩셋을 만드는데 TSMC의 역할이 막중함을 알 수 있습니다.

< HBM의 구조와 하이브리드 패키징 : 출처 램버스>

삼성전자_HBM3E의 구조

TSMC는 핑크색으로 표시된 엔비디아의 GPU 칩뿐만 아니라, 하늘색으로 표시된 HBM DRAM 다이를 제외한 모든 부분을 제조하는 역할을 합니다. HBM3E까지는 디램 업체들이 로직 다이를 직접 제작하지만, 그것을 베이스 다이에 올려서 하나의 패키징을 만드는 작업은 TSMC가 담당합니다. 따라서 TSMC의 패키징 설계 기준에 부합하지 않으면, 싱글 HBM 기준에서는 작동해도 GPU와 통합된 칩셋에서는 문제가 발생할 수 있습니다.

그러나 이를 두고 TSMC가 고의적으로 삼성의 진입을 막고 있다고 음모론을 제기하기 쉽지만, 반대로 삼성이 TSMC가 요구하는 수준의 충분한 정보나 설계를 공개하지 않음으로써 발생하는 문제일 수도 있습니다. 최근에 공개된 뉴스를 보면, 하이닉스는 TSMC와 전략적 제휴를 맺고 향후 베이스 다이(로직)를 TSMC에 맡길 것이라는 발표를 하였습니다.

HBM4부터 달라지는 기술표준, 그리고 삼성의 기회

HBM4에서 로직 다이의 필요성과 역할

삼성전자가 차세대 고대역폭메모리(HBM)인 HBM4의 개발에 박차를 가하며, 기존의 HBM 구조에서 벗어나 새로운 로직 다이 방식을 도입하려는 계획을 세우고 있습니다. 이러한 변화는 HBM의 성능과 효율성을 획기적으로 향상시키기 위한 전략으로 볼 수 있습니다. 이번 글에서는 HBM4에서 로직 다이의 필요성과 그 역할에 대해 자세히 살펴보겠습니다.

기존 HBM 구조와 한계

기존의 HBM은 베이스 다이 위에 D램 코어 다이들이 층층이 쌓인 형태로 구성됩니다. 이 구조에서 베이스 다이는 단순히 코어 다이들을 지지하는 역할을 하며, 베이스 다이 옆에는 그래픽 처리 장치(GPU)와 같은 로직 칩 다이가 위치하는 2.5D 구조를 취하고 있습니다. 이 방식은 제조 및 설계의 복잡성을 증가시키고, 전력 효율성 측면에서도 한계가 존재했습니다.

로직 다이의 도입 이유

삼성전자의 손교민 마스터에 따르면, HBM4부터는 로직 프로세스로의 전환이 이루어질 예정입니다. 이는 베이스 다이를 단순한 지지 역할에서 벗어나, 셀이 없는 프로세서로 개발함으로써 성능과 효율성을 동시에 향상시키기 위함입니다. 이렇게 되면 베이스 다이 자체가 로직 기능을 수행할 수 있어, 전력 소모를 줄이고 대역폭을 확장하는 데 큰 도움이 됩니다.

로직 다이의 역할과 장점

로직 다이를 도입하면 다음과 같은 장점이 있습니다.

전력 효율성 향상: 로직 다이를 베이스 다이에 통합함으로써 데이터 전송 경로가 단축되고, 이에 따라 전력 소모가 감소합니다.

맞춤형 제작 가능: 고객사의 요구에 따라 베이스 다이에 다양한 설계자산(IP)을 추가할 수 있어, 맞춤형 HBM 제작이 용이해집니다. 예를 들어, 새로운 인터페이스 기술인 UCIe를 사용하고자 할 경우, 해당 IP를 베이스 다이에 통합할 수 있습니다.

고성능 메모리 구현: 기존 HBM보다 더 많은 I/O를 지원함으로써, 대역폭을 크게 확장할 수 있습니다. HBM4는 2048개의 I/O를 지원할 예정으로, 이는 기존의 두 배에 해당하는 수치입니다.

HBM4에서 삼성전자의 기회

삼성은 디램과 로직칩을 둘다 생산가능한 업체

삼성은 디램 뿐만 아니라 시스템반도체의 설계 생산까지 할 수 있는 업체입니다. HBM4부터 디램과 시스템반도체(베이스다이)가 결합되는 형태로 진화하게 됩니다. 삼성은 두개의 반도체를 동시에 개발하여 적용할 수 있기 때문에, 이를 따로 생산하는 업체대비, 양산이나 납기에 있어 이점이 있을 수 있습니다.

삼성은 iCube 패키징을 통해 엔비디아의 GPU 자체를 독자 생산할 수 있는 업체 현재 엔비디아의 AI용 GPU는 TSMC가 독점을 하고 있습니다. 그러나 TSMC는 디램을 생산하지 못하기 때문에, SK하이닉스에서 물량을 조달받아 이를 자체제작한 GPU와 결합하여 패키징한 후 엔비디아에 납품하고 있습니다. 반면, 삼성은 디램을 양산할 수 있고, 엔비디아의 GPU를 생산한 경험도 있기 때문에, 이를 자체 iCube 패키징(2.5D패키징)과 결합하면, 자체적으로 AI GPU를 생산하여 납품할 수 있습니다.

지난 수년간 7나노 이후 공정에서 삼성의 수율불안정이 고착화 되면서, 삼성은 고객을 많이 잃었습니다. 그러나 엑시노스 2400 양산의 성공으로 4나노 공정의 양산 능력을 인정받게 되었습니다. 여전히 대부분의 GPU가 4-5나노 공정에서 생산되고 있다는 점을 고려할 때, 삼성의 엔비디아 AI 칩 수주 가능성은 그리 허황된 이야기가 아닐 것입니다.

실제로 더일렉은 삼성전자가 엔비디아향의 2.5D 패기지를 제공하게 되었다는 기사를 보도하였습니다. HBM 메모리를 4개를 장착하는 iCube 4형태의 패키지 양산을 진행중이며, HBM과 GPU 생산은 타사에서 진행하고 있다라는 것으로 보아, 하이닉스와 TSMC에서 관련 제품들을 공급받는 것으로 보입니다. 엔비디아의 V100의 경우 4개의 HBM 메모리를 장착하고 있습니다.

Nvidia V100 products

삼성전자_HBM3E와 엔비디아 V100

로이터의 삼성전자 HBM3E의 엔비디아 품질심사 탈락 보도 (24년 5월 24일)

21일 삼성전자는 반도체 사업을 총괄하는 DS부문장을 전영현 부회장으로 교체하는 원 포인트 인사를 단행했습니다. 임원 인사 기간이 아닌 때에 갑작스럽게 발표된 인사를 두고 자진사퇴인지 경질인지에 대한 논란이 많았습니다. 또한, 경질이라면 누가 경질했는가에 대한 추측이 난무했습니다. 삼성그룹은 조직에 혼란을 주는 인사를 자주 하지 않는 편입니다. 따라서 이번 인사는 삼성이 그만큼 절박한 무언가가 있다는 것을 반증합니다.

24일 한국시간 새벽, 로이터는 3명의 익명의 정보공급자를 기반으로 삼성전자 HBM3E가 엔비디아의 품질심사에서 탈락했다는 기사를 보도했습니다. 충격적인 사실은 삼성전자 HBM3E의 열과 전력소비에 문제가 있었다는 주장입니다. 열과 전력소비에 문제가 있다는 말은 설계나 공정에 큰 결함이 있다는 의미로, 향후 오랜 기간 엔비디아 납품이 쉽지 않을 수 있음을 암시합니다.

과연, 그럴까요? 그렇다면 누가 거짓말을 하고 있는 것일까요? 삼성전자는 명실상부 업계 1위의 메모리 회사입니다. 삼성이 엔비디아의 제시한 스펙을 자체적으로 테스트하지 않고 이를 납품하여 품질 테스트를 통과하지 못했다면 이는 대재앙에 가까운 이야기입니다. 엔비디아에 처음 납품하는 중소업체들도 하지 않을 실수이기 때문입니다. 또한, 실적 발표에서 삼성전자의 DS부사장이 자신 있게 이야기한 HBM에 대한 자신감이 모두 거짓이 되는 것입니다.

로이터의 뉴스는 조금 철지난 이야기가 아닐까 생각됩니다. 현재 삼성전자의 진입을 두고 경쟁업체들(TSMC, 마이크론, 하이닉스)과의 엄청난 알력싸움이 벌어지고 있는 상황으로 판단됩니다. 삼성은 그간 침묵하던 관행을 깨고, 곧바로 반박문을 언론에 배포했습니다. “HBM 테스트는 순조롭게 진행하고 있으며, 현재 다수 업체와 긴밀하게 협력하며 지속적으로 기술과 성능을 테스트하고 있다”고 밝혔습니다.

이 말이 보도된 이후, 일부는 ‘다수 업체’라는 단어에 주목하여 삼성이 엔비디아와 진행하는 것이 아니라 인텔, AMD와 진행 중인 것이 아닌가라는 의구심을 제기했습니다. 또다시 시장은 삼성이 밝힌 공식 입장문을 믿기보다는 유튜브나 기타 소문을 더 믿고 있습니다. 저는 아무도 책임지지 않는 익명의 출처의 로이터 기사나 자신이 삼성의 내부를 전부 다 알고 있는 듯이 행동하는 일부 유튜버들의 말을 맹종하는 것은 위험하다고 생각합니다.

설사 어떤 내부 정보자가 내용을 유출시켜 그런 주장을 하더라도, 그 내부 정보자도 삼성이라는 큰 조직의 일부 정보만 알고 있을 가능성이 큽니다. 그 내용이 사실이라 할지라도, 내부 정보를 외부에 유출하는 정도의 윤리의식이 있는 사람이 조직에서 중요한 역할을 맡고 있을 리 만무합니다. 결국, 정보 유출자는 조직의 수장보다는 한 파트에서 일하는 사람일 것이며, 그는 파편적인 정보만을 알고 있을 것입니다.

삼성의 이건희 회장이 거대한 구조본 조직을 운영했던 이유도 삼성 내부의 정보를 종합적으로 취합하기 위함이었을 것입니다. 따라서 삼성의 한 HBM팀이 실패했더라도 삼성은 다른 팀의 자원을 활용해 현재의 상황을 돌파할 수 있습니다. 적어도 삼성은 그 정도의 저력을 가진 회사이며, 현재 위기 상황으로 보이지만 회사는 어두운 시기를 묵묵히 걸어가고 있습니다.

결론: 삼성전자 HBM3E 공급은 엔비디아와 빅테크가 원하는 바다.

2024년 5월 현재, 시장은 하이닉스와 TSMC 연합이 엔비디아의 AI GPU 생산을 마치 독점할 것처럼 예상하고 있지만, 이는 엔비디아나 고객인 빅테크 기업들 모두가 원하는 상황이 아닐 것입니다. 왜냐하면 삼성전자 HBM3E 제조설비가 SK에 육박하거나 더 크기 때문에 이를 사용하지 않게 되면 가격 상승이 불 보듯 뻔하기 때문입니다. AI 칩 가격이 높은 수준에서 유지된다면, 빅테크 기업들은 ASIC 칩을 활용한 솔루션 개발에 더 열을 올리게 될 것이고, 이는 궁극적으로 엔비디아에게 부메랑이 될 것입니다. 어떻게 보면, 엔비디아와 빅테크 기업들은 삼성이 공급망에 참여하여 GPU 생산 비용이 점진적으로 하락하기를 기대하고 있을 것입니다.

따라서 1분기 실적 발표장에서 삼성전자 HBM3E의 양산과 매출 발생을 공언한 만큼, 시장의 루머에 휩쓸리기보다는 이를 믿고 2분기 실적 발표를 기다려보는 것이 합리적이라고 생각됩니다. 그리고 삼성의 긴 업력과 인적 자원, 막강한 자본력을 고려했을 때, 삼성전자가 HBM3E 공급에 실패할 것이라는 전망은 다소 과격할 수 있습니다. NCF와 MUF의 차이가 있다는 것을 인정한다고 하더라도 말입니다.

2 thoughts on “삼성전자 HBM3E가 엔비디아에 공급될 수 밖에 없는 이유”

Leave a Comment