AI

The reasons why AMD’s MI300X has a competitive advantage over Nvidia’s H100

작성자:
MI300x

According to Tech insights, the overall market for data-center AI chips in 2023 was $17.7billion, with Nvidia accounting for 65% market share. Intel was the second vendor with 22% market share whereas AMD (MI300X) had 11% market share. However, the situation regarding AI chips used for training AI models is different, with Nvidia’s chips accounting … 더 읽기

픽셀9 신기능으로 갤럭시와 차별화 되어버리다.

작성자:
픽셀9 신기능

구글 픽셀9 신기능이 공개되었습니다. 픽셀 9은 하드웨어적으로 갤럭시 S23 FE급의 성능을 지니고 있지만, 구글의 순정 안드로이드 OS와 픽셀 9에만 제공되는 소프트웨어 기능들 덕분에 나름의 강점을 갖춘 제품입니다. 특히, 미국 제품에 대한 선호가 높은 일본 시장 등에서 상당히 선전하는 제품으로, 삼성의 스마트폰 부품 사업에 있어서도 나름 의미 있는 모델입니다. 구글은 픽셀 8을 포함하여 현재까지 약 1,000만 … 더 읽기

엔비디아 블랙웰 GB200 서버의 출시는 왜 연기되는 것인가?

작성자:
엔비디아 블랙웰 GB200

엔비디아 블랙웰 GB200 서버에 대해서 자세히 알아보겠습니다. 이 글은 엔지니어 관점에서 쓴 기술적인 글이 아니라 경제성에 초점을 맞춰 작성했습니다. 2024년 3월, 엔비디아의 황 사장은 블랙웰이라는 새로운 GPU를 소개했습니다. 그는 이 GPU가 LLM 모델을 구현하는 것뿐만 아니라 영상을 학습하고 흉내 내기 위해 디자인된 것이라고 말했습니다. 한마디로, 텍스트와 이미지에서 영상으로 넘어가기 위해 엄청난 컴퓨팅 파워가 필요하며, 이를 … 더 읽기

EU AI 규제법 발효로 빅테크의 AI 서비스 상용화 지연되나?

작성자:
EU AI 규제법

파리 올림픽으로 세계의 관심이 유럽에 집중된 이때, 유럽 연합은 AI 규제법을 조용히 발효시켰습니다. EU AI 규제법은 세계최초의 AI 관련 법안이자, EU라는 거대 경제권에서 시행하는 것이기 때문에 향후 AI 시장의 향배를 가늘 수도 있는 중요한 법안입니다. 특히, EU AI 규제법은 다른 국가들의 AI 관련 법규에 기반이 될 가능성이 높기 때문에 관련된 내용을 알아보는 것도 의미가 있다고 … 더 읽기

엔비디아 B100과 삼성 HBM3e 12단

작성자:
엔비디아 b100

한국에서는 AI 관련 회사로 SK하이닉스가 자주 언급되며, 특히 HBM 기술이 크게 강조됩니다. 올해 젠슨 황은 엔비디아 B100의 출시를 발표하는 자리에서 한국 업체들의 뛰어난 HBM 기술력을 칭찬하였습니다. 그러나, 엔비디아 서버에서 HBM이 차지하는 비중은 5% 미만에 불과합니다. 또한, HBM의 채택 여부는 엔비디아의 요구사항이 절대적인 역할을 합니다. 이번 글에서는 엔비디아의 향후 GPU 로드맵을 알아보고, 삼성의 HBM3E 12단 메모리가 … 더 읽기

마이크론의 HBM은 오히려 TC-NCF 방식의 2가지 장점을 강조하고 있다.

작성자:
마이크론의 HBM

마이크론의 HBM에 대한 전망 최근 마이크론은 고대역폭 메모리(HBM) 시장에서 강력한 성장을 예고하고 있습니다. 이는, AI와 가속 컴퓨팅 플랫폼의 폭발적인 증가로 마이크론의 HBM 수요가 급증하고 있기 때문입니다. NVIDIA H200, AMD MI300X, Google의 차세대 TPU 등 다양한 새로운 AI 컴퓨팅 플랫폼이 연이어 출시되면서 HBM의 수요는 계속해서 증가할 전망입니다. 작년 마이크론의 HBM 비트 점유율이 1-2%였으나, 올해는 4%로 증가했습니다. … 더 읽기