Kinh tế Nhật báo Hàn Quốc: Khi AI CPU nuốt chửng DRAM - Tình trạng "thiếu hụt" bộ nhớ sẽ kéo dài thêm một năm nữa!
Ngành công nghiệp bộ nhớ đã đạt thành tích kỷ lục nhờ giá DRAM hàng hóa tăng vọt hơn 100%, và với việc bộ xử lý trung tâm (CPU) được thiết kế riêng cho AI hiện đã được đưa vào sử dụng, dự báo cho thấy tình trạng thiếu hụt sẽ kéo dài thêm một năm nữa.
“AI CPU” vừa mới ra mắt của Intel được dự đoán sẽ chứa lượng DRAM hàng hóa gấp bốn lần các thế hệ trước DRAM. Kết hợp với nhu cầu tăng đột biến về DRAM dung lượng cao từ các bộ xử lý đồ họa (GPU), các chuyên gia dự báo khả năng cung ứng bộ nhớ của Samsung Electronics và SK Hynix sẽ không đủ đáp ứng nhu cầu.Theo nguồn tin trong ngành ngày 2,các nhà sản xuất CPU đang tìm cách tích hợp 300–400GB DRAM vào AI CPU. Con số này cao gấp bốn lần so với các sản phẩm CPU thông thường (96–256GB), một bước nhảy đáng kinh ngạc.CPU nổi lên như "người điều phối AI"Nhu cầu về DRAM dung lượng cao từ AI CPU đã tăng mạnh, có liên quan chặt chẽ đến sự chuyển đổi cấu trúc trung tâm suy luận trong ngành AI. Trước đây, việc suy luận AI chỉ giới hạn trong các câu hỏi đơn giản, nhưng giờ đây nó đã trở thành “người điều phối” các AI tác tử khác nhau.Yếu tố then chốt trong quá trình này là “bộ nhớ ngữ cảnh”. Để CPU có thể điều phối toàn bộ quy trình công việc bằng cách tham chiếu đầu ra của từng AI tác tử, nó cần phải ghi nhớ nội dung. Điều này khiến việc mở rộng bộ nhớ — tức không gian lưu trữ — trở nên vô cùng quan trọng.Từ trước đến nay, các trung tâm dữ liệu AI luôn dựa vào GPU được trang bị bộ nhớ băng thông cao (HBM) để xây dựng cơ sở hạ tầng tính toán. Tận dụng ưu thế vượt trội của GPU trong xử lý khối lượng dữ liệu lớn để đào tạo AI, trọng tâm vẫn đặt vào “đào tạo AI”. Cấu hình máy chủ vì thế chủ yếu theo mô hình 8 GPU cho 1 CPU. Tuy nhiên, với việc dịch chuyển trọng tâm sang suy luận, cấu hình máy chủ với tỷ lệ CPU lớn hơn đang dần lan rộng.Trong cuộc họp báo cáo tài chính gần đây, lãnh đạo Intel giải thích: “Trong hạ tầng suy luận AI, cơ cấu tính toán đã chuyển sang tỷ lệ CPU : GPU là 1:4 và xu hướng này thậm chí còn tiến gần hơn tới 1:1.”Sau GPU, CPU tham gia cuộc đua bộ nhớ – cầu tăng vọt như quả cầu tuyếtCuộc chạy đua nâng cấp dung lượng bộ nhớ đã mở rộng từ GPU sang CPU với quy mô tăng mạnh như quả cầu tuyết. Chip AI thế hệ tiếp theo của NVIDIA –Vera Rubin– tích hợp 8 bộ HBM với tổng dung lượng 288GB, trong khi dòng GPU thế hệ tiếp theo của AMD MI400 còn lớn hơn với dung lượng khổng lồ 432GB.Con chip tùy chỉnh thế hệ thứ tám mà Google vừa ra mắt –Tensor Processing Unit (TPU 8i) – cũng dự kiến sẽ được trang bị 288GB HBM. Cộng thêm việc “Xeon” AI CPU của Intel và "EPYC" của AMD bắt đầu sử dụng DDR5 dung lượng lớn với tối đa 400GB, tình trạng thiếu hụt bộ nhớ dự kiến sẽ kéo dài lâu hơn nữa.Sức nóng của thị trường đã được phản ánh rõ nét trên giá giao ngay. Theo dữ liệu của Kiwoom Securities, giá DDR4 cũ (chuẩn 16GB) đã giảm 16% chỉ trong một tháng vào tháng 4, trong khi giá giao ngay DDR5 (chuẩn 16GB) dùng cho AI CPU lại tăng 2,8% trong cùng thời kỳ, duy trì mức chênh lệch giá mạnh.Một nguồn tin trong ngành cho biết:“Thị trường DRAM hiện tại được đánh giá thiếu hụt khoảng 10%. Ngoài HBM, cầu về DRAM hàng hóa tăng vọt, khả năng cao siêu chu kỳ sẽ kéo dài từ dự đoán 2026 tới tận 2027.”
Tuyên bố miễn trừ trách nhiệm: Mọi thông tin trong bài viết đều thể hiện quan điểm của tác giả và không liên quan đến nền tảng. Bài viết này không nhằm mục đích tham khảo để đưa ra quyết định đầu tư.
Bạn cũng có thể thích
Thiếu một thành viên, Chủ tịch Walsh lại không hoàn thành “bài tập” về biểu đồ dot của Fed
Chủ tịch Fed Walsh hai lần liên tiếp từ chối điền dự báo lãi suất vào biểu đồ dot plot, thẳng thắn cho rằng công cụ này "không có ích cho việc thực hiện chính sách". Biểu đồ dot plot được triển khai từ năm 2011, công bố dự báo lãi suất của các quan chức bốn lần mỗi năm và là tài liệu tham khảo quan trọng để thị trường phân tích định hướng chính sách tiền tệ. Tuy nhiên, tính không đồng thuận, tính ẩn danh và việc các chủ tịch không có quyền biểu quyết cũng tham gia đã khiến công cụ này bị nghi ngờ lâu dài. Các đời Chủ tịch trước có thái độ khác nhau, nhưng lập trường của Walsh là mạnh mẽ nhất.
Chứng khoán Mỹ qua đêm | FED tăng lãi suất 25 điểm cơ bản như dự kiến, ba chỉ số chính đều giảm, SpaceX (SPCX.US) tăng hơn 5%
Tính đến khi đóng cửa, chỉ số Dow Jones giảm 630,56 điểm, tương đương 1,21%, xuống còn 51.462,55 điểm; chỉ số S&P 500 giảm 33,51 điểm, tương đương 0,44%, xuống còn 7.552,22 điểm; chỉ số Nasdaq Composite giảm 3,15 điểm, tương đương 0,01%, xuống còn 25.978,42 điểm.
Các nhà đầu tư nước ngoài đã bán ròng 50,4 tỷ USD trái phiếu Mỹ trong tháng 7; Nhật Bản và Trung Quốc đều giảm nắm giữ trong khi Anh lại tăng mua trái phiếu trái chiều.
Dữ liệu do Bộ Tài chính Mỹ công bố vào thứ Tư cho thấy, trong tháng 7, quy mô trái phiếu chính phủ Mỹ mà các nhà đầu tư nước ngoài nắm giữ đã giảm đáng kể, giảm 50,4 tỷ USD so với tháng 6, xuống còn 9,25 nghìn tỷ USD, mức thấp nhất kể từ tháng 10 năm ngoái.
FED tăng lãi suất lần đầu tiên sau ba năm! Waller phát đi tín hiệu "diều hâu", có thể tăng thêm 25 điểm cơ bản trong năm nay
Cục Dự trữ Liên bang đã tăng lãi suất cơ bản thêm 25 điểm cơ bản lên phạm vi 3,75%-4,00% vào thứ Tư, đây là lần tăng lãi suất đầu tiên kể từ tháng 7 năm 2023.
Giá tiền điện tử
Thêm
