NVIDIA DGX Spark – Máy Tính AI Hiệu Suất 1000 TOPS, Suy Luận 200 Tỷ Tham số

NVIDIA DGX Spark là một máy tính AI để bàn nhỏ gọn dành cho cá nhân được NVIDIA phát triển nhằm mang sức mạnh tính toán AI đỉnh cao đến tận bàn làm việc của các nhà nghiên cứu AI, kỹ sư và chuyên gia dữ liệu. Đây là một thành công vang dội trong nỗ lực của NVIDIA nhằm thu nhỏ quy mô siêu máy tính AI DGX vào một thiết bị nhỏ gọn, phù hợp cho môi trường làm việc cá nhân hoặc văn phòng.

Trong bài viết này, chúng ta sẽ cùng tìm hiểu về những điểm nổi bật của NVIDIA DGX Spark, khám phá chi tiết về thiết kế cấu hình và phân tích những lý do khiến nó trở thành một siêu máy tính AI dành cho cá nhân mà bất kỳ các chuyên gia công nghệ về trí tuệ nhân tạo nào cũng muốn sở hữu.

Tổng quan về NVIDIA DGX Spark

DGX Spark là một máy tính AI để bàn nhỏ gọn từ thương hiệu NVIDIA, được trang bị chip GB10 (GPU Blackwell Architecture & CPU Grace 20 core Arm) kết hợp với RAM DDR5x 128G và ổ cứng SSD 4TB NVME.M2. Máy tính mang tới hiệu suất xử lý mạnh mẽ để xử lý hiệu quả các công việc nghiên cứu và phát triển AI, mà không cần tới các máy chủ AI đắt tiền, ngốn nhiều điện năng và nhiều chi phí vận hành.

Thiết kế nhỏ gọn, sang trọng và bền bỉ

Ngay từ cái nhìn đầu tiên, NVIDIA DGX Spark đã gây ấn tượng với thiết kế tinh tế và cao cấp. Vỏ máy được làm từ hợp kim nguyên khối, DGX Spark mang đến cảm giác chắc chắn và cứng cáp trong tay người dùng. Không chỉ vậy, lớp hoàn thiện mạ vàng sáng bóng và các đường nét tinh tế càng tôn lên vẻ sang trọng của chiếc máy tính AI “đắt xắt ra miếng” này.

Một điểm cộng nữa của DGX Spark là có thiết kế nhỏ gọn. Với trọng lượng chỉ 1.2 kg, máy rất dễ dàng mang theo và di chuyển bất cứ đâu. Thêm vào đó, kích thước chỉ 150 x 150 x 50.5 mm giúp nó có thể dễ dàng đặt trên bàn làm việc hoặc sử dụng trong môi trường văn phòng. Thiết bị tiêu thụ 170W điện năng, thấp hơn đáng kể so với các máy chủ AI thông thường, nhưng vẫn đảm bảo hiệu suất tính toán mạnh mẽ.

Hiệu năng vượt trội cho công việc AI

Bên cạnh thiết kế ấn tượng, NVIDIA DGX Spark còn gây ấn tượng với hiệu năng vượt trội, đáp ứng tốt nhu cầu công việc đa dạng của các chuyên gia nghiên cứu về trí tuệ nhân tạo.

DGX Spark được trang bị siêu chíp GB10 kiến trúc GPU Blackwell Architecture và CPU Grace 20 core Arm, kết hợp với bộ nhớ RAM dung lượng lớn 128TB và ổ cứng SSD tốc độ cao. Máy tính này mang lại sức mạnh tính toán 1000 AI TOPS cùng với khả năng  suy luận các mô hình AI thế hệ mới như DeepSeek, Meta, Google,… với quy mô lên đến 200 tỷ tham số.

Wow, Không thể tin nổi sức mạnh trong một thiết bị nhỏ gọn như vậy! Với cấu hình này, DGX Spark đã xóa mờ ranh giới giữa máy trạm cá nhân và trung tâm dữ liệu AI, mang đến khả năng nghiên cứu, phát triển và triển khai mô hình AI tiên tiến ngay tại chỗ, không cần phụ thuộc vào hạ tầng trung tâm dữ liệu và cloud.

Đặc biệt hơn, NVIDIA DGX Spark tích hợp công nghệ kết nối mạng hiệu suất cao NVIDIA ConnectX-7 cho phép kết nối hai hệ thống máy tính NVIDIA DGX Spark với nhau, tạo nên hệ thống có khả năng xử lý các mô hình AI lên đến 405 tỷ tham số. Giải pháp này giúp tăng cường băng thông, giảm độ trễ và tối ưu hiệu suất truyền dữ liệu, đảm bảo khả năng xử lý mạnh mẽ cho các mô hình AI quy mô lớn.

Kết nối mạng tốc độ cao nhanh như chớp

Máy tính AI NVIDIA DGX Spark được trang bị 1 cổng kết nối mạng có dây RJ-45 10 GbE, mang lại hiệu suất truyền tải dữ liệu mạnh mẽ và ổn định. Bên cạnh đó, hệ thống còn hỗ trợ kết nối không dây chuẩn Wi-Fi 7 (802.11be), cho phép truyền dữ liệu tốc độ cực cao, độ trễ thấp và khả năng đáp ứng tốt cho các ứng dụng AI thế hệ mới. Sự kết hợp giữa kết nối có dây băng thông lớn và Wi-Fi 7 tiên tiến giúp DGX Spark hoạt động linh hoạt trong nhiều môi trường triển khai, từ trung tâm dữ liệu đến các phòng nghiên cứu hiện đại.

Tích hợp sẵn hệ điều hành và bộ phần mềm AI

NVIDIA DGX Spark được trang bị sẵn hệ điều hành NVIDIA DGX™ OS cùng với bộ phần mềm phát triển AI toàn diện. Như vậy nếu bạn sở hữu được siêu máy tính DGX Spark bạn sẽ có được một giải pháp đầy đủ các công cụ, framework, thư viện và các mô hình AI đã được huấn luyện sẵn. Điều này giúp bạn dễ dàng triển khai các công việc AI tạo sinh (Generative AI) từ: xây dựng mô hình, huấn luyện đến suy luận, tối ưu hóa hiệu suất,..vv một cách nhanh nhất.

Hiệu suất xử lý mạnh mẽ

Bên cạnh những tính năng thông minh và tiện ích, NVIDIA DGX Spark còn có hiệu suất xử lý mạnh mẽ, đáp ứng tốt nhu cầu công việc đa dạng của người dùng.

NVIDIA DGX Spark được trang bị siêu chip NVIDIA GB10 dựa trên kiến trúc Grace Blackwell, mang lại hiệu suất lên đến 1000 AI TOPS ở độ chính xác FP4, đáp ứng các khối lượng công việc AI phức tạp.

Máy tính để bàn này sở hữu bộ nhớ hợp nhất dung lượng lớn gồm 128 GB LPDDR5x cùng với 128 GB bộ nhớ hệ thống hợp nhất (Coherent Unified System Memory), cho phép xử lý các mô hình AI lên đến 200 tỷ tham số.

Sau đây là các thành phần chủ chốt mang tới sức mạnh tính toán và xử lý cho NVIDIA DGX Spark:

• Bộ xử lý 20 nhân Arm, gồm 10 nhân Cortex-X925 và 10 nhân Cortex-A725, mang lại khả năng xử lý đa nhiệm mạnh mẽ.
• GPU kiến trúc Blackwell tích hợp Tensor Cores thế hệ thứ 5, CUDA Cores thế hệ Blackwell, và RT Cores thế hệ thứ 4, tối ưu hóa hiệu suất xử lý AI, đồ họa và các tác vụ tính toán chuyên sâu.
• 4 TB ổ cứng NVMe M.2 tích hợp mã hóa tự động, giúp bảo mật dữ liệu hiệu quả và đảm bảo tốc độ truy xuất vượt trội.
• Giao diện bộ nhớ 256-bit và băng thông bộ nhớ lên đến 273 GB/s, mang lại khả năng xử lý dữ liệu nhanh chóng và ổn định trong các tác vụ AI đòi hỏi hiệu suất cao.

Ngoài ra, NVIDIA DGX Spark cũng gây ấn tượng với khả năng kết nối đa dạng, với 4 cổng USB 4 TypeC, HDMI, kết nối Bluetooth BT 5.3. Điều này giúp người dùng có thể kết nối máy với nhiều thiết bị ngoại vi khác nhau để tăng cường năng suất làm việc.

Thông số kỹ thuật chi tiết của NVIDIA DGX Spark