B200 là một trong những GPU AI thế hệ mới và mạnh nhất của NVIDIA, được thiết kế cho các hệ thống siêu máy tính và trung tâm dữ liệu AI. Điểm quan trọng của B200 là khả năng xử lý các mô hình AI rất lớn với tốc độ cao hơn, tiết kiệm năng lượng hơn. Nó giúp rút ngắn thời gian huấn luyện, triển khai AI tạo sinh, phân tích dữ liệu lớn và mô phỏng phức tạp. Vì vậy, B200 không chỉ là một con chip mạnh, mà là nền tảng hạ tầng cho kỷ nguyên AI.

Từ bài toán đầu tư chưa từng có tiền lệ

Chia sẻ về quá trình tham gia thương vụ mua sắm hệ thống B200, chị Nguyễn Minh Vân, Lãnh đạo phòng – Phòng Đầu tư - Pháp chế, Trung tâm Dịch vụ dữ liệu và Trí tuệ nhân tạo Viettel, cho biết: cảm xúc đầu tiên của chị là hào hứng, nhưng cũng có không ít áp lực. Hào hứng vì đây là một nhiệm vụ mới, khó và có ý nghĩa lớn đối với Viettel AI cũng như Tập đoàn. Áp lực vì đây là việc chưa từng có tiền lệ, liên quan đến nhiều yếu tố phức tạp từ nguồn cung, thủ tục đầu tư, pháp lý trong nước đến các quy định quốc tế. Tuy nhiên, chị Vân cho rằng niềm tin lớn nhất đến từ sự chỉ đạo sát sao của Ban Giám đốc Viettel AI, cùng sự đồng hành của các đơn vị ngành dọc trong Tập đoàn.

Theo chị Nguyễn Minh Vân, việc mua được hệ thống B200 không đơn giản là “có ngân sách thì mua được”. Đây là thương vụ chịu tác động của rất nhiều điều kiện cùng lúc: nguồn cung trên thế giới khan hiếm, nhiều tập đoàn công nghệ lớn cũng đang chờ mua; thiết bị lại thuộc nhóm công nghệ cao, chịu các quy định kiểm soát xuất khẩu rất chặt chẽ. Vì vậy, bên cạnh năng lực tài chính, Viettel phải chuẩn bị đầy đủ hồ sơ pháp lý, chứng minh rõ mục đích sử dụng, đáp ứng các yêu cầu về nhập khẩu và lựa chọn đúng thời điểm thị trường.

Khó khăn lớn nhất, theo chị Vân, không nằm ở bản thân máy móc mà nằm ở các quy định kiểm soát xuất khẩu của Bộ Thương mại Mỹ, đặc biệt với những thị trường được quản lý chặt, trong đó có Việt Nam. Nói một cách dễ hiểu, Viettel không chỉ phải thuyết phục được nhà cung cấp bán hàng, mà còn phải đáp ứng đầy đủ điều kiện để thương vụ được xem xét, phê duyệt theo đúng quy định quốc tế.

Để không bị “đứng ngoài hàng chờ” trong bối cảnh nguồn cung B200 rất khan hiếm, Viettel AI đã kết hợp đồng thời cả nội lực và ngoại lực. Về nội lực, đơn vị chủ động nghiên cứu kỹ các quy định liên quan đến nhập khẩu GPU, chuẩn bị sớm hồ sơ, tài liệu và các điều kiện cần thiết để khi có cơ hội là có thể triển khai ngay. Việc Viettel ký Biên bản hợp tác với NVIDIA cũng góp phần khẳng định vị thế của Viettel là một đối tác chiến lược, uy tín tại khu vực châu Á.

Về ngoại lực, thông qua các kênh làm việc với Đại sứ quán Việt Nam tại Mỹ, cùng các cuộc gặp cấp cao giữa Chính phủ Việt Nam và NVIDIA, Viettel đã thể hiện rõ nhu cầu sử dụng GPU cho nghiên cứu khoa học công nghệ, phát triển AI và xây dựng năng lực công nghệ lõi. Điều này giúp tăng mức độ tin cậy và tạo thuận lợi hơn cho quá trình xét duyệt.

Với vai trò phụ trách đầu tư - pháp chế, chị Nguyễn Minh Vân nhấn mạnh yêu cầu quan trọng nhất là phải làm nhanh nhưng tuyệt đối đúng luật, đúng quy trình. Đối với quy trình đầu tư của doanh nghiệp nhà nước, nguyên tắc là tuân thủ đầy đủ 100%, không được bỏ qua bất kỳ bước nào. Tuy nhiên, tuân thủ không có nghĩa là chậm. Đội ngũ phải bám sát từng khâu, phối hợp chặt với các bên liên quan để các thủ tục thẩm định, phê duyệt được đẩy nhanh ở mức cao nhất có thể. Với các rào cản quốc tế, Viettel AI phối hợp thường xuyên với đại diện của NVIDIA tại Việt Nam và nhà thầu để chuẩn bị hồ sơ đầy đủ, đồng thời yêu cầu nhà thầu có nhân sự theo sát quá trình phê duyệt từ phía Bộ Thương mại Mỹ, kịp thời xử lý nếu có phát sinh.

Nhìn lại thời điểm khó khăn nhất, chị Vân cho biết điều giúp chị và đội ngũ tiếp tục theo đuổi đến cùng là sự tin tưởng, động viên và cam kết hỗ trợ từ Ban lãnh đạo Viettel AI. Với một nhiệm vụ mới, chưa có nhiều kinh nghiệm tham chiếu, sự đồng hành của tập thể là điểm tựa rất quan trọng. Điều đó giúp những người trực tiếp triển khai có thêm quyết tâm để tìm cách tháo gỡ từng vướng mắc, thay vì dừng lại trước các rào cản về thủ tục hay quy định.

Từ trải nghiệm của mình, chị Nguyễn Minh Vân muốn gửi gắm tới những người Viettel trẻ sau này nếu nhận nhiệm vụ tương tự rằng: hãy luôn giữ tinh thần làm việc nhanh, đúng và hiệu quả, nhưng trên hết phải thượng tôn pháp luật. Trong các dự án công nghệ lớn, tốc độ rất quan trọng, bởi cơ hội thị trường có thể trôi qua rất nhanh. Nhưng tốc độ chỉ có ý nghĩa khi đi cùng sự chuẩn mực, minh bạch và bền vững. Làm nhanh nhưng phải chắc, quyết liệt nhưng phải đúng quy định, đó là yêu cầu bắt buộc với một doanh nghiệp như Viettel.

Với chị Vân, thương vụ B200 không chỉ là một hợp đồng mua sắm thiết bị. Đó là niềm vui khi hoàn thành được một việc mới, việc khó, nhưng lớn hơn là niềm tự hào vì được góp phần xây dựng hạ tầng mạnh cho nghiên cứu và phát triển AI của Viettel AI nói riêng, Tập đoàn Viettel nói chung. Giá trị của thương vụ không chỉ nằm ở những thiết bị được đưa về, mà còn ở năng lực tổ chức, năng lực pháp lý, năng lực phối hợp và bản lĩnh xử lý các bài toán chưa từng có tiền lệ của người Viettel.

Khi mỗi chi tiết nhỏ đều ảnh hưởng tới hiệu năng toàn hệ thống

Ở góc độ hạ tầng vận hành, anh Đỗ Chiến Thắng, PM dự án tại VTNet, cho biết: B200 không giống các hệ thống máy chủ thông thường mà Viettel từng triển khai. Nếu máy chủ truyền thống chủ yếu cần bảo đảm đủ điện, đủ mát và kết nối mạng ổn định, thì với B200, mọi yêu cầu đều được đẩy lên một mức cao hơn rất nhiều. Đây là hệ thống phục vụ AI, nơi nhiều bộ xử lý đồ họa phải phối hợp với nhau gần như tức thời để cùng xử lý một bài toán lớn. Vì vậy, chỉ cần một điểm nghẽn nhỏ trong kết nối, làm mát hoặc cấp điện, hiệu năng của cả hệ thống đều có thể bị ảnh hưởng.

Theo anh Thắng, có thể hình dung B200 như một “đội hình” gồm nhiều GPU cùng làm việc. Muốn đội hình này phát huy tối đa sức mạnh, các GPU phải trao đổi dữ liệu với nhau cực nhanh, gần như không có độ trễ. Điều đó đòi hỏi hệ thống mạng bên trong phải được thiết kế riêng cho AI, có băng thông rất lớn và độ ổn định rất cao. Với Viettel, thách thức không chỉ là có thiết bị mạng tốt, mà còn là triển khai từng sợi cáp, từng cổng kết nối, từng tuyến truyền dẫn thật chính xác. Ở tốc độ truyền dữ liệu rất cao, một sợi cáp bị uốn cong quá mức, một đầu nối có bụi hoặc một tuyến quang bị suy hao cũng có thể làm giảm hiệu năng toàn cụm.

Một bài toán lớn khác là làm mát. Với B200, chỉ 2 node trong một tủ rack đã có thể tiêu thụ tới 25–30 kW điện, đồng nghĩa lượng nhiệt tỏa ra lớn hơn nhiều so với các tủ máy chủ thông thường. Nếu ví trung tâm dữ liệu như một căn phòng đặt nhiều “động cơ” đang chạy liên tục, thì B200 là những động cơ có công suất rất lớn. Làm mát bằng điều hòa phòng máy như cách truyền thống là chưa đủ, vì khí nóng cần được xử lý ngay khi vừa thoát ra khỏi thiết bị.

Vì vậy, VTNet phải bố trí hệ thống làm mát trực tiếp tại phía sau tủ rack. Có thể hiểu đây là một “cánh cửa làm mát” đặt ở mặt sau tủ, nơi khí nóng từ máy chủ đi ra. Thay vì để khí nóng lan ra cả phòng rồi mới xử lý, hệ thống này hấp thụ nhiệt ngay tại nguồn. Bên cạnh đó, VTNet bố trí thêm điều hòa đặt giữa các dãy tủ để tăng cường luồng khí mát cho khu vực xung quanh. Ngay cả những tấm chắn khe trống trong tủ rack cũng trở nên quan trọng, vì nếu còn khe hở, khí nóng và khí lạnh sẽ bị trộn lẫn, làm giảm hiệu quả làm mát. Nói cách khác, luồng khí phải đi đúng “đường”: khí mát đi vào phía trước thiết bị, khí nóng thoát ra phía sau và được xử lý ngay tại đó.

Ở tầng điện, yêu cầu cũng khắt khe hơn rất nhiều. Với các hệ thống AI, mỗi tác vụ huấn luyện có thể chạy liên tục trong nhiều giờ, nhiều ngày. Nếu nguồn điện chập chờn hoặc một tủ rack bất ngờ vượt tải, tác vụ có thể bị gián đoạn, kéo theo lãng phí lớn về thời gian và tài nguyên GPU. Vì vậy, VTNet triển khai hệ thống ổ phân phối nguồn thông minh để theo dõi mức tiêu thụ điện theo thời gian thực. Nhờ đó, đội ngũ vận hành biết tủ nào đang dùng nhiều điện, thời điểm nào có nguy cơ vượt ngưỡng, từ đó xử lý sớm trước khi xảy ra sự cố.

Những cánh quạt tạo thành 1 cánh cửa đằng sau tủ rack giúp hạ nhiệt cho siêu máy tính, đảm bảo công suất cao nhất.

Theo anh Thắng, điểm khác biệt lớn nhất khi vận hành B200 là hệ thống không chấp nhận cách làm “lắp xong là chạy”. Với máy chủ thông thường, phần triển khai và cài đặt thường chiếm nhiều thời gian. Nhưng với B200, cài đặt chỉ là bước đầu. Phần tốn nhiều công sức nhất là kiểm thử: kiểm từng máy chủ, từng kết nối, từng tuyến mạng, từng cấu hình phần mềm, từng phiên bản firmware để bảo đảm tất cả thành phần hoạt động đồng đều. Nếu một thành phần chạy chậm, cả cụm có thể bị kéo chậm theo.

Đây cũng là thời điểm đội ngũ VTNet nhận ra B200 là một hệ thống rất khác. Một chi tiết nhỏ như đầu cáp có bụi, một kết nối quang không đạt chuẩn hoặc một máy chủ chưa tối ưu firmware đều có thể khiến hiệu năng không đạt yêu cầu. Với B200, yêu cầu cao hơn là hệ thống phải hoạt động ổn định và đạt đúng hiệu năng thiết kế.

Áp lực với đội ngũ vận hành vì thế không chỉ là áp lực kỹ thuật, mà còn là áp lực về hiệu quả đầu tư. Trong AI, năng lực tính toán được quy đổi thành GPU-giờ. Mỗi giờ GPU không được sử dụng hiệu quả đều là một phần tài nguyên bị lãng phí. Một lỗi nhỏ làm gián đoạn tác vụ huấn luyện có thể khiến công việc phải chạy lại, mất thêm nhiều giờ hoặc nhiều ngày. Vì vậy, mỗi thao tác vận hành đều phải chính xác, cẩn trọng và có phương án dự phòng.

Chỉ cần đầu cáp quang có bụi cũng khiến hiệu năng gián đoạn.

Để làm chủ hệ thống này, VTNet phải bổ sung nhiều năng lực mới. Đội ngũ không chỉ cần hiểu về mạng và trung tâm dữ liệu, mà còn phải hiểu về hạ tầng tính toán hiệu năng cao, vận hành AI, lưu trữ tốc độ cao, làm mát, cấp điện và cách các mô hình AI sử dụng tài nguyên. Đây là mảng nhân lực còn khá mới tại Việt Nam, nên cách tiếp cận của VTNet là lấy nguồn lực nội bộ làm nòng cốt, vừa triển khai vừa học, vừa làm việc với hãng vừa tự tích lũy kinh nghiệm thực tế.

Với anh Đỗ Chiến Thắng và đội ngũ VTNet, vận hành B200 không chỉ là đưa một hệ thống máy móc hiện đại vào trung tâm dữ liệu. Đó là quá trình Viettel học cách làm chủ một lớp hạ tầng mới cho AI: nơi điện, làm mát, mạng, lưu trữ, phần mềm và con người phải phối hợp chính xác như một chỉnh thể thống nhất.