Meta đang đẩy mạnh chip AI tùy biến MTIA để giảm phụ thuộc vào Nvidia, với kế hoạch tung 4 thế hệ chip mới trong 2 năm tới nhằm phục vụ khối lượng công việc AI ngày càng tăng.
MTIA được Meta khởi động từ năm 2023 và đang trở thành trụ cột trong chiến lược hạ tầng AI nội bộ. Công ty theo “cách tiếp cận danh mục”, vừa tiếp tục mua silicon từ nhiều nhà cung cấp, vừa ưu tiên chip tự thiết kế cho các tác vụ xếp hạng, gợi ý và GenAI.
- Meta chuẩn bị 4 thế hệ chip MTIA mới (300, 400, 450, 500) để tăng hiệu năng và hiệu suất vận hành AI.
- Chiến lược ưu tiên inference giúp tối ưu chi phí cho các tác vụ GenAI vận hành thực tế.
- Meta dùng thiết kế mô-đun và tiêu chuẩn mở để rút ngắn chu kỳ ra mắt chip và dễ triển khai trong trung tâm dữ liệu.
Meta tăng tốc phát triển chip AI MTIA để đa dạng hóa nguồn cung phần cứng
Meta mở rộng MTIA nhằm giảm rủi ro phụ thuộc vào một nhà cung cấp GPU, đồng thời tối ưu phần cứng theo đúng nhu cầu AI nội bộ như xếp hạng, gợi ý và GenAI.
Meta cho biết MTIA được thiết kế để phục vụ các “công việc của chính Meta” thay vì mục đích sử dụng đại trà. Cách làm này giúp công ty kiểm soát tốt hơn toàn bộ ngăn xếp từ phần mềm đến phần cứng, tạo ra hệ thống “full-stack” tối ưu cho các tác vụ chạy mỗi ngày trong các ứng dụng của Meta.
Công ty nhấn mạnh không đặt cược vào một nhà cung cấp hay một loại phần cứng duy nhất. Thay vào đó, Meta sẽ tiếp tục mua silicon từ nhiều hãng trong ngành, đồng thời đưa MTIA làm trung tâm trong kế hoạch hạ tầng AI nội bộ theo hướng pha trộn chip bên ngoài và silicon tự phát triển.
Theo Meta, cách tiếp cận “portfolio” giúp linh hoạt khi khối lượng công việc AI thay đổi theo thời gian. Điều này đặc biệt quan trọng trong bối cảnh kỹ thuật và mô hình GenAI tiến hóa nhanh, đòi hỏi hạ tầng có thể thích nghi mà không phải “giao cả hệ thống” cho một vendor duy nhất.
Meta triển khai 4 thế hệ MTIA mới theo lịch nhanh hơn thông lệ ngành
Meta đang xây dựng MTIA 300, 400, 450 và 500, trong đó MTIA 300 đã sản xuất, còn các bản tiếp theo hướng tới tăng compute, băng thông bộ nhớ và hiệu suất để phục vụ GenAI đến năm 2027.
Meta cho biết họ đã dùng “hàng trăm nghìn” chip MTIA cho inference liên quan đến nội dung tự nhiên và quảng cáo trên các ứng dụng của hãng. Trọng tâm là inference vì đây là phần khối lượng công việc thường xuyên khi mô hình đã triển khai phục vụ người dùng và hệ thống quảng cáo.
Vì chip được tối ưu theo các tác vụ cụ thể, Meta nói cấu hình này giúp tăng hiệu quả tính toán cho đúng use case và giảm chi phí so với chip đa dụng. Lợi thế đến từ việc đồng bộ phần cứng với những quy trình xử lý mà các hệ thống xếp hạng và gợi ý phải chạy liên tục.
Trong lộ trình sản phẩm, Meta cho biết MTIA 300 đã đi vào sản xuất và sẽ đảm nhiệm huấn luyện cho các tác vụ xếp hạng và gợi ý. Các thế hệ MTIA 400, 450 và 500 có thể chạy mọi workload, nhưng giai đoạn gần nhất sẽ tập trung vào GenAI inference trong môi trường production và duy trì định hướng này đến năm 2027.
Meta cũng nêu chip MTIA có thiết kế mô-đun, cho phép tích hợp vào hệ thống rack hiện có. Điều này giúp rút ngắn thời gian từ thiết kế đến triển khai vì giảm nhu cầu thay đổi hạ tầng vật lý quy mô lớn mỗi khi cập nhật chip.
Về tốc độ ra mắt, Meta cho biết thông thường ngành chỉ tung chip AI mới mỗi 1–2 năm. Tuy nhiên, nhờ tái sử dụng thiết kế mô-đun, công ty nói họ có năng lực phát hành chip của riêng mình mỗi 6 tháng hoặc ít hơn, tạo lợi thế về nhịp nâng cấp phần cứng khi kỹ thuật AI thay đổi.
Meta đặt inference làm ưu tiên trong chiến lược chip AI
Meta thiết kế MTIA theo hướng inference-first, tức tối ưu trước cho vận hành GenAI thực tế, rồi mới mở rộng sang các tác vụ khác như xếp hạng, gợi ý và huấn luyện khi cần.
Meta phân biệt cách tiếp cận của mình với mô hình phổ biến trên thị trường: nhiều chip AI đại trà thường được tối ưu trước cho các bài toán pre-training GenAI quy mô lớn, sau đó mới đưa sang các tác vụ khác, đôi khi kéo theo mức chi phí không tối ưu cho inference vận hành liên tục.
Ngược lại, Meta cho biết MTIA 450 và MTIA 500 sẽ được “tinh chỉnh trước” cho GenAI inference. Sau đó, chúng có thể dùng cho huấn luyện và inference của xếp hạng, gợi ý, cũng như GenAI training khi phát sinh nhu cầu tương ứng.
MTIA tận dụng tiêu chuẩn mở để dễ tích hợp hệ sinh thái AI và trung tâm dữ liệu
Meta xây MTIA dựa trên công cụ phổ biến và tiêu chuẩn mở, giúp giảm ma sát tích hợp với phần mềm AI hiện có và triển khai nhanh trong trung tâm dữ liệu.
Meta cho biết MTIA được thiết kế ngay từ đầu để làm việc với các công cụ và hệ thống tiêu chuẩn, gồm PyTorch, vLLM, Triton và Open Compute Project (OCP). Đồng thời, thiết kế hệ thống và rack cũng tuân theo tiêu chuẩn OCP để phù hợp với triển khai trong trung tâm dữ liệu.
Trong cập nhật của mình, Meta giải thích chu kỳ phát hành ngắn giúp công ty điều chỉnh nhanh khi kỹ thuật AI đổi hướng, hấp thụ công nghệ phần cứng mới và giảm chi phí phát triển cũng như triển khai các phiên bản chip mới. Bài công bố của Meta có thể xem tại thông tin chính thức từ Meta.
Meta cũng nhấn mạnh không có một con chip duy nhất có thể đáp ứng mọi nhu cầu. Vì vậy, công ty dự kiến triển khai nhiều loại chip cho nhiều workload khác nhau, trong khi tiếp tục theo đuổi mục tiêu mà họ mô tả là “personal superintelligence for all”.
Những câu hỏi thường gặp
MTIA là gì và Meta bắt đầu phát triển từ khi nào?
MTIA (Meta Training and Inference Accelerator) là dòng chip AI tùy biến của Meta cho các tác vụ AI nội bộ. Meta cho biết họ bắt đầu chương trình MTIA vào năm 2023.
Meta đang chuẩn bị những thế hệ MTIA nào?
Meta cho biết họ đang xây dựng MTIA 300, 400, 450 và 500. MTIA 300 đã ở trạng thái sản xuất và phục vụ huấn luyện cho xếp hạng, gợi ý; các thế hệ còn lại hướng tới GenAI inference trong production trong giai đoạn gần và kéo dài đến 2027.
Vì sao Meta ưu tiên thiết kế inference-first cho MTIA?
Meta cho rằng inference là khối lượng công việc vận hành thường xuyên và cần tối ưu chi phí. Do đó, MTIA 450 và 500 được tinh chỉnh trước cho GenAI inference, sau đó mới mở rộng cho các tác vụ xếp hạng, gợi ý và huấn luyện khi cần.
Thiết kế mô-đun của MTIA mang lại lợi ích gì?
Meta cho biết kiến trúc mô-đun giúp chip mới có thể tích hợp vào hạ tầng rack hiện có, qua đó giảm thời gian chờ giữa khâu thiết kế và triển khai trong trung tâm dữ liệu.
MTIA hỗ trợ những tiêu chuẩn và công cụ nào?
Meta cho biết MTIA được xây trên các công cụ và tiêu chuẩn phổ biến như PyTorch, vLLM, Triton và Open Compute Project (OCP), đồng thời hệ thống rack tuân theo chuẩn OCP để dễ triển khai ở data center.
