Google đã hạn chế khả năng Meta sử dụng Gemini do nhu cầu tính toán AI của Meta vượt quá năng lực cung ứng hiện có.
Việc thiếu compute đã làm chậm và gián đoạn một số dự án AI nội bộ của Meta, đồng thời phản ánh áp lực hạ tầng đang bao trùm ngành AI nói chung. Với các doanh nghiệp phụ thuộc vào mô hình bên ngoài, năng lực xử lý có thể trở thành nút thắt thay vì chất lượng mô hình.
- Google không thể đáp ứng toàn bộ nhu cầu Gemini mà Meta yêu cầu.
- Meta đã dùng Gemini cho kiểm duyệt nội dung, hỗ trợ khách hàng, chatbot quảng cáo và lập trình.
- Áp lực compute đang khiến nhiều công ty AI phải tìm thêm hạ tầng và điều chỉnh phân bổ công việc.
Meta bị giới hạn quyền truy cập Gemini như thế nào
Google đã đặt mức trần cho lượng Gemini mà Meta có thể sử dụng. Quyết định này xuất hiện sau khi nhu cầu AI compute của Meta vượt quá năng lực khả dụng của Google Cloud.
Khoảng tháng 3, bộ phận cloud của Alphabet thông báo với Meta rằng các yêu cầu về năng lực Gemini không thể được đáp ứng đầy đủ. Việc này khiến một số dự án AI nội bộ của Meta bị chậm lại hoặc gián đoạn.
Vì sao Meta phải dùng Gemini thay vì chỉ dựa vào Llama
Gemini là lựa chọn mà Meta dùng cho một số tác vụ khi mô hình Llama nguồn mở của chính công ty không đạt hiệu quả tương đương. Meta đã dùng Gemini cho kiểm duyệt nội dung, loại bỏ nội dung độc hại, phát hiện lừa đảo, tự động hóa chăm sóc khách hàng, chatbot quảng cáo và lập trình.
Meta cũng được cho là đang dùng Claude của Anthropic cho các khối lượng công việc tương tự. Việc này cho thấy Meta đang phân tán nhu cầu AI giữa nhiều mô hình và nhà cung cấp thay vì chỉ dựa vào một hệ thống duy nhất.
Áp lực compute đang buộc Meta điều chỉnh vận hành AI
Meta đã yêu cầu nhân viên sử dụng token AI hiệu quả hơn sau khi bị giới hạn truy cập. Công ty đồng thời đẩy nhanh phát triển Muse Spark, mô hình nội bộ thuộc Superintelligence Labs, và chuyển dần một phần khối lượng công việc khỏi Gemini sang nền tảng này.
Meta cũng đã cắt 8.000 việc làm vào tháng 5 và phân công lại 7.000 nhân sự sang các vị trí liên quan đến AI. Những thay đổi này phản ánh nỗ lực giảm phụ thuộc vào hạ tầng bên ngoài trong bối cảnh nhu cầu xử lý tiếp tục tăng.
Khủng hoảng hạ tầng AI không chỉ là chuyện của Meta
Không chỉ Meta, một số khách hàng khác của Google cũng đang bị giảm mức truy cập, dù ở mức độ nhẹ hơn. Google vẫn là một trong những nhà cung cấp hạ tầng AI lớn nhất, nhưng nguồn lực hiện tại vẫn chưa đáp ứng hết nhu cầu compute tăng mạnh.
Do hạn chế về năng lực xử lý, doanh thu Google Cloud đạt 20 tỷ USD trong quý I nhưng Sundar Pichai thừa nhận đây là yếu tố cản trở tăng trưởng cao hơn và khiến backlog của mảng cloud tăng gấp đôi trong quý vừa qua.
Google cũng đã đồng ý trả SpaceX 920 triệu USD mỗi tháng để tiếp cận 110.000 GPU Nvidia như một nguồn “bridge capacity” cho Gemini Enterprise. Ở phía khác, Anthropic cũng đang thuê riêng một trung tâm dữ liệu từ SpaceX, cho thấy điểm nghẽn lớn nhất hiện nay của AI là hạ tầng vật lý để chạy mô hình.
Tổng kết
Trường hợp của Meta và Google cho thấy nhu cầu AI compute đang vượt xa năng lực cung ứng, ngay cả ở các tập đoàn lớn. Trong ngắn hạn, hạ tầng và khả năng phân bổ tài nguyên sẽ tiếp tục là biến số quan trọng với các công ty AI.
