FuriosaAI, startup bán dẫn Hàn Quốc chuyên chip suy luận AI, dự kiến bắt đầu sản xuất thương mại bộ xử lý mới ngay trong tháng này nhằm cạnh tranh trong thị trường AI vốn do GPU của Nvidia thống trị.
Sự dịch chuyển từ “đào tạo” sang “suy luận” đang mở ra cơ hội cho các chip tiết kiệm điện, giảm chi phí vận hành hệ thống AI. FuriosaAI đặt cược vào hiệu suất trên mỗi watt, đồng thời hưởng lợi từ hệ sinh thái bán dẫn mạnh của Hàn Quốc.
- FuriosaAI sẽ sản xuất thương mại chip suy luận AI mới trong tháng này để nhắm vào nhu cầu chạy mô hình đã huấn luyện.
- Chip RNGD được mô tả có hiệu năng tương đương GPU cao cấp nhưng tiêu thụ điện thấp hơn, giúp giảm chi phí vận hành.
- Hàn Quốc tăng tốc chiến lược AI, từ thúc đẩy GPU đến thu hút OpenAI, tạo bệ phóng cho các công ty chip suy luận.
FuriosaAI tăng tốc sản xuất thương mại chip suy luận AI để cạnh tranh Nvidia
FuriosaAI sẽ bắt đầu sản xuất thương mại bộ xử lý suy luận AI mới trong tháng này, nhắm vào giai đoạn “inference” nơi mô hình đã huấn luyện được đưa vào vận hành, qua đó mở mặt trận cạnh tranh khác với thế mạnh GPU Nvidia ở mảng huấn luyện.
FuriosaAI là startup bán dẫn Hàn Quốc thành lập năm 2017, tập trung vào chip phục vụ suy luận AI, tức chạy mô hình đã được huấn luyện thay vì huấn luyện từ đầu. Trong khi Nvidia thống trị thị trường điện toán AI nhờ GPU, nhiều startup chọn suy luận làm điểm đột phá vì đây là phần chi phí vận hành lặp lại, nhạy cảm với điện năng và hiệu quả phần cứng.
Giám đốc điều hành June Paik từng là kỹ sư chip nhớ tại Samsung Electronics và bắt đầu tập trung vào AI khoảng một thập kỷ trước, khi ông tự học qua các khóa AI trực tuyến của Đại học Stanford trong thời gian phục hồi chấn thương gân Achilles. Sau khi trở lại công việc, ông rời Samsung để theo đuổi dự án liên quan AI và cùng cộng sự thành lập FuriosaAI.
“Tôi rời đi với sự chắc chắn tuyệt đối rằng tôi phải bước vào lĩnh vực AI.”
– June Paik, CEO, phát biểu trực tiếp
Chip RNGD tập trung vào suy luận và được quảng bá có hiệu năng/điện năng cạnh tranh
Chip hiện tại của FuriosaAI có tên RNGD (“renegade”), được thiết kế cho suy luận AI; công ty cho biết chip có thể đạt hiệu năng tương đương GPU cao cấp trong khi dùng ít điện hơn, qua đó giảm tổng chi phí vận hành hệ thống AI.
Suy luận AI thường diễn ra liên tục trong sản phẩm thực tế như chatbot, tìm kiếm, đề xuất nội dung và tác vụ doanh nghiệp. Vì vậy, lợi thế về công suất tiêu thụ và hiệu năng trên mỗi watt có thể tác động trực tiếp đến chi phí điện, làm mát và mật độ triển khai trong trung tâm dữ liệu.
June Paik lập luận rằng ngành công nghệ không nên phụ thuộc quá mức vào một nhà sản xuất chip duy nhất cho điện toán AI. Theo hướng này, FuriosaAI định vị RNGD như lựa chọn bổ sung trong hệ sinh thái phần cứng AI, nhất là khi nhu cầu chạy mô hình lớn tăng mạnh cùng độ phủ của AI tạo sinh.
“Một thị trường bị thống trị bởi một người chơi duy nhất—đó không phải hệ sinh thái lành mạnh, đúng không?”
– June Paik, CEO, phát biểu trực tiếp
Định giá gần 700 triệu USD và các tín hiệu quan tâm từ khách hàng lớn
Vòng gọi vốn gần nhất định giá FuriosaAI gần 700 triệu USD; công ty cho biết đang thảo luận với các khách hàng tiềm năng, trong khi một số tổ chức lớn đã thể hiện sự quan tâm hoặc thử nghiệm chip.
FuriosaAI cho biết Meta Platforms từng tiếp cận về khả năng mua lại vào năm ngoái nhưng không đạt thỏa thuận. Tại một sự kiện gần đây ở Seoul, OpenAI đã trình diễn việc sử dụng chip Furiosa. Ngoài ra, bộ phận nghiên cứu AI của LG đang thử nghiệm và mô tả chip có “hiệu năng thực tế xuất sắc”.
Công ty cũng công khai rằng hiện đang trao đổi với các khách hàng tiềm năng. Thông tin cập nhật về trạng thái thương mại hóa được đề cập trong nội dung mà FuriosaAI chia sẻ tại liên kết: đang thảo luận với các khách hàng tiềm năng.
Năng lực đội ngũ: kinh nghiệm GPU, bộ nhớ và chiến lược quyết định nhanh
FuriosaAI được xây dựng bởi đội ngũ có nền tảng GPU và bộ nhớ, với CEO từng làm thiết kế GPU tại AMD và phát triển sản phẩm chip nhớ ở Samsung; công ty nhấn mạnh tốc độ ra quyết định và mục tiêu dài hạn trong giai đoạn đầu.
Trước khi gia nhập Samsung năm 2013, June Paik từng làm tại Advanced Micro Devices (AMD) và tham gia thiết kế GPU. Ở Samsung, ông dẫn dắt một nhóm nhỏ phát triển sản phẩm chip nhớ mới. Hồ sơ này giúp FuriosaAI kết hợp góc nhìn về kiến trúc tính toán với hiểu biết về sản xuất và tối ưu phần cứng.
Hanjoon Kim, hiện là giám đốc công nghệ (CTO), từng làm việc với Paik tại Samsung và sau đó cùng ông sáng lập FuriosaAI. Kim cho biết trong giai đoạn đầu, Paik nhấn mạnh việc ra quyết định nhanh và theo đuổi mục tiêu dài hạn, nhằm tạo lợi thế cho người đi sớm khi thị trường hình thành.
Hàn Quốc tăng tốc chiến lược AI và tạo bệ phóng cho mảng suy luận
Hàn Quốc đang ưu tiên phát triển AI nhờ năng lực phần mềm và nền tảng bán dẫn từ Samsung, SK Hynix; chính phủ coi AI là ưu tiên, hỗ trợ các thỏa thuận nguồn cung GPU và thu hút các tổ chức quốc tế mở hiện diện tại Seoul.
Với hệ sinh thái bán dẫn nội địa mạnh, Hàn Quốc đặt mục tiêu trở thành trung tâm công nghệ bên cạnh Trung Quốc và Mỹ. Chính phủ Hàn Quốc đã sắp xếp để Nvidia hoàn tất một thỏa thuận cung ứng GPU quan trọng, đồng thời OpenAI gần đây mở văn phòng tại Seoul. Các động thái này giúp tăng nhu cầu hạ tầng AI và tạo không gian cho các chip suy luận nội địa cạnh tranh ở lớp triển khai.
Trong những năm đầu, Paik thường nhắc đến cuốn “Blitzscaling: The Lightning-Fast Path to Building Massively Valuable Companies” để nhấn mạnh tầm quan trọng của quyết định nhanh và hành động táo bạo khi muốn chiếm lĩnh thị trường. Cách tiếp cận này phù hợp với chu kỳ AI thay đổi nhanh, nơi lợi thế có thể đến từ tốc độ đưa sản phẩm vào thử nghiệm và sản xuất.
RNGD được giới thiệu tại Hot Chips 2024 với thông điệp “điện toán AI bền vững”
Tại hội nghị Hot Chips 2024 của Stanford, CEO FuriosaAI giới thiệu RNGD như lời giải cho “điện toán AI bền vững”, đồng thời chia sẻ dữ liệu cho thấy chip có thể chạy mô hình Llama của Meta với hiệu quả năng lượng cao hơn hơn gấp đôi so với chip hàng đầu của Nvidia.
Trong bài phát biểu chính tại Hot Chips 2024, Paik mô tả RNGD là bước tiến hướng tới vận hành AI hiệu quả năng lượng, nhằm ứng phó áp lực chi phí điện và giới hạn hạ tầng trung tâm dữ liệu khi mô hình ngày càng lớn. Ông cho biết chip có thể chạy mô hình ngôn ngữ lớn Llama của Meta với hiệu quả năng lượng vượt hơn gấp đôi so với các chip cao cấp hàng đầu của Nvidia.
“Đó là khoảnh khắc chúng tôi cảm thấy có thể thực sự tiến lên phía trước với con chip của mình một cách tự tin.”
– June Paik, CEO, phát biểu tại Hot Chips 2024
Những câu hỏi thường gặp
FuriosaAI đang sản xuất thương mại chip nào?
FuriosaAI cho biết sẽ bắt đầu sản xuất thương mại bộ xử lý suy luận AI trong tháng này. Chip hiện tại của hãng được nhắc đến là RNGD (viết tắt của “renegade”), hướng đến giai đoạn suy luận khi chạy mô hình đã huấn luyện.
Chip RNGD nhắm tới phần nào trong vòng đời mô hình AI?
RNGD tập trung vào “inference”, tức chạy các mô hình AI đã được huấn luyện để phục vụ ứng dụng thực tế. Đây là mảng khác với “training” (huấn luyện), nơi GPU của Nvidia đang thống trị rộng rãi.
FuriosaAI nói gì về hiệu năng và điện năng so với GPU Nvidia?
Theo CEO June Paik, chip FuriosaAI có thể cung cấp hiệu năng tương đương GPU tinh vi của Nvidia nhưng tiêu thụ ít điện hơn, giúp giảm chi phí vận hành tổng thể khi triển khai hệ thống AI.
FuriosaAI được định giá bao nhiêu ở vòng gọi vốn gần nhất?
Vòng gọi vốn mới nhất được nêu trong bài định giá FuriosaAI gần 700 triệu USD.
Những tổ chức nào đã thể hiện sự quan tâm tới chip FuriosaAI?
Bài viết cho biết Meta Platforms từng tiếp cận về khả năng mua lại nhưng không chốt thỏa thuận. OpenAI đã trình diễn việc dùng chip Furiosa tại một sự kiện ở Seoul, còn bộ phận nghiên cứu AI của LG đang thử nghiệm và ghi nhận hiệu năng thực tế tốt.