Bạn có biết tại sao một gã khổng lồ công nghệ 100 năm tuổi lại chi 240 triệu USD để thuê một startup AI chỉ mới 2 tuổi? Không phải vì IBM thiếu tiền, mà vì họ hiểu rằng cuộc đua AI inference đang bước vào giai đoạn quyết định, và tự xây dựng từ đầu là quá chậm.
Context: Bối cảnh giao thức và triết lý phi tập trung Khi tôi còn là sinh viên khoa học dữ liệu năm 2017, tôi từng mơ về một thế giới nơi các hợp đồng thông minh thay thế hoàn toàn các trung gian tài chính. Nhưng giờ đây, khi chứng kiến IBM – biểu tượng của tập trung hóa doanh nghiệp – bắt tay với Together AI, một startup đề cao mã nguồn mở và phi tập trung hóa, tôi nhận ra rằng sự hội tụ giữa sức mạnh tập trung và tinh thần mở là không thể tránh khỏi. Together AI là nền tảng inference cloud chuyên tối ưu hóa các mô hình mã nguồn mở như Llama, Mistral, sử dụng các framework như vLLM. IBM, với watsonx, cần một lớp inference hiệu quả để phục vụ doanh nghiệp. Thỏa thuận này không chỉ là mua bán, mà là sự công nhận rằng mã nguồn mở có thể đáp ứng nhu cầu doanh nghiệp.
Core: Phân tích kỹ thuật và giá trị cốt lõi Dựa trên kinh nghiệm audit của tôi trong lĩnh vực Layer2 và DeFi, tôi nhận thấy thỏa thuận này có ba điểm kỹ thuật đáng chú ý. Thứ nhất, quy mô cụm inference: với 240 triệu USD, ước tính có thể triển khai từ 5.000 đến 10.000 GPU H100/H200. Đây là quy mô đủ lớn để phục vụ hàng nghìn doanh nghiệp cùng lúc, nhưng cũng đặt ra thách thức về vận hành – Together AI chưa từng vận hành cụm quy mô này. Thứ hai, tối ưu hóa inference: Together AI sử dụng PagedAttention, continuous batching – những kỹ thuật giúp tăng throughput gấp 2-3 lần so với inference cơ bản. Điều này có thể giảm chi phí token cho khách hàng IBM, tạo lợi thế cạnh tranh so với Azure OpenAI. Thứ ba, kiến trúc đa tenant: Cụm inference phải hỗ trợ nhiều khách hàng doanh nghiệp với SLA 99,9%+. Điều này đòi hỏi cơ chế cô lập tài nguyên và KV cache mạnh mẽ – một lĩnh vực mà Together AI chưa có nhiều kinh nghiệm. Tôi từng chứng kiến các dự án DeFi 2020 thất bại vì không dự phòng được sự tăng đột biến của người dùng; rủi ro tương tự có thể xảy ra nếu IBM không có kế hoạch dự phòng.
Contrarian: Góc nhìn phản trực giác Nhiều người cho rằng thỏa thuận này là tín hiệu tích cực cho Together AI. Tôi nghĩ ngược lại: Thỏa thuận này có thể là con dao hai lưỡi. Together AI sẽ phải đối mặt với gánh nặng chi phí vốn (capex) lớn – ước tính họ phải đầu tư 100-150 triệu USD để mua GPU, trong khi hợp đồng 240 triệu USD có thể trả dần trong 3-5 năm. Nếu tỷ lệ sử dụng cụm dưới 60%, họ sẽ thua lỗ. Hơn nữa, IBM có thể đang thử nghiệm – nếu thành công, họ sẽ tự xây dựng inference stack nội bộ và loại bỏ Together AI. Tương tự như cách Microsoft từng hợp tác với OpenAI rồi sau đó phát triển mô hình riêng. Một điểm mù khác: Tính phi tập trung bị xói mòn. Together AI vốn là biểu tượng của mã nguồn mở, nhưng khi phục vụ IBM, họ có thể phải ưu tiên các mô hình độc quyền hoặc hạn chế tính năng cho đối thủ cạnh tranh. Điều này đi ngược lại tinh thần DeFi mà tôi theo đuổi.
Takeaway: Tầm nhìn tiến bộ Nếu bạn là nhà đầu tư, hãy nhìn vào thỏa thuận này như một phép thử: Liệu mô hình “inference-as-a-service” dựa trên mã nguồn mở có thể cạnh tranh với các ông lớn đóng như AWS Bedrock? Nếu thành công, nó sẽ mở đường cho hàng loạt giao thức phi tập trung mới – nơi các doanh nghiệp không cần tin tưởng vào một bên trung gian duy nhất. Nhưng nếu thất bại, nó sẽ là bài học đắt giá về việc hy sinh tính phi tập trung để đổi lấy doanh thu. Còn với tôi, một người từng mất 5000 USD trong sự sụp đổ của FTX, tôi nhìn thấy một sự tương đồng: sự phấn khích thị trường tăng thường che giấu những lỗi kỹ thuật. Hãy nhìn vào code, đừng nhìn vào PR.