Startup có trụ sở tại Nam Phi ra mắt mô hình AI với bộ nhớ 10 triệu token

Refiant AI, một công ty khởi nghiệp có trụ sở tại Nam Phi sử dụng các thuật toán để nén mô hình trí tuệ nhân tạo (AI), đã ra mắt Protea, một bộ mô hình ngôn ngữ lớn (LLMs) mà công ty cho biết có khả năng xử lý lên đến 10 triệu token trong một lần nhắc lệnh. 

Theo công ty, các mô hình này có thể xử lý và lưu giữ lượng thông tin lớn hơn đáng kể cùng một lúc trước khi tạo ra phản hồi. Protea có ba phiên bản với cửa sổ ngữ cảnh gồm một triệu, năm triệu và 10 triệu token, và có thể truy cập miễn phí thông qua nền tảng của Refiant mà không cần danh sách chờ hoặc quy trình phê duyệt. 

Vụ ra mắt diễn ra ba tháng sau khi Refiant AI huy động được vòng gọi vốn hạt giống trị giá 5 triệu USD do VoLo Earth Ventures dẫn đầu nhằm mở rộng nền tảng tối ưu hóa AI và củng cố các quan hệ đối tác nghiên cứu. Protea đánh dấu lần ra mắt sản phẩm lớn đầu tiên của Refiant kể từ khi huy động vốn.

“Khách hàng không cần thêm danh sách chờ,” Mathew Haswell, đồng sáng lập Defiant AI, cho biết. “Họ cần những mô hình mà họ có thể thử nghiệm, phá vỡ và xây dựng cùng. Protea đã hoạt động, và chúng tôi muốn mọi người sử dụng nó ngay từ ngày đầu tiên.”  

Được thành lập vào năm 2025 bởi Haswell, Viroshan Naicker và Siddharth Gutta, Refiant AI đang xây dựng các hệ thống học máy để giảm chi phí tính toán và cải thiện hiệu quả của mô hình AI.

Theo công ty, ở công suất tối đa, Protea có thể chứa khoảng 7,5 triệu từ, cho phép người dùng phân tích khối lượng thông tin lớn mà không cần chia nhỏ thành các phần riêng biệt. Công ty cũng bổ sung rằng mức độ ngữ cảnh như vậy có thể cho phép các đội ngũ pháp lý xem xét hàng trăm hợp đồng trong một lượt, các công ty bảo hiểm phân tích dữ liệu khiếu nại nhiều năm, và các đội kỹ sư xử lý toàn bộ cơ sở mã nguồn phần mềm.

Vụ ra mắt diễn ra trong bối cảnh các công ty AI ngày càng cạnh tranh để mở rộng lượng thông tin mà mô hình của họ có thể xử lý cùng một lúc. Claude của Anthropic hỗ trợ cửa sổ ngữ cảnh lên đến 500.000 token trên một số gói Enterprise, trong khi Gemini của Google cung cấp lên đến một triệu token trên các gói cao cấp hơn. 

Khi các nhà phát triển AI chuyển sang cải thiện hiệu suất bằng cách mở rộng cửa sổ ngữ cảnh, Refiant đặt cược rằng bộ nhớ AI lớn hơn sẽ mang lại lợi thế cho các doanh nghiệp khi phân tích các tập dữ liệu lớn.

“AI ngữ cảnh dài đã được thảo luận trong hơn một năm nay, nhưng vẫn chưa thực sự có sẵn về mặt thương mại,” Naicker, CEO và đồng sáng lập của Refiant, cho biết. 

Công ty cho biết họ đã trình diễn một nguyên mẫu nội bộ có khả năng xử lý lên đến 100 triệu token và đang tìm hiểu cách đánh giá hiệu năng cũng như đưa công nghệ này vào sản xuất. Công ty cũng bổ sung rằng Protea là sản phẩm đầu tiên trong ba đợt phát hành sản phẩm đã lên kế hoạch.

Quy mô thực sự đòi hỏi phải vượt qua các tích hợp bề mặt để hướng tới việc thực thi mạnh mẽ. Chúng tôi đã lọc bỏ những yếu tố nhiễu từ Moonshot 2026, tối ưu hóa hội nghị nghiêm ngặt cho các kết nối chất lượng cao giữa các nhà sáng lập startup, các nhà vận hành tài chính toàn cầu, lãnh đạo doanh nghiệp và những cá nhân đang tái cấu trúc khung kỹ thuật của châu Phi. Giảm 20% vé Early Bird trong thời gian có hạn.