Tối ưu chi phí cho từng prompt

Liquid Inference để các nhà cung cấp mô hình cạnh tranh trả lời prompt của bạn. Đặt yêu cầu, gửi yêu cầu, và nhận giá trị tốt nhất cho chi phí AI.

Mỗi yêu cầu là một phiên đấu giá tức thì

Nhà cung cấp tự đặt giá

Nhà cung cấp niêm yết giá theo token cho mỗi mô hình họ phục vụ. Nếu được chọn, giá được chốt mức trần trước khi mô hình bắt đầu chạy.

Bạn đặt điều kiện

Chọn mô hình, khu vực, tốc độ và chất lượng tối thiểu. Chỉ những nhà cung cấp đáp ứng điều kiện của bạn mới được cạnh tranh.

Chào giá tốt nhất thắng

Mô hình có giá thấp nhất đáp ứng yêu cầu của bạn sẽ trả lời. Bạn chỉ trả tiền cho phần đã dùng.

Câu hỏi trước yêu cầu đầu tiên

Tôi cần đổi gì trong mã của mình?

Hầu hết mã OpenAI và Anthropic chỉ đổi ở hai chỗ: base URL và API key. Tên mô hình phải là tên mà sàn niêm yết.

Một yêu cầu có thể tốn nhiều hơn tôi dự kiến không?

Không. Sàn chốt mức trần giá trước token đầu tiên, và một công việc không bao giờ tốn hơn mức trần. Bạn trả cho số token đã dùng, phần trần chưa dùng vẫn ở lại trong số dư của bạn.

Sàn thu phí bao nhiêu?

Nhà cung cấp nhận đúng mức giá của họ. Sàn cộng thêm một khoản phí: giá trị lớn hơn giữa 5% khoản thu của nhà cung cấp và mức sàn 1 cent mỗi triệu token. Công việc thất bại trước khi có đầu ra nào thì không mất phí.

Sàn có lưu prompt của tôi không?

Không. Sàn không lưu nội dung yêu cầu hay câu trả lời của bạn, trừ prompt bạn tự lưu trong một khối lượng công việc. Đặt chính sách lưu trữ là không để chỉ gửi yêu cầu đến các nhà cung cấp cam kết không lưu.

Làm sao để kiểm tra một khoản phí?

Mỗi công việc có một biên nhận. Biên nhận cho biết chào giá nào thắng, công việc đã dùng gì và tốn bao nhiêu. Các phần cộng lại đúng bằng khoản phí.

Nếu nhà cung cấp gặp lỗi giữa chừng thì sao?

Trước khi có đầu ra, sàn có thể thử chào giá kế tiếp. Sau khi đầu ra bắt đầu, sàn không đổi nhà cung cấp, nên một câu trả lời không bao giờ đến từ hai nơi.

Tôi có cần thẻ để dùng thử không?

Không. Không gian làm việc mới được tặng một khoản tín dụng ban đầu, nên bạn có thể gửi những yêu cầu đầu tiên mà không cần thẻ.