Kết nối mô hình AI

Chọn mô hình AI mà Zenix Cloud sẽ sử dụng. Bạn chọn điểm cuối, nhà cung cấp hoặc tùy chọn tích hợp sẵn. Nút Kiểm tra hiển thị thời gian phản hồi và kích thước cửa sổ ngữ cảnh trước khi bạn bắt đầu.

Ba cách kết nối

Nhà cung cấp AI đám mây

Chỉ định Zenix Cloud trỏ đến điểm cuối API tiêu chuẩn từ nhà cung cấp bạn chọn. Nhà cung cấp AI đám mây có thể tính phí riêng cho việc sử dụng. Lệnh prompt sẽ rời khỏi máy của bạn và được gửi đến nhà cung cấp đó.

Mô hình cục bộ

Chạy mô hình trực tiếp trên máy tính Windows của bạn. Không có lưu lượng mạng nào rời khỏi máy cho quá trình suy luận mô hình. Các cuộc trò chuyện và tệp của bạn vẫn được giữ kín. Chế độ này phù hợp với người dùng coi trọng quyền riêng tư nghiêm ngặt hoặc làm việc trong môi trường băng thông thấp. Bạn tự quản lý tệp nhị phân của mô hình.

Mô hình tích hợp sẵn

Sử dụng mô hình tích hợp sẵn, sẵn sàng hoạt động mà không cần điểm cuối riêng của bạn.

Kiểm tra kết nối

Nhấn nút Kiểm tra để xác minh điểm cuối đã chọn. Công cụ hiển thị thời gian phản hồi và kích thước cửa sổ ngữ cảnh. Kiểm tra này diễn ra trước khi bất kỳ công việc thực tế nào bắt đầu. Nó xác nhận rằng mô hình có thể truy cập được và phản hồi tốt. Bạn có thể điều chỉnh cài đặt dựa trên những kết quả này.

Chọn mô hình phù hợp

Gửi các bước phức tạp cho mô hình lớn hơn bằng cách sử dụng run_on_model. Sử dụng các mô hình nhỏ hơn cho các chỉnh sửa đơn giản. Agent điều phối công việc. Bạn quyết định mô hình nào xử lý nhiệm vụ nào.

Ở chế độ Ask first, agent sẽ tạm dừng trước các hành động thay đổi dữ liệu; ở chế độ Auto-run, nó hành động ngay lập tức; người dùng xem xét diff.