Kết nối một mô hình cho tác vụ máy chủ Palworld của bạn
Bạn là người chọn mô hình. GeekCrest kết nối tới nhà cung cấp AI đám mây qua endpoint API chuẩn, tới mô hình chạy cục bộ trên máy bạn hoặc tới mô hình tích hợp, và nút Test kiểm tra kết nối trước khi bạn giao việc.
Ba cách kết nối mô hình
Nhà cung cấp AI đám mây
Chọn cách này khi tác vụ khó đến mức cần mô hình lớn và bạn chấp nhận prompt được gửi tới nhà cung cấp. Khóa vẫn ở trên máy. Văn bản prompt, gồm cả nội dung tệp mà agent đọc, được gửi tới nhà cung cấp đó, và nhà cung cấp có thể tính phí riêng cho việc này.
Mô hình trên máy bạn
Chọn mô hình chạy cục bộ trên máy khi các tệp bạn làm việc không nên rời khỏi máy. Khi đó không có gì rời khỏi máy. Chất lượng và kích thước ngữ cảnh phụ thuộc vào mô hình và phần cứng của bạn, nên hãy bấm nút Test trước khi dựa vào nó.
Mô hình tích hợp
Mô hình tích hợp là điểm xuất phát nếu bạn chưa kết nối gì. Hãy bắt đầu với một thư mục. Nhờ nó làm một việc nhỏ, như liệt kê các thư mục của máy chủ, và nhớ rằng prompt chỉ được gửi tới mô hình bạn đã chọn, như với mọi lựa chọn; trang quyền riêng tư giải thích chi tiết.
Nút Test hiển thị gì
Nút Test kiểm tra một endpoint trước khi bạn tốn cả phiên làm việc cho nó. Nó hiển thị thời gian phản hồi và cửa sổ ngữ cảnh, tức lượng văn bản mô hình nhận được cùng lúc. Phản hồi chậm hoặc cửa sổ nhỏ là lý do để chọn mô hình khác cho các log dài. Hãy tự đọc kết quả.
Chọn mô hình phù hợp với tác vụ
Dùng mô hình lớn hơn cho việc tái cấu trúc và logic phức tạp, như đọc một log dài cùng tệp cài đặt, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ như đổi một giá trị. run_on_model gửi một bước khó tới mô hình lớn hơn trong khi phần còn lại ở mô hình chính. Hãy quyết định theo từng tác vụ.
Không mô hình nào luôn đúng. Hãy xem diff trước khi chấp nhận, và dùng Ask first để mọi thay đổi với tệp đều chờ bạn đồng ý trước khi bất cứ thứ gì được ghi vào thư mục máy chủ.
