Chọn mô hình sẽ đọc listing của bạn
CJK Workbench hoạt động với nhà cung cấp AI đám mây qua endpoint API chuẩn, với mô hình chạy cục bộ trên PC của bạn, hoặc với mô hình tích hợp sẵn. Lựa chọn của bạn quyết định văn bản listing đi đâu, vì vậy hãy chọn trước khi mở một tệp. So sánh ba lựa chọn bên dưới.
Ba cách kết nối mô hình
Nhà cung cấp AI đám mây
Nhà cung cấp đám mây phù hợp với các listing dài và rối khi bạn muốn một mô hình lớn hơn. Khóa nằm lại trên PC của bạn. Nhà cung cấp nhận văn bản prompt, bao gồm cả văn bản tệp mà agent đọc, nên chỉ gửi những listing bạn được phép chia sẻ, và nhớ rằng nhà cung cấp có thể tính phí API riêng.
Mô hình trên PC của bạn
Mô hình cục bộ chạy trên chính PC của bạn và phù hợp với các listing không được gửi cho ai. Không có gì rời khỏi máy. Chất lượng và tốc độ phụ thuộc vào phần cứng và mô hình bạn cài, nên hãy thử trước trên một listing ngắn và so sánh phần giải thích với văn bản.
Mô hình tích hợp sẵn
Mô hình tích hợp sẵn không cần endpoint API và không cần cài đặt cục bộ. Không cần tài khoản để chạy ứng dụng. Dù bạn chọn cách nào, prompt chỉ đi tới mô hình bạn đã chọn, nên bạn quyết định văn bản listing cuối cùng nằm ở đâu.
Kiểm tra kết nối bằng Test
Hãy bấm Test trước. Nút này kiểm tra endpoint trước khi bạn dựa vào nó, và hiển thị thời gian phản hồi cùng cửa sổ ngữ cảnh, cho biết một yêu cầu chứa được bao nhiêu văn bản. Một listing dài có thể không vừa cửa sổ nhỏ, nên hãy kiểm tra mô hình bạn định dùng và chạy lại sau khi đổi endpoint.
Chọn mô hình phù hợp với nhiệm vụ
Mô hình lớn hơn phù hợp với các listing dài, rối và bước khó hơn là lần theo một cấu trúc dữ liệu qua nhiều hàm, còn mô hình nhỏ hơn là đủ để giải thích một đoạn ngắn. Hãy thử mô hình nhỏ trước. run_on_model gửi một bước khó tới mô hình lớn hơn và để phần còn lại của phiên ở lựa chọn quen thuộc của bạn.
Chất lượng khác nhau giữa các mô hình, và mô hình nào cũng có thể đọc sai một listing. Hãy đọc mọi diff. Dùng Ask first để mỗi lần ghi đều chờ OK của bạn, và đối chiếu nhận định với chính listing trước khi chấp nhận một thay đổi ghi chú.
