리스팅을 읽을 모델 고르기

CJK Workbench는 표준 API 엔드포인트를 통한 클라우드 AI 제공업체, PC에서 로컬로 실행되는 모델, 또는 내장 모델과 함께 동작해요. 선택에 따라 리스팅 텍스트가 어디로 가는지 정해지니, 파일을 열기 전에 고르세요. 아래 세 가지를 비교해 보세요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

더 큰 모델이 필요한 길고 복잡한 리스팅에는 클라우드 제공업체가 잘 맞아요. 키는 내 PC에 남아요. 제공업체는 에이전트가 읽은 파일 텍스트를 포함한 프롬프트 텍스트를 받으니, 공유해도 되는 리스팅만 보내세요. 제공업체가 API 요금을 따로 청구할 수 있다는 점도 기억하세요.

내 PC의 모델

로컬 모델은 내 PC에서 실행되며 누구에게도 보내면 안 되는 리스팅에 잘 맞아요. 아무것도 기기 밖으로 나가지 않아요. 품질과 속도는 하드웨어와 설치한 모델에 따라 달라지니, 먼저 짧은 리스팅으로 시험해 보고 설명을 원문과 비교해 보세요.

내장 모델

내장 모델은 API 엔드포인트도 로컬 설치도 필요 없어요. 앱을 실행하는 데 계정이 필요 없어요. 어떤 옵션을 고르든 프롬프트는 내가 고른 모델로만 가므로, 리스팅 텍스트가 어디에 도착할지는 내가 정해요.

Test로 연결 확인하기

먼저 Test를 누르세요. 이 버튼은 엔드포인트를 믿고 쓰기 전에 확인해 주고, 응답 시간과 컨텍스트 창을 보여 줘요. 컨텍스트 창은 한 번의 요청에 텍스트가 얼마나 들어가는지 알려 줘요. 긴 리스팅은 작은 창에 들어가지 않을 수 있으니, 쓸 모델을 테스트하고 엔드포인트를 바꾼 뒤에는 다시 실행하세요.

작업에 맞는 모델 고르기

큰 모델은 길고 복잡한 리스팅과, 하나의 데이터 구조를 여러 함수에 걸쳐 따라가는 더 어려운 단계에 잘 맞고, 작은 모델은 짧은 조각을 설명하기에 충분해요. 먼저 작은 모델을 써 보세요. run_on_model은 어려운 단계 하나만 더 큰 모델에 보내고, 세션의 나머지는 평소 선택대로 둬요.

품질은 모델마다 다르고, 어떤 모델이든 리스팅을 잘못 읽을 수 있어요. 모든 diff를 읽으세요. Ask first를 쓰면 쓰기마다 내 OK를 기다리니, 메모 변경을 수락하기 전에 주장을 리스팅 자체와 비교해 보세요.