Kimicode ใน Cursor: การตั้งค่า Endpoint แบบกำหนดเอง

สิ่งที่ใช้งานได้และสิ่งที่ควรคาดหวัง

โปรแกรมแก้ไขโค้ดจำนวนมากที่มีแชตในตัวช่วยให้คุณสามารถเปลี่ยนเอนด์พอยต์ของ OpenAI เป็นเอนด์พอยต์ของคุณเองได้ การตั้งค่าเพียงอย่างเดียวนี้คือสิ่งที่ทำให้เป็นไปได้ คุณให้โปรแกรมแก้ไขสามสิ่ง: Base URL, คีย์ API และชื่อโมเดล ส่วนที่เหลือเป็นพฤติกรรมของโปรแกรมแก้ไขเอง

API ที่นี่คือบริการที่โฮสต์และเข้ากันได้กับ OpenAI มีโมเดลแบบเปิดน้ำหนักหนึ่งตัว ดำเนินการโดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่บริการของ Kimi โดยตรงและไม่ใช่ตัวเปลี่ยนเส้นทางข้ามผู้ขาย จึงไม่มีตัวเลือกโมเดล คุณจะได้ uncensored ซึ่งเป็นโมเดล ID เดียว

ประเมินความเข้ากันได้ตามความเป็นจริง ฉันไม่ได้อ้างว่าโมเดลนี้ดีกว่าโมเดลที่โปรแกรมแก้ไขของคุณจัดส่งมาโดยค่าเริ่มต้นในการเขียนโค้ด และฉันไม่มีข้อมูลการทดสอบมาตรฐาน (benchmark) ให้ดู สิ่งที่คุณได้คือการควบคุม: เอนด์พอยต์ของคุณเอง การคิดเงินแบบต่อโทเคนในอัตรา $0.15 ต่อ 1 ล้านโทเคนอินพุต และ $0.50 ต่อ 1 ล้านโทเคนเอาต์พุต และโมเดลที่ไม่ปฏิเสธคำขอเพราะหัวข้อ สิ่งที่เสียไปคือฟีเจอร์ใดๆ ที่โปรแกรมแก้ไขเปิดให้เฉพาะโมเดลของตัวเองเท่านั้น

ทีละขั้นตอน: การแทนที่ Base URL

1. เข้าสู่ระบบและเปิดหน้า คีย์ API สร้างคีย์ ผู้ใช้ใหม่สามารถขอรับเครดิตทดลองใช้ $0.50 ได้ด้วยคลิกเดียว ไม่ต้องใช้บัตร ใช้ได้ 7 วัน
2. ในโปรแกรมแก้ไขของคุณ ให้เปิดการตั้งค่าโมเดลหรือ API ตัวอย่างเช่น Cursor มีตัวเลือกเพื่อแทนที่ Base URL ของ OpenAI ในการตั้งค่าโมเดล ชื่อและตำแหน่งของตัวเลือกนี้จะเปลี่ยนแปลงในแต่ละเวอร์ชัน ดังนั้นให้ตรวจสอบเอกสารของโปรแกรมแก้ไขเองหากคุณไม่สามารถพบตัวเลือกนั้น
3. ป้อน Base URL: https://api.kimicode.cc/v1 อย่าเพิ่ม /chat/completions
4. วางคีย์ของคุณลงในช่องคีย์ของ OpenAI
5. เพิ่มโมเดลกำหนดเองชื่อ uncensored และเลือกในแผงแชท
6. ทดสอบด้วยคำถามขนาดเล็ก หากโปรแกรมแก้ไขแสดงข้อผิดพลาด ให้เปิดคอนโซลนักพัฒนาหรือบันทึกเหตุการณ์ และดูสถานะ HTTP 401 คือปัญหาคีย์, 404 คือปัญหา URL และ 429 คือขีดจำกัดอัตรา

โปรแกรมแก้ไขบางตัวตรวจสอบคีย์โดยการเรียกชื่อโมเดลที่โฮสต์ซึ่งไม่มีที่นี่ หากการตรวจสอบล้มเหลวแต่แชตใช้งานได้ ให้ข้ามขั้นตอนการตรวจสอบ หากโปรแกรมแก้ไขปฏิเสธที่จะบันทึกโดยไม่มีการตรวจสอบ ให้ใช้เครื่องมืออื่นจากส่วนถัดไป

จำข้อจำกัดของการทดลองใช้ของคุณไว้ขณะทดสอบ: คำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที โปรแกรมแก้ไขที่ส่งคำขอพื้นหลังหลายคำพร้อมกัน เช่น การเติมอัตโนมัติและแชต อาจชนกับขีดจำกัดความพร้อมกัน คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที

โปรแกรมแก้ไขและเครื่องมืออื่นๆ ที่รองรับเอนด์พอยต์แบบกำหนดเอง

หากโปรแกรมแก้ไขของคุณไม่ยอมรับ Base URL แบบกำหนดเอง มีเครื่องมือโอเพนซอร์สหลายตัวที่ทำได้ แต่ละตัวรับค่าสามค่าเดียวกัน ตรวจสอบเอกสารของพวกเขาสำหรับชื่อตัวเลือกปัจจุบัน เนื่องจากสิ่งเหล่านี้เปลี่ยนแปลงได้

Aider อ่านตัวแปรสภาพแวดล้อม OpenAI มาตรฐานและใช้โมเดลที่เข้ากันได้กับ OpenAI ที่มี openai/ คำนำหน้า:

Copyexport OPENAI_API_BASE="https://api.kimicode.cc/v1"
export OPENAI_API_KEY="YOUR_KEY"
aider --model openai/uncensored

Continue ซึ่งเป็นส่วนขยายสำหรับ VS Code และ JetBrains รับค่าโมเดลโดยตั้งค่าผู้ให้บริการเป็น openai และ API ฐาน รูปแบบไฟล์แตกต่างกันตามเวอร์ชัน ดังนั้นนี่คือรูปแบบที่ต้องมองหา:

Copy{
  "models": [
    {
      "title": "Kimicode API",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.kimicode.cc/v1",
      "apiKey": "YOUR_KEY"
    }
  ]
}

Cline มีผู้ให้บริการที่เข้ากันได้กับ OpenAI ในการตั้งค่าของคุณ ซึ่งคุณป้อน Base URL, คีย์ และ ID โมเดลเดียวกัน ในทุกกรณี รูปแบบจะเหมือนกัน: เลือกผู้ให้บริการที่เข้ากันได้กับ OpenAI ไม่ใช่ผู้ให้บริการที่ตั้งชื่อตามผู้ขายรายอื่น

ระบบพรอมต์ที่เหมาะกับงานเขียนโค้ด

โปรแกรมแก้ไขมักเพิ่มคำแนะนำของตัวเอง แต่หลายตัวให้คุณเพิ่มกฎที่กำหนดเองหรือระบบพรอมต์ได้ พรอมต์สั้นๆ ที่เฉพาะเจาะจงดีกว่าพรอมต์ยาวๆ นี่คือจุดเริ่มต้นที่คุณสามารถปรับแต่งได้:

คุณคือผู้ช่วยเขียนโค้ดที่ทำงานในโปรเจกต์ของผู้ใช้ ตอบด้วยวิธีการแก้ไขที่เล็กที่สุดเพื่อแก้ปัญหา แสดง diff หรือฟังก์ชันที่เปลี่ยนแปลง ไม่ใช่ทั้งไฟล์ หากข้อกำหนดไม่ชัดเจน ให้ถามคำถามหนึ่งข้อก่อนเขียนโค้ด ระบุสมมติฐานที่คุณทำเกี่ยวกับเวอร์ชันหรือเฟรมเวิร์ก

ทำไมบรรทัดเหล่านี้? “เปลี่ยนแปลงน้อยที่สุด” ลด output tokens ซึ่งเป็นฝั่งที่แพงกว่าที่ $0.50 ต่อ 1M “แสดง diff” ทำแบบเดียวกันและทำให้การตรวจสอบง่ายขึ้น “ถามหนึ่งคำถาม” ป้องกันคำตอบยาวที่ผิด “ระบุสมมติฐาน” ให้ที่จับข้อผิดพลาดก่อนถึงโค้ดของคุณ

ตั้งค่า temperature ต่ำสำหรับโค้ด ค่าประมาณ 0.2 ถึง 0.4 ให้ผลลัพธ์ที่เสถียรกว่า และคุณสามารถส่ง seed หากต้องการผลลัพธ์ที่ซ้ำกันได้ขณะดีบักพรอมต์ ทั้งสองค่าจะถูกส่งต่อไปยังโมเดล

สคริปต์เมื่อโปรแกรมแก้ไขไม่เพียงพอ

เมื่อฟีเจอร์โปรแกรมแก้ไขไม่รองรับเอนด์พอยต์แบบกำหนดเอง สคริปต์ 20 บรรทัดจะเติมช่องว่างนี้และให้คุณควบคุมสิ่งที่ส่งไป สคริปต์นี้จะอ่านไฟล์และขอการตรวจสอบพร้อมระบบพรอมต์ของคุณ และพิมพ์คำตอบออกมาแบบสตรีม

Copyimport os, sys
from openai import OpenAI

client = OpenAI(base_url="https://api.kimicode.cc/v1", api_key=os.environ["KIMICODE_KEY"])

SYSTEM = (
    "You are a careful code reviewer. List real bugs first, then risky spots. "
    "Quote the line you mean. Skip style comments."
)

path = sys.argv[1]
code = open(path, encoding="utf-8").read()

stream = client.chat.completions.create(
    model="uncensored",
    stream=True,
    temperature=0.3,
    messages=[
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": f"Review {path}:\n\n{code}"},
    ],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

รันคำสั่ง python review.py app/server.py ไฟล์ขนาด 1,000 โทเคน พร้อมรีวิวขนาด 600 โทเคน มีค่าใช้จ่าย $0.00015 + $0.0003 = $0.00045 คุณอาจรีวิวไฟล์ไม่กี่พันไฟล์ด้วยค่าใช้จ่ายต่ำกว่า $2

รูปแบบเดียวกันนี้ใช้ได้กับข้อความ commit การสร้างเทสต์ และด็อกสตริง ผูกสคริปต์กับคีย์ในโปรแกรมแก้ไขของคุณและคุณจะมีคำสั่งแบบกำหนดเองโดยไม่ต้องใช้ปลั๊กอินเลย

จุดที่เหมาะสมและไม่เหมาะสมในการใช้งาน

การตั้งค่านี้เหมาะหากคุณต้องการ endpoint ของตัวเอง ระบบบิลลิ่งแบบจ่ายตามโทเคน และโมเดลที่ไม่ปฏิเสธงานเนื่องจากหัวข้อของมัน เหมาะสำหรับนักพัฒนาคนเดียว ทีมขนาดเล็ก และผู้ที่สร้างเครื่องมือที่เชื่อมต่อกับผู้ให้บริการหลายรายผ่านไลบรารีไคลเอนต์เดียว

การตั้งค่านี้ไม่เหมาะหากคุณพึ่งพาฟีเจอร์ที่ทำงานได้เฉพาะกับโมเดลที่โฮสต์โดย editor ของคุณเอง เช่น การ autocomplete แบบ inline ที่ปรับแต่งเฉพาะสำหรับโมเดลหนึ่งๆ หรือฟีเจอร์ที่ใช้รูปภาพ หากฟีเจอร์เหล่านั้นเป็นหัวใจหลักในการทำงานของคุณ ให้ใช้ค่าเริ่มต้นและใช้ API นี้สำหรับแผงแชทและสคริปต์ การผสมผสานทั้งสองอย่างเป็นเรื่องปกติและไม่มีค่าใช้จ่ายเพิ่มเติม

หากต้องการทดลองใช้งาน ให้ขอเครดิตทดลองที่หน้า API key แล้วถามโปรแกรมแก้ไขสามคำถามจากงานปัจจุบันของคุณ การทดสอบนี้ใช้เวลาสิบนาทีและใช้เงินเพียงเล็กน้อย

ข้อจำกัดที่จริงใจของโมเดลข้อความล้วน

มีข้อจำกัดสามประการที่ควรทราบก่อนเปลี่ยน

เฉพาะข้อความ ไม่มีการป้อนรูปภาพหรือเอนด์พอยต์ embeddings หากโปรแกรมแก้ไขสร้าง index ด้วย embeddings คุณต้องจัดหาแหล่งข้อมูลอื่น หรือฟีเจอร์จะปิดอยู่ การวางภาพหน้าจอของข้อผิดพลาดจะไม่ทำงานเช่นกัน; ให้วางข้อความข้อผิดพลาด

หน้าต่าง 100,000 โทเคน นี่คือพรอมต์รวมกับการสร้างผลลัพธ์ โดยทั่วไปโค้ดประมาณ 3-4 ตัวอักษรต่อโทเคน ไฟล์ 40 KB มีขนาดประมาณ 10,000 ถึง 13,000 โทเคน โปรแกรมแก้ไขที่แนบไฟล์จำนวนมากสามารถถึงขีดจำกัดได้เร็ว เมื่อคุณเห็นข้อผิดพลาดเกี่ยวกับบริบท ให้แนบไฟล์ให้น้อยลง ไม่ใช่เพิ่ม

ไม่มีการเปลี่ยนเส้นทางแบบซ่อนเร้น คุณจะได้โมเดลเดียว หากโมเดลทำงานไม่สำเร็จ ไม่มีโมเดลสำรองในพื้นหลัง ให้ปรับคำอธิบาย เพิ่มตัวอย่าง หรือจำกัดขอบเขตคำถาม

ด้านต้นทุน คำถามโค้ดทั่วไปที่มี input 20,000 โทเคน และ output 1,000 โทเคน ใช้ $0.003 + $0.0005 = $0.0035 หากทำ 50 ครั้งต่อวันจะหมด $0.175 หน้า ราคา ระบุการเติมเงินตั้งแต่ $20 ถึง $500 พร้อมโบนัสตั้งแต่ $50 และเครดิตไม่หมดอายุ พรอมต์ไม่ถูกนำไปฝึกโมเดล

รายการตรวจสอบก่อนตัดสินใจ

• ทดสอบด้วยเครดิตทดลองใช้กับงานจริงจากโปรเจกต์ของคุณเอง ไม่ใช่พรอมต์ตัวอย่าง
• ตรวจสอบว่า streaming ทำงานใน editor ของคุณหรือไม่ หากคำตอบปรากฏเฉพาะตอนท้าย editor อาจกำลัง buffering
• ตรวจสอบให้แน่ใจว่ามีการตั้งค่าการเรียกใช้ฟังก์ชัน หากใช้ฟีเจอร์ agent API นี้รองรับ tools และ streamed tool_calls
• อ่าน docs quickstart ครั้งเดียว รวมถึงส่วนเกี่ยวกับรหัสข้อผิดพลาด
• ตัดสินใจเกี่ยวกับเพดานการเติมเงินรายเดือน เนื่องจากระบบบิลลิ่งเป็นแบบเติมเงิน จำนวนเงินสูงสุดที่คุณใช้คือจำนวนที่คุณเติมเข้าไป

การออกแบบแบบเติมเงินเป็นตาข่ายนิรภัยสำหรับ editor ที่รัน agent loops หาก loop ผิดพลาดจะหยุดเมื่อเครดิตหมด แทนที่จะสร้างใบแจ้งหนี้ที่คาดไม่ถึง

คู่มือเพิ่มเติม

• ราคา Kimi Code API เทียบกับโทเคนแบบจ่ายตามการใช้งาน
• Kimi Code API URL: การตั้งค่า Base URL สำหรับไคลเอนต์ OpenAI
• Groq API: ความเชื่อผิดๆ เทียบกับข้อเท็จจริงสำหรับ LLM แบบไม่เซ็นเซอร์