Kimicode, Cursor Alternatifi Olarak: Özel Uç Nokta Kurulumu

Neler işe yarar ve ne beklenebilir

Dahili sohbeti olan birçok kod editörü, OpenAI uç noktasını kendi uç noktanızla değiştirmenize olanak tanır. Bu olanağı sağlayan tek ayar budur. Editöre üç şey verirsiniz: bir temel URL, bir API anahtarı ve bir model adı. Geri kalanı editörün kendi davranışıdır.

Buradaki API, bağımsız bir sağlayıcı tarafından işletilen ve yasal yetişkin kullanımı için içerik reddi olmadan yanıtlamak üzere ayarlanmış tek bir açık ağırlıklı modele sahip barındırılan, OpenAI uyumlu bir servistir. Kimi'nin kendi servisi değildir ve satıcılar arasında bir yönlendirici değildir, bu nedenle model seçici yoktur. Sadece uncensored modelini alırsınız ve bu tek model ID'sidir.

Eşleşme konusunda gerçekçi olun. Bu modelin, editörünüzün varsayılan olarak sunduğu modelden kod yazmada daha iyi olduğunu iddia etmiyorum ve size gösterebileceğim bir benchmark da yok. Kazandığınız şey kontrolünüzdür: kendi uç noktanız, 1M girdi tokenı başına $0.15 ve 1M çıktı tokenı başına $0.50 üzerinden token bazlı faturalandırma ve konusundan dolayı bir isteği reddetmeyen bir model. Kaybettiğiniz şey, editörün yalnızca kendi modelleri için etkinleştirdiği tüm özelliklerdir.

Adım adım: base URL geçersiz kılma

1. Giriş yapın ve API anahtarı sayfasını açın. Bir anahtar oluşturun. Yeni kullanıcılar tek tıkla, kart gerekmeden, 7 gün geçerli $0,50 deneme kredisini orada talep edebilir.
2. Editörünüzde model veya API ayarlarını açın. Örneğin Cursor, model ayarlarında OpenAI base URL'ini geçersiz kılma seçeneğine sahip olmuştur. Bu seçeneğin adı ve konumu sürümler arasında değişir, bu nedenle bulamazsanız editörün kendi dokümantasyonunu kontrol edin.
3. Base URL'i girin: https://api.kimicode.cc/v1. /chat/completions eklemeyin.
4. Anahtarınızı OpenAI anahtar alanına yapıştırın.
5. uncensored adında özel bir model ekleyin ve sohbet panelinde seçin.
6. Küçük bir test sorusu çalıştırın. Editör bir hata gösterirse, geliştirici konsolunu veya günlükleri açın ve HTTP durum koduna bakın. 401 bir anahtar sorunudur, 404 bir URL sorunudur ve 429 bir hız limiti sorunudur.

Bazı editörler, burada bulunmayan barındırılan bir model adını çağırarak bir anahtarı doğrular. Doğrulama başarısız olur ancak sohbet çalışırsa, doğrulama adımını yok sayın. Editör bu adım olmadan kaydetmeyi reddederse, bir sonraki bölümden başka bir araç kullanın.

Test sırasında deneme limitlerinizi aklınızda tutun: 2 eşzamanlı istek ve dakikada 60. Aynı anda birden fazla arka plan isteği tetikleyen bir editör (otomatik tamamlama ve sohbet gibi) eşzamanlılık sınırına ulaşabilir. Tam bir anahtar dakikada 8 eşzamanlı ve 300 isteğe izin verir.

Özel bir uç nokta kabul eden diğer editörler ve araçlar

Editörünüz özel bir base URL kabul etmiyorsa, birkaç açık kaynaklı araç bunu yapar. Her biri aynı üç değeri alır. Bunlar değiştiğinden, güncel seçenek adları için dokümantasyonlarını kontrol edin.

Aider, standart OpenAI ortam değişkenlerini okur ve openai/ ön ekiyle bir OpenAI uyumlu model alır:

Copyexport OPENAI_API_BASE="https://api.kimicode.cc/v1"
export OPENAI_API_KEY="YOUR_KEY"
aider --model openai/uncensored

VS Code ve JetBrains için bir uzantı olan Continue, sağlayıcı openai olarak ayarlanmış bir model girişi ve bir API base'si kabul eder. Dosya formatı sürüme göre farklılık gösterir, bu nedenle aramanız gereken yapı şöyledir:

Copy{
  "models": [
    {
      "title": "Kimicode API",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.kimicode.cc/v1",
      "apiKey": "YOUR_KEY"
    }
  ]
}

Cline, ayarlarında bir OpenAI uyumlu sağlayıcı sunar; burada aynı base URL, anahtar ve model ID'sini girersiniz. Her durumda desen aynıdır: OpenAI uyumlu sağlayıcıyı seçin, bir satıcıdan ad alanı olanı değil.

Kod işine uygun bir sistem istemi

Editörler genellikle kendi talimatlarını ekler, ancak çoğu özel kurallar veya bir sistem istemi eklemenize olanak tanır. Kısa ve spesifik bir istem, uzun bir istemden daha iyidir. Ayarlayabileceğiniz bir başlangıç noktası işte:

Kullanıcının projesinde çalışan bir kod asistanısınız. Sorunu çözen en küçük değişiklikle yanıtlayın. Tüm dosyayı değil, farkları veya değiştirilen fonksiyonu gösterin. Bir gereksinim belirsizse, kod yazmadan önce bir soru sorun. Sürümler veya çerçeveler hakkında yaptığınız her varsayımı belirtin.

Bu satırlar neden? "En küçük değişiklik" çıktı tokenlarını azaltır ki bunlar 1M başına 0,50 $ ile daha pahalı taraftadır. "Farkları göster" aynı şeyi yapar ve inceleme işini kolaylaştırır. "Bir soru sor" uzun ve yanlış bir cevap vermesini önler. "Varsayımları belirt" hatayı kodunuza ulaşmadan önce yakalamanız için bir yer sağlar.

Kod için sıcaklığı düşük tutun. 0,2 ile 0,4 arasındaki değerler daha istikrarlı çıktılar verir ve bir istemi hata ayıklarken tekrarlanabilir sonuçlar istiyorsanız bir seed geçirebilirsiniz. İkisi de modele iletilir.

Editör yetersiz kaldığında bir betik

Bir editör özelliği özel bir uç noktaya uymadığında, yirmi satırlık bir betik boşluğu kapatır ve gönderilenlere tam kontrol sağlar. Bu betik bir dosya okur, kendi sistem isteminizle bir inceleme ister ve yanıtı akış halinde yazdırır.

Copyimport os, sys
from openai import OpenAI

client = OpenAI(base_url="https://api.kimicode.cc/v1", api_key=os.environ["KIMICODE_KEY"])

SYSTEM = (
    "You are a careful code reviewer. List real bugs first, then risky spots. "
    "Quote the line you mean. Skip style comments."
)

path = sys.argv[1]
code = open(path, encoding="utf-8").read()

stream = client.chat.completions.create(
    model="uncensored",
    stream=True,
    temperature=0.3,
    messages=[
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": f"Review {path}:\n\n{code}"},
    ],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

python review.py app/server.py olarak çalıştırın. 1.000 tokenlık bir dosyada 600 tokenlık bir inceleme 0,00015 $ + 0,0003 $ = 0,00045 $ tutarındadır. Birkaç bin dosyayı 2 $'dan az bir maliyetle inceleyebilirsiniz.

Aynı desen commit mesajları, test oluşturma ve docstring'ler için çalışır. Betiği editörünüzdeki bir tuşa bağlayın ve eklenti olmadan özel bir komutunuz olur.

Bu çözüm nereye uyar ve nereye uymaz

Bu kurulum, kendi uç noktanızı istiyorsanız, token başına faturalandırma yapmak istiyorsanız ve modelin konusundan dolayı bir görevi reddetmemesini istiyorsanız iyi bir uyumdur. Tek kişilik geliştiriciler, küçük ekipler ve bir istemci kütüphanesi aracılığıyla birden fazla sağlayıcıyla konuşan araçlar oluşturan kişiler için uygundur.

Editörün kendi barındırılan modelleriyle yalnızca çalışan özelliklere bağlıysanız (belirli bir modele göre ayarlanmış sıkı satır içi otomatik tamamlama veya görsel tabanlı özellikler gibi) daha zayıf bir uyumdur. Bunlar çalışma şeklinizin merkezindeyse, varsayılanı koruyun ve bu API'yi yalnızca sohbet paneli ve betikler için kullanın. İkisini karıştırmak yaygındır ve ekstra maliyet gerektirmez.

Sadece nasıl hissettirdiğini görmek istiyorsanız, API anahtarı sayfasında denemeyi talep edin ve editörünüze mevcut görevinizden üç soru sorun. Yanıtları şu anda aldıklarınızla karşılaştırın. Bu test on dakika sürer ve bir santın çok azını kullanır.

Sadece metin destekleyen bir modelin dürüst limitleri

Geçiş yapmadan önce bilmeniz gereken üç limit vardır.

Yalnızca metin. Görsel girişi ve embedding uç noktası yoktur. Eğer editörünüz bir kod tabanını embedding'lerle indeksliyorsa, bu indeks başka bir kaynaktan olmalıdır veya özellik kapalı kalır. Bir hatanın ekran görüntüsünü yapıştırmak da işe yaramaz; hata metnini yapıştırın.

100.000 tokenlik pencere. Bu, istem ve tamamlama toplamıdır. Kabaca bir kural olarak, her token yaklaşık üç ila dört karakter kodu temsil eder, bu nedenle 40 KB'lık büyük bir dosya yaklaşık 10.000 ila 13.000 tokenlik bir aralıktadır. Çok sayıda dosya ekleyen editörler tavana hızla ulaşabilir. Bir bağlam hatası gördüğünüzde daha fazla dosya değil, daha az dosya ekleyin.

Gizli yönlendirme yok. Tek bir model alırsınız. Bir görevde hata yaparsa, arka planda yedek bir model yoktur, bu nedenle yeniden ifade edin, bir örnek ekleyin veya soruyu daraltın.

Maliyet açısından, 20.000 girdi tokenı ve 1.000 çıktı tokenı içeren tipik bir kodlama sorusu $0.003 + $0.0005 = $0.0035 tutarındadır. Bir günde bunun elli tanesi $0.175 eder. fiyatlandırma sayfası, $20 ile $500 arasında, $50'dan itibaren bonuslu bakiye yükleme seçeneklerini listeler ve kredi süresi dolmaz. İstemler eğitim için kullanılmaz.

Taahhüt etmeden önce kontrol listesi

• Kendi projenizden gerçek bir görevde deneme kredisiyle test yapın, basit bir istemle değil.
• Editörünüzde akışın çalıştığını kontrol edin. Yanıtlar yalnızca sonunda görünüyorsa, editör tamponlama yapıyor olabilir.
• Ajan özellikleri kullanıyorsanız araç çağırmanın bağlandığını onaylayın. Bu API tools ve akışlı tool_calls destekler, ancak editör bunları gönderip göndermeyeceğine karar verir.
• hızlı başlangıç dokümantasyonunu bir kez okuyun, hata kodları bölümü dahil.
• Aylık bir bakiye yükleme üst limiti belirleyin. Faturalandırma ön ödemeli olduğundan, eklediğiniz miktardan fazlasını harcayamazsınız.

Ön ödemeli tasarım, ajan döngüleri çalıştıran editörler için bir güvenlik ağıdır. Yanlış giden bir döngü, kredi bittiğinde durur; sürpriz bir fatura üretmez.

Daha fazla kılavuz

• Kimi Code API Fiyatlandırması vs Kullandıkça Öde Tokenlar
• Kimi Code API URL'si: OpenAI İstemcileri için Base URL Kurulumu
• Groq API: Sansürsüz LLM'ler İçin Mitler ve Gerçekler