Kimicode в качестве альтернативы Cursor: настройка пользовательского эндпоинта

Что работает и чего ожидать

Многие редакторы кода со встроенным чатом позволяют заменить эндпоинт OpenAI на свой. Именно эта настройка делает это возможным. Вы предоставляете редактору три вещи: базовый URL, API-ключ и имя модели. Всё остальное — это собственное поведение редактора.

API здесь — это размещённый OpenAI-совместимый сервис с одной моделью с открытыми весами, управляемый независимым провайдером и настроенный на ответы без отказов по контенту для законного использования взрослыми. Это не сервис Kimi и не роутер между провайдерами, поэтому выбора модели нет. Вы получаете uncensored, и это единственный ID модели.

Оценивайте реалистично. Я не утверждаю, что эта модель превосходит то, что ваш редактор предлагает по умолчанию для написания кода, и у меня нет бенчмарков. Что вы получаете — это контроль: свой эндпоинт, тарификацию за токен по $0,15 за 1 млн входных и $0,50 за 1 млн выходных токенов, и модель, которая не откажет в запросе из-за его темы. Что вы теряете — это функции, которые редактор включает только для своих моделей.

Пошагово: переопределение базового URL

1. Войдите и откройте страницу API-ключ. Создайте ключ. Новые пользователи могут активировать бесплатный пробный баланс $0,50 в один клик, без привязки карты, сроком на 7 дней.
2. В редакторе откройте настройки модели или API. Например, в Cursor была опция переопределения базового URL OpenAI в настройках модели. Название и расположение этой опции меняются в разных версиях, поэтому проверьте документацию редактора, если не можете её найти.
3. Введите базовый URL: https://api.kimicode.cc/v1. Не добавляйте /chat/completions.
4. Вставьте свой ключ в поле ключа OpenAI.
5. Добавьте пользовательскую модель с именем uncensored и выберите её в панели чата.
6. Запустите небольшой тестовый вопрос. Если редактор покажет ошибку, откройте консоль разработчика или логи и проверьте HTTP-статус. 401 — проблема ключа, 404 — проблема URL, 429 — лимит скорости.

Некоторые редакторы проверяют ключ, вызывая имя размещенной модели, которой здесь нет. Если проверка не удалась, но чат работает, проигнорируйте шаг проверки. Если редактор отказывается сохранять без него, используйте другой инструмент из следующего раздела.

Имейте в виду лимиты пробного периода при тестировании: 2 одновременных запроса и 60 в минуту. Редактор, который отправляет несколько фоновых запросов одновременно, например автодополнение и чат, может достичь предела одновременности. Полный ключ позволяет 8 одновременных и 300 в минуту.

Другие редакторы и инструменты, принимающие пользовательский эндпоинт

Если ваш редактор не принимает пользовательский базовый URL, это могут сделать несколько инструментов с открытым исходным кодом. Каждый из них принимает те же три значения. Проверьте их документацию на предмет актуальных названий опций, так как они меняются.

Aider использует стандартные переменные окружения OpenAI и принимает OpenAI-совместимую модель с префиксом openai/:

Copyexport OPENAI_API_BASE="https://api.kimicode.cc/v1"
export OPENAI_API_KEY="YOUR_KEY"
aider --model openai/uncensored

Continue, расширение для VS Code и JetBrains, принимает запись модели с поставщиком, установленным на openai, и базовым URL API. Формат файла различается в зависимости от версии, поэтому ищите такую структуру:

Copy{
  "models": [
    {
      "title": "Kimicode API",
      "provider": "openai",
      "model": "uncensored",
      "apiBase": "https://api.kimicode.cc/v1",
      "apiKey": "YOUR_KEY"
    }
  ]
}

Cline предлагает OpenAI-совместимого провайдера в своих настройках, где вы вводите тот же базовый URL, ключ и ID модели. Во всех случаях схема одинакова: выберите OpenAI-совместимого провайдера, а не тот, который назван в честь вендора.

Системный промпт для работы с кодом

Редакторы обычно добавляют свои инструкции, но многие позволяют добавлять пользовательские правила или системный промпт. Короткий конкретный промпт лучше длинного. Вот отправная точка, которую вы можете настроить:

Вы — помощник по коду, работающий в проекте пользователя. Отвечайте минимальным изменением, решающим проблему. Показывайте диффы или измененную функцию, а не весь файл. Если требование неясно, задайте один вопрос перед написанием кода. Укажите любые предположения, которые вы делаете о версиях или фреймворках.

Почему эти строки? «Минимальные изменения» сокращают количество выходных токенов, которые являются более дорогой частью ($0,50 за 1 млн). «Показать различия» делает то же самое и упрощает проверку. «Задать один вопрос» предотвращает получение длинного неверного ответа. «Указать предположения» даёт место для выявления ошибки до того, как она попадёт в ваш код.

Держите температуру низкой для кода. Значения около 0,2–0,4 дают более стабильный вывод, и вы можете передать seed, если хотите воспроизводимые результаты при отладке промпта. Оба параметра передаются модели.

Скрипт, когда редактор не справляется

Когда функция редактора не подходит для пользовательского эндпоинта, двадцатистрочный скрипт закрывает этот пробел и дает вам полный контроль над тем, что отправляется. Этот скрипт читает файл, запрашивает ревью кода с вашим системным промптом и выводит ответ по мере потоковой передачи.

Copyimport os, sys
from openai import OpenAI

client = OpenAI(base_url="https://api.kimicode.cc/v1", api_key=os.environ["KIMICODE_KEY"])

SYSTEM = (
    "You are a careful code reviewer. List real bugs first, then risky spots. "
    "Quote the line you mean. Skip style comments."
)

path = sys.argv[1]
code = open(path, encoding="utf-8").read()

stream = client.chat.completions.create(
    model="uncensored",
    stream=True,
    temperature=0.3,
    messages=[
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": f"Review {path}:\n\n{code}"},
    ],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

Запустите его как python review.py app/server.py. Файл на 1000 токенов с ревью на 600 токенов стоит $0,00015 + $0,0003 = $0,00045. Можно проверить несколько тысяч файлов менее чем за $2.

Та же схема работает для сообщений коммитов, генерации тестов и docstrings. Привяжите скрипт к ключу в редакторе, и у вас будет пользовательская команда без плагинов.

Где это подходит и где нет

Эта настройка подходит, если вам нужен свой эндпоинт, тарификация за токен и модель, которая не откажется выполнять задачу из-за её темы. Она подходит для одиночных разработчиков, небольших команд и тех, кто создаёт инструменты, которые общаются с несколькими провайдерами через одну клиентскую библиотеку.

Это менее подходящий вариант, если вы зависите от функций, которые работают только с собственными размещенными моделями редактора, такими как встроенное автодополнение, настроенное под конкретную модель, или функции на основе изображений. Если эти функции центральны для вашей работы, оставьте настройки по умолчанию и используйте этот API для панели чата и скриптов. Смешивание двух вариантов распространено и не стоит дополнительных денег.

Если вы хотите просто попробовать, получите пробный период на странице API-ключ и задайте вашему редактору три вопроса из текущей задачи. Сравните ответы с тем, что вы получаете сейчас. Этот тест занимает десять минут и использует долю цента.

Честные ограничения текстовой модели

Три ограничения стоит знать перед переключением.

Только текст. Нет загрузки изображений и эндпоинта эмбеддингов. Если ваш редактор индексирует кодовую базу с эмбеддингами, этот индекс требует другого источника или функция остается отключенной. Вставка скриншота ошибки тоже не сработает; вставьте текст ошибки.

Окно на 100 000 токенов. Это промпт плюс ответ. Как грубое правило, код занимает примерно три-четыре символа на токен, поэтому большой файл на 40 КБ составляет примерно 10 000–13 000 токенов. Редакторы, прикрепляющие много файлов, могут быстро достичь предела. Когда видите ошибку контекста, прикрепляйте меньше файлов, а не больше.

Скрытая маршрутизация отсутствует. Вы получаете одну модель. Если она не справляется с задачей, нет резервной модели в фоновом режиме, поэтому перефразируйте, добавьте пример или сузьте вопрос.

Что касается стоимости, типичный вопрос по коду с 20 000 входными токенами и 1 000 выходными токенами стоит $0,003 + $0,0005 = $0,0035. Пятьдесят таких в день — $0,175. На странице тарифов указаны пополнения от $20 до $500 с бонусами от $50, и кредит никогда не истекает. Промпты не используются для обучения.

Чек-лист перед принятием решения

• Протестируйте с пробным балансом на реальной задаче из вашего проекта, а не на тестовом промпте.
• Проверьте, работает ли потоковая передача в вашем редакторе. Если ответы появляются только в конце, редактор может буферизовать данные.
• Убедитесь, что вызов инструментов подключен, если вы используете функции агента. Этот API поддерживает tools и потоковую передачу tool_calls, но редактор решает, отправлять ли их.
• Ознакомьтесь с быстрым стартом в документации один раз, включая раздел с кодами ошибок.
• Определите ежемесячный лимит пополнения. Поскольку оплата предоплаченная, максимальная сумма, которую вы можете потратить, равна тому, что вы добавили.

Концепция предоплаты — это страховка для редакторов, запускающих циклы агентов. Цикл, который пошел не так, останавливается, когда заканчивается кредит, а не создает неожиданный счет.

Дополнительные руководства

• Тарифы Kimi Code API против токенов по факту
• Базовый URL API Kimi Code: настройка для клиентов OpenAI
• ⟦a0⟍Groq API: Мифы и факты о нецензурируемых LLM⟦/a0⟍