Что мы создаём?
В этой статье я покажу вам, как запустить полный агентный процесс ревью кода на собственном оборудовании с использованием модели Qwen3.6-35B-A3B. К концу руководства у вас будет настроенный рабочий поток GitHub Actions, который проверяет каждый pull request локально размещённой моделью машинного обучения, выводит структурированные результаты проверки в формате JSON и блокирует слияние при необходимости.
Преимущества самостоятельного размещения
До сих пор основным препятствием для использования искусственного интеллекта в процессе ревью кода была не столько качество моделей, сколько предсказуемость затрат и вопросы безопасности данных. Отправка каждого изменения кода через облачные API обходится дорого ($3–15 за миллион токенов), особенно если ваша команда ежедневно отправляет десятки запросов на слияние. Кроме того, многие организации просто не могут отправлять проприетарный код третьим сторонам.
Модель Qwen3.6-35B-A3B решает эти проблемы благодаря своей архитектуре «mixture-of-experts», которая активирует только около 3 миллиардов параметров из общего числа 35 миллиардов во время одного прохода вычислений. Это позволяет проводить инференс даже на относительно скромном железе, которое бы иначе не справилось с полной нагрузкой такой большой модели.
Шаги настройки
Этап 1: Выбор квантизации
Квантизация — это метод уменьшения размера модели путём снижения точности её весов. Правильный выбор формата квантизации может значительно ускорить работу вашей системы и снизить требования к памяти. Например, формат Q4_K_M является популярным выбором среди команд разработчиков, но его следует тщательно протестировать перед внедрением.
Этап 2: Настройка рабочего потока GitHub Actions
После выбора подходящего метода квантизации следующим шагом станет настройка рабочего процесса GitHub Actions. Этот шаг включает создание скриптов для запуска модели и интеграции их с вашим репозиторием. Важно убедиться, что ваш сервер имеет достаточно ресурсов для выполнения задач и правильно настроен для работы с моделями глубокого обучения.