Перейти к основному содержимому

Меню команд

Перейти на страницу или искать в каталоге

ИИ-инструменты и скрипты

Проверка конфигурации самостоятельно размещаемых LLM

Проверяйте конфигурации Ollama, vLLM, llama.cpp, LocalAI, TGI, LiteLLM и Open WebUI, прежде чем открывать к ним доступ: открытые API моделей без ключа, ключи в конфигурации, Open WebUI с отключенным входом или регистрацией администраторов, удаленный код и плавающие теги образов.

$5.00

Что вы получите: 1 файл · 44.81 KB · ZIP

Варианты покупки

Описание товара

Публикация порта 11434:11434 для официального образа Ollama открывает API без пароля на всех сетевых интерфейсах вашего GPU-сервера, а WEBUI_AUTH=False в опубликованном Open WebUI делает каждого посетителя администратором, который может выполнять Python на сервере. Этот навык находит такие ошибки и еще девять других ошибок при самостоятельном размещении LLM до того, как вы откроете доступ к серверу, и подсказывает, как исправить каждую из них.

Ваш агент запускает сканер для ваших файлов Compose, манифестов Kubernetes, Dockerfile, юнитов systemd и drop-in файлов, файлов .env и конфигураций прокси LiteLLM. Сканер распознает каждый сервер по образу или команде и знает его поведение по умолчанию: официальные образы Ollama и llama.cpp слушают все интерфейсы, ollama serve и llama-server на голом хосте слушают 127.0.0.1, а vLLM, LocalAI, TGI и прокси LiteLLM слушают все интерфейсы, если не указано иное. Порт, опубликованный на 127.0.0.1, привязка к одному адресу локальной сети или VPN и внутренний облачный балансировщик нагрузки не считаются проблемой; параметры, которые контейнер получает из ConfigMap в том же манифесте, считаются его собственными; ${VAR}, secretKeyRef и ссылки на переменные окружения LiteLLM считаются ссылками, а фиктивные ключи вроде fake-key или EMPTY для бэкенда, которому ключ не нужен, не считаются секретами. Каждая находка об открытом порте называет собственный порт этого сервера, параметр привязки и параметр ключа. Сканер никогда не запускает сервер, контейнер или модель. Результат: BLOCK, REVIEW или NOT FLAGGED с указанием файла, строки, причины и более безопасного подхода. Секреты никогда не выводятся.

Что проверяется

BLOCK (исправить до выпуска)

  • L01: сервер Ollama, vLLM, llama.cpp, LocalAI, TGI или прокси LiteLLM, доступный из сети (опубликованный порт, сеть хоста, Service типа LoadBalancer или NodePort, привязка к 0.0.0.0), без API-ключа
  • L02: API-ключи (включая списки ключей, например OPENAI_API_KEYS), мастер-ключи, токены и пароли, прописанные в файлах Compose, Kubernetes, Dockerfile, systemd или конфигурации LiteLLM либо в командной строке
  • L03: Open WebUI с отключенным WEBUI_AUTH, доступный из сети
  • L04: Open WebUI с DEFAULT_USER_ROLE=admin, когда регистрация, регистрация через OAuth, LDAP или вход по заголовку позволяют создавать учетные записи

REVIEW (проверить перед релизом)

  • L11: --trust-remote-code без ревизии, закрепленной на коммите
  • L12: * в OLLAMA_ORIGINS, vLLM --allowed-origins и других настройках CORS, а также версии vLLM до 0.32.0, которые по умолчанию разрешали любой источник
  • L13: регистрация в Open WebUI без одобрения (роль user) или admin в качестве роли по умолчанию
  • L14: образы серверов моделей без версии в теге (latest, main, server-cuda)
  • L15: порты API или интерфейса, опубликованные по обычному HTTP, включая пути vLLM, на которые не распространяется его --api-key
  • L16: режим разработки vLLM, небезопасная сериализация или широкий доступ к локальным медиафайлам, а также llama-server --props
  • L17: ключи и пароли с примерными или стандартными значениями из документации либо фиктивное значение, используемое как собственный ключ сервера

Что входит в комплект

  • Сканер (Python 3.9+, только стандартная библиотека)
  • Руководство по правилам: для каждого правила указаны причина, более безопасный подход и ссылка на официальную документацию
  • Рискованный и безопасный примеры проекта, а также реальный отчет, который сканер выдает для рискованного примера

Ограничения

Каждый файл анализируется отдельно: Service, ConfigMap или файл .env, хранящиеся в другом файле, не связываются со своим сервером, а команды docker run в скриптах не читаются. Файрволы, облачные группы безопасности и обратные прокси, настроенные в другом месте, не видны, а настройки Open WebUI, измененные в его панели администратора, не проверяются. SGLang, TabbyAPI и LM Studio не поддерживаются. Сопоставления портов из быстрого старта Ollama и llama.cpp отмечаются намеренно, потому что они публикуют API без ключа на всех интерфейсах. NOT FLAGGED не является гарантией.

Содержимое

Один ZIP-файл, в нем 20 файлов: SKILL.md, сканер в scripts/ (5 файлов Python), references/rules.md (каждое правило с причиной и более безопасным подходом) и examples/ (12 файлов с примерами, а также report.md, реальный отчет сканера по рискованному примеру).

Как использовать: Это навык для ИИ-агента: папка с файлом SKILL.md и скриптами на Python, которые может запускать ИИ-агент для программирования, например Claude Code, Cursor или Codex CLI. Распакуйте архив в папку навыков вашего агента (для Claude Code: ~/.claude/skills/), а затем попросите агента проверить ваш проект. Скрипты также работают самостоятельно с Python 3.9 или новее, ничего устанавливать не нужно. Они только читают ваши файлы: никакого доступа к сети, никуда ничего не отправляется.

Что вы получите

1 файл · 44.81 KB

  • self-hosted-llm-config-check-1.0.0.zipZIP · 44.81 KB
ЛицензияКоммерческое использование разрешено
Проверка пакетаПройдена

Getly открыл загруженные файлы и не нашёл ничего, что помешало бы их открыть. Это не проверка на вирусы и не оценка качества.

Опубликовано12 нояб. 2026 г.
Размер файла44.81 KB
Формат файлаZIP
Версияv1.0

Теги

llmollamavllmself-hostedsecurityai agent skill
R
RR HH

Частые вопросы

Доступ открывается сразу?

Да. Это цифровой товар - скачать его можно сразу после оплаты, прямо из своей библиотеки.

Можно ли использовать в коммерческих проектах?

Да. Коммерческое использование разрешено: в своём бизнесе и в том, что вы продаёте. Перепродавать и распространять сам файл нельзя.

Какие условия возврата?

Запросить возврат можно в течение 30 дней. Если что-то не так, оформите заявку в своём заказе - её рассмотрит команда Getly.

Какие форматы и размеры файлов я получу?

Вы скачаете 1 файл - ZIP - всего 44.81 KB.

Обновления бесплатны?

Да - когда продавец выпускает новую версию, вы можете бесплатно скачать актуальные файлы из своей библиотеки. Последние изменения смотрите в истории версий.

Цена

$5.00