Перейти до основного вмісту

Меню команд

Перейдіть на сторінку або пошукайте в каталозі

ШІ-інструменти та скрипти

Перевірка конфігурації LLM на власних серверах

Перевіряйте конфігурації Ollama, vLLM, llama.cpp, LocalAI, TGI, LiteLLM і Open WebUI, перш ніж відкривати до них доступ: відкриті API моделей без ключа, ключі в конфігурації, Open WebUI з вимкненим входом або реєстрацією адміністраторів, віддалений код і плаваючі теги образів.

$5.00

Що ви отримаєте: 1 файл · 44.81 KB · ZIP

Переглянути варіанти купівлі

Опис товару

Публікація порту 11434:11434 для офіційного образу Ollama відкриває API без пароля на всіх мережевих інтерфейсах вашого GPU-сервера, а WEBUI_AUTH=False в опублікованому Open WebUI робить кожного відвідувача адміністратором, який може виконувати Python на сервері. Ця навичка знаходить такі помилки та ще дев'ять інших помилок під час розміщення LLM на власному сервері до того, як ви відкриєте доступ до сервера, і підказує, як виправити кожну з них.

Ваш агент запускає сканер для ваших файлів Compose, маніфестів Kubernetes, Dockerfile, юнітів systemd і drop-in файлів, файлів .env та конфігурацій проксі LiteLLM. Сканер розпізнає кожен сервер за образом або командою і знає його поведінку за замовчуванням: офіційні образи Ollama і llama.cpp слухають усі інтерфейси, ollama serve і llama-server на звичайному хості слухають 127.0.0.1, а vLLM, LocalAI, TGI і проксі LiteLLM слухають усі інтерфейси, якщо не вказано інше. Порт, опублікований на 127.0.0.1, прив'язка до однієї адреси локальної мережі чи VPN і внутрішній хмарний балансувальник навантаження не вважаються проблемою; параметри, які контейнер отримує з ConfigMap у тому самому маніфесті, вважаються його власними; ${VAR}, secretKeyRef і посилання на змінні середовища LiteLLM вважаються посиланнями, а фіктивні ключі на зразок fake-key або EMPTY для бекенду, якому ключ не потрібен, не вважаються секретами. Кожна знахідка щодо відкритого порту називає власний порт цього сервера, параметр прив'язки та параметр ключа. Сканер ніколи не запускає сервер, контейнер чи модель. Результат: BLOCK, REVIEW або NOT FLAGGED із зазначенням файлу, рядка, причини та безпечнішого підходу. Секрети ніколи не виводяться.

Що перевіряється

BLOCK (виправити до випуску)

  • L01: сервер Ollama, vLLM, llama.cpp, LocalAI, TGI або проксі LiteLLM, доступний з мережі (опублікований порт, мережа хоста, Service типу LoadBalancer або NodePort, прив'язка до 0.0.0.0), без API-ключа
  • L02: API-ключі (зокрема списки ключів, як-от OPENAI_API_KEYS), майстер-ключі, токени й паролі, прописані у файлах Compose, Kubernetes, Dockerfile, systemd чи конфігурації LiteLLM або в командному рядку
  • L03: Open WebUI з вимкненим WEBUI_AUTH, доступний з мережі
  • L04: Open WebUI з DEFAULT_USER_ROLE=admin, коли реєстрація, реєстрація через OAuth, LDAP або вхід через заголовок дозволяють створювати облікові записи

REVIEW (перевірити перед релізом)

  • L11: --trust-remote-code без ревізії, закріпленої на коміті
  • L12: * в OLLAMA_ORIGINS, vLLM --allowed-origins та інших налаштуваннях CORS, а також версії vLLM до 0.32.0, які за замовчуванням дозволяли будь-яке джерело
  • L13: реєстрація в Open WebUI без схвалення (роль user) або admin як роль за замовчуванням
  • L14: образи серверів моделей без версії в тегу (latest, main, server-cuda)
  • L15: порти API або інтерфейсу, опубліковані через звичайний HTTP, зокрема шляхи vLLM, на які не поширюється його --api-key
  • L16: режим розробки vLLM, небезпечна серіалізація або широкий доступ до локальних медіафайлів, а також llama-server --props
  • L17: ключі та паролі зі зразковими або стандартними значеннями з документації чи фіктивне значення, що використовується як власний ключ сервера

Що входить до комплекту

  • Сканер (Python 3.9+, лише стандартна бібліотека)
  • Посібник із правил: для кожного правила вказано причину, безпечніший підхід і посилання на офіційну документацію
  • Ризикований і безпечний приклади проєкту, а також справжній звіт, який сканер видає для ризикованого прикладу

Обмеження

Кожен файл аналізується окремо: Service, ConfigMap або файл .env, що зберігаються в іншому файлі, не пов'язуються зі своїм сервером, а команди docker run у скриптах не читаються. Фаєрволи, хмарні групи безпеки та зворотні проксі, налаштовані деінде, не видно, а налаштування Open WebUI, змінені в його панелі адміністратора, не перевіряються. SGLang, TabbyAPI і LM Studio не підтримуються. Зіставлення портів зі швидкого старту Ollama і llama.cpp позначаються навмисно, бо вони публікують API без ключа на всіх інтерфейсах. NOT FLAGGED не є гарантією.

Вміст

Один ZIP-файл, у ньому 20 файлів: SKILL.md, сканер у scripts/ (5 файлів Python), references/rules.md (кожне правило з причиною та безпечнішим підходом) і examples/ (12 файлів з прикладами, а також report.md, справжній звіт сканера щодо ризикованого прикладу).

Як користуватися: Це навичка для ШІ-агента: тека з файлом SKILL.md і скриптами Python, які може запускати ШІ-агент для програмування, наприклад Claude Code, Cursor або Codex CLI. Розпакуйте архів у теку навичок вашого агента (для Claude Code: ~/.claude/skills/), а потім попросіть агента перевірити ваш проєкт. Скрипти також працюють самостійно з Python 3.9 або новішим, нічого встановлювати не потрібно. Вони лише читають ваші файли: жодного доступу до мережі, нічого нікуди не надсилається.

Що ви отримаєте

1 файл · 44.81 KB

  • self-hosted-llm-config-check-1.0.0.zipZIP · 44.81 KB
ЛіцензіяКомерційне використання дозволено
Перевірка пакетаПройдено

Getly відкрив завантажені файли й не знайшов нічого, що завадило б їх відкрити. Це не антивірусна перевірка і не оцінка якості.

Опубліковано12 лист. 2026 р.
Розмір файлу44.81 KB
Формат файлуZIP
Версіяv1.0

Теги

llmollamavllmself-hostedsecurityai agent skill
R
RR HH

Поширені запитання

Чи отримаю я доступ одразу?

Так. Це цифровий товар: ви можете завантажити його одразу після оплати, просто зі своєї бібліотеки.

Чи можна використовувати його в комерційних проєктах?

Так. Комерційне використання дозволено: користуйтеся в особистому бізнесі та в тому, що продаєте. Ви не можете перепродавати чи поширювати сам файл.

Яка у вас політика повернення коштів?

Ви можете запросити повернення коштів протягом 30 дн. Якщо щось не так, подайте запит зі свого замовлення, і команда Getly його розгляне.

Які формати та розміри файлів я отримаю?

Ви завантажите 1 файл - ZIP - загалом 44.81 KB.

Чи отримую я безкоштовні оновлення?

Так: коли продавець випускає нову версію, ви можете повторно завантажити свіжі файли зі своєї бібліотеки безкоштовно. Останні оновлення дивіться в журналі змін.

Ціна

$5.00