Как развернуть приватную LLM в кластере Kubernetes

Опубликовано 12 марта 2026, 22:30

Получите грант до 30 000 бонусов на тестирование кластеров Managed Kubernetes в течение месяца: slc.tl/testkuber1203
Начислим до 1 000 000 бонусов при переезде к нам с инфраструктуры других провайдеров slc.tl/migrate1203

Полезные материалы:
Репозиторий с примером развертывания LLM в Managed Kubernetes с выделенными серверами в качестве воркер-нод: github.com/selectel/webinar-ll...
Статья “Kaken – как мы внедрили четыре AI-сервиса для собственного использования” selectel.ru/blog/kaken-how-we-...
Сервис для запуска и управления LLM в облаке Selectel. Выберите модель конфигурацию и получите готовый endpoint для работы с ней slc.tl/fmc1203


Официальный сайт Selectel — slc.tl/hbJ0Q

Подписывайтесь на Selectel в социальных сетях:
Telegram — slc.tl/4pkff
VK — vk.com/selectel

Подписывайтесь на блоги Selectel:
Хабр — habr.com/ru/company/selectel
Академия Selectel — slc.tl/nxjp7

Не пропускайте мероприятия, которые Selectel проводит сам и вместе с партнерами: slc.tl/khiyk
Telegram-канал с вакансиями: t.me/selectelcareers


00:00 Приветственное слово
03:22 Managed Kubernetes на выделенных серверах как инфраструктура для приватной LLM
07:24 Пример приватной LLM в Selectel
12:39 Воркшоп
01:08:27 Ответы на вопросы