LLM Scaling Week 2025 | Семинар. Inference challenges
0
Академия Яндекса115 тыс
Следующее
Популярные
161 день – 15049:31
28.12.24 – 23955:31Опубликовано 1 апреля 2026, 14:07
Спикер: Роман Горб, руководитель команды ускорения инференса YandexGPT
На семинаре погрузимся в детали:
- Докажем корректность спекулятивного сэмплинга;
- Сравним параллелизмы на практике;
- Разберёмся когда нужен disaggregated prefill/decode.
Ссылка на материал спикера: disk.yandex.ru/d/Ej0AHYQgnTe0T...
Материалы интенсива, которые уже прошли:
Лекция 1: youtube.com/live/JMUWSdSD1Uk?f...
Лекция 2: youtube.com/live/IAeAKcdMtsw?f...
Лекция 3: youtube.com/live/BYiFv5PoMBw?f...
Лекция 3.1: youtube.com/live/-52RgKQENl0?f...
Лекция 4: youtube.com/live/VXI41kyQTPs?f...
Лекция 5: youtube.com/live/AHMJICS2JQ0?f...
Узнать больше о Школе анализа данных можно на сайте: shad.yandex.ru
На семинаре погрузимся в детали:
- Докажем корректность спекулятивного сэмплинга;
- Сравним параллелизмы на практике;
- Разберёмся когда нужен disaggregated prefill/decode.
Ссылка на материал спикера: disk.yandex.ru/d/Ej0AHYQgnTe0T...
Материалы интенсива, которые уже прошли:
Лекция 1: youtube.com/live/JMUWSdSD1Uk?f...
Лекция 2: youtube.com/live/IAeAKcdMtsw?f...
Лекция 3: youtube.com/live/BYiFv5PoMBw?f...
Лекция 3.1: youtube.com/live/-52RgKQENl0?f...
Лекция 4: youtube.com/live/VXI41kyQTPs?f...
Лекция 5: youtube.com/live/AHMJICS2JQ0?f...
Узнать больше о Школе анализа данных можно на сайте: shad.yandex.ru
Свежие видео
2 дня – 16 5230:09
3 дня – 8615:12
4 дня – 17 6960:51
6 дней – 5555:20
7 дней – 4 61423:58
14 дней – 54 5591:25Случайные видео
19.10.24 – 19 0350:11
05.08.24 – 47 7720:16
22.08.22 – 32 78359:33
18.12.21 – 3 40926:05
11.06.11 – 42518:40
14 дней – 26 5952:03:41
22 часа – 4 9090:55
2 дня – 2870:41
3 дня – 37 61835:16
4 дня – 35 09123:08
5 дней – 42246:12
5 дней – 9 1576:37
5 дней – 14 7940:52
18 часов – 8 1191:00
22 часа – 00:00