ML on the edge / Андрей Татаринов (Epoch8)

1 463

8.4

Онтико83.1 тыс

Следующее

05.12.19 – 5 12246:21

Устойчивость GraphQL к нагрузке по сравнению с REST / Антон Морев (Wormsoft)

Популярные

77 дней – 23910:49

TechTalk "ML-исследования в Дзене: как жить без KPI?" / Андрей Зимовнов (Дзен)

77 дней – 21247:38

GPT3+-модели в задачах кибербезопасности / Артем Бачевский (MTS RED)

Опубликовано 5 декабря 2019, 21:05

Приглашаем на конференцию Saint HighLoad++ 2024, которая пройдет 24 и 25 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: vk.cc/cuyIqx
--------
--------
HighLoad++ Siberia 2019

Тезисы и презентация:
highload.ru/siberia/2019/abstr...

Машинное обучение - это не только веб-сервисы на сверхпроизводительных TPU. В реальных условиях может потребоваться возможность применять ML-модели на конечных устройствах.

Например, мобильное приложение, которое должно работать в оффлайн, или Enterprise-сервис, который работает в закрытом контуре.

При этом не всегда есть возможность вместе с моделью внедрить специализированное оборудование и приходится запускаться на чем есть.

В этом докладе на примере одной конкретной модели машинного зрения я покажу, как её запустить:
- в облаке на GPU;
- в браузере клиента;
- на мобильном устройстве;
- на ноутбуке без видеокарты;
- на микросхеме за $10.

Покажу, какой trade-off требуется в каждом случае и что происходит с производительностью и качеством.
--------
Нашли ошибку в видео? Пишите нам на support@ontico.ru

Свежие видео