У нас вы можете посмотреть бесплатно Демократизация LLM, llama.cpp, llava и что делаем в этом зоопарке или скачать в максимальном доступном качестве, которое было загружено на ютуб. Для скачивания выберите вариант из формы ниже:
Если кнопки скачивания не
загрузились
НАЖМИТЕ ЗДЕСЬ или обновите страницу
Если возникают проблемы со скачиванием, пожалуйста напишите в поддержку по адресу внизу
страницы.
Спасибо за использование сервиса savevideohd.ru
Антон Штарев, пришел и принес нам готовые SOTA решения для локального запуска больших языковых моделей у вас на холодильнике. Будто мама птичка, которая кормит своих несмысленышей прямо с клювика Антон рассказал нам про квантизацию моделей, опыт с llama.cpp, как не задолжать GCP крупную сумму и использовать мультимодальные модели не спонсируя увольнения Сэма Альтмана. Контакты спикера: https://t.me/ashtarev Выступить со своим докладом: https://t.me/evvbmstu 00:00 Делюсь травмирующим прошлым 00:17 Семейство LLM и кто тут не очень 04:33 Работягам - GPU 06:47 Квантизация и ее подводные 14:23 Человек который изменил все 15:13 Llama.cpp 19:00 Демонстрация, работаем в полях 37:14 Извиняюсь