Скачать с ютуб LMstudio как замена ChatGPT: Saiga Mistral, LLama и другие локальные LLM в хорошем качестве

LMstudio как замена ChatGPT: Saiga Mistral, LLama и другие локальные LLM

Новые видео, статьи и полезности в Telegram: https://t.me/+AvtWabJB1ms5NmE6 Скрипты для подключения к локальному серверу + инструкция по их запуску: https://boosty.to/morinad/posts/3c3f2... Наши курсы: 1) Основы Power BI (бесплатный курс): https://directprorf.ru/basics?utm_sou... 2) Power BI для рекламных отчётов: https://directprorf.ru/powerbi?utm_so... 3) Из API в Excel и Power BI + коннекторы: https://directprorf.ru/excel?utm_sour... 4) Коннекторы для Маркетплейсов: https://directprorf.ru/marketplaces?u... 5) Продвинутый Power Query: https://directprorf.ru/pro?utm_source... 6) Создание коннекторов в Power Query: https://directprorf.ru/connectors?utm... Все коннекторы mez для Power BI и консультации по ним доступны на Boosty по подписке "ПРО": https://boosty.to/morinad/posts/eb9b9... Таймкоды: 0:00 - Что делать если вы не хотите работать с ChatGPT? 0:25 - LM studio - удобный инструмент для тестирования LLM 1:10 - Интерфейс LMstudio 1:35 - Удобный поиск больших языковых моделей 2:41 - Quantization - как выбрать и скачать подходящую версию 4:10 - ChatGPT внутри LMstudio 5:07 - Разворачиваем локальный сервер для своих программ 5:54 - Как програмно обратиться к локальной модели 6:45 - Тестируем Saiga Mistral на примере SQL 7:57 - Сравниваем Saiga с ChatGPT 8:20 - Просим Saiga Mistral и ChatGPT написать 3 слогана 9:50 - История про бизнес-коуча от LLM 10:30 - Проблемы со скоростью в локальных LLM 12:08 - Работа с Llama - проблема с русским языком 12:37 - Таймаут ожидания в функциях обращения к local LLM 13:06 - Функция Power Query для обращения к локальной модели 14:04 - Итоги: мне не понравилась ни одна opensource модель 14:57 - Модели от крупных компаний пока выигрывают у opensource моделей Другие интересные видео: Запрос к API GPT3 и ChatGPT:    • Запрос к API GPT3 и ChatGPT на Python...   API ChatGPT пишет код сайта:    • API ChatGPT создаёт сайт на HTML и CS...   Подключение к API на Python и PQ:    • Подключение к API на Python и Power Q...   Телеграм-бот на базе Power BI:    • Телеграм-бот на базе Power BI и Direc...