Деквантизация эмбеддингов

Урок 49 из 148 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот notebook демонстрирует, как деквантизировать различные квантованные представления (int8, uint8, binary, ubinary) embeddings обратно в значения с плавающей точкой с использованием PyTorch и NumPy. Установите необходимые пакеты:

План урока

  1. Установка
  2. определение функций деквантизации
  3. Примеры

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды