Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 92 · Текст · ~5 мин

Дообучение Rerank

Урок 92 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Конечная точка Rerank от Cohere — это сложная система оценки и ранжирования семантической релевантности, которая оптимизирует результаты поиска, оценивая контекстуальную связь между запросами и фрагментами текста.

Однако сложные предметные области представляют собой особую проблему из-за их сложной терминологии, контекста и требований к предметным знаниям. Эти области включают юридические документы, медицинские исследовательские работы, научную литературу, технические руководства, документацию для разработчиков, код, финансовые отчеты и другие области, требующие глубокого понимания специфического жаргона и сложных концепций. Эти области часто требуют тонкой настройки на пользовательских данных, чтобы гарантировать, что модели улавливают нюансы и экспертные знания, необходимые для точного понимания.

Чтобы понять важность предметно-ориентированного обучения, мы рассмотрим пример кода, использующий набор данных из юридической области. Вы увидите, как тонкая настройка может значительно повысить точность модели.

Мы выполним следующие шаги:

  • Шаг 1: Подготовка набора данных - Загрузите набор данных, выберите подмножество и подготовьте его для конечной точки Rerank.
  • Шаг 2: Оценка предварительно обученной модели - Вычислите точность предварительно обученной модели на тестовых данных.
  • Шаг 3: Тонкая настройка модели - Запустите задачу тонкой настройки и подтвердите завершение обучения модели.
  • Шаг 4: Оценка тонко настроенной модели - Оцените производительность тонко настроенной модели на тестовом наборе данных.

Мы начнем с установки необходимых инструментов, а затем импортируем их.

Вставьте свой ключ API Cohere в следующую ячейку. Для этого сначала зарегистрируйтесь в Cohere (бесплатно!), если вы еще этого не сделали. Затем получите свой ключ API здесь.

Мы начинаем с загрузки набора данных CaseHOLD из Hugging Face. CaseHOLD — это задача Q&A с множественным выбором, состоящая из юридических решений, ссылающихся на другие решения в качестве прецедентов, называемых "holding statement". Это сложная задача, требующая специализированных юридических знаний для решения.

Мы определяем его как IterableDataset, чтобы загружать только небольшую часть примеров за раз и избегать загрузки всего набора данных в память.

Для этого примера мы будем использовать подмножество из всего 420 точек данных, которые будут разделены на обучающий, валидационный…

План урока

  1. Обзор
  2. Настройка
  3. Шаг 1: Подготовка набора данных
  4. Шаг 2: Оценка предварительно обученной модели
  5. Шаг 3: Тонкая настройка модели
  6. Шаг 4: Оценка тонко настроенной модели

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды