Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 19 · Текст · ~5 мин

Универсальный агент: RAG, веб-поиск и Python

Урок 19 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Использование инструментов расширяет возможности LLM, позволяя им перекладывать задачи, плохо подходящие для языкового моделирования с предсказанием следующего токена. Инструменты позволяют моделям (косвенно) выполнять математические или другие детерминированные операции, запускать код и искать информацию в широком спектре источников данных. В этом блокноте мы демонстрируем, что модель Cohere Command может быть использована для расширения этой парадигмы, охватывая разнообразные сценарии использования, которые полагаются на извлечение информации, программирование и ввод данных человеком.

В корпоративной среде информация часто распределена по широкому кругу баз знаний — например: облачные хранилища документов, такие как Notion, Jira, Google Drive или Microsoft SharePoint; журналы чатов из Slack, Microsoft Teams и других; или стенограммы совещаний и внутренние документы. Создавая специализированные инструменты для каждой базы знаний, мы позволяем агенту получать доступ к любым источникам информации, необходимым для конкретного сценария использования.

Получив эти результаты, мы можем позволить агенту определить, достаточно ли извлеченной информации для ответа на запрос, или требуется веб-поиск. Здесь это делается с помощью модифицированной версии шаблона оценщика корректности из LlamaIndex. Если оценка низкая, агент запрашивает у пользователя разрешение на выполнение веб-поиска для нахождения ответа.

Этот блокнот покажет, как агент может оснастить LLM несколькими инструментами, такими как RAG и веб-поиск, чтобы стать полезным помощником.

  • "Сколько мы получаем за рекомендацию?" -> Вопрос по HR
  • "Как настроить API ключ для Cohere?" -> Вопрос по IT
  • "Доступен ли Cohere на AWS?" -> Вопрос для веб-поиска
  • "Сколько я получаю в год на обучение и развитие, и можете ли вы рассчитать, сколько я могу тратить в неделю?" --> Вопрос по HR + Расчет
  • Мок-база данных HR-документов
  • Мок-база данных IT-документов (например, API docs)
  • Интерпретатор Python
  • Извлекатель HR-данных
  • Извлекатель IT-данных
  • Инструмент веб-поиска с разрешением человека

Здесь мы определяем документы, связанные с HR и IT, которые будут использоваться в качестве мок-базы данных.

Следующая функция помогает нам преобразовать IT- и HR-документы в pandas DataFrame с эмбеддингами.

Определите инструменты, используемые агентом.

Определите инструменты, связанные с извлечением:

  • evaluator: оценивает…

План урока

  1. Мотивация
  2. Цель
  3. Вопросы
  4. Данные
  5. Инструменты
  6. Настройка
  7. Инструменты для извлечения
  8. Инструмент Python

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды