О чём урок
Использование инструментов расширяет возможности LLM, позволяя им перекладывать задачи, плохо подходящие для языкового моделирования с предсказанием следующего токена. Инструменты позволяют моделям (косвенно) выполнять математические или другие детерминированные операции, запускать код и искать информацию в широком спектре источников данных. В этом блокноте мы демонстрируем, что модель Cohere Command может быть использована для расширения этой парадигмы, охватывая разнообразные сценарии использования, которые полагаются на извлечение информации, программирование и ввод данных человеком. В корпоративной среде информация часто распределена по широкому кругу баз знаний — например: облачные хранилища документов, такие как Notion, Jira, Google Drive или Microsoft SharePoint; журналы чатов из Slack, Microsoft Teams и других; или стенограммы совещаний и внутренние документы. Создавая специализированные инструменты для каждой базы знаний, мы позволяем агенту получать доступ к любым источникам информации, необходимым для конкретного сценария использования. Получив эти результаты, мы можем позволить агенту определить, достаточно ли извлеченной информации для ответа на запрос, или требуется веб-поиск. Здесь это делается с помощью модифицированной версии шаблона оценщика корректности из LlamaIndex. Если оценка низкая, агент запрашивает у пользователя разрешение на выполнение веб-поиска для нахождения ответа. Этот блокнот покажет, как агент может оснастить LLM несколькими инструментами, такими как RAG и веб-поиск, чтобы стать полезным помощником. "Сколько мы получаем за рекомендацию?" -> Вопрос по HR "Как настроить API ключ для Cohere?" -> Вопрос по IT "Доступен ли Cohere на AWS?" -> Вопрос для веб-поиска "Сколько я получаю в год на обучение и развитие, и можете ли вы рассчитать, сколько я могу тратить в неделю?" --> Вопрос по HR + Расчет Мок-база данных HR-документов Мок-база данных IT-документов (например, API docs) Интерпретатор Python Извлекатель HR-данных Извлекатель IT-данных Инструмент веб-поиска с разрешением человека Здесь мы определяем документы, связанные с HR и IT, которые будут использоваться в качестве мок-базы данных. Следующая функция помогает нам преобразовать IT- и HR-документы в pandas DataFrame с эмбеддингами. Определите инструменты, используемые агентом.
План урока
- Мотивация
- Цель
- Вопросы
- Данные
- Инструменты
- Настройка
- Инструменты для извлечения
- Инструмент Python
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.