Урок из полного доступа, первые уроки курса бесплатно Официальный курс OpenAI Academy на русском
Урок 283 · Текст · ~5 мин

Redis как хранилище контекста для чата

Урок 283 из 303 курса «OpenAI Cookbook»: официальный курс OpenAI Academy (ОпенАИ) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот notebook демонстрирует, как использовать Redis в качестве высокоскоростной памяти контекста с ChatGPT.

  • Экземпляр Redis с модулями Redis Search и Redis JSON
  • Клиентская библиотека Redis-py
  • Клиентская библиотека OpenAI для Python
  • Ключ API OpenAI

Установите модули Python, необходимые для примеров.

Создайте файл .env и добавьте в него свой ключ OpenAI

Загрузка ключа + вспомогательная функция для завершения чата

Gpt-3.5-turbo был обучен на данных до сентября 2021 года. Давайте зададим ему вопрос о чем-то, что произошло после этой даты. В данном случае, о скандале с FTX/Сэмом Бэнкман-Фридом. Мы используем старую модель здесь для демонстрации. Более новые модели, такие как got-4o, имеют более поздние даты среза знаний (конец 2023 года) и также будут работать здесь.

Нежелательное поведение этих систем AI заключается в том, что система предоставит уверенно звучащий ответ — даже когда система не уверена в своем результате. Один из способов смягчить это — переработка prompt'а, как показано ниже.

Еще один способ борьбы с неполной информацией — предоставить системе больше информации, чтобы она могла принимать разумные решения, а не гадать. Мы будем использовать Redis в качестве источника этого дополнительного контекста. Мы будем извлекать статьи деловых новостей, опубликованные после даты среза знаний GPT, чтобы система лучше понимала, как на самом деле управлялась FTX.

FT.CREATE

Redis JSON

KNN Search

Теперь, когда у нас есть релевантный контекст, добавим его к prompt'у для OpenAI и получим совершенно другой ответ.

План урока

  1. Предварительные требования
  2. Установка
  3. Ключ API OpenAI
  4. Настройка OpenAI
  5. Эксперимент - Завершение чата по теме, выходящей за пределы даты среза знаний модели
  6. Неполная информация
  7. Дополнительный контекст
  8. Запустите контейнер Redis Stack Docker

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы OpenAI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от OpenAI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды