Redis как хранилище контекста для чата

О чём урок

Этот notebook демонстрирует, как использовать Redis в качестве высокоскоростной памяти контекста с ChatGPT. Экземпляр Redis с модулями Redis Search и Redis JSON Клиентская библиотека Redis-py Клиентская библиотека OpenAI для Python Ключ API OpenAI Установите модули Python, необходимые для примеров. Создайте файл .env и добавьте в него свой ключ OpenAI ключа + вспомогательная функция для завершения чата Gpt-3.5-turbo был обучен на данных до сентября 2021 года. Давайте зададим ему вопрос о чем-то, что произошло после этой даты. В данном случае, о скандале с FTX/Сэмом Бэнкман-Фридом. Мы используем старую модель здесь для демонстрации. Более новые модели, такие как got-4o, имеют более поздние даты среза знаний (конец 2023 года) и также будут работать здесь. Нежелательное поведение этих систем AI заключается в том, что система предоставит уверенно звучащий ответ — даже когда система не уверена в своем результате. Один из способов смягчить это — переработка prompt'а, как показано ниже. Еще один способ борьбы с неполной информацией — предоставить системе больше информации, чтобы она могла принимать разумные решения, а не гадать. Мы будем использовать Redis в качестве источника этого дополнительного контекста. Мы будем извлекать статьи деловых новостей, опубликованные после даты среза знаний GPT, чтобы система лучше понимала, как на самом деле управлялась FTX. FT.CREATE Redis JSON KNN Search Теперь, когда у нас есть релевантный контекст, добавим его к prompt'у для OpenAI и получим совершенно другой ответ.

План урока

1. Предварительные требования
2. Установка
3. Ключ API OpenAI
4. Настройка OpenAI
5. Эксперимент - Завершение чата по теме, выходящей за пределы даты среза знаний модели
6. Неполная информация
7. Дополнительный контекст
8. Запустите контейнер Redis Stack Docker