Что такое генеративный ИИ
Что такое генеративный ИИ · 12 мин
В этом видео рассказывается о том, как создаются и обучаются большие языковые модели, такие как Claude, и что это означает для их надёжности в задачах, которые вы ставите перед ними в своём бизнесе.
Основные выводы
- Генеративный ИИ создаёт новый контент, а не анализирует существующие данные.
- Три ключевых достижения сделали современные LLM возможными: архитектура трансформеров, огромные объёмы обучающих данных и мощные вычислительные ресурсы.
- Обучение состоит из двух этапов. Pre-training изучает закономерности на миллиардах примеров. Fine-tuning учит модель полезно следовать инструкциям.
- Текущие сильные стороны включают универсальность в различных задачах, беглость в диалогах и использование инструментов.
- Текущие ограничения включают knowledge cutoffs, галлюцинации и ненадёжное сложное рассуждение.
- Лучшие применения сочетают ваше суждение, креативность и надзор со скоростью и масштабом ИИ.
Упражнение
Проверка границ возможностей
Это упражнение даёт вам непосредственное представление о том, что генеративный ИИ делает хорошо, а в чём он не справляется, используя проблему кодирования, которую вы уже прекрасно знаете — чтобы у вас была конкретная внутренняя проверка, основанная на ваших собственных наблюдениях, при принятии решения, чему доверять ИИ.
Часть I: Саморефлексия (самостоятельно)
Выберите область кодирования, которую вы хорошо знаете и где вы сразу заметите ошибку. Запишите:
- Тему (например, вашу логику ограничения скорости запросов, как вы обрабатываете асинхронное состояние, запрос к БД, который вы оптимизировали в прошлом квартале)
- Две или три вещи, которые любой компетентный инженер должен сделать правильно
- Одно распространённое заблуждение или сложная деталь реализации
- Что-то, что изменилось недавно — обновление библиотеки, устаревание (deprecation), новая лучшая практика
Часть II: Сотрудничество (с ИИ)
Начните диалог с Claude (или любым другим ИИ-ассистентом, который вам нравится) и проведите три коротких чата. Запишите, что вы заметите после каждого.
- Тест на универсальность. Попросите ИИ объяснить вашу тему тремя разными способами в одном ответе: один раз для нетехнического PM, один раз для инженера среднего уровня, присоединяющегося к вашей команде, и один раз для старшего инженера, проводящего code review. Действительно ли изменилась глубина объяснения, или ИИ просто поменял лексику? Какая версия была самой сильной?
- Тест на галлюцинации. Попросите ИИ порекомендовать конкретные библиотеки, пакеты или документацию для вашей проблемы кодирования. Проверьте хотя бы один пункт: существует ли он? Точен ли API? Актуальна ли версия?
- Knowledge cutoff + проверка рассуждений. Спросите что-то актуальное по времени в вашей области: недавнее обновление фреймворка, устаревший шаблон или патч безопасности. Отмечает ли ИИ, что его информация может быть устаревшей — или представляет устаревшую информацию как актуальную? Затем попросите его разобраться со сложной деталью реализации, которую вы записали в Части I. Действительно ли ИИ разрешил путаницу, или просто переформулировал правильный ответ?
Часть III: Рефлексия
Какая возможность из видео проявилась наиболее чётко? Какое ограничение всплыло — и заметили бы вы его, если бы это не была область, которую вы хорошо знаете? Исходя из этого, какую одну задачу вы бы без проблем доверили ИИ, а за какой одной вы бы хотели внимательнее следить?
Дополнительная цель: Пропустите ту же тему через второй ИИ-инструмент. Были ли ошибки и сильные стороны одинаковыми?
Размышления по уроку
- Как знание того, как обучаются эти системы, изменит ваш подход к работе с ними?
- Какие этические соображения приходят на ум, учитывая, как работает генеративный ИИ и в чём он не справляется?
Что дальше
Теперь, когда вы на практике проверили границы возможностей ИИ, на следующем уроке мы углубимся в первую букву D: Делегирование. Вы сформулируете реальную проблему, соотнесёте её с инструментарием разработчика и сделаете осознанный выбор относительно того, где ИИ играет свою роль — прежде чем написать хоть одну строку кода.