Claude в Google Vertex AI

Подключение Claude через Google Cloud — авторизация, регионы, биллинг.

100 уроков, первые 3 бесплатно. Полный доступ: 1490 руб.

Уроки курса

  1. Welcome to the course
  2. Overview of Claude models
  3. Accessing the API
  4. Vertex AI Setup
  5. Making a request
  6. Multi-turn conversations
  7. Chat exercise
  8. System prompts
  9. System prompts exercise
  10. Temperature
  11. Course satisfaction survey
  12. Response streaming
  13. Controlling model output
  14. Structured data
  15. Structured data exercise
  16. Quiz on accessing Claude with the API
  17. Prompt evaluation
  18. A typical eval workflow
  19. Generating test datasets
  20. Running the eval
  21. Model based grading
  22. Code based grading
  23. Exercise on prompt evals
  24. Quiz on prompt evaluation
  25. Prompt engineering
  26. Being clear and direct
  27. Being specific
  28. Structure with XML tags
  29. Providing examples
  30. Exercise on prompting
  31. Quiz on prompt engineering techniques
  32. Introducing tool use
  33. Project overview
  34. Tool functions
  35. Tool schemas
  36. Handling message blocks
  37. Sending tool results
  38. Multi-turn conversations with tools
  39. Implementing multiple turns
  40. Using multiple tools
  41. The batch tool
  42. Tools for structured data
  43. The text edit tool
  44. The web search tool
  45. Quiz on tool use with Claude
  46. Introducing Retrieval Augmented Generation
  47. Text chunking strategies
  48. Text embeddings
  49. The full RAG flow
  50. Implementing the RAG flow
  51. BM25 lexical search
  52. A Multi-index RAG pipeline
  53. Reranking results
  54. Contextual retrieval
  55. Quiz on Retrieval Augmented Generation
  56. Extended thinking
  57. Image support
  58. PDF support
  59. Citations
  60. Prompt caching
  61. Rules of prompt caching
  62. Prompt caching in action
  63. Quiz on features of Claude
  64. Introducing MCP
  65. MCP clients
  66. Project setup
  67. Defining tools with MCP
  68. The server inspector
  69. Implementing a client
  70. Defining resources
  71. Accessing resources
  72. Defining prompts
  73. Prompts in the client
  74. MCP review
  75. Quiz on Model Context Protocol
  76. Anthropic apps
  77. Claude Code setup
  78. Claude Code in action
  79. Enhancements with MCP servers
  80. Parallelizing Claude Code
  81. Automated debugging
  82. Computer use
  83. How computer use works
  84. Agents and workflows
  85. Parallelization workflows
  86. Chaining workflows
  87. Routing workflows
  88. Agents and tools
  89. Environment inspection
  90. Workflows vs agents
  91. Quiz on agents and workflows
  92. Final assessment quiz
  93. Course Wrap Up
  94. Course Description
  95. Course Description
  96. Course Description
  97. Course Description
  98. Course Description
  99. Course Description
  100. Course Description

Accessing the API

Что вы узнаете

Тест по агентам и рабочим процессам

Итоговая оценка

Тест итоговой оценки

Это видео все еще обрабатывается. Пожалуйста, зайдите позже и обновите страницу.

Ой! Что-то пошло не так, пожалуйста, попробуйте еще раз.

При создании приложений с Claude понимание полного жизненного цикла запроса помогает лучше проектировать системы и эффективнее отлаживать проблемы. Давайте рассмотрим, что происходит, когда пользователь отправляет сообщение в ваше чат-приложение на базе ИИ.

Полный поток запроса

Путь от пользовательского ввода до ответа ИИ включает пять отдельных шагов: Запрос к серверу, Запрос к Vertex, Обработка моделью, Ответ серверу и Ответ клиенту. Каждый шаг играет решающую роль в предоставлении того "волшебного" ответа, который ожидают пользователи.

Почему вам нужен сервер

Никогда не делайте API-запросы напрямую из клиентского кода. Вот почему:

Всегда направляйте запросы через ваш собственный сервер, который вы контролируете и защищаете.

Выполнение API-запроса

Ваш сервер взаимодействует с Vertex, используя либо SDK Anthropic, либо официальные SDK Google Vertex. Anthropic предоставляет официальные SDK для Python, TypeScript, Go и Ruby.

Каждый запрос должен включать следующие ключевые поля:

Ввод пользователя помещается в сообщение "user", которое затем отправляется в список сообщений, отправляемых в API.

Внутри Claude: Процесс генерации текста

Как только Vertex получает ваш запрос, Claude обрабатывает его в четыре этапа: Токенизация, Встраивание (Embedding), Контекстуализация и Генерация.

Claude сначала разбивает входной текст на более мелкие части, называемые токенами. Это могут быть целые слова, части слов, пробелы или символы. Для простоты, думайте о каждом слове как об одном токене.

Каждый токен преобразуется во встраивание (embedding) — длинный список чисел, который представляет все возможные значения этого слова. Думайте о встраиваниях как об определениях на основе чисел.

Контекстуализация

Поскольку слова могут иметь несколько значений, Claude использует контекст для определения правильной интерпретации. Слово "квантовый" может относиться к физике, вычислениям или просто означать "очень маленький" — контекст из окружающих слов проясняет предполагаемое значение.

Во время контекстуализации каждое встраивание корректируется на основе его соседей, выделяя значение, которое имеет наибольший смысл в данном контексте.

Контекстуализированные встраивания проходят через выходной слой, который производит вероятности для каждого возможного следующего слова. Claude не всегда выбирает слово с наибольшей вероятностью — он использует смесь вероятности и случайности для создания более естественных, разнообразных ответов.

После выбора слова Claude добавляет его в последовательность и повторяет весь процесс для следующего слова.

Когда генерация останавливается

После генерации каждого токена Claude проверяет несколько условий, чтобы решить, продолжать ли:

Токен конца последовательности — это специальный сигнал (невидимый текст), который Claude использует для обозначения того, что он достиг естественного завершения.

После завершения генерации Vertex отправляет ответ обратно на ваш сервер, содержащий:

Затем ваш сервер пересылает сгенерированный текст в ваше клиентское приложение, где он появляется в интерфейсе чата.

Полная картина

Весь этот процесс — от пользовательского ввода через токенизацию, встраивание, контекстуализацию, генерацию и обратно к пользователю — происходит за секунды. Понимание этого потока помогает вам создавать более надежные приложения и устранять проблемы, когда они возникают.

Ключевой вывод: всегда используйте сервер в качестве посредника, понимайте, что генерация текста — это итеративный процесс, и обращайте внимание на метаданные ответа для мониторинга использования и понимания поведения модели.