Building AI agents with Claude in Google Cloud's Vertex AI | Code w/ Claude

• Việc phát triển và đưa các tác nhân AI vào môi trường production đang gặp nhiều thách thức, chủ yếu do sự phân mảnh của framework, khó khăn trong giao tiếp giữa các tác nhân, và phức tạp trong việc quản lý, giám sát ở quy mô lớn.
• Google Cloud giới thiệu AgenteStack, một bộ giải pháp toàn diện gồm bốn thành phần chính: Agent Development Kit (ADK) để xây dựng, Model Context Protocol (MCP) để chuẩn hóa tương tác với công cụ/ngữ cảnh, Vertex AI Agent Engine để triển khai/quản lý, và Agent-to-Agent Protocol cho giao tiếp giữa các tác nhân.
• AgenteStack giúp đơn giản hóa quá trình xây dựng các hệ thống đa tác nhân trên Vertex AI, cho phép tích hợp các mô hình AI mạnh mẽ như Claude, mở rộng khả năng bằng công cụ và dễ dàng triển khai, gỡ lỗi thông qua các công cụ như CLI và giao diện web.

• Thách thức chính khi phát triển AI Agent: Sự phân mảnh của các framework, khó khăn trong việc tích hợp công cụ và giao tiếp giữa các tác nhân, cũng như quản lý vận hành (giám sát, ghi log) khi triển khai vào production.
• AgenteStack là giải pháp toàn diện: Nó cung cấp một bộ công cụ (ADK), các giao thức (MCP, Agent-to-Agent Protocol) và một nền tảng được quản lý (Vertex AI Agent Engine) để chuẩn hóa và mở rộng việc phát triển tác nhân AI.
• Agent Development Kit (ADK): Một framework mã nguồn mở, code-first giúp xây dựng, đánh giá và triển khai tác nhân AI ở quy mô lớn, hỗ trợ các mô hình LLM như Claude.
• Model Context Protocol (MCP) & Tích hợp công cụ: MCP chuẩn hóa cách các LLM và tác nhân truy cập ngữ cảnh và công cụ. ADK cho phép dễ dàng tích hợp các máy chủ MCP hiện có làm công cụ hoặc sử dụng MCP để triển khai công cụ của ADK.
• Vertex AI Agent Engine: Nền tảng được quản lý hoàn toàn để triển khai, quản lý và mở rộng tác nhân AI trong môi trường production, giải quyết các thách thức vận hành.
• Agent-to-Agent Protocol: Giao thức mã nguồn mở để tạo ra sự giao tiếp và cộng tác liền mạch giữa các tác nhân, bất kể framework xây dựng.
• Truy cập Claude trên Vertex AI: Các mô hình Claude (bao gồm Claude 3.7 Sonnet và 4.0 mới nhất) có thể truy cập qua Vertex AI Model Garden, sử dụng Vertex AI Studio để kiểm tra và tích hợp qua API/SDK.
• Xây dựng tác nhân với ADK: Cần định nghĩa LLM agent với tên, mô hình (ví dụ Claude), mô tả, hướng dẫn và công cụ. ADK hỗ trợ CLI (ADK run) để tương tác chương trình và ADK Web UI để gỡ lỗi và quan sát hoạt động của tác nhân.

• AI Agent — Tác nhân AI
• Framework — Framework
• Tool — Công cụ
• Production environment — Môi trường production
• Integrate — Tích hợp
• Multi-agent system — Hệ thống đa tác nhân
• LLM (Large Language Model) — Mô hình ngôn ngữ lớn (LLM)
• Open-source — Mã nguồn mở
• Managed platform — Nền tảng được quản lý
• Protocol — Giao thức
• Agent Development Kit (ADK) — Bộ Phát triển Tác nhân (ADK)
• Model Context Protocol (MCP) — Giao thức Ngữ cảnh Mô hình (MCP)
• Vertex AI Agent Engine — Công cụ Tác nhân Vertex AI
• Agent-to-Agent Protocol — Giao thức Giữa các Tác nhân
• Model Garden — Vườn mô hình (Model Garden)
• Orchestrator — Bộ điều phối
• Session — Phiên (cuộc trò chuyện)
• Web UI — Giao diện web

Giới thiệu và Thách thức trong việc Phát triển Tác nhân AI

Xin chào tất cả mọi người. Cảm ơn các bạn đã tham gia phiên này. Trong phiên này, chúng ta sẽ nói về cách xây dựng các Tác nhân AI bằng cách sử dụng Claude trên Vertex AI. Trước khi bắt đầu, hãy cùng làm rõ bối cảnh.

Như các bạn có thể đã biết, việc xây dựng Tác nhân AI là một khả năng rất mạnh mẽ. Với các Tác nhân AI, bạn có thể tạo ra những ứng dụng rất thú vị. Tuy nhiên, thực tế là sau khi bạn bắt đầu phát triển và tạo mẫu agent—và giả sử bạn hài lòng với những gì mình đã xây dựng—việc đưa các agent này vào môi trường production là rất khó khăn. Lý do chính yếu có ba điểm.

Thứ nhất, để xây dựng agent hiện nay, có quá nhiều framework cung cấp các tool và khả năng mà bạn có thể sử dụng để nâng cao agent của mình. Bức tranh tổng thể rất phân mảnh. Vì vậy, bạn cần tìm cách integrate các framework và tool khác nhau để hệ thống hoạt động.

Thứ hai, giả sử bạn có thể xây dựng một Tác nhân AI hoặc một hệ thống multi-agent với một framework. Nhưng đồng thời, bạn lại muốn sử dụng một framework khác. Việc giao tiếp giữa hai bộ agent khác nhau này không hề dễ dàng.

Và thứ ba, ngay cả khi bạn có thể xây dựng các agent, tạo ra mạng lưới agent có khả năng giao tiếp với nhau, việc quản lý chúng trong production vẫn rất khó khăn. Bởi vì bạn cần phải quan tâm đến tất cả các hoạt động liên quan đến agent và quản trị của chúng. Tất cả các khả năng giám sát và ghi log mà bạn cần triển khai trên agent của mình là rất khó quản lý.

Giới thiệu AgenteStack: Giải pháp cho các Thách thức của Tác nhân AI

Trong bối cảnh này, hãy hình dung rằng bạn sẽ có một bộ toolkit cho phép bạn chuẩn hóa và phát triển agent của mình một cách rất hiệu quả. Và sau đó, cùng với bộ toolkit này, bạn nhận được một tập hợp các giao thức (protocol) cho phép agent của bạn tiêu thụ tool và context với LLM. Đồng thời, agent của bạn có thể kết nối với các agent khác một cách liền mạch. Cuối cùng, bạn sẽ có một nền tảng agent cho phép bạn triển khai hệ thống agent này ở quy mô lớn và quản lý tất cả các hoạt động xung quanh loại ứng dụng mới này.

Với những thách thức này, và ba lý do chính mà chúng tôi muốn giải quyết, chúng tôi đã định nghĩa AgenteStack của riêng mình trên Google Claude. AgenteStack của chúng tôi bao gồm bốn thành phần chính:

1. Agent Development Kit (ADK): Đây là một framework mã nguồn mở, code-first và thân thiện với nhà phát triển, cho phép bạn xây dựng, đánh giá và triển khai agent của mình ở quy mô lớn.
2. Model Context Protocol (MCP): Để nâng cao agent của bạn, bạn cần một cách để chuẩn hóa agent và giao tiếp với các tool khác nhau. Để giải quyết thách thức về giao thức này, một điều chúng tôi đã làm khi thiết kế Agent Development Kit là làm cho nó tương thích với MCP. MCP cho phép agent tương thích với một số tool và nói chung, các ứng dụng sẽ cung cấp context cho ứng dụng của bạn bằng cách sử dụng các LLM.
3. Vertex AI Agent Engine: Trên nền MCP, chúng tôi cũng giới thiệu Vertex AI Agent Engine, về cơ bản là một nền tảng được quản lý (fully managed platform) được thiết kế để triển khai, quản lý và mở rộng Tác nhân AI của bạn trong production. Nó sẽ giải quyết tất cả những thách thức vận hành và các khả năng cần thiết để bạn triển khai agent của mình vào production.
4. Agent-to-Agent Protocol: Cuối cùng, để giải quyết thách thức về việc cho phép giao tiếp giữa các agent khác nhau được xây dựng bằng các framework khác nhau, chúng tôi cũng giới thiệu Agent-to-Agent Protocol. Đây về cơ bản là một giao thức mã nguồn mở cho phép bạn tạo ra sự giao tiếp và cộng tác liền mạch giữa các agent bất kể bạn xây dựng chúng bằng framework nào.

Lộ trình Trình bày: Xây dựng và Triển khai Tác nhân AI

Hôm nay, chúng tôi sẽ sử dụng stack này để xây dựng các hệ thống multi-agent. Nhưng trước đó, hãy để tôi giới thiệu bản thân. Tôi là Ivan Nardini, một nhà phát triển tại Google Claude. Tôi làm việc tại San Diego. Và hôm nay, tôi muốn cùng các bạn đi qua hành trình này.

Hành trình sẽ bắt đầu với việc xây dựng một Tác nhân AI ADK rất đơn giản bằng cách sử dụng Claude. Sau đó, chúng tôi sẽ nâng cao các agent này bằng cách sử dụng một số tool được xây dựng sẵn và MCP. Cuối cùng, chúng tôi sẽ triển khai các agent trên Agent Engine. Là một phần thưởng, chúng tôi cũng sẽ cố gắng trình bày cách bạn có thể kết nối nhiều agent bằng cách sử dụng Agent-to-Agent Protocol. Nhưng trong trường hợp chúng tôi không thể làm được điều đó, đừng lo lắng, chúng tôi sẽ có một webinar trực tiếp vào cuối tháng này. Vì vậy, chúng tôi sẽ chỉ cho bạn cách làm điều đó sau.

Truy cập các mô hình Claude trên Vertex AI

Điều đó đang được nói, chúng tôi muốn xây dựng một agent. Chúng tôi cần một LLM. Vì vậy, hãy để tôi chỉ cho bạn cách bạn có thể truy cập các mô hình Claude trên Vertex AI.

Các mô hình Claude trên Vertex AI có thể truy cập thông qua Vertex AI Model Garden, về cơ bản là một trung tâm tập trung nơi bạn có thể khám phá, triển khai và quản lý nhiều loại mô hình nền tảng (FM) và mô hình mã nguồn mở, bao gồm cả Claude. Trên Model Garden, bạn sẽ tìm thấy các mô hình Claude mới nhất và tốt nhất. Sáng nay, chúng tôi vừa triển khai Claude 4. Tôi sẽ chỉ cho bạn. Và sau khi bạn chỉ cần cung cấp một số thông tin xác thực và mọi thứ, bạn sẽ có quyền truy cập vào mô hình AI và có thể sử dụng nó thông qua API hoặc thông qua giao diện console.

Vì vậy, không chần chừ gì nữa, hãy để tôi chỉ cho bạn cách bạn có thể truy cập Claude. Vâng, đối với những người chưa biết về Vertex AI, đây là giao diện console của Vertex AI. Vertex AI cung cấp một bộ dịch vụ để xây dựng cả ứng dụng AI tạo sinh và AI dự đoán. Và Model Garden, như tôi đã nói, là một trung tâm tập trung cung cấp cho bạn nhiều mô hình AI từ các nhà cung cấp mô hình AI khác nhau, bao gồm Claude và Anthropic. Trên thực tế, trong phần đối tác, bạn sẽ tìm thấy các mô hình Anthropic. Và ở đây bạn có thể thấy tất cả các mô hình Anthropic mà chúng tôi cung cấp, bao gồm cả phiên bản mới nhất mà chúng tôi đã phát hành sáng nay.

Bạn có thể sử dụng Model Garden để kiểm tra các mô hình AI này. Đây là Vertex AI Studio, đây là giao diện người dùng prompt của chúng tôi mà bạn có thể sử dụng để kiểm tra mô hình AI này. Như bạn thấy, tôi đã chọn Claude 3.7 Sonnet, đây là mô hình AI mà chúng tôi sẽ sử dụng hôm nay để xây dựng Tác nhân AI của mình. Chúng tôi đã integrate Claude 4 với SDK, vì vậy hãy chú ý theo dõi trong những tuần tới. Nhưng thông qua giao diện người dùng này, bạn có thể làm gì, bạn có thể kiểm tra mô hình AI. Và bạn có thể bắt đầu tương tác với nó và sử dụng API mà bạn có thể lấy ở đây để integrate với ứng dụng của mình.

Điều đó đang được nói, bây giờ bạn đã biết ít nhiều cách truy cập Claude thông qua Vertex AI, hãy quay lại bài thuyết trình và bắt đầu xây dựng các agent bằng cách sử dụng mô hình AI này.

Xây dựng Tác nhân AI Lập kế hoạch Sinh nhật đơn giản với ADK

Trong bản demo này, chúng ta sẽ xây dựng một agent rất đơn giản, đó là Tác nhân AI lập kế hoạch sinh nhật. Đó là một agent về cơ bản sẽ cho phép bạn tổ chức một bữa tiệc sinh nhật, chẳng hạn như trong Teams và lấy danh sách khách mời, v.v. Và trước khi xây dựng agent này, bạn cần biết một số khái niệm liên quan đến ADK.

Chỉ một điều, tôi biết phiên này lẽ ra là một buổi workshop. Nhưng vì tất cả các vấn đề về Wi-Fi mà các bạn đã gặp phải, tôi sẽ—tôi đã cấp cho bạn một số credit. Và tôi sẽ chia sẻ kho repository với các bạn. Vì vậy, sau phiên này, các bạn sẽ có thể tái tạo mã này và tự thử nghiệm tại nhà. Và nếu bạn có câu hỏi, bạn luôn có thể quay lại hỏi tôi.

Với những điều đã nói, đây là những khái niệm cốt lõi mà bạn cần biết về ADK. Để xây dựng một agent với Agent Development Kit, trước hết, Agent Development Kit cung cấp một số loại agent mà bạn có thể sử dụng. Chúng tôi đã xây dựng sẵn một số mẫu agent, bao gồm cả sequential agents mà bạn có thể sử dụng để triển khai ứng dụng của mình. Nhưng mẫu đơn giản nhất mà bạn có thể tìm thấy là mẫu chúng tôi sử dụng với LLM agent, về cơ bản chỉ sử dụng một LLM để xây dựng Tác nhân AI. Và lớp này đại diện cho bộ não của agent và nó hỗ trợ một số mô hình AI, bao gồm Claude. Và về cơ bản, nó yêu cầu bạn thiết lập mô hình AI, đặt tên cho agent, cung cấp một số hướng dẫn và xác định tool mà bạn muốn sử dụng. Và sau khi bạn làm điều này, agent của bạn đã sẵn sàng hoạt động.

Đối với tools, bạn biết tool là gì. Nó về cơ bản là một phương tiện mà bạn có thể sử dụng để gán một số kỹ năng cho agent. Và trong ADK, chúng tôi cung cấp một số tool được xây dựng sẵn mà bạn có thể sử dụng. Nhưng bạn cũng có thể định nghĩa tool của riêng mình và integrate với framework.

Vì vậy, bạn có các agent, bạn có tool. Trong ADK, bạn có khái niệm về runner kết nối mọi thứ lại với nhau và điều phối, tức là thực thi các agent. Nó quản lý các session, tức là trạng thái cuộc trò chuyện trong suốt quá trình chạy agent. Và nó được integrate với một CLI rất hay mà bạn có thể thấy ở đây: ADK Run và ADK Web, sẽ cho phép bạn tương tác với agent theo chương trình hoặc thông qua giao diện người dùng web, mà tôi sẽ chỉ cho bạn sau. Và điều quan trọng cuối cùng mà tôi muốn đề cập, bạn có khái niệm về session, về cơ bản sẽ cho phép bạn lưu trữ cuộc trò chuyện và tương tác với agent theo cách mà nó ghi nhớ những gì bạn đã thảo luận với nó trước đó.

Tích hợp Claude với ADK và Triển khai Agent

Được rồi, với những điều đã nói, tôi đã nói với bạn rằng ADK hỗ trợ Claude. Vậy ADK integrate Claude như thế nào? Bạn có thể sử dụng Claude theo hai cách với ADK: thông qua LLM integration, điều mà tôi cho rằng bạn đã quen thuộc. Hoặc bạn có thể sử dụng integration được xây dựng sẵn mà chúng tôi, nhóm Vertex AI, cung cấp bằng cách sử dụng Claude và LLM registry, đây là cách mà tôi sẽ chỉ cho bạn hôm nay. Đó chỉ là một cách hay để integrate mô hình AI với giao diện.

Với những điều đã nói, hãy để tôi chỉ cho bạn cách bạn có thể xây dựng một agent bằng ADK. Đây là repository mà bạn sẽ nhận được khi clone repo từ GitHub. Trong repository, bạn sẽ có ba agent. Chúng ta sẽ trình bày về chúng hôm nay. Và agent đầu tiên, như tôi đã nói, là birthday planner.

Để xây dựng một agent với ADK, tất cả những gì bạn cần làm là cung cấp ba tệp: agent.py, chứa agent logic; tệp environment variable, chứa tất cả các environment variable mà bạn muốn sử dụng cho agent của mình; và một tệp __init__, như bạn có lẽ đã quen thuộc. Chỉ ba tệp này sẽ cho phép bạn chạy agent. Và như bạn có thể thấy, chúng tôi đã thiết kế ADK rất gần với các software engineering best practices. Vì vậy, đây là điều mà bạn có thể dễ dàng chạy.

Với những điều đã nói, ở đây bạn có thể thấy cách bạn có thể sử dụng ADK. Bạn cần import lớp LLM agent, lớp Claude, sẽ đại diện cho mô hình Claude mà chúng ta sẽ sử dụng hôm nay. Và sau đó bạn cũng có thể sử dụng một số lớp khác liên quan đến memory, runner mà tôi đã giải thích. Nhưng với những điều đã nói, sau khi bạn import lớp này, đây là tất cả boilerplate code mà bạn cần viết để tạo agent đầu tiên của mình. Bạn sử dụng lớp LLM agent, bạn định nghĩa một tên, mô hình AI mà bạn muốn sử dụng (trong trường hợp này là Claude 3.7 Sonnet), mô tả (tức là agent sẽ làm gì), và hướng dẫn mà chúng ta muốn cung cấp cho agent. Chỉ vậy thôi. Khi bạn đã có điều này, bạn đã sẵn sàng.

Vì vậy, tất cả những gì bạn cần làm là, nếu bạn muốn tương tác với agent theo chương trình, bạn có thể chạy ADK run. Và sau đó, đằng sau hậu trường, nó sẽ bắt đầu một session với agent của bạn. Ồ, xin lỗi. Quên một điều. ADK run birthday. Và sau đó nó sẽ chạy một session, một session tương tác với agent của bạn. Từ đây, bạn có thể bắt đầu tương tác với agent của mình, và sau đó bạn có thể bắt đầu hiểu cách nó hoạt động. Và bằng cách này, bạn có thể phát triển các agent một cách tương tác. Và bạn có thể cải thiện agent tùy thuộc vào tác vụ mà bạn đang cố gắng đạt được.

Vì vậy, nhắc lại, ba tệp, một CLI, và bạn đã hoàn tất. Và bạn có thể bắt đầu cải thiện các agent của mình. Hãy quay lại bài thuyết trình. Giả sử bạn clone repository, bạn đã có agent chạy. Hãy làm mọi thứ phức tạp hơn một chút. Chúng ta muốn mở rộng agent của mình theo cách mà nó trở thành một hệ thống multi-agent. Vì vậy, chúng ta có agent này sẽ đưa ra gợi ý cho bữa tiệc sinh nhật.

Tích hợp công cụ với ADK và MCP

Tuy nhiên, khi chúng ta đã có kế hoạch cho bữa tiệc sinh nhật, chúng ta cũng muốn lên lịch thời gian trong chương trình nghị sự của mình, ví dụ, để đi mua quà cho bữa tiệc hoặc chỉ đơn giản là đặt lời nhắc về ngày sinh nhật. Vậy làm thế nào để thực hiện điều đó? Bạn giới thiệu các công cụ. Điều thú vị về ADK là chúng tôi không muốn tái tạo lại bánh xe. Vì vậy, ngay từ ngày đầu tiên, chúng tôi đã giới thiệu sự tích hợp này với MCP. Một lần nữa, tôi sẽ không giải thích MCP là gì và sự khác biệt giữa các công cụ dành riêng cho ngôn ngữ hoặc API. Về cơ bản, ý tưởng là với MCP, bạn tiêu chuẩn hóa cách các Mô hình ngôn ngữ lớn (LLM) có quyền truy cập vào ngữ cảnh, không chỉ LLM mà còn cả các Tác nhân AI.

Với ADK, bạn có hai cách để sử dụng MCP. Bạn có thể sử dụng MCP, một số máy chủ MCP hiện có và tích hợp chúng như một công cụ với ADK. Đây là điều chúng ta sẽ thực hiện hôm nay. Vì vậy, bất kỳ máy chủ MCP nào có sẵn, bạn đều có thể sử dụng ngay hôm nay với ADK mà không cần phải tái tạo lại bánh xe theo nghĩa đó. Hoặc, nếu bạn có một ADK và bạn xây dựng một công cụ nào đó trong ADK, bạn có thể sử dụng MCP để triển khai công cụ này và tương tác với các Tác nhân AI khác. Đây là hai cách bạn có thể sử dụng để tận dụng MCP với ADK.

Với những điều đã nói, hãy để tôi cho bạn thấy cách bạn có thể sử dụng ADK với MCP. Hãy quay lại đây. Tôi sẽ truy cập vào Tác nhân AI này. Và sau đó, chúng ta hãy đến... Đây là Tác nhân AI thứ hai. Một lần nữa, như tôi đã nói, điều chúng tôi muốn làm là giới thiệu một Tác nhân AI dịch vụ lịch, cho phép tôi lên lịch thời gian trong chương trình nghị sự của mình. Và vì bây giờ chúng ta có hai Tác nhân AI, một cho sinh nhật và một cho lịch, chúng ta cũng muốn giới thiệu một bộ điều phối (orchestrator) sẽ định tuyến yêu cầu của tôi đến đúng Tác nhân AI, tùy thuộc vào điều tôi muốn đạt được.

Hệ thống Đa Tác nhân và Tích hợp MCP

Trong trường hợp cụ thể này, Tác nhân AI lập kế hoạch sinh nhật chính xác là Tác nhân AI mà chúng ta đã định nghĩa trước đó. Ngoại trừ việc bây giờ tôi muốn tạo một hệ thống lai, bởi vì ví dụ, để lên lịch, để có một số ý tưởng sinh nhật, tôi cũng có thể sử dụng một mô hình AI khác như Gemini. Nhưng sau đó, tôi có các Tác nhân AI lịch này, trong trường hợp này, sẽ sử dụng Claude 3.5 một lần nữa với một máy chủ MCP để lên lịch thời gian trong chương trình nghị sự của tôi. Để sử dụng máy chủ MCP, chúng tôi dành riêng, đây là hai dòng mã mà bạn cần giới thiệu. Vì vậy, bạn truy cập vào máy chủ MCP mà bạn đã có sẵn, hoặc bạn đã tạo, hoặc đã triển khai dưới dạng dịch vụ không máy chủ (serverless). Và sau đó, bạn tạo một kết nối với nó.

Và sau đó, điều gì xảy ra đằng sau hậu trường, khi bạn bắt đầu xây dựng Tác nhân AI của mình, khi bạn chạy lệnh này và bạn bắt đầu xây dựng Tác nhân AI của mình, nó sẽ lấy tất cả thông tin, tất cả các yêu cầu để chạy máy chủ MCP của bạn, nó chuyển đổi các máy chủ MCP này thành một công cụ, và chúng sử dụng máy chủ MCP này như một công cụ của Tác nhân AI. Chỉ vậy thôi. Nhưng một lần nữa, điều tuyệt vời, điều mà tôi thực sự tin là mạnh mẽ ở ADK là nó sẽ cho phép tôi với hai dòng mã để tích hợp bất kỳ loại công cụ MCP nào mà bạn đã có. Một khi bạn có công cụ MCP này, bạn tích hợp nó như một công cụ vào Tác nhân AI của chúng ta, và bạn đã hoàn tất.

Những điều tương tự cũng xảy ra. Vì vậy, bây giờ chúng ta có Tác nhân AI sinh nhật, chúng ta có Tác nhân AI lịch, đây là cách bộ điều phối trông như thế nào. Hãy xem việc truyền nhiều Tác nhân AI vào một bộ điều phối như thế này dễ dàng đến mức nào. Một lần nữa, tất cả những gì bạn cần làm là định nghĩa một hướng dẫn tốt hơn, bởi vì trong trường hợp này, Tác nhân AI này sẽ điều phối một hệ thống đa Tác nhân AI. Vì vậy, bạn sẽ định nghĩa Tác nhân AI nào, ví dụ như mỗi Tác nhân AI có khả năng làm gì. Và sau đó, bạn chuyển tất cả các Tác nhân AI đó như một công cụ vào bộ điều phối này. Vì vậy, một lần nữa, nó sẽ tìm ra Tác nhân AI nào để sử dụng, tùy thuộc vào yêu cầu của bạn. Một khi bạn đã làm xong điều này, bạn đã sẵn sàng.

Giao diện Web UI để Gỡ lỗi và Tương tác

Vì vậy, những gì chúng ta có thể làm là chạy, quay lại đây, cục bộ. Thực ra, hãy để tôi làm điều này. Hãy để tôi cho bạn xem điều này. Vì vậy, trước khi tôi cho bạn thấy cách bạn có thể tương tác, tôi có thể khởi động một Tác nhân AI tương tác theo chương trình. Nhưng vì bây giờ hệ thống này phức tạp hơn, chúng ta có ba Tác nhân AI, phải không? Chúng ta muốn một cái gì đó vững chắc hơn một chút để cố gắng hiểu điều gì đang xảy ra đằng sau hậu trường.

Vì vậy, trong ADK, bạn có web UI này, cho phép bạn gỡ lỗi và tương tác với Tác nhân AI của mình. Đây là web UI. Vì vậy, trong trường hợp này, nó trông như thế này. Web UI, chúng tôi chọn Tác nhân AI mà tôi muốn chạy. Và đây là, trong trường hợp này, nó giống như những gì chúng ta đã làm trước đây, ngoại trừ bây giờ, chúng ta có các Tác nhân AI khác. Chúng ta có hệ thống đa Tác nhân AI đang chạy đằng sau hậu trường. Và như bạn có thể thấy ở đây, UI này cung cấp cho bạn một cách tuyệt vời để xem điều gì đang xảy ra đằng sau hậu trường với Tác nhân AI của bạn. Vì vậy, khi bạn đang chạy cuộc chat, bạn sẽ thấy Tác nhân AI nào đang được sử dụng để làm gì. Được rồi, với những điều đã nói, bây giờ bạn cũng đã biết web UI. Hãy quay lại bài thuyết trình. Cảm ơn.

Triển khai Tác nhân AI với Agent Engine

Vì vậy, đối với phần cuối cùng của bài thuyết trình này, tôi cũng muốn cho bạn thấy cách bạn có thể dễ dàng triển khai Tác nhân AI trên Agent Engine. Để làm điều đó, hãy để tôi làm điều này. Để làm điều đó, trước tiên hãy để tôi giới thiệu cho bạn Agent Engine là gì. Tại sao bạn cần một Agent Engine như thế này? Về cơ bản, khi bạn cần triển khai Tác nhân AI ở quy mô lớn, để làm được điều đó, bạn cần phải giải quyết rất nhiều sự phức tạp. Bạn cần lấy mã gốc. Bạn cần đóng gói Tác nhân AI bằng một trong các dịch vụ như Fast API hoặc Django. Bạn cần xây dựng container của mình. Và sau đó, bạn cần tìm ra môi trường của mình để chạy nó. Trong trường hợp này, bạn có thể là môi trường GCP. Và sau đó, bạn cần xử lý tất cả các hoạt động liên quan đến cơ sở hạ tầng. Và đồng thời, bạn cũng cần giám sát các Tác nhân AI này vì cuối cùng, nó là một ứng dụng.

Vì vậy, với Agent Engine, bạn có thể đơn giản triển khai Tác nhân AI bằng cách sử dụng một phương pháp như agent engine creates. Và bạn sẽ nhận được Tác nhân AI của mình sau khi chạy, cũng như tất cả các khả năng quan sát và giám sát mà bạn cần để triển khai Tác nhân AI của mình. Chúng được quản lý trực tiếp bởi chính nền tảng. Và ngoài ra, tất cả các tương tác mà bạn có với các Tác nhân AI sẽ được tự động thu thập bởi hệ thống ghi nhật ký của chúng tôi. Và bạn sẽ trực tiếp sử dụng chúng để chạy một số đánh giá theo cách mà bạn có thể tiếp tục cải thiện Tác nhân AI của mình trong thời gian dài.

Vì vậy, điều này cho bạn một ý tưởng về lý do tại sao bạn muốn xem xét một Agent Engine. Và điều này cho bạn cái nhìn tổng thể về Agent Engine của Vertex AI. Trong bức tranh này, như bạn có thể thấy, Agent Engine có khả năng tích hợp bất kỳ loại framework tác nhân nào như tôi vừa nói. Nhưng nếu bạn xây dựng Tác nhân AI với LangGraph, LangChain, bạn có thể làm điều đó. Bạn cũng có thể sử dụng các framework đó. Và sau đó, bất kỳ công cụ nào và bất kỳ mô hình AI nào mà bạn muốn. Và Agent Engine sẽ đảm nhiệm việc triển khai các Tác nhân AI của bạn. Và sẽ kích hoạt tất cả các khả năng quan sát các tính năng mà bạn cần bằng cách sử dụng một số công cụ đám mây. Và phần đánh giá cũng được bao phủ bởi một trong các dịch vụ của chúng tôi, đó là Vertex AI Evaluation Service.

Để tóm tắt các khả năng của Agent Engine, bạn có thể triển khai một Tác nhân AI mà bạn có thể định nghĩa trong bất kỳ framework nào bạn muốn. Bạn có thể sử dụng các thời gian chạy được quản lý này để triển khai các Tác nhân AI này. Và sau đó, bạn sẽ tự động nhận được, bạn sẽ tự động có thể quan sát hành vi của Tác nhân AI, gọi Tác nhân AI ở quy mô lớn. Và Agent Engine cũng có một sự tích hợp với các dịch vụ khác mà chúng tôi cung cấp trên Google Cloud, đó là một Agent Space, mà tôi sẽ không đề cập hôm nay. Nhưng chỉ để bạn hình dung, đó là cánh cổng sẽ cho phép Tác nhân AI của bạn đi vào tay các doanh nghiệp. Vì vậy, thực sự, bạn biết đấy, có tác động từ các Tác nhân AI mà bạn sẽ xây dựng trong bối cảnh doanh nghiệp.

Triển khai Tác nhân AI chỉ với vài dòng mã

Với những điều đã nói, hãy để tôi đi sâu vào phần thực hành cuối cùng mà chúng ta sẽ đề cập hôm nay. Vì vậy, tôi đã cho bạn thấy cách bạn có thể xây dựng Tác nhân AI. Vì vậy, trong phần thực hành cuối cùng này, điều tôi muốn cho bạn thấy là cách bạn có thể dễ dàng triển khai một Tác nhân AI chỉ với vài dòng mã. Trong kho lưu trữ, bạn sẽ tìm thấy mô-đun này, về cơ bản sẽ cho phép bạn triển khai các Tác nhân AI của mình một cách lặp đi lặp lại. Tất cả những gì bạn cần làm để triển khai một Tác nhân AI trên Vertex AI Engine là cung cấp các yêu cầu cơ bản mà Tác nhân AI của bạn cần để chạy. Và sau đó, như tôi đã nói, chúng tôi đã cung cấp một lớp sẽ cho phép bạn tạo một điểm cuối Tác nhân AI, trong trường hợp này, Agent Engine. Vì vậy, trong lớp này, bạn có Tác nhân AI mà bạn đã định nghĩa. Trong trường hợp này, chúng ta sẽ triển khai Tác nhân AI đầu tiên, Tác nhân AI lập kế hoạch sinh nhật. Và sau đó ở đây bạn có các yêu cầu. Bạn có thể cung cấp thêm các package nếu muốn. Nhưng sau đó, một lần nữa, chỉ vài dòng mã để triển khai Tác nhân AI của bạn trong một dịch vụ được quản lý, có khả năng mở rộng và sẽ cho phép bạn mở Tác nhân AI của mình cho nhiều người dùng.

Với những điều đã nói, hãy để tôi chạy script này. Đầu tiên, hãy để tôi đóng phiên này và xóa. Sau đó, hãy để tôi vào kho lưu trữ. Và sau đó ở đây tôi có mô-đun của mình. Vì vậy, trong trường hợp này, tôi thực hiện Python, deploy agent. Vì vậy, điều gì xảy ra đằng sau hậu trường là nó sẽ bắt đầu triển khai Tác nhân AI của tôi. Vì vậy, bạn có thể giám sát việc triển khai Tác nhân AI trực tiếp trong Vertex AI console. Bây giờ, bước này sẽ mất một chút thời gian, như bạn có thể tưởng tượng, bởi vì nó đang xây dựng hình ảnh và triển khai các Tác nhân AI. Vì vậy, hãy để tôi trực tiếp chuyển sang UI. Vì vậy, một khi việc triển khai Tác nhân AI chạy thành công, điều bạn sẽ làm là bạn sẽ nhận được một mục nhập trong Vertex AI Agent Engine UI. Và từ UI này, bạn sẽ có thể giám sát Tác nhân AI này. Vì vậy, query mà nó nhận được, latency mà nó mất. Vậy mất bao lâu để phản hồi query. Và bạn cũng sẽ giám sát CPU và bộ nhớ mà Tác nhân AI đang sử dụng. Vì vậy, bạn có thể hiểu rõ hơn nếu bạn cấp phát đủ tài nguyên để phục vụ Tác nhân AI này ở quy mô lớn. Engine cũng được quản lý session. Vì vậy, trong trường hợp này, tôi vừa triển khai một cái. Vì vậy, chúng tôi chưa bắt đầu session nào. Nhưng ở đây bạn sẽ thấy session. Và nó sẽ cung cấp cho bạn tất cả thông tin mà bạn cần để tích hợp Tác nhân AI này vào ứng dụng, cả trong thời gian thực hoặc streaming, tùy thuộc vào phương pháp bạn muốn sử dụng. Và bạn luôn có thể kiểm tra chi tiết triển khai. Vì vậy, bây giờ bạn cũng có ý tưởng về cách triển khai Tác nhân AI. Hãy quay lại. Cảm ơn.

Agent-to-Agent Protocol cho Hợp tác Đa Framework

Như tôi đã nói, đây là một phần thưởng. Tôi không nghĩ chúng ta có thời gian để đề cập đến nó. Nhưng điều tôi muốn nói với bạn là, hãy giả sử bạn xây dựng Tác nhân AI của mình. Bạn triển khai Agent Engine. Và hiện tại, chúng ta xây dựng Tác nhân AI của mình chỉ bằng ADK. Nhưng điều gì sẽ xảy ra nếu bạn muốn triển khai hoặc xây dựng Tác nhân AI của mình, xây dựng và triển khai Tác nhân AI của mình bằng LangChain, Cruei hoặc bất kỳ framework nào khác? Như tôi đã nói, Agent Engine hỗ trợ điều này. Nhưng vấn đề chính là bạn không có cách nào để kết nối các Tác nhân AI được xây dựng bằng các framework khác nhau lại với nhau. Đó là lúc bạn cần một giao thức để làm điều đó.

Vì vậy, trong một thế giới nơi bạn sẽ có nhiều Tác nhân AI được xây dựng và triển khai bằng các framework khác nhau, có nhu cầu tìm một ngôn ngữ chung giữa các Tác nhân AI này để tương tác và hợp tác nhằm đạt được một số tác vụ. Và đó là lý do tại sao, với tư cách là Google Cloud, chúng tôi giới thiệu Agent-to-Agent Protocol. Một lần nữa, đó là một giao thức mở đã được thiết kế để tăng cường, thúc đẩy sự hợp tác của các Tác nhân AI, sử dụng các khái niệm rất đơn giản mà tôi sẽ cho bạn thấy trong một phút. Nhưng điều quan trọng mà tôi muốn chia sẻ với bạn là nó đã được thiết kế sẵn sàng cho doanh nghiệp. Vì vậy, nó có một loạt các tính năng sẽ cho phép bạn quản lý Tác nhân AI của mình một cách an toàn. Và một lần nữa, trong trường hợp này, chúng tôi cũng không tái tạo lại bánh xe bởi vì nó dựa trên một số giao thức tiêu chuẩn, HTTP, JSON, RCP, những thứ phổ biến trong ngành.

Khái niệm bạn cần biết về nó là khái niệm Agent Skills, về cơ bản mô tả chức năng hoặc khả năng của các Tác nhân AI. Và nó giống như một danh thiếp của Tác nhân AI của bạn đối với các Tác nhân AI khác. Và sau đó bạn có Agent Skill mô tả những gì Tác nhân AI có khả năng làm. Vì vậy, nó quản lý chức năng mà Tác nhân AI có. Và sau đó bạn có Agent Card, về cơ bản là một danh thiếp kỹ thuật số cho Tác nhân AI, sẽ cho phép các Tác nhân AI khác hoặc các ứng dụng khác biết kỹ năng của Tác nhân AI là gì và cách tương tác với nó. Vì vậy, một cái mô tả Tác nhân AI, cái còn lại mô tả những gì Tác nhân AI có khả năng làm đối với các Tác nhân AI khác.

Kiến trúc Tác nhân AI Đa tác nhân

Như đã trình bày trước đó, bạn có một executor tác nhân (agent executor) về cơ bản quản lý giao tiếp, các yêu cầu và phản hồi mà hệ thống tạo ra giữa các Tác nhân AI. Với ba khái niệm này, bạn có thể xây dựng một hệ thống như thế này, nơi bạn sẽ có nhiều Tác nhân AI, được viết bằng các framework khác nhau, giao tiếp với nhau để đạt được một tác vụ cụ thể và phức tạp hơn, thay vì những tác vụ đơn giản chúng ta đã xây dựng hôm nay, như lên lịch hoặc mua quà sinh nhật. Chúng ta sẽ không đi sâu vào phần này hôm nay, nhưng như tôi đã nói lúc đầu, chúng ta sẽ có một webinar trực tiếp vào cuối tháng. Tôi sẽ chia sẻ QR code với bạn sau. Tóm lại, chúng ta bắt đầu từ ba vấn đề chính sau.

Thách thức và Giải pháp Phát triển Tác nhân AI

Việc xây dựng Tác nhân AI rất mạnh mẽ, nhưng có một số thách thức khi bạn muốn triển khai chúng trong môi trường sản phẩm. Bạn phải đối mặt với một bối cảnh phân mảnh, có những độ phức tạp tích hợp cần quản lý. Và ngay cả khi bạn có thể khắc phục những vấn đề này, bạn vẫn phải quản lý tất cả chi phí vận hành cần thiết để triển khai các Tác nhân AI này. Đó là lúc bạn cần tiếp cận một bộ công cụ (toolkit), các giao thức (protocols), và một nền tảng tác nhân (agent platform), mà cuối cùng, chúng cho phép bạn chuẩn hóa cách bạn xây dựng Tác nhân AI và mở rộng chúng vào môi trường sản phẩm. Để cung cấp cho bạn loại công cụ này, chúng tôi đã kết hợp stack tác nhân này sử dụng ADK, MCP, engine tác nhân và AdWay, điều này về cơ bản sẽ cho phép bạn tự tin xây dựng một hệ thống Tác nhân AI và mở rộng chúng trong môi trường sản phẩm theo yêu cầu.

Tài nguyên Mã nguồn ADK

Vì vậy, hãy sẵn sàng quét. Vui lòng lấy điện thoại của bạn ra. Tôi sẽ chia sẻ với bạn một số QR code hữu ích. QR code đầu tiên tôi muốn chia sẻ với bạn là mã nguồn. Trong kho lưu trữ (repository) này, bạn sẽ tìm thấy tất cả mã liên quan đến ADK, bao gồm các ví dụ (samples), hướng dẫn bắt đầu (getting started), mọi thứ bạn cần. 3, 2, 1.

Webinar Sắp tới với Anthropic

Và nếu bạn muốn biết thêm chi tiết về những gì chúng tôi đã trình bày trong 30 phút này, vốn có thể là một workshop kéo dài một giờ, thì bạn có thể tìm thấy webinar mà chúng tôi sẽ tổ chức cùng với Anthropic vào tháng tới. Trong webinar đó, chúng tôi cũng sẽ trình diễn việc tích hợp với AdWay. Vui lòng quét QR code này. 3, 2, 1.

Hỏi đáp và Lời cảm ơn

Ý tôi là, tôi đã nói khá nhanh, vì vậy tôi cho rằng bạn có một vài câu hỏi. Vì vậy, đừng ngần ngại liên hệ. Tôi luôn sẵn lòng trả lời các câu hỏi của bạn. Nhưng dù sao đi nữa, tôi hy vọng bạn đã thích buổi thuyết trình. Tôi chỉ trễ 20 giây thôi. Vì vậy, tôi hy vọng bạn đã có một buổi thú vị. Và, cảm ơn bạn đã tham dự.