- Kỹ thuật AI đang nổi lên như lĩnh vực kỹ thuật chính tiếp theo, kế nhiệm phát triển web và sẽ định hình thập kỷ tới, khi các tác nhân AI cho phép tự động hóa những công việc trước đây không khả thi về mặt kinh tế, mở rộng đáng kể thị trường phần mềm.
- Có nhiều cơ hội thực tế để triển khai các tác nhân AI ngay hôm nay, tập trung vào các "quả ngọt nằm trong tầm tay" như tự động hóa hỗ trợ 24/7, rút ngắn giai đoạn nghiên cứu cho quyết định của con người, tận dụng thông tin nội bộ hiện có, và loại bỏ các công việc nhàm chán cho nhân viên.
- Sự gia tăng của tác nhân AI như người dùng phần mềm đang thay đổi cách chúng ta xây dựng phần mềm, đòi hỏi ưu tiên API/CLI, môi trường thực thi biệt lập an toàn, và kiến trúc khung điều khiển tác nhân được cải tiến để tách biệt môi trường chạy mã tạo ra.
The New Application Layer - Malte Ubl, CTO Vercel
- Chuyển dịch sang Kỹ thuật AI: Các kỹ sư phần mềm nên chuyển hướng sang lĩnh vực kỹ thuật AI, coi đây là động lực chính định hình tương lai của phát triển phần mềm và tạo ra nhu cầu ngày càng tăng về kỹ sư.
- Phát triển Tác nhân Giải quyết Vấn đề Thực tế: Tập trung xây dựng các tác nhân AI cho các trường hợp sử dụng cụ thể, mang lại giá trị kinh tế rõ ràng như tự động hóa quy trình hỗ trợ, nghiên cứu thông tin, và tổng hợp dữ liệu nội bộ.
- Ưu tiên Thiết kế API/CLI: Khi phát triển phần mềm mới, ưu tiên thiết kế các giao diện API và CLI mạnh mẽ trước giao diện người dùng (UI) để đảm bảo tác nhân AI có thể tương tác và tự động hóa các tác vụ một cách hiệu quả.
- Triển khai Môi trường Biệt lập cho Tác nhân: Sử dụng các môi trường thực thi biệt lập (isolated environments) nhẹ, khởi động nhanh và an toàn (như microVMs hoặc trình thông dịch tùy chỉnh) để chạy mã của tác nhân AI, tăng cường bảo mật và hiệu suất.
- Tái Kiến trúc Khung Điều khiển Tác nhân: Thiết kế khung điều khiển tác nhân (agent frameworks) sao cho tách biệt rõ ràng giữa nơi khung điều khiển chạy và nơi mã do tác nhân tạo ra chạy, nhằm cải thiện bảo mật và độ tin cậy.
- Đổi mới tại Lớp Ứng dụng: Tập trung vào việc xây dựng các lớp ứng dụng AI ổn định, độc lập với các mô hình LLM cụ thể. Sự thương mại hóa của các mô hình LLM đang trao quyền cho kỹ sư AI ở lớp ứng dụng.
- Tự động hóa Công việc Nhàm chán: Xác định và phát triển các tác nhân để tự động hóa những công việc lặp lại, tẻ nhạt, giúp cải thiện sự hài lòng của nhân viên và cho phép họ tập trung vào các nhiệm vụ phức tạp hơn, mang lại giá trị cao hơn.
tác nhân— agentkỹ thuật AI— AI engineeringmôi trường biệt lập— isolated environment / sandboxquả ngọt nằm trong tầm tay— low-hanging fruittỷ lệ xử lý trực tiếp— deflection ratekhung điều khiển tác nhân— agent frameworkchuyển đổi mô hình— paradigm shiftlớp ứng dụng— application layermô hình LLM— LLM model (Large Language Model)thương mại hóa— commoditization
Giới thiệu và Bối cảnh mới của Kỹ thuật AI
Người thuyết trình đầu tiên đã có hơn 25 năm kinh nghiệm trong lĩnh vực kỹ thuật phần mềm. Với thời gian làm việc tại Google và hiện tại là Vercel, ông sẽ khám phá ý nghĩa của việc xây dựng cơ sở hạ tầng và ứng dụng trong một thế giới nơi các tác nhân vừa là người xây dựng vừa là người dùng phần mềm. Xin mời chào đón Giám đốc Công nghệ (CTO) của Vercel, Malta Ubel.
Tôi đã phát triển một thứ gọi là Chat SDK, đây là một cách để kết nối các tác nhân của bạn với bất kỳ nền tảng trò chuyện nào bạn thích như Slack, Telegram, WhatsApp, và tôi cũng đã làm việc với Just Bash, một trình thông dịch bash được viết bằng TypeScript cung cấp cho bạn một môi trường biệt lập với thời gian khởi động tính bằng nano giây cho các tác nhân của bạn, bởi vì chúng rất yêu thích bash.
Một điều tôi muốn nhắc đến là lý do tôi rất hào hứng khi có mặt ở đây là vì trước đây tôi từng tổ chức một hội nghị nhỏ ở Berlin tên là JSConf. Và tôi cảm thấy rằng trong đời mình, tôi đã có một thời điểm hoàn hảo tuyệt đối, vì đó là mùa hè năm 2019 và chúng tôi quyết định sau 10 năm là đủ, và chúng tôi đã kết thúc một cách vang dội. Lý do tại sao thời điểm này lại tuyệt vời đến vậy là vì sẽ không có hội nghị nào diễn ra một năm sau đó vì COVID. Nhưng khi chúng tôi quyết định rút lui, chúng tôi hy vọng rằng người khác sẽ tiếp quản, và điều đó cũng không xảy ra vì COVID. Vì vậy, đã hơn nửa thập kỷ trôi qua, và tôi rất vui mừng khi mọi thứ cuối cùng cũng bắt đầu trở lại. Nhưng cũng rõ ràng rằng đó sẽ không phải là một hội nghị phát triển web có thể thực sự đưa cộng đồng công nghệ ở Châu Âu xích lại gần nhau vào năm 2026.
Theo nhiều cách, tôi nghĩ kỹ thuật AI là người kế nhiệm hợp pháp của phát triển web, trở thành một ngành kỹ thuật chính thống thực sự sẽ định hình thập kỷ tiếp theo của phát triển phần mềm, khi chính kỹ thuật phần mềm đang đối mặt với một sự gián đoạn chưa từng có. Vì vậy, hôm nay các bạn chắc chắn đã đến đúng nơi và việc cùng nhau tập hợp lại thành một cộng đồng để suy ngẫm về nghề nghiệp của chúng ta với tư cách là kỹ sư phần mềm và kỹ sư AI là quan trọng hơn bao giờ hết.
Sự Chuyển dịch trong Kỹ thuật Phần mềm và Vai trò của Kỹ sư
Điều này là do chúng ta đang đối mặt với sự gián đoạn trong cả cách chúng ta xây dựng phần mềm – đó là với AI – và những gì chúng ta xây dựng – đó là AI và các tác nhân. Và tất nhiên, sự gián đoạn đôi khi có thể dẫn đến lo lắng. Trên thực tế, tôi thực sự rất thường xuyên được hỏi, "Chào Malta, liệu còn chỗ cho kỹ sư trong tương lai không? Và thế hệ kỹ sư tiếp theo thì sao?" Và tôi hoàn toàn bị thuyết phục rằng câu trả lời là CÓ.
Tôi thường đưa ra ví dụ như hãy hình dung tôi đang làm một video TikTok. Họ đã đề cập trong phần giới thiệu rằng tôi có 25 năm kinh nghiệm, thực ra đây là một sự nói giảm đáng kể. Và vì vậy, tôi sẽ không giỏi làm video TikTok. Tôi không nên quay video TikTok vì tôi không lớn lên cùng nó. Tương tự như vậy, thế hệ kỹ sư trẻ tiếp theo sẽ giỏi hơn rất nhiều trong lĩnh vực này vì họ được định hình trong thế giới AI, giống như tất cả các bạn. Nhưng không chỉ những đứa trẻ sẽ ổn thôi. Chúng ta cũng sẽ ổn, và đây là lý do.
Tác nhân AI: Loại Phần mềm Mới và Cơ hội Phát triển
Một trong những luận điểm chính của chúng tôi là các tác nhân là một loại phần mềm mới. Bởi vì luôn có tất cả những thứ chúng ta muốn tự động hóa. Nhưng không phải tất cả đều khả thi về mặt kinh tế để thực hiện bằng phần mềm truyền thống. Tuy nhiên, với các tác nhân thì có. Và điều đó có nghĩa là sẽ có nhiều phần mềm hơn trong tương lai.
Hãy minh họa điều này bằng một biểu đồ Venn. Có lẽ vòng tròn sẽ tốt hơn bởi vì vòng tròn này đại diện cho tất cả phần mềm nên tồn tại. Hãy tưởng tượng tất cả phần mềm nên tồn tại. Vấn đề là chúng ta không thể viết tất cả chúng vì quá tốn kém khi sử dụng các phương pháp truyền thống. Bạn có thể hình dung tất cả những điều này. Nếu tất cả những tuyên bố này, bạn có tất cả kiến thức về doanh nghiệp, bạn phải tìm hiểu tất cả, bạn phải hardcode chúng vào ứng dụng. Rất nhiều phần mềm bạn sẽ không bao giờ viết vì rõ ràng nó quá tốn kém. Nhưng giờ đây với các tác nhân, phần mềm đó trở nên khả thi về mặt kinh tế. Tôi có thể xây dựng nó bây giờ với nhiều nỗ lực. Và điều đó có nghĩa là với các tác nhân AI, về cơ bản tất cả phần mềm – có lẽ không phải tất cả, chúng ta sẽ tìm hiểu thêm trong tương lai – nhưng vòng tròn đó sẽ được lấp đầy. Tất cả những thứ đáng lẽ phải được tự động hóa đều được tự động hóa. Sẽ có rất nhiều phần mềm hơn nữa ngoài kia.
Tương tự, ngày càng nhiều công ty, khi họ tự hỏi liệu họ nên mua một phần mềm như sản phẩm SaaS hay tự tạo phần mềm, họ đang trả lời câu hỏi đó bằng cách chọn tự tạo. Ở Thung lũng Silicon nơi tôi sống ngày nay, chúng tôi đang nói rất nhiều về cái gọi là "SaaS complot galips". Tôi nghĩ tên của nó là vậy. Mọi người tự làm sản phẩm của riêng họ và không mua phần mềm SaaS nữa. Thực ra tôi nghĩ các công ty SaaS sẽ ổn thôi, đừng lo lắng cho họ. Nhưng với tư cách là kỹ sư của chính mình, việc nhiều công ty tạo ra nhiều phần mềm hơn lại dẫn đến việc chúng ta có nhiều việc hơn, ngay cả khi nó diễn ra nhanh hơn.
Và trên thực tế, cách tôi đã hình dung điều này trong một thời gian là chúng ta đang "speedrunning" một thử nghiệm thực sự về kinh tế học, về độ đàn hồi của thị trường phần mềm. Ý tưởng là: phần mềm càng rẻ để tạo ra, chúng ta càng tạo ra nhiều phần mềm hơn. Và do đó, điều thực sự đang xảy ra là nhu cầu về kỹ sư phần mềm đang tăng lên. Hiện tại chúng ta không biết, sẽ có một đường cong S. Nhưng không có dấu hiệu nào cho thấy chúng ta đang chạm đến đường cong S đó. Trên thực tế, bởi vì chúng ta đang ngày càng giỏi hơn trong việc phát triển tác nhân, vân vân, có rất nhiều dư địa trong tương lai, tôi nghĩ chúng ta sẽ ổn thôi. Vì vậy, với tư cách là kỹ sư AI, công việc của chúng ta là xây dựng lớp ứng dụng tiếp theo đó. Và tất nhiên, điều đó thực sự có nghĩa là xây dựng các tác nhân.
Các Loại Tác nhân AI Hiệu quả trong Thực tế
Tôi muốn dành chút thời gian để nói về các nguyên mẫu (archetype) tác nhân mà tôi đang thấy thực sự được xây dựng ngày nay, thực sự hiệu quả, thực sự là điều bạn có thể làm ngay hôm nay mà không cần thực hiện những thay đổi lớn. Tôi nghĩ tất cả chúng ta đều hơi "say sưa" với các tác nhân viết mã (coding agent) vì chúng rất tuyệt vời. Chúng hoạt động rất tốt. Và có vẻ rất rõ ràng rằng bạn có thể áp dụng điều đó cho tất cả các lĩnh vực khác. Và đôi khi những điều này không diễn ra tốt đẹp. Nhưng điều quan trọng là chúng ta không nhất thiết phải làm những tác nhân tiên tiến nhất mà bạn có thể tưởng tượng; có rất nhiều "quả ngọt nằm trong tầm tay" (low-hanging fruit) để thực hiện, nơi bạn thực sự có thể giúp các công ty tiết kiệm hàng triệu hoặc hàng tỷ đô la mà không cần thực hiện những thay đổi lớn về quy trình, những thay đổi mà trên thực tế sẽ luôn mất nhiều thời gian, thường xuyên thất bại, vân vân.
Đây là những gì tôi thực sự đang thấy trong thực tế. Phần đầu tiên, khi bạn nghĩ về những tác nhân bạn có thể xây dựng, mọi người nghĩ, ồ, tác nhân... nghe có vẻ quen thuộc, có một nhóm tác nhân hỗ trợ. Có lẽ tôi có thể tự động hóa một phần trong số đó. Và đó cũng là nơi thế hệ đầu tiên của những gì chúng ta gọi là "Agent as a Service" (Bạn có thể tự hình thành từ viết tắt đó trong đầu) các công ty khởi nghiệp đang triển khai, đúng không? Chẳng hạn như các công ty CRS và decogons trên thế giới này. Nhưng nói chung hơn, tôi nghĩ đáng để bạn tự hỏi, trong doanh nghiệp của bạn, có công việc nào mà sẽ khá biến đổi nếu chúng ta chuyển từ một công việc 9 giờ sáng đến 5 giờ chiều (vì con người cần ngủ) sang một công việc 24/7 (vì các tác nhân không cần ngủ) hay không? Và tôi nghĩ có rất nhiều chỗ cho điều đó.
Tiếp theo có lẽ thậm chí còn quan trọng hơn, một loại hình "call-a-compress-story search" (tìm kiếm, thu thập và tóm tắt thông tin). Bởi vì mọi doanh nghiệp đều có một loại quy trình kinh doanh nhất định, mà theo một cách trừu tượng, có hình dạng sau: Có một sự kiện kinh doanh và bạn phải thực hiện một số nghiên cứu, rồi bạn đưa ra một quyết định của con người, đúng không? Và bạn có thể xây dựng một tác nhân chỉ để tự động hóa giai đoạn nghiên cứu và đó là tất cả những gì bạn cần triển khai. Và điều quan trọng là tại sao việc triển khai này lại dễ dàng đến vậy là vì quy trình vẫn giữ nguyên. Vẫn có sự kiện kinh doanh đó. Vẫn có một giai đoạn nghiên cứu. Và vẫn có một quyết định của con người. Giai đoạn nghiên cứu diễn ra nhanh hơn. Và có lẽ nó chuyển từ việc mất 30 phút đối với một người, giờ họ có thể làm điều tương tự trong năm phút. Và nếu bạn chạy quy trình đó 100.000 lần một năm, bạn sẽ tiết kiệm được rất nhiều tiền cho công ty, nhưng bạn không làm tăng hồ sơ rủi ro và bạn không phải thay đổi quy trình.
Tại Vercel, chúng tôi thực sự có ít nhất hai tác nhân có hình dạng này. Khi bạn truy cập Vercel.com và nhấp vào nút "Liên hệ bộ phận bán hàng", tin nhắn đó thực sự được gửi đến một tác nhân, đúng không? Và tôi nghe nói khoảng 75% thời gian, tác nhân đó sẽ nói, ồ, thực ra họ chỉ muốn hỗ trợ và chuyển nó cho đội hỗ trợ. Nhưng trong những trường hợp khác, nó sẽ đi đến, ồ, điều đó thú vị đấy. Hãy để tôi kiểm tra LinkedIn của họ. Hãy để tôi Google công ty. Hãy để tôi tìm hiểu xem họ lớn đến mức nào. Hãy để tôi chuyển nó đến đúng người, đúng không? Và sau đó sẽ có một người xem xét nó và đưa ra quyết định, nhưng điều đó rõ ràng là một việc mà trước đây có thể mất 15 phút của một người, và giờ họ không phải làm điều đó nữa. Và một ví dụ khác là cùng một quy trình. Nếu bạn gửi cho chúng tôi một báo cáo lạm dụng, một lần nữa, có một tác nhân đang xem xét. Trang web đó có lạm dụng không? Chúng ta nên làm gì, đúng không? Quyết định cuối cùng rõ ràng vẫn nên được đưa ra bởi chuyên gia thực sự, nhưng họ không còn phải tự mình thực hiện tất cả các nghiên cứu này nữa.
Tiếp theo là điều mà tôi nghĩ có lẽ là điều kỳ diệu nhất bạn có thể làm trong bất kỳ công ty nào ngày nay. Đó là chỉ đơn giản là đưa ra thông tin đã tồn tại. Rất phổ biến là có thông tin ở đâu đó trong công ty, đúng không? Nhưng vì mọi mục đích thực tế, bạn không thể sử dụng nó một cách hiệu quả. Lấy ví dụ, tất cả các bạn, các kỹ sư, đều có các hệ thống theo dõi lỗi/vấn đề, đúng không? Vậy nó có được cập nhật không? Thực tế thì không phải lúc nào cũng vậy, đúng không? Nó có thể được cập nhật không? Thông tin có tồn tại không? Bạn đã Slack nó chưa? Bạn có bản ghi granola recording nào mà về mặt kỹ thuật chứa thông tin có thể cập nhật hệ thống theo dõi lỗi/vấn đề của bạn không? Có, đúng không? Rất có thể là có. Và vì vậy, bạn có thể xây dựng một tác nhân để làm điều này cho công ty của bạn, đúng không? Bất cứ khi nào bạn có một người quản lý nói, "Hãy cho tôi một danh sách cập nhật," đúng không? Tại sao họ không có sẵn các bản cập nhật đó? Tại sao một tác nhân không tự động thực hiện nghiên cứu của họ rồi? Vì vậy, một lần nữa, điều này chỉ đơn giản là tận dụng thông tin đã có, điều này rất mạnh mẽ.
Và cuối cùng, đối với danh mục lớn cuối cùng, có một câu hỏi kỳ diệu mà bạn có thể đặt ra để tìm ra các tác nhân bạn nên xây dựng trong công ty của mình, đó là hỏi mọi người, "Bạn ghét điều gì nhất trong công việc của mình?" Và thực tế chúng tôi có một trường hợp điển hình về điều này tại Vercel. Vì vậy, chúng tôi thực sự đã xây dựng tác nhân hỗ trợ nội bộ của riêng mình. Và nó có cái gọi là tỷ lệ xử lý trực tiếp (deflection rate) 90%. Nghĩa là 90% thời gian, nó chỉ đơn giản là giúp đỡ người dùng trong thời gian thực, thay vì phải chuyển sang nơi khác. Và điều gì đã xảy ra? Tỷ lệ hài lòng trong công việc của đội hỗ trợ của chúng tôi đã tăng vọt. Tại sao? Bởi vì họ không còn phải làm những công việc nhàm chán nữa, đúng không? "Ồ, thẻ tín dụng của tôi không bị từ chối," vân vân. Bây giờ họ có thể thực sự đi tìm hiểu những trường hợp thực sự thú vị, thực sự giúp đỡ những người thực sự cần giúp đỡ thay vì làm tất cả những công việc lặp đi lặp lại. Vì vậy, tôi nghĩ loại bỏ công việc nhàm chán là một sứ mệnh rất cao cả mà tất cả chúng ta nên cố gắng thực hiện cho các công ty mà chúng ta làm việc.
Tác nhân AI là Người dùng Phần mềm: Sự thay đổi trọng tâm
Tuyệt vời. Rõ ràng lớp ứng dụng mới đó là các tác nhân, nhưng chúng ta cũng phải chuyển đổi. Chúng ta phải xem xét một sự thay đổi khác là bản thân phần mềm sẽ được sử dụng bởi các tác nhân ngay bây giờ, đúng không? Và tôi làm việc trong lĩnh vực phát triển phần mềm, công cụ dành cho nhà phát triển, vân vân. Và tôi nghĩ chúng ta đang đi trước trong cuộc chơi này, "speedrunning" sự chuyển đổi đó. Điều tôi sẽ chia sẻ là trên các tài sản web của chính chúng tôi, con người thực sự đang là thiểu số. Trong bảy ngày qua (chúng tôi chưa chia sẻ điều này trước đây), hơn 60% lượt xem trang (page views) trên Vercel.com là do các tác nhân AI. Tương tự, chúng tôi đang thấy cách bạn sử dụng nền tảng đang chuyển từ việc mọi người nhấp chuột trong bảng điều khiển sang việc sử dụng Giao diện lập trình ứng dụng (API) và giao diện dòng lệnh (CLI) của chúng tôi. Vì vậy, bất cứ khi nào có ai đó đề xuất một tính năng cho tôi và họ cho tôi xem một giao diện người dùng (UI), tôi sẽ hỏi, các bạn, CLI là gì? Làm thế nào để tôi tự động hóa điều này? Một tác nhân sử dụng điều này như thế nào? Và mặc dù, bạn biết đấy, UI bây giờ là thứ rất rẻ.
Thay đổi trong Phát triển Phần mềm và Hạ tầng
Một điều khác mà chúng tôi đang quan sát là mối quan hệ giữa phát triển phần mềm và hạ tầng đang thay đổi. Nếu tôi không tự viết mã, có lẽ tôi cũng không có cảm nhận mạnh mẽ về cách thức nó chạy trong môi trường sản xuất. Vì vậy, đối với một công ty như chúng tôi, điều thực sự quan trọng là chúng tôi phải chuyển đổi cách triển khai hạ tầng sang một mô hình mà hầu hết phần mềm được viết bởi các Tác nhân và chỉ cần chạy. Mọi người mong đợi nó chạy đúng như cách họ ra lệnh cho các Tác nhân thực hiện công việc. Cuối cùng, và hiển nhiên không ai ở đây ngạc nhiên về điều này, bản thân các ứng dụng đều là Tác nhân. Điều đó đòi hỏi chúng ta phải có hạ tầng khác biệt. Hiện tại, mọi người đều đang triển khai các môi trường biệt lập. Tôi nghĩ điều này gần như là một meme. Tôi đã đề cập trước đó rằng tôi đã tạo ra cùng một văn hóa như SPASH. Và tôi thực sự quan tâm đến sự đổi mới về cách bạn có thể cấp cho một Tác nhân một máy tính mà có thể không thực sự cấp cho họ một máy tính. Có rất nhiều điều thú vị trên thị trường. Và tôi chắc chắn hội nghị này cũng sẽ có rất nhiều nội dung về điều đó.
Thách thức Bảo mật và Kiến trúc Khung điều khiển tác nhân
Rộng hơn nữa, điều này đã được đề cập ở đây một thời gian: chúng ta đang tiến thẳng vào một cơn ác mộng bảo mật. Cảm giác như năm 1999, nơi thực sự mọi thứ đều có thể bị tấn công, và chúng ta chỉ không biết cách tạo ra thứ gì đó an toàn. Tôi nghĩ chúng ta sẽ có một sự thức tỉnh sâu sắc. Nhưng điều đó thực sự có nghĩa là chúng ta phải cởi mở trong việc thay đổi mọi thứ. Tôi sẽ đưa ra một ví dụ: chúng tôi cho rằng hầu hết các khung điều khiển tác nhân phổ biến hiện nay đều có kiến trúc sai lầm về cơ bản. Đó là chúng kết hợp nơi khung điều khiển chạy với nơi mã mà nó tạo ra chạy. Thật vậy, chỉ mới hôm qua, tôi đã thấy rằng Anthropic đồng ý với luận điểm này bởi vì trong sản phẩm Tác nhân mới của họ, họ đã có sự tách biệt đó. Và điều này thực sự, thực sự quan trọng. Đây cũng là một điểm cho thấy tất cả những vấn đề này đều là những vấn đề đã được giải quyết. Nhưng thông điệp của tôi là chúng ta vẫn còn ở giai đoạn rất sơ khai. Và chúng ta phải chuẩn bị để cởi mở với những chuyển đổi mô hình sẽ xảy ra trong tương lai. Chúng ta vừa trải qua chuyển đổi mô hình của các Tác nhân là những thực thể rất tổng quát, sử dụng môi trường biệt lập. Trong tương lai, chúng ta sẽ thấy nhiều chuyển đổi mô hình hơn nữa.
Sự Thúc đẩy Đổi mới Kỹ thuật AI tại Lớp Ứng dụng
Điểm cuối cùng tôi muốn đề cập là lớp ứng dụng mới mà chúng ta đang xây dựng có thể phát triển mạnh mẽ bất kể mô hình LLM nào. Bởi vì đôi khi mô hình LLM X tốt hơn, đôi khi mô hình LLM Y tốt hơn. Nhưng chúng ta, với tư cách là kỹ sư AI, đang xây dựng một lớp ổn định ở trên. Và một trong những hệ quả rất thú vị là chúng ta không cần phải làm việc tại một phòng thí nghiệm mô hình để thúc đẩy đổi mới AI. Thực tế, và tôi nghĩ đây gần như là một sự phá vỡ câu chuyện truyền thống, Châu Âu đang là quốc gia dẫn đầu trong đổi mới kỹ thuật AI. SDK AI của riêng chúng tôi, mà chúng tôi bán, hiện đang mang lại hơn 10 triệu đô la mỗi tuần, và đó là công việc của Las Gramell, người sống ở Berlin. Sau đó, rõ ràng là có Pi, Tác nhân lập trình, được tạo ra ở Áo. Bạn sẽ nghe Mario nói về nó vào ngày mai. Và tất nhiên, có lẽ một số bạn đã nghe nói về nó, có một thứ nhỏ gọi là OpenClaw và Peter sẽ lên sân khấu đây trong một giờ nữa. Và như vậy, có vẻ như Châu Âu, bất chấp mọi khó khăn, đang thực sự nắm giữ vai trò lãnh đạo trong kỹ thuật AI.
Tương lai của AI: Mô hình Cạnh tranh và Quyền năng của Kỹ sư
Chúng ta cũng phải thực tế, phải không? Châu Âu sẽ không đóng vai trò chính ở phía mô hình. Nhưng tôi không nghĩ điều đó cần thiết. Thực tế, tôi thấy có hai tương lai lớn phía trước chúng ta. Một là nơi các phòng thí nghiệm mô hình lớn chiến thắng. Trong thế giới đó, AI sẽ vẫn rất đắt đỏ. Tất cả giá trị của công nghệ Tác nhân tuyệt vời đó sẽ thuộc về công ty đó. Và chúng ta sẽ không thực sự là kỹ sư nữa, phải không? Nó sẽ giống như bốn kỹ sư triển khai, dù là ai, người chiến thắng nếu đó là OpenAI và đánh bại Google. Nhưng tôi không nghĩ điều đó rất có khả năng. Và tôi nghĩ điều thực sự đang diễn ra là điều ngược lại: Các công ty mô hình đang bị thương mại hóa. Claude thật tuyệt vời. Codex thật tuyệt vời. Google sẽ bắt kịp. Và quan trọng là, tôi sẽ khen ngợi Google ngay bây giờ, bởi vì tôi nghĩ họ đang đóng một vai trò tuyệt vời ở đây khi họ có hạ tầng rẻ nhất về mặt chi phí. Và trong thế giới thương mại hóa đó, họ sẽ luôn quyết định làm cho nó rẻ hơn. Và điều đó sẽ giữ giá ở mức nên có, rất thấp. Đó là kết quả mà chúng ta muốn. Bởi vì trong thế giới đó, chúng ta, các kỹ sư, là những người có quyền lực. Các Tác nhân của chúng ta là những người thực sự tạo ra giá trị kinh doanh. Và đó là lớp ứng dụng nơi sự đổi mới thực sự diễn ra. Đây là nơi OpenClaw được phát minh. Và đó là nơi mô hình tiếp theo của kỹ thuật AI được khám phá. Đó thực sự là tất cả những gì tôi muốn chia sẻ với các bạn hôm nay. Cảm ơn rất nhiều.
TL;DR
- Kỹ thuật AI đang nổi lên như lĩnh vực kỹ thuật chính tiếp theo, kế nhiệm phát triển web và sẽ định hình thập kỷ tới, khi các tác nhân AI cho phép tự động hóa những công việc trước đây không khả thi về mặt kinh tế, mở rộng đáng kể thị trường phần mềm.
- Có nhiều cơ hội thực tế để triển khai các tác nhân AI ngay hôm nay, tập trung vào các "quả ngọt nằm trong tầm tay" như tự động hóa hỗ trợ 24/7, rút ngắn giai đoạn nghiên cứu cho quyết định của con người, tận dụng thông tin nội bộ hiện có, và loại bỏ các công việc nhàm chán cho nhân viên.
- Sự gia tăng của tác nhân AI như người dùng phần mềm đang thay đổi cách chúng ta xây dựng phần mềm, đòi hỏi ưu tiên API/CLI, môi trường thực thi biệt lập an toàn, và kiến trúc khung điều khiển tác nhân được cải tiến để tách biệt môi trường chạy mã tạo ra.
Điểm chính
- Chuyển dịch sang Kỹ thuật AI: Các kỹ sư phần mềm nên chuyển hướng sang lĩnh vực kỹ thuật AI, coi đây là động lực chính định hình tương lai của phát triển phần mềm và tạo ra nhu cầu ngày càng tăng về kỹ sư.
- Phát triển Tác nhân Giải quyết Vấn đề Thực tế: Tập trung xây dựng các tác nhân AI cho các trường hợp sử dụng cụ thể, mang lại giá trị kinh tế rõ ràng như tự động hóa quy trình hỗ trợ, nghiên cứu thông tin, và tổng hợp dữ liệu nội bộ.
- Ưu tiên Thiết kế API/CLI: Khi phát triển phần mềm mới, ưu tiên thiết kế các giao diện API và CLI mạnh mẽ trước giao diện người dùng (UI) để đảm bảo tác nhân AI có thể tương tác và tự động hóa các tác vụ một cách hiệu quả.
- Triển khai Môi trường Biệt lập cho Tác nhân: Sử dụng các môi trường thực thi biệt lập (isolated environments) nhẹ, khởi động nhanh và an toàn (như microVMs hoặc trình thông dịch tùy chỉnh) để chạy mã của tác nhân AI, tăng cường bảo mật và hiệu suất.
- Tái Kiến trúc Khung Điều khiển Tác nhân: Thiết kế khung điều khiển tác nhân (agent frameworks) sao cho tách biệt rõ ràng giữa nơi khung điều khiển chạy và nơi mã do tác nhân tạo ra chạy, nhằm cải thiện bảo mật và độ tin cậy.
- Đổi mới tại Lớp Ứng dụng: Tập trung vào việc xây dựng các lớp ứng dụng AI ổn định, độc lập với các mô hình LLM cụ thể. Sự thương mại hóa của các mô hình LLM đang trao quyền cho kỹ sư AI ở lớp ứng dụng.
- Tự động hóa Công việc Nhàm chán: Xác định và phát triển các tác nhân để tự động hóa những công việc lặp lại, tẻ nhạt, giúp cải thiện sự hài lòng của nhân viên và cho phép họ tập trung vào các nhiệm vụ phức tạp hơn, mang lại giá trị cao hơn.
Từ vựng
tác nhân— agentkỹ thuật AI— AI engineeringmôi trường biệt lập— isolated environment / sandboxquả ngọt nằm trong tầm tay— low-hanging fruittỷ lệ xử lý trực tiếp— deflection ratekhung điều khiển tác nhân— agent frameworkchuyển đổi mô hình— paradigm shiftlớp ứng dụng— application layermô hình LLM— LLM model (Large Language Model)thương mại hóa— commoditization
Nội dung chi tiết
Giới thiệu và Bối cảnh mới của Kỹ thuật AI
Người thuyết trình đầu tiên đã có hơn 25 năm kinh nghiệm trong lĩnh vực kỹ thuật phần mềm. Với thời gian làm việc tại Google và hiện tại là Vercel, ông sẽ khám phá ý nghĩa của việc xây dựng cơ sở hạ tầng và ứng dụng trong một thế giới nơi các tác nhân vừa là người xây dựng vừa là người dùng phần mềm. Xin mời chào đón Giám đốc Công nghệ (CTO) của Vercel, Malta Ubel.
Tôi đã phát triển một thứ gọi là Chat SDK, đây là một cách để kết nối các tác nhân của bạn với bất kỳ nền tảng trò chuyện nào bạn thích như Slack, Telegram, WhatsApp, và tôi cũng đã làm việc với Just Bash, một trình thông dịch bash được viết bằng TypeScript cung cấp cho bạn một môi trường biệt lập với thời gian khởi động tính bằng nano giây cho các tác nhân của bạn, bởi vì chúng rất yêu thích bash.
Một điều tôi muốn nhắc đến là lý do tôi rất hào hứng khi có mặt ở đây là vì trước đây tôi từng tổ chức một hội nghị nhỏ ở Berlin tên là JSConf. Và tôi cảm thấy rằng trong đời mình, tôi đã có một thời điểm hoàn hảo tuyệt đối, vì đó là mùa hè năm 2019 và chúng tôi quyết định sau 10 năm là đủ, và chúng tôi đã kết thúc một cách vang dội. Lý do tại sao thời điểm này lại tuyệt vời đến vậy là vì sẽ không có hội nghị nào diễn ra một năm sau đó vì COVID. Nhưng khi chúng tôi quyết định rút lui, chúng tôi hy vọng rằng người khác sẽ tiếp quản, và điều đó cũng không xảy ra vì COVID. Vì vậy, đã hơn nửa thập kỷ trôi qua, và tôi rất vui mừng khi mọi thứ cuối cùng cũng bắt đầu trở lại. Nhưng cũng rõ ràng rằng đó sẽ không phải là một hội nghị phát triển web có thể thực sự đưa cộng đồng công nghệ ở Châu Âu xích lại gần nhau vào năm 2026.
Theo nhiều cách, tôi nghĩ kỹ thuật AI là người kế nhiệm hợp pháp của phát triển web, trở thành một ngành kỹ thuật chính thống thực sự sẽ định hình thập kỷ tiếp theo của phát triển phần mềm, khi chính kỹ thuật phần mềm đang đối mặt với một sự gián đoạn chưa từng có. Vì vậy, hôm nay các bạn chắc chắn đã đến đúng nơi và việc cùng nhau tập hợp lại thành một cộng đồng để suy ngẫm về nghề nghiệp của chúng ta với tư cách là kỹ sư phần mềm và kỹ sư AI là quan trọng hơn bao giờ hết.
Sự Chuyển dịch trong Kỹ thuật Phần mềm và Vai trò của Kỹ sư
Điều này là do chúng ta đang đối mặt với sự gián đoạn trong cả cách chúng ta xây dựng phần mềm – đó là với AI – và những gì chúng ta xây dựng – đó là AI và các tác nhân. Và tất nhiên, sự gián đoạn đôi khi có thể dẫn đến lo lắng. Trên thực tế, tôi thực sự rất thường xuyên được hỏi, "Chào Malta, liệu còn chỗ cho kỹ sư trong tương lai không? Và thế hệ kỹ sư tiếp theo thì sao?" Và tôi hoàn toàn bị thuyết phục rằng câu trả lời là CÓ.
Tôi thường đưa ra ví dụ như hãy hình dung tôi đang làm một video TikTok. Họ đã đề cập trong phần giới thiệu rằng tôi có 25 năm kinh nghiệm, thực ra đây là một sự nói giảm đáng kể. Và vì vậy, tôi sẽ không giỏi làm video TikTok. Tôi không nên quay video TikTok vì tôi không lớn lên cùng nó. Tương tự như vậy, thế hệ kỹ sư trẻ tiếp theo sẽ giỏi hơn rất nhiều trong lĩnh vực này vì họ được định hình trong thế giới AI, giống như tất cả các bạn. Nhưng không chỉ những đứa trẻ sẽ ổn thôi. Chúng ta cũng sẽ ổn, và đây là lý do.
Tác nhân AI: Loại Phần mềm Mới và Cơ hội Phát triển
Một trong những luận điểm chính của chúng tôi là các tác nhân là một loại phần mềm mới. Bởi vì luôn có tất cả những thứ chúng ta muốn tự động hóa. Nhưng không phải tất cả đều khả thi về mặt kinh tế để thực hiện bằng phần mềm truyền thống. Tuy nhiên, với các tác nhân thì có. Và điều đó có nghĩa là sẽ có nhiều phần mềm hơn trong tương lai.
Hãy minh họa điều này bằng một biểu đồ Venn. Có lẽ vòng tròn sẽ tốt hơn bởi vì vòng tròn này đại diện cho tất cả phần mềm nên tồn tại. Hãy tưởng tượng tất cả phần mềm nên tồn tại. Vấn đề là chúng ta không thể viết tất cả chúng vì quá tốn kém khi sử dụng các phương pháp truyền thống. Bạn có thể hình dung tất cả những điều này. Nếu tất cả những tuyên bố này, bạn có tất cả kiến thức về doanh nghiệp, bạn phải tìm hiểu tất cả, bạn phải hardcode chúng vào ứng dụng. Rất nhiều phần mềm bạn sẽ không bao giờ viết vì rõ ràng nó quá tốn kém. Nhưng giờ đây với các tác nhân, phần mềm đó trở nên khả thi về mặt kinh tế. Tôi có thể xây dựng nó bây giờ với nhiều nỗ lực. Và điều đó có nghĩa là với các tác nhân AI, về cơ bản tất cả phần mềm – có lẽ không phải tất cả, chúng ta sẽ tìm hiểu thêm trong tương lai – nhưng vòng tròn đó sẽ được lấp đầy. Tất cả những thứ đáng lẽ phải được tự động hóa đều được tự động hóa. Sẽ có rất nhiều phần mềm hơn nữa ngoài kia.
Tương tự, ngày càng nhiều công ty, khi họ tự hỏi liệu họ nên mua một phần mềm như sản phẩm SaaS hay tự tạo phần mềm, họ đang trả lời câu hỏi đó bằng cách chọn tự tạo. Ở Thung lũng Silicon nơi tôi sống ngày nay, chúng tôi đang nói rất nhiều về cái gọi là "SaaS complot galips". Tôi nghĩ tên của nó là vậy. Mọi người tự làm sản phẩm của riêng họ và không mua phần mềm SaaS nữa. Thực ra tôi nghĩ các công ty SaaS sẽ ổn thôi, đừng lo lắng cho họ. Nhưng với tư cách là kỹ sư của chính mình, việc nhiều công ty tạo ra nhiều phần mềm hơn lại dẫn đến việc chúng ta có nhiều việc hơn, ngay cả khi nó diễn ra nhanh hơn.
Và trên thực tế, cách tôi đã hình dung điều này trong một thời gian là chúng ta đang "speedrunning" một thử nghiệm thực sự về kinh tế học, về độ đàn hồi của thị trường phần mềm. Ý tưởng là: phần mềm càng rẻ để tạo ra, chúng ta càng tạo ra nhiều phần mềm hơn. Và do đó, điều thực sự đang xảy ra là nhu cầu về kỹ sư phần mềm đang tăng lên. Hiện tại chúng ta không biết, sẽ có một đường cong S. Nhưng không có dấu hiệu nào cho thấy chúng ta đang chạm đến đường cong S đó. Trên thực tế, bởi vì chúng ta đang ngày càng giỏi hơn trong việc phát triển tác nhân, vân vân, có rất nhiều dư địa trong tương lai, tôi nghĩ chúng ta sẽ ổn thôi. Vì vậy, với tư cách là kỹ sư AI, công việc của chúng ta là xây dựng lớp ứng dụng tiếp theo đó. Và tất nhiên, điều đó thực sự có nghĩa là xây dựng các tác nhân.
Các Loại Tác nhân AI Hiệu quả trong Thực tế
Tôi muốn dành chút thời gian để nói về các nguyên mẫu (archetype) tác nhân mà tôi đang thấy thực sự được xây dựng ngày nay, thực sự hiệu quả, thực sự là điều bạn có thể làm ngay hôm nay mà không cần thực hiện những thay đổi lớn. Tôi nghĩ tất cả chúng ta đều hơi "say sưa" với các tác nhân viết mã (coding agent) vì chúng rất tuyệt vời. Chúng hoạt động rất tốt. Và có vẻ rất rõ ràng rằng bạn có thể áp dụng điều đó cho tất cả các lĩnh vực khác. Và đôi khi những điều này không diễn ra tốt đẹp. Nhưng điều quan trọng là chúng ta không nhất thiết phải làm những tác nhân tiên tiến nhất mà bạn có thể tưởng tượng; có rất nhiều "quả ngọt nằm trong tầm tay" (low-hanging fruit) để thực hiện, nơi bạn thực sự có thể giúp các công ty tiết kiệm hàng triệu hoặc hàng tỷ đô la mà không cần thực hiện những thay đổi lớn về quy trình, những thay đổi mà trên thực tế sẽ luôn mất nhiều thời gian, thường xuyên thất bại, vân vân.
Đây là những gì tôi thực sự đang thấy trong thực tế. Phần đầu tiên, khi bạn nghĩ về những tác nhân bạn có thể xây dựng, mọi người nghĩ, ồ, tác nhân... nghe có vẻ quen thuộc, có một nhóm tác nhân hỗ trợ. Có lẽ tôi có thể tự động hóa một phần trong số đó. Và đó cũng là nơi thế hệ đầu tiên của những gì chúng ta gọi là "Agent as a Service" (Bạn có thể tự hình thành từ viết tắt đó trong đầu) các công ty khởi nghiệp đang triển khai, đúng không? Chẳng hạn như các công ty CRS và decogons trên thế giới này. Nhưng nói chung hơn, tôi nghĩ đáng để bạn tự hỏi, trong doanh nghiệp của bạn, có công việc nào mà sẽ khá biến đổi nếu chúng ta chuyển từ một công việc 9 giờ sáng đến 5 giờ chiều (vì con người cần ngủ) sang một công việc 24/7 (vì các tác nhân không cần ngủ) hay không? Và tôi nghĩ có rất nhiều chỗ cho điều đó.
Tiếp theo có lẽ thậm chí còn quan trọng hơn, một loại hình "call-a-compress-story search" (tìm kiếm, thu thập và tóm tắt thông tin). Bởi vì mọi doanh nghiệp đều có một loại quy trình kinh doanh nhất định, mà theo một cách trừu tượng, có hình dạng sau: Có một sự kiện kinh doanh và bạn phải thực hiện một số nghiên cứu, rồi bạn đưa ra một quyết định của con người, đúng không? Và bạn có thể xây dựng một tác nhân chỉ để tự động hóa giai đoạn nghiên cứu và đó là tất cả những gì bạn cần triển khai. Và điều quan trọng là tại sao việc triển khai này lại dễ dàng đến vậy là vì quy trình vẫn giữ nguyên. Vẫn có sự kiện kinh doanh đó. Vẫn có một giai đoạn nghiên cứu. Và vẫn có một quyết định của con người. Giai đoạn nghiên cứu diễn ra nhanh hơn. Và có lẽ nó chuyển từ việc mất 30 phút đối với một người, giờ họ có thể làm điều tương tự trong năm phút. Và nếu bạn chạy quy trình đó 100.000 lần một năm, bạn sẽ tiết kiệm được rất nhiều tiền cho công ty, nhưng bạn không làm tăng hồ sơ rủi ro và bạn không phải thay đổi quy trình.
Tại Vercel, chúng tôi thực sự có ít nhất hai tác nhân có hình dạng này. Khi bạn truy cập Vercel.com và nhấp vào nút "Liên hệ bộ phận bán hàng", tin nhắn đó thực sự được gửi đến một tác nhân, đúng không? Và tôi nghe nói khoảng 75% thời gian, tác nhân đó sẽ nói, ồ, thực ra họ chỉ muốn hỗ trợ và chuyển nó cho đội hỗ trợ. Nhưng trong những trường hợp khác, nó sẽ đi đến, ồ, điều đó thú vị đấy. Hãy để tôi kiểm tra LinkedIn của họ. Hãy để tôi Google công ty. Hãy để tôi tìm hiểu xem họ lớn đến mức nào. Hãy để tôi chuyển nó đến đúng người, đúng không? Và sau đó sẽ có một người xem xét nó và đưa ra quyết định, nhưng điều đó rõ ràng là một việc mà trước đây có thể mất 15 phút của một người, và giờ họ không phải làm điều đó nữa. Và một ví dụ khác là cùng một quy trình. Nếu bạn gửi cho chúng tôi một báo cáo lạm dụng, một lần nữa, có một tác nhân đang xem xét. Trang web đó có lạm dụng không? Chúng ta nên làm gì, đúng không? Quyết định cuối cùng rõ ràng vẫn nên được đưa ra bởi chuyên gia thực sự, nhưng họ không còn phải tự mình thực hiện tất cả các nghiên cứu này nữa.
Tiếp theo là điều mà tôi nghĩ có lẽ là điều kỳ diệu nhất bạn có thể làm trong bất kỳ công ty nào ngày nay. Đó là chỉ đơn giản là đưa ra thông tin đã tồn tại. Rất phổ biến là có thông tin ở đâu đó trong công ty, đúng không? Nhưng vì mọi mục đích thực tế, bạn không thể sử dụng nó một cách hiệu quả. Lấy ví dụ, tất cả các bạn, các kỹ sư, đều có các hệ thống theo dõi lỗi/vấn đề, đúng không? Vậy nó có được cập nhật không? Thực tế thì không phải lúc nào cũng vậy, đúng không? Nó có thể được cập nhật không? Thông tin có tồn tại không? Bạn đã Slack nó chưa? Bạn có bản ghi granola recording nào mà về mặt kỹ thuật chứa thông tin có thể cập nhật hệ thống theo dõi lỗi/vấn đề của bạn không? Có, đúng không? Rất có thể là có. Và vì vậy, bạn có thể xây dựng một tác nhân để làm điều này cho công ty của bạn, đúng không? Bất cứ khi nào bạn có một người quản lý nói, "Hãy cho tôi một danh sách cập nhật," đúng không? Tại sao họ không có sẵn các bản cập nhật đó? Tại sao một tác nhân không tự động thực hiện nghiên cứu của họ rồi? Vì vậy, một lần nữa, điều này chỉ đơn giản là tận dụng thông tin đã có, điều này rất mạnh mẽ.
Và cuối cùng, đối với danh mục lớn cuối cùng, có một câu hỏi kỳ diệu mà bạn có thể đặt ra để tìm ra các tác nhân bạn nên xây dựng trong công ty của mình, đó là hỏi mọi người, "Bạn ghét điều gì nhất trong công việc của mình?" Và thực tế chúng tôi có một trường hợp điển hình về điều này tại Vercel. Vì vậy, chúng tôi thực sự đã xây dựng tác nhân hỗ trợ nội bộ của riêng mình. Và nó có cái gọi là tỷ lệ xử lý trực tiếp (deflection rate) 90%. Nghĩa là 90% thời gian, nó chỉ đơn giản là giúp đỡ người dùng trong thời gian thực, thay vì phải chuyển sang nơi khác. Và điều gì đã xảy ra? Tỷ lệ hài lòng trong công việc của đội hỗ trợ của chúng tôi đã tăng vọt. Tại sao? Bởi vì họ không còn phải làm những công việc nhàm chán nữa, đúng không? "Ồ, thẻ tín dụng của tôi không bị từ chối," vân vân. Bây giờ họ có thể thực sự đi tìm hiểu những trường hợp thực sự thú vị, thực sự giúp đỡ những người thực sự cần giúp đỡ thay vì làm tất cả những công việc lặp đi lặp lại. Vì vậy, tôi nghĩ loại bỏ công việc nhàm chán là một sứ mệnh rất cao cả mà tất cả chúng ta nên cố gắng thực hiện cho các công ty mà chúng ta làm việc.
Tác nhân AI là Người dùng Phần mềm: Sự thay đổi trọng tâm
Tuyệt vời. Rõ ràng lớp ứng dụng mới đó là các tác nhân, nhưng chúng ta cũng phải chuyển đổi. Chúng ta phải xem xét một sự thay đổi khác là bản thân phần mềm sẽ được sử dụng bởi các tác nhân ngay bây giờ, đúng không? Và tôi làm việc trong lĩnh vực phát triển phần mềm, công cụ dành cho nhà phát triển, vân vân. Và tôi nghĩ chúng ta đang đi trước trong cuộc chơi này, "speedrunning" sự chuyển đổi đó. Điều tôi sẽ chia sẻ là trên các tài sản web của chính chúng tôi, con người thực sự đang là thiểu số. Trong bảy ngày qua (chúng tôi chưa chia sẻ điều này trước đây), hơn 60% lượt xem trang (page views) trên Vercel.com là do các tác nhân AI. Tương tự, chúng tôi đang thấy cách bạn sử dụng nền tảng đang chuyển từ việc mọi người nhấp chuột trong bảng điều khiển sang việc sử dụng Giao diện lập trình ứng dụng (API) và giao diện dòng lệnh (CLI) của chúng tôi. Vì vậy, bất cứ khi nào có ai đó đề xuất một tính năng cho tôi và họ cho tôi xem một giao diện người dùng (UI), tôi sẽ hỏi, các bạn, CLI là gì? Làm thế nào để tôi tự động hóa điều này? Một tác nhân sử dụng điều này như thế nào? Và mặc dù, bạn biết đấy, UI bây giờ là thứ rất rẻ.
Thay đổi trong Phát triển Phần mềm và Hạ tầng
Một điều khác mà chúng tôi đang quan sát là mối quan hệ giữa phát triển phần mềm và hạ tầng đang thay đổi. Nếu tôi không tự viết mã, có lẽ tôi cũng không có cảm nhận mạnh mẽ về cách thức nó chạy trong môi trường sản xuất. Vì vậy, đối với một công ty như chúng tôi, điều thực sự quan trọng là chúng tôi phải chuyển đổi cách triển khai hạ tầng sang một mô hình mà hầu hết phần mềm được viết bởi các Tác nhân và chỉ cần chạy. Mọi người mong đợi nó chạy đúng như cách họ ra lệnh cho các Tác nhân thực hiện công việc. Cuối cùng, và hiển nhiên không ai ở đây ngạc nhiên về điều này, bản thân các ứng dụng đều là Tác nhân. Điều đó đòi hỏi chúng ta phải có hạ tầng khác biệt. Hiện tại, mọi người đều đang triển khai các môi trường biệt lập. Tôi nghĩ điều này gần như là một meme. Tôi đã đề cập trước đó rằng tôi đã tạo ra cùng một văn hóa như SPASH. Và tôi thực sự quan tâm đến sự đổi mới về cách bạn có thể cấp cho một Tác nhân một máy tính mà có thể không thực sự cấp cho họ một máy tính. Có rất nhiều điều thú vị trên thị trường. Và tôi chắc chắn hội nghị này cũng sẽ có rất nhiều nội dung về điều đó.
Thách thức Bảo mật và Kiến trúc Khung điều khiển tác nhân
Rộng hơn nữa, điều này đã được đề cập ở đây một thời gian: chúng ta đang tiến thẳng vào một cơn ác mộng bảo mật. Cảm giác như năm 1999, nơi thực sự mọi thứ đều có thể bị tấn công, và chúng ta chỉ không biết cách tạo ra thứ gì đó an toàn. Tôi nghĩ chúng ta sẽ có một sự thức tỉnh sâu sắc. Nhưng điều đó thực sự có nghĩa là chúng ta phải cởi mở trong việc thay đổi mọi thứ. Tôi sẽ đưa ra một ví dụ: chúng tôi cho rằng hầu hết các khung điều khiển tác nhân phổ biến hiện nay đều có kiến trúc sai lầm về cơ bản. Đó là chúng kết hợp nơi khung điều khiển chạy với nơi mã mà nó tạo ra chạy. Thật vậy, chỉ mới hôm qua, tôi đã thấy rằng Anthropic đồng ý với luận điểm này bởi vì trong sản phẩm Tác nhân mới của họ, họ đã có sự tách biệt đó. Và điều này thực sự, thực sự quan trọng. Đây cũng là một điểm cho thấy tất cả những vấn đề này đều là những vấn đề đã được giải quyết. Nhưng thông điệp của tôi là chúng ta vẫn còn ở giai đoạn rất sơ khai. Và chúng ta phải chuẩn bị để cởi mở với những chuyển đổi mô hình sẽ xảy ra trong tương lai. Chúng ta vừa trải qua chuyển đổi mô hình của các Tác nhân là những thực thể rất tổng quát, sử dụng môi trường biệt lập. Trong tương lai, chúng ta sẽ thấy nhiều chuyển đổi mô hình hơn nữa.
Sự Thúc đẩy Đổi mới Kỹ thuật AI tại Lớp Ứng dụng
Điểm cuối cùng tôi muốn đề cập là lớp ứng dụng mới mà chúng ta đang xây dựng có thể phát triển mạnh mẽ bất kể mô hình LLM nào. Bởi vì đôi khi mô hình LLM X tốt hơn, đôi khi mô hình LLM Y tốt hơn. Nhưng chúng ta, với tư cách là kỹ sư AI, đang xây dựng một lớp ổn định ở trên. Và một trong những hệ quả rất thú vị là chúng ta không cần phải làm việc tại một phòng thí nghiệm mô hình để thúc đẩy đổi mới AI. Thực tế, và tôi nghĩ đây gần như là một sự phá vỡ câu chuyện truyền thống, Châu Âu đang là quốc gia dẫn đầu trong đổi mới kỹ thuật AI. SDK AI của riêng chúng tôi, mà chúng tôi bán, hiện đang mang lại hơn 10 triệu đô la mỗi tuần, và đó là công việc của Las Gramell, người sống ở Berlin. Sau đó, rõ ràng là có Pi, Tác nhân lập trình, được tạo ra ở Áo. Bạn sẽ nghe Mario nói về nó vào ngày mai. Và tất nhiên, có lẽ một số bạn đã nghe nói về nó, có một thứ nhỏ gọi là OpenClaw và Peter sẽ lên sân khấu đây trong một giờ nữa. Và như vậy, có vẻ như Châu Âu, bất chấp mọi khó khăn, đang thực sự nắm giữ vai trò lãnh đạo trong kỹ thuật AI.
Tương lai của AI: Mô hình Cạnh tranh và Quyền năng của Kỹ sư
Chúng ta cũng phải thực tế, phải không? Châu Âu sẽ không đóng vai trò chính ở phía mô hình. Nhưng tôi không nghĩ điều đó cần thiết. Thực tế, tôi thấy có hai tương lai lớn phía trước chúng ta. Một là nơi các phòng thí nghiệm mô hình lớn chiến thắng. Trong thế giới đó, AI sẽ vẫn rất đắt đỏ. Tất cả giá trị của công nghệ Tác nhân tuyệt vời đó sẽ thuộc về công ty đó. Và chúng ta sẽ không thực sự là kỹ sư nữa, phải không? Nó sẽ giống như bốn kỹ sư triển khai, dù là ai, người chiến thắng nếu đó là OpenAI và đánh bại Google. Nhưng tôi không nghĩ điều đó rất có khả năng. Và tôi nghĩ điều thực sự đang diễn ra là điều ngược lại: Các công ty mô hình đang bị thương mại hóa. Claude thật tuyệt vời. Codex thật tuyệt vời. Google sẽ bắt kịp. Và quan trọng là, tôi sẽ khen ngợi Google ngay bây giờ, bởi vì tôi nghĩ họ đang đóng một vai trò tuyệt vời ở đây khi họ có hạ tầng rẻ nhất về mặt chi phí. Và trong thế giới thương mại hóa đó, họ sẽ luôn quyết định làm cho nó rẻ hơn. Và điều đó sẽ giữ giá ở mức nên có, rất thấp. Đó là kết quả mà chúng ta muốn. Bởi vì trong thế giới đó, chúng ta, các kỹ sư, là những người có quyền lực. Các Tác nhân của chúng ta là những người thực sự tạo ra giá trị kinh doanh. Và đó là lớp ứng dụng nơi sự đổi mới thực sự diễn ra. Đây là nơi OpenClaw được phát minh. Và đó là nơi mô hình tiếp theo của kỹ thuật AI được khám phá. Đó thực sự là tất cả những gì tôi muốn chia sẻ với các bạn hôm nay. Cảm ơn rất nhiều.