Giới thiệu về Khả năng và Hạn chế của AI

Tôi là Kristen, thuộc đội ngũ giáo dục tại Anthropic. Nếu bạn đã từng tham gia khóa học Nền tảng và Khung năng lực AI của chúng tôi, chắc hẳn bạn đã quen thuộc với "4 chữ D": Delegation (Ủy thác), Description (Mô tả), Discernment (Phán đoán) và Diligence (Cẩn trọng). Đó là những năng lực của con người; là những gì bạn thực hiện khi cộng tác với AI.

Khóa học này là phần bổ trợ cho nội dung đó. Chúng ta sẽ tập trung vào những gì cỗ máy thực hiện khi con người đưa ra prompt và lý do đằng sau đó. Mục tiêu là giúp bạn xây dựng một mô hình tư duy thực tiễn về nguồn gốc thực sự của các kết quả đầu ra từ AI. Quan trọng hơn, khóa học này tập trung vào cách AI được tạo ra, vì vậy nó sẽ luôn hữu ích và phù hợp ngay cả khi các mô hình và sản phẩm AI thay đổi.

Mối quan hệ giữa Năng lực Con người và Cơ chế AI

Bạn không thể ủy thác (delegate) một nhiệm vụ cho AI mà không biết đâu là điểm mạnh và điểm yếu của mô hình. Bạn cũng không thể phán đoán (discern) chất lượng đầu ra của AI nếu không hình dung được kết quả đó được tạo ra như thế nào và cần lưu ý điều gì. Mọi kiến thức bạn học trong khóa học này đều có thể áp dụng trực tiếp thông qua "4 chữ D".

Việc hiểu rằng AI là một công cụ dự đoán (prediction engine) sẽ thay đổi cách bạn mô tả (describe) nhiệm vụ cho nó. Hiểu về context window sẽ thay đổi cách bạn ủy thác các nhiệm vụ dài. Hai khung năng lực này khớp nối hoàn hảo với nhau.

Hai giai đoạn Huấn luyện AI: Pre-training và Fine-tuning

Dưới đây là lộ trình của khóa học. Đầu tiên, chúng ta sẽ xem xét hai giai đoạn huấn luyện tạo nên đặc tính của một AI và những dấu ấn mà mỗi giai đoạn để lại trên hệ thống hoàn thiện: pre-training và fine-tuning.

• Pre-training xây dựng một "công cụ hoàn thiện văn bản".
• Fine-tuning nhào nặn AI đó trở thành một trợ lý.

Cả hai giai đoạn đều quan trọng để hiểu tại sao mô hình lại hành xử theo cách nó đang làm.

Bốn Thuộc tính Cốt lõi của Generative AI

Tiếp theo, chúng ta sẽ tìm hiểu bốn thuộc tính cốt lõi của generative AI:

1. Token prediction (Dự đoán token)
2. Knowledge (Kiến thức)
3. Working memory (Bộ nhớ làm việc)
4. Steerability (Khả năng điều hướng)

Mỗi thuộc tính này tồn tại trên một dải liên tục. Bạn sẽ học cách đánh giá xem nhiệm vụ của mình nằm ở đâu trên dải liên tục đó đối với từng thuộc tính—liệu nó nằm trong vùng năng lực hay đang tiến dần ra phía biên giới hạn.

Hiểu về Thất bại của AI thông qua các Thuộc tính Liên kết

Cuối cùng, chúng ta sẽ xem xét cách mọi thứ kết nối với nhau. Hầu hết các lỗi thực tế của AI xảy ra khi hai thuộc tính giao thoa. Ví dụ:

• Một trích dẫn ảo giác (hallucinated citation) là kết quả của việc dự đoán next token gặp phải lỗ hổng kiến thức.
• Sự chệch hướng (drift) trong một cuộc hội thoại dài là kết quả của sự tương tác giữa bộ nhớ làm việc và khả năng điều hướng.

Khi bạn có thể gọi tên được sự kết hợp này, bạn sẽ hiểu tại sao nó xảy ra và biết cần phải làm gì.

Xây dựng Mô hình Tư duy Bền vững

Các mô hình sẽ tiếp tục thay đổi. Context window sẽ lớn hơn, tỷ lệ ảo giác sẽ giảm xuống và các tính năng mới sẽ được ra mắt hàng tháng. Các chi tiết cụ thể thay đổi liên tục, nhưng cấu trúc của các thuộc tính này vẫn luôn hữu ích. Dự đoán next token vẫn sẽ là dự đoán next token trong một năm tới. Điểm dừng kiến thức (knowledge cut-off) có thể thay đổi, nhưng nó vẫn sẽ tồn tại. Context window có thể lớn hơn, nhưng nó vẫn sẽ có giới hạn biên.

Những gì bạn đang xây dựng ở đây là một mô hình tư duy bền vững—một mô hình có thể tồn tại qua những đợt cập nhật sản phẩm và phát hành mô hình hàng ngày.

Ứng dụng Thực tế và Bài tập

Trong mọi khóa học, người thực hành mới là người thực học. Để tận dụng tối đa khóa học này, hãy dành thời gian thực hiện các bài tập. Đó chính là nơi việc học thực sự diễn ra.

Chúng tôi đã thiết kế các bài tập để bạn kiểm tra từng thuộc tính đối với chính công việc chuyên môn của mình. Đây là sự sắp đặt có chủ đích. Bạn cần khám phá những tình huống mà bạn thực sự có thể nhận ra khi có điều gì đó không ổn. Vì vậy, hãy mang vào những nhiệm vụ thực tế và chạy những prompt thực tế.

• Khi học về working memory, hãy tải lên các tài liệu dài thực tế của bạn.
• Khi học về next token prediction, hãy hỏi về các chủ đề ngách chuyên sâu của bạn.

Mục tiêu là đạt được một sự hiệu chuẩn (calibration) mà bạn có thể cảm nhận được, chứ không chỉ là ghi nhớ một danh sách các thuật ngữ. Chúng ta sẽ cùng nhau giải mã cách AI vận hành và cách bạn có thể sử dụng nó để tăng cường tư duy cũng như hiệu suất công việc của mình.