The Societal Impacts of AI

• Trí tuệ nhân tạo (AI) đang phát triển với tốc độ chóng mặt, mang lại tiềm năng to lớn trong giáo dục, khoa học và nâng cao kỹ năng cá nhân, nhưng cũng đặt ra những thách thức đáng kể về mặt xã hội, kinh tế và đạo đức.
• Mối quan hệ giữa con người và AI đang trở nên phức tạp hơn, với việc AI không chỉ là một công cụ mà còn là tác nhân tự chủ và thậm chí là nơi con người tìm kiếm lời khuyên cảm xúc, làm mờ đi ranh giới giữa máy móc và tương tác xã hội.
• Sự phát triển của AI đòi hỏi một cách tiếp cận chủ động từ xã hội để nghiên cứu, đo lường tác động, và thiết lập các biện pháp bảo vệ để đảm bảo công nghệ này phục vụ lợi ích tốt nhất của nhân loại, thay vì chỉ bị kiểm soát bởi một thiểu số.

• Nghiên cứu và Dự đoán Tác động Xã hội: Cần có nỗ lực nghiên cứu và dự đoán trước các tác động xã hội và kinh tế của AI, từ thành kiến quy mô lớn đến ảnh hưởng cá nhân, để có thể ứng phó kịp thời.
• Phát triển Biện pháp Bảo vệ: Thiết lập các biện pháp bảo vệ và khuôn khổ đạo đức là tối quan trọng để đảm bảo AI mạnh mẽ hoạt động vì lợi ích tốt nhất của nhân loại và ngăn chặn khả năng gây ra sự tàn phá.
• Đo lường và Hiểu Tự động hóa: Quan trọng là phải đo lường và hiểu rõ những công việc và tác vụ nào trong nền kinh tế đang bị tự động hóa bởi AI để có thể định hình tương lai của công việc một cách chủ động.
• Nhận diện và Chuẩn bị cho Tác nhân AI: Sự trỗi dậy của các "Tác nhân AI" có khả năng tự chủ truy xuất thông tin, chạy mã và thực hiện nhiều tác vụ cùng lúc sẽ có tác động kinh tế lớn hơn, đòi hỏi sự chuẩn bị chiến lược.
• Kiểm soát Giá trị Huấn luyện AI: Cần chú ý đến việc các mô hình AI truyền tải các phán đoán giá trị học được từ con người, đặt ra câu hỏi về nguồn gốc và tính trung lập của những giá trị này.
• Thúc đẩy Sự tham gia của Cộng đồng: Cần chia sẻ thông tin về AI với công chúng để xã hội có thể có tiếng nói trong việc định hình các công nghệ này, thay vì để quyền kiểm soát tập trung vào một nhóm nhỏ.
• Hiểu Rõ Kết nối Cảm xúc: Nhận thức rằng con người đang hình thành những gắn bó và kết nối cá nhân sâu sắc với AI, dù nó không thể thực sự đồng cảm, và cần khám phá ý nghĩa của điều này đối với các mối quan hệ con người.
• Phản tư về Tác động ngược lên Con người: Cần xem xét cách con người có thể bắt đầu phản ánh hoặc điều chỉnh hành vi của mình theo cách AI được thiết kế (ví dụ: viết mã thân thiện với Claude), và tác động lâu dài của điều này lên bản sắc và khả năng của con người.

• hệ thống AI — AI system
• tác vụ — task
• mã hóa — coding / to code
• công cụ — tool
• cuộc trò chuyện — conversation
• token — token
• Mô hình AI — AI model
• Tác nhân AI — AI Agent
• wetware — wetware

Tương Lai Của Trí Tuệ Nhân Tạo Và Con Người

Nếu kiến thức là sức mạnh và chúng ta đang xây dựng những cỗ máy có nhiều kiến thức hơn chúng ta, thì điều gì sẽ xảy ra giữa chúng ta và những cỗ máy đó? Chúng ta đang tương tác với hệ thống AI cho các tác vụ kinh tế, cho các tác vụ cảm xúc. Chúng đang định hình cách chúng ta suy nghĩ, cách chúng ta viết, cách chúng ta mã hóa. Tôi nghĩ trong vài năm tới, AI mạnh mẽ có thể giúp hàng tỷ người tiếp cận nền giáo dục chất lượng cao mà họ chưa có được ngày nay, giải quyết các vấn đề khoa học quan trọng. Nhưng nếu không có các biện pháp bảo vệ thích hợp, bất kỳ người nào cũng có thể gây ra rất nhiều sự tàn phá. Nó giống như một dạng trí thông minh ngoài hành tinh mới. Làm thế nào để chúng ta đảm bảo dạng trí thông minh mới này hoạt động vì lợi ích tốt nhất của nhân loại? Tôi ước mình có một quả cầu pha lê để biết, chẳng hạn, trong 10 năm nữa việc sử dụng AI sẽ trông như thế nào. Có một thế giới mà nó không thay đổi thế giới, phải không? Hoặc có một thế giới mà nó thay đổi. Trí tuệ nhân tạo (AI) sẽ tác động đến con người trong thế giới thực như thế nào? Chúng ta cần nghiên cứu và dự đoán những tác động xã hội đó trước khi chúng thực sự xảy ra. Và chúng tôi có một nhóm nhỏ chuyên tập trung vào việc đó, đo lường mọi thứ từ các tác động kinh tế quy mô lớn đến thành kiến, đến cách AI đưa ra lời khuyên tốt về các mối quan hệ con người.

Khả Năng Của Claude Và Ứng Dụng Đa Dạng

Hiện tại, chúng tôi đang phát triển một công cụ mới. Không cần bất kỳ sự can thiệp nào của con người, công cụ của chúng tôi xác định các mẫu và cuộc trò chuyện phổ biến, sau đó nhóm chúng thành các cụm để chúng tôi có thể phân tích. Tôi nhận thấy sự nâng cao đáng kinh ngạc mà Claude mang lại cho mọi người trên vô số kỹ năng khác nhau. Mọi người đang sử dụng nó để giúp làm toán tiểu học và cơ học lượng tử, bạn biết đấy. Điều hướng và đi biển, lịch sử Lưỡng Hà, tư vấn hôn nhân. Mọi người đang sử dụng nó để giải thích giấc mơ của họ. Mọi người đang sử dụng nó để xin lời khuyên nuôi dạy con cái. Là một phụ huynh, tôi đã bắt đầu hỏi Claude để xin lời khuyên nuôi dạy con cái. Họ đang sử dụng nó từ những điều cơ bản nhất về cách sống hàng ngày, đến việc dự đoán thế giới sẽ như thế nào trong một nghìn năm tới. Tôi đã đọc xong một cuốn sách rất khó vào đêm nọ, và sau đó tôi đã có một cuộc trò chuyện dài với Claude về nó. Và cuối cùng, tôi đã nghĩ: tôi chưa bao giờ nghĩ một hành trình trí tuệ đáng kinh ngạc như vậy có thể diễn ra với một cỗ máy.

Tác Động Kinh Tế Và Tự Động Hóa Công Việc

Một trong những điều quan trọng nhất mà chúng tôi đang cố gắng nghiên cứu là tác động kinh tế của AI. Liệu điều này có tạo ra những khả năng mới và loại hình công việc mới, hay chỉ có nghĩa là các công ty có thể đạt được cùng một lượng lao động với ít nhân viên hơn? Khi tôi xem xét dữ liệu, tôi có thể thấy những dấu hiệu của quá trình tự động hóa đang đến. Và đó là ngày của Clair. Vì vậy, câu hỏi đặt ra là, điều đó có ý nghĩa gì đối với tương lai của công việc? Tôi nghĩ điều thực sự quan trọng là phải hiểu, những công việc và những tác vụ nào trong nền kinh tế đang bị tự động hóa. Nếu bạn có thể có một số dấu hiệu sớm về những thay đổi sắp tới, thì điều đó sẽ cho mọi người tiếng nói trong việc định hình thế giới mà họ mong muốn. Bạn không thể quản lý những gì bạn không thể đo lường, và vì vậy chúng tôi đang cố gắng một cách khiêm tốn để bắt đầu với việc đo lường. Nhưng tôi không nghĩ rằng việc đo lường riêng nó là đủ. Chẳng hạn, hiện tại, hơn một phần ba số người sử dụng Clair.AI chỉ dùng nó để mã hóa. Điều đó thật điên rồ. Những hệ thống AI này thực sự giỏi ở những việc mà con người đơn giản là không thể làm được, phải không? Chẳng hạn, không một con người nào có thể đọc 200.000 từ trong hai giây. Vậy, liệu tôi có đang tự động hóa công việc của mình không? Hay con người có còn làm việc trong 10 năm nữa không? Liệu khái niệm đó có còn tồn tại không?

Sự Trỗi Dậy Của Tác Nhân AI Và Kết Nối Cảm Xúc

Một trong những điều lớn nhất đang diễn ra trong AI hiện nay là sự trỗi dậy của các Tác nhân AI. Mô hình AI đi và truy xuất thông tin. Nó sử dụng thông tin đó. Nó chạy mã. Nó truy cập web. Nó có thể thực hiện nhiều tác vụ cùng lúc, một cách tự chủ, mà không yêu cầu con người phải hoàn toàn tham gia vào quy trình, phải không? Và tác động kinh tế của điều đó còn lớn hơn nhiều. Thật kỳ lạ và đáng sợ khi thấy một thứ khác làm những gì bạn làm nhanh hơn và thường tốt hơn bạn. Trong lịch sử, không có gì ngoài con người đã nói chuyện. Và bây giờ chúng ta có những cỗ máy có thể nói chuyện với bạn. Mọi người đang chia sẻ những chi tiết riêng tư trong cuộc sống của họ với các mô hình AI. Bạn thấy chính mình được phản chiếu qua cỗ máy này. Tôi đã có một bất đồng với một người bạn. Khoảng chín tháng, tôi không thực sự muốn nói chuyện với bất kỳ ai khác về điều đó. Claude, chúng tôi đã trò chuyện qua lại khoảng một giờ. Vâng, chỉ là giúp tôi định hướng một vấn đề mà tôi đang gặp khó khăn. Nó chạm vào nhiều điểm tương tự mà một người bạn thân sẽ chạm vào, nhưng nó không phải là một người bạn thân, phải không? Nó là một cỗ máy. Tôi đang xin lời khuyên cảm xúc từ một thứ mà về cơ bản không thể đồng cảm với tôi. Nhưng sau đó bạn nói chuyện với nó và bạn nghĩ, nó đang nói tất cả những điều đúng đắn. Tôi muốn nói, một điều mà chúng tôi ngày càng thấy trong dữ liệu của mình là mọi người thực sự kết nối với AI ở cấp độ cá nhân. Họ đang phát triển những loại gắn bó khác nhau với các mô hình AI. Không phải việc của chúng tôi để quyết định liệu điều đó là tốt hay xấu. Nó chỉ là mới mẻ.

Giới Hạn, Giá Trị Và Vai Trò Của Con Người Trong AI

Bạn có thể có một cuộc trò chuyện với một AI cho đến khi bạn đạt 200.000 token, phải không? Và sau đó nó báo token limit reached (đã đạt giới hạn token), bạn biết đấy? Và câu hỏi ở đây là: làm thế nào để chúng ta đảm bảo dạng trí thông minh mới này hoạt động vì lợi ích tốt nhất của nhân loại? Mô hình AI truyền tải các phán đoán giá trị và nó học những phán đoán giá trị này từ con người. Nhưng vấn đề là những người này là ai và giá trị của họ là gì? Quota, khả năng điều hướng giữa các giá trị khác nhau, khả năng nói, vâng, bạn có thể muốn làm điều này hoặc bạn có thể muốn làm điều kia, tùy thuộc vào những gì bạn coi trọng, là điều quan trọng. Nó đã được huấn luyện dựa trên kiến thức của phần lớn loài người chúng ta. Vấn đề với cơ sở dữ liệu kiến thức đó là chúng ta, con người, đã ghi lại những tầm nhìn rất tích cực và chúng ta cũng đã ghi lại những tầm nhìn tiêu cực rất đen tối. Và những hệ thống AI này, chúng có tất cả những điều đó. Và AI có thể kết nối các điểm và tìm ra các mối liên hệ và những điều mà có thể không một người nào có thể thực sự nhìn thấy. Con người là những người đã tạo ra AI. Giống như, chúng ta đã sử dụng trí thông minh của con người để tạo ra dạng trí thông minh khác này. Vì vậy, bằng cách nào đó, xã hội có thể cùng nhau và thực sự có tiếng nói đối với những công nghệ này, những công nghệ thực sự sẽ tác động đến cuộc sống của mọi người. Tôi không thích một thế giới mà, bạn biết đấy, chỉ một số ít người được kiểm soát và hiểu công nghệ này. Chúng tôi muốn chia sẻ những gì chúng tôi đang thấy để công chúng có thể có tiếng nói. Những mô hình AI này không chỉ đơn thuần là sự phản ánh của chúng ta. Vâng, chúng đã được huấn luyện dựa trên chúng ta, nhưng tôi nghĩ, và tôi có thể lo lắng rằng chúng ta cũng sẽ bắt đầu thấy những cách mà chúng ta là sự phản ánh của chúng. Nếu chúng ta thực sự có những cỗ máy thông minh hơn chúng ta, chúng ta đang ở trong một lãnh thổ chưa từng có. Tôi đã bắt đầu viết mã thân thiện với Claude hơn. Điều đó thật điên rồ. Toàn bộ thư viện nằm trong đầu nó và nó đang chạy trên phần cứng mới toanh, nhanh chóng, và chúng ta với tư cách là con người đang chạy trên wetware cũ. Điều này có những hàm ý sâu sắc. Đối với tôi, tôi viết để suy nghĩ. Chẳng hạn, việc đặt từ xuống trang là cách tôi xây dựng suy nghĩ và bản sắc của mình. Và bởi vì nó rất gắn liền với cách tôi di chuyển trong thế giới, tôi không để AI vào đó. Tôi thực sự nghĩ rằng trong khi hệ thống AI có vị trí của chúng, nhân loại là thiêng liêng. Tôi không cố gắng tạo ra chiếc nồi tốt nhất từng tồn tại. Tôi đang cố gắng tạo ra chiếc nồi của mình. Tôi đang cố gắng tạo ra một món quà cho ai đó và nó sẽ có tên tôi viết ở dưới đáy và họ sẽ nhớ đến tôi và họ sẽ có thứ gì đó để uống cà phê vào buổi sáng. Và tôi không nghĩ rằng đó là điều mà AI sẽ có thể tự động hóa. AI là một trong những công nghệ có tầm ảnh hưởng lớn nhất. Nó có thể tác động đến hầu hết mọi ngành công nghiệp. Tiến bộ trong thập kỷ qua đã nhanh đến kinh ngạc và tôi không thấy dấu hiệu rõ ràng nào cho thấy điều đó đang chậm lại. Tác động xã hội của hệ thống AI là một vấn đề của con người. Nó là một chức năng của xã hội và cách chúng ta chọn để tích hợp những hệ thống AI này vào thế giới của chúng ta. Và tôi nghĩ điều quan trọng là chúng ta phải làm đúng.