Kế hoạch của OpenAI nhằm làm cho AI “Dân chủ” hơn

(SeaPRwire) –   Vào một buổi chiều đầu tháng 5 năm 2023, Colin Megill ngồi xuống một chiếc ghế trong không gian họp đầy cây xanh tại trụ sở chính của OpenAI ở San Francisco.

Xung quanh anh là bảy nhân viên từ phòng thí nghiệm trí tuệ nhân tạo hàng đầu thế giới, nơi đã ra mắt ChatGPT vài tháng trước. Một trong số họ là Wojciech Zaremba, đồng sáng lập OpenAI. Anh ấy muốn Megill giúp đỡ.

Hơn một thập kỷ qua, Megill đã làm việc trong sự tương đối mơ hồ với tư cách là đồng sáng lập Polis, một nền tảng công nghệ nguồn mở phi lợi nhuận để thực hiện các cuộc thảo luận công khai. Theo quan điểm của Megill, nền dân chủ hầu như không tiến triển trong hàng trăm năm, ngay cả khi thế giới xung quanh đã thay đổi không thể nhận ra. Mỗi cử tri đều có vô số niềm tin mà họ phải chắt lọc thành một tín hiệu duy nhất: một phiếu bầu, cứ sau vài năm. Sự khác biệt của mỗi cá nhân bị mất đi và bóp méo, kết quả là các hệ thống dân chủ thường không phản ánh được ý nguyện của người dân và có xu hướng phân cực.

Polis, ra mắt vào năm 2012, là giải pháp của Megill. Hệ thống hoạt động bằng cách cho phép người dùng trình bày quan điểm của họ trong các tuyên bố ngắn và cho phép họ bỏ phiếu cho người khác. Bằng cách sử dụng máy học, hệ thống có thể tạo ra các bản đồ chi tiết về giá trị của người dùng, xác định rõ ràng các nhóm người có chung niềm tin. Nhưng sự đổi mới thực sự lại đơn giản hơn: với dữ liệu này, Polis có thể đưa ra các tuyên bố mà ngay cả những nhóm thường không đồng ý cũng có thể đồng ý. Nói cách khác, nó cắt ngang sự phân cực và mở ra một con đường tiến lên. Chính phủ Đài Loan đã thấy đủ triển vọng ở Polis để, và Twitter đã sử dụng để cung cấp năng lượng cho tính năng kiểm tra thông tin sự kiện Cộng đồng Ghi chú. Bây giờ đến lượt OpenAI gõ cửa mời.

Các nhóm các nhà khoa học máy tính tại OpenAI đang cố gắng giải quyết vấn đề kỹ thuật về cách liên kết AI của họ với các giá trị của con người. Nhưng đội ngũ tập trung vào chiến lược và chính sách bên trong công ty cũng đang vật lộn với những hệ quả phức tạp: AI sẽ phản ánh giá trị của ai chính xác? Và ai sẽ được quyết định?

Những người lãnh đạo của OpenAI không muốn đưa ra những quyết định đó một cách đơn phương. Họ đã chứng kiến vũng lầy chính trị mà các công ty truyền thông xã hội mắc kẹt vào những năm 2010, khi một nhóm nhỏ các tỷ phú ở Thung lũng Silicon đặt ra các quy tắc cho các cuộc thảo luận công khai cho hàng tỷ người. Nhưng họ cũng lo lắng về việc trao quyền kiểm soát AI của mình cho chính phủ hoặc các cơ quan quản lý đơn phương. Thay vào đó, phòng thí nghiệm AI đang tìm kiếm một con đường thứ ba: đi thẳng tới người dân. Công trình của Megill là điều gần nhất mà họ tìm thấy giống như một bản thiết kế.

Zaremba có một đề xuất hấp dẫn cho Megill. Cả hai người đều biết rằng công nghệ của Polis rất hiệu quả nhưng tốn nhiều công sức; nó yêu cầu con người tạo điều kiện cho các cuộc thảo luận diễn ra trên nền tảng và phân tích dữ liệu sau đó. Megill nghi ngờ rằng tính phức tạp, chậm chạp và tốn kém là những yếu tố hạn chế việc áp dụng của nó trong các nền dân chủ trên toàn thế giới. Zaremba nói với anh rằng các mô hình ngôn ngữ lớn (LLM) – nền tảng của các công cụ như ChatGPT – có thể giúp khắc phục những hạn chế đó. Chatbot dường như đặc biệt phù hợp với nhiệm vụ thảo luận các chủ đề phức tạp với mọi người, đặt câu hỏi tiếp theo và xác định các lĩnh vực có sự đồng thuận.

Mười một ngày sau cuộc họp của họ, Zaremba đã gửi cho Megill video về một nguyên mẫu đang hoạt động. Megill hào hứng nghĩ rằng “Đó là phim khoa học viễn tưởng”. Sau đó, anh ấy đã chấp nhận lời mời của Zaremba để tư vấn cho OpenAI về một trong những dự án quản trị AI đầy tham vọng nhất của họ cho đến nay. Công ty muốn tìm hiểu xem liệu các công nghệ mang tính chất thảo luận, như Polis, có thể cung cấp một con đường hướng tới sự liên kết AI mà phần lớn công chúng có thể đồng ý hay không. Đổi lại, Megill có thể biết được liệu LLM có phải là mảnh ghép còn thiếu mà anh ấy đang tìm kiếm để giúp Polis cuối cùng cũng khắc phục được những sai sót mà anh ấy nhận thấy trong nền dân chủ hay không.

Vào ngày 25 tháng 5, OpenAI trên blog của mình rằng họ đang tìm kiếm các ứng dụng cho chương trình có tên là “Đóng góp dân chủ cho AI” trị giá 1 triệu đô la. Mười nhóm sẽ mỗi nhóm nhận được 100.000 đô la để phát triển “bằng chứng về khái niệm cho một quy trình dân chủ có thể trả lời các câu hỏi về các quy tắc mà các hệ thống AI nên tuân theo”. Hiện tại, không có cơ chế nào để đo lường chính xác nhiệt độ của công chúng toàn cầu về bất kỳ điều gì, chưa kể đến vấn đề phức tạp như hành vi của các hệ thống AI. OpenAI đang cố gắng tìm cách. Người đứng đầu phụ trách công việc toàn cầu của OpenAI, Anna Makanju, nói với TIME vào tháng 11: “Chúng tôi thực sự đang cố gắng suy nghĩ về điều này: cơ chế nào thực sự khả thi nhất để số lượng lớn nhất những người có tiếng nói trong cách các hệ thống này hoạt động?”. “Bởi vì thậm chí ngay cả các quy định cũng sẽ không thực hiện được điều đó”.

Megill sẽ tham gia một ủy ban gồm ba chuyên gia không được trả lương, những người sẽ tư vấn cho OpenAI về việc tài trợ cho các ứng dụng nào. (Công ty viết rằng những phát hiện từ các thí nghiệm sẽ không có tính ràng buộc, “ít nhất là hiện tại”.) Là một ví dụ về loại dự án nghiên cứu mà họ đang tìm kiếm, OpenAI đã công bố một bản mô phỏng của một phiên bản nâng cấp của Polis, nơi ChatGPT sẽ tạo điều kiện cho một cuộc thảo luận ở quy mô lớn, thu thập quan điểm của mọi người và xác định các lĩnh vực có sự đồng thuận. Giám đốc điều hành của công ty, Sam Altman, rõ ràng rất hứng thú với tiềm năng của ý tưởng này. Anh ấy nói với TIME vào tháng 11 rằng: “Chúng tôi có khả năng mới để tiến hành dân chủ trực tiếp trên quy mô lớn mà chúng tôi chưa từng có trước đây”. “AI chỉ có thể trò chuyện với mọi người và có được sở thích thực sự của họ”.

Nhưng trước khi OpenAI có thể công bố kết quả của chương trình tài trợ này, công ty đã rơi vào tình trạng hỗn loạn. Hội đồng quản trị của tổ chức phi lợi nhuận quản lý OpenAI đã sa thải Altman, cáo buộc anh ta đã không trung thực với họ. Sau năm ngày hỗn loạn, Altman trở lại nắm quyền với hầu hết các thành viên hội đồng quản trị mới. Đột nhiên, các câu hỏi về quản trị AI mà những người nhận được khoản tài trợ 100.000 đô la của OpenAI đang cố gắng trả lời không còn có vẻ lý thuyết nữa. Kiểm soát AI tiên tiến hiện rõ ràng là vấn đề về quyền lực chính trị và kinh tế cứng rắn—quyền lực mà OpenAI và nhà bảo trợ của họ là Microsoft dường như không có khả năng từ bỏ nhiều, nếu có thể. Một cuộc cạnh tranh khốc liệt đang diễn ra giữa Microsoft, Google, Meta và Amazon để giành vị trí thống trị trong lĩnh vực AI. Các công ty công nghệ đã bắt đầu cạnh tranh để xây dựng “trí tuệ tổng quát nhân tạo”, một hệ thống giả thuyết có thể phù hợp hoặc thậm chí vượt qua khả năng của con người, từ đó mang lại hàng nghìn tỷ đô la trong quá trình này. Trong bối cảnh này, OpenAI có thực sự nghiêm túc để công chúng quyết định các quy tắc chi phối các hệ thống mạnh mẽ nhất của mình không? Và với quá nhiều điều đang bị đe dọa, liệu có thực sự có thể dân chủ hóa AI hay không? 

Trong một khán phòng tại trụ sở chính của OpenAI ở San Francisco vào tháng 9, đại diện của 10 nhóm giành được tài trợ đã tập hợp để trình bày công trình của họ. Hai cây cọ lớn trong nhà nằm hai bên sân khấu và một hàng cây leo phủ trên màn chiếu. Một ánh sáng vàng ấm áp tràn ngập căn phòng. Tyna Eloundou, một nhà nghiên cứu tại OpenAI, bước lên bục để chào đón những vị khách có mặt. Cô ấy nói rằng: “Trong điều lệ của mình, chúng tôi cam kết rõ ràng sẽ xây dựng AI mang lại