“Thời gian không còn nhiều”: Thư ngỏ mới kêu gọi cấm phát triển AI siêu thông minh

(SeaPRwire) –   Một bức thư ngỏ kêu gọi cấm phát triển AI siêu thông minh đã được công bố vào thứ Tư, với chữ ký của hơn 700 người nổi tiếng, nhà khoa học AI, lãnh đạo tôn giáo và các nhà hoạch định chính sách.

Trong số những người ký tên có năm người đoạt giải Nobel; hai người được gọi là “Cha đỡ đầu của AI”; Steve Wozniak, đồng sáng lập của Apple; Steve Bannon, một đồng minh thân cận của Tổng thống Trump; Paolo Benanti, cố vấn của Giáo hoàng; và thậm chí cả Harry và Meghan, Công tước và Nữ công tước xứ Sussex.

Bức thư ngỏ viết đầy đủ như sau:

“Chúng tôi kêu gọi cấm phát triển siêu trí tuệ, lệnh cấm này sẽ không được dỡ bỏ cho đến khi có

1. sự đồng thuận khoa học rộng rãi rằng nó sẽ được thực hiện một cách an toàn và có thể kiểm soát được, và
2. sự ủng hộ mạnh mẽ từ công chúng.”

Bức thư được điều phối và xuất bản bởi Future of Life Institute, một tổ chức phi lợi nhuận đã từng công bố một bức thư khác vào năm 2023 kêu gọi tạm dừng sáu tháng việc phát triển các hệ thống AI mạnh mẽ. Mặc dù được lưu hành rộng rãi, bức thư đó đã không đạt được mục tiêu của mình.

Các nhà tổ chức cho biết họ quyết định phát động một chiến dịch mới, tập trung cụ thể hơn vào siêu trí tuệ, vì họ tin rằng công nghệ này—được họ định nghĩa là một hệ thống có thể vượt qua hiệu suất của con người trong tất cả các nhiệm vụ hữu ích—có thể xuất hiện chỉ trong một đến hai năm tới. “Thời gian đang cạn kiệt,” Anthony Aguirre, giám đốc điều hành của FLI, nói trong một cuộc phỏng vấn với TIME. Ông cho rằng điều duy nhất có khả năng ngăn cản các công ty AI lao dốc về phía siêu trí tuệ, “là việc xã hội ở mọi cấp độ nhận ra rộng rãi rằng đây không thực sự là điều chúng ta muốn.”

được công bố cùng với bức thư cho thấy 64% người Mỹ tin rằng siêu trí tuệ “không nên được phát triển cho đến khi nó được chứng minh là an toàn và có thể kiểm soát được,” và chỉ 5% tin rằng nó nên được phát triển càng nhanh càng tốt. Aguirre nói: “Chỉ một số ít các công ty rất giàu có đang xây dựng những thứ này, và một số lượng rất, rất lớn người dân muốn đi theo một con đường khác.”

Các diễn viên Joseph Gordon-Levitt và Stephen Fry, rapper will.i.am, và tác giả Yuval Noah Harari cũng đã ký tên vào bức thư. Susan Rice, cố vấn an ninh quốc gia trong Chính quyền Barack Obama, đã ký. Một thành viên nhân viên đang làm việc tại OpenAI—một tổ chức được CEO của nó, Sam Altman, gọi là “công ty nghiên cứu siêu trí tuệ”—Leo Gao, một thành viên của đội ngũ kỹ thuật tại công ty, cũng đã ký. Aguirre hy vọng nhiều người hơn sẽ ký khi chiến dịch diễn ra. Ông nói: “Niềm tin đã có sẵn. Điều chúng ta không có là mọi người cảm thấy tự do nói lên niềm tin của mình một cách công khai.”

“Tương lai của AI nên phục vụ nhân loại, chứ không phải thay thế nhân loại,” Hoàng tử Harry, Công tước xứ Sussex, nói trong một thông điệp đi kèm chữ ký của mình. “Tôi tin rằng thử nghiệm thực sự của sự tiến bộ sẽ không phải là chúng ta di chuyển nhanh đến mức nào, mà là chúng ta điều hướng khôn ngoan ra sao. Không có cơ hội thứ hai.”

Chữ ký của Joseph Gordon-Levitt đi kèm với thông điệp: “Vâng, chúng ta muốn các công cụ AI cụ thể có thể giúp chữa bệnh, tăng cường an ninh quốc gia, v.v. Nhưng liệu AI có cần phải bắt chước con người, dẫn dắt con cái chúng ta, biến tất cả chúng ta thành những kẻ nghiện đồ rác và kiếm hàng tỷ đô la từ việc phân phát quảng cáo không? Hầu hết mọi người không muốn điều đó. Nhưng đó là những gì các công ty công nghệ lớn này muốn nói khi họ nói về việc xây dựng ‘Siêu trí tuệ’.”

Tuyên bố được giữ ở mức tối thiểu để thu hút một nhóm rộng rãi và đa dạng các nhà ký tên. Nhưng để có sự thay đổi có ý nghĩa, Aguirre cho rằng cần có quy định. Ông nói: “Rất nhiều tác hại đến từ các cấu trúc khuyến khích lệch lạc mà các công ty đang phải tuân theo vào thời điểm hiện tại,” lưu ý rằng các công ty ở Mỹ và Trung Quốc đang cạnh tranh để trở thành người đầu tiên tạo ra siêu trí tuệ. 

Aguirre nói: “Dù sớm hay muộn, sau khi chúng ta phát triển siêu trí tuệ, máy móc sẽ nắm quyền kiểm soát.” “Liệu điều đó có tốt cho nhân loại hay không, chúng ta thực sự không biết. Nhưng đó không phải là một thử nghiệm mà chúng ta muốn cứ thế chạy theo.”