Cựu Giám đốc Khoa học của OpenAI Công bố Công ty Mới Tập Trung Vào An Toàn

(SeaPRwire) –   Ilya Sutskever, đồng sáng lập và cựu giám đốc khoa học của OpenAI, đã thông báo vào thứ Tư rằng ông đang thành lập một công ty mới có tên là Safe Superintelligence Inc. Sutskever đã chia sẻ trên X rằng phòng thí nghiệm mới sẽ chỉ tập trung vào việc xây dựng một “siêu trí tuệ” an toàn – một thuật ngữ trong ngành để chỉ một hệ thống giả thuyết thông minh hơn con người.

Sutskever được đồng sáng lập Safe Superintelligence Inc. cùng với Daniel Gross, một nhà đầu tư và kỹ sư từng làm việc trong lĩnh vực AI tại Apple cho đến năm 2017, và Daniel Levy, một cựu nhân viên khác của OpenAI. Công ty có trụ sở tại Mỹ này sẽ có văn phòng tại Palo Alto, Calif., và Tel Aviv, theo mô tả được Sutskever chia sẻ.

Sutskever là một trong những thành viên sáng lập của OpenAI, và từng là giám đốc khoa học trong thời kỳ tăng trưởng chóng mặt của công ty sau khi phát hành ChatGPT. Vào tháng 11, Sutskever đã tham gia vào cuộc để CEO của OpenAI, Sam Altman, chỉ để sau đó và ủng hộ Altman trở lại. Khi Sutskever từ chức vào tháng 5, ông cho biết ông “tin tưởng rằng OpenAI sẽ xây dựng AGI an toàn và có lợi” dưới sự lãnh đạo của Altman. 

Safe Superintelligence Inc. cho biết họ chỉ muốn phát hành một sản phẩm: hệ thống mang tên của họ. Mô hình này sẽ giúp công ty tránh được áp lực thương mại, các nhà sáng lập đã viết. Tuy nhiên, hiện tại vẫn chưa rõ ai sẽ tài trợ cho quá trình phát triển của công ty mới này hoặc mô hình kinh doanh của họ cuối cùng sẽ là gì.

“Tập trung duy nhất của chúng tôi có nghĩa là không bị phân tâm bởi chi phí quản lý hoặc chu kỳ sản phẩm,” thông báo viết, có thể nhắm đến OpenAI một cách tinh tế. Vào tháng 5, một thành viên cấp cao khác của OpenAI, Jan Leike, người cùng dẫn đầu đội ngũ an toàn với Sutskever, đã báo cáo rằng công ty ưu tiên “các sản phẩm hấp dẫn” hơn là an toàn. Những cáo buộc của Leike xuất hiện vào thời điểm khi một số nhân viên khác quan tâm đến an toàn đã rời khỏi công ty. Altman và Chủ tịch của OpenAI, Greg Brockman, đã phản hồi lại những cáo buộc của Leike bằng cách thừa nhận rằng còn nhiều việc cần làm, và nói rằng “chúng tôi rất coi trọng vai trò của mình ở đây và cân nhắc kỹ lưỡng phản hồi đối với hành động của mình.”

Trong một cuộc phỏng vấn với , Sutskever đã nói rõ hơn về cách tiếp cận của Safe Superintelligence Inc., nói rằng, “Khi nói đến an toàn, chúng tôi có nghĩa là an toàn như an toàn hạt nhân chứ không phải an toàn như trong “tin tưởng và an toàn”; một trong những nguyên tắc an toàn cốt lõi của là “là người tiên phong trong tin tưởng và an toàn”.

Mặc dù nhiều chi tiết về công ty mới vẫn chưa được tiết lộ, các nhà sáng lập có một thông điệp cho những người trong ngành cảm thấy hấp dẫn: Họ đang tuyển dụng.