Kay Firth-Butterfield Về Việc Sử Dụng AI Một Cách Có Trách Nhiệm

(SeaPRwire) –   Bà Kay Firth-Butterfield đã làm việc về giao điểm giữa trách nhiệm và AI trong hơn một thập kỷ và cô rất phấn khởi về tương lai. “Tôi không phải là người bi quan về AI. Tôi tin rằng nếu chúng ta làm đúng, nó có thể mở ra rất nhiều cánh cửa có lợi,” bà nói. Nhưng bà vẫn cẩn thận. Sau khi bác sĩ chẩn đoán bà bị ung thư vú vào năm ngoái, bà đã biết ơn khi họ không quá lệ thuộc vào AI, mặc dù nó ngày càng được sử dụng để đánh giá x quang vú và MRI, và thậm chí trong lập kế hoạch điều trị. Trong khi Firth-Butterfield, người hiện đã khỏi bệnh, lo ngại ít hơn về việc máy đọc x quang của bà, bà lưu ý sự lệ thuộc quá mức vào các mô hình AI hiện tại có thể gây ra vấn đề vì đôi khi chúng cung cấp thông tin sai lầm.

Một cựu thẩm phán và giáo sư, Firth-Butterfield đã nổi lên là một trong những chuyên gia hàng đầu thế giới về AI có trách nhiệm, định hình nỗ lực để đảm bảo các hệ thống này vẫn có tính minh bạch và có trách nhiệm giải trình. Vào tháng 4 năm ngoái, bà kết thúc nhiệm kỳ 5 năm rưỡi làm Giám đốc AI và Học máy tại Diễn đàn Kinh tế Thế giới, nơi bà xây dựng các khuôn khổ và sách hướng dẫn cho các công ty, quốc gia và tổ chức khác để dẫn dắt sự phát triển và sử dụng AI có trách nhiệm. Công việc tư vấn của bà cho Anh và Brazil về việc tạo ra các hệ thống AI như vậy đã được đưa vào luật. “Nếu bạn là chính phủ và sử dụng trí tuệ nhân tạo với công dân của mình, thì bạn phải có thể giải thích cho công dân của mình cách nó được sử dụng,” bà nói.

Hiện nay, bà cũng điều hành Good Tech Advisory— với các tổ chức, chính phủ, tổ chức phi chính phủ và truyền thông để triển khai AI có trách nhiệm. Điều đó có nghĩa là giúp thiết lập hướng dẫn cho việc sử dụng công nghệ dựa trên AI để giảm thiểu rủi ro tiềm ẩn, đồng thời tối đa hóa lợi ích và đảm bảo tuân thủ pháp luật.

Là Giám đốc điều hành của Good Tech Advisory, Firth-Butterfield đã giúp các bệnh viện ở Mỹ vượt qua những tiềm năng sử dụng AI, bao gồm đọc hình ảnh y tế và xác định chẩn đoán. Nhiều bệnh viện không có hướng dẫn rõ ràng về cách nhân viên có thể sử dụng các chương trình như ChatGPT, ngay cả khi Firth-Butterfield chỉ ra rằng những công cụ này thường cung cấp thông tin không chính xác. “Những công ty đó đang vật lộn với một số lựa chọn AI có trách nhiệm thực sự nghiêm trọng,” bà nói. Bác sĩ sử dụng AI để hiệu quả ghi chú và xử lý công việc hành chính có thể dành nhiều thời gian hơn cho chăm sóc bệnh nhân. Nhưng dựa vào AI để đưa ra chẩn đoán trong tình huống áp lực cao có thể nguy hiểm. Và nếu bệnh nhân trở nên ốm yếu hơn hoặc chết, vấn đề trách nhiệm sẽ là vấn đề.

Khi AI không được sử dụng có trách nhiệm, con người có thể bị thương – và điều đó ảnh hưởng đến phụ nữ và người da màu nhiều hơn, Firth-Butterfield lưu ý. Các thuật toán có định kiến có thể ngăn cản một người lao động được tuyển dụng, từ chối không chính đáng đơn xin vay thế chấp hoặc đưa ra quyết định sai lầm về mối đe dọa an ninh dựa trên nhận dạng khuôn mặt, ví dụ.

Ở trung tâm của việc vận động của Firth-Butterfield là hiểu cách AI ảnh hưởng đến những thành viên dễ bị tổn thương nhất của xã hội. Tại WEF, bà đã làm việc với việc sử dụng AI với trẻ em, và tổ chức một Giải thưởng Đồ chơi thông minh kêu gọi triển khai có trách nhiệm. “Chúng ta đang cho phép trẻ em chơi với đồ chơi được kích hoạt bằng trí tuệ nhân tạo nhưng chúng ta không hiểu rõ những gì trẻ em đang học…hoặc dữ liệu của chúng đang đi đâu,” bà nói.

Cấm AI được sử dụng trong đồ chơi hoặc lớp học như một cách để bảo vệ trẻ em khỏi các rủi ro tiềm ẩn của nó không phải là câu trả lời, theo Firth-Butterfield. “Chúng ta cần trẻ em sử dụng AI trong giáo dục bởi vì chúng sẽ sử dụng nó trong công việc của chúng. Do đó, chúng ta phải tìm ra cách triển khai có trách nhiệm cho sự tương tác giữa máy và con người,” bà nói. Nhưng giáo viên cần giữ vai trò điều khiển. “Chúng ta không thể đơn giản giao giáo dục cho AI; chúng ta cần giữ con người trong vòng luận,” bà nói. Giáo viên có thể dựa vào AI cho công việc hành chính phía sau, giải phóng thời gian để tập trung nhiều hơn vào việc giúp đỡ học sinh của họ.

Rất quan trọng phải theo dõi kỹ cách các hệ thống được xây dựng, nhưng Firth-Butterfield cũng quan tâm đến ai được tham gia. Trong khi hơn 100 triệu người sử dụng ChatGPT, gần 3 tỷ người vẫn thiếu khả năng truy cập internet. “Chúng ta đang tăng khoảng cách kỹ thuật số một cách đáng kể – không chỉ giữa Bắc bán cầu và Nam bán cầu mà còn trong các quốc gia,” bà nói. Mặc dù AI có tiềm năng cách mạng hóa giảng dạy trong trường học và điều trị bệnh nhân y tế, phần lớn thế giới có thể không cảm nhận được tác động của nó. “Chúng ta thường ngồi trong tháp ngà voi của mình nói về cách AI sẽ làm mọi thứ tuyệt vời và chúng ta quên rằng phần lớn thế giới không tham gia cuộc cách mạng internet,” bà nói.

Tương lai của chúng ta đang bị đe dọa trong những quyết định về cách mà con người sử dụng và dựa vào AI, bà nói: “Đó là về việc liệu chúng ta là con người có xây dựng xã hội mà chúng ta mong muốn hay không.”

Hồ sơ này được xuất bản như một phần của sáng kiến TIME100 Impact Awards của TIME, nhận ra những nhà lãnh đạo từ khắp nơi trên thế giới đang thúc đẩy sự thay đổi trong cộng đồng và ngành công nghiệp của họ. Lễ trao giải TIME100 Impact Awards tiếp theo sẽ được tổ chức vào ngày 11 tháng 2 tại Dubai.