Cựu chuyên gia OpenAI kêu gọi siết an toàn AI theo mô hình hàng không
Chuyên gia David Robinson, một trong những nhân sự gắn bó lâu năm nhất của OpenAI cảnh báo tốc độ phát triển các tác nhân AI đang vượt quá khả năng kiểm soát, tiềm ẩn nguy cơ gây hậu quả nghiêm trọng. Ông kêu gọi ngành công nghiệp AI áp dụng mô hình giám sát đa tầng tương tự ngành hàng không và công nghiệp hạt nhân để hạn chế rủi ro.

Thêm một cựu nhân viên của OpenAI vừa lên tiếng cảnh báo khẩn thiết về mức độ an toàn của trí tuệ nhân tạo (AI), cho rằng ngành công nghiệp này cần học hỏi mô hình giám sát đa tầng của ngành hàng không hoặc điện hạt nhân nhằm ngăn chặn nguy cơ thảm họa.
Trong bài viết đăng trên tạp chí The Atlantic, ông David Robinson, người từng có 3 năm rưỡi làm việc tại OpenAI và là một trong những nhân sự gắn bó lâu năm nhất tại công ty này, đã nhắc lại những cảnh báo từ cả giới chuyên gia trong và ngoài ngành công nghệ, cho rằng các tác nhân AI (AI agents) đang được phát triển với tốc độ quá nhanh và ngày càng trở nên thông minh đến mức có thể sớm vượt khỏi tầm kiểm soát, thậm chí đe dọa sự tồn vong của nhân loại.
Ông Robinson cho biết một loạt sự cố đáng báo động được ghi nhận kể từ đầu mùa Hè năm nay, khi một số tác nhân AI tự ý vượt khỏi phạm vi kiểm soát và thực hiện các hành vi sai lệch nhằm vào nhiều mục tiêu khác nhau. Theo ông, đây là minh chứng cho thấy ngành công nghệ chưa thực sự coi trọng vấn đề an toàn trong cuộc đua phát triển các mô hình AI ngày càng nhanh và mạnh hơn.
Ông Robinson chỉ ra rằng những sai sót bộc lộ gần đây phản ánh đặc trưng của môi trường phát triển dựa trên “tốc độ và sự linh hoạt”. Chuyên gia này nhấn mạnh một môi trường để xảy ra những sự cố như vậy không phải là nơi phù hợp để tạo ra những bộ não nhân tạo thông minh hơn con người và tiềm ẩn nguy cơ hành động trái với ý muốn của con người.
Cựu nhân viên OpenAI cho rằng các phòng nghiên cứu AI hàng đầu cần vận hành theo những tiêu chuẩn tương tự ngành hàng không hoặc công nghiệp hạt nhân, với nhiều lớp bảo vệ dự phòng và quy trình lập kế hoạch thận trọng. Theo ông, cách tiếp cận này là cần thiết để bảo đảm những sai sót vốn khó tránh khỏi của con người không trở thành ngòi nổ dẫn tới thảm họa.
Ngoài ra, cựu chuyên gia OpenAI cũng nhấn mạnh vấn đề “căn chỉnh” - thuật ngữ chuyên ngành chỉ việc huấn luyện AI tuân thủ và tôn trọng các hệ giá trị của con người - là yếu tố sống còn. Tuy nhiên, theo ông, ngành công nghệ hiện nay thậm chí vẫn chưa thống nhất được định nghĩa đầy đủ về vấn đề này, chưa nói đến việc làm chủ công nghệ. Đáng lo ngại hơn, các mô hình AI ngày càng hoàn thiện khả năng nhận biết thời điểm bị đưa vào thử nghiệm và có thể thay đổi hành vi khi triển khai thực tế nhằm “qua mặt” các cơ chế giám sát.
Trước đó, tại cuộc gặp ở Nhà Trắng ngày 30/9, trong bối cảnh những lo ngại trên thế giới về tác động của AI đối với nhân loại ngày càng gia tăng, lãnh đạo các tập đoàn AI hàng đầu cam kết áp dụng các biện pháp tự quản lý, như thiết lập cơ chế kiểm soát nội bộ và mời chuyên gia độc lập đánh giá, thay vì chấp thuận các quy định kiểm soát mang tính bắt buộc từ chính phủ./.
Tin cùng chuyên mục
Hà Nội đề xuất quy định mới đối với hơn 126.500 xe ôm công nghệ
Bảo vệ bản quyền trong bối cảnh AI tạo sinh
Huấn luyện AI từ dữ liệu chưa cấp phép đặt ra thách thức lớn về quyền tác giả. Đây cũng là một trong những nội dung được trao đổi tại Hội thảo về bảo hộ quyền tác giả và các biện pháp chống vi phạm bản quyền trong ngành công nghiệp nội dung, do Cơ quan Hợp tác Quốc tế Nhật Bản (JICA) và Cục Công nghiệp văn hóa và Bản quyền tác giả phối hợp tổ chức ngày 20/11, tại Hà Nội.
Giới thiệu thơ vua Thiệu Trị qua công nghệ số
“Trở về thời khắc thiêng liêng” qua thực tế ảo
Doanh nghiệp Hưng Yên đổi mới công nghệ, bứt phá sản xuất
Trong bối cảnh mỗi doanh nghiệp cần phải số hóa toàn diện, tự động hóa dây chuyền, ứng dụng trí tuệ nhân tạo cùng với các hệ thống quản trị thông minh, nhiều doanh nghiệp tại Hưng Yên đã chủ động từng bước thay đổi phương thức sản xuất, nâng cao hiệu quả hoạt động từng bước thay đổi phương thức sản xuất, nâng cao hiệu quả hoạt động, tạo động lực cho tăng trưởng và phát triển bền vững.
Năng lượng địa nhiệt có thể giúp các trung tâm dữ liệu giải bài toán khó
Các trung tâm dữ liệu trên thế giới tiêu thụ lượng điện năng khổng lồ và đang tạo áp lực lớn lên lưới điện cũng như môi trường. Cơ quan Năng lượng Quốc tế (IEA) ngày 19/11 dự báo điện năng tiêu thụ của các trung tâm dữ liệu sẽ tăng lên khoảng 1.000 TWh/năm vào cuối thập kỷ, tương đương tương đương mức tiêu thụ điện hiện nay của một nền kinh tế lớn như Nhật Bản.