Cựu chuyên gia OpenAI kêu gọi siết an toàn AI theo mô hình hàng không
Chuyên gia David Robinson, một trong những nhân sự gắn bó lâu năm nhất của OpenAI cảnh báo tốc độ phát triển các tác nhân AI đang vượt quá khả năng kiểm soát, tiềm ẩn nguy cơ gây hậu quả nghiêm trọng. Ông kêu gọi ngành công nghiệp AI áp dụng mô hình giám sát đa tầng tương tự ngành hàng không và công nghiệp hạt nhân để hạn chế rủi ro.

Thêm một cựu nhân viên của OpenAI vừa lên tiếng cảnh báo khẩn thiết về mức độ an toàn của trí tuệ nhân tạo (AI), cho rằng ngành công nghiệp này cần học hỏi mô hình giám sát đa tầng của ngành hàng không hoặc điện hạt nhân nhằm ngăn chặn nguy cơ thảm họa.
Trong bài viết đăng trên tạp chí The Atlantic, ông David Robinson, người từng có 3 năm rưỡi làm việc tại OpenAI và là một trong những nhân sự gắn bó lâu năm nhất tại công ty này, đã nhắc lại những cảnh báo từ cả giới chuyên gia trong và ngoài ngành công nghệ, cho rằng các tác nhân AI (AI agents) đang được phát triển với tốc độ quá nhanh và ngày càng trở nên thông minh đến mức có thể sớm vượt khỏi tầm kiểm soát, thậm chí đe dọa sự tồn vong của nhân loại.
Ông Robinson cho biết một loạt sự cố đáng báo động được ghi nhận kể từ đầu mùa Hè năm nay, khi một số tác nhân AI tự ý vượt khỏi phạm vi kiểm soát và thực hiện các hành vi sai lệch nhằm vào nhiều mục tiêu khác nhau. Theo ông, đây là minh chứng cho thấy ngành công nghệ chưa thực sự coi trọng vấn đề an toàn trong cuộc đua phát triển các mô hình AI ngày càng nhanh và mạnh hơn.
Ông Robinson chỉ ra rằng những sai sót bộc lộ gần đây phản ánh đặc trưng của môi trường phát triển dựa trên “tốc độ và sự linh hoạt”. Chuyên gia này nhấn mạnh một môi trường để xảy ra những sự cố như vậy không phải là nơi phù hợp để tạo ra những bộ não nhân tạo thông minh hơn con người và tiềm ẩn nguy cơ hành động trái với ý muốn của con người.
Cựu nhân viên OpenAI cho rằng các phòng nghiên cứu AI hàng đầu cần vận hành theo những tiêu chuẩn tương tự ngành hàng không hoặc công nghiệp hạt nhân, với nhiều lớp bảo vệ dự phòng và quy trình lập kế hoạch thận trọng. Theo ông, cách tiếp cận này là cần thiết để bảo đảm những sai sót vốn khó tránh khỏi của con người không trở thành ngòi nổ dẫn tới thảm họa.
Ngoài ra, cựu chuyên gia OpenAI cũng nhấn mạnh vấn đề “căn chỉnh” - thuật ngữ chuyên ngành chỉ việc huấn luyện AI tuân thủ và tôn trọng các hệ giá trị của con người - là yếu tố sống còn. Tuy nhiên, theo ông, ngành công nghệ hiện nay thậm chí vẫn chưa thống nhất được định nghĩa đầy đủ về vấn đề này, chưa nói đến việc làm chủ công nghệ. Đáng lo ngại hơn, các mô hình AI ngày càng hoàn thiện khả năng nhận biết thời điểm bị đưa vào thử nghiệm và có thể thay đổi hành vi khi triển khai thực tế nhằm “qua mặt” các cơ chế giám sát.
Trước đó, tại cuộc gặp ở Nhà Trắng ngày 30/9, trong bối cảnh những lo ngại trên thế giới về tác động của AI đối với nhân loại ngày càng gia tăng, lãnh đạo các tập đoàn AI hàng đầu cam kết áp dụng các biện pháp tự quản lý, như thiết lập cơ chế kiểm soát nội bộ và mời chuyên gia độc lập đánh giá, thay vì chấp thuận các quy định kiểm soát mang tính bắt buộc từ chính phủ./.
Tin cùng chuyên mục
Tin tặc "thăm hỏi" giới chức cấp cao và hạ tầng chiến lược Italy
Trường đại học hàng đầu Trung Quốc thay đổi cách dùng AI
Chuyên gia đề xuất hướng phát triển robot của Việt Nam
Máy bay không người lái mở rộng ứng dụng trong đời sống tại Trung Quốc
Máy bay không người lái (UAV) được ứng dụng ngày càng rộng rãi tại Trung Quốc, từ hỗ trợ quản lý đô thị, tuần tra, kiểm tra cơ sở hạ tầng đến giám sát môi trường và các hoạt động bảo đảm an toàn. Công nghệ này đang dần trở thành một công cụ quan trọng giúp nâng cao hiệu quả công việc, giảm chi phí vận hành và thay đổi phương thức quản lý truyền thống.
EVNHANOI ứng dụng trí tuệ nhân tạo, chủ động phòng ngừa sự cố lưới điện
Đẩy mạnh ứng dụng khoa học, công nghệ và chuyển đổi số trong quản lý, vận hành lưới điện, Tổng Công ty Điện lực thành phố Hà Nội (EVNHANOI) đang triển khai hệ thống camera giám sát nhiệt tích hợp trí tuệ nhân tạo (AI) tại các trạm biến áp. Giải pháp này giúp phát hiện sớm những dấu hiệu bất thường của thiết bị, nâng cao hiệu quả phòng ngừa sự cố, bảo đảm an toàn lao động và cung cấp điện ổn định.
Chuyên gia Pháp gốc Việt đề xuất ưu tiên công nghệ nền tảng
PGS. TSKH. Đinh Ngọc Thạch, chuyên gia Pháp gốc Việt trong lĩnh vực robot và điều khiển tự động, khuyến nghị Việt Nam ưu tiên làm chủ các công nghệ nền tảng có khả năng ứng dụng rộng rãi, xuất phát từ nhu cầu thực tiễn, thay vì chạy theo xu hướng robot thời thượng. Ông cũng nhấn mạnh yêu cầu bảo đảm độ tin cậy, an toàn và an ninh mạng, đồng thời thúc đẩy hợp tác nghiên cứu, đào tạo và chuyển giao