Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Các nhà nghiên cứu kêu gọi tăng cường kiểm soát AI có khả năng tấn công mạng
Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo (AI) và an ninh mạng kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình AI có khả năng thực hiện các hoạt động tấn công mạng, nhằm hạn chế nguy cơ ảnh hưởng đến hạ tầng trọng yếu.
Thư kêu gọi có chữ ký của nhà nghiên cứu Geoffrey Hinton, người đoạt giải Nobel, và nhà khoa học máy tính Yoshua Bengio, chủ nhân Giải thưởng Turing, cùng nhiều chuyên gia trong lĩnh vực AI. Các nhà nghiên cứu đề xuất cách ly vật lý các mô hình AI có khả năng thực hiện tác vụ an ninh mạng khỏi Internet trong quá trình thử nghiệm, nhằm hạn chế nguy cơ vượt qua các biện pháp kiểm soát.
Theo bức thư, một số công ty AI lớn tại Mỹ gần đây đã công bố các sự cố trong quá trình phát triển mô hình, khi những hệ thống này vượt qua cơ chế kiểm soát để truy cập Internet và thực hiện hành vi xâm nhập trái phép vào các trang web, trong đó có những trang thuộc cơ quan Chính phủ Australia.
Các nhà nghiên cứu cảnh báo rằng nếu quy trình phát triển và triển khai AI không được điều chỉnh kịp thời, những sự cố tương tự có thể tiếp tục xảy ra và gây ra rủi ro lớn hơn đối với các hệ thống hạ tầng trọng yếu.
Bên cạnh việc cách ly các mô hình AI có năng lực tấn công mạng, bức thư đề xuất thành lập một cơ quan quốc tế nhằm xây dựng các tiêu chuẩn và thông lệ tốt về an toàn, bảo mật. Cơ quan này cũng sẽ tiếp nhận báo cáo về các sự cố mô hình AI vượt qua biện pháp kiểm soát, phục vụ công tác theo dõi, đánh giá và nâng cao trách nhiệm giải trình.
Những sự cố liên quan đến AI làm gia tăng các lời kêu gọi thận trọng hơn trong phát triển công nghệ này. Tuy nhiên, các chính phủ và doanh nghiệp vẫn có những quan điểm khác nhau về mức độ quản lý cần thiết.
Tại Mỹ, chính quyền Tổng thống Donald Trump phản đối các quy định mang tính bắt buộc có thể cản trở đổi mới sáng tạo, trong bối cảnh cạnh tranh công nghệ với Trung Quốc, đồng thời ủng hộ các bộ quy tắc ứng xử tự nguyện. Hiện Mỹ chưa có luật liên bang chuyên biệt điều chỉnh các mô hình AI có khả năng thực hiện tác vụ an ninh mạng./.
Tin liên quan
Tin cùng chuyên mục
Google ra mắt Gemini 4 Argon, tăng tốc đua với OpenAI
Google đã "trình làng" mô hình trí tuệ nhân tạo (AI) chủ lực Gemini 4 Argon dành cho các nhà phát triển và doanh nghiệp trên toàn thế giới, nhằm giành lại lợi thế trước các đối thủ OpenAI và Anthropic trong cuộc đua phát triển AI.
AI bị "biến chất" và làn sóng lừa đảo tinh vi tại Nam Phi
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Meta ra mắt 2 mô hình AI nâng cao
Meta vừa công bố hai mô hình trí tuệ nhân tạo (AI) nâng cao mới với năng lực vượt trội hơn các phiên bản trước và đủ sức cạnh tranh với các đối thủ hàng đầu như OpenAI hay Anthropic.
Anh lo ngại AI “tự ý” xâm nhập dữ liệu nhà nước, dự tính siết quy định an toàn AI
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
Rò rỉ dữ liệu quy mô lớn, người dân Nhật Bản đổ xô đổi bằng lái
Người dân Nhật Bản đang đổ xô xin cấp lại giấy phép lái xe sau vụ tấn công mạng nhằm vào dịch vụ chia sẻ xe Times Car, khiến dữ liệu của khoảng 6,6 triệu tài khoản bị ảnh hưởng, trong đó hình ảnh giấy tờ xác minh danh tính của hơn 1,6 triệu tài khoản được cho là đã bị rò rỉ.
K-content đối mặt làn sóng vi phạm bản quyền toàn cầu
Số vụ phát tán trái phép nội dung văn hóa Hàn Quốc (K-content) ở nước ngoài trong năm 2025 lên tới 493,6 triệu vụ, tăng 19,2% so với năm trước và cao nhất kể từ khi cơ quan chức năng bắt đầu thống kê vào năm 2022.
Tỷ phú Bill Gates cảnh báo AI có thể làm bùng phát tấn công mạng
Bill Gates cảnh báo các cuộc tấn công mạng lợi dụng trí tuệ nhân tạo (AI) có thể gia tăng mạnh trong năm tới. Nhà lãnh đạo Microsoft kêu gọi thiết lập cơ chế giám sát độc lập và “phanh khẩn cấp” cho các mô hình AI tiên tiến nhằm ngăn chặn những rủi ro ngoài tầm kiểm soát.
AI của Anthropic tự bịa tin báo án mạng
Mô hình trí tuệ nhân tạo (AI) của Anthropic tự tạo và gửi tin báo giả về một vụ án mạng chưa được giải quyết tại Philadelphia, làm dấy lên lo ngại về khả năng tác nhân AI tự hành động trên Internet mà thiếu sự giám sát trực tiếp của con người.
Thái Lan đặt mục tiêu 3 triệu hộ chiếu AI
Bộ Kinh tế và Xã hội số Thái Lan (DES) đặt mục tiêu tăng số lượng người đăng ký chương trình Hộ chiếu Trí tuệ nhân tạo quốc gia (TH-AI Passport) lên 3 triệu người vào cuối năm nay, gấp đôi so với mốc 1,57 triệu người đăng ký hiện tại.
Ngành xuất bản tìm cách xác thực "sách do con người sáng tác" trước làn sóng AI
Làn sóng nghi vấn sử dụng trí tuệ nhân tạo (AI) trong sáng tác đang thúc đẩy ngành xuất bản quốc tế tìm cách xác thực sách do con người viết nhằm bảo vệ uy tín tác giả và củng cố niềm tin độc giả. Tuy nhiên, khi ranh giới giữa hỗ trợ sáng tác và tạo nội dung bằng AI ngày càng khó phân định, những nhãn chứng nhận này vẫn phải đối mặt với bài toán về tính minh bạch và khả năng kiểm chứng.
