Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Nhà nghiên cứu trí tuệ nhân tạo (AI) 27 tuổi Jacob Coxon, từng làm việc tại OpenAI và Anthropic, đã quyết định rời ngành sau 3 năm, cảnh báo cuộc đua phát triển các hệ thống AI ngày càng mạnh đang diễn ra quá nhanh và tiềm ẩn những rủi ro mà con người chưa thể kiểm soát.
 Jacob Coxon, từng làm việc tại OpenAI và Anthropic. (ft.com).jpeg "Nhà nghiên cứu AI Jacob Coxon. (Nguồn: ft.com)")
Trong bài đăng trên mạng xã hội X ngày 8/9, Coxon cho biết anh rời ngành vì cho rằng ngay cả những công ty AI hàng đầu của Mỹ cũng chưa hành động đủ trách nhiệm trước cuộc đua phát triển các mô hình tiên tiến. Những người trực tiếp phát triển AI “thực sự tin rằng” công nghệ này có thể gây thảm họa cho nhân loại ngay trong thập niên này, song các doanh nghiệp vẫn tiếp tục chạy đua hướng tới “siêu trí tuệ” có khả năng tự cải thiện.
Coxon đặc biệt cảnh báo về khả năng AI có thể tự cải thiện, tự thiết kế hoặc hỗ trợ huấn luyện các thế hệ AI tiếp theo với mức độ can thiệp ngày càng ít của con người. Khi đó, tốc độ phát triển năng lực của AI có thể tăng nhanh, khiến việc dự đoán và kiểm soát hành vi của các hệ thống này trở nên khó khăn hơn. “Siêu trí tuệ” được hiểu là trạng thái giả định trong đó năng lực của hệ thống AI vượt xa con người trên nhiều lĩnh vực.
Những lo ngại này nhận được sự đồng tình từ Evan Hubinger, lãnh đạo phụ trách an toàn AI và các giá trị của con người tại Anthropic. Ông cho biết những người trong ngành thực sự tin AI có thể gây nguy hiểm cho toàn nhân loại và cá nhân ông ước tính xác suất xảy ra kịch bản này trong 10 năm tới là trên 10%. Theo Hubinger, Anthropic đang nghiên cứu cách kiểm soát và bảo đảm các hệ thống siêu trí tuệ hoạt động phù hợp với mục tiêu của con người, song hiện chưa có kế hoạch cũng như chưa đi đúng hướng để bảo đảm một hệ thống vượt năng lực con người sẽ tiếp tục chịu sự kiểm soát của người tạo ra nó.
Coxon đánh giá các nỗ lực về an toàn AI của Anthropic là nghiêm túc, nhưng cho rằng một doanh nghiệp riêng lẻ khó có thể bảo đảm an toàn nếu cuộc đua phát triển AI tiếp tục diễn ra trên quy mô toàn ngành. Theo ông, cần có sự can thiệp của chính phủ hoặc một cơ chế phối hợp quốc tế, thậm chí có thể phải áp dụng những biện pháp tốn kém như tạm thời đình chỉ việc nâng cao năng lực của các mô hình tiên tiến.
Cảnh báo được đưa ra trong bối cảnh những lo ngại về khả năng AI hoạt động ngoài dự kiến gia tăng. Một sự cố liên quan đến các tác nhân AI của OpenAI tại môi trường thử nghiệm của nền tảng Hugging Face hồi tháng 7 đã làm dấy lên tranh luận về khả năng các hệ thống AI tự phối hợp, tìm cách vượt qua giới hạn được thiết lập và tiếp cận các hệ thống máy tính khác.
Trong khi các công ty AI phải chịu sức ép cạnh tranh gay gắt, yêu cầu kiểm soát rủi ro cũng ngày càng tăng. Hơn 1.000 nhân viên trong ngành công nghệ, trong đó có CEO Anthropic Dario Amodei, đã kêu gọi chính quyền Mỹ thúc đẩy phối hợp nhằm làm chậm quá trình phát triển những hệ thống AI tiên tiến nhất. Ngày 6/9, nhà khoa học hàng đầu của OpenAI Jakub Pachocki cũng kêu gọi “hết sức thận trọng”, đồng thời cho rằng hợp tác quốc tế trong phát triển AI cần trở thành một ưu tiên hàng đầu của các chính phủ./.
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Meta vừa công bố hai mô hình trí tuệ nhân tạo (AI) nâng cao mới với năng lực vượt trội hơn các phiên bản trước và đủ sức cạnh tranh với các đối thủ hàng đầu như OpenAI hay Anthropic.
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
Viện Công nghệ Thông tin và Truyền thông Quốc gia Nhật Bản (NICT) đã phát triển hệ thống WISDOM-AR nhằm đánh giá khả năng chống lại các thủ thuật đánh lừa của trí tuệ nhân tạo (AI) tạo sinh, qua đó phát hiện nguy cơ mô hình AI cung cấp thông tin nguy hiểm hoặc gây hại cho con người và xã hội.
Người dân Nhật Bản đang đổ xô xin cấp lại giấy phép lái xe sau vụ tấn công mạng nhằm vào dịch vụ chia sẻ xe Times Car, khiến dữ liệu của khoảng 6,6 triệu tài khoản bị ảnh hưởng, trong đó hình ảnh giấy tờ xác minh danh tính của hơn 1,6 triệu tài khoản được cho là đã bị rò rỉ.
Số vụ phát tán trái phép nội dung văn hóa Hàn Quốc (K-content) ở nước ngoài trong năm 2025 lên tới 493,6 triệu vụ, tăng 19,2% so với năm trước và cao nhất kể từ khi cơ quan chức năng bắt đầu thống kê vào năm 2022.
Bill Gates cảnh báo các cuộc tấn công mạng lợi dụng trí tuệ nhân tạo (AI) có thể gia tăng mạnh trong năm tới. Nhà lãnh đạo Microsoft kêu gọi thiết lập cơ chế giám sát độc lập và “phanh khẩn cấp” cho các mô hình AI tiên tiến nhằm ngăn chặn những rủi ro ngoài tầm kiểm soát.
Mô hình trí tuệ nhân tạo (AI) của Anthropic tự tạo và gửi tin báo giả về một vụ án mạng chưa được giải quyết tại Philadelphia, làm dấy lên lo ngại về khả năng tác nhân AI tự hành động trên Internet mà thiếu sự giám sát trực tiếp của con người.
Bộ Kinh tế và Xã hội số Thái Lan (DES) đặt mục tiêu tăng số lượng người đăng ký chương trình Hộ chiếu Trí tuệ nhân tạo quốc gia (TH-AI Passport) lên 3 triệu người vào cuối năm nay, gấp đôi so với mốc 1,57 triệu người đăng ký hiện tại.
Làn sóng nghi vấn sử dụng trí tuệ nhân tạo (AI) trong sáng tác đang thúc đẩy ngành xuất bản quốc tế tìm cách xác thực sách do con người viết nhằm bảo vệ uy tín tác giả và củng cố niềm tin độc giả. Tuy nhiên, khi ranh giới giữa hỗ trợ sáng tác và tạo nội dung bằng AI ngày càng khó phân định, những nhãn chứng nhận này vẫn phải đối mặt với bài toán về tính minh bạch và khả năng kiểm chứng.
