Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Nhà nghiên cứu trí tuệ nhân tạo (AI) 27 tuổi Jacob Coxon, từng làm việc tại OpenAI và Anthropic, đã quyết định rời ngành sau 3 năm, cảnh báo cuộc đua phát triển các hệ thống AI ngày càng mạnh đang diễn ra quá nhanh và tiềm ẩn những rủi ro mà con người chưa thể kiểm soát.
 Jacob Coxon, từng làm việc tại OpenAI và Anthropic. (ft.com).jpeg "Nhà nghiên cứu AI Jacob Coxon. (Nguồn: ft.com)")
Trong bài đăng trên mạng xã hội X ngày 8/9, Coxon cho biết anh rời ngành vì cho rằng ngay cả những công ty AI hàng đầu của Mỹ cũng chưa hành động đủ trách nhiệm trước cuộc đua phát triển các mô hình tiên tiến. Những người trực tiếp phát triển AI “thực sự tin rằng” công nghệ này có thể gây thảm họa cho nhân loại ngay trong thập niên này, song các doanh nghiệp vẫn tiếp tục chạy đua hướng tới “siêu trí tuệ” có khả năng tự cải thiện.
Coxon đặc biệt cảnh báo về khả năng AI có thể tự cải thiện, tự thiết kế hoặc hỗ trợ huấn luyện các thế hệ AI tiếp theo với mức độ can thiệp ngày càng ít của con người. Khi đó, tốc độ phát triển năng lực của AI có thể tăng nhanh, khiến việc dự đoán và kiểm soát hành vi của các hệ thống này trở nên khó khăn hơn. “Siêu trí tuệ” được hiểu là trạng thái giả định trong đó năng lực của hệ thống AI vượt xa con người trên nhiều lĩnh vực.
Những lo ngại này nhận được sự đồng tình từ Evan Hubinger, lãnh đạo phụ trách an toàn AI và các giá trị của con người tại Anthropic. Ông cho biết những người trong ngành thực sự tin AI có thể gây nguy hiểm cho toàn nhân loại và cá nhân ông ước tính xác suất xảy ra kịch bản này trong 10 năm tới là trên 10%. Theo Hubinger, Anthropic đang nghiên cứu cách kiểm soát và bảo đảm các hệ thống siêu trí tuệ hoạt động phù hợp với mục tiêu của con người, song hiện chưa có kế hoạch cũng như chưa đi đúng hướng để bảo đảm một hệ thống vượt năng lực con người sẽ tiếp tục chịu sự kiểm soát của người tạo ra nó.
Coxon đánh giá các nỗ lực về an toàn AI của Anthropic là nghiêm túc, nhưng cho rằng một doanh nghiệp riêng lẻ khó có thể bảo đảm an toàn nếu cuộc đua phát triển AI tiếp tục diễn ra trên quy mô toàn ngành. Theo ông, cần có sự can thiệp của chính phủ hoặc một cơ chế phối hợp quốc tế, thậm chí có thể phải áp dụng những biện pháp tốn kém như tạm thời đình chỉ việc nâng cao năng lực của các mô hình tiên tiến.
Cảnh báo được đưa ra trong bối cảnh những lo ngại về khả năng AI hoạt động ngoài dự kiến gia tăng. Một sự cố liên quan đến các tác nhân AI của OpenAI tại môi trường thử nghiệm của nền tảng Hugging Face hồi tháng 7 đã làm dấy lên tranh luận về khả năng các hệ thống AI tự phối hợp, tìm cách vượt qua giới hạn được thiết lập và tiếp cận các hệ thống máy tính khác.
Trong khi các công ty AI phải chịu sức ép cạnh tranh gay gắt, yêu cầu kiểm soát rủi ro cũng ngày càng tăng. Hơn 1.000 nhân viên trong ngành công nghệ, trong đó có CEO Anthropic Dario Amodei, đã kêu gọi chính quyền Mỹ thúc đẩy phối hợp nhằm làm chậm quá trình phát triển những hệ thống AI tiên tiến nhất. Ngày 6/9, nhà khoa học hàng đầu của OpenAI Jakub Pachocki cũng kêu gọi “hết sức thận trọng”, đồng thời cho rằng hợp tác quốc tế trong phát triển AI cần trở thành một ưu tiên hàng đầu của các chính phủ./.
Trung Quốc đã phê duyệt và ban hành tiêu chuẩn thứ ba về thiết bị y tế giao diện não-máy (BCI). Đây cũng là tiêu chuẩn sản phẩm thiết bị y tế BCI đầu tiên trên thế giới tích hợp công nghệ trí tuệ nhân tạo (AI) để xử lý dữ liệu điện não đồ (EEG).
Hai chuỗi cửa hàng tiện lợi hàng đầu Nhật Bản, Lawson và FamilyMart, sẽ lần đầu tiên đưa ra thị trường quy mô lớn các sản phẩm bánh kẹo được phát triển với ý tưởng từ trí tuệ nhân tạo (AI), đánh dấu bước tiến mới trong việc ứng dụng công nghệ này vào ngành bán lẻ thực phẩm.
Các nhà khoa học Hàn Quốc vừa phát triển thành công dòng robot AI có khả năng hiểu khẩu lệnh tự nhiên, tự quét không gian và tìm đường chính xác mà không cần bản đồ định sẵn, xuất sắc vượt qua hơn 100 đối thủ quốc tế để giành giải quán quân tại sự kiện công nghệ lớn ở Thụy Điển.
Trí tuệ nhân tạo (AI) đang giúp các chuyên gia an ninh mạng phân tích hệ thống và phát hiện điểm yếu nhanh hơn nhưng đồng thời cũng đẩy nhanh việc tạo ra những phương thức tấn công mới, buộc các nhóm nghiên cứu phải liên tục tìm cách phát hiện lỗ hổng trước khi chúng bị khai thác trên quy mô lớn.
Ứng dụng trí tuệ nhân tạo trong phân tích phản ứng điều trị ung thư khác nhau ở mỗi người đang giúp các bác sĩ UAE tiến gần hơn đến các liệu pháp cá thể hóa.
Microsoft mới đây đã công bố bộ quy tắc ứng xử cho các mô hình AI nội bộ, nhấn mạnh nguyên tắc con người luôn kiểm soát AI, trong bối cảnh các mối đe dọa an ninh mạng liên quan đến tác nhân AI gia tăng và tranh luận về việc kiểm soát tốc độ phát triển công nghệ.
Trí tuệ nhân tạo (AI) đã được ứng dụng rộng rãi các sự kiện lớn như World Cup và các giải quần vợt Grand Slam. Giờ đây, những người yêu thích thể thao và tập luyện thể chất ngày càng có cơ hội tiếp cận công nghệ này trong các hoạt động thể thao thường ngày.
Nghiên cứu mới chứng minh công nghệ tự động có thể giúp nâng đáng kể hiệu quả thu gom và xử lý rác thải điện tử (RAEE) và pin bị phân loại sai trong rác sinh hoạt.
AI đang trở thành một “bộ nhân lực” cho cả bên tấn công và phòng thủ. Những công việc lặp lại như kiểm tra hệ thống sau mỗi lần cập nhật, chạy các kỹ thuật đã biết hay rà soát hàng nghìn bề mặt tấn công có thể được giao cho AI, giúp chuyên gia tập trung vào những vấn đề đòi hỏi kinh nghiệm và sáng tạo.
Kính thông minh đang vấp phải sự phản đối ngày càng mạnh mẽ ở châu Âu sau khi các đoạn phim quay lén các cô gái và phụ nữ xuất hiện trên mạng.
