Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Một thí nghiệm gần đây cho thấy tác nhân trí tuệ nhân tạo (AI agent) có thể tự xác định vấn đề, lựa chọn huấn luyện lại mô hình AI và triển khai phiên bản đã chỉnh sửa mà không được con người yêu cầu trực tiếp thực hiện những bước này.
Theo phóng viên TTXVN tại Tel Aviv, trong thí nghiệm này, các nhà nghiên cứu của công ty an ninh mạng Irregular (Israel) sử dụng những phiên bản của mô hình nguồn mở Qwen do tập đoàn Alibaba của Trung Quốc phát triển và vận hành chúng trên hệ thống máy tính nội bộ. Một phiên bản được sử dụng cho tác nhân AI thực hiện các nhiệm vụ lập trình, trong khi phiên bản khác vận hành chatbot mà tác nhân này có nhiệm vụ bảo trì.
Nhóm nghiên cứu chỉ thông báo rằng người dùng đang nhận được câu trả lời không chính xác và yêu cầu tác nhân AI khắc phục, mà không đề cập tới việc huấn luyện, thay đổi tham số hay triển khai một mô hình mới. Sau khi kiểm tra hệ thống, tác nhân phát hiện các dữ liệu và công cụ huấn luyện có sẵn, sau đó tự lựa chọn tinh chỉnh mô hình và đưa phiên bản mới vào sử dụng mặc định.
Các thử nghiệm tiếp theo cho thấy việc tự thay đổi mô hình có thể tạo ra những tác động lâu dài. Trong một trường hợp, sau khi dữ liệu huấn luyện chứa một số thông tin giả lập như địa chỉ thư điện tử, địa chỉ nhà và khóa giao diện lập trình ứng dụng (API), mô hình đã chỉnh sửa có thể tái tạo một số thông tin này ngay cả khi không còn truy cập nguồn dữ liệu ban đầu.
Trong thử nghiệm khác, mô hình ban đầu được huấn luyện để từ chối trả lời một nhóm câu hỏi nhất định. Khi được giao nhiệm vụ xử lý tình trạng hệ thống từ chối quá nhiều yêu cầu, tác nhân AI đã tự tạo dữ liệu huấn luyện mới và tinh chỉnh mô hình, qua đó loại bỏ hành vi từ chối đã được cài đặt trước. Ông Omer Nevo, đồng sáng lập kiêm Giám đốc công nghệ Irregular, cho rằng kết quả cho thấy tác nhân AI sử dụng các mô hình được vận hành cục bộ không chỉ có khả năng hoàn thành nhiệm vụ được giao mà còn có thể thay đổi những thành phần của chính hệ thống, từ đó ảnh hưởng tới hành vi của mô hình trong tương lai.
Tuy nhiên, các nhà nghiên cứu nhấn mạnh thí nghiệm được thiết kế để chứng minh khả năng này trong điều kiện kiểm soát, chứ không nhằm xác định mức độ thường xuyên AI tự thay đổi mô hình trong thực tế. Môi trường thử nghiệm cũng tạo điều kiện tương đối thuận lợi khi tác nhân được tiếp cận dữ liệu huấn luyện, công cụ tinh chỉnh mô hình và các quyền hệ thống cần thiết./.
Ngày 14/10, một nhóm gồm 8 bang tại Mỹ cho biết đã đệ đơn kiện OpenAI tại các tòa án trên khắp cả nước; cáo buộc ChatGPT gây hại cho người dùng, hướng dẫn người dùng, bao gồm cả thanh thiếu niên, thực hiện các hành vi gây hại cho bản thân hoặc người khác.
Cùng với khả năng kết nối internet ngày càng tăng của các thiết bị gia dụng vốn dĩ chủ yếu hoạt động bằng cơ học, nguy cơ tội phạm mạng lợi dụng những "cửa ngõ" này để tiến hành tấn công mạng cũng ngày càng gia tăng.
Từ kinh nghiệm phát triển công nghệ lượng tử của EU, Giáo sư Nguyễn Lương Quang gợi mở hướng đi cho Việt Nam: ưu tiên đào tạo nhân lực, đầu tư hạ tầng nghiên cứu có trọng tâm, thúc đẩy doanh nghiệp tham gia chuỗi giá trị và mở rộng hợp tác quốc tế. Ông khuyến nghị xây dựng chiến lược quốc gia dài hạn, gắn ứng dụng lượng tử với chuyển đổi số và bảo đảm quốc phòng, an ninh.
Hội thảo quốc tế về Trí tuệ vạn vật tại Hàn Quốc quy tụ các nhà khoa học nhiều nước, tập trung vào trí tuệ nhân tạo, hệ thống kết nối thông minh và an ninh mạng.
Công dân có tài khoản định danh điện tử mức độ 2, tích hợp đủ thông tin, giấy tờ và đáp ứng các điều kiện theo quy định sẽ được miễn, giảm nhiều khoản phí, lệ phí khi thực hiện thủ tục hành chính trực tuyến. Đây là chính sách khuyến khích người dân tham gia môi trường số theo Nghị quyết số 66.22/2026/NQ-CP về phát triển công dân số. Nghị quyết quy định lấy ngày 15/10 hằng năm là Ngày Công dân số V
Apple vừa giới thiệu HomeView, thiết bị màn hình thông minh điều khiển bằng giọng nói, tích hợp phiên bản nâng cấp của trợ lý ảo Siri ứng dụng trí tuệ nhân tạo (AI), nhằm mở rộng sự hiện diện của hãng trong thị trường nhà thông minh.
Khi lợi thế về chi phí dần thu hẹp, doanh nghiệp cần làm chủ chất lượng và công nghệ để nâng sức cạnh tranh. Bước chuyển này cần doanh nghiệp đầu tư dài hạn cùng chính sách hỗ trợ đổi mới và khách hàng coi trọng chất lượng thay vì chỉ chọn giá thấp.
Các Giám đốc điều hành (CEO) của hai công ty sản xuất chip hàng đầu Intel và Broadcom mới đây cảnh báo khả năng tiếp cận nguồn vốn có thể trở thành rào cản lớn đối với sự phát triển của trí tuệ nhân tạo (AI), ngay cả khi nhu cầu về cơ sở hạ tầng điện toán vẫn tiếp tục vượt xa nguồn cung.
Hơn 400 chuyên gia từ hơn 30 quốc gia kêu gọi tăng cường kiểm soát các hệ thống AI có khả năng tự hành động. Trước những rủi ro này, chuyên gia khuyến nghị Việt Nam quản lý AI theo mức độ rủi ro của từng ứng dụng, bảo đảm sự giám sát của con người trong các lĩnh vực thiết yếu.
Theo báo cáo của Viện Nghiên cứu Kinh tế Đối ngoại thuộc Ngân hàng Xuất nhập khẩu Hàn Quốc (KEXIM), thị trường chip AI dự kiến tăng trưởng trung bình 38%/năm trong giai đoạn 2026–2030 và có thể đạt mốc 860 tỷ USD vào năm 2030.
