Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Một thí nghiệm gần đây cho thấy tác nhân trí tuệ nhân tạo (AI agent) có thể tự xác định vấn đề, lựa chọn huấn luyện lại mô hình AI và triển khai phiên bản đã chỉnh sửa mà không được con người yêu cầu trực tiếp thực hiện những bước này.
Theo phóng viên TTXVN tại Tel Aviv, trong thí nghiệm này, các nhà nghiên cứu của công ty an ninh mạng Irregular (Israel) sử dụng những phiên bản của mô hình nguồn mở Qwen do tập đoàn Alibaba của Trung Quốc phát triển và vận hành chúng trên hệ thống máy tính nội bộ. Một phiên bản được sử dụng cho tác nhân AI thực hiện các nhiệm vụ lập trình, trong khi phiên bản khác vận hành chatbot mà tác nhân này có nhiệm vụ bảo trì.
Nhóm nghiên cứu chỉ thông báo rằng người dùng đang nhận được câu trả lời không chính xác và yêu cầu tác nhân AI khắc phục, mà không đề cập tới việc huấn luyện, thay đổi tham số hay triển khai một mô hình mới. Sau khi kiểm tra hệ thống, tác nhân phát hiện các dữ liệu và công cụ huấn luyện có sẵn, sau đó tự lựa chọn tinh chỉnh mô hình và đưa phiên bản mới vào sử dụng mặc định.
Các thử nghiệm tiếp theo cho thấy việc tự thay đổi mô hình có thể tạo ra những tác động lâu dài. Trong một trường hợp, sau khi dữ liệu huấn luyện chứa một số thông tin giả lập như địa chỉ thư điện tử, địa chỉ nhà và khóa giao diện lập trình ứng dụng (API), mô hình đã chỉnh sửa có thể tái tạo một số thông tin này ngay cả khi không còn truy cập nguồn dữ liệu ban đầu.
Trong thử nghiệm khác, mô hình ban đầu được huấn luyện để từ chối trả lời một nhóm câu hỏi nhất định. Khi được giao nhiệm vụ xử lý tình trạng hệ thống từ chối quá nhiều yêu cầu, tác nhân AI đã tự tạo dữ liệu huấn luyện mới và tinh chỉnh mô hình, qua đó loại bỏ hành vi từ chối đã được cài đặt trước. Ông Omer Nevo, đồng sáng lập kiêm Giám đốc công nghệ Irregular, cho rằng kết quả cho thấy tác nhân AI sử dụng các mô hình được vận hành cục bộ không chỉ có khả năng hoàn thành nhiệm vụ được giao mà còn có thể thay đổi những thành phần của chính hệ thống, từ đó ảnh hưởng tới hành vi của mô hình trong tương lai.
Tuy nhiên, các nhà nghiên cứu nhấn mạnh thí nghiệm được thiết kế để chứng minh khả năng này trong điều kiện kiểm soát, chứ không nhằm xác định mức độ thường xuyên AI tự thay đổi mô hình trong thực tế. Môi trường thử nghiệm cũng tạo điều kiện tương đối thuận lợi khi tác nhân được tiếp cận dữ liệu huấn luyện, công cụ tinh chỉnh mô hình và các quyền hệ thống cần thiết./.
Theo Phó Giáo sư Vương Tân Tùng, Học viện Xã hội phát triển và Chính sách công, Đại học Sư phạm Bắc Kinh, trong bối cảnh trí tuệ nhân tạo (AI) và robot hình người đang trở thành hướng phát triển quan trọng của các ngành công nghiệp tương lai, Trung Quốc và Việt Nam có nhiều tiềm năng hợp tác trong nghiên cứu công nghệ, xây dựng chuỗi cung ứng, phát triển ứng dụng và đào tạo nhân lực.
Giới nghiên cứu cảnh báo các chatbot trí tuệ nhân tạo (AI) đang gây nhiễu loạn thông tin trước thềm cuộc bầu cử giữa nhiệm kỳ tại Mỹ khi cung cấp thông tin sai lệch cho cử tri.
Xu hướng đầu tư vào trí tuệ nhân tạo (AI) của các doanh nghiệp trên thế giới đang hướng tới hiệu quả thực chất. Ngân hàng Goldman Sachs và Ngân hàng Thanh toán Quốc tế (BIS) dự báo tổng đầu tư toàn cầu vào AI sẽ vượt 1.000 tỷ USD trong năm 2026 và có thể đạt tới 4.000 tỷ USD vào năm 2030.
OpenAI thông báo sẽ siết chặt việc cung cấp thông tin về vũ khí trên ChatGPT đối với người dùng dưới 18 tuổi, đồng thời tăng cường giám sát các cuộc trò chuyện có dấu hiệu liên quan đến bạo lực. Các biện pháp mới nhằm hạn chế nguy cơ gây hại ngoài đời thực, bảo vệ thanh thiếu niên và nâng cao trách nhiệm của các nền tảng AI đối với an toàn người dùng.
OpenAI, Google, Microsoft và Anthropic cam kết triển khai cơ chế chung, cho phép các cơ quan báo chí và chủ sở hữu website từ chối sử dụng nội dung để huấn luyện AI. Sáng kiến được kỳ vọng tăng quyền kiểm soát của các nhà xuất bản đối với nội dung trên môi trường số, trong bối cảnh tranh chấp về thu thập dữ liệu và các vụ kiện liên quan đến bản quyền ngày càng gia tăng.
Giáo dục an toàn số cho trẻ em vùng dân tộc thiểu số và miền núi cần được địa phương hóa, phát huy vai trò chủ động của chính học sinh và xây dựng mạng lưới hỗ trợ bền vững tại cộng đồng.
Từ những ý tưởng sáng tạo đến các sản phẩm công nghệ có khả năng ứng dụng trong thực tiễn, đổi mới sáng tạo đang từng bước trở thành động lực thúc đẩy phát triển kinh tế - xã hội. Tại Đồng Nai, chuỗi sự kiện DIGIFEST 2026 mở ra không gian kết nối giữa khoa học, công nghệ, doanh nghiệp và cộng đồng.
AI có thể viết một câu chuyện giống hệt trải nghiệm của bạn, bắt chước cảm xúc, nỗi sợ và cả những điều thầm kín. Nhưng liệu chúng ta có đủ tinh ý để nhận ra đâu là người thật, đâu là trí tuệ nhân tạo? “Ngoài dữ liệu” – Cuộc thử nghiệm thú vị giữa con người và AI, nơi cảm xúc thật đối đầu với những câu trả lời hoàn hảo.
Dự án tái chế gỉ sắt công nghiệp thành vật liệu xử lý nước thải xuất sắc giành giải Nhất. Kết quả từ cuộc thi khởi nghiệp với chủ đề “Vận hành thành phố thông minh” do Sở Khoa học và Công nghệ TP. Hải Phòng tổ chức. Các dự án tiêu biểu sẽ được ưu tiên tiếp cận Quỹ Đầu tư mạo hiểm và cơ chế Sandbox để thương mại hóa sản phẩm ra thị trường.
AI có thể viết một câu chuyện giống hệt trải nghiệm của bạn, bắt chước cảm xúc, nỗi sợ và cả những điều thầm kín. Nhưng liệu chúng ta có đủ tinh ý để nhận ra đâu là người thật, đâu là trí tuệ nhân tạo? “Ngoài dữ liệu” – Cuộc thử nghiệm thú vị giữa con người và AI, nơi cảm xúc thật đối đầu với những câu trả lời hoàn hảo.
