Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Một thí nghiệm gần đây cho thấy tác nhân trí tuệ nhân tạo (AI agent) có thể tự xác định vấn đề, lựa chọn huấn luyện lại mô hình AI và triển khai phiên bản đã chỉnh sửa mà không được con người yêu cầu trực tiếp thực hiện những bước này.
Theo phóng viên TTXVN tại Tel Aviv, trong thí nghiệm này, các nhà nghiên cứu của công ty an ninh mạng Irregular (Israel) sử dụng những phiên bản của mô hình nguồn mở Qwen do tập đoàn Alibaba của Trung Quốc phát triển và vận hành chúng trên hệ thống máy tính nội bộ. Một phiên bản được sử dụng cho tác nhân AI thực hiện các nhiệm vụ lập trình, trong khi phiên bản khác vận hành chatbot mà tác nhân này có nhiệm vụ bảo trì.
Nhóm nghiên cứu chỉ thông báo rằng người dùng đang nhận được câu trả lời không chính xác và yêu cầu tác nhân AI khắc phục, mà không đề cập tới việc huấn luyện, thay đổi tham số hay triển khai một mô hình mới. Sau khi kiểm tra hệ thống, tác nhân phát hiện các dữ liệu và công cụ huấn luyện có sẵn, sau đó tự lựa chọn tinh chỉnh mô hình và đưa phiên bản mới vào sử dụng mặc định.
Các thử nghiệm tiếp theo cho thấy việc tự thay đổi mô hình có thể tạo ra những tác động lâu dài. Trong một trường hợp, sau khi dữ liệu huấn luyện chứa một số thông tin giả lập như địa chỉ thư điện tử, địa chỉ nhà và khóa giao diện lập trình ứng dụng (API), mô hình đã chỉnh sửa có thể tái tạo một số thông tin này ngay cả khi không còn truy cập nguồn dữ liệu ban đầu.
Trong thử nghiệm khác, mô hình ban đầu được huấn luyện để từ chối trả lời một nhóm câu hỏi nhất định. Khi được giao nhiệm vụ xử lý tình trạng hệ thống từ chối quá nhiều yêu cầu, tác nhân AI đã tự tạo dữ liệu huấn luyện mới và tinh chỉnh mô hình, qua đó loại bỏ hành vi từ chối đã được cài đặt trước. Ông Omer Nevo, đồng sáng lập kiêm Giám đốc công nghệ Irregular, cho rằng kết quả cho thấy tác nhân AI sử dụng các mô hình được vận hành cục bộ không chỉ có khả năng hoàn thành nhiệm vụ được giao mà còn có thể thay đổi những thành phần của chính hệ thống, từ đó ảnh hưởng tới hành vi của mô hình trong tương lai.
Tuy nhiên, các nhà nghiên cứu nhấn mạnh thí nghiệm được thiết kế để chứng minh khả năng này trong điều kiện kiểm soát, chứ không nhằm xác định mức độ thường xuyên AI tự thay đổi mô hình trong thực tế. Môi trường thử nghiệm cũng tạo điều kiện tương đối thuận lợi khi tác nhân được tiếp cận dữ liệu huấn luyện, công cụ tinh chỉnh mô hình và các quyền hệ thống cần thiết./.
Hàn Quốc sẽ chi khoảng 10 tỷ USD cho chương trình phát triển trí tuệ nhân tạo vật lý giai đoạn 2026-2030, với mục tiêu để AI học từ dữ liệu nhà máy thật, tự nhận biết môi trường và điều khiển thiết bị, robot trên dây chuyền sản xuất.
Kết quả khảo sát tại Mỹ mới đây cho thấy phần lớn người trưởng thành tại nước này cho rằng trí tuệ nhân tạo (AI) sẽ gây hại nhiều hơn là mang lại lợi ích trong lĩnh vực giáo dục.
Tại các bệnh viện và gia đình ở Hàn Quốc, một thế hệ robot hỗ trợ chăm sóc mới đang từng bước đảm nhận những công việc vốn đòi hỏi nhiều sức lực trong chăm sóc sức khỏe.
Hàn Quốc mới đây đã tổ chức hội thảo về chiến lược phát triển quốc gia trung và dài hạn đến năm 2045.
Theo phóng viên TTXVN tại Israel, Hiệp hội Luật sư nước này vừa ban hành các nguyên tắc chặt chẽ về sử dụng trí tuệ nhân tạo (AI) trong hành nghề luật, theo đó các hệ thống AI tự chủ không được phép thay luật sư đưa ra quyết định chuyên môn, tư vấn pháp lý độc lập hoặc tiến hành các thủ tục pháp lý nếu không có sự giám sát và phê duyệt của con người.
Thành phố Hồ Chí Minh sẽ tận dụng tối đa Luật Phát triển đô thị để hoàn thiện thể chế, cơ chế thử nghiệm (Sanbox), tăng cường đầu tư cho hạ tầng số, nâng cao năng lực chủ các công nghệ chiến lược.
Việc vận hành ổn định hệ thống phần mềm quản lý iSofHcare góp phần giảm tình trạng ùn tắc tại khu vực tiếp nhận.
Nam Phi đang mở ra hướng đi mới trong lĩnh vực ghép gan khi lần đầu tiên tại châu Phi đưa vào sử dụng công nghệ tưới máu gan, cho phép bảo quản và đánh giá chức năng tạng hiến bên ngoài cơ thể trong thời gian dài hơn. Công nghệ này được kỳ vọng giúp tận dụng thêm những lá gan trước đây có nguy cơ bị loại bỏ, qua đó mở rộng nguồn tạng và tăng cơ hội điều trị cho bệnh nhân.
Trung Quốc đã phê duyệt và ban hành tiêu chuẩn thứ ba về thiết bị y tế giao diện não-máy (BCI). Đây cũng là tiêu chuẩn sản phẩm thiết bị y tế BCI đầu tiên trên thế giới tích hợp công nghệ trí tuệ nhân tạo (AI) để xử lý dữ liệu điện não đồ (EEG).
Trí tuệ nhân tạo (AI), robot và công nghệ sản xuất số đang tạo ra bước chuyển mới cho ngành dệt may châu Phi, mở ra cơ hội nâng cao năng suất, chất lượng và giá trị gia tăng. Tuy nhiên, quá trình tự động hóa cũng đặt ra thách thức đối với mô hình phát triển dựa vào lao động giá rẻ, đòi hỏi các quốc gia châu Phi phải nhanh chóng đầu tư vào công nghệ và đào tạo nguồn nhân lực phù hợp.
