Nhật Bản thử nghiệm giới hạn an toàn của AI tạo sinh
Viện Công nghệ Thông tin và Truyền thông Quốc gia Nhật Bản (NICT) đã phát triển hệ thống WISDOM-AR nhằm đánh giá khả năng chống lại các thủ thuật đánh lừa của trí tuệ nhân tạo (AI) tạo sinh, qua đó phát hiện nguy cơ mô hình AI cung cấp thông tin nguy hiểm hoặc gây hại cho con người và xã hội.

Theo NICT, WISDOM-AR tự động tạo các câu lệnh được thiết kế để tìm cách vượt qua cơ chế bảo vệ của AI, sau đó phân tích và đánh giá mức độ nguy hại trong câu trả lời. Hệ thống có thể kiểm tra hơn 30 lĩnh vực, bao gồm vũ khí và lừa đảo. Trong một cuộc thử nghiệm, WISDOM-AR đặt câu hỏi về cách chế tạo bom cho một mô hình AI tạo sinh. Mô hình này đã đưa ra thông tin về nguyên liệu và phương pháp chế tạo, khiến phản hồi bị hệ thống đánh giá là có hại.
Các mô hình AI tạo sinh thường được trang bị cơ chế hạn chế nội dung nguy hiểm. Tuy nhiên, những biện pháp bảo vệ này vẫn có thể bị vô hiệu hóa bằng các câu lệnh được thiết kế tinh vi, còn gọi là thủ thuật “vượt rào” (jailbreak). Do đó, việc kiểm tra khả năng chống chịu trước những thủ thuật này là khâu quan trọng để xác định lỗ hổng và nâng cao độ an toàn của AI.
NICT dự kiến thử nghiệm WISDOM-AR tại các doanh nghiệp sử dụng AI ngay trong năm tài chính 2026, nhằm xác định những vấn đề kỹ thuật và hoàn thiện hệ thống trước khi ứng dụng thực tế.
Ông Kentaro Torisawa, chuyên viên nghiên cứu của NICT, cho biết việc đánh giá rủi ro của AI sẽ góp phần nâng cao mức độ an toàn cho toàn xã hội./.
Tin cùng chuyên mục
Mỹ: Nhu cầu tuyển dụng lập trình viên gia tăng bất chấp tác động của AI
Số lượng tin tuyển dụng lập trình viên phần mềm tại Mỹ đã tăng kể từ tháng 2/2025 - thời điểm ra mắt mô hình trí tuệ nhân tạo (AI) Claude Code của công ty công nghệ Anthropic - ngay cả khi tổng số tin tuyển dụng lao động nói chung sụt giảm. Điều này đi ngược lại các dự đoán cho rằng AI sẽ nhanh chóng triệt tiêu nhu cầu về nhân sự lập trình.
Tỷ phú Bill Gates cảnh báo AI có thể làm bùng phát tấn công mạng
Diễn đàn Chuyển đổi số quốc gia
Chuyển đổi số phải chuyển mạnh từ xây dựng nền tảng sang giải quyết những bài toán cụ thể của người dân, doanh nghiệp; bảo đảm dữ liệu được tái sử dụng, đầu tư hiệu quả và ứng dụng trí tuệ nhân tạo an toàn. Đây là thông điệp tại Diễn đàn Chuyển đổi số quốc gia năm 2026, diễn ra ngày 9/10 tại Hà Nội.
Trở về thời khắc thiêng liêng bằng công nghệ thực tế ảo
Chương trình trải nghiệm thực tế ảo "Trở về thời khắc thiêng liêng" do Đài Tiếng nói Việt Nam (VOV) phối hợp với UBND phường Cửa Nam và các đơn vị tổ chức, mang đến cho công chúng cơ hội sử dụng công nghệ VR để tái hiện chân thực không gian Quảng trường Ba Đình lịch sử ngày 2/9/1945 cùng khoảnh khắc Chủ tịch Hồ Chí Minh đọc Tuyên ngôn Độc lập.
Ứng dụng công nghệ giúp lan tỏa giá trị di sản
AI của Anthropic tự bịa tin báo án mạng
Google đưa cuộc đua trung tâm dữ liệu ra ngoài không gian
Đưa công nghệ mới vào đào tạo nghề, đảm bảo đáp ứng nhu cầu thị trường lao động
Người dân hài lòng với việc mở rộng dịch vụ công trực tuyến
Chi phí điện năng khi sử dụng pin lưu trữ năng lượng sẽ ngày càng giảm
Pin lưu trữ năng lượng Mặt Trời là thiết bị tích trữ phần điện năng dư thừa mà hệ thống tấm pin quang điện tạo ra vào ban ngày, sau đó giải phóng lại để sử dụng vào ban đêm, khi trời nhiều mây hoặc trong trường hợp mất điện lưới. Pin lưu trữ năng lượng có thể được coi như một “kho điện dự phòng” giúp các hộ gia đình và doanh nghiệp chủ động về nguồn điện, giảm phụ thuộc hoàn toàn vào điện lưới.