Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Chuyên gia Israel cảnh báo rủi ro an ninh từ AI tác tử
Phóng viên TTXVN tại Tel Aviv dẫn lời ông Eyal Alkalay - Giám đốc Công nghệ thông tin (CIO) của công ty công nghệ Verbit - nhận định các hệ thống trí tuệ nhân tạo tác tử (Agentic AI - trí tuệ nhân tạo có tính chủ động và tự chủ cao) có thể gây ra rủi ro an ninh lớn hơn nhiều so với người dùng thông thường do khả năng thực hiện hàng loạt hành động trên nhiều hệ thống chỉ trong vài giây.
Phóng viên TTXVN tại Tel Aviv dẫn lời ông Eyal Alkalay - Giám đốc Công nghệ thông tin (CIO) của công ty công nghệ Verbit - nhận định các hệ thống trí tuệ nhân tạo tác tử (Agentic AI - trí tuệ nhân tạo có tính chủ động và tự chủ cao) có thể gây ra rủi ro an ninh lớn hơn nhiều so với người dùng thông thường do khả năng thực hiện hàng loạt hành động trên nhiều hệ thống chỉ trong vài giây.
Trao đổi với chuyên trang công nghệ CTech của Israel, ông Alkalay cho rằng vấn đề đáng lo ngại nhất không phải là việc doanh nghiệp ứng dụng AI quá nhanh, mà là các cơ chế bảo mật, quản lý danh tính, phân quyền và giám sát không theo kịp tốc độ phát triển của các hệ thống AI tác tử.
Theo CIO của Verbit, nếu một nhân viên được cấp quá nhiều quyền truy cập và mắc sai sót, mức độ thiệt hại thường vẫn bị giới hạn bởi tốc độ hành động của con người. Trong khi đó, một AI tác tử có thể thực hiện nhiều thao tác đồng thời trên nhiều hệ thống trong thời gian rất ngắn.
Rủi ro có thể tăng mạnh nếu AI được cấp quyền vượt quá nhu cầu, tiếp nhận chỉ dẫn độc hại, bị tấn công thông qua kỹ thuật “chèn lệnh” (prompt injection), hoặc đơn giản là đưa ra quyết định sai lầm. Trong những trường hợp này, hậu quả có thể lan rộng rất nhanh trước khi con người kịp phát hiện và can thiệp.
Verbit hiện sử dụng và thử nghiệm các năng lực AI tác tử trong hoạt động doanh nghiệp, song vẫn duy trì quyền giám sát và phê duyệt của con người đối với những tác vụ có mức độ rủi ro cao, đặc biệt là các hoạt động liên quan tới hệ thống vận hành, dữ liệu nhạy cảm hoặc thay đổi quan trọng.
Các biện pháp đang được áp dụng gồm giới hạn quyền truy cập theo nhu cầu, ghi nhật ký và giám sát hoạt động, kiểm soát việc đưa các công cụ AI mới vào sử dụng, đồng thời duy trì khả năng thu hồi quyền, cô lập hoặc dừng hoạt động của AI khi cần thiết.
Chuyên gia Alkalay cho rằng mô hình bảo mật đối với AI tác tử vẫn chưa hoàn thiện và cần tiếp tục phát triển cùng tốc độ với công nghệ. Các lĩnh vực đặc biệt cần được chú trọng gồm nhận dạng từng AI tác tử, quản lý quyền hạn, kiểm soát truy cập dữ liệu doanh nghiệp, theo dõi hành vi và thiết lập cơ chế can thiệp khẩn cấp.
Theo CIO của Verbit, giải pháp không phải là làm chậm quá trình ứng dụng AI, mà là xây dựng đồng thời các lớp kiểm soát phù hợp, trong khi con người vẫn phải chịu trách nhiệm đối với những quyết định quan trọng. AI cũng đã giúp doanh nghiệp tăng tốc phân tích dữ liệu, phát hiện bất thường, hỗ trợ điều tra an ninh và tự động hóa các công việc lặp lại./.
Tin liên quan
Tin cùng chuyên mục
Robot AI - “trợ thủ” đắc lực giúp giải quyết thủ tục hành chính
Từ việc tra cứu thủ tục, chuẩn bị hồ sơ đến tìm hiểu cách thức nộp dịch vụ công trực tuyến, robot trí tuệ nhân tạo (robot AI) đang được triển khai tại nhiều xã, phường tỉnh Lâm Đồng, mở thêm kênh hỗ trợ người dân tiếp cận thông tin hành chính.
AI bị "biến chất" và làn sóng lừa đảo tinh vi tại Nam Phi
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Robot pha chế và vũ công K-pop: Xu hướng đưa AI vào đời sống thường nhật
Từ quán cà phê tự động đến sân khấu robot hình người, các công ty khởi nghiệp Hàn Quốc đang mở rộng ứng dụng trí tuệ nhân tạo sang lĩnh vực dịch vụ và giải trí, tìm kiếm nguồn doanh thu ngoài sản xuất công nghiệp.
Meta ra mắt 2 mô hình AI nâng cao
Meta vừa công bố hai mô hình trí tuệ nhân tạo (AI) nâng cao mới với năng lực vượt trội hơn các phiên bản trước và đủ sức cạnh tranh với các đối thủ hàng đầu như OpenAI hay Anthropic.
Anh lo ngại AI “tự ý” xâm nhập dữ liệu nhà nước, dự tính siết quy định an toàn AI
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
Nhật Bản thử nghiệm giới hạn an toàn của AI tạo sinh
Viện Công nghệ Thông tin và Truyền thông Quốc gia Nhật Bản (NICT) đã phát triển hệ thống WISDOM-AR nhằm đánh giá khả năng chống lại các thủ thuật đánh lừa của trí tuệ nhân tạo (AI) tạo sinh, qua đó phát hiện nguy cơ mô hình AI cung cấp thông tin nguy hiểm hoặc gây hại cho con người và xã hội.
Robot hình người tập làm nhân viên siêu thị
Tập đoàn bán lẻ Salling Group của Đan Mạch đang thử nghiệm robot hình người tại hệ thống siêu thị Føtex nhằm tự động hóa công việc bổ sung hàng lên kệ, giảm tải cho nhân viên và dành thêm thời gian phục vụ khách hàng.
Rò rỉ dữ liệu quy mô lớn, người dân Nhật Bản đổ xô đổi bằng lái
Người dân Nhật Bản đang đổ xô xin cấp lại giấy phép lái xe sau vụ tấn công mạng nhằm vào dịch vụ chia sẻ xe Times Car, khiến dữ liệu của khoảng 6,6 triệu tài khoản bị ảnh hưởng, trong đó hình ảnh giấy tờ xác minh danh tính của hơn 1,6 triệu tài khoản được cho là đã bị rò rỉ.
K-content đối mặt làn sóng vi phạm bản quyền toàn cầu
Số vụ phát tán trái phép nội dung văn hóa Hàn Quốc (K-content) ở nước ngoài trong năm 2025 lên tới 493,6 triệu vụ, tăng 19,2% so với năm trước và cao nhất kể từ khi cơ quan chức năng bắt đầu thống kê vào năm 2022.
Tỷ phú Bill Gates cảnh báo AI có thể làm bùng phát tấn công mạng
Bill Gates cảnh báo các cuộc tấn công mạng lợi dụng trí tuệ nhân tạo (AI) có thể gia tăng mạnh trong năm tới. Nhà lãnh đạo Microsoft kêu gọi thiết lập cơ chế giám sát độc lập và “phanh khẩn cấp” cho các mô hình AI tiên tiến nhằm ngăn chặn những rủi ro ngoài tầm kiểm soát.
