Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Cảnh báo AI tự hành gây rủi ro cho doanh nghiệp
Các hệ thống AI tự hành có thể gây ra rủi ro an ninh ngay cả khi hoàn thành chính xác nhiệm vụ được giao.
Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng được ứng dụng rộng rãi trong hoạt động doanh nghiệp, các chuyên gia cảnh báo những hệ thống AI tự hành có thể gây ra rủi ro an ninh ngay cả khi hoàn thành chính xác nhiệm vụ được giao. Vấn đề không chỉ nằm ở kết quả cuối cùng mà còn ở cách AI thực hiện nhiệm vụ và những quy trình bảo vệ bị bỏ qua.
Theo phóng viên TTXVN tại Tel Aviv, ông Oriel Vaturi, đồng sáng lập kiêm Giám đốc điều hành công ty Ovalix chuyên cung cấp giải pháp bảo mật AI, cho rằng AI tự hành không cần hoạt động sai mục tiêu hay có hành vi bất thường mới gây nguy hiểm cho doanh nghiệp. Đôi khi, hệ thống vẫn hoàn thành công việc nhưng đồng thời thực hiện những hành động tiềm ẩn rủi ro.
Chẳng hạn một tác nhân AI được giao xử lý thanh toán hóa đơn. Hệ thống kiểm tra thông tin, xác nhận số tiền và chuyển khoản chính xác cho nhà cung cấp. Tuy nhiên, AI đã bỏ qua bước phê duyệt bắt buộc của con người. Giao dịch vẫn thành công, nhưng nếu hóa đơn là giả mạo, doanh nghiệp có thể chỉ phát hiện sự cố khi tiền đã bị chuyển đi.
Một ví dụ khác là tác nhân AI sửa lỗi phần mềm, hoàn thành cập nhật mã và vượt qua toàn bộ các bài kiểm tra. Tuy nhiên, trong quá trình đó, hệ thống có thể vô tình gửi thông tin xác thực bí mật tới một dịch vụ bên ngoài. Tương tự, AI có thể tạo báo cáo khách hàng chính xác nhưng bỏ qua bước loại bỏ dữ liệu cá nhân nhạy cảm trước khi gửi đi.
Theo ông Vaturi, những rủi ro này có thể dẫn đến rò rỉ thông tin khách hàng, mất tài sản trí tuệ, thay đổi ngoài ý muốn đối với hệ thống vận hành hoặc thực hiện giao dịch tài chính không tuân thủ quy trình, gây thiệt hại về tài chính, hoạt động và uy tín doanh nghiệp.
Giám đốc điều hành công ty Ovalix nhấn mạnh AI tự hành đặt ra thách thức mới đối với bảo mật do hoạt động không hoàn toàn theo quy trình cố định. Khác với hệ thống tự động truyền thống, các tác nhân AI có thể lựa chọn công cụ, truy cập thông tin và thay đổi cách thực hiện tùy theo bối cảnh. Một hành động riêng lẻ có thể được cấp phép hợp lệ, nhưng việc kết hợp nhiều quyền truy cập để chuyển dữ liệu mật ra ngoài tổ chức lại có thể gây nguy hiểm.
Vì vậy, việc giám sát từng hành động riêng lẻ hoặc chỉ đánh giá kết quả cuối cùng là chưa đủ. Doanh nghiệp cần theo dõi toàn bộ quá trình AI thực hiện nhiệm vụ, từ mục tiêu ban đầu, thông tin được sử dụng, quyết định đưa ra đến các hành động trên những hệ thống khác nhau.
Ông Vaturi cho rằng cần xây dựng cơ chế bảo mật có khả năng giám sát toàn diện, xác định những hành vi lệch khỏi mục tiêu hoặc quy trình được phép, đồng thời ngăn chặn các hành động nguy hiểm theo thời gian thực./.
Tin liên quan
Tin cùng chuyên mục
Chuyển đổi số đi vào đời sống từ những việc làm cụ thể tại Đắk Lắk
Tỉnh Đắk Lắk đang triển khai nhiều cách làm để đưa chuyển đổi số đi vào đời sống, từng bước thu hẹp khoảng cách, giúp người dân, nhất là đồng bào dân tộc thiểu số, vùng sâu, vùng xa tiếp cận và thụ hưởng các tiện ích công nghệ.
Vĩnh Long: Khánh thành Tòa nhà Nghiên cứu khoa học ứng dụng, chuyển giao công nghệ
Ngày 07/11/2026, Trường Đại học Sư phạm Kỹ thuật Vĩnh Long (tỉnh Vĩnh Long) tổ chức Lễ công bố quyết định của Bộ Giáo dục và Đào tạo đổi tên thành Trường Đại học Công nghệ Kỹ thuật Vĩnh Long, đồng thời khánh thành Tòa nhà Nghiên cứu khoa học ứng dụng, chuyển giao công nghệ.
Tạo dựng hệ sinh thái hỗ trợ ngành robot - Kinh nghiệm từ Đài Loan (Trung Quốc)
Từ kinh nghiệm của Đài Loan (Trung Quốc), chuyên gia Nguyễn Thanh Thiên Phúc đề xuất Việt Nam ưu tiên phát triển công nghiệp phụ trợ và đào tạo kỹ sư, đồng thời thúc đẩy hợp tác nghiên cứu để từng bước làm chủ công nghệ robot.
Xu hướng dùng AI để ra quyết định
Từ việc mua gì, đi đâu hay chi tiền thế nào – với nhiều người đã có thói quen dùng trí tuệ nhân tạo (AI), những quyết định ấy giờ đây bắt đầu bằng một câu hỏi dành cho công nghệ này. Trong một khảo sát tại Malaysia, 43% người tham gia vốn đã quen dùng AI cho biết họ hỏi AI trước tiên khi cân nhắc một quyết định quan trọng, trong khi 31% bắt đầu bằng công cụ tìm kiếm truyền thống.
Trường Cao đẳng Công nghệ Việt - Hàn Bắc Giang tăng cường đào tạo nhân lực ngành bán dẫn
Trường Cao đẳng Công nghệ Việt - Hàn Bắc Giang xây dựng chương trình đào tạo theo hướng gắn với thực tiễn sản xuất, tăng thời lượng thực hành, thực tập tại doanh nghiệp, giúp sinh viên sớm tiếp cận dây chuyền công nghệ hiện đại và tác phong công nghiệp. Hiện tại, trường có gần 7.000 sinh viên, trong đó khoảng 60% theo học các ngành, nghề phục vụ trực tiếp cho công nghiệp bán dẫn.
Anthropic triển khai tính năng hỗ trợ quản lý tài chính cá nhân trên Claude
Ngày 5/11, Công ty Anthropic thông báo triển khai thử nghiệm tính năng hỗ trợ quản lý tài chính cá nhân trên chatbot Claude, cho phép người dùng kết nối tài khoản ngân hàng và thẻ thanh toán để tra cứu thông tin về số dư, chi tiêu và các hóa đơn bằng ngôn ngữ thông thường.
EU thúc đẩy trang bị kỹ năng AI cho học sinh
EU xây dựng chương trình cấp chứng chỉ đánh giá kiến thức và kỹ năng sử dụng AI cho học sinh 15 tuổi, nhằm giúp học sinh hiểu rõ công nghệ AI, biết kiểm chứng thông tin và sử dụng các công cụ này một cách an toàn, có trách nhiệm.
Cảnh sát Hong Kong mở rộng giám sát bằng AI nhận diện khuôn mặt
Cảnh sát Hong Kong (Trung Quốc) sẽ triển khai công nghệ nhận diện khuôn mặt ứng dụng trí tuệ nhân tạo (AI) trong mạng lưới camera giám sát thông minh đang được mở rộng từ tháng này, nhằm nâng cao hiệu quả tìm kiếm người mất tích và truy tìm nghi phạm.
Australia cấm sử dụng AI trong lớp học
Theo quy định mới, học sinh tiểu học tại Australia sẽ bị cấm hoàn toàn việc dùng AI tạo sinh tại lớp, trong khi học sinh trung học bị hạn chế sử dụng công nghệ này trong các bài kiểm tra
Robot AI tại Trung Quốc tiến gần hơn tới ứng dụng thực tế
Trung Quốc hiện khẳng định vị thế dẫn đầu thế giới trong ngành công nghiệp robot nhờ quy mô sản xuất, tốc độ lắp đặt và bước tiến mạnh mẽ ở mảng robot hình người.
