Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Trí tuệ nhân tạo (AI) đang giúp các chuyên gia an ninh mạng phân tích hệ thống và phát hiện điểm yếu nhanh hơn nhưng đồng thời cũng đẩy nhanh việc tạo ra những phương thức tấn công mới, buộc các nhóm nghiên cứu phải liên tục tìm cách phát hiện lỗ hổng trước khi chúng bị khai thác trên quy mô lớn.
Phóng viên TTXVN tại Tel Aviv dẫn lời ông Roey Fizitzky, Phó Chủ tịch phụ trách nghiên cứu an ninh mang tại công ty chuyên về an toàn và bảo mật AI Alice của Israel, nhận định AI có thể đẩy nhanh quá trình nghiên cứu, nhưng phần khó nhất vẫn là xác định những cách thức tấn công có thể khiến hệ thống mất an toàn. Vì vậy, kinh nghiệm, trực giác và khả năng tìm ra những phương thức tấn công mới vẫn đóng vai trò quan trọng.
Alice, trước đây mang tên ActiveFence, hiện có khoảng 150 chuyên gia làm việc trong các lĩnh vực nghiên cứu an ninh, nghiên cứu đối kháng và tình báo mối đe dọa. Nhóm này kiểm thử các mô hình, tác nhân AI (AI agent) và ứng dụng nhằm phát hiện những nguy cơ như “jailbreak” - tìm cách vượt qua cơ chế bảo vệ của mô hình, tấn công chèn chỉ dẫn (prompt injection), rò rỉ dữ liệu và các hình thức thao túng AI khác.
Một thay đổi đáng chú ý là các chuyên gia ngày càng chủ động tìm kiếm nguy cơ AI. Thay vì chờ một hình thức tấn công mới lan rộng, các chuyên gia theo dõi những kỹ thuật mới được chia sẻ trên các nền tảng trực tuyến và diễn đàn ngầm, phân tích cách thức hoạt động rồi thử nghiệm trên các mô hình AI để xem những kỹ thuật này có thể vượt qua cơ chế bảo vệ hay không.
Alice đã phát triển công cụ Rabbit Hole để theo dõi các kỹ thuật tấn công mới trên Telegram, Discord và các diễn đàn thuộc mạng web ngầm (dark web). Công cụ này xác định từng phương thức tấn công rồi thử nghiệm trên các mô hình AI hàng đầu, giúp chuyên gia sớm đánh giá nguy cơ và nghiên cứu biện pháp phòng vệ.
Theo ông Fizitzky, nhiều lỗ hổng mà các nhà nghiên cứu phát hiện không được công bố vì lý do an ninh, trong khi một số có khả năng ảnh hưởng tới hàng tỷ người dùng nếu bị các đối tượng xấu phát hiện và khai thác. Trong một trường hợp gần đây, nhóm nghiên cứu đã tìm thấy lỗ hổng có thể cho phép kẻ tấn công chiếm quyền kiểm soát tài khoản người dùng trên một sản phẩm phổ biến. Nhóm lập tức thông báo cho đơn vị vận hành để khắc phục, song công ty không công bố tên sản phẩm cũng như chi tiết kỹ thuật của lỗ hổng.
Sự phát triển của AI cũng mở rộng phạm vi nghiên cứu an ninh từ phần mềm truyền thống sang chính các mô hình và hệ thống AI. Ngoài việc tìm lỗi mã nguồn, chuyên gia phải tìm hiểu cách mô hình phản ứng trước các chỉ dẫn bất thường, dữ liệu cố tình được tạo ra để đánh lừa AI hoặc những chuỗi tương tác liên tiếp có thể khiến hệ thống tiết lộ thông tin, vượt qua giới hạn an toàn hay thực hiện hành động ngoài dự kiến.
Ông Fizitzky cho rằng AI sẽ đóng vai trò hỗ trợ hiệu quả, nhưng khó thay thế hoàn toàn chuyên gia an ninh mạng. Máy móc có thể tự động hóa việc phân tích lượng lớn dữ liệu, thử nghiệm nhiều cách tấn công và rà soát hệ thống nhanh hơn con người nhưng việc đặt ra câu hỏi đúng, suy đoán cấu trúc bên trong của một hệ thống và nghĩ ra phương thức phá vỡ những lớp bảo vệ mới vẫn phụ thuộc nhiều vào khả năng sáng tạo của con người.
AI đang thúc đẩy một cuộc chạy đua mới trong an ninh mạng khi cả bên tấn công và bên phòng thủ đều có thể dùng công nghệ này để tăng tốc. Lợi thế vì vậy ngày càng phụ thuộc vào khả năng phát hiện sớm những phương thức tấn công mới và kịp thời xây dựng biện pháp bảo vệ trước khi các đối tượng xấu khai thác lỗ hổng trên diện rộng./.
Rào cản lớn nhất của đổi mới sáng tạo tại Việt Nam không hẳn nằm ở khoảng cách công nghệ mà ở khả năng đưa công nghệ ra thị trường, kết nối dự án với nguồn vốn và chuyển hóa tiềm năng thành giá trị kinh tế.
Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo (AI) và an ninh mạng kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình AI có khả năng thực hiện các hoạt động tấn công mạng, nhằm hạn chế nguy cơ ảnh hưởng đến hạ tầng trọng yếu.
Ngày 13/10, Tổng Giám đốc Cơ quan An ninh nội địa Anh (MI5) Ken McCallum cảnh báo trí tuệ nhân tạo (AI) đang làm thay đổi các nguy cơ an ninh mà nước này phải đối mặt, trong đó có khả năng làm gia tăng mức độ nguy hiểm của các loại vũ khí sinh học hiện có hoặc tạo điều kiện phát triển những loại vũ khí mới.
Anthropic cảnh báo các mô hình trí tuệ nhân tạo (AI) cỡ nhỏ có thể sớm đạt khả năng tự sao chép và phát tán sang các thiết bị kết nối Internet. Kịch bản này làm dấy lên lo ngại về khả năng kiểm soát AI, đặc biệt nếu công nghệ bị lợi dụng để phát tán mã độc hoặc thực hiện các cuộc tấn công mạng.
Từ việc tra cứu thủ tục, chuẩn bị hồ sơ đến tìm hiểu cách thức nộp dịch vụ công trực tuyến, robot trí tuệ nhân tạo (robot AI) đang được triển khai tại nhiều xã, phường tỉnh Lâm Đồng, mở thêm kênh hỗ trợ người dân tiếp cận thông tin hành chính.
Tập đoàn điện tử Samsung Electronics của Hàn Quốc đang đẩy mạnh ứng dụng trí tuệ nhân tạo (AI) trong các lĩnh vực tiêu dùng và công nghệ bán dẫn, thông qua việc giới thiệu hệ sinh thái thiết bị nhà bếp thông minh tại một sự kiện ẩm thực quốc tế ở Incheon, đồng thời công bố chiến lược phát triển bộ nhớ thế hệ mới phục vụ nhu cầu xử lý dữ liệu AI tại Mỹ.
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Từ quán cà phê tự động đến sân khấu robot hình người, các công ty khởi nghiệp Hàn Quốc đang mở rộng ứng dụng trí tuệ nhân tạo sang lĩnh vực dịch vụ và giải trí, tìm kiếm nguồn doanh thu ngoài sản xuất công nghiệp.
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
Chuyển đổi số không chỉ là ứng dụng công nghệ vào đời sống, mà còn bắt đầu từ việc hình thành tư duy sáng tạo và khả năng làm chủ công nghệ của thế hệ trẻ. Tại Bắc Ninh, thông qua những sân chơi khoa học, công nghệ, nhiều ý tưởng sáng tạo của học sinh đã được khơi dậy, phát triển và từng bước ứng dụng vào thực tiễn.
