Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Trí tuệ nhân tạo (AI) đang giúp các chuyên gia an ninh mạng phân tích hệ thống và phát hiện điểm yếu nhanh hơn nhưng đồng thời cũng đẩy nhanh việc tạo ra những phương thức tấn công mới, buộc các nhóm nghiên cứu phải liên tục tìm cách phát hiện lỗ hổng trước khi chúng bị khai thác trên quy mô lớn.
Phóng viên TTXVN tại Tel Aviv dẫn lời ông Roey Fizitzky, Phó Chủ tịch phụ trách nghiên cứu an ninh mang tại công ty chuyên về an toàn và bảo mật AI Alice của Israel, nhận định AI có thể đẩy nhanh quá trình nghiên cứu, nhưng phần khó nhất vẫn là xác định những cách thức tấn công có thể khiến hệ thống mất an toàn. Vì vậy, kinh nghiệm, trực giác và khả năng tìm ra những phương thức tấn công mới vẫn đóng vai trò quan trọng.
Alice, trước đây mang tên ActiveFence, hiện có khoảng 150 chuyên gia làm việc trong các lĩnh vực nghiên cứu an ninh, nghiên cứu đối kháng và tình báo mối đe dọa. Nhóm này kiểm thử các mô hình, tác nhân AI (AI agent) và ứng dụng nhằm phát hiện những nguy cơ như “jailbreak” - tìm cách vượt qua cơ chế bảo vệ của mô hình, tấn công chèn chỉ dẫn (prompt injection), rò rỉ dữ liệu và các hình thức thao túng AI khác.
Một thay đổi đáng chú ý là các chuyên gia ngày càng chủ động tìm kiếm nguy cơ AI. Thay vì chờ một hình thức tấn công mới lan rộng, các chuyên gia theo dõi những kỹ thuật mới được chia sẻ trên các nền tảng trực tuyến và diễn đàn ngầm, phân tích cách thức hoạt động rồi thử nghiệm trên các mô hình AI để xem những kỹ thuật này có thể vượt qua cơ chế bảo vệ hay không.
Alice đã phát triển công cụ Rabbit Hole để theo dõi các kỹ thuật tấn công mới trên Telegram, Discord và các diễn đàn thuộc mạng web ngầm (dark web). Công cụ này xác định từng phương thức tấn công rồi thử nghiệm trên các mô hình AI hàng đầu, giúp chuyên gia sớm đánh giá nguy cơ và nghiên cứu biện pháp phòng vệ.
Theo ông Fizitzky, nhiều lỗ hổng mà các nhà nghiên cứu phát hiện không được công bố vì lý do an ninh, trong khi một số có khả năng ảnh hưởng tới hàng tỷ người dùng nếu bị các đối tượng xấu phát hiện và khai thác. Trong một trường hợp gần đây, nhóm nghiên cứu đã tìm thấy lỗ hổng có thể cho phép kẻ tấn công chiếm quyền kiểm soát tài khoản người dùng trên một sản phẩm phổ biến. Nhóm lập tức thông báo cho đơn vị vận hành để khắc phục, song công ty không công bố tên sản phẩm cũng như chi tiết kỹ thuật của lỗ hổng.
Sự phát triển của AI cũng mở rộng phạm vi nghiên cứu an ninh từ phần mềm truyền thống sang chính các mô hình và hệ thống AI. Ngoài việc tìm lỗi mã nguồn, chuyên gia phải tìm hiểu cách mô hình phản ứng trước các chỉ dẫn bất thường, dữ liệu cố tình được tạo ra để đánh lừa AI hoặc những chuỗi tương tác liên tiếp có thể khiến hệ thống tiết lộ thông tin, vượt qua giới hạn an toàn hay thực hiện hành động ngoài dự kiến.
Ông Fizitzky cho rằng AI sẽ đóng vai trò hỗ trợ hiệu quả, nhưng khó thay thế hoàn toàn chuyên gia an ninh mạng. Máy móc có thể tự động hóa việc phân tích lượng lớn dữ liệu, thử nghiệm nhiều cách tấn công và rà soát hệ thống nhanh hơn con người nhưng việc đặt ra câu hỏi đúng, suy đoán cấu trúc bên trong của một hệ thống và nghĩ ra phương thức phá vỡ những lớp bảo vệ mới vẫn phụ thuộc nhiều vào khả năng sáng tạo của con người.
AI đang thúc đẩy một cuộc chạy đua mới trong an ninh mạng khi cả bên tấn công và bên phòng thủ đều có thể dùng công nghệ này để tăng tốc. Lợi thế vì vậy ngày càng phụ thuộc vào khả năng phát hiện sớm những phương thức tấn công mới và kịp thời xây dựng biện pháp bảo vệ trước khi các đối tượng xấu khai thác lỗ hổng trên diện rộng./.
OpenAI thông báo sẽ siết chặt việc cung cấp thông tin về vũ khí trên ChatGPT đối với người dùng dưới 18 tuổi, đồng thời tăng cường giám sát các cuộc trò chuyện có dấu hiệu liên quan đến bạo lực. Các biện pháp mới nhằm hạn chế nguy cơ gây hại ngoài đời thực, bảo vệ thanh thiếu niên và nâng cao trách nhiệm của các nền tảng AI đối với an toàn người dùng.
OpenAI, Google, Microsoft và Anthropic cam kết triển khai cơ chế chung, cho phép các cơ quan báo chí và chủ sở hữu website từ chối sử dụng nội dung để huấn luyện AI. Sáng kiến được kỳ vọng tăng quyền kiểm soát của các nhà xuất bản đối với nội dung trên môi trường số, trong bối cảnh tranh chấp về thu thập dữ liệu và các vụ kiện liên quan đến bản quyền ngày càng gia tăng.
Giáo dục an toàn số cho trẻ em vùng dân tộc thiểu số và miền núi cần được địa phương hóa, phát huy vai trò chủ động của chính học sinh và xây dựng mạng lưới hỗ trợ bền vững tại cộng đồng.
AI có thể viết một câu chuyện giống hệt trải nghiệm của bạn, bắt chước cảm xúc, nỗi sợ và cả những điều thầm kín. Nhưng liệu chúng ta có đủ tinh ý để nhận ra đâu là người thật, đâu là trí tuệ nhân tạo? “Ngoài dữ liệu” – Cuộc thử nghiệm thú vị giữa con người và AI, nơi cảm xúc thật đối đầu với những câu trả lời hoàn hảo.
Ước tính khoảng 6,36 tỷ USD bị đánh cắp khỏi Binance - sàn giao dịch tiền mã hóa lớn nhất thế giới xét theo khối lượng giao dịch, phần lớn chỉ trong 20 phút. Vụ việc khiến giới chức Mỹ vào cuộc điều tra và các sàn tiền mã hóa khẩn trương củng cố hàng rào bảo mật.
Theo phóng viên TTXVN tại Berlin, máy tính lượng tử và trí tuệ nhân tạo (AI) có thể đe dọa các phương pháp mã hóa dữ liệu hiện nay. Trước nguy cơ này, Đức đang thử nghiệm mạng lượng tử QuNET nhằm tăng cường bảo mật thông tin.
Theo phóng viên TTXVN tại Nam Phi, Hội đồng Nghiên cứu Khoa học và Công nghiệp Nam Phi (CSIR) vừa phát đi lời kêu gọi các đối tác tăng cường hợp tác ứng dụng công nghệ để ngăn chặn vấn nạn thông tin sai lệch. Động thái này diễn ra trong bối cảnh trí tuệ nhân tạo (AI) đang làm thay đổi hoàn toàn cách thức tạo lập, chia sẻ và tiếp nhận thông tin, đặc biệt là nguy cơ thao túng dư luận trước thềm các
Sáng 29/10, Dự án truyền thông cộng đồng “CyberZ - Tiên phong phòng trừ lừa đảo” chính thức được phát động tại Trường Đại học Điện lực, Hà Nội, cùng sự hưởng ứng của sinh viên tại Đà Nẵng và TP. Hồ Chí Minh.
Bang New York của Mỹ vừa ban hành luật cấm các chatbot đồng hành sử dụng những tính năng trí tuệ nhân tạo (AI) bị coi là không an toàn khi tương tác với người dưới 18 tuổi. Động thái này đánh dấu bước đi mới trong nỗ lực của các bang nhằm kiểm soát hoạt động của chatbot và bảo vệ trẻ em trước những rủi ro từ AI.
Công ty công nghệ Google thuộc tập đoàn Alphabet vừa công bố mô hình trí tuệ nhân tạo (AI) thế hệ mới Gemini 4 Carbon, tập trung vào lập trình và an ninh mạng, trong bối cảnh cạnh tranh với OpenAI và Anthropic ngày càng gia tăng.
