Giải pháp công nghệ trong cuộc chiến chống tin giả

Tại hội nghị bàn tròn trực tuyến về truyền thông do CSIR phối hợp với Hệ thống Thông tin và Truyền thông Chính phủ (GCIS) tổ chức mới đây, ông Avi Moodley, Trưởng nhóm nghiên cứu Xử lý ngôn ngữ tự nhiên (NLP) kiêm Chuyên gia trưởng về AI của CSIR, đã lên tiếng cảnh báo về tình trạng "nhiễu loạn thông tin". Sự xuất hiện ồ ạt của các video, đoạn ghi âm và hình ảnh do AI tạo ra đang làm mờ đi ranh giới giữa tính xác thực và thông tin giả mạo.

Ông Moodley nhấn mạnh rằng những bước tiến của công nghệ AI đã vô tình "công nghiệp hóa" việc phát tán thông tin sai lệch. Khả năng tạo ra các nội dung tổng hợp mang tính kích động cảm xúc đang khiến hệ sinh thái truyền thông bị quá tải. Người dân đang rơi vào trạng thái "mệt mỏi vì thông tin" và mất đi khả năng phán đoán. Do đó, các tổ chức không thể đơn độc trong nỗ lực này mà cần phải chia sẻ dữ liệu, cơ sở hạ tầng và nguồn lực tài chính để tạo ra một mạng lưới ứng phó đồng bộ.

Để đối phó với thách thức trên, CSIR đã xây dựng một quy trình giám sát công nghệ cao dành riêng cho các kỳ bầu cử. Hệ thống bắt đầu bằng việc quét các từ khóa định hình diễn ngôn bầu cử trên mạng xã hội. Khối lượng dữ liệu khổng lồ này sau đó được xử lý chuyên sâu bằng các dịch vụ NLP và đưa qua hệ thống phát hiện tin giả, nội dung kích động gây rối để tìm ra các tín hiệu cảnh báo sớm. Kết quả phân tích sẽ được tổng hợp vào các bảng điều khiển (dashboard) và chia sẻ theo thời gian thực cho các đối tác, trong đó có cả Cộng đồng Phát triển miền Nam châu Phi (SADC).

Đáng chú ý, CSIR hiện đang triển khai Dự án Trợ lý kiểm chứng tin giả. Công nghệ này không hướng tới người dùng phổ thông, mà đóng vai trò như công cụ đắc lực hỗ trợ lực lượng kiểm chứng thông tin trên tuyến đầu. Hệ thống sẽ tự động đánh giá dữ liệu, đối chiếu với các nguồn uy tín và truy xuất nguồn gốc. Kết hợp với một hệ thống phân loại tinh vi, công nghệ này giúp sàng lọc và ưu tiên xử lý các nội dung độc hại mang tính cấp bách.

Không dừng lại ở dữ liệu văn bản, CSIR đang tiến một bước dài khi phát triển công nghệ tìm kiếm nội dung âm thanh. Nam Phi là một quốc gia đa ngôn ngữ, khiến việc chuyển đổi toàn bộ tệp ghi âm thành văn bản để phân tích gặp rất nhiều trở ngại. Giải pháp mới của CSIR cho phép bỏ qua bước chuyển đổi này để tìm kiếm trực tiếp trên dữ liệu âm thanh một cách nhanh chóng. Giới chuyên gia đánh giá đây sẽ là bước đột phá trong việc xử lý các nội dung đa phương tiện đang bùng nổ cùng làn sóng AI.

Đại diện CSIR cho biết, cơ quan này sẽ tận dụng kỳ bầu cử chính quyền địa phương sắp tới như một môi trường thực tiễn để thử nghiệm các công nghệ mới, qua đó từng bước củng cố năng lực phòng vệ của quốc gia trước kỳ tổng tuyển cử tiếp theo./.