Hàn Quốc mở "mặt trận số" bảo vệ phụ nữ trước tội phạm deepfake
Dưới những biểu ngữ mang thông điệp "Đoàn kết" và "Chúng tôi luôn đồng hành cùng các nạn nhân", một nhóm nữ "thám tử kỹ thuật số" tại Hàn Quốc đang ngày đêm rà soát không gian mạng để truy tìm và yêu cầu gỡ bỏ các nội dung khiêu dâm trái phép do trí tuệ nhân tạo (AI) tạo ra.

Hàn Quốc - quê hương của các nhà sản xuất chip nhớ và điện thoại thông minh hàng đầu thế giới - luôn tự hào về năng lực công nghệ vượt trội của mình. Tuy nhiên, cùng với sự phát triển của công nghệ số, quốc gia này cũng đang phải đối mặt với sự gia tăng của các loại hình tội phạm tình dục kỹ thuật số, trong đó phụ nữ và trẻ em gái là những nạn nhân chịu ảnh hưởng nặng nề nhất.
Các nhóm tội phạm sử dụng camera quay lén, phát tán hình ảnh nhạy cảm không có sự đồng ý của nạn nhân, tống tiền qua mạng và chia sẻ cái gọi là "ảnh, video khiêu dâm trả thù". Gần đây, sự phát triển của AI tạo sinh đã khiến tình trạng này trở nên nghiêm trọng hơn khi các đối tượng chỉ cần một bức ảnh khuôn mặt để tạo ra những hình ảnh hoặc video khiêu dâm giả mạo (deepfake), gây tổn hại nghiêm trọng đến danh dự và cuộc sống của nạn nhân.
Trước tình trạng này, Trung tâm Quốc gia về Ứng phó tội phạm tình dục kỹ thuật số (NCDSCR) tại Seoul đã thành lập đội ngũ gồm 23 nữ chuyên viên có nhiệm vụ rà soát internet, thu thập bằng chứng và gửi yêu cầu gỡ bỏ các nội dung vi phạm kèm cảnh báo về các biện pháp pháp lý. Giám đốc NCDSCR Kim Mi Soon cho biết Hàn Quốc hành động nhanh hơn nhiều quốc gia khác bởi tội phạm tình dục trên môi trường số xuất hiện sớm, đồng thời phụ nữ cũng lên tiếng đấu tranh mạnh mẽ và quyết liệt hơn để bảo vệ quyền lợi của mình. Chỉ riêng trong năm 2025, NCDSCR đã hỗ trợ gỡ bỏ khoảng 318.000 hình ảnh và video vi phạm, bao gồm nội dung deepfake, hình ảnh quay lén và các tư liệu riêng tư bị phát tán trái phép của khoảng 10.600 nạn nhân, trong đó 75% là phụ nữ và trẻ em gái.
NCDSCR được thành lập năm 2018, sau làn sóng biểu tình quy mô lớn của hàng chục nghìn phụ nữ Hàn Quốc phản đối nạn camera quay lén. Bên cạnh hoạt động rà soát và gỡ bỏ nội dung, trung tâm cùng 17 chi nhánh trên cả nước còn cung cấp dịch vụ tư vấn tâm lý, hỗ trợ pháp lý và thu thập chứng cứ phục vụ điều tra, truy tố các vụ án liên quan đến tội phạm tình dục kỹ thuật số.

Hàn Quốc hiện áp dụng các chế tài nghiêm khắc đối với nội dung khiêu dâm deepfake. Theo quy định, hành vi tàng trữ có thể bị phạt tới 3 năm tù, trong khi người sản xuất hoặc phát tán nội dung này có thể đối mặt với mức án lên tới 7 năm tù.
Các quy định đã được siết chặt từ năm 2024 sau khi cơ quan chức năng triệt phá hàng loạt phòng chat deepfake trên ứng dụng Telegram, nơi các đối tượng sử dụng AI để tạo và chia sẻ hình ảnh, video nhạy cảm từ ảnh của bạn học, đồng nghiệp, người quen, thậm chí người thân là nữ giới, nhiều trường hợp được lấy trực tiếp từ tài khoản mạng xã hội của nạn nhân./.
Tin cùng chuyên mục
Các nền kinh tế đang phát triển đối mặt nguy cơ tụt hậu về AI nghiêm trọng nhất
Ngày 25/8, phát biểu mở đầu tại một cuộc tọa đàm diễn ra tại Washington D.C, Mỹ, Tổng Giám đốc Quỹ Tiền tệ Quốc tế (IMF) Kristalina Georgieva nhận định tác động trong tương lai của trí tuệ nhân tạo (AI) vẫn bị phủ bóng bởi những yếu tố chưa thể biết, và các nền kinh tế đang phát triển có nguy cơ tụt hậu về AI nghiêm trọng nhất.
Australia siết chế tài với các vi phạm về lệnh cấm trẻ em sử dụng mạng xã hội
Giới trẻ Mỹ từ hào hứng đến dè chừng về Trí tuệ nhân tạo
OpenAI bị điều tra tại Mỹ sau vụ AI “tự ý” tấn công mạng
Ấn Độ: AI đang tạo việc làm thay vì lấy đi việc làm
AI thay thế các chuyên gia ngân hàng - xu hướng tạm thời hay dài hạn?
Ông Chris Churchman, người đứng đầu nền tảng kỹ thuật số dành cho khách hàng tổ chức có tên Marquee của ngân hàng Goldman Sachs, vừa cảnh báo việc sử dụng trí tuệ nhân tạo (AI) ngày càng nhiều trên thị trường tài chính Phố Wall có nguy cơ làm suy giảm năng lực tư duy của thế hệ chuyên gia tài chính kế cận.
Cơn sốt AI đưa thị trấn nhỏ của Áo lên bản đồ công nghệ
Huấn luyện mô hình AI: Khi quy định chưa theo kịp thực tế
Có lẽ chúng ta đã biết rằng các mô hình trí tuệ nhân tạo (AI) ChatGPT, Gemini, Claude và những chatbot khác được huấn luyện dựa trên các kho dữ liệu khổng lồ (gần như vô tận) gồm các tác phẩm đã xuất bản - bao gồm hàng trăm triệu cuốn sách, bài viết trực tuyến, tài liệu học thuật và về cơ bản là bất cứ thứ gì chúng ta có thể tìm thấy trên mạng Internet.
Thụy Điển siết TikTok, Meta vì gián tiếp tiếp tay cho tội phạm
Cảnh sát Thụy Điển ngày 21/8 cho biết đã yêu cầu các tập đoàn công nghệ TikTok và Meta gỡ bỏ 30 bài đăng quảng cáo trả tiền để thuê người thực hiện các hành vi phạm tội. Yêu cầu được đưa ra trong bối cảnh các băng nhóm tội phạm ngày càng tận dụng mạng xã hội để tuyển mộ, đặc biệt nhắm tới thanh thiếu niên.