Pháp đề xuất kiểm soát nguy cơ lệ thuộc AI tạo sinh
Sự phát triển nhanh chóng của AI tạo sinh không chỉ tiềm ẩn nguy cơ làm suy giảm khả năng tư duy độc lập, gây lệ thuộc về cảm xúc mà còn có thể bị doanh nghiệp khai thác để trục lợi thương mại. Trước những rủi ro này, nhóm chuyên gia Pháp đã đề xuất 18 khuyến nghị nhằm tăng cường kiểm soát các ứng dụng AI, đặc biệt là bảo vệ trẻ em và những nhóm người dùng dễ bị tổn thương.

Theo phóng viên TTXVN tại Paris, trí tuệ nhân tạo (AI) tạo sinh có thể khiến người dùng lệ thuộc về tư duy và cảm xúc, đồng thời tạo điều kiện để doanh nghiệp khai thác các điểm yếu tâm lý nhằm thu lợi thương mại. Đây là cảnh báo trong báo cáo do nhóm chuyên gia Pháp trình Tổng thống Emmanuel Macron ngày 10/11, đề xuất tăng cường kiểm soát các ứng dụng AI, đặc biệt để bảo vệ trẻ em và những người dễ bị tổn thương.
Theo Điện Élysée, báo cáo mang tên “Bảo vệ mà không ngăn cản: Những nguy cơ dễ bị tổn thương trong thời đại AI tạo sinh” do 9 chuyên gia thuộc Hội đồng Trí tuệ nhân tạo và Công nghệ số Pháp xây dựng, trên cơ sở 55 cuộc tham vấn với các nhà nghiên cứu, chuyên gia y tế, doanh nghiệp công nghệ và tổ chức bảo vệ trẻ em.
Báo cáo cảnh báo việc giao ngày càng nhiều hoạt động suy nghĩ, đánh giá và ra quyết định cho AI có thể làm suy giảm khả năng tư duy độc lập. Trong khi đó, các ứng dụng có khả năng trò chuyện như con người, thường xuyên đồng tình hoặc chiều theo người dùng, có thể tạo ra sự gắn bó và lệ thuộc về cảm xúc, đặc biệt ở trẻ em và thanh thiếu niên.
Ngoài ra, AI có thể thúc đẩy các hình thức bạo lực trên không gian mạng thông qua việc tạo và phát tán hình ảnh, video giả mạo, đồng thời làm gia tăng nguy cơ lan truyền thông tin sai lệch, thiên lệch. Đáng chú ý, các doanh nghiệp có thể khai thác phản ứng cảm xúc và đặc điểm tâm lý người dùng để thu lợi, chẳng hạn lồng ghép quảng cáo hoặc nội dung thương mại khó nhận biết vào câu trả lời của AI.
Trước những nguy cơ trên, nhóm chuyên gia đưa ra 18 khuyến nghị, trong đó đề xuất kiểm soát các tính năng dễ gây lệ thuộc, đánh giá tác động đối với người dùng trước khi đưa sản phẩm ra thị trường và tăng cường giám sát sau triển khai. Báo cáo cũng nhấn mạnh việc giáo dục kỹ năng sử dụng AI và tư duy phản biện từ sớm.
Ngày 10/11, Tổng thống Emmanuel Macron cũng bày tỏ quan điểm cần cấm những hình thức sử dụng AI gây nguy hiểm cho trẻ em, nhất là khi ảnh hưởng đến sức khỏe tinh thần và sự phát triển nhận thức. Tuy nhiên, các đề xuất của nhóm chuyên gia hiện mới dừng ở mức khuyến nghị, chưa phải những quy định cấm mới có hiệu lực. Báo cáo nhấn mạnh mục tiêu xây dựng cơ chế quản lý phù hợp, giúp người dân khai thác lợi ích của AI mà vẫn bảo đảm khả năng tư duy độc lập và quyền tự chủ./.
Tin cùng chuyên mục
Làm chủ công nghệ số, đáp ứng yêu cầu nhiệm vụ trên biển
Nhiều nước châu Âu và châu Á đối mặt làn sóng tấn công mạng
Trí tuệ nhân tạo: AI nhận diện “bẫy tử thần” trên biển
EU cảnh báo thiết bị gia dụng có thể trở thành mục tiêu của tin tặc
Các cuộc tấn công mạng nhằm vào hệ thống tủ lạnh tại hàng trăm siêu thị ở châu Âu đang làm dấy lên lo ngại về nguy cơ tin tặc mở rộng mục tiêu sang các thiết bị gia dụng kết nối Internet. Cơ quan An ninh mạng EU cảnh báo các nhà sản xuất cần chú trọng bảo đảm an ninh ngay từ khâu thiết kế sản phẩm, trong bối cảnh các mối đe dọa mạng ngày càng gia tăng.
Gia tăng các cuộc tấn công mạng tại Singapore
Các vụ tấn công mạng và rò rỉ dữ liệu liên tiếp xảy ra tại Singapore trong những ngày gần đây, ảnh hưởng đến nhiều lĩnh vực từ truyền thông, giáo dục, viễn thông đến hàng không và y tế. Diễn biến này làm gia tăng lo ngại về nguy cơ mất an toàn thông tin, đặt ra thách thức lớn đối với công tác bảo vệ dữ liệu cá nhân và an ninh mạng của Singapore trong bối cảnh công nghệ AI phát triển nhanh chóng.