Theo UNICEF, một thế hệ trẻ em đang lớn lên trong một cuộc thử nghiệm toàn cầu, khi công nghệ AI đang được ứng dụng rộng rãi dù các cơ chế quản lý và bảo vệ chưa hoàn thiện.
Các nguyên đơn cáo buộc Meta vi phạm Đạo luật Bảo vệ quyền riêng tư trẻ em trực tuyến (COPPA), thu thập dữ liệu trẻ vị thành niên khi chưa có sự đồng ý của phụ huynh.
Chủ tịch Cơ quan Cảnh sát Hình sự Liên bang Đức cho biết công nghệ AI cũng cho phép tạo ra các nội dung xâm hại tình dục trẻ em từ những hình ảnh "tưởng như vô hại."
Bốn quốc gia Pháp, Tây Ban Nha, Kenya và Australia cùng 23 quốc gia và 8 cơ quan Liên hợp quốc công bố Lộ trình hành động 2026-2027 nhằm bảo vệ quyền lợi và sự an toàn của trẻ em trước các rủi ro từ công nghệ trí tuệ nhân tạo (AI).
Giới khoa học cảnh báo các chatbot AI có thể khiến trẻ em nhầm tưởng máy móc có cảm xúc như con người, từ đó làm mờ ranh giới giữa tương tác ảo và các mối quan hệ thực tế. Việc lạm dụng chatbot còn tiềm ẩn nguy cơ ảnh hưởng đến sức khỏe tâm thần và củng cố những nhận thức sai lệch ở người dùng.
Tác động ngày càng tăng của trí tuệ nhân tạo (AI) đối với con người, đặc biệt là trẻ em, đang làm dấy lên những lo ngại về những hệ lụy khó lường khi các biện pháp bảo vệ chưa theo kịp.