Trường đại học hàng đầu Trung Quốc thay đổi cách dùng AI

Theo phóng viên TTXVN tại Hong Kong, trước đó, sinh viên trường này nhận được thông báo về việc nhà trường sẽ bắt đầu áp dụng hệ thống “lớp học thông minh” – vừa được nâng cấp trong kỳ nghỉ hè để ghi nhận tỷ lệ chuyên cần liên tục trong một tuần. Làn sóng phản đối bùng lên dữ dội khi các ảnh chụp màn hình bị rò rỉ trên mạng xã hội cho thấy phần mềm AI hoạt động theo thời gian thực: hình ảnh camera trực tiếp trong giảng đường được đồng bộ với dữ liệu phân tích tình trạng đi muộn, sĩ số có mặt và đặc biệt là “tỷ lệ ngẩng đầu” nhằm kiểm tra mức độ tập trung của người học.

Tỷ lệ ngẩng đầu là chỉ số thuật toán dùng để đánh giá liệu sinh viên có đang chủ động lắng nghe bài giảng hay không, thay vì gục đầu ngủ gật hoặc nhìn chằm chằm vào điện thoại và máy tính xách tay. Các hình ảnh này đã nhanh chóng lan truyền với tốc độ chóng mặt, làm dấy lên cuộc tranh cãi lớn về quyền riêng tư trong khuôn viên trường học, tính đạo đức của việc giám sát bằng thuật toán cũng như sự can thiệp quá mức của AI vào đời sống học đường.

Trước sức ép dư luận, Đại học Nam Kinh đã nhanh chóng lên tiếng giải thích. Trong thông cáo chính thức đăng trên mạng xã hội ngày 4/11, nhà trường khẳng định hình ảnh bị rò rỉ thực chất được chụp trong quá trình thử nghiệm hệ thống tại một khuôn viên của trường hồi tháng 5. Đại học Nam Kinh cam kết: “Khi chưa có sự đồng thuận, hệ thống lớp học thông minh không thu thập dữ liệu khuôn mặt hay dữ liệu sinh trắc học khác, đồng thời không thực hiện nhận diện khuôn mặt trong các hoạt động giảng dạy”. Nhà trường cũng xác nhận hệ thống không còn tính toán tỷ lệ ngẩng đầu của sinh viên.

Tuy nhiên, truyền thông địa phương cho biết một số giảng viên khi thông báo triển khai hệ thống vào tuần đầu tiên của tháng 11 đã cảnh báo trong nhóm trò chuyện rằng dữ liệu chuyên cần từ AI sẽ ảnh hưởng trực tiếp đến điểm rèn luyện, thậm chí sinh viên có thể bị cấm thi nếu vi phạm.

Hồ sơ mời thầu trước đó trên trang web của trường cho thấy dự án nâng cấp hệ thống lớp học thông minh này có trị giá hơn 30 triệu nhân dân tệ (khoảng 4,5 triệu USD), bao gồm việc lắp đặt thiết bị tại hơn 100 phòng học và nhiều khu vực công cộng. Hệ thống kết hợp camera giảng đường với thuật toán AI có khả năng nhận diện khuôn mặt và đếm đám đông, cho phép tự động điểm danh và giám sát mức độ chú ý của sinh viên.

Nhiều sinh viên bày tỏ lo ngại về nguy cơ dữ liệu sinh trắc học cá nhân không chỉ nằm trong tay nhà trường mà còn có thể bị rò rỉ sang các công ty công nghệ tư nhân, nhất là khi việc triển khai chưa hề có sự chấp thuận của người học. Một giảng viên của trường cho biết việc thu thập dữ liệu này thực chất “hướng tới việc giám sát chất lượng giảng dạy của giảng viên” hơn là nhắm vào từng cá nhân sinh viên, song bày tỏ bức xúc trước thực trạng sinh viên hiện nay quá phụ thuộc vào thiết bị điện tử, gây ảnh hưởng tiêu cực tới không khí học tập và thể hiện sự thiếu tôn trọng người đứng lớp.

Vụ việc tại Đại học Nam Kinh phản ánh mối quan ngại ngày càng gia tăng trên khắp Trung Quốc trước xu hướng ứng dụng AI thiếu minh bạch để giám sát hành vi và kết quả học tập. Câu hỏi đặt ra về tính cần thiết của dự án, đồng thời cảnh báo việc thiếu minh bạch và áp dụng các thang đo dữ liệu lớn đối với hoạt động của con người tiềm ẩn nguy cơ biến công nghệ thành “công cụ giám sát quy mô lớn”, gây xói mòn lòng tin và tạo ra sự phân biệt đối xử trong xã hội./.