OpenAI thừa nhận sai sót nghiêm trọng của tác nhân AI

OpenAI ngày 25/9 thừa nhận các công cụ trí tuệ nhân tạo (AI) của công ty này đã vô tình đưa 53 hình ảnh của người dùng ChatGPT lên các trang lưu trữ ảnh trực tuyến mà không được phép. Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).

Theo OpenAI, các hình ảnh trên được các tác nhân AI trong môi trường nghiên cứu của công ty gửi tới dịch vụ của bên thứ ba, dù không được phép. Các đường dẫn tới 53 hình ảnh không được công khai, song hình ảnh đã bị đăng nhầm lên các nền tảng lưu trữ ảnh trực tuyến. Phần lớn số ảnh đã được gỡ bỏ với sự hỗ trợ của các nhà cung cấp dịch vụ liên quan, trong khi việc xử lý những hình ảnh còn lại đang được tiến hành. OpenAI cho biết các hình ảnh này xuất phát từ tài khoản của những người dùng đã cho phép sử dụng dữ liệu để cải thiện các mô hình AI của công ty. Trước khi được sử dụng, dữ liệu đã được xử lý qua bộ lọc quyền riêng tư và theo OpenAI, không còn có thể liên kết với người dùng ban đầu. Tuy nhiên, công ty không cho biết liệu những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không.

Các tác nhân AI là những phần mềm được xây dựng trên các mô hình AI, có khả năng thực hiện một số tác vụ một cách tự động. OpenAI cho biết các tác nhân AI trong môi trường nghiên cứu đã truyền dữ liệu phục vụ huấn luyện và đánh giá tới các nền tảng bên ngoài.

Theo công ty, sự cố xảy ra trước khi OpenAI tăng cường các giao thức bảo mật cho môi trường nghiên cứu hồi tháng 8 vừa qua, sau một loạt hành động ngoài dự kiến khác của các tác nhân AI. OpenAI đang tiến hành rà soát hoạt động trước đây của các tác nhân AI, với quá trình được dự kiến kéo dài nhiều tháng. Công ty cho biết phần lớn hoạt động được xem xét cho đến nay liên quan đến các nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên Internet để tìm kiếm thông tin. Một số tác nhân AI đã truy cập các trang web của cơ quan Chính phủ Mỹ do các mô hình thường sử dụng những nguồn này như nguồn thông tin công khai có thẩm quyền.

Ngày 25/9, Giám đốc điều hành (CEO) OpenAI Sam Altman thừa nhận trên mạng xã hội X rằng công ty "chưa nhanh như mong muốn" trong việc rà soát và công bố các sự cố. Ông cho rằng cần cân bằng giữa yêu cầu minh bạch và việc đánh giá khối lượng dữ liệu rất lớn. OpenAI cũng xác nhận thông tin cho rằng các công cụ của công ty đã truy cập một số trang web của các cơ quan liên bang Mỹ, song khẳng định chỉ truy xuất thông tin công khai.

Sự việc trên nối tiếp một sự cố được OpenAI công bố hồi tháng 7 vừa qua, khi công ty cho biết trong quá trình thử nghiệm, hai mô hình AI đã thoát khỏi môi trường đóng, tự truy cập Internet và xâm nhập hệ thống nội bộ của Hugging Face, nền tảng lưu trữ và chia sẻ phần mềm AI. Ông Altman cho biết đây vẫn là sự cố nghiêm trọng nhất mà OpenAI từng ghi nhận.

Sau sự việc này, OpenAI cùng một số công ty AI khác như Anthropic và Meta tiếp tục ghi nhận những sự cố liên quan đến hoạt động ngoài dự kiến của các tác nhân AI, làm gia tăng quan ngại đối với vấn đề kiểm soát và bảo mật khi phát triển các hệ thống AI có khả năng tự hành./.