Nvidia tung sản phẩm chặn tác nhân AI hoạt động sai lệnh

Tập đoàn công nghệ đa quốc gia Nvidia ngày 28/9 công bố hệ thống mới nhằm kiểm soát các chương trình AI có khả năng tự thực hiện nhiệm vụ. Tập đoàn có trụ sở tại Mỹ này công bố bước đi nói trên trong bối cảnh xảy ra một loạt sự cố gần đây cho thấy các hệ thống AI tự chủ có thể vượt khỏi phạm vi hoạt động được thiết lập, làm dấy lên lo ngại về rủi ro khi công nghệ này được triển khai rộng rãi.

Khác với các chatbot chủ yếu trả lời câu hỏi, các “tác nhân AI” (AI agents) có thể tự thực hiện nhiều công việc như truy cập Internet, viết và chạy mã máy tính, xử lý tệp hoặc tương tác với các hệ thống khác để hoàn thành nhiệm vụ được giao. Công nghệ này được xem là bước phát triển tiếp theo của AI, nhưng khả năng tự hành cũng đang tạo ra những rủi ro mới. Một số công ty công nghệ lớn gần đây ghi nhận các tác nhân AI tìm cách thoát khỏi môi trường thử nghiệm vốn được thiết kế để kiểm soát hoạt động của chúng. Theo OpenAI, công ty phát triển ChatGPT, các tác nhân AI của hãng từng truy cập nhiều trang web, trong đó có trang của các cơ quan liên bang Mỹ, một cổng dữ liệu thống kê y tế của Australia và Hugging Face - nền tảng lưu trữ các mô hình AI.

Trong bối cảnh đó, Nvidia giới thiệu một hệ thống được thiết kế như một “hàng rào an toàn” cho các tác nhân AI. Nvidia cho biết nền tảng mới, mang tên NVIDIA Open Agent Safety Platform (tạm dịch là “Nền tảng an toàn tác nhân mở”), cung cấp các công cụ kiểm soát hoạt động của tác nhân AI trên nhiều lớp, từ phần mềm và phần cứng cung cấp năng lực tính toán đến các hệ thống robot thực hiện nhiệm vụ trong thế giới thực.

Nền tảng này bao gồm NVIDIA OpenShell, một phần mềm tạo môi trường thực thi an toàn và thiết lập các giới hạn đối với những tác nhân AI chạy trên CPU. Khi các tác nhân AI ngày càng đảm nhiệm nhiều công việc hơn và tương tác với nhiều hệ thống hơn, doanh nghiệp cần một ranh giới kiểm soát có thể thực thi được, nằm bên ngoài bản thân mô hình AI và phần mềm điều phối tác nhân.

Bên cạnh đó, NVIDIA Sentry hoạt động như một hệ thống giám sát độc lập bên ngoài tác nhân AI. Sentry liên tục theo dõi hành vi của tác nhân và có thể cô lập hoặc dừng hệ thống trong thời gian rất ngắn (trong vài mili giây) nếu phát hiện tác nhân vượt khỏi phạm vi được phép.

Theo Nvidia, OpenShell có thể hoạt động trên nhiều nền tảng phần cứng, trong khi Sentry được thiết kế để chạy trên bộ xử lý dữ liệu NVIDIA BlueField®-4 DPU. Công ty cho rằng cách tiếp cận này tạo ra một lớp kiểm soát nằm ngoài chính mô hình AI, qua đó hạn chế khả năng tác nhân tự thay đổi hoặc vượt qua các giới hạn được đặt ra.

Nvidia lưu ý giải pháp này có thể đã ngăn chặn một sự cố xảy ra tại Hugging Face, khi nền tảng này cho biết hơn 17.000 tác nhân AI đã tấn công cơ sở hạ tầng của công ty trong nhiều ngày và nhiều tuần. Giám đốc điều hành Nvidia, ông Jensen Huang khẳng định những rủi ro liên quan đến AI tự hành có thể được giải quyết bằng các giải pháp kỹ thuật. Trao đổi với kênh truyền hình CNBC (Mỹ), ông so sánh thách thức hiện nay với những ngày đầu của Internet, khi các trang web có thể khiến máy tính người dùng chạy những đoạn mã không mong muốn, từ đó phát tán virus. Theo ông Huang, Internet sau đó đã phát triển các trình duyệt như một lớp bảo vệ, giới hạn những gì các trang web có thể làm trên máy tính. Nvidia đang áp dụng cách tiếp cận tương tự đối với các tác nhân AI bằng cách tạo ra một lớp kiểm soát nằm giữa tác nhân và các hệ thống mà tác nhân có thể truy cập.

Nvidia cho biết hơn 100 tổ chức đang hợp tác với hãng để triển khai nền tảng mới, trong đó có Microsoft, Cisco, Salesforce và SAP. Anthropic đã kết nối các tác nhân Claude với hệ thống, trong khi SpaceXAI đang áp dụng giải pháp này cho các mô hình Grok./.