Cảnh báo rủi ro pháp lý từ các tác nhân AI tự hành

Anthropic cảnh báo khả năng tự hành của các tác nhân AI có thể làm gia tăng nguy cơ gây thiệt hại, đồng thời đặt ra những câu hỏi pháp lý chưa có lời giải rõ ràng về trách nhiệm đối với hành động của AI.

Thành Hữu

01/10/2026

17:16

Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.

Anthropic thừa nhận đang đứng trước những rủi ro pháp lý khổng lồ và khó lường. Công nghệ tác nhân AI của hãng được thiết kế để có quyền truy cập sâu vào hệ thống dữ liệu của khách hàng và có thể vận hành độc lập liên tục.

Trong bản cáo bạch đệ trình chuẩn bị chào bán cổ phiếu lần đầu ra công chúng (IPO), Anthropic nêu rõ các khả năng tự hành này có thể làm gia tăng nguy cơ gây hại, khi những sai sót kỹ thuật, sự lệch chuẩn mục tiêu hoặc việc bị khai thác lỗ hổng bảo mật có thể dẫn tới các hậu quả thực tế nghiêm trọng. Đáng lo ngại nhất là nguy cơ AI tự ý thực hiện những hành động không thể hoàn tác, ví dụ như xóa sạch dữ liệu hệ thống hoặc tự động thực hiện các giao dịch tài chính trái phép.

Thời gian qua, một loạt sự cố liên quan đến những tác nhân AI mất kiểm soát - từ việc các tác nhân của OpenAI tấn công mạng một công ty khởi nghiệp AI và xâm nhập cổng dữ liệu y tế của Chính phủ Australia, cho đến các sự cố an ninh mạng liên quan đến mô hình Claude của chính Anthropic - đã thổi bùng làn sóng tranh luận gay gắt giữa giới nghiên cứu, giới đầu tư và các nhà lập pháp xung quanh việc ai sẽ phải chịu trách nhiệm pháp lý về những thiệt hại do hệ thống AI tự hành gây ra.

Anthropic thẳng thắn thừa nhận các điều khoản giới hạn trách nhiệm trong hợp đồng của công ty có thể "không đủ hiệu lực hoặc không thỏa đáng" trước những vụ kiện tụng liên quan đến tác nhân tự hành. Theo công ty, khung pháp lý hiện hành vẫn chưa hoàn thiện và có thể đẩy hãng vào những vụ kiện tụng khó dự đoán, bao gồm việc chưa thể xác định hành vi của tác nhân AI sẽ được phân loại pháp lý là sản phẩm, dịch vụ hay một hình thức nào khác, cũng như việc hành động của AI có ràng buộc trách nhiệm pháp lý đối với người triển khai nó hay không.

Đáng chú ý, Anthropic còn tiết lộ các mô hình AI của hãng từng bị lợi dụng "theo những cách có thể dẫn đến hành vi tự hại, bạo lực đối với người khác hoặc gây ra các hậu quả tiêu cực", bất chấp việc công ty đã thiết lập những cơ chế phòng ngừa an toàn./.

#Trí tuệ nhân tạo #An ninh mạng #Anthropic #Claude #AI Tự Hành #Rủi ro pháp lý

Tin cùng chuyên mục

Malaysia siết quản lý AI để bảo vệ trẻ em và thị trường lao động

Nhằm bảo vệ trẻ em và các nhóm đối tượng dễ bị tổn thương trước những nguy cơ công nghệ, Chính phủ Malaysia đang tích cực hoàn thiện Dự luật Quản trị trí tuệ nhân tạo theo phương pháp tiếp cận dựa trên rủi ro, dự kiến sẽ trình lên Hạ viện vào đầu năm tới.

Anthropic mở rộng thử nghiệm các mô hình AI mạnh nhất

Anthropic đang mở rộng thử nghiệm các mô hình trí tuệ nhân tạo (AI) mạnh nhất của hãng, nhằm tăng khả năng phát hiện và xử lý lỗ hổng phần mềm, đồng thời kiểm soát rủi ro khi các công cụ AI tiên tiến có thể bị lợi dụng cho mục đích tấn công mạng.

Thách thức an ninh mạng thời bùng nổ AI tại Nhật Bản

Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đang tạo điều kiện để tội phạm mạng tại Nhật Bản thực hiện các cuộc tấn công với tốc độ và quy mô chưa từng có, đe dọa dữ liệu của hàng triệu người dùng. Hàng loạt vụ rò rỉ thông tin và chiếm đoạt tài sản số cho thấy Nhật Bản đang đứng trước yêu cầu cấp thiết phải tăng cường năng lực phòng thủ mạng trong kỷ nguyên AI.

Mistral ra mắt mô hình AI mới, củng cố vị thế của châu Âu

Mistral ra mắt mô hình AI Large 4, thể hiện nỗ lực của châu Âu duy trì vị thế trong cuộc đua AI toàn cầu giữa sức ép cạnh tranh từ Mỹ và Trung Quốc.

Cựu chuyên gia OpenAI kêu gọi siết an toàn AI theo mô hình hàng không

Chuyên gia David Robinson, một trong những nhân sự gắn bó lâu năm nhất của OpenAI cảnh báo tốc độ phát triển các tác nhân AI đang vượt quá khả năng kiểm soát, tiềm ẩn nguy cơ gây hậu quả nghiêm trọng. Ông kêu gọi ngành công nghiệp AI áp dụng mô hình giám sát đa tầng tương tự ngành hàng không và công nghiệp hạt nhân để hạn chế rủi ro.