Cảnh báo rủi ro pháp lý từ các tác nhân AI tự hành
Anthropic cảnh báo khả năng tự hành của các tác nhân AI có thể làm gia tăng nguy cơ gây thiệt hại, đồng thời đặt ra những câu hỏi pháp lý chưa có lời giải rõ ràng về trách nhiệm đối với hành động của AI.

Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.
Anthropic thừa nhận đang đứng trước những rủi ro pháp lý khổng lồ và khó lường. Công nghệ tác nhân AI của hãng được thiết kế để có quyền truy cập sâu vào hệ thống dữ liệu của khách hàng và có thể vận hành độc lập liên tục.
Trong bản cáo bạch đệ trình chuẩn bị chào bán cổ phiếu lần đầu ra công chúng (IPO), Anthropic nêu rõ các khả năng tự hành này có thể làm gia tăng nguy cơ gây hại, khi những sai sót kỹ thuật, sự lệch chuẩn mục tiêu hoặc việc bị khai thác lỗ hổng bảo mật có thể dẫn tới các hậu quả thực tế nghiêm trọng. Đáng lo ngại nhất là nguy cơ AI tự ý thực hiện những hành động không thể hoàn tác, ví dụ như xóa sạch dữ liệu hệ thống hoặc tự động thực hiện các giao dịch tài chính trái phép.

Thời gian qua, một loạt sự cố liên quan đến những tác nhân AI mất kiểm soát - từ việc các tác nhân của OpenAI tấn công mạng một công ty khởi nghiệp AI và xâm nhập cổng dữ liệu y tế của Chính phủ Australia, cho đến các sự cố an ninh mạng liên quan đến mô hình Claude của chính Anthropic - đã thổi bùng làn sóng tranh luận gay gắt giữa giới nghiên cứu, giới đầu tư và các nhà lập pháp xung quanh việc ai sẽ phải chịu trách nhiệm pháp lý về những thiệt hại do hệ thống AI tự hành gây ra.
Anthropic thẳng thắn thừa nhận các điều khoản giới hạn trách nhiệm trong hợp đồng của công ty có thể "không đủ hiệu lực hoặc không thỏa đáng" trước những vụ kiện tụng liên quan đến tác nhân tự hành. Theo công ty, khung pháp lý hiện hành vẫn chưa hoàn thiện và có thể đẩy hãng vào những vụ kiện tụng khó dự đoán, bao gồm việc chưa thể xác định hành vi của tác nhân AI sẽ được phân loại pháp lý là sản phẩm, dịch vụ hay một hình thức nào khác, cũng như việc hành động của AI có ràng buộc trách nhiệm pháp lý đối với người triển khai nó hay không.
Đáng chú ý, Anthropic còn tiết lộ các mô hình AI của hãng từng bị lợi dụng "theo những cách có thể dẫn đến hành vi tự hại, bạo lực đối với người khác hoặc gây ra các hậu quả tiêu cực", bất chấp việc công ty đã thiết lập những cơ chế phòng ngừa an toàn./.
Tin cùng chuyên mục
AI trong ngành tài chính - Lời cảnh báo của nước Anh
Truy tìm vũ khí của các vụ tấn công mạng
Nhật Bản ứng dụng AI cải thiện giao tiếp với phạm nhân nước ngoài
OpenAI, Google và Anthropic đối mặt vụ kiện yêu cầu ngừng phát triển AI tiên tiến
Ngày 12/11, một nhóm tổ chức phi lợi nhuận đã đệ đơn kiện các công ty OpenAI, Anthropic, Meta và Google thuộc tập đoàn Alphabet, bộ phận trí tuệ nhân tạo (AI) của SpaceX, đề nghị tòa án ngăn các doanh nghiệp này tiếp tục phát triển những mô hình AI tiên tiến nhất do lo ngại công nghệ này có thể gây nguy hiểm cho nhân loại.
AI đẩy nhanh tốc độ tấn công mạng, con người vẫn là mắt xích yếu
Tại hội thảo do công ty NetDiligence tổ chức ngày 10/11, sau khi công bố Báo cáo Bồi thường An ninh mạng thường niên, các chuyên gia trong ngành bảo hiểm nhận định trí tuệ nhân tạo (AI) đang làm tăng đáng kể tốc độ thực hiện các cuộc tấn công mạng, trong khi con người vẫn là mắt xích yếu nhất trong hệ thống an ninh của nhiều tổ chức.
Nhiều nước châu Âu và châu Á đối mặt làn sóng tấn công mạng
Pháp đề xuất kiểm soát nguy cơ lệ thuộc AI tạo sinh
Sự phát triển nhanh chóng của AI tạo sinh không chỉ tiềm ẩn nguy cơ làm suy giảm khả năng tư duy độc lập, gây lệ thuộc về cảm xúc mà còn có thể bị doanh nghiệp khai thác để trục lợi thương mại. Trước những rủi ro này, nhóm chuyên gia Pháp đã đề xuất 18 khuyến nghị nhằm tăng cường kiểm soát các ứng dụng AI, đặc biệt là bảo vệ trẻ em và những nhóm người dùng dễ bị tổn thương.
EU cảnh báo thiết bị gia dụng có thể trở thành mục tiêu của tin tặc
Các cuộc tấn công mạng nhằm vào hệ thống tủ lạnh tại hàng trăm siêu thị ở châu Âu đang làm dấy lên lo ngại về nguy cơ tin tặc mở rộng mục tiêu sang các thiết bị gia dụng kết nối Internet. Cơ quan An ninh mạng EU cảnh báo các nhà sản xuất cần chú trọng bảo đảm an ninh ngay từ khâu thiết kế sản phẩm, trong bối cảnh các mối đe dọa mạng ngày càng gia tăng.
Gia tăng các cuộc tấn công mạng tại Singapore
Các vụ tấn công mạng và rò rỉ dữ liệu liên tiếp xảy ra tại Singapore trong những ngày gần đây, ảnh hưởng đến nhiều lĩnh vực từ truyền thông, giáo dục, viễn thông đến hàng không và y tế. Diễn biến này làm gia tăng lo ngại về nguy cơ mất an toàn thông tin, đặt ra thách thức lớn đối với công tác bảo vệ dữ liệu cá nhân và an ninh mạng của Singapore trong bối cảnh công nghệ AI phát triển nhanh chóng.