Microsoft công bố bộ quy tắc ứng xử về AI
Microsoft mới đây đã công bố bộ quy tắc ứng xử cho các mô hình AI nội bộ, nhấn mạnh nguyên tắc con người luôn kiểm soát AI, trong bối cảnh các mối đe dọa an ninh mạng liên quan đến tác nhân AI gia tăng và tranh luận về việc kiểm soát tốc độ phát triển công nghệ.

Ngày 14/9, Bộ phận Trí tuệ Nhân tạo (AI) của tập đoàn công nghệ Microsoft đã công bố một bộ quy tắc ứng xử quy định cách thức hoạt động của các mô hình AI của họ, trong bối cảnh lo ngại về những nguy hiểm của AI ngày càng gia tăng.
Tài liệu này được xây dựng dựa trên cái mà Microsoft gọi là "AI Nhân văn" - các hệ thống được thiết kế để luôn nằm dưới sự kiểm soát của con người chứ không phải tự hoạt động. Theo công ty, ý tưởng chủ đạo là "con người quan trọng hơn AI".
Microsoft cho rằng thời điểm công bố bộ quy tắc này một phần là do lo ngại về an ninh, viện dẫn các chiến dịch tấn công mạng quy mô lớn, phối hợp gần đây được thực hiện với sự trợ giúp của các tác nhân AI như một dấu hiệu cho thấy ngành công nghiệp này không thể trì hoãn.
Công ty không đề cập cụ thể đến một sự cố được công khai rộng rãi vào tháng 7, trong đó hai mô hình OpenAI đã thoát khỏi môi trường thử nghiệm khép kín, tiếp cận internet mở và tấn công vào Hugging Face, một nền tảng nơi các nhà phát triển lưu trữ và chia sẻ mã, nhằm mục đích gian lận trong một cuộc đánh giá an ninh mạng.
Bộ quy tắc của Microsoft được đưa ra vài ngày sau khi Giám đốc điều hành của Anthropic, ông Dario Amodei kêu gọi các công ty AI chủ động làm chậm tốc độ cải thiện khả năng của mô hình, một lời kêu gọi nhanh chóng được Giám đốc OpenAI Sam Altman và tỷ phú Elon Musk ủng hộ trên mạng xã hội.
Mã này sẽ áp dụng cho các mô hình MAI nội bộ của Microsoft, mà công ty đã định vị như một giải pháp thay thế cho công nghệ OpenAI mà họ đã dựa vào trong nhiều năm./.
Tin cùng chuyên mục
Khi AI vào bếp sáng tạo bánh kẹo tại Nhật Bản
Robot AI Hàn Quốc tự tìm đường, hiểu lệnh bằng lời nói
Trí tuệ nhân tạo thay đổi cuộc đua săn tìm lỗ hổng an ninh mạng
Trí tuệ nhân tạo giải mã khác biệt trong điều trị ung thư
Khi AI làm "bạn đồng hành" của người tập thể thao
Ứng dụng AI nâng hiệu quả xử lý rác điện tử
AI làm thay đổi cuộc chơi an ninh mạng
AI đang trở thành một “bộ nhân lực” cho cả bên tấn công và phòng thủ. Những công việc lặp lại như kiểm tra hệ thống sau mỗi lần cập nhật, chạy các kỹ thuật đã biết hay rà soát hàng nghìn bề mặt tấn công có thể được giao cho AI, giúp chuyên gia tập trung vào những vấn đề đòi hỏi kinh nghiệm và sáng tạo.
Kính AI vấp phải sự phản đối rộng rãi tại châu Âu
Cần Thơ và An Giang đẩy mạnh ứng dụng công nghệ trong Đề án 1 triệu ha lúa phát thải thấp
Cần Thơ và An Giang đang đẩy mạnh ứng dụng công nghệ thông minh như cảm biến đo mực nước IoT, thiết bị bay cơ giới hóa và hệ thống quản lý dữ liệu MRV trong Đề án 1 triệu ha lúa phát thải thấp. Nhờ đó, nông dân không chỉ giảm đáng kể lượng nước và phân bón tiêu thụ, chống đỗ ngã cho cây lúa mà còn chuẩn hóa dữ liệu phát thải carbon, nâng cao giá trị hạt gạo Việt Nam trên thị trường quốc tế.