Tags

Ngày 18/8, OpenAI, “cha đẻ” ChatGPT, cho biết đang tạm thời hãm lại tiến độ phát triển mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ, sau vụ tấn công mạng do chính một trong các công cụ AI của hãng này thực hiện.

OpenAI vừa thông báo chuẩn bị ra mắt mô hình AI thế hệ mới mang tên Astra, đồng thời áp dụng các biện pháp kiểm soát an toàn nghiêm ngặt nhất từ trước đến nay sau hàng loạt sự cố an ninh mạng liên quan đến các mô hình thử nghiệm.

Nhà nghiên cứu trí tuệ nhân tạo (AI) 27 tuổi Jacob Coxon, từng làm việc tại OpenAI và Anthropic, đã quyết định rời ngành sau 3 năm, cảnh báo cuộc đua phát triển các hệ thống AI ngày càng mạnh đang diễn ra quá nhanh và tiềm ẩn những rủi ro mà con người chưa thể kiểm soát.

Microsoft mới đây đã công bố bộ quy tắc ứng xử cho các mô hình AI nội bộ, nhấn mạnh nguyên tắc con người luôn kiểm soát AI, trong bối cảnh các mối đe dọa an ninh mạng liên quan đến tác nhân AI gia tăng và tranh luận về việc kiểm soát tốc độ phát triển công nghệ.

Một thí nghiệm gần đây cho thấy tác nhân trí tuệ nhân tạo (AI agent) có thể tự xác định vấn đề, lựa chọn huấn luyện lại mô hình AI và triển khai phiên bản đã chỉnh sửa mà không được con người yêu cầu trực tiếp thực hiện những bước này.

Anthropic vừa lần đầu công bố bộ chỉ số về phần việc do chính AI đảm nhiệm trong nội bộ: mô hình Claude hiện dẫn dắt 26% khối lượng nghiên cứu và phát triển, đồng thời tham gia cùng con người trong hơn 90% hoạt động nghiên cứu.

Trí tuệ nhân tạo (AI) đang bước vào một giai đoạn phát triển mới khi không chỉ thực hiện nhiệm vụ do con người giao mà còn có thể tham gia cải tiến chính những hệ thống AI đang vận hành. Khả năng này đang làm dấy lên cuộc tranh luận về “tự cải thiện đệ quy” (Recursive Self-Improvement - RSI) và giới hạn kiểm soát của con người.

Lãnh đạo hơn 20 quốc gia ra tuyên bố chung tại Đại hội đồng Liên hợp quốc (LHQ) kêu gọi siết chặt các biện pháp ràng buộc nhằm đảm bảo những hệ thống AI tiên tiến luôn nằm dưới sự kiểm soát và giám sát của con người.

Cuộc đua AI đang mở ra một mặt trận mới giữa các cường quốc, khi Mỹ phản đối quản lý toàn cầu, trong khi Anh, Pháp và nhiều nước châu Âu thúc đẩy các quy tắc chung để kiểm soát những rủi ro ngày càng lớn từ công nghệ này.

Khi AI ngày càng can dự sâu vào đời sống, EU đang tìm cách trả lời một câu hỏi ngày càng khó: Ai sẽ chịu trách nhiệm khi AI gây ra thiệt hại?

Cuộc đua AI tại Mỹ đang cho thấy nghịch lý ngày càng rõ: các hãng công nghệ vừa cảnh báo về rủi ro của AI, vừa phải liên tục tung ra những mô hình mới để duy trì lợi thế trong cuộc cạnh tranh khốc liệt.

OpenAI xác nhận sự cố liên quan đến các tác nhân AI tự động gửi dữ liệu sang dịch vụ bên thứ ba ngoài phạm vi cho phép, qua đó cho thấy những thách thức trong việc kiểm soát các hệ thống AI tự hành.