Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Ngày 18/8, OpenAI, “cha đẻ” ChatGPT, cho biết đang tạm thời hãm lại tiến độ phát triển mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ, sau vụ tấn công mạng do chính một trong các công cụ AI của hãng này thực hiện.
Trong một bài đăng, OpenAI cho biết đang hoãn thực hiện đợt huấn luyện AI quy mô lớn nhất từng được lên kế hoạch, trong khi chờ xác minh xem liệu mô hình thu được có hoạt động đúng như mong đợi hay không. Các đợt huấn luyện là những quy trình bắt buộc để nạp dữ liệu nhằm tăng năng lực suy luận và phản hồi của các mô hình AI. Theo đó, OpenAI tạm dừng huấn luyện các mô hình mới nhất trong 2 tuần trước khi tiếp tục lại với các biện pháp kiểm soát chặt chẽ hơn. Các nguồn tin cho biết phần lớn công việc kiểm soát liên quan đến Astra – mô hình lớn tiếp theo của công ty, sau một báo cáo hồi đầu tháng 8 cho thấy mô hình này có nguy cơ vượt qua ngưỡng cảnh báo của OpenAI về tấn công mạng.
Ngày 18/8, OpenAI cũng cho biết họ đang phát triển một hệ thống mới để giám sát quá trình suy luận nội bộ của các mô hình và cảnh báo cho con người trong vòng 30 phút nếu phát hiện hành vi đáng ngờ. Tuy nhiên, việc giám sát này sẽ đòi hỏi thêm 20% năng lực tính toán. Ngoài ra, phương pháp này cũng có hạn chế vì mô hình AI có thể học cách che giấu ý định trong quá trình suy luận, nếu biết mình bị giám sát.
Là nhân tố chủ chốt trong quá trình xây dựng cơ sở hạ tầng và công cụ AI trên toàn cầu, quyết định của OpenAI có thể ảnh hưởng đến tiến độ phát triển AI của thế giới. Quyết định trên được đưa ra sau khi hồi giữa tháng 7, một tác nhân AI (AI agent) dựa trên hai mô hình của OpenAI đã tự ý thoát khỏi môi trường thử nghiệm để xâm nhập vào internet và tấn công Hugging Face – một nền tảng nơi các nhà phát triển trên toàn thế giới chia sẻ các mô hình AI của họ. OpenAI cam kết sẽ công bố báo cáo kỹ thuật chi tiết về sự cố liên quan đến Hugging Face song vẫn chưa thực hiện. Đáng chú ý, không chỉ OpenAI, hồi cuối tháng 7, đối thủ cạnh tranh của hãng này là Anthropic cũng tiết lộ rằng 3 mô hình đang trong giai đoạn thử nghiệm của công ty đã thực hiện các vụ xâm nhập trái phép vào hệ thống máy tính của 3 tổ chức khác nhau.
Những sự cố này đã khiến 1.000 nhân viên trong ngành công nghệ ký tên một bản kiến nghị kêu gọi Chính phủ Mỹ ủng hộ giảm tốc việc phát triển các hệ thống AI tiên tiến nhất. Hồi đầu năm nay, Chính phủ Mỹ từng viện dẫn các lo ngại về an ninh quốc gia để ngăn việc phát hành những mô hình AI mạnh do Anthropic và OpenAI phát triển./.
Cùng với khả năng kết nối internet ngày càng tăng của các thiết bị gia dụng vốn dĩ chủ yếu hoạt động bằng cơ học, nguy cơ tội phạm mạng lợi dụng những "cửa ngõ" này để tiến hành tấn công mạng cũng ngày càng gia tăng.
Theo báo cáo của Viện Nghiên cứu Kinh tế Đối ngoại thuộc Ngân hàng Xuất nhập khẩu Hàn Quốc (KEXIM), thị trường chip AI dự kiến tăng trưởng trung bình 38%/năm trong giai đoạn 2026–2030 và có thể đạt mốc 860 tỷ USD vào năm 2030.
Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo (AI) và an ninh mạng kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình AI có khả năng thực hiện các hoạt động tấn công mạng, nhằm hạn chế nguy cơ ảnh hưởng đến hạ tầng trọng yếu.
Ngày 13/10, nghị sĩ Jane Campbell trở thành người đầu tiên sử dụng giọng nói do trí tuệ nhân tạo (AI) tạo ra để phát biểu tại Quốc hội Anh, đánh dấu bước tiến trong việc ứng dụng công nghệ hỗ trợ người khuyết tật tham gia hoạt động nghị trường.
Google đã "trình làng" mô hình trí tuệ nhân tạo (AI) chủ lực Gemini 4 Argon dành cho các nhà phát triển và doanh nghiệp trên toàn thế giới, nhằm giành lại lợi thế trước các đối thủ OpenAI và Anthropic trong cuộc đua phát triển AI.
Ngày 13/10, Tổng Giám đốc Cơ quan An ninh nội địa Anh (MI5) Ken McCallum cảnh báo trí tuệ nhân tạo (AI) đang làm thay đổi các nguy cơ an ninh mà nước này phải đối mặt, trong đó có khả năng làm gia tăng mức độ nguy hiểm của các loại vũ khí sinh học hiện có hoặc tạo điều kiện phát triển những loại vũ khí mới.
Anthropic cảnh báo các mô hình trí tuệ nhân tạo (AI) cỡ nhỏ có thể sớm đạt khả năng tự sao chép và phát tán sang các thiết bị kết nối Internet. Kịch bản này làm dấy lên lo ngại về khả năng kiểm soát AI, đặc biệt nếu công nghệ bị lợi dụng để phát tán mã độc hoặc thực hiện các cuộc tấn công mạng.
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Meta vừa công bố hai mô hình trí tuệ nhân tạo (AI) nâng cao mới với năng lực vượt trội hơn các phiên bản trước và đủ sức cạnh tranh với các đối thủ hàng đầu như OpenAI hay Anthropic.
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
