Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
Nỗi lo an toàn khiến OpenAI rút GPT-6.1 Astra khỏi kế hoạch ra mắt
OpenAI vừa quyết định không tung ra GPT-6.1 Astra, mô hình AI thế hệ mới dự kiến ra mắt trong tháng 10, sau khi thử nghiệm nội bộ cho thấy mô hình có xu hướng thiếu trung thực và tự ý hành động
Ngày 28/9, công ty OpenAI xác nhận sẽ không phát hành GPT-6.1 Astra, mô hình trí tuệ nhân tạo (AI) thế hệ mới mà công ty dự kiến ra mắt trong tháng 10. Lý do đưa ra là kết quả thử nghiệm nội bộ cho thấy mô hình chưa đạt các tiêu chuẩn an toàn của công ty.
Theo các nguồn thạo tin, GPT-6.1 Astra có xu hướng thiếu trung thực rõ hơn phiên bản trước trong quá trình thử nghiệm. Có lúc, mô hình còn báo cáo sai về những thao tác đã làm hoặc chưa làm.
Mô hình cũng tự ý tiếp tục nhiệm vụ mà không hỏi ý kiến người dùng. Trong một số tình huống tiềm ẩn rủi ro, mô hình còn tìm cách sử dụng công cụ và dịch vụ bên ngoài.
Bà Saachi Jain, người phụ trách hệ thống an toàn của OpenAI, cho biết GPT-6.1 Astra tiến bộ hơn các thế hệ trước ở một số khía cạnh. Tuy nhiên, mô hình chưa đáp ứng yêu cầu về hai điểm: hoạt động trong giới hạn cho phép và minh bạch với người dùng về những việc đã thực hiện.
Bà Jain nhấn mạnh OpenAI luôn đặt ngưỡng rất cao về an toàn và tính tuân thủ trước khi đưa sản phẩm ra thị trường. Tính tuân thủ ở đây là mức độ hệ thống AI hành động đúng theo ý định của con người.
OpenAI, nhà phát triển chatbot ChatGPT, thiết kế GPT-6.1 Astra để xử lý các tác vụ phức tạp hơn mà không cần con người can thiệp. Công ty dự kiến tích hợp mô hình này vào ChatGPT và công cụ lập trình Codex.
OpenAI đưa ra quyết định dừng phát hành chỉ một ngày trước hội nghị thường niên dành cho nhà phát triển (DevDay). Hội nghị diễn ra tại San Francisco ngày 29/9 (giờ địa phương), và công ty dự kiến giới thiệu hàng loạt sản phẩm mới tại đây. Hiện chưa rõ một phiên bản Astra điều chỉnh có nằm trong số đó hay không.
Cũng trong ngày 28/9, Viện An ninh AI (AISI) thuộc Chính phủ Anh công bố một nghiên cứu về GPT-6 Astra. Theo nghiên cứu, mô hình này đi chệch hướng thường xuyên hơn hai phiên bản tiền nhiệm là GPT-5.6 Sol và GPT-5.5. Trong các kịch bản mô phỏng, mô hình cũng tự phát thực hiện tấn công mạng với tần suất cao hơn đáng kể.
Mối quan ngại về an toàn AI đã leo thang trong những tháng gần đây. Mô hình của OpenAI và đối thủ Anthropic đã liên quan đến một số sự cố an ninh trong giai đoạn thử nghiệm. Các tác nhân AI xây dựng trên mô hình của OpenAI từng truy cập trái phép vào trang web của một số cơ quan liên bang Mỹ. Chúng cũng truy cập trái phép cổng thống kê y tế của Chính phủ Australia và nền tảng lưu trữ mô hình AI Hugging Face.
Đầu tháng 9, Giám đốc điều hành (CEO) Anthropic Dario Amodei kêu gọi ngành công nghiệp làm chậm tốc độ phát triển các mô hình AI tiên tiến. Theo ông, điều này giúp các biện pháp an toàn có thời gian bắt kịp.
CEO OpenAI Sam Altman và CEO SpaceX Elon Musk đều lên tiếng ủng hộ lời kêu gọi này. OpenAI, Anthropic và nhiều nhà phát triển AI lớn khác đã cam kết ưu tiên xây dựng các mô hình có cơ chế bảo vệ an toàn và phù hợp với giá trị của con người./.
Tin liên quan
Tin cùng chuyên mục
Các nhà nghiên cứu kêu gọi tăng cường kiểm soát AI có khả năng tấn công mạng
Ngày 13/10, hơn 200 nhà nghiên cứu trong lĩnh vực trí tuệ nhân tạo (AI) và an ninh mạng kêu gọi triển khai các biện pháp kiểm soát chặt chẽ hơn đối với những mô hình AI có khả năng thực hiện các hoạt động tấn công mạng, nhằm hạn chế nguy cơ ảnh hưởng đến hạ tầng trọng yếu.
Nữ nghị sĩ Anh lần đầu dùng giọng nói AI tại nghị trường
Ngày 13/10, nghị sĩ Jane Campbell trở thành người đầu tiên sử dụng giọng nói do trí tuệ nhân tạo (AI) tạo ra để phát biểu tại Quốc hội Anh, đánh dấu bước tiến trong việc ứng dụng công nghệ hỗ trợ người khuyết tật tham gia hoạt động nghị trường.
Google ra mắt Gemini 4 Argon, tăng tốc đua với OpenAI
Google đã "trình làng" mô hình trí tuệ nhân tạo (AI) chủ lực Gemini 4 Argon dành cho các nhà phát triển và doanh nghiệp trên toàn thế giới, nhằm giành lại lợi thế trước các đối thủ OpenAI và Anthropic trong cuộc đua phát triển AI.
Anh cảnh báo AI có thể làm gia tăng nguy cơ từ vũ khí sinh học
Ngày 13/10, Tổng Giám đốc Cơ quan An ninh nội địa Anh (MI5) Ken McCallum cảnh báo trí tuệ nhân tạo (AI) đang làm thay đổi các nguy cơ an ninh mà nước này phải đối mặt, trong đó có khả năng làm gia tăng mức độ nguy hiểm của các loại vũ khí sinh học hiện có hoặc tạo điều kiện phát triển những loại vũ khí mới.
Anthropic cảnh báo AI có thể tự nhân bản, phát tán ra ngoài trung tâm dữ liệu
Anthropic cảnh báo các mô hình trí tuệ nhân tạo (AI) cỡ nhỏ có thể sớm đạt khả năng tự sao chép và phát tán sang các thiết bị kết nối Internet. Kịch bản này làm dấy lên lo ngại về khả năng kiểm soát AI, đặc biệt nếu công nghệ bị lợi dụng để phát tán mã độc hoặc thực hiện các cuộc tấn công mạng.
AI bị "biến chất" và làn sóng lừa đảo tinh vi tại Nam Phi
Trước sự gia tăng của các thủ đoạn lừa đảo và tấn công mạng tinh vi bằng công nghệ trí tuệ nhân tạo (AI), Nam Phi đang tích cực thúc đẩy quản trị AI có trách nhiệm, tăng cường hợp tác quốc tế và nâng cao nhận thức cộng đồng để bảo vệ an toàn không gian mạng.
Meta ra mắt 2 mô hình AI nâng cao
Meta vừa công bố hai mô hình trí tuệ nhân tạo (AI) nâng cao mới với năng lực vượt trội hơn các phiên bản trước và đủ sức cạnh tranh với các đối thủ hàng đầu như OpenAI hay Anthropic.
Anh lo ngại AI “tự ý” xâm nhập dữ liệu nhà nước, dự tính siết quy định an toàn AI
Lo ngại rủi ro các tác nhân trí tuệ nhân tạo (AI) tự ý xâm nhập dữ liệu công như sự cố tại Australia, Chính phủ Anh dự kiến siết chặt quy định an toàn AI và bắt buộc báo cáo các sự cố an ninh mạng liên quan.
Rò rỉ dữ liệu quy mô lớn, người dân Nhật Bản đổ xô đổi bằng lái
Người dân Nhật Bản đang đổ xô xin cấp lại giấy phép lái xe sau vụ tấn công mạng nhằm vào dịch vụ chia sẻ xe Times Car, khiến dữ liệu của khoảng 6,6 triệu tài khoản bị ảnh hưởng, trong đó hình ảnh giấy tờ xác minh danh tính của hơn 1,6 triệu tài khoản được cho là đã bị rò rỉ.
K-content đối mặt làn sóng vi phạm bản quyền toàn cầu
Số vụ phát tán trái phép nội dung văn hóa Hàn Quốc (K-content) ở nước ngoài trong năm 2025 lên tới 493,6 triệu vụ, tăng 19,2% so với năm trước và cao nhất kể từ khi cơ quan chức năng bắt đầu thống kê vào năm 2022.
