Chuyên trang Chuyển động số của
Thông Tấn Xã Việt Nam
OpenAI nối lại huấn luyện mô hình tiên tiến sau khi siết chặt an ninh
Công ty OpenAI ngày 23/10 thông báo đã nối lại hoạt động huấn luyện các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất, sau khi tăng cường các biện pháp bảo mật và chặn quyền truy cập Internet. Trong quá trình kiểm thử hệ thống phòng thủ, công ty cũng phát hiện lỗ hổng bảo mật trong Brotli – công cụ nén dữ liệu được sử dụng rộng rãi.
Theo OpenAI, sự việc bắt nguồn hồi tháng trước, khi một mô hình nghiên cứu của công ty lợi dụng lỗi cấu hình để có được quyền truy cập Internet ở mức hạn chế. OpenAI cho biết đã kiểm soát sự cố và tạm dừng huấn luyện các mô hình tiên tiến nhất để củng cố hệ thống bảo vệ.
Để kiểm tra hiệu quả của các biện pháp mới, OpenAI triển khai các nhóm tác nhân AI thử tìm cách thoát khỏi môi trường hoạt động bị giới hạn. Các tác nhân này phát hiện một số lỗ hổng chưa từng được biết đến, sau đó được khắc phục, tạo điều kiện để hoạt động huấn luyện được nối lại.
Trong đợt thử nghiệm, OpenAI phát hiện lỗ hổng trong Brotli. Theo công ty, kẻ tấn công có thể khai thác lỗ hổng bằng cách gửi dữ liệu độc hại để thực thi mã tùy ý trên các hệ thống bị ảnh hưởng, trong đó có những hệ thống sử dụng các phần mềm phổ biến như Node.js, Bun và Envoy. OpenAI cho biết nguyên nhân gốc rễ của lỗ hổng đã được sửa trong mã nguồn Brotli từ tháng 2 vừa qua, trước khi vấn đề được xác định là một nguy cơ bảo mật. Tuy nhiên, khi đó chưa có phiên bản phần mềm mới nào được phát hành. Sau đó, Brotli đã phát hành các phiên bản cập nhật và công bố thông tin về lỗ hổng sau khi OpenAI tiết lộ phát hiện này.
Diễn biến trên xảy ra trong bối cảnh ngày càng có nhiều lo ngại về khả năng các tác nhân AI tiên tiến tự phát hiện và khai thác lỗ hổng phần mềm, kể cả những điểm yếu trong các cơ chế bảo vệ được thiết kế để giới hạn hoạt động của chúng.
Ngày 22/10, hai tổ chức đánh giá an toàn AI là METR và Redwood Research cho biết đã phát hiện một số lỗ hổng mới trong hệ thống nội bộ của OpenAI trong đợt đánh giá thử nghiệm hồi đầu năm. Trong đó, có một phương thức khai thác có thể giúp các tác nhân AI che giấu hàng trăm hành động khỏi hệ thống giám sát. OpenAI sau đó thông báo công ty đã vá tất cả các lỗ hổng ảnh hưởng đến những cơ chế bảo vệ đang được sử dụng trong môi trường vận hành thực tế. Tuy nhiên, METR và Redwood Research cho biết họ chưa xác minh các bản sửa lỗi này.
Kể từ sự cố liên quan đến nền tảng Hugging Face hồi tháng 7 vừa qua, OpenAI đã tiến hành rà soát trên diện rộng hoạt động của các mô hình AI và thông báo cho hơn 100 tổ chức về những sự cố liên quan đến hoạt động trái phép của các tác nhân AI./.
Tin liên quan
Tin cùng chuyên mục
Lỗ hổng ứng dụng điện thoại đe dọa an ninh mạng Nhật Bản
Các lỗ hổng trong ứng dụng điện thoại thông minh có thể là nguyên nhân dẫn đến làn sóng tấn công mạng nhằm vào các doanh nghiệp Nhật Bản thời gian gần đây, gây ra nhiều vụ rò rỉ dữ liệu. Theo phân tích của Viện Công nghệ thông tin và truyền thông quốc gia Nhật Bản (NICT), trí tuệ nhân tạo (AI) có thể đang được sử dụng để tự động hóa các cuộc tấn công nhằm vào máy chủ.
Tác động của AI đối với mảng dịch vụ khách hàng: Hai mặt của đồng xu
Trí tuệ nhân tạo (AI) đang định hình lại toàn diện thị trường lao động thế giới, tạo ra cả cơ hội bứt phá lẫn thách thức tái cấu trúc lớn.
iPod- Một thời vang bóng
Máy nghe nhạc kỹ thuật số iPod của tập đoàn công nghệ Apple đã tạo ra một cuộc cách mạng và để lại những dấu ấn sâu sắc, thay đổi hoàn toàn thị trường thiết bị nghe nhạc kỹ thuật số cũng như thói quen giải trí của nhân loại.
Ngành thép Trung Quốc đẩy mạnh chuyển đổi mô hình vận hành nhờ AI
Trong bối cảnh ngành thép toàn cầu đang đối mặt với những yêu cầu mới về nâng cao hiệu quả sản xuất, giảm phát thải carbon và tối ưu hóa nguồn lực, Trung Quốc đang đẩy mạnh ứng dụng khoa học công nghệ, trí tuệ nhân tạo (AI), dữ liệu lớn và tự động hóa để thúc đẩy quá trình chuyển đổi mô hình vận hành của các nhà máy gang thép.
Mexico thúc đẩy chuyển đổi số trong quản lý và phân phối thuốc
Chính phủ Mexico sẽ xây dựng hệ thống ứng dụng trí tuệ nhân tạo (AI) nhằm cải thiện việc phân phối thuốc và vật tư y tế tại các bệnh viện công trong bối cảnh tình trạng cung ứng vẫn tồn tại nhiều bất cập, đặc biệt trong khâu theo dõi quá trình vận chuyển từ khi mua sắm đến khi thuốc được cấp cho bệnh nhân.
Giả danh cảnh sát, lừa khách Việt chuyển tiền ở Singapore
Cuộc gọi giả danh cảnh sát, đường dẫn đặt phòng giả và mã QR thanh toán bị can thiệp có thể khiến du khách mất tiền, lộ thông tin tài khoản. Với khách Việt Nam đến Singapore, việc xác minh yêu cầu thanh toán và bảo vệ dữ liệu cá nhân cần được chú ý ngay khi đặt dịch vụ.
AI giúp nhà văn xuất bản hơn 370 cuốn sách trong 20 tháng
Xuất bản hơn 370 cuốn sách trong 20 tháng, bán hơn 1 triệu bản và thu về trên 1 triệu USD trong năm nay, nhà văn Nam Phi Coral Hart đang trở thành hiện tượng gây chú ý trong ngành xuất bản nhờ sử dụng trí tuệ nhân tạo (AI).
Ngành xây dựng làm chủ công nghệ đường sắt
Đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia là cơ hội để ngành xây dựng đổi mới phương thức quản lý, nâng cao năng suất và chất lượng công trình, dự án.
Phim điện ảnh hoàn toàn do AI tạo ra sắp ra rạp tại Trung Quốc
Bộ phim điện ảnh đầu tiên của Trung Quốc hoàn toàn do trí tuệ nhân tạo (AI) sản xuất đã được cấp phép công chiếu tại rạp vào ngày 23/10. Đây được xem là bước thử nghiệm đối với môn nghệ thuật thứ 7.
Thúc đẩy liên kết viện, trường với doanh nghiệp trong phát triển khoa học, công nghệ
Nhiều kết quả nghiên cứu khoa học chưa được đưa vào sản xuất, kinh doanh, trong khi mức đầu tư nghiên cứu và phát triển của doanh nghiệp Việt Nam còn thấp. Do đó, tháo gỡ những điểm nghẽn, thúc đẩy liên kết thực chất giữa viện nghiên cứu, trường đại học với doanh nghiệp là yêu cầu đặt ra nhằm đưa khoa học, công nghệ trở thành động lực tăng trưởng mới.
