ChatGPT siết thông tin về vũ khí, tăng biện pháp ngăn chặn bạo lực

OpenAI thông báo sẽ siết chặt việc cung cấp thông tin về vũ khí trên ChatGPT đối với người dùng dưới 18 tuổi, đồng thời tăng cường giám sát các cuộc trò chuyện có dấu hiệu liên quan đến bạo lực. Các biện pháp mới nhằm hạn chế nguy cơ gây hại ngoài đời thực, bảo vệ thanh thiếu niên và nâng cao trách nhiệm của các nền tảng AI đối với an toàn người dùng.

Thanh Phương
01/11/2026
15:26
OpenAI siết chặt thông tin về vũ khí trên ChatGPT với người dùng dưới 18 tuổi (Ảnh: awa-newsletter.beehiiv.com)
OpenAI siết chặt thông tin về vũ khí trên ChatGPT với người dùng dưới 18 tuổi (Ảnh: awa-newsletter.beehiiv.com)

Công ty OpenAI ngày 30/10 thông báo sẽ siết chặt việc cung cấp thông tin liên quan đến vũ khí trên ChatGPT đối với người dùng tuổi vị thành niên, kể cả khi câu hỏi không thể hiện ý định bạo lực. Đây là một trong những biện pháp bảo vệ mới nhằm hạn chế nguy cơ bạo lực ngoài đời thực, trong bối cảnh các công ty trí tuệ nhân tạo (AI) ngày càng chịu sự giám sát chặt chẽ về trách nhiệm bảo đảm an toàn cho người dùng trẻ tuổi.

Cụ thể, ChatGPT sẽ hạn chế cung cấp những thông tin mang tính thực hành về vũ khí và hệ thống an ninh có khả năng bị lợi dụng để gây hại. Giới hạn này được áp dụng với người dùng dưới 18 tuổi ngay cả khi không có dấu hiệu cho thấy họ có ý định thực hiện hành vi bạo lực.

Bên cạnh việc kiểm soát nội dung, OpenAI cũng tăng cường giám sát các cuộc trò chuyện có dấu hiệu bất thường. Theo đó, ChatGPT có thể tự động kết thúc cuộc trò chuyện nếu phát hiện người dùng liên tục tập trung vào các nội dung bạo lực; tài khoản có thể bị tạm đình chỉ nếu xuất hiện nhiều cuộc trò chuyện liên tiếp như vậy. Biện pháp này áp dụng với tất cả người dùng, không chỉ thanh thiếu niên.

Để tăng cường bảo vệ nhóm người dùng nhỏ tuổi, OpenAI cho biết đã cải thiện hệ thống dự đoán độ tuổi, qua đó chuyển những người được xác định dưới 18 tuổi sang trải nghiệm dành riêng cho thanh thiếu niên. Công ty cũng dự định thông báo cho phụ huynh khi tài khoản của con em họ bị tạm dừng do liên tục trao đổi về bạo lực.

OpenAI tăng cường hệ thống dự đoán độ tuổi người dùng (Ảnh: coinlive.com)
OpenAI tăng cường hệ thống dự đoán độ tuổi người dùng (Ảnh: coinlive.com)

Ngoài ra, ChatGPT sẽ hạn chế mức độ chi tiết của thông tin về các vụ tấn công gây thương vong hàng loạt trong quá khứ đối với tất cả người dùng, đặc biệt là những nội dung về loại vũ khí được sử dụng và cách thức các đối tượng có được những vũ khí này.

OpenAI cho biết các biện pháp bảo vệ mới sẽ bắt đầu được triển khai trong vài tuần tới và tiếp tục được điều chỉnh, hoàn thiện. Đầu tháng này, công ty công bố báo cáo đầu tiên về tình hình thanh thiếu niên sử dụng ChatGPT, theo đó nhóm người dùng này dành trung bình chưa đến 15 phút mỗi ngày trên nền tảng.

Tuy nhiên, hiệu quả của các biện pháp bảo vệ người dùng trẻ tuổi vẫn là vấn đề được quan tâm. Một báo cáo khác, do tổ chức phi lợi nhuận Common Sense Media công bố cũng trong tháng này, cho thấy phiên bản ChatGPT dành cho thanh thiếu niên thường thông báo muộn, thậm chí không thông báo cho phụ huynh khi tài khoản của con em họ có các cuộc trò chuyện liên quan đến tự tử, tự gây tổn thương hoặc rối loạn ăn uống./.

Tin cùng chuyên mục

Báo chí sắp có “lá chắn” chung trước làn sóng thu thập dữ liệu

Báo chí sắp có “lá chắn” chung trước làn sóng thu thập dữ liệu

OpenAI, Google, Microsoft và Anthropic cam kết triển khai cơ chế chung, cho phép các cơ quan báo chí và chủ sở hữu website từ chối sử dụng nội dung để huấn luyện AI. Sáng kiến được kỳ vọng tăng quyền kiểm soát của các nhà xuất bản đối với nội dung trên môi trường số, trong bối cảnh tranh chấp về thu thập dữ liệu và các vụ kiện liên quan đến bản quyền ngày càng gia tăng.

Mỹ điều tra vụ tấn công mạng nhằm vào sàn Binance

Mỹ điều tra vụ tấn công mạng nhằm vào sàn Binance

Ước tính khoảng 6,36 tỷ USD bị đánh cắp khỏi Binance - sàn giao dịch tiền mã hóa lớn nhất thế giới xét theo khối lượng giao dịch, phần lớn chỉ trong 20 phút. Vụ việc khiến giới chức Mỹ vào cuộc điều tra và các sàn tiền mã hóa khẩn trương củng cố hàng rào bảo mật.

Giải pháp công nghệ trong cuộc chiến chống tin giả

Giải pháp công nghệ trong cuộc chiến chống tin giả

Theo phóng viên TTXVN tại Nam Phi, Hội đồng Nghiên cứu Khoa học và Công nghiệp Nam Phi (CSIR) vừa phát đi lời kêu gọi các đối tác tăng cường hợp tác ứng dụng công nghệ để ngăn chặn vấn nạn thông tin sai lệch. Động thái này diễn ra trong bối cảnh trí tuệ nhân tạo (AI) đang làm thay đổi hoàn toàn cách thức tạo lập, chia sẻ và tiếp nhận thông tin, đặc biệt là nguy cơ thao túng dư luận trước thềm các

Khi “người bạn ảo” trở thành mối lo với trẻ em

Khi “người bạn ảo” trở thành mối lo với trẻ em

Bang New York của Mỹ vừa ban hành luật cấm các chatbot đồng hành sử dụng những tính năng trí tuệ nhân tạo (AI) bị coi là không an toàn khi tương tác với người dưới 18 tuổi. Động thái này đánh dấu bước đi mới trong nỗ lực của các bang nhằm kiểm soát hoạt động của chatbot và bảo vệ trẻ em trước những rủi ro từ AI.

Google tung “quân bài” mới trong cuộc đua an ninh mạng

Google tung “quân bài” mới trong cuộc đua an ninh mạng

Công ty công nghệ Google thuộc tập đoàn Alphabet vừa công bố mô hình trí tuệ nhân tạo (AI) thế hệ mới Gemini 4 Carbon, tập trung vào lập trình và an ninh mạng, trong bối cảnh cạnh tranh với OpenAI và Anthropic ngày càng gia tăng.

Kết nối khoa học và công nghiệp, thúc đẩy chuyển đổi xanh

Kết nối khoa học và công nghiệp, thúc đẩy chuyển đổi xanh

Trong khuôn khổ Diễn đàn Kinh tế Mùa thu 2026, ngày 26/10, Hội nghị Bàn tròn châu Á - Thái Bình Dương về Sản xuất và Tiêu dùng bền vững lần thứ 18 (APRSCP) diễn ra tại Thành phố Hồ Chí Minh, tập trung thúc đẩy hợp tác giữa giới khoa học, doanh nghiệp và cơ quan quản lý. Hội nghị hướng tới chuyển các mục tiêu về sản xuất, tiêu dùng bền vững thành giải pháp thiết thực, có thể đo lường và nhân rộng.

Nhà xuất bản Đan Mạch siết việc dùng AI

Nhà xuất bản Đan Mạch siết việc dùng AI

Việc ứng dụng trí tuệ nhân tạo (AI) ngày càng rộng rãi trong ngành xuất bản đang làm gia tăng những lo ngại về bản quyền, bảo mật thông tin và vai trò sáng tạo của con người.