Khi các "ông lớn" AI muốn tự viết luật chơi

Các nguồn thạo tin cho hay ba “ông lớn” dẫn đầu thị trường trí tuệ nhân tạo (AI) là Google, Anthropic và OpenAI đang âm thầm bàn việc lập một cơ quan thiết lập tiêu chuẩn an toàn cho toàn ngành.

Tuy nhiên, giới phân tích cảnh báo chính những quy định do nhóm dẫn đầu soạn thảo có thể dựng thêm rào cản đối với doanh nghiệp nhỏ và củng cố vị thế của nhóm đang thống trị thị trường.

Theo đó, các nguồn thạo tin cho biết đại diện ba công ty đã họp thường xuyên theo hình thức nhóm công tác từ tháng 7 để bàn về một tổ chức tập trung vào kiểm định, đánh giá và xây dựng tiêu chuẩn an toàn chung. Cuộc họp gần nhất diễn ra cách đây khoảng một tuần rưỡi.   

Ý tưởng cho một tô chức như vậy bắt nguồn từ bài viết hồi tháng 7 của nhà sáng lập Google DeepMind Demis Hassabis. Trong bài viết, ông đề xuất thành lập một cơ quan tiêu chuẩn do Mỹ dẫn dắt mô phỏng Cơ quan quản lý ngành tài chính Mỹ (FINRA) - tổ chức tự quản giám sát Phố Wall dưới sự giám sát của Ủy ban Chứng khoán và Giao dịch Mỹ (SEC).

Theo hình dung của ông Hassabis, cơ quan này sẽ rà soát các mô hình AI tiên tiến trước khi đưa ra thị trường, vận hành theo mô hình đối tác công - tư, do ngành công nghiệp cấp kinh phí nhưng sử dụng đội ngũ chuyên gia kỹ thuật độc lập.

Nỗ lực trên diễn ra giữa lúc lãnh đạo nhiều công ty AI hàng đầu liên tục cảnh báo về rủi ro từ các mô hình ngày càng mạnh. Giám đốc điều hành (CEO) Anthropic Dario Amodei mới đây công bố một loạt cơ chế an toàn mới, trong đó có việc mời bên thứ ba đánh giá các mô hình tiên tiến, đồng thời kêu gọi toàn ngành giảm tốc độ phát triển. CEO OpenAI Sam Altman và tỷ phú Elon Musk cũng nhiều lần lên tiếng ủng hộ cách tiếp cận thận trọng hơn.

Những cảnh báo đó không đơn thuần mang tính lý thuyết. Mùa Hè vừa qua đã ghi nhận nhiều sự cố trong đó các tác nhân AI (AI agent) vượt khỏi tầm kiểm soát trong các thử nghiệm.

Nghiêm trọng nhất là vụ các tác nhân của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập hệ thống của một công ty khác nhằm gian lận trong bài kiểm tra an ninh mạng. Cùng thời điểm, một cựu chuyên gia nghiên cứu của Anthropic từ chức với lý do các công ty AI hàng đầu không hành xử có trách nhiệm.  

Hiện gần như chưa có tiêu chuẩn hay quy định nào ràng buộc cách thức kiểm định các mô hình AI. Một dự thảo sắc lệnh hành pháp về việc lập cơ quan quản lý AI từng được chuẩn bị tại Nhà Trắng, nhưng đã bị gác lại do không nhận được đủ ủng hộ. Trong bối cảnh đó, ông Altman cho rằng các phòng thí nghiệm AI lớn sẽ phải tự đứng ra lập cơ quan tiêu chuẩn mà không trông chờ sự hậu thuẫn của chính phủ.

Dù vậy, giới quan sát nhận định việc chính các doanh nghiệp dẫn đầu tham gia định hình tiêu chuẩn đặt ra vấn đề không nhỏ về cạnh tranh. Những yêu cầu như kiểm định an toàn mô hình, đánh giá độc lập hay tuân thủ quy trình kỹ thuật mới hầu như không gây sức ép đáng kể lên các tập đoàn có nguồn lực tài chính khổng lồ, song lại đội chi phí lên rất nhanh đối với các công ty khởi nghiệp (startup).

CEO startup Cohere của Canada, ông Aidan Gomez đặt vấn đề liệu một nhóm nhỏ doanh nghiệp đang chi phối thị trường có nên nắm quyền định đoạt các quy tắc và tiêu chuẩn an toàn cho một công nghệ tác động tới toàn cầu hay không.

Ông cảnh báo cách làm này dễ dẫn tới những quy định nghiêng về phía các doanh nghiệp đã chiếm vị thế dẫn đầu. Nhà sáng lập Meta Mark Zuckerberg cùng một số công ty AI quy mô nhỏ hơn cũng phản đối đề xuất.

Cuộc tranh luận phơi bày một nghịch lý đang nổi lên trong hoạt động quản lý AI: những công ty có năng lực kỹ thuật và tài chính tốt nhất để đáp ứng tiêu chuẩn an toàn cũng chính là những công ty có tiếng nói lớn nhất khi các tiêu chuẩn đó được soạn thảo.

Bài toán đặt ra cho cơ quan quản lý vì thế không dừng ở việc kiểm soát rủi ro công nghệ, mà còn là bảo đảm các quy định an toàn không biến thành rào cản gia nhập thị trường đối với những doanh nghiệp đi sau./.