Mô hình AI nhỏ gọn có thể giúp giảm mạnh lượng điện năng tiêu thụ

Gần đây, Tổ chức Giáo dục, Khoa học và Văn hoá của Liên hợp quốc (UNESCO) đã ủng hộ việc chuyển hướng từ các mô hình trí tuệ nhân tạo (AI) tiêu tốn nhiều tài nguyên sang các mô hình AI nhỏ gọn hơn. Báo cáo của UNESCO kêu gọi chính phủ và các doanh nghiệp đầu tư vào nghiên cứu và phát triển AI bền vững như một giải pháp để giảm tới 90% mức tiêu thụ năng lượng.

Với lực đẩy đến từ nhu cầu ngày càng tăng về quyền riêng tư của người dùng tại chỗ, những lo ngại về môi trường (như vấn đề tiêu thụ năng lượng khổng lồ cho việc huấn luyện mô hình) và yêu cầu về hiệu suất trong một số trường hợp sử dụng cụ thể, các đột phá về mô hình AI nhỏ gọn, chuyên dụng đã cho các nhà phát triển thấy rằng: một hệ thống AI mạnh mẽ không nhất thiết phải dựa vào cơ sở hạ tầng đám mây quy mô lớn. Hai xu hướng đã biến điều này thành hiện thực: chip điện thoại thông minh hiện nay được trang bị bộ tăng tốc AI chuyên dụng, và các kỹ thuật huấn luyện mới cho phép các mô hình nhỏ hơn nhiều vẫn duy trì được chất lượng vốn trước đây đòi hỏi hàng tỷ tham số.

Tether AI Research gần đây đã phát hành mã nguồn mở cho VisionPsy-Nano, một mô hình thị giác-ngôn ngữ (VLM) nhỏ gọn được thiết kế chuyên biệt để triển khai trực tiếp trên thiết bị và tại biên. Mô hình này vượt trội hơn các đối thủ cùng phân khúc về quy mô, bao gồm LFM2.5-VL-450M của Liquid AI và SmolVLM2-500M của Hugging Face.

Trên thực tế, điều này chứng minh cách các mô hình AI chuyên dụng có thể duy trì quyền riêng tư dữ liệu mà không làm giảm hiệu suất. Do mô hình hoạt động hoàn toàn trên thiết bị, hình ảnh và câu hỏi của người dùng không bao giờ rời khỏi điện thoại; không có dữ liệu nào được tải lên máy chủ hay lưu lại nhật ký yêu cầu trên đám mây, và tính năng này vẫn hoạt động bình thường ngay cả khi không có kết nối Internet.

Mô hình thị giác-ngôn ngữ là hệ thống AI kết hợp giữa mô hình ngôn ngữ xử lý văn bản và bộ mã hóa hình ảnh, cho phép hệ thống nhận diện và suy luận dựa trên dữ liệu hình ảnh. Trong vài năm gần đây, ngay cả các nhà cung cấp dịch vụ đám mây lớn nhất cũng đã chuyển hướng sang phát triển các mô hình VLM nhỏ gọn. Một ví dụ điển hình là công ty công nghệ Google đã phát triển dòng mô hình trọng số mở (open-weight) gọn nhẹ của mình, từ PaliGemma (năm 2024) cho đến các thế hệ Gemma 3 và Gemma 4.

Tuy nhiên, đối với AI chạy trực tiếp trên điện thoại thông minh, lĩnh vực tiên phong thực sự lại nằm ở quy mô nhỏ hơn nhiều: các mô hình có khoảng nửa tỷ tham số - đủ nhỏ để phù hợp với giới hạn bộ nhớ và năng lượng của điện thoại thông thường mà vẫn đảm bảo chất lượng đáng tin cậy. Phân khúc kích thước này đã trở thành một trong những mặt trận sôi động nhất trong phát triển mô hình mã nguồn mở; các đối thủ cạnh tranh trực tiếp ở quy mô này bao gồm dòng mô hình thị giác LFM của Liquid AI cũng như các dòng SmolVLM và nanoVLM của Hugging Face. Trong vài tháng qua, các mô hình mã nguồn mở nhỏ gọn này đã phát triển nhanh chóng nhờ các kiến trúc và kỹ thuật huấn luyện mới được tối ưu hóa về kích thước và hiệu suất.

Khi AI cần diễn giải môi trường vật lý xung quanh và trả lời các câu hỏi liên quan, tốc độ phản hồi đóng vai trò cực kỳ quan trọng. Để đáp ứng các nhu cầu triển khai khác nhau, mô hình thị giác-ngôn ngữ của Tether có hai phiên bản: VisionPsy-Nano 460M (tối ưu hóa cho chất lượng) và VisionPsy-Nano-460M-Flash (tối ưu hóa cho độ trễ). Dù có kích thước nhỏ gọn, VisionPsy-Nano vẫn dẫn đầu trong cùng phân khúc về nhiều tiêu chí đánh giá, bao gồm khả năng hiểu tài liệu, nhận thức thị giác, suy luận và kiến thức, khả năng tuân thủ chỉ dẫn cũng như độ tin cậy.

Độ trễ là khoảng thời gian tính từ lúc gửi yêu cầu đến ứng dụng AI cho đến khi nhận được phản hồi. Quá trình này có thể diễn ra thông qua chatbot AI hoặc trợ lý giọng nói. Phản hồi càng nhanh thì độ trễ càng thấp. VisionPsy-Nano 460M-Flash được thiết kế để triển khai nhanh chóng trong thực tế trên các điện thoại thông minh phổ thông (ví dụ: rút ngắn thời gian phản hồi ban đầu tới 23 lần trên thiết bị Pixel 9) mà vẫn duy trì được khoảng 99% chất lượng so với mô hình đầy đủ.

Đối với người dùng thông thường, sự chậm trễ trong phản hồi từ hệ thống AI có thể chỉ là một chút phiền toái trong các tác vụ đơn giản. Tuy nhiên, nó có thể gây ra những vấn đề nghiêm trọng khi AI được sử dụng cho các tác vụ đòi hỏi tính kịp thời cao như chẩn đoán y tế, ứng phó khẩn cấp và điều hướng. Trong trường hợp xấu nhất, sự chậm trễ này có thể dẫn đến những thất bại vận hành nghiêm trọng.

Ngoài các ứng dụng thực tiễn tức thời, chẳng hạn như cho phép điện thoại hiểu nội dung tài liệu, biểu đồ hay khung cảnh, các mô hình ngôn ngữ-hình ảnh (VLM) quy mô nhỏ hơn đang được nghiên cứu để khai thác tiềm năng trong lĩnh vực AI có khả năng tương tác vật lý. Quá trình này thường chấp nhận đánh đổi một phần độ chính xác để đạt được hiệu suất cần thiết cho các hệ thống di động hoặc tự hành.

Các ứng dụng như thực tế tăng cường (AR) thời gian thực, robot học và giao diện não-máy tính (BCI) đều đòi hỏi khả năng phản hồi ngay lập tức. Điều này đặc biệt quan trọng trong tác vụ Trả lời câu hỏi về hình ảnh hiện trường (Scene VQA), nơi tác nhân AI cần liên tục đánh giá môi trường vật lý xung quanh để giải đáp các truy vấn về không gian.

Để giải quyết vấn đề này, các nhà phát triển đang nghiên cứu những mô hình VLM nhỏ gọn hơn dành cho AI có khả năng tương tác vật lý và các hệ thống tự hành di động. Các hệ thống này chấp nhận đánh đổi một chút độ chính xác trong suy luận tổng quát để đổi lấy độ trễ cực thấp và hiệu quả tính toán cao, những yếu tố cần thiết cho việc xử lý ngay tại thiết bị. Bằng cách thực thi tác vụ Scene VQA trực tiếp trên phần cứng tại biên, các hệ thống di động có thể nhận thức, suy luận và hành động trong thời gian thực mà không cần phụ thuộc vào kết nối đám mây./.