Lượt API requests:

    Thông số kỹ thuật Engine LLM

    Thông số kỹ thuật của Engine LLM khi cung cấp dưới dạng license.

    Kiến trúc và kỹ thuật

    Hạng mục Thông số
    Độ sâu mô hình (số layer) Từ 32 đến 100
    Kích thước embedding Từ 1024 đến 12288

    Hiệu suất mô hình benchmark chuẩn

    Hạng mục Thông số
    VMLU Điểm số đạt từ 75 trở lên

    Khả năng hiểu và tạo ngôn ngữ

    Hạng mục Thông số
    Hiểu ngữ cảnh và mạch văn Mô hình có thể duy trì ngữ cảnh trong hội thoại
    Tạo văn bản mạch lạc và logic Có thể tạo văn bản dựa trên format cho trước
    Xử lý đa ngôn ngữ (nếu có) Có thể xử lý tiếng Việt và tiếng Anh

    Khả năng giải quyết vấn đề

    Hạng mục Thông số
    Suy luận logic Giải được các bài toán và câu đố đơn giản
    Hiểu và tạo mã code Có thể tạo mã code đơn giản

    An toàn và đạo đức

    Hạng mục Thông số
    Cơ chế kiểm duyệt nội dung nhạy cảm Có
    Tránh trả lời các nội dung ngoài phạm vi dữ liệu Có

    Hiệu suất vận hành

    Hạng mục Thông số
    Thời gian phản hồi trung bình Tùy thuộc độ dài của input và output của mô hình. Thời gian phản hồi trung bình của token đầu tiên với input đầu vào 1500 token là dưới 1s
    Khả năng mở rộng Có khả năng mở rộng trên nhiều cụm GPU khác nhau
    Tích hợp với các hệ thống khác - Cung cấp khả năng tích hợp qua API
    - Có khả năng tích hợp RAG để xây dựng tri thức chuyên ngành

    Tùy chỉnh và huấn luyện thêm

    Hạng mục Thông số
    Khả năng fine-tuning với dữ liệu người dùng Cho phép tùy chỉnh mô hình và đưa thêm dữ liệu văn bản training

    Thông tin bổ sung

    Hạng mục Thông số
    Tạo dữ liệu training nhanh chóng Hỗ trợ xây dựng dữ liệu training bằng cách nhập file Excel
    Tích hợp đa nền tảng chat và kênh giao tiếp nội bộ Facebook, Zalo, Viber, Telegram, Website và các kênh giao tiếp nội bộ
    Lộ trình cập nhật và phát triển mô hình Cập nhật phiên bản mới thường xuyên. Khách hàng được sử dụng các tính năng và model mới nhất của chúng tôi
    Tài liệu hướng dẫn sử dụng Có tài liệu PDF