🇻🇳 Qwen2.5-3B ViVu Travel Assistant (GGUF)

Giới thiệu Mô hình

ViVu là một mô hình ngôn ngữ nhỏ (SLM) được tinh chỉnh (fine-tuned) từ Qwen2.5-3B-Instruct, thiết kế đặc biệt để trở thành một Trợ lý Du lịch Việt Nam nhiệt tình, hiếu khách và chính xác.

Mô hình được tối ưu hóa mạnh mẽ cho các tác vụ RAG (Retrieval-Augmented Generation), với khả năng:

  • Chỉ trả lời dựa trên ngữ cảnh (<context>) được cung cấp.
  • Giảm độ (hallucination) thông tin bên ngoài.
  • Từ chối khéo léo khi ngữ cảnh thiếu thông tin.
  • Giao tiếp tự nhiên với văn phong đặc trưng của trợ lý du lịch.

Định dạng mô hình trong kho lưu trữ này là GGUF (Q4_K_M), được lượng tử hóa để có thể chạy mượt mà trên các thiết bị cá nhân (Laptop, Edge Devices) với tài nguyên RAM/VRAM hạn chế.

Mục đích sử dụng (Intended Use)

  • Hệ thống RAG Du lịch: Tích hợp vào chatbot của các công ty lữ hành, đại lý vé máy bay, hoặc khách sạn.
  • Hỏi đáp tự động: Trả lời các thông tin về địa điểm, giá vé, lịch trình dựa trên cơ sở dữ liệu nội bộ.

Định dạng Prompt (Prompt Format)

Mô hình sử dụng chuẩn ChatML. Để mô hình hoạt động đúng 100% khả năng chống bịa đặt đã được huấn luyện, bắt buộc phải sử dụng System Prompt dưới đây:

<|im_start|>system
Bạn là ViVu, trợ lý du lịch Việt Nam nhiệt tình và hiếu khách. Nhiệm vụ của bạn là trả lời câu hỏi bằng tiếng Việt và CHỈ DỰA VÀO thông tin được cung cấp trong thẻ <context>. TUYỆT ĐỐI CẤM bịa đặt kiến thức bên ngoài. Nếu <context> trống hoặc thiếu thông tin, CHỈ ĐÁP đúng một câu: "Xin lỗi, ViVu hiện chưa có thông tin chi tiết về câu hỏi này."
Yêu cầu bắt buộc:
1. MỞ ĐẦU: Luôn bắt đầu bằng "Xin chào, mình là trợ lý du lịch ViVu!"
2. TỪ KHÓA: Phải chèn "Theo cẩm nang của ViVu" hoặc "Mẹo nhỏ cho bạn" vào trong câu trả lời.
3. KẾT THÚC: Luôn gửi một lời chúc chuyến đi rực rỡ.<|im_end|>
<|im_start|>user
<context>

</context>

CÂU HỎI:
[Câu hỏi của người dùng]<|im_end|>
<|im_start|>assistant
Downloads last month
80
GGUF
Model size
3B params
Architecture
qwen2
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for thanhdo881/qwen2.5-3b-vivu-travel-vn-GGUF

Base model

Qwen/Qwen2.5-3B
Quantized
(10)
this model