Bỏ qua đến nội dung
← Dự án

GraphRAG

Đang lên kế hoạch: thêm đồ thị thực thể–quan hệ vào RAG Chat để trả lời câu hỏi phải nối nhiều tài liệu và câu hỏi toàn cục.

Bài toán

RAG Chat tìm theo đoạn văn giống câu hỏi. Nó trả lời sai hai kiểu câu hỏi:

  • Nối quan hệ qua nhiều tài liệu: "những dự án nào dùng chung nhà cung cấp với dự án X?" Đoạn văn cần cho bước thứ hai không giống câu hỏi, và chỉ biết nó là gì sau khi có kết quả bước thứ nhất.
  • Câu hỏi toàn cục: "các tài liệu này nói chung về những chủ đề gì?" Không có top-k đoạn nào chứa câu trả lời.

Hướng làm

Thêm một đồ thị tri thức vào pipeline hiện có, không thay thế nó:

  1. Lúc nạp, model rẻ trích thực thể và quan hệ từ mỗi chunk. Thực thể trùng được gộp lại. Mỗi cạnh lưu chunk nguồn để câu trả lời vẫn trích dẫn được đoạn văn gốc.
  2. Lưu nút và cạnh trong PostgreSQL trước (cùng transaction với chunk, đi 1–2 bước bằng recursive CTE). Chỉ dùng Neo4j nếu sau này thật sự cần.
  3. Lúc hỏi, tìm thực thể trong câu hỏi, đi theo cạnh sang thực thể lân cận, và đưa các chunk nguồn vào RRF như một nhánh thứ tư. Rerank và trích dẫn giữ nguyên.
  4. Giai đoạn sau: phân cộng đồng trên đồ thị và tóm tắt từng cộng đồng cho câu hỏi toàn cục, theo hướng Microsoft GraphRAG.

Đồ thị sẽ là tuỳ chọn theo từng agent, mặc định tắt, vì trích xuất tốn thêm một lần gọi LLM cho mỗi chunk. Chỉ bật rộng rãi khi đã đo trên một bộ câu hỏi có đáp án và thấy kết quả tốt lên.

Chi tiết thiết kế: GraphRAG: kế hoạch tích hợp đồ thị tri thức vào RAG Chat.

Kiến trúc

(dự kiến) chunk → LLM trích thực thể + quan hệ → gộp thực thể trùng → nút + cạnh, mỗi cạnh trỏ về chunk nguồn
(dự kiến) câu hỏi → liên kết thực thể → đi 1–2 bước trên đồ thị → nhánh thứ tư của RRF → rerank → LLM