Bỏ qua đến nội dung
← Blog

Hỏi đáp Machine Learning: khi RAG phải học cách đọc toán

Dùng thử: Hỏi Đáp về Machine Learning

1. Ứng dụng làm gì

Đây là một chatbot giúp bạn hỏi đáp về cuốn Machine Learning cơ bản, giáo trình học máy tiếng Việt dày 422 trang. Bạn đặt câu hỏi, nó trả lời kèm nguồn trích dẫn, và quan trọng nhất là công thức hiện ra đúng như trong sách.

Để làm được vậy, công thức phải được giữ nguyên ở mọi bước:

  1. Phân tích: chuyển PDF sang Markdown, công thức thành LaTeX, bảng thành bảng Markdown.
  2. Chia đoạn: theo chương và mục, không cắt ngang công thức hay bảng (870 đoạn).
  3. Tìm kiếm: lấy các đoạn liên quan nhất kèm nguồn.
  4. Trả lời: gpt-4o trả lời bằng tiếng Việt, công thức viết bằng LaTeX, có trích dẫn.
  5. Hiển thị: giao diện render LaTeX thành ký hiệu toán học.

2. Vì sao tôi xây dựng nó

Lý do đầu tiên là tôi muốn thử sức với một bài toán mà cách làm quen thuộc không giải được. Hầu hết các hướng dẫn RAG đều ngầm giả định tài liệu là chữ thuần. Nhưng những tài liệu người ta thật sự cần hỏi, như giáo trình, bài báo hay đề thi, lại đầy công thức. Hỏi agent hay LLM về chúng thì công thức hoặc biến mất, hoặc bị viết sai định dạng. Tôi muốn làm một hệ thống coi công thức là nội dung quan trọng nhất, chứ không phải thứ có thể bỏ qua.

Lý do thứ hai lớn hơn một chút. Tôi đang train một model giải toán. Model đó cần thật nhiều dữ liệu toán sạch, và sau này sẽ phải biết tra định nghĩa, định lý trong lúc giải. Dự án này là viên gạch đầu tiên cho mục tiêu ấy: cùng một pipeline vừa chạy chatbot, vừa biến PDF toán học thành LaTeX sạch.

3. Câu chuyện phía sau

Cuốn sách này dày đặc đại số tuyến tính, xác suất và tối ưu. Lần đầu tôi hỏi về nó bằng một công cụ "chat với PDF" thông thường, câu trả lời nghe rất tự tin, nhưng phần toán thì sai, thiếu, hoặc vỡ nát.

Ban đầu tôi nghĩ do model chưa đủ giỏi. Đào sâu hơn mới thấy vấn đề nằm ngay ở bước đầu tiên. Công cụ trích xuất PDF đọc ký tự theo vị trí trên trang, nên công thức nào được dàn trang đẹp là vỡ vụn. Đây là công thức trung bình (3.35) ở trang 60 sau khi qua một công cụ trích xuất thông thường:

       N
    1 X       1
x̄ =       xn = x1,        (3.35)
    N n=1     N

Còn đây là thứ model thật sự cần nhìn thấy:

\bar{x} = \frac{1}{N}\sum_{n=1}^{N} x_n = \frac{1}{N}\mathbf{x}\mathbf{1}

Chuẩn bình phương ‖z‖²₂ thì thành kzk22. Phân số, tổng, ma trận, chỉ số dưới đều bị ép thành một dòng chữ vô nghĩa. Đến lúc đó thì model giỏi đến đâu cũng chịu, vì nó không còn thấy công thức gốc nữa. Đây là bài học lớn nhất tôi rút ra: muốn câu trả lời đúng thì phải sửa từ gốc, chứ không phải chỉnh prompt. Vì vậy tôi xây lại cả pipeline xoay quanh LaTeX.

4. Ứng dụng giúp được ai

  • Sinh viên đang học cuốn sách có thể hỏi "công thức 3.35 nghĩa là gì?" và nhận câu trả lời đúng ký hiệu trong giáo trình, kèm chỉ dẫn về trang gốc để tự đọc thêm.
  • Người làm RAG cho tài liệu kỹ thuật có thể dùng lại cách tiếp cận này: sửa bước đọc PDF trước, giữ nguyên công thức khi chia đoạn, rồi render lại ở đầu ra.
  • Bản thân tôi, vì đây là lớp dữ liệu và tìm kiếm cho model giải toán tôi đang train.

5. Các quyết định của tôi và sự đánh đổi

Mỗi lựa chọn dưới đây đều do tôi cân nhắc và quyết định, và cái nào cũng có giá của nó.

Quyết địnhLý doĐánh đổi
Chuyển PDF sang Markdown + LaTeX thay vì trích văn bản thuầnCông thức được giữ chính xác và tìm kiếm đượcBước phân tích chậm hơn
Chia đoạn theo mục, không cắt ngang công thức hay bảngNửa công thức còn tệ hơn không cóĐộ dài các đoạn không đều, có đoạn dài hơn mức lý tưởng
Tìm kiếm trên văn bản thay vì ảnh trangRẻ hơn, trích dẫn chính xácMất hình vẽ và đồ thị, chỉ còn chú thích
Cho model trả lời bằng LaTeX rồi render trên giao diệnCâu trả lời khớp ký hiệu trong sáchPrompt và giao diện phải thống nhất một định dạng LaTeX
Dùng gpt-4o để trả lờiTốt với tiếng Việt và đọc LaTeX ổn địnhTốn chi phí API cho mỗi câu hỏi

Chặng tiếp theo

Dự án vẫn còn nhiều chỗ tôi muốn làm tốt hơn. Tôi muốn đưa hình vẽ trở lại bằng một bước xử lý đa phương thức. Tôi muốn thêm mô tả bằng lời cho mỗi đoạn, vì câu hỏi như "tích phân từng phần" khớp với văn xuôi tốt hơn nhiều so với LaTeX thô. Và trên hết, tôi muốn nối pipeline này với model giải toán, để nó biết tra đúng định lý trước khi bắt tay vào giải.

Mỗi lần sửa được một lỗi nhỏ, như một công thức bị vỡ hay một bảng bị cắt đôi, tôi lại hiểu thêm một chút về cách máy "đọc" tài liệu. Đó là phần tôi thích nhất ở dự án này, và cũng là lý do tôi muốn tiếp tục đi xa hơn với nó.