Hệ thống nhớ của Moltbot

Vấn đề của ChatGPT

ChatGPT có giới hạn "cửa sổ nhớ" (context window):

  • Claude: ~200,000 tokens
  • GPT-4: ~128,000 tokens

Nghĩa là: Chat dài quá → nó quên đầu cuộc trò chuyện.


Moltbot giải quyết thế nào?

Moltbot chia thành 2 phần:

1. Context (Tạm thời)

  • Những gì AI "nhìn thấy" trong 1 lần chat
  • Có giới hạn (200K tokens)
  • Mất khi session mới

2. Memory (Vĩnh viễn)

  • Lưu vào file trên máy
  • Không giới hạn
  • Còn mãi mãi
+------------------------------------+
|         CONTEXT                    |
|   (Cuộc chat hiện tại)             |
|   Giới hạn: 200K tokens            |
|   Mất khi reset session            |
+------------------------------------+
              ↓ Lưu
+------------------------------------+
|          MEMORY                    |
|   (File Markdown trên máy)         |
|   Không giới hạn                   |
|   Còn mãi mãi                      |
+------------------------------------+

Memory lưu ở đâu?

2 nơi:

1. File hàng ngày: memory/2026-01-27.md

# 2026-01-27

## 10:30 - Họp team
Quyết định dùng Next.js cho dự án mới.

## 14:00 - Code review
Review PR của Nam, approve.

2. File tổng hợp: MEMORY.md

# Memory

## User
- Tên: Thuong
- Thích: TypeScript

## Dự án
- Website bán hàng
- Stack: Next.js + PostgreSQL

Khi nào Moltbot ghi memory?

Tự động ghi khi:

  • Bạn ra quyết định quan trọng
  • Bạn nói sở thích
  • Bạn nhờ "nhớ giúp cái này"

Ví dụ:

Bạn: "Nhớ giúp: meeting với khách hàng thứ 6 lúc 10h"

Moltbot: "Đã ghi nhớ" 
→ Tự động ghi vào memory/2026-01-27.md

Khi nào Moltbot tìm memory?

Khi bạn hỏi về quá khứ:

Bạn: "Hôm trước mình quyết định dùng database gì?"

Moltbot nghĩ: "Cần tìm trong memory"
    ↓
Tìm kiếm trong các file memory
    ↓
Tìm thấy: "2026-01-15: Chọn PostgreSQL"
    ↓
Moltbot: "Bạn đã chọn PostgreSQL vào ngày 15/1"

Tìm kiếm memory như thế nào?

Moltbot dùng 2 cách tìm:

  • Bạn hỏi: "database gì"
  • Tìm được: "PostgreSQL" (vì cùng nghĩa)
  • Bạn hỏi: "POSTGRES_URL"
  • Tìm được: đúng từ đó

Kết hợp cả 2:

Điểm cuối = 70% × điểm_nghĩa + 30% × điểm_từ_khóa

Khi context đầy thì sao?

Khi chat quá dài (gần 200K tokens):

Bước 1: Lưu trước

Moltbot (thầm): "Sắp hết chỗ, lưu những thứ quan trọng đã"
    ↓
Ghi vào memory/2026-01-27.md

Bước 2: Tóm tắt

Trước: 100 tin nhắn chi tiết
    ↓
Sau: 1 đoạn tóm tắt + 10 tin nhắn gần nhất

Bước 3: Tiếp tục chat

Context giảm từ 180K → 45K tokens
Tiếp tục chat bình thường

Tóm tắt

ContextMemory
Là gìCuộc chat hiện tạiFile trên máy
Giới hạn200K tokensKhông giới hạn
Tồn tạiMất khi resetVĩnh viễn
Dùng đểChat realtimeNhớ lâu dài

Điểm hay

  1. Bạn đọc được memory - Mở file Markdown ra xem
  2. Bạn sửa được memory - Xóa/thêm gì cũng được
  3. Backup được - Copy folder là xong

Tiếp theo

Tìm kiếm hoạt động thế nào?