GitHub - localgpt-app/localgpt

LocalGPT

LocalGPT là một trợ lý AI tập trung cho thiết bị cục bộ được xây dựng bằng Rust, với các tính năng như bộ nhớ lâu dài và thực hiện tác vụ tự động.

Tại sao chọn LocalGPT?

• Duy nhất một tệp nhị phân — không cần đến Node.js, Docker hay Python.
• Tập trung vào thiết bị cục bộ — chạy hoàn toàn trên máy của bạn, đảm bảo dữ liệu bộ nhớ của bạn vẫn thuộc quyền sở hữu của bạn.
• Bộ nhớ lâu dài — lưu trữ kiến thức dựa trên markdown với khả năng tìm kiếm toàn văn và ngữ nghĩa.
• Tác vụ tự động — cho phép các tác vụ chạy ngầm.

Cài đặt

# Cài đầy đủ (bao gồm giao diện máy tính để bàn)
cargo install localgpt

# Chế độ Headless (không có giao diện máy tính để bàn — cho máy chủ, Docker, CI)
cargo install localgpt --no-default-features

Hướng dẫn nhanh

# Khởi tạo cấu hình
localgpt config init

# Bắt đầu trò chuyện tương tác
localgpt chat

# Hỏi một câu hỏi
localgpt ask "What is the meaning of life?"

# Chạy như một dịch vụ nền với API HTTP và UI web
localgpt daemon start

Cách hoạt động

LocalGPT sử dụng các tệp markdown đơn giản làm bộ nhớ:

~/.localgpt/workspace/
├── MEMORY.md            # Lưu trữ kiến thức dài hạn
├── HEARTBEAT.md         # Hàng đợi tác vụ tự động
├── SOUL.md              # Hướng dẫn hành vi và tính cách
└── knowledge/           # Ngân hàng kiến thức có cấu trúc (tùy chọn)
    ├── finance/
    ├── legal/
    └── tech/

Các tệp này được lập chỉ mục với SQLite FTS5 để tìm kiếm từ khóa nhanh chóng và sqlite-vec cho tìm kiếm ngữ nghĩa với các embedding cục bộ.

Cấu hình

Lưu trữ tại ~/.localgpt/config.toml:

[agent]
default_model = "claude-cli/opus"

[providers.anthropic]
api_key = "${ANTHROPIC_API_KEY}"

[heartbeat]
enabled = true
interval = "30m"
active_hours = { start = "09:00", end = "22:00" }

[memory]
workspace = "~/.localgpt/workspace"

Lệnh CLI

# Trò chuyện
localgpt chat                     # Trò chuyện tương tác
localgpt chat --session <id>      # Tiếp tục phiên làm việc
localgpt ask "question"           # Hỏi một câu hỏi đơn

# Daemon
localgpt daemon start             # Bắt đầu daemon
localgpt daemon stop              # Dừng daemon
localgpt daemon status            # Hiển thị trạng thái
localgpt daemon heartbeat         # Chạy một vòng chu kỳ

# Bộ nhớ
localgpt memory search "query"    # Tìm kiếm bộ nhớ
localgpt memory reindex           # Tái chỉ mục tệp
localgpt memory stats             # Hiển thị thống kê

# Cấu hình
localgpt config init              # Tạo cấu hình mặc định
localgpt config show              # Hiển thị cấu hình hiện tại

HTTP API

Khi daemon đang chạy:

Blog

Why I Built LocalGPT in 4 Nights — câu chuyện đầy đủ với phân tích chi tiết từng cam kết.

Được xây dựng với

Rust, Tokio, Axum, SQLite (FTS5 + sqlite-vec), fastembed, eframe

Giấy phép

Apache-2.0