GitHub - RunanywhereAI/RCLI: Trò chuyện với Mac của bạn, truy vấn tài liệu, không cần đám mây

RCLI: Trò chuyện với Mac của bạn, truy vấn tài liệu, không cần đám mây

RCLI là một AI giọng nói trên thiết bị dành cho macOS, được tích hợp đầy đủ với STT + LLM + TTS, chạy trên Apple Silicon. Nó cung cấp 38 hành động macOS thông qua giọng nói và RAG cục bộ. Không cần kết nối đám mây hay khóa API.

Demo

Trò chuyện bằng giọng nói: RCLI lắng nghe, hiểu và phản hồi trực tiếp trên thiết bị.
Điều khiển ứng dụng: Điều khiển Spotify, điều chỉnh âm lượng - 38 hành động macOS bằng giọng nói.
Mô hình: Duyệt và thay đổi LLM trực tiếp từ TUI.
Trí tuệ tài liệu (RAG): Nhập liệu văn bản và đặt câu hỏi bằng giọng nói.

Cài đặt

Yêu cầu macOS 13+ trên Apple Silicon, MetalRT cần M3 hoặc mới hơn.

curl -fsSL https://raw.githubusercontent.com/RunanywhereAI/RCLI/main/install.sh | bash

Hoặc sử dụng Homebrew:

brew tap RunanywhereAI/rcli https://github.com/RunanywhereAI/RCLI.git
brew install rcli
rcli setup

Quick Start

rcli                             # TUI tương tác
rcli listen                      # Chế độ nghe liên tục
rcli ask "open Safari"           # Lệnh đơn giản

Tính năng nổi bật

38 Hành động macOS: Điều khiển Mac bằng giọng nói hoặc văn bản. Ví dụ: create_note, send_message, play_on_spotify.
RAG (Hỏi & Đáp tài liệu cục bộ): Truy vấn các tài liệu bằng giọng nói với độ trễ ~4ms.
TUI tương tác: Bảng điều khiển với tính năng push-to-talk, giám sát phần cứng, và quản lý mô hình.

MetalRT GPU Engine

Tối ưu cho Apple Silicon với hiệu suất cao, đòi hỏi M3 hoặc mới hơn. MetalRT tự động cài đặt trong quá trình rcli setup.

rcli metalrt install
rcli metalrt status

Mô hình được hỗ trợ

LLM: LFM2 1.2B (mặc định), Qwen3.5 4B, Llama 3.2 3B.

STT: Zipformer (streaming), Whisper base.en.

TTS: Piper Lessac, Kokoro English.

Cài đặt mặc định (rcli setup): ~1GB.

rcli models                  # Quản lý mô hình
rcli upgrade-llm             # Nâng cấp LLM

Build từ Source

Tùy chọn build CPU-only:

git clone https://github.com/RunanywhereAI/RCLI.git && cd RCLI
bash scripts/setup.sh
bash scripts/download_models.sh
mkdir -p build && cd build
cmake .. -DCMAKE_BUILD_TYPE=Release
cmake --build . -j$(sysctl -n hw.ncpu)
./rcli

Tham gia đóng góp

Contributions được chào đón. Xem CONTRIBUTING.md để biết thêm thông tin.

Giấy phép

RCLI là mã nguồn mở theo Giấy phép MIT. MetalRT là phần mềm sở hữu của RunAnywhere, Inc..