ggml.ai gia nhập Hugging Face để đảm bảo sự tiến bộ lâu dài của Local AI

Thông báo

Chúng tôi vui mừng thông báo ggml.ai (nhóm sáng lập của llama.cpp) đã gia nhập Hugging Face để giữ cho AI trong tương lai thực sự mở.

Tóm tắt / Điểm chính

• Dự án ggml-org vẫn mở và do cộng đồng dẫn dắt.
• Đội ngũ ggml tiếp tục duy trì và hỗ trợ toàn thời gian các thư viện ggml và llama.cpp.
• Quan hệ đối tác mới đảm bảo tính bền vững dài hạn cho các dự án và tạo cơ hội mới cho người dùng và cộng tác viên.
• Sẽ tập trung thêm vào việc cải thiện trải nghiệm người dùng và tích hợp với thư viện transformers của Hugging Face để hỗ trợ mô hình tốt hơn.

Tại sao có sự thay đổi này?

Từ năm 2023, sứ mệnh cốt lõi của ggml.ai là hỗ trợ phát triển và ứng dụng thư viện máy học ggml. Thông qua cộng tác mạnh mẽ với các cộng tác viên và đối tác, llama.cpp đã trở thành nền tảng chính trong nhiều dự án và sản phẩm, cho phép AI riêng tư trên phần cứng tiêu dùng.

Hugging Face đã nổi bật như là đối tác mạnh nhất và hỗ trợ nhất. Các kỹ sư của HF đã đóng góp một số chức năng cốt lõi và giúp cải thiện khả năng tương thích của các mô hình và giao diện người dùng.

Thay đổi nào sẽ diễn ra?

Đội ngũ Georgi và đội ngũ sẽ tiếp tục dành 100% thời gian cho việc duy trì ggml/llama.cpp. Dự án sẽ tiếp tục mở hoàn toàn và do cộng đồng dẫn dắt như hiện tại. Hugging Face cung cấp tài nguyên bền vững dài hạn cho dự án.

Trọng tâm kỹ thuật

• Tích hợp trơn tru với thư viện transformers
• Cải thiện đóng gói và trải nghiệm người dùng của phần mềm dựa trên ggml

Tầm nhìn dài hạn

Mục tiêu chung là cung cấp các khối xây dựng để làm cho siêu trí tuệ mã nguồn mở dễ tiếp cận hơn trên toàn thế giới trong những năm tới. Cùng với cộng đồng Local AI, chúng tôi tiếp tục xây dựng một ngăn xếp suy diễn tối ưu cho các thiết bị của chúng ta.