11kstars使用MLX框架在AppleSiliconMac上与数据进行原生对话

chat-with-mlx：使用MLX框架在Apple Silicon Mac上与数据进行原生对话

2024-02-16 1061 stars 102 forks

chat-with-mlx 是由 qnguyen3 创建的 GitHub 项目，展示了一个支持多个开源模型的检索增强生成（RAG）聊天界面。

该项目支持与数据（doc(x), pdf, txt）和 YouTube 视频进行聊天，多语言支持，易于集成任何 HuggingFace 和 MLX 兼容的开源模型。

安装简便，支持的模型包括 Google Gemma-7b-it、Mistral-7B-Instruct 等。用户可添加自己的模型到 chat_with_mlx/models/configs 文件夹，并通过 .yaml 文件简便加载。