简介
Jan 是一款注重隐私的开源 AI 桌面客户端(支持 Mac/Windows/Linux),用户可以在本地设备上离线运行大语言模型,所有数据完全保留在本地,无需联网。它内置模型下载功能,支持从 Hugging Face 等来源下载并管理各种开源模型。
核心功能
- 离线运行:完全本地推理,数据不出设备
- 模型管理:一键下载和管理多种开源模型
- GPU 加速:支持 NVIDIA CUDA 和 Apple Metal
- 扩展系统:支持插件扩展功能
- 远程 API:可作为 OpenAI 兼容 API 服务
- 对话管理:历史记录本地保存