LM Studio

官网介绍

LM Studio 是一款支持在本地设备运行大语言模型（LLMs）的工具，主打离线使用，用户可在电脑上发现、下载并运行多种架构的本地模型，注重数据隐私与离线操作，适用于个人及开发者进行本地AI应用开发与测试。

官网地址

https://lmstudio.ai

网址预览

主要功能

• 本地运行LLMs：支持在笔记本电脑等设备上完全离线运行模型，兼容Llama、Mistral、Phi等多种架构及GGUF格式模型。
• 文档交互：可与本地文档进行对话，实现基于私有数据的问答。
• 多方式使用：通过内置聊天界面或兼容OpenAI的本地服务器调用模型。
• 模型获取：从Hugging Face仓库下载兼容的模型文件，内置模型发现页面便于探索新模型。

使用场景

• 离线环境下的AI对话与内容生成；
• 基于本地文档的知识查询与分析；
• 开发者测试本地大语言模型应用；
• 注重数据隐私的个人或企业本地AI任务处理。

适用人群

个人用户、AI开发者、需要离线使用大语言模型的从业者，以及关注数据本地化和隐私保护的用户。