思媒普码

站长之家,思媒普码网,Windows系统,php源码,技术之家,电脑疑难解答,SEO优化
首页 / 手机软件 / Local LLM Notepad(开源免费本地大语言模型记事本)

Local LLM Notepad(开源免费本地大语言模型记事本)

思媒普码 发布于 2025-7-8 05:00 阅读:18 手机软件

软件介绍

Local LLM Notepad是一款开源、离线 、即插即用的桌面本地大语言模型记事本软件,专为在本地运行大型语言模型(LLM)而设计 。用户只需将软件和兼容模型文件复制到U盘中 ,即可在任何Windows电脑上通过双击启动,无需安装、联网、云服务或管理员权限。它基于Llama.cpp技术,完全支持 CPU 运行 ,适用于从文档撰写 、头脑风暴到问答交互等多种场景,是便携式AI助手的理想选择。

技术架构

基于Llama.cpp框架,实现纯CPU推理 。

使用GGUF 格式模型 ,如gemma-3-1b-it-Q4_K_M.gguf,确保兼容性和高效性。

单文件.exe程序,便于携带与部署。

使用方式

下载Local_LLM_Notepad-portable.exe及任意 GGUF 模型文件 。

将两者复制到 U 盘或本地目录。

在任意 Windows 电脑上双击.exe文件即可运行。

软件功能
功能名称
功能描述