本地 LLM
概述
遇见一个浏览器助手，让运行本地模型变得自然、快速且私密。如果你喜欢这些聊天并想要一个可以在你的电脑上运行的个人助手——那就是它。你现在不再受限于外部服务，可以下载它。
在浏览器中聊天关于网站、PDF或任何其他文件。获取页面的良好摘要。它是为那些想要流畅且干净的本地 LLM 用户界面的人而构建的，并提供在浏览时询问助手的实用方式。
🚀 可用于本地使用的下一个模型：
- 谷歌的 Gemini Nano - 嵌入在 Chrome 中
- DeepSeek R1 Distill Llama 8B - 深度思考 - 在你的本地运行
- Gemma 2 2B
- Llama 3.2 1B
✅ 如何开始的提示
1. 添加扩展并打开侧边栏
2. 从本地 LLM 用户界面中的列表中选择
3. 点击下载一次
4. 然后每天保持使用相同的设置
可供选择的模型始终可见，因此切换快速且可预测。你可以在轻量级和更强大的选项之间切换，保持你喜欢的本地 LLM 套件，并在不跳转工具的情况下保持高效。
可用的选择包括不同的预构建 WebLLM，以提供浏览器内的体验。这帮助你在任何网站上进行聊天，并使用带有标签上下文的模型，同时将私密 AI 作为默认目标。
📦 下载一次，然后始终运行
1️⃣ 一次性获取本地 WebLLM
2️⃣ 在会话之间保持聊天准备就绪
3️⃣ 减少 AI LLM 任务的设置摩擦
4️⃣ 即使在离线时也保持一致
模型可用网站上下文，因此它表现得像一个真正的浏览器助手。你可以询问 AI 关于你的标签、选定文本和当前页面内容，然后获得适合你工作流程的扎实答案。
你每天可以做的事情：
• 网页上的摘要、重点和行动项 - 不需要互联网
• 以你的语气重写选定文本 - LLM 在你的本地运行
• 在所有会话中进行对话
• 将标签转换为笔记或清单
• 根据页面上下文快速草拟回复
为什么它感觉像是一个全能的 LLM 助手：
➤ 快速、可重复的 AI 提示
➤ 本地 LLM 用户界面中的清晰状态和模型切换
➤ 更简单的研究和写作流程
➤ 如果你只是想在本地运行 LLM
📺 你可以立即做的更多智能事情：
🔄 将杂乱的页面转换为结构化的大纲以供学习或工作
🔍 在不离开标签的情况下提取定义、名称和关键事实
❓ 创建后续问题以加深对 LLM 的理解，几秒钟内完成
🛡️ 总结多个来源，然后并排比较结论
🎁 仅使用本地开放网站上下文构建简短的简报
隐私和控制，没有额外的复杂性：
▸ 在使用开源模型时，没有查询会离开你的电脑
▸ 私密 AI，按设计本地化
▸ WebLLM
对于构建者和探索者，它提供开源 LLM 🧩 - 感觉就像你在构建自己的本地模型。
如果你喜欢折腾，你可以将你的设置视为个人实验室：
➤ 保持轻量级套件以提高速度，保持更强大的套件以进行推理
➤ 针对不同任务和写作风格测试不同的本地 LLM
➤ 跟踪更新以跟踪质量和稳定性的改进
➤ 探索开源 LLM 趋势而不改变你的日常流程
更新保持可管理且用户友好：
💎 改善输出质量的更新
🚀 简单的模型切换而不打断你的流程
帮助现实生活的额外细节：
• 标签上下文和你本地笔记之间的清晰分离
• 支持研究、写作和规划的可重复工作流程
• 即使在长时间会话和多个打开页面之间也保持一致的行为
• 从下载 AI 到日常使用的简单路径，无需额外步骤
如果你在教某人如何轻松安装他们自己的 LLM，这是一个干净的起点。它也符合可下载 AI 存储库的思维方式，因此你可以一次下载 AI，保持 AI 模型准备就绪，避免重复相同的设置步骤。
人们喜欢的用例：
◆ 总结长文章
◆ 从文档中提取行动项
◆ 根据页面上下文重写电子邮件
◆ 在网站中比较来源
◆ 快速创建结构化笔记
日常浏览的额外创意：
1️⃣ 从技术页面创建快速词汇表
2️⃣ 将文档转换为你可以遵循的清单
3️⃣ 为不同的受众或级别重写内容
4️⃣ 从标签一次生成简短的简报
5️⃣ 捕捉关键要点以丰富你的个人知识库
本地 LLM 1.15.0.crx
.crx
1.15.0
3.44MiB
支持
本地 LLM 1.15.0.zip
.zip
1.15.0
3.44MiB
不支持
页:
[1]