📢 转载信息
原文链接：https://www.kdnuggets.com/5-free-tools-to-experiment-with-llms-in-your-browser
原文作者：Kanwal Mehreen
Image by Author
# 引言
大型语言模型（LLMs）改变了我们使用人工智能（AI）的方式，但尝试它们往往需要付费API、云服务器或复杂的设置。现在，你可以直接在浏览器中免费测试和运行LLM。这些基于浏览器的工具允许你在本地运行模型、比较结果，甚至创建自主智能体，而无需任何后端设置或服务器成本。如果你想测试提示词、原型设计AI功能，或者只是探索现代LLM的工作原理，可以看看以下五个工具。
# 1. WebLLM
WebLLM是一个开源引擎，无需服务器或云GPU即可在浏览器内部运行LLM。它使用WebGPU进行快速执行，或使用WebAssembly作为后备方案。它支持Llama、Mistral、Phi、Gemma和Qwen等流行模型，以及定制的机器学习编译（MLC）模型。WebLLM支持OpenAI API的聊天补全、流式传输、JSON模式和函数调用。由于所有内容都在客户端运行，这保证了数据隐私、降低了服务器成本，并使其易于作为静态网页部署。它适用于基于浏览器的聊天机器人、个人助理和嵌入式AI功能。
# 2. 免费LLM游乐场 (Free LLM Playground)
Free LLM Playground是一个无需设置的基于Web的沙盒环境。你可以在其中测试和比较来自OpenAI、Anthropic、Google/Gemini以及其他开源模型的性能。它每天提供50次免费聊天，并允许你调整温度、指令和惩罚等参数。它支持带有变量的模板，并且你可以通过公共URL或代码片段分享或导出聊天记录。输入默认是私密的。这个工具非常适合提示词测试、快速原型设计或比较不同模型的输出。
# 3. BrowserAI
BrowserAI是一个开源的JavaScript库，允许你直接在浏览器中运行LLM。它利用WebGPU，并在必要时回退到WebAssembly，以确保推理速度快且本地化。它可以处理小型到中型的模型，并具备文本生成、聊天、语音识别和文本转语音等功能。你可以使用npm或yarn安装它，仅需几行代码即可开始。模型加载后，它完全在你的设备上运行，即使在离线状态下也是如此，因此非常适合注重隐私的应用程序和快速的AI原型设计。
# 4. Genspark.ai
Genspark.ai是一个由多个AI代理驱动的搜索和知识引擎。它不显示常规的搜索结果，而是将查询转化为生成的网页，称为“Sparkpages”。这些代理会抓取可靠来源，实时收集信息并进行总结。用户可以向AI副驾驶询问后续问题或获取更多见解。它提供干净、无垃圾信息、无广告的内容，并通过避免手动浏览来节省时间。这是一个用于研究、学习和快速获取相关信息的有用工具。
# 5. AgentLLM
AgentLLM是一个开源的、基于浏览器的工具，用于运行自主AI智能体。它执行本地LLM推理，使智能体能够在浏览器中直接执行任务、采取行动并对其进行迭代。它的理念借鉴了AgentGPT等框架，但使用本地模型而非云调用，以确保隐私和去中心化。该平台完全在客户端运行，并根据通用公共许可证（GPL）授权。尽管它目前仍是一个概念验证（PoC）且尚未投入生产，但AgentLLM非常适合在浏览器中原型化、研究和测试自主智能体。
# 总结
这些工具让在浏览器中试验LLM变得非常简单。你可以在没有设置或成本的情况下测试提示词、构建原型或运行自主智能体。它们提供了一种快速、实用的方式来探索AI模型并了解它们的能力。
Kanwal Mehreen 是一位机器学习工程师和技术作家，对数据科学以及AI与医学的交叉领域怀有深厚的激情。她是电子书《最大化使用ChatGPT的效率》的合著者。作为2022年亚太地区谷歌一代学者，她倡导多样性和学术卓越。她还获得了Teradata技术多样性学者、Mitacs全球连接研究学者和哈佛WeCode学者等荣誉。Kanwal是变革的坚定倡导者，她创立了FEMCodes以赋权STEM领域的女性。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区