Ollama 因其简单易用而备受欢迎，但这背后隐藏着巨大的安全隐患。数以万计的 Ollama 实例正毫无防备地暴露在公网上，任何人都可以滥用其计算资源，甚至控制服务器。本文通过真实的网络测绘数据，揭示了这一问题的严重性，深入分析了其危害，并提供了立即可行的防护指南。

本文介绍了如何配置和使用llm-api-benchmark-mcp-server，一个允许LLM Agent在自然语言指令下测量LLM API吞吐性能的工具，并详细说明了在Roo Code中设置和进行并发性能测试的步骤。

文章提供了 Linux 和 Windows 平台上的快速开始指南，包括下载、配置和运行工具的命令示例。

本文对比了使用xformers与flash attention 2作为后端注意力机制时，vllm的性能差距。

本文记录如何在 1C1G 的 VPS 上，使用 Ollama 运行 LLM 。

本文对比了 VLLM, SGLang 和 LMDeploy 三个大模型推理引擎在短输入长输出场景下的吞吐速度，单位为输出 token/s。