ollama v0.12.9 发布：修复 CPU Only 系统性能回退并优化 GPU 与 ROCm 支

抖音热门 2025年11月03日 09:07 0 admin

2025年11月2日，ollama 发布了 v0.12.9 最新版本，本次更新主要针对 CPU-only 系统的性能回退问题进行了修复，同时在 GPU 设备检测、ROCm 错误处理以及 CUDA 内存分配优化方面进行了多项改进。以下是版本的详细变化说明。

一、主要更新内容

1. 修复 CPU-only 系统性能回退问题

本次版本重点修复了在仅使用 CPU 的环境下出现的性能回退（regression）问题，确保在缺乏 GPU 的系统上依旧能够高效运行模型。

2. GPU 设备检测路径优化

在 GPU 设备枚举的过程中，旧版本使用 LibOllamaPath 作为库路径，本次更新统一改为 ml.LibOllamaPath，保证路径引用一致性，提升跨平台与多设备环境下的稳定性。
改动包括：

• discover/runner.go 中多处将 LibOllamaPath 替换为 ml.LibOllamaPath

• 在 ROCm 目录查找、设备列表更新等逻辑中进行相同修改

• ml/device.go 中 LibraryPaths 函数初始化时确保 LibOllamaPath 包含于 GPU 库路径列表中

这些改动有助于在 GPU 初始化阶段正确加载相关库文件，尤其是在混合 GPU 环境中（CUDA 与 ROCm 并存）。

3. ROCm 错误捕获与日志改进

新增对 ROCm error 的日志监控，llm/status.go 的 errorPrefixes 列表中增加了 "ROCm error" 条目，使错误信息能够被及时捕获与输出，便于定位问题。

4. CUDA 内存操作优化

在 CUDA 后端实现中增加了对内存设置与拷贝操作的优化逻辑：

• 新增 cudaMemsetAsyncReserve 方法：在图预留（reserving_graph）阶段，避免执行不必要的 cudaMemsetAsync 操作，从而减少 GPU 内存分配压力

• 对 cudaMemcpyAsync、cudaMemcpy2DAsync、cudaMemsetAsync 进行了宏替换，使其在预留阶段直接返回成功，而不执行实际操作

• 这一改动在 ggml/src/ggml-cuda/common.cuh 和 ml/backend/ggml/ggml/src/ggml-cuda/common.cuh 中均有实现，使 CUDA 后端在图优化阶段更高效

效果：

• 避免无意义的 GPU 内存清零操作

• 在模型装载与推理时减少延迟

5. 测试用例调整

integration/api_test.go 中移除了冗余的 TestAPIEmbeddings 测试方法，此前该测试会调用嵌入 API（Embeddings），包括模型拉取与输出验证，此处删除主要是简化测试集，避免重复测试相同功能。

6. 文件结构调整与命名空间修改

discover/path.go 文件更名为 ml/path.go，并将包名从 discover 改为 ml，归类到机器学习核心逻辑下，使模块结构更加清晰。

二、总结

ollama v0.12.9 在保持功能稳定的同时，解决了 CPU-only 系统的性能问题，并且显著优化了 GPU 设备检测、ROCm 错误日志及 CUDA 内存分配机制。这些改进对在多种硬件环境中部署 Ollama 的用户尤为重要：

• CPU-only 用户 可获得更好的推理性能

• GPU 用户 能够享受更稳定的设备检测与库加载机制

• CUDA/ROCm 用户 可减少初始化延迟、提升整体运行效率

我们相信人工智能为普通人提供了一种“增强工具”，并致力于分享全方位的AI知识。在这里，您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。

欢迎关注“福大大架构师每日一题”，发消息可获得面试资料，让AI助力您的未来发展。

一分钟了解“微信小程序保皇怎么能让牌好一点”（必赢神器免费安装)

美国重返月球2号计划：火箭飞船成功对接，3号宇航员登月稳定了？

附近50公里内的景点附近50公里内的景点西安-长征号

首页排行榜文章正文

美国重返月球2号计划：火箭飞船成功对接，3号宇航员登月稳定了？

排行榜 2025年11月03日 09:07 0 admin

10月下旬，美国重返月球计划又迎来新消息，那就是“美载人绕月任务飞船完成与火箭对接”，这意味着什么？美国重返月球2号任务箭在弦上？3号任务也稳定了？

的确，这是美国载人航天任务之中又一次进度说明，不过，对于美国整个载人登月计划——阿耳忒弥斯计划来说，要想全面完成，也并没有那么容易，为什么这样说呢？

其实原因非常简单，这任务并不容易，并且当下美国面临的问题的确很多，无论是技术问题，还是其他问题，都是扎堆了。我们就一步一步来看看。

美国重返月球2号计划：火箭飞船成功对接

这是来自美国航天局（NASA）代理局长肖恩·达菲对外公开宣布的，那就是执行“阿耳忒弥斯2号”载人绕月飞行任务的“猎户座”飞船已与美国新一代登月火箭“太空发射系统”完成对接，为执行载人任务做好准备，也就是说组合体已经完成了对接，的确是整个任务就像是箭在弦上了，而对于这一次任务来说，相对于1号任务来说，难度也是再次提升了。

因为阿耳忒弥斯1号任务并没有宇航员，而这一次阿耳忒弥斯2号任务是有4名宇航员，并且要进行绕月任务，这将是美国半个多世纪以来首次开展载人深空飞行。

的确，自从美国阿波罗计划执行之后，美国的50多年之中，基本都是保持“空窗期”的模式，并且连探测器的发射都没有执行过，就更加别说载人登月了，以至于美国登月之下的产业都没有了。

所以，当美国在进行重返月球计划之下，都要全面研发新火箭，新飞船等等，使得美国再次走一次载人登月的路线，只是美国有点着急了，不断推动自己的登月计划，但又面临了各种困境，所以，导致任务一次又一次的研究，而这一次2号任务的执行也是延期之后的时间点。

不过，从这一次的说明大家也看到了，2号任务也是深空飞行，从这个字眼就明显说明了，美国的2号任务并不会实施载人登陆月球，按照计划，这一次任务将可能在2026年2月到4月执行，最快反正就是2月，到底还会不会推迟，这个要看具体的情况，这个我们把控不了，也只有美国自己知道。而2号任务的问题，也将是决定美国2号任务执行的关键。

然而呢？在2号任务还未执行前，美国就脑壳大了，对于载人登月任务来说，当下面临的困境也不是“你我他”能够体会的，可以说让美国3号任务有点头大了，3号任务相对于2号任务来说，又进行了升级。

所以，就算是美国1号任务，2号任务都完美执行了，但也不能代表美国3号任务就非常稳定了，这里面是存在很多的问题，不然美国也不会着急寻找替代者，来全面执行载人登月任务的辅助。

美国2027年可以完成载人登月吗？

3号任务最大的问题就是送宇航员上月球，而绕飞过程之中，只需要飞船就行了，但是在月球表面上去，那就不简单，这不仅是需要飞船，还要最为关键的月球着陆器，美国在这方面就卡了，美国最初依赖于美国的大火箭，并且完成测试之后，全面进行飞船的升级，打造月球着陆器，但是至今怎么样？美国的大火箭还是属于早期阶段，美国宇航局（NASA）代理局长是直接说了。

而要想上月球，需要它达到完美的状态，并且完成月球着陆器的研发，这样才可以支持美国重返月球计划，但这眼看就要2027年，这一款火箭测试都还未结束，还在继续进行升级改造等等，这就是当下美国最为头大的，虽然我也知道很多人是大火箭的爱粉，但相对来说，这的确是美国面临登月上的困境，因为在基础性测试之后，还要进行太空加油测试等，才会进行飞船改造，打造月球着陆器。

不过，当下又在说进行缩小版本，简单版本的月球着陆器打造，所以，会不会起到效果，这还是不明确，美国当下已经是绞尽脑汁干这些事情了。

只能说，当下美国2027年送宇航员上月球，根本不太可能，这任务大概率还会进行延期，这就是美国当下最大的问题，当然，可能不少人也相信大火箭会快速出来，毕竟已经发射10多次了，怎么说呢？