llama.cpp 修復 PDL 競態條件問題

在 GitHub 上，llama.cpp 項目發佈了版本號為 b9491 的新更新，旨在解決 PDL 相關的競態條件問題。官方公告表示，由於 __restrict__ 與 PDL 不相容，開發團隊從 PDL 核心標頭中移除此關鍵字。為了在較舊的架構上維持效能，他們添加了基於架構的預處理指令，在核心體中重新加入 __restrict__。此次更新還簡化了新 __restrict__ 的使用方式，並透過宏來實現，同時修復了對 Hopper 架構的支持。發佈提供了廣泛的平台支援，包括 macOS Apple Silicon、macOS Intel、iOS XCFramework、多種 Linux 發行版（如 Ubuntu 的不同架構和 Vulkan、ROCm、OpenVINO 支持）、Android arm64、以及 Windows 平台的多個版本（CPU、CUDA、Vulkan、HIP 等）。社群討論中，用戶可以從 GitHub 發佈頁面下載這些二進制檔案，以便在不同設備上測試和使用。整體而言，這是一個重要的維護性更新，旨在提升穩定性和效能。