返回事件流

Vulkan 改進減少主機記憶體鎖競爭

GitHub 發布了 llama.cpp 的 b9457 版本,此次更新主要針對 Vulkan 後端進行性能優化。官方發布表示,透過減少主機記憶體鎖競爭來提升運行效率,具體改進措施包括將獨特鎖(unique_lock)替換為鎖守衛(lock_guard)。此外,此版本提供了廣泛的跨平台二進制檔案下載支援,涵蓋 macOS Apple Silicon 和 Intel 架構、iOS XCFramework、Linux 各種版本(如 Ubuntu x64/arm64 CPU、Vulkan、ROCm 7.2、OpenVINO 等)、Android arm64 CPU 版本,以及 Windows x64 和 arm64(支援 CPU、CUDA 12.4/13.3、Vulkan、HIP)等。部分進階功能如 KleidiAI 啟用和 SYCL 支援目前處於禁用狀態,但整體更新旨在改善 Vulkan 使用者的體驗並擴展平台相容性。

來源

來源:GitHub Release