ラベル Vulkan の投稿を表示しています。 すべての投稿を表示
ラベル Vulkan の投稿を表示しています。 すべての投稿を表示

2026年4月14日火曜日

llama.cpp backendによって地味に差がある?

手元の環境で実行できるbackendは、CPUのみとVulkanとSYCL。

この前動かした状態だとVulkanとSYCLではVulkanの方が遅かったのですが、再度環境を変えたところ両方ともほぼ同程度でした。