llama.cpp Releases· github-actions[bot]·· 8 小时前AI 评分8
llama.cpp b11592 发布:CUDA 图调试日志改由 GGML_CUDA_GRAPH_DEBUG 控制
b11592
AI 导读
llama.cpp 发布 b11592,为 ggml-cuda 新增 GGML_CUDA_GRAPH_DEBUG 环境变量,CUDA graph 调试日志需显式开启。环境变量读取改为通过 ggml_cuda_env_flag/ggml_cuda_env_int 一次性缓存到 static const,不再每次调用重复读取,并移除了 CUDA graph 日志的 NDEBUG 限制。
来源:llama.cpp Releases · github.com