llama.cpp Releases· github-actions[bot]·· 16 小时前AI 评分10
llama.cpp b11624 改进 RPC 张量传输日志
b11624
AI 导读
llama.cpp 发布 b11624,改进 ggml 的 RPC 张量传输日志:新增 rpc_log_format_size(),在 RPC 客户端、服务端和传输链路日志中以 KiB/MiB/GiB 打印字节数;新增 rpc_log_format_tensor(),在 set/get/memset/copy/init 张量日志中输出张量名称、op、类型和 shape。
来源:llama.cpp Releases · github.com