◀ IA · 8 NOV11/13
Lançamento
Build b12200 melhora kernels OpenCL para q8_0 e MoE
Os commits melhoram kernels OpenCL para q8_0 e MoE.
opencl: improve q8_0 and MoE small-n verification for spec (#31831)
github.com
Um dos commits adiciona o kernel kernel_gemv_noshuffle_q8_0_f32_mc.
opencl: add kernel_gemv_noshuffle_q8_0_f32_mc
github.com
Outro commit traz GEMV small-n para MoE em q5_1 e q4_k.
opencl: small-n MoE GEMV for q5_1, q4_k
github.com

