Closed
Description
both llama.cpp with : % cmake .. -DLLAMA_CUBLAS=ON -DLLAMA_CUDA_DMMV_F16=ON -DLLAMA_CUDA_DMMV_Y=16
and in koboldcpp with : % cmake .. -DLLAMA_CUBLAS=1
give : ggml.h(218): error: identifier "__fp16" is undefined
{{ message }}
both llama.cpp with : % cmake .. -DLLAMA_CUBLAS=ON -DLLAMA_CUDA_DMMV_F16=ON -DLLAMA_CUDA_DMMV_Y=16
and in koboldcpp with : % cmake .. -DLLAMA_CUBLAS=1
give : ggml.h(218): error: identifier "__fp16" is undefined