ikawrakow/ik_llama.cpp
1
0
Fork 0
mirror of https://github.com/ikawrakow/ik_llama.cpp.git synced 2026-02-23 22:54:10 +00:00
Code Issues Packages Projects Releases Wiki Activity

Fix compiler warnings

Browse Source
This commit is contained in:
Iwan Kawrakow
2025-09-23 11:28:52 +03:00
parent 6d2e7ca42d
commit 8794a2fecd
1 changed files with 9 additions and 6 deletions
Download Patch File Download Diff File Expand all files Collapse all files

15
include/llama.h
View File

@@ -1117,14 +1117,16 @@ extern "C" {
typedef void* llama_sampler_context_t;
struct llama_sampler;
// user code can implement the interface below in order to create custom llama_sampler
struct llama_sampler_i {
const char* (*name) (const struct llama_sampler* smpl); // can be NULL
void (*accept)(struct llama_sampler* smpl, llama_token token); // can be NULL
void (*apply) (struct llama_sampler* smpl, llama_token_data_array* cur_p); // required
void (*reset) (struct llama_sampler* smpl); // can be NULL
struct llama_sampler* (*clone) (const struct llama_sampler* smpl); // can be NULL if ctx is NULL
void (*free) (struct llama_sampler* smpl); // can be NULL if ctx is NULL
const char* (*name) (const struct llama_sampler*); // can be NULL
void (*accept)(struct llama_sampler*, llama_token); // can be NULL
void (*apply) (struct llama_sampler*, llama_token_data_array*); // required
void (*reset) (struct llama_sampler*); // can be NULL
struct llama_sampler* (*clone) (const struct llama_sampler*); // can be NULL if ctx is NULL
void (*free) (struct llama_sampler* smpl); // can be NULL if ctx is NULL
};
struct llama_sampler {
@@ -1147,6 +1149,7 @@ extern "C" {
size_t n_rules,
size_t start_rule_index);
struct llama_sampler_grammar;
LLAMA_API void llama_grammar_init_lazy(struct llama_sampler_grammar * grammar);
LLAMA_API void llama_grammar_free(struct llama_grammar * grammar);