diff options
author | Douglas Hanley <thesecretaryofwar@gmail.com> | 2024-04-24 08:10:07 -0500 |
---|---|---|
committer | GitHub <noreply@github.com> | 2024-04-24 16:10:07 +0300 |
commit | b4e4b8a9351d918a56831c73cf9f25c1837b80d1 (patch) | |
tree | 26aa8b15ca29b3e63ab300cc863739f1f31cd1d6 /llama.h | |
parent | 3fe847b5747676ee1bf90371c46ed0bc66b57240 (diff) |
llama : add llama_get_pooling_type function (#6862)
* add llama_get_pooling_type function
* fix argument name, move with ctx funcs
Diffstat (limited to 'llama.h')
-rw-r--r-- | llama.h | 6 |
1 files changed, 4 insertions, 2 deletions
@@ -390,8 +390,10 @@ extern "C" { LLAMA_API uint32_t llama_n_ubatch (const struct llama_context * ctx); LLAMA_API uint32_t llama_n_seq_max (const struct llama_context * ctx); - LLAMA_API enum llama_vocab_type llama_vocab_type(const struct llama_model * model); - LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model); + LLAMA_API enum llama_pooling_type llama_pooling_type(const struct llama_context * ctx); + + LLAMA_API enum llama_vocab_type llama_vocab_type (const struct llama_model * model); + LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model); LLAMA_API int32_t llama_n_vocab (const struct llama_model * model); LLAMA_API int32_t llama_n_ctx_train(const struct llama_model * model); |