summaryrefslogtreecommitdiff
path: root/llama.h
diff options
context:
space:
mode:
authorDouglas Hanley <thesecretaryofwar@gmail.com>2024-04-24 08:10:07 -0500
committerGitHub <noreply@github.com>2024-04-24 16:10:07 +0300
commitb4e4b8a9351d918a56831c73cf9f25c1837b80d1 (patch)
tree26aa8b15ca29b3e63ab300cc863739f1f31cd1d6 /llama.h
parent3fe847b5747676ee1bf90371c46ed0bc66b57240 (diff)
llama : add llama_get_pooling_type function (#6862)
* add llama_get_pooling_type function * fix argument name, move with ctx funcs
Diffstat (limited to 'llama.h')
-rw-r--r--llama.h6
1 files changed, 4 insertions, 2 deletions
diff --git a/llama.h b/llama.h
index 7bfd1374..0eb2a1e9 100644
--- a/llama.h
+++ b/llama.h
@@ -390,8 +390,10 @@ extern "C" {
LLAMA_API uint32_t llama_n_ubatch (const struct llama_context * ctx);
LLAMA_API uint32_t llama_n_seq_max (const struct llama_context * ctx);
- LLAMA_API enum llama_vocab_type llama_vocab_type(const struct llama_model * model);
- LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model);
+ LLAMA_API enum llama_pooling_type llama_pooling_type(const struct llama_context * ctx);
+
+ LLAMA_API enum llama_vocab_type llama_vocab_type (const struct llama_model * model);
+ LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model);
LLAMA_API int32_t llama_n_vocab (const struct llama_model * model);
LLAMA_API int32_t llama_n_ctx_train(const struct llama_model * model);