tqcq/llama.cpp
0
0
Fork 0
mirror of https://github.com/ggml-org/llama.cpp.git synced 2025-08-17 05:25:09 -04:00
Code Issues Packages Projects Releases Wiki Activity

examples : add chat-vicuna.sh (#1854)

Browse Source 
Co-authored-by: Yang Li <yangliyl@google.com>
This commit is contained in:
yangli2
2023-06-15 11:05:53 -07:00
committed by GitHub
parent 3559433fec
commit c36e81da62
2 changed files with 44 additions and 3 deletions
Download Patch File Download Diff File Expand all files Collapse all files

6
llama.h
View File

@@ -244,9 +244,9 @@ extern "C" {
LLAMA_API const char * llama_token_to_str(const struct llama_context * ctx, llama_token token);
// Special tokens
LLAMA_API llama_token llama_token_bos();
LLAMA_API llama_token llama_token_eos();
LLAMA_API llama_token llama_token_nl();
LLAMA_API llama_token llama_token_bos(); // beginning-of-sentence
LLAMA_API llama_token llama_token_eos(); // end-of-sentence
LLAMA_API llama_token llama_token_nl(); // next-line
// Sampling functions