Commit Graph

23 Commits (296a5b6707b9750997a60f11053a229550677951)

Author SHA1 Message Date
mudler e70322676c Allow to customize no action behavior 1 year ago
mudler b3f43ab938 Add a way to disable default action 1 year ago
mudler 483fddccf9 minor fixups 2 years ago
mudler f09ddd2983 feat: add grammar and functions call support 2 years ago
Ettore Di Giacinto 3593cb0c87
feat: update llama, enable NUMA (#684) 2 years ago
Ettore Di Giacinto 60db5957d3
Gallery repository (#663) 2 years ago
Ettore Di Giacinto 2f5feb4841
Add LowVRAM option parameter (#642) 2 years ago
Ettore Di Giacinto 295f3030a9
feat: add typical_p to model parameters (#598) 2 years ago
Ettore Di Giacinto 5abbb134d9
feat: extend model configuration for llama.cpp (#536) 2 years ago
Aisuko c8a4a4f4e9
feat: Add new test cases for LoadConfigs (#447) 2 years ago
Ettore Di Giacinto 217dbb448e
feat: allow to set a prompt cache path and enable saving state (#395) 2 years ago
Ettore Di Giacinto cc9aa9eb3f
feat: add /models/apply endpoint to prepare models (#286) 2 years ago
Ettore Di Giacinto 9d051c5d4f
feat: add image generation with ncnn-stablediffusion (#272) 2 years ago
Ettore Di Giacinto acd03d15f2
feat: add support for cublas/openblas in the llama.cpp backend (#258) 2 years ago
Ettore Di Giacinto 85f0f8227d
refactor: drop code dups (#234) 2 years ago
Ettore Di Giacinto 89dfa0f5fc
feat: add experimental support for embeddings as arrays (#207) 2 years ago
mudler 009ee47fe2 Don't allow 0 as thread count 2 years ago
mudler e73283121b feat: support arrays for prompt and input 2 years ago
Ettore Di Giacinto 961cf29217
feat: expose mirostat to config (#193) 2 years ago
Ettore Di Giacinto c839b334eb
feat: add embeddings for go-llama.cpp backend (#190) 2 years ago
Ettore Di Giacinto 1ae7150810
feat: allow to specify default backend for model (#156) 2 years ago
Ettore Di Giacinto 52f4d993c1
feat: add /edit endpoint (#119) 2 years ago
Ettore Di Giacinto c806eae0de
feat: config files and SSE (#83) 2 years ago