sci-ml/llama-swap
Model-swapping proxy for llama.cpp, vLLM and OpenAI-compatible servers
Screenshots
-
llama-swap-270~amd64systemd ui
View 
Download 
Browse License: MIT Apache-2.0 BSD BSD-2 ISC Overlay: bentoo -
llama-swap-270~amd64
View Download Browse License: MIT Overlay: bennypowers -
llama-swap-269~amd64
View Download Browse License: MIT Overlay: bennypowers -
llama-swap-268~amd64
View Download Browse License: MIT Overlay: bennypowers -
llama-swap-267~amd64
View Download Browse License: MIT Overlay: bennypowers