gpo.zugaina.org

Search Portage & Overlays:

sci-misc/llama-swap

Reliable LLM model swapping proxy for llama.cpp / vllm / etc.

Screenshots

  • llama-swap-222
    ~amd64
    openrc systemd ui

    View      Download      Browse     License: MIT   
    Overlay: stuff
  • llama-swap-220
    ~amd64
    openrc systemd ui

    View      Download      Browse     License: MIT   
    Overlay: stuff
  • llama-swap-217
    ~amd64
    openrc systemd ui

    View      Download      Browse     License: MIT   
    Overlay: stuff

Runtime Dependencies

llama-swap-222

llama-swap-220

llama-swap-217