Lokale LLMs mit llama.cpp und Open WebUI
Nachdem ich diesen Artikel über die vielfältige Kritik an Ollama gelesen habe, hab' ich mir überlegt, stattdessen mal llama.cpp auszuprobieren. Weil ich schon vorher das Open WebUI genutzt habe, möchte ich das auch für llama.cpp nutzen. Und weil ich Dienste gerne in Docker laufen lasse, weil das