Lokale KI mit Open WebUI
Meine Faszination für KI begann eigentlich schon in meiner Kindheit mit dem C64. Viele kennen vielleicht noch ELIZA, ein einfaches Chatprogramm, das in keiner Weise mit heutigen Sprachmodellen vergleichbar ist. Trotzdem war es faszinierend, dass ein Computer auf einen geschriebenen Satz reagieren und scheinbar ein Gespräch führen konnte.
Auch wenn ich persönlich nicht glaube, dass heutige KI wirklich intelligent ist, sondern auf Wahrscheinlichkeiten, Mustererkennung und trainierten Daten basiert, ist es trotzdem beeindruckend, wie natürlich sich eine Unterhaltung anfühlen kann. Man vergisst dabei oft, dass man mit einem Computerprogramm spricht. Genau diese Möglichkeit, mit einer Art lebendiger Wissensdatenbank zu kommunizieren, fasziniert mich bis heute.
Deshalb beschäftige ich mich zunehmend mit lokal laufender KI. Mit Ollama und Open WebUI betreibe ich eigene Sprachmodelle auf meinem Ubuntu-System mit einer 16 GB Grafikkarte und 128 GB Arbeitsspeicher. Auch wenn dadurch nicht jedes große Modell nutzbar ist, bietet eine lokale Umgebung viele Möglichkeiten zur individuellen Anpassung und zum Experimentieren.
Chats mit KI sind dabei vermutlich erst der Anfang einer Entwicklung, die unseren Alltag in den kommenden Jahren ähnlich verändern könnte wie das Internet oder das Smartphone.
