Die bekannten KI-Dienste laufen bei einem (meist amerikanischen) Anbieter in dessen Rechenzentrum. Alles, was man eingibt, wird dorthin übertragen. Für viele Aufgaben ist das unproblematisch; für andere ist es genau das Problem, das es zu lösen gilt (Stichwort Datenschutz / DS-GVO).
Eine lokale KI läuft auf einem Rechner im eigenen Haus oder auf einem Server, über den Sie verfügen (der Ihnen gehört). Die Modelle dafür sind frei verfügbar und in den letzten Jahren so gut geworden, dass sie für die meisten betrieblichen Aufgaben genügen — zusammenfassen, formulieren, sortieren, in eigenen Dokumenten suchen.
Der Vorteil ist eindeutig: Personalbezogene Daten, Angebote und Verträge verlassen den Betrieb nicht. Die Fragen nach Auftragsverarbeitungsvertrag und nach dem Training mit Ihren Eingaben erübrigen sich.
Der Preis ist ebenso eindeutig: Es braucht Hardware, meist mit einer geeigneten Grafikkarte, und jemanden, der sie betreibt. Und die größten Modelle bleiben den Rechenzentren vorbehalten. Die ehrliche Abwägung lautet deshalb selten „lokal oder Cloud“, sondern „was gehört wohin“.