Künstliche Intelligenz
Lokale KI
Ein Modell auf Ihrer eigenen Hardware — wenn die Daten das Haus nicht verlassen dürfen.
Ein Sprachmodell muss nicht bei einem Anbieter laufen. Es kann auf einem Rechner in Ihrem eigenen Serverraum stehen. Dann verlässt keine einzige Anfrage Ihr Netz — nicht das Land, nicht das Gebäude.
Das haben wir für Kunden bereits eingerichtet, samt der Abläufe, die darauf aufsetzen. Es ist technisch kein Sonderfall mehr.
Die Frage ist nicht, ob es geht. Die Frage ist, ob es sich rechnet. Genau darüber reden wir zuerst.
Kurz gefragt?
Sagen Sie uns, was Sie vorhaben und warum es im Haus bleiben muss — wir rechnen es durch.
Montag bis Freitag
8:00–17:00 Uhr
Wann sich das lohnt
Wofür man diesen Weg geht
Nicht, weil es moderner klingt. Sondern weil eine dieser Bedingungen zutrifft:
Der Preis
Die Hardware ist nicht klein und nicht billig
Ein Sprachmodell braucht Grafikspeicher, und zwar viel. Ein üblicher Bürorechner reicht dafür nicht, ein normaler Server auch nicht — es ist eine eigene Maschine mit eigener Auslegung.
Dazu kommt, was bei jeder Maschine dazukommt und trotzdem gern vergessen wird:
- Strom, und nicht wenig — eine solche Maschine läuft nicht nebenbei mit
- Platz, Kühlung und Lärm im Serverraum
- Pflege: Modelle und Software wollen aktuell gehalten werden
- Ersatz, wenn die Maschine ausfällt — es gibt keine zweite
Das muss sich über die Nutzung rechnen. Eine Anschaffung, die zweimal die Woche gefragt wird, steht den Rest der Zeit im Regal — und ist damit teurer als jede Abrechnung nach Verbrauch. Wir rechnen das vorher mit Ihnen durch, nicht danach.
Der andere Weg
Für viele reicht Deutschland statt Serverraum
Die Bedingung lautet in den meisten Fällen nicht „im Gebäude“, sondern „nicht in die USA“. Dafür braucht es keine eigene Maschine: Über unseren Hosting-Partner lassen sich Modelle nutzen, die auf deutschen Servern laufen — abgerechnet nach Umfang, monatlich kündbar, ohne Anschaffung.
Was das ist und was der Anbieter dazu zusagt, steht auf der Seite zum KI-Hosting.
Wir sagen Ihnen offen, welcher der beiden Wege in Ihrem Fall der günstigere ist. Uns ist beides recht — den falschen einzurichten kostet Sie Geld und uns den nächsten Auftrag.
Unsere Rolle
Was wir dabei übernehmen
Einordnung
Was Sie damit nicht bekommen
Ein Modell wird nicht dadurch besser, dass es im eigenen Haus steht. Was lokal läuft, sind offene Modelle — dieselben, die auch ein Rechenzentrum betreibt, nur auf kleinerer Hardware. Bei schwierigen Aufgaben merkt man den Abstand zu den bekanntesten kommerziellen Diensten.
Und die Regel gilt hier wie überall: Ein Modell weiß nichts, es rechnet Wahrscheinlichkeiten. Ein Modell im eigenen Serverraum irrt sich genauso überzeugend wie eines im Internet — warum das so ist, steht auf der Übersichtsseite.
Muss es wirklich ins Haus?
Sagen Sie uns, woher die Anforderung kommt und wie oft damit gearbeitet werden soll. Danach wissen wir beide, welcher Weg der richtige ist.