Start · Angebot · Souveräne KI-Infrastruktur

Leistung 02 · Sovereign AI Infrastructure

KI auf eigener Hardware — damit Ihre Daten im Haus bleiben

Souverän ist kein Etikett, sondern eine Nachweisfrage: Wo liegen die Daten, wo rechnet das Modell, wer kann die Fassung wechseln, und was passiert, wenn der Anbieter morgen die Bedingungen ändert. Wer darauf keine Antwort hat, hat eine Abhängigkeit, die sich später nicht mehr auflösen lässt.

Woran es meistens hakt

  • Die Daten dürfen das Haus nicht verlassen.Konstruktionsdaten, Rezepturen, Auftragsdaten. In vielen Verträgen steht das längst — nur die Werkzeuge halten sich nicht daran.
  • Die Kosten sind nicht planbar.Nutzungsabhängige Preise sind bequem, bis eine Anwendung erfolgreich wird. Eigene Hardware hat einen Preis, aber einen bekannten.
  • Niemand weiß, welches Modell gerade antwortet.Ohne festgehaltene Fassung ist ein Ergebnis von gestern nicht reproduzierbar — und damit im Streitfall wertlos.

Wie ich vorgehe

  • Last und Bedarf messen.Welche Aufgaben laufen wie oft, mit welcher Antwortzeit und welcher Modellgröße. Erst daraus folgt die Hardware, nicht umgekehrt.
  • Laufzeit aufsetzen.Containerisiert, mit Modell-Routing: die kleine Aufgabe bekommt das kleine Modell. Das ist der größte Hebel für Durchsatz und Stromrechnung.
  • Auslieferung kontrollieren.Modelle bekommen Fassungen, Prüfungen und einen Weg zurück. Was nicht besser ist als das Laufende, wird nicht ausgeliefert.
  • Betrieb übergeben.Messwerte, Protokolle, Grenzwerte — und eine Anleitung, die jemand ohne mich lesen kann.

Woran Sie das messen

Antwortzeit unter Last, Auslastung der Karten, Kosten je tausend Anfragen — und die Frage, ob sich eine Modellfassung von vor drei Monaten heute noch einmal starten lässt.

Häufige Fragen

Brauchen wir dafür ein Rechenzentrum?

Nein. Für die meisten Anwendungen genügt ein einzelner Server mit ein bis zwei Grafikkarten. Der Sprung ins Rechenzentrum lohnt erst, wenn Training dazukommt.

Was ist der Unterschied zu „On-Premise“?

On-Premise sagt, wo der Rechner steht. Souverän sagt zusätzlich, dass Sie die Modellfassung, die Auslieferung und den Nachweis in der Hand haben — auch dann, wenn ein Anbieter sein Angebot ändert.

Lohnt sich das gegenüber einem Abo?

Das ist eine Rechnung, keine Überzeugung. Sie hängt an Auslastung, Antwortzeitanspruch und daran, wie viel Sie an Daten nicht herausgeben dürfen. Ich rechne beides durch, bevor etwas beschafft wird.

Der Einstieg

  • Eine Anlage, zwei Wochen, eine belastbare Zahl.Anschließen, was da ist. Zwei Wochen messen statt schätzen. Danach steht in Euro da, ob sich der Ausbau lohnt — und nicht in einer Präsentation.
← Alle Leistungen