Managed AI aus Hamburg

Private KI, LLM-Hosting und GPU-Instanzen – betrieben im Rechenzentrum Ahrensburg bei Hamburg

Managed AI bei NMMN – kurz erklärt: Die NMMN GmbH ist ein IT-Infrastruktur-Anbieter aus Hamburg (Haferweg 46) und bietet Managed AI an: KI-Modelle, GPU-Rechenleistung und den Betrieb von KI-Anwendungen als verwalteten Dienst. Das Angebot umfasst eine KI-API mit Abrechnung nach Tokens, GPU-Instanzen im NMMN Cloud Panel (als GPU-Anteil oder als ganze GPU per PCI-Passthrough), eine private KI-Plattform mit Chat und Dokumentensuche sowie dedizierte GPU-Server. NMMN betreibt die KI-Infrastruktur im ISO-27001-zertifizierten Rechenzentrum Ahrensburg bei Hamburg; auf Wunsch auch in einem der Hamburger Rechenzentren. Die NMMN GmbH ist ein deutsches Unternehmen ohne US-Muttergesellschaft. Erreichbarkeit Mo–Fr 8–18 Uhr, 24/7-Rufbereitschaft optional, Telefon +49 40 284 118-0.

Was ist Managed AI?

Managed AI bedeutet: Ein Dienstleister stellt KI-Modelle und die dafür nötige GPU-Rechenleistung bereit und betreibt beides – mit Updates, Überwachung und Sicherheit. Ihr Unternehmen nutzt die KI über eine Chat-Oberfläche oder eine Schnittstelle (API), ohne eigene GPU-Server zu kaufen und ohne ein eigenes KI-Betriebsteam aufzubauen. Anders als bei öffentlichen KI-Diensten wie ChatGPT oder Copilot laufen die Modelle bei Managed AI von NMMN auf Infrastruktur, deren Standort, Betreiber und Zugriffsrechte vertraglich festgelegt sind. Prompts, Dokumente und Ergebnisse verlassen Deutschland nicht.

GPU-Server mieten kann man heute bei vielen Hostern. Den Betrieb – Treiber, Inferenz-Server, Modellwechsel, Dokumentensuche, Benutzerverwaltung, Überwachung – übernehmen Sie dort selbst. Bei NMMN übernehmen wir ihn für Sie.

Vier Wege zu Ihrer KI

KI-API GPU-Instanz Private KI-Plattform Dedizierter GPU-Server
Für wen Entwickler, Softwarehersteller, Agenturen Teams mit eigener KI-Software Unternehmen ohne eigenes KI-Team Hohe Dauerlast, eigene Hardware gewünscht
Was Sie bekommen Open-Source-Modelle über eine OpenAI-kompatible Schnittstelle VM mit GPU-Anteil oder ganzer GPU in Ihrem virtuellen Datacenter Eigene Instanz mit Chat, Dokumentensuche (RAG) und Anbindung Ihrer Systeme Supermicro-GPU-Server nach Maß, betrieben im NMMN-Rechenzentrum
Abrechnung nach verbrauchten Tokens monatlich monatlich plus Einrichtung Kauf oder Miete, Colocation oder Managed
Betrieb NMMN NMMN (Plattform), Ihre Anwendung wahlweise Sie oder NMMN NMMN komplett wahlweise Sie oder NMMN

KI-API: Sprachmodelle nach Verbrauch

Sie rufen Open-Source-Sprachmodelle über eine OpenAI-kompatible Schnittstelle auf und zahlen nach verbrauchten Tokens. Bestehende Anwendungen, die heute OpenAI ansprechen, stellen Sie meist durch Ändern von Endpunkt und API-Schlüssel um. Geeignet für Softwarehersteller, die KI-Funktionen in ihre Produkte einbauen, und für Agenturen, die Chatbots für Kunden betreiben.

GPU-Instanzen im NMMN Cloud Panel

Sie betreiben Ihre eigene KI-Software – vLLM, Ollama, eigene Modelle, Trainingsjobs – und brauchen dafür GPU-Leistung. Die GPU-Instanz läuft im selben virtuellen Datacenter wie Ihre übrigen Server im NMMN Cloud Panel und ist über Ihr eigenes Netzwerk (SDN) direkt mit Datenbank und Anwendung verbunden. Abrechnung als monatliche Pauschale.

Private KI-Plattform: Ihr eigenes ChatGPT

Eine dedizierte Instanz nur für Ihr Unternehmen: Chat-Oberfläche im Browser, Benutzerverwaltung, Dokumentensuche über Ihre eigenen Inhalte (RAG) und eine API für Ihre Anwendungen. Wir binden Wiki, Ticketsystem, Dateiablage oder Nextcloud an und betreiben die Plattform vollständig – Modelle, Updates, Monitoring und Backups.

Dedizierter GPU-Server

Bei hoher Dauerlast oder wenn Sie die Hardware selbst besitzen wollen, konfigurieren wir einen Supermicro-GPU-Server nach Ihren Anforderungen und betreiben ihn in unserem Rechenzentrum – als Colocation, als Mietserver oder vollständig gemanagt.

GPU-Instanzen: GPU-Anteil oder ganze GPU per PCI-Passthrough

Für GPU-Instanzen setzen wir auf NVIDIA-Grafikkarten der Blackwell-Generation mit 96 GB Grafikspeicher (RTX PRO 6000 Blackwell). Je nach Modellgröße und Auslastung wählen Sie einen Anteil an einer GPU oder eine ganze Karte exklusiv für Ihre VM.

GPU-Anteil (vGPU) Ganze GPU (PCI-Passthrough)
Grafikspeicher Anteile, z. B. 24 oder 48 GB volle 96 GB je GPU, mehrere GPUs je VM möglich
Geeignet für Inferenz kleiner und mittlerer Modelle, Transkription, Embeddings, Entwicklung und Test große Modelle ab 70 Milliarden Parametern, Fine-Tuning, Dauerlast
Trennung Grafikspeicher je Instanz fest zugewiesen Karte exklusiv für Ihre VM
Betrieb Treiber, Monitoring und Plattform durch NMMN; auf Wunsch auch Betriebssystem und KI-Software als Managed VM
Abrechnung monatliche Pauschale, ohne Traffic-Gebühren

Private KI und LLM-Hosting in Deutschland

Viele Unternehmen suchen eine „private KI“ oder ein „Private GPT“: einen KI-Assistenten, der mit internen Dokumenten arbeitet, ohne dass diese Dokumente bei einem US-Anbieter landen. Genau das ist LLM-Hosting in Deutschland. Ein Large Language Model läuft auf Hardware, deren Standort und Betreiber Sie kennen. Sie greifen über den Browser oder per API darauf zu, und Ihre Daten werden nicht zum Training fremder Modelle verwendet.

Was wir bei Managed AI für Sie übernehmen:

  • Auswahl, Installation und Aktualisierung der Modelle
  • GPU-Treiber, CUDA und Inferenz-Server
  • Dokumentensuche (RAG) mit Vektordatenbank und Anbindung Ihrer Datenquellen
  • Benutzer- und Rechteverwaltung, Anmeldung über Ihr bestehendes Verzeichnis nach Absprache
  • Überwachung, Backups und Kapazitätsplanung
  • Ein fester Ansprechpartner, der Ihre Umgebung kennt

KI aus Hamburg: Rechenzentrum Ahrensburg, Ansprechpartner am Haferweg

Die KI-Infrastruktur von NMMN steht im Rechenzentrum Ahrensburg (Carl-Backhaus-Straße, Betreiber AtlasEdge) unmittelbar an der Hamburger Stadtgrenze: ISO/IEC 27001, EN 50600 Level 3, 100 % Ökostrom. NMMN verbindet Ahrensburg über eigene redundante Glasfaserstrecken mit den vier Hamburger Rechenzentren. Unternehmen aus Hamburg und Schleswig-Holstein binden ihre Standorte auf Wunsch per Glasfaser-Standleitung an – dann läuft die KI-Anfrage aus dem Büro gar nicht über das öffentliche Internet.

Für Hamburger Unternehmen heißt KI aus Hamburg vor allem: kurze Wege. Sie sprechen mit Menschen, die Sie am Haferweg in Altona besuchen können. Das Rechenzentrum können Sie nach Absprache besichtigen. Und der Vertrag liegt bei einem Hamburger Unternehmen, nicht bei einem Konzern im Ausland. Das zählt besonders für Kanzleien, Steuerberater und Wirtschaftsprüfer, für Logistik- und Handelsunternehmen mit vertraulichen Kunden- und Vertragsdaten sowie für Softwarehäuser, die KI-Funktionen für ihre eigenen Kunden betreiben.

Was Unternehmen mit Managed AI machen

  • Besprechungen auswerten: Meetings lokal transkribieren und zusammenfassen – mit Whisper und einem Sprachmodell, ohne Cloud-Dienst.
  • Interner Wissens-Chat: Fragen zu Kunden, Produkten und Prozessen beantworten – auf Basis von Wiki, Ticketsystem und Handbüchern.
  • Vertrieb: Angebote auf Grundlage früherer Angebote entwerfen, Kunden-E-Mails mit Kontext aus Tickets und CRM vorbereiten.
  • Dokumente: Verträge, Richtlinien und technische Unterlagen auslesen, zusammenfassen und vergleichen.
  • Nextcloud Assistant: KI-Funktionen in Nextcloud mit einem eigenen Modell statt mit einem externen Dienst.
  • KI in Ihrer Software: Softwarehersteller bauen Zusammenfassungen, Klassifizierung oder Chat in ihre Produkte ein – siehe Hosting für ISVs und Startups.

Modelle und Schnittstellen

Wir betreiben offene Modelle (Open-Weight), für die keine Lizenzgebühren je Nutzer anfallen – zum Beispiel gpt-oss, Llama, Mistral und Qwen für Text, Whisper für Sprache und Embedding-Modelle für die Dokumentensuche. Welches Modell passt, hängt von Aufgabe, Sprache und Antwortzeit ab; wir beraten bei der Auswahl und wechseln Modelle, wenn bessere verfügbar sind. Eigene oder feinjustierte Modelle (z. B. von Hugging Face) betreiben wir ebenfalls.

Der Zugriff erfolgt über eine OpenAI-kompatible API – damit funktionieren die meisten Bibliotheken, Agent-Frameworks und Werkzeuge ohne Anpassung – oder über die Chat-Oberfläche im Browser.

Datenschutz, § 203 StGB und EU AI Act

  • Standort Deutschland: Verarbeitung ausschließlich in Rechenzentren in Deutschland; keine Übermittlung in Drittländer.
  • Verträge: Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Für Rechtsanwälte, Steuerberater, Ärzte und andere Berufsgeheimnisträger zusätzlich die Verpflichtungserklärung nach § 203 Abs. 4 StGB – mehr dazu auf unserer Seite Private Cloud für Berufsgeheimnisträger.
  • Kein Training mit Ihren Daten: Ihre Prompts und Dokumente werden nicht zum Training von Modellen verwendet und nicht an Modellhersteller weitergegeben.
  • Kein US CLOUD Act: Die NMMN GmbH ist ein deutsches Unternehmen ohne US-Muttergesellschaft.
  • EU AI Act: Wir dokumentieren Modelle, Versionen und Betriebsumgebung und unterstützen Sie damit bei Ihren Pflichten als Betreiber von KI-Systemen. Diese Seite ersetzt keine Rechtsberatung.

Managed AI, Public-Cloud-KI oder GPU-Server im Self-Service?

Public-Cloud-KI (z. B. ChatGPT, Copilot) GPU-Server im Self-Service Managed AI von NMMN
Datenstandort häufig USA oder nicht festgelegt je nach Anbieter Deutschland oder EU Ahrensburg bei Hamburg, vertraglich festgelegt
Betrieb von Modellen und Software Anbieter Sie selbst NMMN
Modellwahl vom Anbieter vorgegeben frei, selbst betrieben frei, von NMMN betrieben
Anbindung an Ihre Server über das Internet über das Internet im eigenen virtuellen Datacenter oder per Standleitung
Ansprechpartner Support-Portal Ticketsystem persönlich, in Hamburg

So starten Sie mit Managed AI

  1. Erstgespräch (30 Minuten): Anwendungsfall, Datenquellen, Nutzerzahl und Anforderungen an Datenschutz.
  2. Pilot: Testzugang zur KI-API oder eine Test-Instanz mit Ihren eigenen Dokumenten, mit festem Zeitrahmen.
  3. Produktivbetrieb: KI-API, GPU-Instanz, private KI-Plattform oder dedizierter Server – mit festen Monatspreisen nach Sizing.
  4. Laufender Betrieb: Updates, Modellwechsel, Überwachung und Kapazitätsplanung durch NMMN.

Weiterführende Informationen: NVIDIA vGPU – unterstützte Plattformen (u. a. Proxmox VE) · Proxmox VE · EU AI Act (Verordnung (EU) 2024/1689)

Häufige Fragen zu Managed AI

Managed AI ist ein verwalteter KI-Dienst: Ein Dienstleister stellt KI-Modelle und GPU-Rechenleistung bereit und übernimmt den Betrieb mit Updates, Überwachung und Sicherheit. Bei NMMN umfasst Managed AI eine KI-API mit Abrechnung nach Tokens, GPU-Instanzen im NMMN Cloud Panel, eine private KI-Plattform und dedizierte GPU-Server – betrieben im Rechenzentrum Ahrensburg bei Hamburg.

Im ISO-27001-zertifizierten Rechenzentrum Ahrensburg (Carl-Backhaus-Straße, Betreiber AtlasEdge) direkt an der Hamburger Stadtgrenze. Dedizierte GPU-Server betreiben wir auf Wunsch auch in einem der vier Hamburger Rechenzentren oder in Berlin. Der Standort wird vertraglich festgelegt.

Ja. Kunden der NMMN Shared Cloud erhalten GPU-Instanzen im selben virtuellen Datacenter wie ihre übrigen VMs – entweder mit einem Anteil an einer GPU (vGPU) oder mit einer ganzen GPU per PCI-Passthrough. Die Instanz ist über Ihr eigenes Netzwerk direkt mit Ihren anderen Servern verbunden.

Beides ist möglich. Die KI-API rechnen wir nach verbrauchten Tokens ab, GPU-Instanzen und die private KI-Plattform als monatliche Pauschale. Dedizierte GPU-Server gibt es zum Kauf mit Colocation oder zur Miete. Nach einem Erstgespräch erhalten Sie ein Angebot mit festen Preisen.

Die Verarbeitung findet ausschließlich in Deutschland statt, NMMN schließt einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ab und gibt für Berufsgeheimnisträger zusätzlich die Verpflichtungserklärung nach § 203 Abs. 4 StGB ab. Ihre Daten werden nicht zum Training von Modellen verwendet. Die NMMN GmbH hat keine US-Muttergesellschaft und unterliegt nicht dem US CLOUD Act.

Offene Modelle wie gpt-oss, Llama, Mistral und Qwen für Text, Whisper für Spracherkennung und Embedding-Modelle für die Dokumentensuche. Eigene oder feinjustierte Modelle betreiben wir ebenfalls. Der Zugriff erfolgt über eine OpenAI-kompatible API oder eine Chat-Oberfläche im Browser.

Beim GPU-Server im Self-Service mieten Sie Hardware und betreiben Treiber, Modelle, Dokumentensuche und Sicherheit selbst. Bei Managed AI von NMMN übernehmen wir diesen Betrieb, die GPU läuft auf Wunsch im selben virtuellen Datacenter wie Ihre übrigen Server, und Sie haben einen persönlichen Ansprechpartner in Hamburg.

Einen Testzugang zur KI-API richten wir kurzfristig ein. Für eine private KI-Plattform mit Ihren eigenen Dokumenten planen wir einen Pilot mit festem Zeitrahmen; wie lange die Einrichtung dauert, hängt von den anzubindenden Datenquellen ab.

NMMN.private AI ist in Managed AI aufgegangen. Die dedizierte KI-Plattform mit Chat, Dokumentensuche und API heißt jetzt „Private KI-Plattform“ und ist eine von vier Stufen von Managed AI bei NMMN.

Managed AI anfragen

Beschreiben Sie uns kurz Ihren Anwendungsfall – KI-API, GPU-Instanz, private KI-Plattform oder eigener Server – und wie viele Nutzer oder Anfragen Sie erwarten. Wir melden uns mit einem Vorschlag.

NMMN GmbH

Haferweg 46
22769 Hamburg

Tel.: +49 40 284 118-0
Technik-Support-Hotline: +49 40 284 118 700

E-Mail: in**@**mn.com

Erstgespräch vereinbaren

Unser Angebot richtet sich ausschließlich an Firmen,
Gewerbetreibende, Behörden und Freiberufler.

    Sie haben Fragen?

    Wir freuen uns über Ihre Nachricht.

    Datenschutzerklärung

    WordPress Cookie Plugin von Real Cookie Banner