GPU-Cluster für KI-Forschung und Systems Engineering

Die Technische Universität Clausthal (TU Clausthal) sucht einen Auftragnehmer für die Lieferung, den Aufbau, die Montage und die Inbetriebnahme eines GPU-Clusters für Generative Künstliche Intelligenz (GenAI) im Systems Engineering. Das Projekt zielt darauf ab, eine dedizierte Hochleistungsinfrastruktur für das Training und Finetuning großer GenAI-Modelle zu schaffen und als gemeinsame Plattform für regionale Innovationsakteure zu dienen. Der GPU-Cluster wird für die Durchführung experimenteller Forschung im Bereich GenAI und datenintensiver Simulationen eingesetzt. Er muss für das Training von Sprachmodellen bis zu 8 Milliarden Parametern, das Finetuning von Modellen bis zu 12 Milliarden Parametern und die Inferenz mit aktuellen Sprachmodellen wie Llama 3.3, Qwen 3 und Gemma 3 optimiert sein. Ebenso soll er aktuelle Modelle aus der Bildverarbeitung wie Segment Anything und CLIP unterstützen. Die Installation von Ubuntu Linux 24.04 LTS und die Unterstützung der aktuellen CUDA-Version sind ebenfalls gefordert. Das System muss vollständig funktionsfähig und erweiterbar sein. Es besteht aus zwei Hochleistungs-Nodes mit jeweils mindestens vier NVIDIA H200 NVL-GPUs, die über NVLink verbunden sind und auf bis zu acht erweiterbar sein müssen. Diese Nodes benötigen mindestens 128 CPU-Kerne mit einem Basistakt von 3GHz, 750GB DDR5 RAM und 7TB lokalen SSD-Speicher mit spezifischen Lese- und Schreibgeschwindigkeiten. Zusätzlich sind zwei Mittelklasse-Nodes mit jeweils mindestens vier NVIDIA RTX PRO 6000 Blackwell Max-Q-GPUs vorgesehen, die ebenfalls auf bis zu acht erweiterbar sein müssen und ähnliche CPU-, RAM- und Speicheranforderungen haben. Eine Masternode dient als Fileserver mit mindestens 150TB Speicher und hohen Lese-/Schreibgeschwindigkeiten. Die Komponenten müssen kompatibel sein und die Integration in die bestehende Infrastruktur des Rechenzentrums der TU Clausthal gewährleisten. Es wird eine dreijährige Haltbarkeitsgarantie auf sämtliche Hardwarekomponenten gewährt, mit spezifischen Regelungen für den Austausch defekter Teile und die Bereitstellung von Übergangslösungen. Wartungs- und Pflegeleistungen für das InfiniBand-Netzwerk sind für die ersten fünf Jahre nach Abnahme vereinbart. Service und Support werden für die ersten drei Jahre nach Abnahme angeboten, mit definierten Servicezeiten und Reaktionszeiten. Alle Serviceleistungen sind in den Angebotspreis einzukalkulieren und dürfen nicht separat in Rechnung gestellt werden. Die Lieferung und Inbetriebnahme müssen bis zum 15.09.2025 erfolgen, mit Ausnahme der NVLink-Brücken, die bis zum 01.12.2025 geliefert werden müssen.