Zum Inhalt springen
Filter
Gutscheine 95

Du hast noch keine Angebote oder Anbieter gemerkt. Tippe auf das Lesezeichen bei einem Angebot oder auf „Merken“ im Anbieterprofil.

    Monitoring gratis
    Website kostenlos überwachen
    Gutscheine 95 Zum Login

    Ollama GPU Server im Vergleich

    Du suchst einen Ollama GPU Server, um Sprachmodelle lokal und mit kurzen Antwortzeiten bereitzustellen? Hier findest du GPU-Server-Angebote für schnelle Inferenz, größere Modelle und mehrere gleichzeitige Nutzer.

    Server-Standort

    10 von 22 Angeboten* Zuletzt aktualisiert: 11.11.2026

    Zurück zum GPU-Server Vergleich

    GPU-Server PS 2000 vGPU 7

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® H200 GPU GPU
    • 8 GB (v)GPU-Speicher
    • 16 GB RAM
    Virtueller GPU Server
    1 GPU
    8 GB (v)GPU-RAM
    512 GB NVMe SSD
    AMD EPYC™ 9634
    DDoS-Schutz

    Details werden geladen…

    Alle Details ansehen

    € 131,65*

    Durchschnittspreis pro Monat

    € 129,99/Monat zzgl. Setup € 19,90

    Vertragslaufzeit: 12 Monate

    Preisdetails
    Monatlicher Preis € 129,99
    Einrichtungsgebühr € 19,90
    Vertragslaufzeit 12 Monate
    Ø-Preis/Monat € 131,65
    Kosten 12 Monate € 1.579,78
    Kosten 24 Monate € 3.139,66
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    * Für die erstmalige Bestellung eines Server-Produkts ist Vorkasse erforderlich, danach regulär auf Rechnung. Hinweis: 7 GB VRAM (dediziert)
    Zum Angebot
    GPU-Server PS 4000 vGPU 14

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® H200 GPU GPU
    • 16 GB (v)GPU-Speicher
    • 32 GB RAM
    Virtueller GPU Server
    1 GPU
    16 GB (v)GPU-RAM
    1 TB NVMe SSD
    AMD EPYC™ 9634
    DDoS-Schutz

    Details werden geladen…

    Alle Details ansehen

    € 246,65*

    Durchschnittspreis pro Monat

    € 244,99/Monat zzgl. Setup € 19,90

    Vertragslaufzeit: 12 Monate

    Preisdetails
    Monatlicher Preis € 244,99
    Einrichtungsgebühr € 19,90
    Vertragslaufzeit 12 Monate
    Ø-Preis/Monat € 246,65
    Kosten 12 Monate € 2.959,78
    Kosten 24 Monate € 5.899,66
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    * Für die erstmalige Bestellung eines Server-Produkts ist Vorkasse erforderlich, danach regulär auf Rechnung. Hinweis: 14 GB VRAM (dediziert)
    Zum Angebot
    NVIDIA vGPU Server Platin

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® RTX PRO 6000 Blackwell Server GPU
    • 24 GB (v)GPU-Speicher
    • 24 GB RAM
    Virtueller GPU Server
    Telefonsupport
    1 GPU
    24 GB (v)GPU-RAM
    600 GB NVMe
    AMD EPYC
    Automatisches Backup

    Details werden geladen…

    Alle Details ansehen

    € 357,25

    Durchschnittspreis pro Monat

    € 349,00/Monat zzgl. Setup € 99,00

    Vertragslaufzeit: 1 Monat

    Preisdetails
    Monatlicher Preis € 349,00
    Einrichtungsgebühr € 99,00
    Vertragslaufzeit 1 Monat
    Ø-Preis/Monat € 357,25
    Kosten 12 Monate € 4.287,00
    Kosten 24 Monate € 8.475,00
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Angebot

    Tipp: Wähle bis zu 3 Angebote und vergleiche sie miteinander.

    NVIDIA vGPU Platin Server

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® RTX PRO 6000 Blackwell Server GPU
    • 24 GB (v)GPU-Speicher
    • 24 GB RAM
    Virtueller GPU Server
    Telefonsupport
    1 GPU
    24 GB (v)GPU-RAM
    600 GB NVMe
    AMD EPYC
    Automatisches Backup

    Details werden geladen…

    Alle Details ansehen

    € 357,25

    Durchschnittspreis pro Monat

    € 349,00/Monat zzgl. Setup € 99,00

    Vertragslaufzeit: 1 Monat

    Preisdetails
    Monatlicher Preis € 349,00
    Einrichtungsgebühr € 99,00
    Vertragslaufzeit 1 Monat
    Ø-Preis/Monat € 357,25
    Kosten 12 Monate € 4.287,00
    Kosten 24 Monate € 8.475,00
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Angebot
    AP1-10 GPU (AT)

    Details werden geladen…

    Alle Details ansehen

    79% Weiterempfehlung

    Diamant
    • NVIDIA® T4 GPU GPU
    • 16 GB (v)GPU-Speicher
    • 128 GB RAM
    GPU Server
    Telefonsupport
    Geld-zurück-Garantie
    1 GPU
    16 GB (v)GPU-RAM
    1 TB NVMe SSD
    AMD EPYC™ 7302P
    Stündliche Abrechnung

    Details werden geladen…

    Alle Details ansehen

    € 644,54

    Durchschnittspreis pro Monat

    € 594,96/Monat zzgl. Setup € 594,96

    Preisdetails
    Monatlicher Preis € 594,96
    Einrichtungsgebühr € 594,96
    Vertragslaufzeit k.A.
    Ø-Preis/Monat € 644,54
    Kosten 12 Monate € 7.734,48
    Kosten 24 Monate € 14.874,00
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Anbieter Zum Angebot

    Nie wieder einen Website- oder Server-Ausfall verpassen.

    Rund-um-die-Uhr-Überwachung mit Alarm per SMS, Anruf oder E‑Mail mit HOSTtest Plus.

    Jetzt kostenlos überwachen
    Worker Pool (2,7 - 3,4 GHz) + A100 40GB

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® A100 GPU GPU
    • 40 GB (v)GPU-Speicher
    • 1 GB RAM
    GPU Server
    Telefonsupport
    Kostenlose Testphase
    DDoS Protection
    1 GPU
    40 GB (v)GPU-RAM
    10 GB SSD
    AMD
    DDoS-Schutz

    Details werden geladen…

    Alle Details ansehen

    € 694,04*

    Durchschnittspreis pro Monat

    € 694,04/Monat

    Vertragslaufzeit: 1 Monat

    Preisdetails
    Monatlicher Preis € 694,04
    Einrichtungsgebühr Kostenlos
    Vertragslaufzeit 1 Monat
    Ø-Preis/Monat € 694,04
    Kosten 12 Monate € 8.328,48
    Kosten 24 Monate € 16.656,96
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    * alle Preise sind "ab-Preise". aktuell bieten wir folgende Karten: Nvidia A100 40+80GB, Nvidia RTX6000, Nvidia RTX A400
    Zum Angebot
    Deals 1
    • 200€ Startguthaben für neue Accounts - centron Jetzt kostenlos anfangen - Melden Sie sich an und erhalten Sie in den ...
    Power Pool (>3,5 GHz) + A100 40GB

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® A100 GPU GPU
    • 40 GB (v)GPU-Speicher
    • 1 GB RAM
    GPU Server
    Telefonsupport
    Kostenlose Testphase
    DDoS Protection
    1 GPU
    40 GB (v)GPU-RAM
    10 GB SSD
    AMD
    DDoS-Schutz

    Details werden geladen…

    Alle Details ansehen

    € 694,64*

    Durchschnittspreis pro Monat

    € 694,64/Monat

    Vertragslaufzeit: 1 Monat

    Preisdetails
    Monatlicher Preis € 694,64
    Einrichtungsgebühr Kostenlos
    Vertragslaufzeit 1 Monat
    Ø-Preis/Monat € 694,64
    Kosten 12 Monate € 8.335,68
    Kosten 24 Monate € 16.671,36
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    * alle Preise sind "ab-Preise". aktuell bieten wir folgende Karten: Nvidia A100 40+80GB, Nvidia RTX6000, Nvidia RTX A400
    Zum Angebot
    Deals 1
    • 200€ Startguthaben für neue Accounts - centron Jetzt kostenlos anfangen - Melden Sie sich an und erhalten Sie in den ...
    NVIDIA vGPU Server Diamond Plus

    Details werden geladen…

    Alle Details ansehen

    Serverstandort

    Premium
    • NVIDIA® RTX PRO 6000 Blackwell Server GPU
    • 48 GB (v)GPU-Speicher
    • 48 GB RAM
    Virtueller GPU Server
    Telefonsupport
    1 GPU
    48 GB (v)GPU-RAM
    1 TB NVMe
    AMD EPYC
    Automatisches Backup

    Details werden geladen…

    Alle Details ansehen

    € 757,25

    Durchschnittspreis pro Monat

    € 749,00/Monat zzgl. Setup € 99,00

    Vertragslaufzeit: 1 Monat

    Preisdetails
    Monatlicher Preis € 749,00
    Einrichtungsgebühr € 99,00
    Vertragslaufzeit 1 Monat
    Ø-Preis/Monat € 757,25
    Kosten 12 Monate € 9.087,00
    Kosten 24 Monate € 18.075,00
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Angebot
    AP2-10 GPU (AT)

    Details werden geladen…

    Alle Details ansehen

    79% Weiterempfehlung

    Diamant
    • NVIDIA® A10 GPU GPU
    • 24 GB (v)GPU-Speicher
    • 128 GB RAM
    GPU Server
    Telefonsupport
    Geld-zurück-Garantie
    1 GPU
    24 GB (v)GPU-RAM
    960 GB NVMe SSD
    AMD EPYC™ 7313P
    Stündliche Abrechnung

    Details werden geladen…

    Alle Details ansehen

    € 819,32

    Durchschnittspreis pro Monat

    € 756,30/Monat zzgl. Setup € 756,30

    Preisdetails
    Monatlicher Preis € 756,30
    Einrichtungsgebühr € 756,30
    Vertragslaufzeit k.A.
    Ø-Preis/Monat € 819,32
    Kosten 12 Monate € 9.831,90
    Kosten 24 Monate € 18.907,50
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Anbieter Zum Angebot
    IP3-10 GPU (AT)

    Details werden geladen…

    Alle Details ansehen

    79% Weiterempfehlung

    Diamant
    • INTEL® Flex 170 GPU
    • 16 GB (v)GPU-Speicher
    • 256 GB RAM
    GPU Server
    Telefonsupport
    Geld-zurück-Garantie
    1 GPU
    16 GB (v)GPU-RAM
    1.920 GB NVMe SSD
    Intel Xeon Gold 5412U
    Stündliche Abrechnung

    Details werden geladen…

    Alle Details ansehen

    € 863,03

    Durchschnittspreis pro Monat

    € 796,64/Monat zzgl. Setup € 796,64

    Preisdetails
    Monatlicher Preis € 796,64
    Einrichtungsgebühr € 796,64
    Vertragslaufzeit k.A.
    Ø-Preis/Monat € 863,03
    Kosten 12 Monate € 10.356,32
    Kosten 24 Monate € 19.916,00
    Preis beinhaltet Mehrwertsteuer. Die angezeigten Preise gelten i.d.R. nur für Kunden aus Österreich. Preise für Kunden aus dem europäischen Ausland können aber müssen nicht abweichen.
    Zum Anbieter Zum Angebot

    * Bei hosttest ist lediglich eine Auswahl von Anbietern zu finden. Mit Sternchen gekennzeichnete Angebote weisen weitere Bedingungen auf der Angebotsdetailseite aus. Mehr Informationen zu unseren Ranking- und Sortierungsdetails

    Nicht das Richtige gefunden?

    Jetzt kostenlos & unverbindlich individuelle Ausschreibung aufgeben und Angebote innerhalb kürzester Zeit erhalten.

    Ausschreibung starten

    Ollama GPU Server für lokale Sprachmodelle

    Ollama vereinfacht das lokale Bereitstellen und Verwalten von Sprachmodellen. Kleine und stark quantisierte Modelle lassen sich auch CPU-basiert betreiben. Ein GPU-Server ist jedoch meist sinnvoll, wenn größere Modelle, niedrige Latenzen oder mehrere parallele Anfragen gefordert sind.

    Welche Hardware ist für Ollama wichtig?

    Entscheidend sind insbesondere GPU und VRAM. Das Modell muss mit seiner Quantisierung in den verfügbaren Speicher passen, damit die Berechnung möglichst vollständig auf der GPU stattfinden kann. Arbeitsspeicher und schneller NVMe-Speicher bleiben wichtig, wenn mehrere Modelle gespeichert, gewechselt oder teilweise auf die CPU ausgelagert werden.

    Typische Einsatzbereiche

    • lokale Chatbots und interne KI-Assistenten
    • RAG-Anwendungen mit eigenen Dokumenten
    • Entwicklungs- und Testumgebungen für LLM-Anwendungen
    • API-Bereitstellung für interne Tools
    • Code-Unterstützung und automatisierte Workflows

    GPU-Server oder CPU-vServer?

    Ein Ollama vServer ohne dedizierte GPU eignet sich vor allem für kleinere Modelle, Tests und geringe Nutzung. Ein Ollama GPU Server bietet Vorteile bei Antwortzeit, Durchsatz und Modellgröße. Vergleiche deshalb GPU-Modell, VRAM, RAM, Speicherplatz, Abrechnungsmodell und die Möglichkeit, Ressourcen später zu erweitern.

    Tags zu diesem Vergleich

    Passende Vergleiche