---
title: "Modelle und Infrastruktur"
canonical: https://wavect.io/de/blog/clusters/models-infrastructure/
language: de
description: "Modellauswahl, Inferenzkosten, lokaler Betrieb, Kompression und Serving-Architektur."
image: "https://wavect.io/img/general/bak/open_graph_preview.jpg"
---

Sammlung

# Modelle und Infrastruktur

Modellauswahl, Inferenzkosten, lokaler Betrieb, Kompression und Serving-Architektur.

## Hier starten

- [**LLMs in der EU selbst hosten: Wann sich Open Weights wirklich rechnen**Die GPU ist der günstige Teil. Hier sind die echten Kosten, eine belastbare Break-even-Formel, die DSGVO-Trade-offs und der vLLM-Produktions-Stack.](/de/blog/self-hosting-llms-eu-cost/)

## Neu in dieser Sammlung

### [Cue Turn Detection: Telefonnummern, Benchmarks und Grenzen](/de/blog/cue-turn-detection-phone-numbers/)

- **Details:** KI & Agenten · 15. Okt. 2026

Eine Pause ist keine vollständige Telefonnummer. Was Pypes Cue v1 verbessert, wie die Benchmarks einzuordnen sind und welche Abnahmetests wirklich zählen.

### [Google SAM heißt jetzt Agent Mesh: MCP-Tools vernetzen](/de/blog/google-sam-agent-mesh-mcp-tools/)

- **Details:** KI & Agenten · 12. Okt. 2026

Freigegebene Tools auf mehreren Rechnern verbinden: So funktionieren Control Plane, signierte EU-Labels und die Prüfungen für einen aussagekräftigen ersten Pilotversuch.

### [EdgeQuake: PostgreSQL-GraphRAG als MCP-Gedächtnis für Agenten](/de/blog/edgequake-postgresql-graphrag-mcp-agent-memory/)

- **Details:** KI & Agenten · 12. Okt. 2026

EdgeQuake v0.34.0 für Dokumentenwissen: PostgreSQL-Betrieb, MCP-Berechtigungen, lokale Modellrollen und eine Einordnung der LightRAG-Benchmarks.

### [BitNet auf der CPU: 2B4T, RAM-Bedarf und die 100B-Angabe](/de/blog/bitnet-cpu-llm-ram-requirements/)

- **Details:** KI & Agenten · 12. Okt. 2026

Welches BitNet-Modell kannst du herunterladen, und was passt auf deine CPU? Ordne den 100B-Benchmark, die 0,4-GB-Angabe und die 1,19-GB-Datei ein und prüfe eine echte Aufgabe.

### [SuperPenguin: KI-Kosten pro PR, Kunde und Feature](/de/blog/superpenguin-ai-roi-cost-per-pr-customer/)

- **Details:** KI & Agenten · 9. Okt. 2026

Was kostet die Entwicklung eines Features, was seine Nutzung? So verbindet SuperPenguin Coding-Aktivität, Kundenmetadaten und Rechnungen zu belastbaren Kostennachweisen.

### [Claude Dashboards + Motion: Von KPIs zum Video](/de/blog/claude-dashboards-motion-product-kpi-video/)

- **Details:** KI & Agenten · 9. Okt. 2026

Aus einer geprüften Produktkennzahl wird ein kurzes animiertes Update. Ein konkreter Workflow mit Claude Dashboards und Motion, Kohortenbeispiel, zwei Prompts und Freigaberegeln.

## Vollständiges Artikelverzeichnis

1. [Cue Turn Detection: Telefonnummern, Benchmarks und Grenzen](/de/blog/cue-turn-detection-phone-numbers/) 15. Okt. 2026
2. [Google SAM heißt jetzt Agent Mesh: MCP-Tools vernetzen](/de/blog/google-sam-agent-mesh-mcp-tools/) 12. Okt. 2026
3. [EdgeQuake: PostgreSQL-GraphRAG als MCP-Gedächtnis für Agenten](/de/blog/edgequake-postgresql-graphrag-mcp-agent-memory/) 12. Okt. 2026
4. [BitNet auf der CPU: 2B4T, RAM-Bedarf und die 100B-Angabe](/de/blog/bitnet-cpu-llm-ram-requirements/) 12. Okt. 2026
5. [SuperPenguin: KI-Kosten pro PR, Kunde und Feature](/de/blog/superpenguin-ai-roi-cost-per-pr-customer/) 9. Okt. 2026
6. [Claude Dashboards + Motion: Von KPIs zum Video](/de/blog/claude-dashboards-motion-product-kpi-video/) 9. Okt. 2026
7. [OpenAI Intelligent UI vs. OpenUI: Generative UI für Business-Apps](/de/blog/openai-intelligent-ui-vs-openui/) 8. Okt. 2026
8. [Wally von RunAnywhere: Kosten pro akzeptierter Coding-Aufgabe](/de/blog/runanywhere-wally-coding-agent-cost/) 8. Oktober 2026
9. [Reducto für deutsche Rechnungen: Nacharbeit richtig messen](/de/blog/reducto-german-invoices-human-review/) 8. Oktober 2026
10. [OpenAI Decisions API: Konfidenz, Ablehnungen und Routing](/de/blog/openai-decisions-api-model-routing/) 7. Okt. 2026
11. [Claude Model Router: Wann wechselt welches Modell?](/de/blog/claude-model-router-hooks-vs-proxy/) 7. Okt. 2026
12. [Cloudflare Clef vs. Jev: Preise, Benchmarks und Migration](/de/blog/cloudflare-clef-vs-jev/) 4. Okt. 2026
13. [Context Language Models vs. Kompaktierung: Was testen?](/de/blog/context-language-models-vs-compaction/) 2. Okt. 2026
14. [Caveman 3.0 für Claude Code: Lokale Input-Kompression, Recovery und Benchmarks](/de/blog/caveman-3-claude-code-input-compression/) 2. Okt. 2026
15. [LiteLLM Lens: Agenten-Traces mit SQL und APIs analysieren](/de/blog/litellm-lens-agent-trace-analysis/) 1. Okt. 2026
16. [SmythOS Studio selbst hosten: Docker, Kosten und Grenzen](/de/blog/smythos-studio-self-hosting/) 1. Okt. 2026
17. [DeerFlow 2.0: Docker-Setup, Sandboxes und Memory](/de/blog/deerflow-2-docker-setup-sandbox-memory/) 28. Sep. 2026
18. [CLM-8B selbst hosten: vLLM, Action-Cache und Verifier](/de/blog/clm-8b-self-hosting-action-cache-verifier/) 28. Sep. 2026
19. [AnyJev: LLM-Kalibrierung und Optionsreihenfolge](/de/blog/anyjev-calibration-option-order-bias/) 28. Sep. 2026
20. [LiteAgents SDK: Modell-Routing, Setup und Migration](/de/blog/liteagents-sdk-per-turn-model-routing/) 25. Sep. 2026
21. [mcp-memory-service: Gemeinsames Gedächtnis für Claude Code und Cursor](/de/blog/mcp-memory-service-claude-code-cursor/) 24. Sep. 2026
22. [Claude Opus 5.5: Einsatzfälle, Prompts und Effort](/de/blog/claude-opus-5-5-best-use-cases-workflows/) 24. Sep. 2026
23. [Laya und Jev im Unternehmen: 6 praktische Workflows](/de/blog/laya-jev-business-workflows-roi/) 24. Sep. 2026
24. [Laya vs Jev: Benchmarks und das Risiko für KI-Startups](/de/blog/laya-vs-jev-benchmark-ai-startup-moat/) 20. Sep. 2026
25. [Jev AI im Test: Entscheidungsmodelle für Agenten](/de/blog/jev-ai-decision-model-review/) 18. Sep. 2026
26. [SwarmLLM Test 2026: Browser-P2P-Inferenz auf Smartphone und Laptop](/de/blog/swarmllm-browser-p2p-inference-review-2026/) 9. Sep 2026
27. [Phonely Alma im Test: Ist das Voice-LLM produktionsreif?](/de/blog/phonely-alma-voice-llm-review/) 6 Sep 2026
28. [Utopia: Temporalen Wissensgraph im Unternehmen prüfen](/de/blog/utopia-temporal-knowledge-graph/) 6. September 2026
29. [NVIDIA PAIR im Test: Lokales KI-Routing und die AMD-Lücke](/de/blog/nvidia-pair-amd-rocm-strix-halo/) 4 Sep 2026
30. [Tencent Hy4 Preview im Test: Lohnt sich das 1M-Kontextmodell?](/de/blog/tencent-hy4-preview-coding-agent-review/) 1. September 2026
31. [PageLM im Check: Selbst hosten und kommerziell nutzen](/de/blog/pagelm-self-hosted-ai-study-platform/) 30. August 2026
32. [M6 Mac mini vs. M5 Mac Studio für lokale KI: Kaufberatung](/de/blog/mac-mini-m6-vs-mac-studio-m5-local-ai/) 28. August 2026
33. [FreeToken AI im Test: Frontier-MoE auf Consumer-GPUs?](/de/blog/freetoken-ai-inference-engine-review/) 25. Aug. 2026
34. [Darkbloom AI Test: Private Inferenz auf freien Macs](/de/blog/darkbloom-ai-private-inference-mac/) 25. August 2026
35. [Ox Alpha als GLM-5.3-Flash enthüllt: Was sich ändert](/de/blog/ox-alpha-free-ai-model-guide-2026/) 23 Aug 2026
36. [Pika Audio API Preise: Sind Soundeffekte wirklich 20x günstiger?](/de/blog/pika-audio-models-api-pricing-2026/) 21 Aug 2026
37. [Thunder Computes 13-Mio.-Dollar-Wette auf GPU-Virtualisierung: Einkaufsleitfaden](/de/blog/thunder-compute-gpu-virtualization-series-a/) 21. Aug. 2026
38. [AirLLM mit 4 GB VRAM: So funktioniert Layer-wise Inference](/de/blog/airllm-layer-wise-inference-low-vram/) 20. Aug. 2026
39. [Qwen3.8-27B: Computer-Use-Agenten selbst hosten, ohne Screenshots zu exportieren](/de/blog/qwen3-8-27b-self-hosted-computer-use-agents/) 18. August 2026
40. [Der vLLM- und Triton-Stack von Netflix: 7 Produktionslektionen](/de/blog/netflix-vllm-triton-inference-stack/) 16 Aug 2026
41. [Transformers.js im Browser: Wann lokale KI in dein Produkt gehört](/de/blog/transformers-js-browser-ai-guide/) 15 Aug 2026
42. [LiteLLM selbst hosten: Production-Guide 2026](/de/blog/self-host-litellm-production-2026/) 13 Aug 2026
43. [KI-fähiges Unternehmenswiki: Architektur und Aufbau](/de/blog/ai-ready-company-wiki/) 13 Aug 2026
44. [Versieht Claude Texte mit Wasserzeichen? API-Antwort 2026](/de/blog/claude-text-watermark-api-2026/) 11 Aug 2026
45. [OpenKB Review: Knowledge Compiler vs. RAG](/de/blog/openkb-review-vs-rag/) 11 Aug 2026
46. [Unsloth Desktop im Test: Private lokale KI-Workstation?](/de/blog/unsloth-desktop-local-ai-workstation-review/) 11 Aug 2026
47. [NeMo Switchyard 0.2: Agenten-Routing ohne Training?](/de/blog/nemo-switchyard-model-router/) 11 Aug 2026
48. [Firecrawl AnyDoc im Test: 14 Formate zu Markdown](/de/blog/firecrawl-anydoc-review/) 10 Aug 2026
49. [Muse Glimmer 30B: Ist Metas lokales Agentenmodell produktionsreif?](/de/blog/muse-glimmer-30b-local-agent-guide/) 10 Aug 2026
50. [OmniRoute KI-Routing: Setup und Produktions-Checkliste](/de/blog/omniroute-ai-routing-setup/) 9 Aug 2026
51. [Gemini Robotics 2: Ganzkörpersteuerung und die Pilotentscheidung](/de/blog/gemini-robotics-2-whole-body-control/) 7 Aug 2026
52. [pdf-inspector im Test: PDFs vor OCR lokal routen](/de/blog/pdf-inspector-ocr-routing/) 6 Aug 2026
53. [Lokaler multimodaler KI-Coding-Assistent: Sprache, OCR und Datenschutz](/de/blog/local-multimodal-ai-coding-assistant/) 5 Aug 2026
54. [DeepSeek V4 Flash 0731 auf einem KI-PC: Was funktioniert?](/de/blog/deepseek-v4-flash-0731-local-ai-pc/) 3 Aug 2026
55. [Gemma 4 kostenlos mit Unsloth und Colab tunen](/de/blog/fine-tune-gemma-4-free-unsloth-colab/) 29 Jul 2026
56. [Taalas HC1 im Check: Lohnt sich ein fest verdrahteter LLM-ASIC?](/de/blog/taalas-hc1-llm-asic-review/) 28 Jul 2026
57. [Welches lokale LLM läuft auf deiner Hardware? llmfit Guide](/de/blog/llmfit-local-llm-hardware-guide/) 27 Jul 2026
58. [Miso TTS selbst hosten oder API: Kosten, Latenz und VRAM](/de/blog/miso-tts-self-hosted-vs-api/) 26. Juli 2026
59. [RAG-Vektoren auf 2 Bit komprimieren: Ist datenunabhängige Quantisierung produktionsreif?](/de/blog/rag-vector-memory-quantization/) 23. Juli 2026
60. [LMCache meldet 13,7x niedrigere mittlere TTFT mit gemeinsamem KV Cache](/de/blog/shared-kv-cache-llm-inference-latency/) 23. Juli 2026
61. [Verlustfreie LLM-Kompression vs. 8-bit GGUF: Was ist produktionsreif?](/de/blog/lossless-llm-weight-compression-production/) 22. Juli 2026
62. [NVIDIA Nemotron 3.5 ASR: Ist Self-Hosted STT bereit für Voice Agents?](/de/blog/nvidia-nemotron-3-5-asr-production-review/) 19. Juli 2026
63. [Kimi K3 für EU-Unternehmen: API-Kosten, Datenschutz und Pilotplan](/de/blog/kimi-k3-eu-api-production-review/) 19. Juli 2026
64. [Mesh LLM im Test: Ein großes LLM auf mehreren Rechnern ausführen?](/de/blog/mesh-llm-distributed-inference-multiple-computers/) 18. Juli 2026
65. [Bonsai 27B im Test: Läuft ein 27B-LLM wirklich auf dem Smartphone?](/de/blog/bonsai-27b-phone-local-ai-review/) 16. Juli 2026
66. [Soofi S: Ist Deutschlands souveränes LLM bereit für Unternehmen?](/de/blog/soofi-s-european-sovereign-llm/) 16. Juli 2026
67. [Colibri führt GLM-5.2 auf Consumer-Hardware aus. Der Haken.](/de/blog/colibri-glm-5-2-consumer-hardware/) 14. Juli 2026
68. [Wann lokale Modelle APIs schlagen: Break-even-Rechner für EU-Unternehmen](/de/blog/local-models-vs-apis-break-even-eu-2026/) 8. Juli 2026
69. [LLM-Kostenrechner 2026: Rechne pro Aufgabe, nicht pro Token](/de/blog/llm-cost-calculator-2026/) 8. Juli 2026
70. [Pxpipe im Test: Senken Bilder Claude-Code-Kosten um 60%?](/de/blog/text-as-image-token-savings/) 3. Juli 2026
71. [Pro Token günstiger kann pro Aufgabe teurer sein](/de/blog/cost-per-token-vs-cost-per-task/) 2. Juli 2026
72. [Anthropic sagt Nein zum Open-Weights-Verbot. Der Kostenkampf bleibt real.](/de/blog/open-source-ai-war-cost-2026/) 1. Juli 2026
73. [Was ein interner KI-Assistent in der DACH-Region wirklich kostet (2026)](/de/blog/internal-ai-assistant-cost-dach/) 29. Juni 2026
74. [LLM-Gateways im Vergleich 2026: LiteLLM vs OpenRouter vs Portkey vs RouteLLM](/de/blog/llm-gateway-router-comparison-2026/) 27. Juni 2026
75. [LLMs in der EU selbst hosten: Wann sich Open Weights wirklich rechnen](/de/blog/self-hosting-llms-eu-cost/) 26. Juni 2026
76. [Open-Weight-LLMs 2026: DeepSeek, Qwen, Kimi, GLM, Llama und Muse](/de/blog/open-weight-llm-comparison-2026/) 25. Juni 2026
77. [LLM-Token-Kosten 2026 senken](/de/blog/reduce-llm-token-costs-2026/) 15. Juni 2026
78. [Wann lohnt es sich, ein LLM-Eval zu bauen? Kosten, ROI und dem Judge vertrauen](/de/blog/llm-evaluation-cost-roi-production/) 1. Juni 2026
79. [RAG, Fine-Tuning oder Long Context? Vergleich 2026](/de/blog/rag-vs-finetune-vs-longcontext-2026/) 26. Mai 2026
80. [LLM-API-Kosten 2026. Architektur-Shift](/de/blog/llm-api-costs-2026-architecture-shift/) 26. Mai 2026