Die Toolbox wird geladen...
Die Toolbox wird geladen...
Erkenne vor dem nächsten Test, welches Ollama-Modell wirklich geladen ist und wie viel Speicher davon auf der GPU liegt. Plus klarer Übergang zur Cloud.
Das passende Video ansehenEin lesbarer Laufzeitbericht statt der Annahme, dass das Modell auf der GPU läuft.
README.md2,3 KBlaufzeit-demo.json0,4 KBlaufzeitcheck.py3 KBENTSCHEIDUNG.md2,6 KBEin Ausschnitt aus dem Paket. Die vollständige Datei liegt im ZIP.
laufzeitcheck.pyAusschnitt
"""Read Ollama runtime metadata from a local endpoint or an offline fixture."""
import argparse
import json
import math
from pathlib import Path
from http.client import HTTPConnection, HTTPException
def nonnegative(value: object, label: str) -> float:
if isinstance(value, bool) or not isinstance(value, (int, float)) or not math.isfinite(value) or value < 0:
raise ValueError(f"Ungültiger Wert: {label}")
return float(value)
def report(data: dict) -> str:
models = data.get("models")
if not isinstance(models, list):
raise ValueError("Antwort enthält keine Modellliste")
if not models:
return "Kein Modell geladen. Erst ein vorhandenes Modell in Ollama öffnen, danach erneut prüfen."