Schritt 01 / 08

Was möchtest du testen?

Wähle das wissenschaftliche Messziel. Die folgenden Schritte werden mit passenden Standardwerten vorbelegt.

Schritt 1 von 8Testziel

Wähle genau ein primäres Testziel

Die Auswahl setzt nur geeignete Startwerte. Alle Parameter können in den folgenden Schritten nachvollziehbar angepasst werden.

A100-LLM-BL-1.0Reproduzierbare A100-Referenz

Hardware: 1 x NVIDIA A100 40 GB (MIG deaktiviert)
Workload: ISL 512 / OSL 128, deterministisch, 1.000 Requests je Laststufe
Last: Concurrency 1, 2, 4, 8, 16, 32
Statistik: 5 Wiederholungen, 30 s Cooldown, 95-%-Konfidenzintervalle

Die Baseline ist der empfohlene Ausgangspunkt für faire Modellvergleiche. Spätere Featuretests verwenden dieselben Randbedingungen.

Generated specimen

AIPerf CLI

aiperf profile \
  --model 'meta-llama/Llama-3.1-8B-Instruct' \
  --url 'http://localhost:8000/v1/chat/completions' \
  --endpoint-type 'chat' \
  --streaming \
  --request-timeout-seconds 600 \
  --extra-inputs '{"temperature":0,"ignore_eos":true}' \
  --num-dataset-entries 1000 \
  --isl 512 \
  --osl 128 \
  --dataset-sampling-strategy 'shuffle' \
  --concurrency '1,2,4,8,16,32' \
  --parameter-sweep-same-seed \
  --request-count 1000 \
  --warmup-request-count 100 \
  --warmup-concurrency 4 \
  --gpu-telemetry 'pynvml' \
  --artifact-dir './artifacts/a100-llm-bl-1.0' \
  --export-level 'records' \
  --ui 'none' \
  --slice-duration 30 \
  --auto-plot \
  --num-profile-runs 5 \
  --profile-run-cooldown-seconds 30 \
  --confidence-level 0.95 \
  --no-profile-run-disable-warmup-after-first \
  --random-seed 42

Ausführbar, nicht Baseline-konform

18 wissenschaftliche Bedingungen sind noch offen.

A100-Formfaktor (PCIe oder SXM) dokumentieren.
GPU-Gerätekennung dokumentieren.
GPU-Verbindung zum Host dokumentieren.
GPU-Power-Limit dokumentieren.

B0 FeatureprofilC1–32 (6) Last5× Lauf

NO EXECUTION

Diese Oberfläche erzeugt nur die Konfiguration. Der Benchmark wird später separat in deiner Shell gestartet.