← Übersicht Nicht im beobachteten Stack

vLLM: extract_hidden_states speculative decoding crashes server on any request with penalty parameters

CVE-2026-44223 · GHSA-83vm-p52w-f9pw · PYSEC-2026-145 · WID-SEC-W-2026-1299

Hoch · CVSS 7.5 BSI: mittelRed Hat: Important Netzwerk · ohne Login Kein Fix bekannt

Veröffentlicht
29.04.2026 00:00
Zuletzt geändert
24.09.2026
EPSS (30 Tage)
0.4 %
CVSS-Vektor
CVSS:3.1/AV:N/AC:L/PR:N/UI:N/S:U/C:N/I:N/A:H

Beschreibung

Originaltext der Quelle, nicht übersetzt.

vLLM is an inference and serving engine for large language models (LLMs). From 0.18.0 to before 0.20.0, the extract_hidden_states speculative decoding proposer in vLLM returns a tensor with an incorrect shape after the first decode step, causing a RuntimeError that crashes the EngineCore process. The crash is triggered when any request in the batch uses sampling penalty parameters (repetition_penalty, frequency_penalty, or presence_penalty). A single request with a penalty parameter (e.g., "repetition_penalty": 1.1) is sufficient to crash the server. This vulnerability is fixed in 0.20.0.

Status beim Hersteller

Red Hat stuft seine Produktlinien ein: 4 betroffen, 2 behoben, 1 nicht betroffen.

Open Source vllm <0.20.0 Betroffen
Red Hat AI Inference Server Betroffenwird nicht behoben rhaii/vllm-gaudi-rhel9, rhaii/vllm-neuron-rhel9, rhaii/vllm-tpu-rhel9, rhaiis/vllm-cpu-rhel9, rhaiis/vllm-neuron-rhel9, rhaiis/vllm-tpu-rhel9
Red Hat AI Inference Server BetroffenFix ausstehend rhaiis/vllm-cuda-rhel9, rhaiis/vllm-rocm-rhel9, rhaiis/vllm-spyre-rhel9
Red Hat Enterprise Linux Betroffen
Red Hat OpenShift AI (RHOAI) Betroffenwird nicht behoben rhoai/odh-vllm-gaudi-rhel9
Red Hat AI Inference Server 3.4 Behoben rhaii/vllm-cpu-rhel9, rhaii/vllm-cuda-rhel9, rhaii/vllm-rocm-rhel9, rhaii/vllm-spyre-rhel9 RHSA-2026:57380, RHSA-2026:57387, RHSA-2026:57389, RHSA-2026:57390, RHSA-2026:69464, RHSA-2026:69466, RHSA-2026:69467, RHSA-2026:69469, RHSA-2026:70965, RHSA-2026:70969, RHSA-2026:70979, RHSA-2026:70995
Red Hat Enterprise Linux AI 3.4 Behoben rhelai3/bootc-aws-cuda-rhel9, rhelai3/bootc-azure-cuda-rhel9, rhelai3/bootc-azure-rocm-rhel9, rhelai3/bootc-cuda-rhel9, rhelai3/bootc-gcp-cuda-rhel9, rhelai3/bootc-rocm-rhel9, rhelai3/disk-image-cuda-rhel9 RHSA-2026:59144, RHSA-2026:59151
Nicht betroffen (1)
Red Hat OpenShift AI (RHOAI)Nicht betroffenverwundbarer Code nicht enthaltenrhoai/odh-kserve-agent-rhel9, rhoai/odh-kserve-controller-rhel9, rhoai/odh-kserve-router-rhel9, rhoai/odh-kserve-storage-initializer-rhel9, rhoai/odh-vllm-cuda-rhel9, rhoai/odh-vllm-rocm-rhel9
Weitere betroffene Pakete (4)
CVEvllm-project/vllmkein Fix bekanntCVE-2026-44223
NVDvllm:vllm0.18.0 → 0.20.0CVE-2026-44223
PyPIvllm0.18.0 → 0.20.0GHSA-83vm-p52w-f9pw
PyPIvllm0.18.0 → 0.20.0PYSEC-2026-145

Empfohlene Prüfung

  1. Feststellen, ob und in welcher Version die betroffenen Pakete in Ihren Systemen, Images und Abhängigkeiten vorkommen.
  2. Wo eine Fix-Version genannt ist: aktualisieren. Wo nicht: Hersteller-Advisory und Referenzen auf Workarounds prüfen.
  3. Erreichbarkeit beachten: Der Angriffsweg (Netzwerk · ohne Login) ist aus dem CVSS-Vektor abgeleitet.

Diese Seite sagt nichts darüber, ob Ihre Systeme betroffen sind. Das klärt erst eine Prüfung Ihrer Versionen.