← Übersicht Nicht im beobachteten Stack

vLLM GGUF Kernels: int64_t to int truncation of tensor dimensions causes GPU buffer overflow

CVE-2026-53923 · GHSA-5jv2-g5wq-cmr4 · PYSEC-2026-3403

Hoch · CVSS 7.5 Red Hat: Low Netzwerk · ohne Login Kein Fix bekannt

Veröffentlicht
17.06.2026 16:03
Zuletzt geändert
10.09.2026
EPSS (30 Tage)
0.5 %
CVSS-Vektor
CVSS:3.1/AV:N/AC:L/PR:N/UI:N/S:U/C:H/I:N/A:N

Beschreibung

Originaltext der Quelle, nicht übersetzt.

vLLM is an inference and serving engine for large language models (LLMs). From 0.5.5 until 0.23.1rc0, integer truncation of tensor dimensions in vLLM's GGUF dequantize kernels (csrc/quantization/gguf/gguf_kernel.cu) causes partial tensor processing. The output tensor is allocated at full size via torch::empty (uninitialized memory), but the dequantize CUDA kernel processes only a truncated number of elements. The unfilled portion of the output tensor retains whatever was previously in GPU memory. In multi-tenant inference deployments, this residual GPU memory may contain tensor data from other users' inference requests, constituting information disclosure. This vulnerability is fixed in 0.23.1rc0.

Status beim Hersteller

Red Hat stuft seine Produktlinien ein: 2 behoben, 3 nicht betroffen.

Red Hat AI Inference Server 3.3 Behoben rhaiis/vllm-cuda-rhel9, rhaiis/vllm-rocm-rhel9, rhaiis/vllm-spyre-rhel9 RHSA-2026:59138, RHSA-2026:59139, RHSA-2026:60363
Red Hat Enterprise Linux AI 3.3 Behoben rhelai3/bootc-aws-cuda-rhel9, rhelai3/bootc-azure-cuda-rhel9, rhelai3/bootc-azure-rocm-rhel9, rhelai3/bootc-cuda-rhel9, rhelai3/bootc-gcp-cuda-rhel9, rhelai3/bootc-rocm-rhel9, rhelai3/disk-image-cuda-rhel9 RHSA-2026:62335, RHSA-2026:62336
Nicht betroffen (3)
Red Hat AI Inference ServerNicht betroffenverwundbarer Code nicht enthaltenrhaii/vllm-cpu-rhel9, rhaii/vllm-gaudi-rhel9, rhaii/vllm-neuron-rhel9, rhaii/vllm-tpu-rhel9, rhaiis/vllm-cpu-rhel9, rhaiis/vllm-neuron-rhel9, rhaiis/vllm-tpu-rhel9
Red Hat Enterprise Linux AI (RHEL AI) 3Nicht betroffenverwundbarer Code nicht enthaltenrhelai3/bootc-gaudi-rhel9
Red Hat OpenShift AI (RHOAI)Nicht betroffenverwundbarer Code nicht enthaltenrhoai/odh-kserve-agent-rhel9, rhoai/odh-kserve-controller-rhel9, rhoai/odh-kserve-router-rhel9, rhoai/odh-kserve-storage-initializer-rhel9, rhoai/odh-llm-d-kv-cache-rhel9, rhoai/odh-vllm-gaudi-rhel9
Weitere betroffene Pakete (4)
CVEvllm-project/vllmkein Fix bekanntCVE-2026-53923
NVDvllm:vllm0.5.5 → 0.23.1CVE-2026-53923
PyPIvllm0.5.5 → 0.24.0GHSA-5jv2-g5wq-cmr4
PyPIvllmkein Fix bekanntPYSEC-2026-3403

Empfohlene Prüfung

  1. Feststellen, ob und in welcher Version die betroffenen Pakete in Ihren Systemen, Images und Abhängigkeiten vorkommen.
  2. Wo eine Fix-Version genannt ist: aktualisieren. Wo nicht: Hersteller-Advisory und Referenzen auf Workarounds prüfen.
  3. Erreichbarkeit beachten: Der Angriffsweg (Netzwerk · ohne Login) ist aus dem CVSS-Vektor abgeleitet.

Diese Seite sagt nichts darüber, ob Ihre Systeme betroffen sind. Das klärt erst eine Prüfung Ihrer Versionen.