CERT24PYSEC-2026-4347: ошибка off-by-one при проверке предварительно токенизированных данных в vLLMLoading data…

PYSEC-2026-4347: ошибка off-by-one при проверке предварительно токенизированных данных в vLLM

До версии 0.32.0 в vLLM присутствовала ошибка off-by-one при вычислении максимального идентификатора токена. При определённых условиях предварительно токенизированный запрос может завершить работу движка vLLM с утверждением на стороне устройства CUDA.

← Back to intelligence

PYSEC-2026-4347: ошибка off-by-one при проверке предварительно токенизированных данных в vLLM

До версии 0.32.0 в vLLM присутствовала ошибка off-by-one при вычислении максимального идентификатора токена. При определённых условиях предварительно токенизированный запрос может завершить работу движка vLLM с утверждением на стороне устройства CUDA.