vdpa/mlx5: fix overflow in queue attribute
authorMichael Baum <michaelba@nvidia.com>
Thu, 1 Jul 2021 06:39:15 +0000 (09:39 +0300)
committerThomas Monjalon <thomas@monjalon.net>
Thu, 22 Jul 2021 12:48:07 +0000 (14:48 +0200)
commitc6b552e4c0aaedf910ddae0345faee360394958b
treee11a6f9583e50a022b2cb4ce32e1a33f542974f1
parentc87bc83a33d2cd0f159b175336553d5b3293aef0
vdpa/mlx5: fix overflow in queue attribute

The mlx5_vdpa_event_qp_create function makes shifting to the numeric
constant 1, then multiplies it by another constant and finally assigns
it into a uint64_t variable.

The numeric constant type is an int with a 32-bit sign. if after
shifting , its MSB (bit of sign) will change, the uint64 variable will
get into it a different value than what the function intended it to get.

Set the numeric constant 1 to be uint64_t in the first place.

Fixes: 8395927cdfaf ("vdpa/mlx5: prepare HW queues")
Cc: stable@dpdk.org
Signed-off-by: Michael Baum <michaelba@nvidia.com>
Acked-by: Matan Azrad <matan@nvidia.com>
drivers/vdpa/mlx5/mlx5_vdpa_event.c