compress/mlx5: fix overflow in queue size
authorMichael Baum <michaelba@nvidia.com>
Thu, 1 Jul 2021 06:39:14 +0000 (09:39 +0300)
committerThomas Monjalon <thomas@monjalon.net>
Thu, 22 Jul 2021 12:47:32 +0000 (14:47 +0200)
commitc87bc83a33d2cd0f159b175336553d5b3293aef0
tree6dc2241187f7a4fcd231b953cb4fd2a97db9a590
parent423719a3677cc18d742264315c8451a931ade8e5
compress/mlx5: fix overflow in queue size

The mlx5_compress_qp_setup function makes shifting to the numeric
constant 1, then sends it as a parameter to rte_calloc function.

The rte_calloc function expects to get size_t (might be 64 bit) and
instead gets a 32-bit variable, because the numeric constant size is a
32-bit.
In case the shift is greater than 32 bit and it 64-system, the variable
will lose its value even though the function can get 64-bit argument.

Change the size of the numeric constant 1 to size_t.

Fixes: 8619fcd5161b ("compress/mlx5: support queue pair operations")
Cc: stable@dpdk.org
Signed-off-by: Michael Baum <michaelba@nvidia.com>
Acked-by: Matan Azrad <matan@nvidia.com>
drivers/compress/mlx5/mlx5_compress.c