ixgbe: fix bit shift overflow in VMDQ pool setup
authorTomasz Kulasek <tomaszx.kulasek@intel.com>
Fri, 22 Apr 2016 15:35:57 +0000 (17:35 +0200)
committerBruce Richardson <bruce.richardson@intel.com>
Fri, 6 May 2016 13:51:22 +0000 (15:51 +0200)
commit1554106b22271ca3028680626b16f84779dff7b3
tree01f2b5c06b10d87bb6a665591d6328f2a38d2c68
parentad3bc4f684ec3575044a485049c343148e9c73a9
ixgbe: fix bit shift overflow in VMDQ pool setup

Fix issue reported by Coverity.

Coverity ID 13193: Bad bit shift operation (BAD_SHIFT)
large_shift: In expression 1 << pool, left shifting by more than 31 bits
has undefined behavior. The shift amount, pool, is at least 32.

This patch is a rework of register addr selection logic and mask
computation to made it more readable and avoid bit overflow when 32 bit
value is shifted over its size for pool > 31.

Fixes: fe3a45fd4104 ("ixgbe: add VMDq support")

Signed-off-by: Tomasz Kulasek <tomaszx.kulasek@intel.com>
Acked-by: Bruce Richardson <bruce.richardson@intel.com>
drivers/net/ixgbe/ixgbe_ethdev.c