net/i40e: fix unintentional integer overflow
authorSteve Yang <stevex.yang@intel.com>
Fri, 25 Feb 2022 02:39:47 +0000 (02:39 +0000)
committerFerruh Yigit <ferruh.yigit@intel.com>
Fri, 25 Feb 2022 14:20:49 +0000 (15:20 +0100)
Cast 1 to type uint64_t to avoid overflow.

CID 375812 (#1 of 1):
Unintentional integer overflow (OVERFLOW_BEFORE_WIDEN)
overflow_before_widen: Potentially overflowing expression 1 << 2 * i + 1
with type int (32 bits, signed) is evaluated using 32-bit arithmetic, and
then used in a context that expects an expression of type uint64_t
(64 bits, unsigned).

Coverity issue: 375812
Fixes: 5fec01c35c49 ("net/i40e: support Linux VF to configure IRQ link list")
Cc: stable@dpdk.org
Signed-off-by: Steve Yang <stevex.yang@intel.com>
Reviewed-by: Ferruh Yigit <ferruh.yigit@intel.com>
drivers/net/i40e/i40e_pf.c

index 2435a8a..15d9ff8 100644 (file)
@@ -597,14 +597,14 @@ i40e_pf_config_irq_link_list(struct i40e_pf_vf *vf,
        tempmap = vvm->rxq_map;
        for (i = 0; i < sizeof(vvm->rxq_map) * BITS_PER_CHAR; i++) {
                if (tempmap & 0x1)
-                       linklistmap |= (1 << (2 * i));
+                       linklistmap |= RTE_BIT64(2 * i);
                tempmap >>= 1;
        }
 
        tempmap = vvm->txq_map;
        for (i = 0; i < sizeof(vvm->txq_map) * BITS_PER_CHAR; i++) {
                if (tempmap & 0x1)
-                       linklistmap |= (1 << (2 * i + 1));
+                       linklistmap |= RTE_BIT64(2 * i + 1);
                tempmap >>= 1;
        }