fib: fix possible integer overflow
authorVladimir Medvedkin <vladimir.medvedkin@intel.com>
Tue, 21 Jan 2020 15:07:09 +0000 (15:07 +0000)
committerThomas Monjalon <thomas@monjalon.net>
Thu, 6 Feb 2020 15:17:14 +0000 (16:17 +0100)
commit247a38c52056f3255da357fc6501a1eec414aa23
tree152868dcf244e032e18e31c401a97e19071888f7
parent5d3e7176ee49efdb81a607a9c13dcfd5c2757de1
fib: fix possible integer overflow

This commit fixes possible integer overflow for
prev_idx in build_common_root() CID 350596
and
tbl8_idx in write_edge() CID 350597

Unintentional integer overflow (OVERFLOW_BEFORE_WIDEN)
overflow_before_widen: Potentially overflowing expression tbl8_idx * 256
with type int (32 bits, signed) is evaluated using 32-bit arithmetic,
and then used in a context that expects an expression of
type uint64_t (64 bits, unsigned).

Coverity issue: 350596, 350597
Fixes: c3e12e0f0354 ("fib: add dataplane algorithm for IPv6")
Cc: stable@dpdk.org
Signed-off-by: Vladimir Medvedkin <vladimir.medvedkin@intel.com>
lib/librte_fib/trie.c