ethdev: fix crash with multiprocess
authorBruce Richardson <bruce.richardson@intel.com>
Thu, 26 Mar 2015 17:02:45 +0000 (17:02 +0000)
committerThomas Monjalon <thomas.monjalon@6wind.com>
Thu, 26 Mar 2015 21:27:51 +0000 (22:27 +0100)
commit14b53e27b30ebda5740d7a3a12d5d696aeaeb04b
tree2451eaeeecb5919bddb8fba9bd382243d91bdd96
parent504a29af13a7b87064f9fe0c5cc020b8a739efd3
ethdev: fix crash with multiprocess

The data structure for the rx and tx callbacks is local to each process
since it contains function pointers and cannot be shared between
different unique binaries. However, because it is not in
rte_eth_dev_data structure, the array is not getting initialized for
secondary processes - neither is it getting appropriately resized if the
number of RX/TX queues changes. This causes crashes in secondary
processes as they dereference a null pointer in struct rte_eth_dev.

This patch fixes this by introducing an upper-bound on the number of
queues per port that can be configured, and then uses this to make the
array statically sized, thereby avoiding the crashes.

Fixes: 4dc294158cac ("ethdev: support optional Rx and Tx callbacks")

Signed-off-by: Bruce Richardson <bruce.richardson@intel.com>
Tested-by: Pablo de Lara <pablo.de.lara.guarch@intel.com>
Acked-by: Thomas Monjalon <thomas.monjalon@6wind.com>
config/common_bsdapp
config/common_linuxapp
lib/librte_ether/rte_ethdev.c
lib/librte_ether/rte_ethdev.h