drivers/net/cnxk/cn10k_rx_select.c

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright(C) 2021 Marvell.
   3  */
   4
   5 #include "cn10k_ethdev.h"
   6 #include "cn10k_rx.h"
   7
   8 static inline void
   9 pick_rx_func(struct rte_eth_dev *eth_dev,
  10              const eth_rx_burst_t rx_burst[NIX_RX_OFFLOAD_MAX])
  11 {
  12         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  13
  14         /* [VLAN] [TSP] [MARK] [CKSUM] [PTYPE] [RSS] */
  15         eth_dev->rx_pkt_burst =
  16                 rx_burst[dev->rx_offload_flags & (NIX_RX_OFFLOAD_MAX - 1)];
  17
  18         rte_atomic_thread_fence(__ATOMIC_RELEASE);
  19 }
  20
  21 void
  22 cn10k_eth_set_rx_function(struct rte_eth_dev *eth_dev)
  23 {
  24         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  25
  26         const eth_rx_burst_t nix_eth_rx_burst[NIX_RX_OFFLOAD_MAX] = {
  27 #define R(name, flags)[flags] = cn10k_nix_recv_pkts_##name,
  28
  29                 NIX_RX_FASTPATH_MODES
  30 #undef R
  31         };
  32
  33         const eth_rx_burst_t nix_eth_rx_burst_mseg[NIX_RX_OFFLOAD_MAX] = {
  34 #define R(name, flags)[flags] = cn10k_nix_recv_pkts_mseg_##name,
  35
  36                 NIX_RX_FASTPATH_MODES
  37 #undef R
  38         };
  39
  40         const eth_rx_burst_t nix_eth_rx_vec_burst[NIX_RX_OFFLOAD_MAX] = {
  41 #define R(name, flags)[flags] = cn10k_nix_recv_pkts_vec_##name,
  42
  43                 NIX_RX_FASTPATH_MODES
  44 #undef R
  45         };
  46
  47         const eth_rx_burst_t nix_eth_rx_vec_burst_mseg[NIX_RX_OFFLOAD_MAX] = {
  48 #define R(name, flags)[flags] = cn10k_nix_recv_pkts_vec_mseg_##name,
  49
  50                 NIX_RX_FASTPATH_MODES
  51 #undef R
  52         };
  53
  54         /* Copy multi seg version with no offload for tear down sequence */
  55         if (rte_eal_process_type() == RTE_PROC_PRIMARY)
  56                 dev->rx_pkt_burst_no_offload = nix_eth_rx_burst_mseg[0];
  57
  58         if (dev->scalar_ena) {
  59                 if (dev->rx_offloads & RTE_ETH_RX_OFFLOAD_SCATTER)
  60                         return pick_rx_func(eth_dev, nix_eth_rx_burst_mseg);
  61                 return pick_rx_func(eth_dev, nix_eth_rx_burst);
  62         }
  63
  64         if (dev->rx_offloads & RTE_ETH_RX_OFFLOAD_SCATTER)
  65                 return pick_rx_func(eth_dev, nix_eth_rx_vec_burst_mseg);
  66         return pick_rx_func(eth_dev, nix_eth_rx_vec_burst);
  67 }