drivers/net/cnxk/cn10k_tx.c

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright(C) 2021 Marvell.
   3  */
   4
   5 #include "cn10k_ethdev.h"
   6 #include "cn10k_tx.h"
   7
   8 #define T(name, f4, f3, f2, f1, f0, sz, flags)                                 \
   9         uint16_t __rte_noinline __rte_hot cn10k_nix_xmit_pkts_##name(          \
  10                 void *tx_queue, struct rte_mbuf **tx_pkts, uint16_t pkts)      \
  11         {                                                                      \
  12                 uint64_t cmd[sz];                                              \
  13                                                                                \
  14                 /* For TSO inner checksum is a must */                         \
  15                 if (((flags) & NIX_TX_OFFLOAD_TSO_F) &&                        \
  16                     !((flags) & NIX_TX_OFFLOAD_L3_L4_CSUM_F))                  \
  17                         return 0;                                              \
  18                 return cn10k_nix_xmit_pkts(tx_queue, tx_pkts, pkts, cmd,       \
  19                                            flags);                             \
  20         }
  21
  22 NIX_TX_FASTPATH_MODES
  23 #undef T
  24
  25 static inline void
  26 pick_tx_func(struct rte_eth_dev *eth_dev,
  27              const eth_tx_burst_t tx_burst[2][2][2][2][2])
  28 {
  29         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  30
  31         /* [TSO] [NOFF] [VLAN] [OL3_OL4_CSUM] [IL3_IL4_CSUM] */
  32         eth_dev->tx_pkt_burst = tx_burst
  33                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_TSO_F)]
  34                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_MBUF_NOFF_F)]
  35                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_VLAN_QINQ_F)]
  36                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_OL3_OL4_CSUM_F)]
  37                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_L3_L4_CSUM_F)];
  38 }
  39
  40 void
  41 cn10k_eth_set_tx_function(struct rte_eth_dev *eth_dev)
  42 {
  43         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  44
  45         const eth_tx_burst_t nix_eth_tx_burst[2][2][2][2][2] = {
  46 #define T(name, f4, f3, f2, f1, f0, sz, flags)                         \
  47         [f4][f3][f2][f1][f0] = cn10k_nix_xmit_pkts_##name,
  48
  49                 NIX_TX_FASTPATH_MODES
  50 #undef T
  51         };
  52
  53         const eth_tx_burst_t nix_eth_tx_burst_mseg[2][2][2][2][2] = {
  54 #define T(name, f4, f3, f2, f1, f0, sz, flags)                          \
  55         [f4][f3][f2][f1][f0] = cn10k_nix_xmit_pkts_mseg_##name,
  56
  57                 NIX_TX_FASTPATH_MODES
  58 #undef T
  59         };
  60
  61         const eth_tx_burst_t nix_eth_tx_vec_burst[2][2][2][2][2] = {
  62 #define T(name, f4, f3, f2, f1, f0, sz, flags)                         \
  63         [f4][f3][f2][f1][f0] = cn10k_nix_xmit_pkts_vec_##name,
  64
  65                 NIX_TX_FASTPATH_MODES
  66 #undef T
  67         };
  68
  69         if (dev->scalar_ena ||
  70             (dev->tx_offload_flags &
  71              (NIX_TX_OFFLOAD_VLAN_QINQ_F | NIX_TX_OFFLOAD_TSO_F)))
  72                 pick_tx_func(eth_dev, nix_eth_tx_burst);
  73         else
  74                 pick_tx_func(eth_dev, nix_eth_tx_vec_burst);
  75
  76         if (dev->tx_offloads & DEV_TX_OFFLOAD_MULTI_SEGS)
  77                 pick_tx_func(eth_dev, nix_eth_tx_burst_mseg);
  78
  79         rte_mb();
  80 }