drivers/net/cnxk/cn9k_tx.c

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright(C) 2021 Marvell.
   3  */
   4
   5 #include "cn9k_ethdev.h"
   6 #include "cn9k_tx.h"
   7
   8 #define T(name, f4, f3, f2, f1, f0, sz, flags)                                 \
   9         uint16_t __rte_noinline __rte_hot cn9k_nix_xmit_pkts_##name(           \
  10                 void *tx_queue, struct rte_mbuf **tx_pkts, uint16_t pkts)      \
  11         {                                                                      \
  12                 uint64_t cmd[sz];                                              \
  13                                                                                \
  14                 /* For TSO inner checksum is a must */                         \
  15                 if (((flags) & NIX_TX_OFFLOAD_TSO_F) &&                        \
  16                     !((flags) & NIX_TX_OFFLOAD_L3_L4_CSUM_F))                  \
  17                         return 0;                                              \
  18                 return cn9k_nix_xmit_pkts(tx_queue, tx_pkts, pkts, cmd, flags);\
  19         }
  20
  21 NIX_TX_FASTPATH_MODES
  22 #undef T
  23
  24 static inline void
  25 pick_tx_func(struct rte_eth_dev *eth_dev,
  26              const eth_tx_burst_t tx_burst[2][2][2][2][2])
  27 {
  28         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  29
  30         /* [TSO] [NOFF] [VLAN] [OL3_OL4_CSUM] [IL3_IL4_CSUM] */
  31         eth_dev->tx_pkt_burst = tx_burst
  32                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_TSO_F)]
  33                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_MBUF_NOFF_F)]
  34                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_VLAN_QINQ_F)]
  35                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_OL3_OL4_CSUM_F)]
  36                 [!!(dev->tx_offload_flags & NIX_TX_OFFLOAD_L3_L4_CSUM_F)];
  37 }
  38
  39 void
  40 cn9k_eth_set_tx_function(struct rte_eth_dev *eth_dev)
  41 {
  42         struct cnxk_eth_dev *dev = cnxk_eth_pmd_priv(eth_dev);
  43
  44         const eth_tx_burst_t nix_eth_tx_burst[2][2][2][2][2] = {
  45 #define T(name, f4, f3, f2, f1, f0, sz, flags)                                 \
  46         [f4][f3][f2][f1][f0] = cn9k_nix_xmit_pkts_##name,
  47
  48                 NIX_TX_FASTPATH_MODES
  49 #undef T
  50         };
  51
  52         const eth_tx_burst_t nix_eth_tx_burst_mseg[2][2][2][2][2] = {
  53 #define T(name, f4, f3, f2, f1, f0, sz, flags)                                 \
  54         [f4][f3][f2][f1][f0] = cn9k_nix_xmit_pkts_mseg_##name,
  55
  56                 NIX_TX_FASTPATH_MODES
  57 #undef T
  58         };
  59
  60         const eth_tx_burst_t nix_eth_tx_vec_burst[2][2][2][2][2] = {
  61 #define T(name, f4, f3, f2, f1, f0, sz, flags)                                 \
  62         [f4][f3][f2][f1][f0] = cn9k_nix_xmit_pkts_vec_##name,
  63
  64                 NIX_TX_FASTPATH_MODES
  65 #undef T
  66         };
  67
  68         if (dev->scalar_ena ||
  69             (dev->tx_offload_flags &
  70              (NIX_TX_OFFLOAD_VLAN_QINQ_F | NIX_TX_OFFLOAD_TSO_F)))
  71                 pick_tx_func(eth_dev, nix_eth_tx_burst);
  72         else
  73                 pick_tx_func(eth_dev, nix_eth_tx_vec_burst);
  74
  75         if (dev->tx_offloads & DEV_TX_OFFLOAD_MULTI_SEGS)
  76                 pick_tx_func(eth_dev, nix_eth_tx_burst_mseg);
  77
  78         rte_mb();
  79 }