drivers/net/iavf/iavf.h

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright(c) 2017 Intel Corporation
   3  */
   4
   5 #ifndef _IAVF_ETHDEV_H_
   6 #define _IAVF_ETHDEV_H_
   7
   8 #include <rte_kvargs.h>
   9 #include <iavf_prototype.h>
  10 #include <iavf_adminq_cmd.h>
  11 #include <iavf_type.h>
  12
  13 #include "iavf_log.h"
  14
  15 #define IAVF_AQ_LEN               32
  16 #define IAVF_AQ_BUF_SZ            4096
  17 #define IAVF_RESET_WAIT_CNT       50
  18 #define IAVF_BUF_SIZE_MIN         1024
  19 #define IAVF_FRAME_SIZE_MAX       9728
  20 #define IAVF_QUEUE_BASE_ADDR_UNIT 128
  21
  22 #define IAVF_MAX_NUM_QUEUES       16
  23
  24 #define IAVF_NUM_MACADDR_MAX      64
  25
  26 #define IAVF_DEFAULT_RX_PTHRESH      8
  27 #define IAVF_DEFAULT_RX_HTHRESH      8
  28 #define IAVF_DEFAULT_RX_WTHRESH      0
  29
  30 #define IAVF_DEFAULT_RX_FREE_THRESH  32
  31
  32 #define IAVF_DEFAULT_TX_PTHRESH      32
  33 #define IAVF_DEFAULT_TX_HTHRESH      0
  34 #define IAVF_DEFAULT_TX_WTHRESH      0
  35
  36 #define IAVF_DEFAULT_TX_FREE_THRESH  32
  37 #define IAVF_DEFAULT_TX_RS_THRESH 32
  38
  39 #define IAVF_BASIC_OFFLOAD_CAPS  ( \
  40         VF_BASE_MODE_OFFLOADS | \
  41         VIRTCHNL_VF_OFFLOAD_WB_ON_ITR | \
  42         VIRTCHNL_VF_OFFLOAD_RX_POLLING)
  43
  44 #define IAVF_RSS_OFFLOAD_ALL ( \
  45         ETH_RSS_FRAG_IPV4 |         \
  46         ETH_RSS_NONFRAG_IPV4_TCP |  \
  47         ETH_RSS_NONFRAG_IPV4_UDP |  \
  48         ETH_RSS_NONFRAG_IPV4_SCTP | \
  49         ETH_RSS_NONFRAG_IPV4_OTHER)
  50
  51 #define IAVF_MISC_VEC_ID                RTE_INTR_VEC_ZERO_OFFSET
  52 #define IAVF_RX_VEC_START               RTE_INTR_VEC_RXTX_OFFSET
  53
  54 /* Default queue interrupt throttling time in microseconds */
  55 #define IAVF_ITR_INDEX_DEFAULT          0
  56 #define IAVF_QUEUE_ITR_INTERVAL_DEFAULT 32 /* 32 us */
  57 #define IAVF_QUEUE_ITR_INTERVAL_MAX     8160 /* 8160 us */
  58
  59 /* The overhead from MTU to max frame size.
  60  * Considering QinQ packet, the VLAN tag needs to be counted twice.
  61  */
  62 #define IAVF_VLAN_TAG_SIZE               4
  63 #define IAVF_ETH_OVERHEAD \
  64         (RTE_ETHER_HDR_LEN + RTE_ETHER_CRC_LEN + IAVF_VLAN_TAG_SIZE * 2)
  65
  66 #define IAVF_32_BIT_WIDTH (CHAR_BIT * 4)
  67 #define IAVF_48_BIT_WIDTH (CHAR_BIT * 6)
  68 #define IAVF_48_BIT_MASK  RTE_LEN2MASK(IAVF_48_BIT_WIDTH, uint64_t)
  69
  70 #define IAVF_RX_DESC_EXT_STATUS_FLEXBH_MASK  0x03
  71 #define IAVF_RX_DESC_EXT_STATUS_FLEXBH_FD_ID 0x01
  72
  73 struct iavf_adapter;
  74 struct iavf_rx_queue;
  75 struct iavf_tx_queue;
  76
  77 /* Structure that defines a VSI, associated with a adapter. */
  78 struct iavf_vsi {
  79         struct iavf_adapter *adapter; /* Backreference to associated adapter */
  80         uint16_t vsi_id;
  81         uint16_t nb_qps;         /* Number of queue pairs VSI can occupy */
  82         uint16_t nb_used_qps;    /* Number of queue pairs VSI uses */
  83         uint16_t max_macaddrs;   /* Maximum number of MAC addresses */
  84         uint16_t base_vector;
  85         uint16_t msix_intr;      /* The MSIX interrupt binds to VSI */
  86         struct virtchnl_eth_stats eth_stats_offset;
  87 };
  88
  89 struct rte_flow;
  90 TAILQ_HEAD(iavf_flow_list, rte_flow);
  91
  92 struct iavf_flow_parser_node;
  93 TAILQ_HEAD(iavf_parser_list, iavf_flow_parser_node);
  94
  95 struct iavf_fdir_conf {
  96         struct virtchnl_fdir_add add_fltr;
  97         struct virtchnl_fdir_del del_fltr;
  98         uint64_t input_set;
  99         uint32_t flow_id;
 100         uint32_t mark_flag;
 101 };
 102
 103 struct iavf_fdir_info {
 104         struct iavf_fdir_conf conf;
 105 };
 106
 107 /* TODO: is that correct to assume the max number to be 16 ?*/
 108 #define IAVF_MAX_MSIX_VECTORS   16
 109
 110 /* Structure to store private data specific for VF instance. */
 111 struct iavf_info {
 112         uint16_t num_queue_pairs;
 113         uint16_t max_pkt_len; /* Maximum packet length */
 114         uint16_t mac_num;     /* Number of MAC addresses */
 115         bool promisc_unicast_enabled;
 116         bool promisc_multicast_enabled;
 117
 118         struct virtchnl_version_info virtchnl_version;
 119         struct virtchnl_vf_resource *vf_res; /* VF resource */
 120         struct virtchnl_vsi_resource *vsi_res; /* LAN VSI */
 121         uint64_t supported_rxdid;
 122
 123         volatile enum virtchnl_ops pend_cmd; /* pending command not finished */
 124         uint32_t cmd_retval; /* return value of the cmd response from PF */
 125         uint8_t *aq_resp; /* buffer to store the adminq response from PF */
 126
 127         /* Event from pf */
 128         bool dev_closed;
 129         bool link_up;
 130         uint32_t link_speed;
 131
 132         /* Multicast addrs */
 133         struct rte_ether_addr mc_addrs[IAVF_NUM_MACADDR_MAX];
 134         uint16_t mc_addrs_num;   /* Multicast mac addresses number */
 135
 136         struct iavf_vsi vsi;
 137         bool vf_reset;  /* true for VF reset pending, false for no VF reset */
 138         uint64_t flags;
 139
 140         uint8_t *rss_lut;
 141         uint8_t *rss_key;
 142         uint16_t nb_msix;   /* number of MSI-X interrupts on Rx */
 143         uint16_t msix_base; /* msix vector base from */
 144         /* queue bitmask for each vector */
 145         uint16_t rxq_map[IAVF_MAX_MSIX_VECTORS];
 146         struct iavf_flow_list flow_list;
 147         rte_spinlock_t flow_ops_lock;
 148         struct iavf_parser_list rss_parser_list;
 149         struct iavf_parser_list dist_parser_list;
 150
 151         struct iavf_fdir_info fdir; /* flow director info */
 152 };
 153
 154 #define IAVF_MAX_PKT_TYPE 1024
 155
 156 /* Structure to store private data for each VF instance. */
 157 struct iavf_adapter {
 158         struct iavf_hw hw;
 159         struct rte_eth_dev *eth_dev;
 160         struct iavf_info vf;
 161
 162         bool rx_bulk_alloc_allowed;
 163         /* For vector PMD */
 164         bool rx_vec_allowed;
 165         bool tx_vec_allowed;
 166         const uint32_t *ptype_tbl;
 167         bool stopped;
 168         uint16_t fdir_ref_cnt;
 169 };
 170
 171 /* IAVF_DEV_PRIVATE_TO */
 172 #define IAVF_DEV_PRIVATE_TO_ADAPTER(adapter) \
 173         ((struct iavf_adapter *)adapter)
 174 #define IAVF_DEV_PRIVATE_TO_VF(adapter) \
 175         (&((struct iavf_adapter *)adapter)->vf)
 176 #define IAVF_DEV_PRIVATE_TO_HW(adapter) \
 177         (&((struct iavf_adapter *)adapter)->hw)
 178
 179 /* IAVF_VSI_TO */
 180 #define IAVF_VSI_TO_HW(vsi) \
 181         (&(((struct iavf_vsi *)vsi)->adapter->hw))
 182 #define IAVF_VSI_TO_VF(vsi) \
 183         (&(((struct iavf_vsi *)vsi)->adapter->vf))
 184 #define IAVF_VSI_TO_ETH_DEV(vsi) \
 185         (((struct iavf_vsi *)vsi)->adapter->eth_dev)
 186
 187 static inline void
 188 iavf_init_adminq_parameter(struct iavf_hw *hw)
 189 {
 190         hw->aq.num_arq_entries = IAVF_AQ_LEN;
 191         hw->aq.num_asq_entries = IAVF_AQ_LEN;
 192         hw->aq.arq_buf_size = IAVF_AQ_BUF_SZ;
 193         hw->aq.asq_buf_size = IAVF_AQ_BUF_SZ;
 194 }
 195
 196 static inline uint16_t
 197 iavf_calc_itr_interval(int16_t interval)
 198 {
 199         if (interval < 0 || interval > IAVF_QUEUE_ITR_INTERVAL_MAX)
 200                 interval = IAVF_QUEUE_ITR_INTERVAL_DEFAULT;
 201
 202         /* Convert to hardware count, as writing each 1 represents 2 us */
 203         return interval / 2;
 204 }
 205
 206 /* structure used for sending and checking response of virtchnl ops */
 207 struct iavf_cmd_info {
 208         enum virtchnl_ops ops;
 209         uint8_t *in_args;       /* buffer for sending */
 210         uint32_t in_args_size;  /* buffer size for sending */
 211         uint8_t *out_buffer;    /* buffer for response */
 212         uint32_t out_size;      /* buffer size for response */
 213 };
 214
 215 /* notify current command done. Only call in case execute
 216  * _atomic_set_cmd successfully.
 217  */
 218 static inline void
 219 _notify_cmd(struct iavf_info *vf, uint32_t msg_ret)
 220 {
 221         vf->cmd_retval = msg_ret;
 222         rte_wmb();
 223         vf->pend_cmd = VIRTCHNL_OP_UNKNOWN;
 224 }
 225
 226 /* clear current command. Only call in case execute
 227  * _atomic_set_cmd successfully.
 228  */
 229 static inline void
 230 _clear_cmd(struct iavf_info *vf)
 231 {
 232         rte_wmb();
 233         vf->pend_cmd = VIRTCHNL_OP_UNKNOWN;
 234         vf->cmd_retval = VIRTCHNL_STATUS_SUCCESS;
 235 }
 236
 237 /* Check there is pending cmd in execution. If none, set new command. */
 238 static inline int
 239 _atomic_set_cmd(struct iavf_info *vf, enum virtchnl_ops ops)
 240 {
 241         int ret = rte_atomic32_cmpset(&vf->pend_cmd, VIRTCHNL_OP_UNKNOWN, ops);
 242
 243         if (!ret)
 244                 PMD_DRV_LOG(ERR, "There is incomplete cmd %d", vf->pend_cmd);
 245
 246         return !ret;
 247 }
 248
 249 int iavf_check_api_version(struct iavf_adapter *adapter);
 250 int iavf_get_vf_resource(struct iavf_adapter *adapter);
 251 void iavf_handle_virtchnl_msg(struct rte_eth_dev *dev);
 252 int iavf_enable_vlan_strip(struct iavf_adapter *adapter);
 253 int iavf_disable_vlan_strip(struct iavf_adapter *adapter);
 254 int iavf_switch_queue(struct iavf_adapter *adapter, uint16_t qid,
 255                      bool rx, bool on);
 256 int iavf_enable_queues(struct iavf_adapter *adapter);
 257 int iavf_disable_queues(struct iavf_adapter *adapter);
 258 int iavf_configure_rss_lut(struct iavf_adapter *adapter);
 259 int iavf_configure_rss_key(struct iavf_adapter *adapter);
 260 int iavf_configure_queues(struct iavf_adapter *adapter);
 261 int iavf_get_supported_rxdid(struct iavf_adapter *adapter);
 262 int iavf_config_irq_map(struct iavf_adapter *adapter);
 263 void iavf_add_del_all_mac_addr(struct iavf_adapter *adapter, bool add);
 264 int iavf_dev_link_update(struct rte_eth_dev *dev,
 265                         __rte_unused int wait_to_complete);
 266 int iavf_query_stats(struct iavf_adapter *adapter,
 267                     struct virtchnl_eth_stats **pstats);
 268 int iavf_config_promisc(struct iavf_adapter *adapter, bool enable_unicast,
 269                        bool enable_multicast);
 270 int iavf_add_del_eth_addr(struct iavf_adapter *adapter,
 271                          struct rte_ether_addr *addr, bool add);
 272 int iavf_add_del_vlan(struct iavf_adapter *adapter, uint16_t vlanid, bool add);
 273 int iavf_fdir_add(struct iavf_adapter *adapter, struct iavf_fdir_conf *filter);
 274 int iavf_fdir_del(struct iavf_adapter *adapter, struct iavf_fdir_conf *filter);
 275 int iavf_fdir_check(struct iavf_adapter *adapter,
 276                 struct iavf_fdir_conf *filter);
 277 int iavf_add_del_rss_cfg(struct iavf_adapter *adapter,
 278                          struct virtchnl_rss_cfg *rss_cfg, bool add);
 279 int iavf_add_del_mc_addr_list(struct iavf_adapter *adapter,
 280                         struct rte_ether_addr *mc_addrs,
 281                         uint32_t mc_addrs_num, bool add);
 282 #endif /* _IAVF_ETHDEV_H_ */