common/cnxk: use computed value for WQE skip
[dpdk.git] / drivers / net / mlx5 / mlx5.h
index f0edf7f..ef755ee 100644 (file)
@@ -64,7 +64,9 @@ enum mlx5_ipool_index {
        MLX5_IPOOL_PUSH_VLAN, /* Pool for push vlan resource. */
        MLX5_IPOOL_TAG, /* Pool for tag resource. */
        MLX5_IPOOL_PORT_ID, /* Pool for port id resource. */
-       MLX5_IPOOL_JUMP, /* Pool for jump resource. */
+       MLX5_IPOOL_JUMP, /* Pool for SWS jump resource. */
+       /* Pool for HWS group. Jump action will be created internally. */
+       MLX5_IPOOL_HW_GRP = MLX5_IPOOL_JUMP,
        MLX5_IPOOL_SAMPLE, /* Pool for sample resource. */
        MLX5_IPOOL_DEST_ARRAY, /* Pool for destination array resource. */
        MLX5_IPOOL_TUNNEL_ID, /* Pool for tunnel offload context */
@@ -108,6 +110,13 @@ enum mlx5_delay_drop_mode {
        MLX5_DELAY_DROP_HAIRPIN = RTE_BIT32(1), /* Hairpin queues enable. */
 };
 
+/* The HWS action type root/non-root. */
+enum mlx5_hw_action_flag_type {
+       MLX5_HW_ACTION_FLAG_ROOT, /* Root action. */
+       MLX5_HW_ACTION_FLAG_NONE_ROOT, /* Non-root ation. */
+       MLX5_HW_ACTION_FLAG_MAX, /* Maximum action flag. */
+};
+
 /* Hlist and list callback context. */
 struct mlx5_flow_cb_ctx {
        struct rte_eth_dev *dev;
@@ -331,8 +340,9 @@ enum {
 /* HW steering flow management job descriptor. */
 struct mlx5_hw_q_job {
        uint32_t type; /* Job type. */
-       struct rte_flow *flow; /* Flow attached to the job. */
+       struct rte_flow_hw *flow; /* Flow attached to the job. */
        void *user_data; /* Job user data. */
+       uint8_t *encap_data; /* Encap data. */
 };
 
 /* HW steering job descriptor LIFO pool. */
@@ -627,6 +637,7 @@ struct mlx5_age_info {
 struct mlx5_dev_shared_port {
        uint32_t ih_port_id;
        uint32_t devx_ih_port_id;
+       uint32_t nl_ih_port_id;
        /*
         * Interrupt handler port_id. Used by shared interrupt
         * handler to find the corresponding rte_eth device
@@ -768,6 +779,8 @@ struct mlx5_flow_meter_policy {
        /* If yellow color policy is skipped. */
        uint32_t skip_g:1;
        /* If green color policy is skipped. */
+       uint32_t mark:1;
+       /* If policy contains mark action. */
        rte_spinlock_t sl;
        uint32_t ref_cnt;
        /* Use count. */
@@ -846,6 +859,8 @@ struct mlx5_flow_meter_info {
        uint32_t transfer:1;
        uint32_t def_policy:1;
        /* Meter points to default policy. */
+       uint32_t color_aware:1;
+       /* Meter is color aware mode. */
        void *drop_rule[MLX5_MTR_DOMAIN_MAX];
        /* Meter drop rule in drop table. */
        uint32_t drop_cnt;
@@ -854,8 +869,10 @@ struct mlx5_flow_meter_info {
        /**< Use count. */
        struct mlx5_indexed_pool *flow_ipool;
        /**< Index pool for flow id. */
-       void *meter_action;
+       void *meter_action_g;
        /**< Flow meter action. */
+       void *meter_action_y;
+       /**< Flow meter action for yellow init_color. */
 };
 
 /* PPS(packets per second) map to BPS(Bytes per second).
@@ -982,7 +999,6 @@ union mlx5_flow_tbl_key {
 /* Table structure. */
 struct mlx5_flow_tbl_resource {
        void *obj; /**< Pointer to DR table object. */
-       uint32_t refcnt; /**< Reference counter. */
 };
 
 #define MLX5_MAX_TABLES UINT16_MAX
@@ -1176,6 +1192,7 @@ struct mlx5_dev_ctx_shared {
        uint32_t meter_aso_en:1; /* Flow Meter ASO is supported. */
        uint32_t ct_aso_en:1; /* Connection Tracking ASO is supported. */
        uint32_t tunnel_header_0_1:1; /* tunnel_header_0_1 is supported. */
+       uint32_t tunnel_header_2_3:1; /* tunnel_header_2_3 is supported. */
        uint32_t misc5_cap:1; /* misc5 matcher parameter is supported. */
        uint32_t dr_drop_action_en:1; /* Use DR drop action. */
        uint32_t drop_action_check_flag:1; /* Check Flag for drop action. */
@@ -1204,7 +1221,10 @@ struct mlx5_dev_ctx_shared {
        rte_spinlock_t uar_lock[MLX5_UAR_PAGE_NUM_MAX];
        /* UAR same-page access control required in 32bit implementations. */
 #endif
-       struct mlx5_hlist *flow_tbls;
+       union {
+               struct mlx5_hlist *flow_tbls; /* SWS flow table. */
+               struct mlx5_hlist *groups; /* HWS flow group. */
+       };
        struct mlx5_flow_tunnel_hub *tunnel_hub;
        /* Direct Rules tables for FDB, NIC TX+RX */
        void *dr_drop_action; /* Pointer to DR drop action, any domain. */
@@ -1225,6 +1245,7 @@ struct mlx5_dev_ctx_shared {
        /* Shared interrupt handler section. */
        struct rte_intr_handle *intr_handle; /* Interrupt handler for device. */
        struct rte_intr_handle *intr_handle_devx; /* DEVX interrupt handler. */
+       struct rte_intr_handle *intr_handle_nl; /* Netlink interrupt handler. */
        void *devx_comp; /* DEVX async comp obj. */
        struct mlx5_devx_obj *tis[16]; /* TIS object. */
        struct mlx5_devx_obj *td; /* Transport domain. */
@@ -1275,6 +1296,7 @@ struct mlx5_flow_rss_desc {
        uint64_t hash_fields; /* Verbs Hash fields. */
        uint8_t key[MLX5_RSS_HASH_KEY_LEN]; /**< RSS hash key. */
        uint32_t key_len; /**< RSS hash key len. */
+       uint32_t hws_flags; /**< HW steering action. */
        uint32_t tunnel; /**< Queue in tunnel. */
        uint32_t shared_rss; /**< Shared RSS index. */
        struct mlx5_ind_table_obj *ind_tbl;
@@ -1336,6 +1358,7 @@ struct mlx5_hrxq {
 #if defined(HAVE_IBV_FLOW_DV_SUPPORT) || !defined(HAVE_INFINIBAND_VERBS_H)
        void *action; /* DV QP action pointer. */
 #endif
+       uint32_t hws_flags; /* Hw steering flags. */
        uint64_t hash_fields; /* Verbs Hash fields. */
        uint32_t rss_key_len; /* Hash key length in bytes. */
        uint32_t idx; /* Hash Rx queue index. */
@@ -1446,6 +1469,7 @@ struct mlx5_priv {
        /* RX/TX queues. */
        unsigned int rxqs_n; /* RX queues array size. */
        unsigned int txqs_n; /* TX queues array size. */
+       struct mlx5_external_rxq *ext_rxqs; /* External RX queues array. */
        struct mlx5_rxq_priv *(*rxq_privs)[]; /* RX queue non-shared data. */
        struct mlx5_txq_data *(*txqs)[]; /* TX queues. */
        struct rte_mempool *mprq_mp; /* Mempool for Multi-Packet RQ. */
@@ -1466,6 +1490,8 @@ struct mlx5_priv {
        LIST_HEAD(txqobj, mlx5_txq_obj) txqsobj; /* Verbs/DevX Tx queues. */
        /* Indirection tables. */
        LIST_HEAD(ind_tables, mlx5_ind_table_obj) ind_tbls;
+       /* Standalone indirect tables. */
+       LIST_HEAD(stdl_ind_tables, mlx5_ind_table_obj) standalone_ind_tbls;
        /* Pointer to next element. */
        rte_rwlock_t ind_tbls_lock;
        uint32_t refcnt; /**< Reference counter. */
@@ -1502,10 +1528,22 @@ struct mlx5_priv {
        /* Flex items have been created on the port. */
        uint32_t flex_item_map; /* Map of allocated flex item elements. */
 #if defined(HAVE_IBV_FLOW_DV_SUPPORT) || !defined(HAVE_INFINIBAND_VERBS_H)
+       /* Item template list. */
+       LIST_HEAD(flow_hw_itt, rte_flow_pattern_template) flow_hw_itt;
+       /* Action template list. */
+       LIST_HEAD(flow_hw_at, rte_flow_actions_template) flow_hw_at;
        struct mlx5dr_context *dr_ctx; /**< HW steering DR context. */
        uint32_t nb_queue; /* HW steering queue number. */
        /* HW steering queue polling mechanism job descriptor LIFO. */
        struct mlx5_hw_q *hw_q;
+       /* HW steering rte flow table list header. */
+       LIST_HEAD(flow_hw_tbl, rte_flow_template_table) flow_hw_tbl;
+       /* HW steering global drop action. */
+       struct mlx5dr_action *hw_drop[MLX5_HW_ACTION_FLAG_MAX]
+                                    [MLX5DR_TABLE_TYPE_MAX];
+       /* HW steering global drop action. */
+       struct mlx5dr_action *hw_tag[MLX5_HW_ACTION_FLAG_MAX];
+       struct mlx5_indexed_pool *acts_ipool; /* Action data indexed pool. */
 #endif
 };
 
@@ -1635,6 +1673,7 @@ int mlx5_dev_set_flow_ctrl(struct rte_eth_dev *dev,
                           struct rte_eth_fc_conf *fc_conf);
 void mlx5_dev_interrupt_handler(void *arg);
 void mlx5_dev_interrupt_handler_devx(void *arg);
+void mlx5_dev_interrupt_handler_nl(void *arg);
 int mlx5_set_link_down(struct rte_eth_dev *dev);
 int mlx5_set_link_up(struct rte_eth_dev *dev);
 int mlx5_is_removed(struct rte_eth_dev *dev);
@@ -1836,6 +1875,10 @@ struct mlx5_flow_meter_policy *mlx5_flow_meter_policy_find
                (struct rte_eth_dev *dev,
                uint32_t policy_id,
                uint32_t *policy_idx);
+struct mlx5_flow_meter_info *
+mlx5_flow_meter_hierarchy_next_meter(struct mlx5_priv *priv,
+                                    struct mlx5_flow_meter_policy *policy,
+                                    uint32_t *mtr_idx);
 struct mlx5_flow_meter_policy *
 mlx5_flow_meter_hierarchy_get_final_policy(struct rte_eth_dev *dev,
                                        struct mlx5_flow_meter_policy *policy);