net/mlx5: add metadata support to Rx datapath
[dpdk.git] / drivers / net / mlx5 / mlx5_prm.h
index d62837e..a0c37c8 100644 (file)
 /* Default mark value used when none is provided. */
 #define MLX5_FLOW_MARK_DEFAULT 0xffffff
 
+/* Default mark mask for metadata legacy mode. */
+#define MLX5_FLOW_MARK_MASK 0xffffff
+
 /* Maximum number of DS in WQE. Limited by 6-bit field. */
 #define MLX5_DSEG_MAX 63
 
@@ -354,12 +357,14 @@ struct mlx5_cqe {
        uint16_t hdr_type_etc;
        uint16_t vlan_info;
        uint8_t lro_num_seg;
-       uint8_t rsvd3[11];
+       uint8_t rsvd3[3];
+       uint32_t flow_table_metadata;
+       uint8_t rsvd4[4];
        uint32_t byte_cnt;
        uint64_t timestamp;
        uint32_t sop_drop_qpn;
        uint16_t wqe_counter;
-       uint8_t rsvd4;
+       uint8_t rsvd5;
        uint8_t op_own;
 };
 
@@ -383,14 +388,16 @@ struct mlx5_cqe {
 /* CQE format value. */
 #define MLX5_COMPRESSED 0x3
 
-/* Write a specific data value to a field. */
-#define MLX5_MODIFICATION_TYPE_SET 1
-
-/* Add a specific data value to a field. */
-#define MLX5_MODIFICATION_TYPE_ADD 2
+/* Action type of header modification. */
+enum {
+       MLX5_MODIFICATION_TYPE_SET = 0x1,
+       MLX5_MODIFICATION_TYPE_ADD = 0x2,
+       MLX5_MODIFICATION_TYPE_COPY = 0x3,
+};
 
 /* The field of packet to be modified. */
 enum mlx5_modification_field {
+       MLX5_MODI_OUT_NONE = -1,
        MLX5_MODI_OUT_SMAC_47_16 = 1,
        MLX5_MODI_OUT_SMAC_15_0,
        MLX5_MODI_OUT_ETHERTYPE,
@@ -413,6 +420,7 @@ enum mlx5_modification_field {
        MLX5_MODI_OUT_DIPV6_31_0,
        MLX5_MODI_OUT_SIPV4,
        MLX5_MODI_OUT_DIPV4,
+       MLX5_MODI_OUT_FIRST_VID,
        MLX5_MODI_IN_SMAC_47_16 = 0x31,
        MLX5_MODI_IN_SMAC_15_0,
        MLX5_MODI_IN_ETHERTYPE,
@@ -453,6 +461,23 @@ enum mlx5_modification_field {
        MLX5_MODI_IN_TCP_ACK_NUM = 0x5C,
 };
 
+/* Total number of metadata reg_c's. */
+#define MLX5_MREG_C_NUM (MLX5_MODI_META_REG_C_7 - MLX5_MODI_META_REG_C_0 + 1)
+
+enum modify_reg {
+       REG_NONE = 0,
+       REG_A,
+       REG_B,
+       REG_C_0,
+       REG_C_1,
+       REG_C_2,
+       REG_C_3,
+       REG_C_4,
+       REG_C_5,
+       REG_C_6,
+       REG_C_7,
+};
+
 /* Modification sub command. */
 struct mlx5_modification_cmd {
        union {
@@ -469,6 +494,13 @@ struct mlx5_modification_cmd {
        union {
                uint32_t data1;
                uint8_t data[4];
+               struct {
+                       unsigned int rsvd2:8;
+                       unsigned int dst_offset:5;
+                       unsigned int rsvd3:3;
+                       unsigned int dst_field:12;
+                       unsigned int rsvd4:4;
+               };
        };
 };
 
@@ -552,12 +584,17 @@ struct mlx5_ifc_fte_match_set_misc_bits {
        u8 gre_key_l[0x8];
        u8 vxlan_vni[0x18];
        u8 reserved_at_b8[0x8];
-       u8 reserved_at_c0[0x20];
+       u8 geneve_vni[0x18];
+       u8 reserved_at_e4[0x7];
+       u8 geneve_oam[0x1];
        u8 reserved_at_e0[0xc];
        u8 outer_ipv6_flow_label[0x14];
        u8 reserved_at_100[0xc];
        u8 inner_ipv6_flow_label[0x14];
-       u8 reserved_at_120[0xe0];
+       u8 reserved_at_120[0xa];
+       u8 geneve_opt_len[0x6];
+       u8 geneve_protocol_type[0x10];
+       u8 reserved_at_140[0xc0];
 };
 
 struct mlx5_ifc_ipv4_layout_bits {
@@ -613,9 +650,17 @@ struct mlx5_ifc_fte_match_set_misc2_bits {
        struct mlx5_ifc_fte_match_mpls_bits inner_first_mpls;
        struct mlx5_ifc_fte_match_mpls_bits outer_first_mpls_over_gre;
        struct mlx5_ifc_fte_match_mpls_bits outer_first_mpls_over_udp;
-       u8 reserved_at_80[0x100];
+       u8 metadata_reg_c_7[0x20];
+       u8 metadata_reg_c_6[0x20];
+       u8 metadata_reg_c_5[0x20];
+       u8 metadata_reg_c_4[0x20];
+       u8 metadata_reg_c_3[0x20];
+       u8 metadata_reg_c_2[0x20];
+       u8 metadata_reg_c_1[0x20];
+       u8 metadata_reg_c_0[0x20];
        u8 metadata_reg_a[0x20];
-       u8 reserved_at_1a0[0x60];
+       u8 metadata_reg_b[0x20];
+       u8 reserved_at_1c0[0x40];
 };
 
 struct mlx5_ifc_fte_match_set_misc3_bits {
@@ -658,9 +703,13 @@ enum {
        MLX5_CMD_OP_QUERY_HCA_CAP = 0x100,
        MLX5_CMD_OP_CREATE_MKEY = 0x200,
        MLX5_CMD_OP_QUERY_NIC_VPORT_CONTEXT = 0x754,
+       MLX5_CMD_OP_ALLOC_TRANSPORT_DOMAIN = 0x816,
        MLX5_CMD_OP_CREATE_TIR = 0x900,
+       MLX5_CMD_OP_CREATE_SQ = 0X904,
+       MLX5_CMD_OP_MODIFY_SQ = 0X905,
        MLX5_CMD_OP_CREATE_RQ = 0x908,
        MLX5_CMD_OP_MODIFY_RQ = 0x909,
+       MLX5_CMD_OP_CREATE_TIS = 0x912,
        MLX5_CMD_OP_QUERY_TIS = 0x915,
        MLX5_CMD_OP_CREATE_RQT = 0x916,
        MLX5_CMD_OP_ALLOC_FLOW_COUNTER = 0x939,
@@ -848,6 +897,18 @@ enum {
        MLX5_INLINE_MODE_INNER_TCP_UDP,
 };
 
+/* HCA bit masks indicating which Flex parser protocols are already enabled. */
+#define MLX5_HCA_FLEX_IPV4_OVER_VXLAN_ENABLED (1UL << 0)
+#define MLX5_HCA_FLEX_IPV6_OVER_VXLAN_ENABLED (1UL << 1)
+#define MLX5_HCA_FLEX_IPV6_OVER_IP_ENABLED (1UL << 2)
+#define MLX5_HCA_FLEX_GENEVE_ENABLED (1UL << 3)
+#define MLX5_HCA_FLEX_CW_MPLS_OVER_GRE_ENABLED (1UL << 4)
+#define MLX5_HCA_FLEX_CW_MPLS_OVER_UDP_ENABLED (1UL << 5)
+#define MLX5_HCA_FLEX_P_BIT_VXLAN_GPE_ENABLED (1UL << 6)
+#define MLX5_HCA_FLEX_VXLAN_GPE_ENABLED (1UL << 7)
+#define MLX5_HCA_FLEX_ICMP_ENABLED (1UL << 8)
+#define MLX5_HCA_FLEX_ICMPV6_ENABLED (1UL << 9)
+
 struct mlx5_ifc_cmd_hca_cap_bits {
        u8 reserved_at_0[0x30];
        u8 vhca_id[0x10];
@@ -1303,6 +1364,23 @@ struct mlx5_ifc_query_tis_in_bits {
        u8 reserved_at_60[0x20];
 };
 
+struct mlx5_ifc_alloc_transport_domain_out_bits {
+       u8 status[0x8];
+       u8 reserved_at_8[0x18];
+       u8 syndrome[0x20];
+       u8 reserved_at_40[0x8];
+       u8 transport_domain[0x18];
+       u8 reserved_at_60[0x20];
+};
+
+struct mlx5_ifc_alloc_transport_domain_in_bits {
+       u8 opcode[0x10];
+       u8 reserved_at_10[0x10];
+       u8 reserved_at_20[0x10];
+       u8 op_mod[0x10];
+       u8 reserved_at_40[0x40];
+};
+
 enum {
        MLX5_WQ_TYPE_LINKED_LIST                = 0x0,
        MLX5_WQ_TYPE_CYCLIC                     = 0x1,
@@ -1419,6 +1497,24 @@ struct mlx5_ifc_modify_rq_out_bits {
        u8 reserved_at_40[0x40];
 };
 
+struct mlx5_ifc_create_tis_out_bits {
+       u8 status[0x8];
+       u8 reserved_at_8[0x18];
+       u8 syndrome[0x20];
+       u8 reserved_at_40[0x8];
+       u8 tisn[0x18];
+       u8 reserved_at_60[0x20];
+};
+
+struct mlx5_ifc_create_tis_in_bits {
+       u8 opcode[0x10];
+       u8 uid[0x10];
+       u8 reserved_at_20[0x10];
+       u8 op_mod[0x10];
+       u8 reserved_at_40[0xc0];
+       struct mlx5_ifc_tisc_bits ctx;
+};
+
 enum {
        MLX5_MODIFY_RQ_IN_MODIFY_BITMASK_WQ_LWM = 1ULL << 0,
        MLX5_MODIFY_RQ_IN_MODIFY_BITMASK_VSD = 1ULL << 1,
@@ -1564,6 +1660,91 @@ struct mlx5_ifc_create_rqt_in_bits {
 #pragma GCC diagnostic error "-Wpedantic"
 #endif
 
+enum {
+       MLX5_SQC_STATE_RST  = 0x0,
+       MLX5_SQC_STATE_RDY  = 0x1,
+       MLX5_SQC_STATE_ERR  = 0x3,
+};
+
+struct mlx5_ifc_sqc_bits {
+       u8 rlky[0x1];
+       u8 cd_master[0x1];
+       u8 fre[0x1];
+       u8 flush_in_error_en[0x1];
+       u8 allow_multi_pkt_send_wqe[0x1];
+       u8 min_wqe_inline_mode[0x3];
+       u8 state[0x4];
+       u8 reg_umr[0x1];
+       u8 allow_swp[0x1];
+       u8 hairpin[0x1];
+       u8 reserved_at_f[0x11];
+       u8 reserved_at_20[0x8];
+       u8 user_index[0x18];
+       u8 reserved_at_40[0x8];
+       u8 cqn[0x18];
+       u8 reserved_at_60[0x8];
+       u8 hairpin_peer_rq[0x18];
+       u8 reserved_at_80[0x10];
+       u8 hairpin_peer_vhca[0x10];
+       u8 reserved_at_a0[0x50];
+       u8 packet_pacing_rate_limit_index[0x10];
+       u8 tis_lst_sz[0x10];
+       u8 reserved_at_110[0x10];
+       u8 reserved_at_120[0x40];
+       u8 reserved_at_160[0x8];
+       u8 tis_num_0[0x18];
+       struct mlx5_ifc_wq_bits wq;
+};
+
+struct mlx5_ifc_query_sq_in_bits {
+       u8 opcode[0x10];
+       u8 reserved_at_10[0x10];
+       u8 reserved_at_20[0x10];
+       u8 op_mod[0x10];
+       u8 reserved_at_40[0x8];
+       u8 sqn[0x18];
+       u8 reserved_at_60[0x20];
+};
+
+struct mlx5_ifc_modify_sq_out_bits {
+       u8 status[0x8];
+       u8 reserved_at_8[0x18];
+       u8 syndrome[0x20];
+       u8 reserved_at_40[0x40];
+};
+
+struct mlx5_ifc_modify_sq_in_bits {
+       u8 opcode[0x10];
+       u8 uid[0x10];
+       u8 reserved_at_20[0x10];
+       u8 op_mod[0x10];
+       u8 sq_state[0x4];
+       u8 reserved_at_44[0x4];
+       u8 sqn[0x18];
+       u8 reserved_at_60[0x20];
+       u8 modify_bitmask[0x40];
+       u8 reserved_at_c0[0x40];
+       struct mlx5_ifc_sqc_bits ctx;
+};
+
+struct mlx5_ifc_create_sq_out_bits {
+       u8 status[0x8];
+       u8 reserved_at_8[0x18];
+       u8 syndrome[0x20];
+       u8 reserved_at_40[0x8];
+       u8 sqn[0x18];
+       u8 reserved_at_60[0x20];
+};
+
+struct mlx5_ifc_create_sq_in_bits {
+       u8 opcode[0x10];
+       u8 uid[0x10];
+       u8 reserved_at_20[0x10];
+       u8 op_mod[0x10];
+       u8 reserved_at_40[0xc0];
+       struct mlx5_ifc_sqc_bits ctx;
+};
+
 /* CQE format mask. */
 #define MLX5E_CQE_FORMAT_MASK 0xc