net/ice/base: add hook to send AdminQ command
[dpdk.git] / drivers / net / bnxt / hsi_struct_def_dpdk.h
index e10645b..e5fd5d1 100644 (file)
@@ -1,5 +1,5 @@
 /* SPDX-License-Identifier: BSD-3-Clause
- * Copyright (c) 2014-2019 Broadcom Limited
+ * Copyright (c) 2014-2019 Broadcom Inc.
  * All rights reserved.
  *
  * DO NOT MODIFY!!! This file is automatically generated.
@@ -27,7 +27,8 @@ struct hwrm_cmd_hdr {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -38,7 +39,7 @@ struct hwrm_cmd_hdr {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* This is the HWRM response header. */
 /* hwrm_resp_hdr (size:64b/8B) */
@@ -51,7 +52,7 @@ struct hwrm_resp_hdr {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
-} __attribute__((packed));
+} __rte_packed;
 
 /*
  * TLV encapsulated message. Use the TLV type field of the
@@ -71,24 +72,26 @@ struct hwrm_resp_hdr {
 #define TLV_TYPE_QUERY_ROCE_CC_GEN1              UINT32_C(0x4)
 /* RoCE slow path command to modify CC Gen1 support. */
 #define TLV_TYPE_MODIFY_ROCE_CC_GEN1             UINT32_C(0x5)
-/* Engine CKV - The device's serial number. */
-#define TLV_TYPE_ENGINE_CKV_DEVICE_SERIAL_NUMBER UINT32_C(0x8001)
-/* Engine CKV - Per-function random nonce data. */
-#define TLV_TYPE_ENGINE_CKV_NONCE                UINT32_C(0x8002)
+/* Engine CKV - The Alias key EC curve and ECC public key information. */
+#define TLV_TYPE_ENGINE_CKV_ALIAS_ECC_PUBLIC_KEY UINT32_C(0x8001)
 /* Engine CKV - Initialization vector. */
 #define TLV_TYPE_ENGINE_CKV_IV                   UINT32_C(0x8003)
 /* Engine CKV - Authentication tag. */
 #define TLV_TYPE_ENGINE_CKV_AUTH_TAG             UINT32_C(0x8004)
 /* Engine CKV - The encrypted data. */
 #define TLV_TYPE_ENGINE_CKV_CIPHERTEXT           UINT32_C(0x8005)
-/* Engine CKV - Supported algorithms. */
-#define TLV_TYPE_ENGINE_CKV_ALGORITHMS           UINT32_C(0x8006)
-/* Engine CKV - The EC curve name and ECC public key information. */
-#define TLV_TYPE_ENGINE_CKV_ECC_PUBLIC_KEY       UINT32_C(0x8007)
+/* Engine CKV - Supported host_algorithms. */
+#define TLV_TYPE_ENGINE_CKV_HOST_ALGORITHMS      UINT32_C(0x8006)
+/* Engine CKV - The Host EC curve name and ECC public key information. */
+#define TLV_TYPE_ENGINE_CKV_HOST_ECC_PUBLIC_KEY  UINT32_C(0x8007)
 /* Engine CKV - The ECDSA signature. */
 #define TLV_TYPE_ENGINE_CKV_ECDSA_SIGNATURE      UINT32_C(0x8008)
+/* Engine CKV - The firmware EC curve name and ECC public key information. */
+#define TLV_TYPE_ENGINE_CKV_FW_ECC_PUBLIC_KEY    UINT32_C(0x8009)
+/* Engine CKV - Supported firmware algorithms. */
+#define TLV_TYPE_ENGINE_CKV_FW_ALGORITHMS        UINT32_C(0x800a)
 #define TLV_TYPE_LAST \
-       TLV_TYPE_ENGINE_CKV_ECDSA_SIGNATURE
+       TLV_TYPE_ENGINE_CKV_FW_ALGORITHMS
 
 
 /* tlv (size:64b/8B) */
@@ -144,7 +147,7 @@ struct tlv {
         * and it must be an integer multiple of 8B.
         */
        uint16_t        length;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Input */
 /* input (size:128b/16B) */
@@ -177,7 +180,7 @@ struct input {
         * and must be cleared to zero before the request is made.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Output */
 /* output (size:64b/8B) */
@@ -200,7 +203,7 @@ struct output {
         * memory.
         */
        uint16_t        resp_len;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Short Command Structure */
 /* hwrm_short_input (size:128b/16B) */
@@ -221,8 +224,14 @@ struct hwrm_short_input {
        #define HWRM_SHORT_INPUT_SIGNATURE_SHORT_CMD UINT32_C(0x4321)
        #define HWRM_SHORT_INPUT_SIGNATURE_LAST \
                HWRM_SHORT_INPUT_SIGNATURE_SHORT_CMD
-       /* Reserved for future use. */
-       uint16_t        unused_0;
+       /* The target ID of the command */
+       uint16_t        target_id;
+       /* Default target_id (0x0) to maintain compatibility with old driver */
+       #define HWRM_SHORT_INPUT_TARGET_ID_DEFAULT UINT32_C(0x0)
+       /* Reserved for user-space HWRM interface */
+       #define HWRM_SHORT_INPUT_TARGET_ID_TOOLS   UINT32_C(0xfffd)
+       #define HWRM_SHORT_INPUT_TARGET_ID_LAST \
+               HWRM_SHORT_INPUT_TARGET_ID_TOOLS
        /* This value indicates the length of the request. */
        uint16_t        size;
        /*
@@ -230,7 +239,7 @@ struct hwrm_short_input {
         * This area must be 16B aligned.
         */
        uint64_t        req_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /*
  * Command numbering
@@ -312,11 +321,8 @@ struct cmd_nums {
        #define HWRM_QUEUE_PRI2COS_CFG                    UINT32_C(0x38)
        #define HWRM_QUEUE_COS2BW_QCFG                    UINT32_C(0x39)
        #define HWRM_QUEUE_COS2BW_CFG                     UINT32_C(0x3a)
-       /* Experimental */
        #define HWRM_QUEUE_DSCP_QCAPS                     UINT32_C(0x3b)
-       /* Experimental */
        #define HWRM_QUEUE_DSCP2PRI_QCFG                  UINT32_C(0x3c)
-       /* Experimental */
        #define HWRM_QUEUE_DSCP2PRI_CFG                   UINT32_C(0x3d)
        #define HWRM_VNIC_ALLOC                           UINT32_C(0x40)
        #define HWRM_VNIC_FREE                            UINT32_C(0x41)
@@ -344,6 +350,9 @@ struct cmd_nums {
        #define HWRM_RESERVED6                            UINT32_C(0x65)
        #define HWRM_VNIC_RSS_COS_LB_CTX_ALLOC            UINT32_C(0x70)
        #define HWRM_VNIC_RSS_COS_LB_CTX_FREE             UINT32_C(0x71)
+       #define HWRM_QUEUE_MPLS_QCAPS                     UINT32_C(0x80)
+       #define HWRM_QUEUE_MPLSTC2PRI_QCFG                UINT32_C(0x81)
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG                 UINT32_C(0x82)
        #define HWRM_CFA_L2_FILTER_ALLOC                  UINT32_C(0x90)
        #define HWRM_CFA_L2_FILTER_FREE                   UINT32_C(0x91)
        #define HWRM_CFA_L2_FILTER_CFG                    UINT32_C(0x92)
@@ -375,10 +384,16 @@ struct cmd_nums {
        #define HWRM_PORT_QSTATS_EXT                      UINT32_C(0xb4)
        #define HWRM_PORT_PHY_MDIO_WRITE                  UINT32_C(0xb5)
        #define HWRM_PORT_PHY_MDIO_READ                   UINT32_C(0xb6)
+       #define HWRM_PORT_PHY_MDIO_BUS_ACQUIRE            UINT32_C(0xb7)
+       #define HWRM_PORT_PHY_MDIO_BUS_RELEASE            UINT32_C(0xb8)
        #define HWRM_FW_RESET                             UINT32_C(0xc0)
        #define HWRM_FW_QSTATUS                           UINT32_C(0xc1)
        #define HWRM_FW_HEALTH_CHECK                      UINT32_C(0xc2)
        #define HWRM_FW_SYNC                              UINT32_C(0xc3)
+       #define HWRM_FW_STATE_QCAPS                       UINT32_C(0xc4)
+       #define HWRM_FW_STATE_QUIESCE                     UINT32_C(0xc5)
+       #define HWRM_FW_STATE_BACKUP                      UINT32_C(0xc6)
+       #define HWRM_FW_STATE_RESTORE                     UINT32_C(0xc7)
        /* Experimental */
        #define HWRM_FW_SET_TIME                          UINT32_C(0xc8)
        /* Experimental */
@@ -394,7 +409,16 @@ struct cmd_nums {
        #define HWRM_FWD_RESP                             UINT32_C(0xd2)
        #define HWRM_FWD_ASYNC_EVENT_CMPL                 UINT32_C(0xd3)
        #define HWRM_OEM_CMD                              UINT32_C(0xd4)
+       /* Tells the fw to run PRBS test on a given port and lane. */
+       #define HWRM_PORT_PRBS_TEST                       UINT32_C(0xd5)
+       #define HWRM_PORT_SFP_SIDEBAND_CFG                UINT32_C(0xd6)
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG               UINT32_C(0xd7)
+       #define HWRM_FW_STATE_UNQUIESCE                   UINT32_C(0xd8)
+       /* Tells the fw to collect dsc dump on a given port and lane. */
+       #define HWRM_PORT_DSC_DUMP                        UINT32_C(0xd9)
        #define HWRM_TEMP_MONITOR_QUERY                   UINT32_C(0xe0)
+       #define HWRM_REG_POWER_QUERY                      UINT32_C(0xe1)
+       #define HWRM_CORE_FREQUENCY_QUERY                 UINT32_C(0xe2)
        #define HWRM_WOL_FILTER_ALLOC                     UINT32_C(0xf0)
        #define HWRM_WOL_FILTER_FREE                      UINT32_C(0xf1)
        #define HWRM_WOL_FILTER_QCFG                      UINT32_C(0xf2)
@@ -486,8 +510,8 @@ struct cmd_nums {
        #define HWRM_CFA_EEM_OP                           UINT32_C(0x123)
        /* Experimental */
        #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS              UINT32_C(0x124)
-       /* Engine CKV - Ping the device and SRT firmware to get the public key. */
-       #define HWRM_ENGINE_CKV_HELLO                     UINT32_C(0x12d)
+       /* Experimental */
+       #define HWRM_CFA_TFLIB                            UINT32_C(0x125)
        /* Engine CKV - Get the current allocation status of keys provisioned in the key vault. */
        #define HWRM_ENGINE_CKV_STATUS                    UINT32_C(0x12e)
        /* Engine CKV - Add a new CKEK used to encrypt keys. */
@@ -506,6 +530,8 @@ struct cmd_nums {
        #define HWRM_ENGINE_CKV_KEY_GEN                   UINT32_C(0x135)
        /* Engine CKV - Configure a label index with a label value. */
        #define HWRM_ENGINE_CKV_KEY_LABEL_CFG             UINT32_C(0x136)
+       /* Engine CKV - Query a label */
+       #define HWRM_ENGINE_CKV_KEY_LABEL_QCFG            UINT32_C(0x137)
        /* Engine - Query the available queue groups configuration. */
        #define HWRM_ENGINE_QG_CONFIG_QUERY               UINT32_C(0x13c)
        /* Engine - Query the queue groups assigned to a function. */
@@ -546,6 +572,8 @@ struct cmd_nums {
        #define HWRM_ENGINE_STATS_CLEAR                   UINT32_C(0x156)
        /* Engine - Query the statistics accumulator for an Engine. */
        #define HWRM_ENGINE_STATS_QUERY                   UINT32_C(0x157)
+       /* Engine - Query statistics counters for continuous errors from all CDDIP Engines. */
+       #define HWRM_ENGINE_STATS_QUERY_CONTINUOUS_ERROR  UINT32_C(0x158)
        /* Engine - Allocate an Engine RQ. */
        #define HWRM_ENGINE_RQ_ALLOC                      UINT32_C(0x15e)
        /* Engine - Free an Engine RQ. */
@@ -576,6 +604,8 @@ struct cmd_nums {
        #define HWRM_FUNC_VF_BW_CFG                       UINT32_C(0x195)
        /* Queries the BW of any VF */
        #define HWRM_FUNC_VF_BW_QCFG                      UINT32_C(0x196)
+       /* Queries pf ids belong to specified host(s) */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY               UINT32_C(0x197)
        /* Experimental */
        #define HWRM_SELFTEST_QLIST                       UINT32_C(0x200)
        /* Experimental */
@@ -587,6 +617,19 @@ struct cmd_nums {
        /* Experimental */
        #define HWRM_PCIE_QSTATS                          UINT32_C(0x204)
        /* Experimental */
+       #define HWRM_MFG_FRU_WRITE_CONTROL                UINT32_C(0x205)
+       /* Returns the current value of a free running counter from the device. */
+       #define HWRM_MFG_TIMERS_QUERY                     UINT32_C(0x206)
+       /* Experimental */
+       #define HWRM_MFG_OTP_CFG                          UINT32_C(0x207)
+       /* Experimental */
+       #define HWRM_MFG_OTP_QCFG                         UINT32_C(0x208)
+       /*
+        * Tells the fw to run the DMA read from the host and DMA write
+        * to the host test.
+        */
+       #define HWRM_MFG_HDMA_TEST                        UINT32_C(0x209)
+       /* Experimental */
        #define HWRM_DBG_READ_DIRECT                      UINT32_C(0xff10)
        /* Experimental */
        #define HWRM_DBG_READ_INDIRECT                    UINT32_C(0xff11)
@@ -636,90 +679,113 @@ struct cmd_nums {
        #define HWRM_NVM_RAW_WRITE_BLK                    UINT32_C(0xffff)
        #define HWRM_LAST                                HWRM_NVM_RAW_WRITE_BLK
        uint16_t        unused_0[3];
-} __attribute__((packed));
+} __rte_packed;
 
 /* Return Codes */
 /* ret_codes (size:64b/8B) */
 struct ret_codes {
        uint16_t        error_code;
        /* Request was successfully executed by the HWRM. */
-       #define HWRM_ERR_CODE_SUCCESS                   UINT32_C(0x0)
+       #define HWRM_ERR_CODE_SUCCESS                      UINT32_C(0x0)
        /* The HWRM failed to execute the request. */
-       #define HWRM_ERR_CODE_FAIL                      UINT32_C(0x1)
+       #define HWRM_ERR_CODE_FAIL                         UINT32_C(0x1)
        /*
         * The request contains invalid argument(s) or input
         * parameters.
         */
-       #define HWRM_ERR_CODE_INVALID_PARAMS            UINT32_C(0x2)
+       #define HWRM_ERR_CODE_INVALID_PARAMS               UINT32_C(0x2)
        /*
         * The requester is not allowed to access the requested
         * resource. This error code shall be provided in a
         * response to a request to query or modify an existing
         * resource that is not accessible by the requester.
         */
-       #define HWRM_ERR_CODE_RESOURCE_ACCESS_DENIED    UINT32_C(0x3)
+       #define HWRM_ERR_CODE_RESOURCE_ACCESS_DENIED       UINT32_C(0x3)
        /*
         * The HWRM is unable to allocate the requested resource.
         * This code only applies to requests for HWRM resource
         * allocations.
         */
-       #define HWRM_ERR_CODE_RESOURCE_ALLOC_ERROR      UINT32_C(0x4)
+       #define HWRM_ERR_CODE_RESOURCE_ALLOC_ERROR         UINT32_C(0x4)
        /*
         * Invalid combination of flags is specified in the
         * request.
         */
-       #define HWRM_ERR_CODE_INVALID_FLAGS             UINT32_C(0x5)
+       #define HWRM_ERR_CODE_INVALID_FLAGS                UINT32_C(0x5)
        /*
         * Invalid combination of enables fields is specified in
         * the request.
         */
-       #define HWRM_ERR_CODE_INVALID_ENABLES           UINT32_C(0x6)
+       #define HWRM_ERR_CODE_INVALID_ENABLES              UINT32_C(0x6)
        /*
         * Request contains a required TLV that is not supported by
         * the installed version of firmware.
         */
-       #define HWRM_ERR_CODE_UNSUPPORTED_TLV           UINT32_C(0x7)
+       #define HWRM_ERR_CODE_UNSUPPORTED_TLV              UINT32_C(0x7)
        /*
         * No firmware buffer available to accept the request. Driver
         * should retry the request.
         */
-       #define HWRM_ERR_CODE_NO_BUFFER                 UINT32_C(0x8)
+       #define HWRM_ERR_CODE_NO_BUFFER                    UINT32_C(0x8)
        /*
         * This error code is only reported by firmware when some
         * sub-option of a supported HWRM command is unsupported.
         */
-       #define HWRM_ERR_CODE_UNSUPPORTED_OPTION_ERR    UINT32_C(0x9)
+       #define HWRM_ERR_CODE_UNSUPPORTED_OPTION_ERR       UINT32_C(0x9)
        /*
         * This error code is only reported by firmware when the specific
         * request is not able to process when the HOT reset in progress.
         */
-       #define HWRM_ERR_CODE_HOT_RESET_PROGRESS        UINT32_C(0xa)
+       #define HWRM_ERR_CODE_HOT_RESET_PROGRESS           UINT32_C(0xa)
        /*
         * This error code is only reported by firmware when the registered
         * driver instances are not capable of hot reset.
         */
-       #define HWRM_ERR_CODE_HOT_RESET_FAIL            UINT32_C(0xb)
+       #define HWRM_ERR_CODE_HOT_RESET_FAIL               UINT32_C(0xb)
+       /*
+        * This error code is only reported by the firmware when during
+        * flow allocation when a request for a flow counter fails because
+        * the number of flow counters are exhausted.
+        */
+       #define HWRM_ERR_CODE_NO_FLOW_COUNTER_DURING_ALLOC UINT32_C(0xc)
+       /*
+        * This error code is only reported by firmware when the registered
+        * driver instances requested to offloaded a flow but was unable to because
+        * the requested key's hash collides with the installed keys.
+        */
+       #define HWRM_ERR_CODE_KEY_HASH_COLLISION           UINT32_C(0xd)
+       /*
+        * This error code is only reported by firmware when the registered
+        * driver instances requested to offloaded a flow but was unable to because
+        * the same key has already been installed.
+        */
+       #define HWRM_ERR_CODE_KEY_ALREADY_EXISTS           UINT32_C(0xe)
        /*
         * Generic HWRM execution error that represents an
         * internal error.
         */
-       #define HWRM_ERR_CODE_HWRM_ERROR                UINT32_C(0xf)
+       #define HWRM_ERR_CODE_HWRM_ERROR                   UINT32_C(0xf)
+       /*
+        * Firmware is unable to service the request at the present time. Caller
+        * may try again later.
+        */
+       #define HWRM_ERR_CODE_BUSY                         UINT32_C(0x10)
        /*
         * This value indicates that the HWRM response is in TLV format and
         * should be interpreted as one or more TLVs starting with the
-        * hwrm_resp_hdr TLV. This value is not an indicatation of any error
-        * by itself, just an indicatation that the response should be parsed
+        * hwrm_resp_hdr TLV. This value is not an indication of any error
+        * by itself, just an indication that the response should be parsed
         * as TLV and the actual error code will be in the hwrm_resp_hdr TLV.
         */
-       #define HWRM_ERR_CODE_TLV_ENCAPSULATED_RESPONSE UINT32_C(0x8000)
+       #define HWRM_ERR_CODE_TLV_ENCAPSULATED_RESPONSE    UINT32_C(0x8000)
        /* Unknown error */
-       #define HWRM_ERR_CODE_UNKNOWN_ERR               UINT32_C(0xfffe)
+       #define HWRM_ERR_CODE_UNKNOWN_ERR                  UINT32_C(0xfffe)
        /* Unsupported or invalid command */
-       #define HWRM_ERR_CODE_CMD_NOT_SUPPORTED         UINT32_C(0xffff)
+       #define HWRM_ERR_CODE_CMD_NOT_SUPPORTED            UINT32_C(0xffff)
        #define HWRM_ERR_CODE_LAST \
                HWRM_ERR_CODE_CMD_NOT_SUPPORTED
        uint16_t        unused_0[3];
-} __attribute__((packed));
+} __rte_packed;
 
 /* Output */
 /* hwrm_err_output (size:128b/16B) */
@@ -759,7 +825,7 @@ struct hwrm_err_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 /*
  * Following is the signature for HWRM message field that indicates not
  * applicable (All F's). Need to cast it the size of the field if needed.
@@ -774,12 +840,25 @@ struct hwrm_err_output {
 #define HW_HASH_KEY_SIZE 40
 /* valid key for HWRM response */
 #define HWRM_RESP_VALID_KEY 1
+/* Reserved for BONO processor */
+#define HWRM_TARGET_ID_BONO 0xFFF8
+/* Reserved for KONG processor */
+#define HWRM_TARGET_ID_KONG 0xFFF9
+/* Reserved for APE processor */
+#define HWRM_TARGET_ID_APE 0xFFFA
+/*
+ * This value will be used by tools for User-space HWRM Interface.
+ * When tool execute any HWRM command with this target_id, firmware
+ * will copy the response and/or data payload via register space instead
+ * of DMAing it.
+ */
+#define HWRM_TARGET_ID_TOOLS 0xFFFD
 #define HWRM_VERSION_MAJOR 1
 #define HWRM_VERSION_MINOR 10
-#define HWRM_VERSION_UPDATE 0
+#define HWRM_VERSION_UPDATE 1
 /* non-zero means beta version */
-#define HWRM_VERSION_RSVD 48
-#define HWRM_VERSION_STR "1.10.0.48"
+#define HWRM_VERSION_RSVD 6
+#define HWRM_VERSION_STR "1.10.1.6"
 
 /****************
  * hwrm_ver_get *
@@ -804,7 +883,8 @@ struct hwrm_ver_get_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -843,7 +923,7 @@ struct hwrm_ver_get_input {
         */
        uint8_t hwrm_intf_upd;
        uint8_t unused_0[5];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ver_get_output (size:1408b/176B) */
 struct hwrm_ver_get_output {
@@ -1062,6 +1142,13 @@ struct hwrm_ver_get_output {
         */
        #define HWRM_VER_GET_OUTPUT_DEV_CAPS_CFG_CFA_ADV_FLOW_MGNT_SUPPORTED \
                UINT32_C(0x1000)
+       /*
+        * If set to 1, the firmware is able to support TFLIB features.
+        * If set to 0, then the firmware doesn’t support TFLIB features.
+        * By default, this flag should be 0 for older version of core firmware.
+        */
+       #define HWRM_VER_GET_OUTPUT_DEV_CAPS_CFG_CFA_TFLIB_SUPPORTED \
+               UINT32_C(0x2000)
        /*
         * This field represents the major version of RoCE firmware.
         * A change in major version represents a major release.
@@ -1099,12 +1186,8 @@ struct hwrm_ver_get_output {
         * firmware (ASCII chars with NULL at the end).
         */
        char    netctrl_fw_name[16];
-       /*
-        * This field is reserved for future use.
-        * The responder should set it to 0.
-        * The requester should ignore this field.
-        */
-       uint8_t reserved2[16];
+       /* This field represents the active board package name. */
+       char    active_pkg_name[16];
        /*
         * This field represents the name of RoCE FW (ASCII chars
         * with NULL at the end).
@@ -1150,7 +1233,13 @@ struct hwrm_ver_get_output {
         */
        uint8_t flags;
        /*
-        * If set to 1, device is not ready.
+        * If set to 1, it will indicate to host drivers that firmware is
+        * not ready to start full blown HWRM commands. Host drivers should
+        * re-try HWRM_VER_GET with some timeout period. The timeout period
+        * can be selected up to 5 seconds.
+        * For Example, PCIe hot-plug:
+        *     Hot plug timing is system dependent. It generally takes up to
+        *     600 miliseconds for firmware to clear DEV_NOT_RDY flag.
         * If set to 0, device is ready to accept all HWRM commands.
         */
        #define HWRM_VER_GET_OUTPUT_FLAGS_DEV_NOT_RDY       UINT32_C(0x1)
@@ -1309,7 +1398,7 @@ struct hwrm_ver_get_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* bd_base (size:64b/8B) */
 struct bd_base {
@@ -1324,12 +1413,12 @@ struct bd_base {
        #define BD_BASE_TYPE_TX_BD_SHORT        UINT32_C(0x0)
        /*
         * Indicates that this BD is 1BB long and is an empty
-        * TX BD.  Not valid for use by the driver.
+        * TX BD. Not valid for use by the driver.
         */
        #define BD_BASE_TYPE_TX_BD_EMPTY        UINT32_C(0x1)
        /*
         * Indicates that this BD is 16B long and is an RX Producer
-        * (ie. empty) buffer descriptor.
+        * (i.e. empty) buffer descriptor.
         */
        #define BD_BASE_TYPE_RX_PROD_PKT        UINT32_C(0x4)
        /*
@@ -1355,7 +1444,7 @@ struct bd_base {
        #define BD_BASE_TYPE_TX_BD_LONG_INLINE  UINT32_C(0x11)
        #define BD_BASE_TYPE_LAST              BD_BASE_TYPE_TX_BD_LONG_INLINE
        uint8_t unused_1[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /* tx_bd_short (size:128b/16B) */
 struct tx_bd_short {
@@ -1383,7 +1472,7 @@ struct tx_bd_short {
        #define TX_BD_SHORT_FLAGS_SFT            6
        /*
         * If set to 1, the packet ends with the data in the buffer
-        * pointed to by this descriptor.  This flag must be
+        * pointed to by this descriptor. This flag must be
         * valid on every BD.
         */
        #define TX_BD_SHORT_FLAGS_PACKET_END      UINT32_C(0x40)
@@ -1401,9 +1490,9 @@ struct tx_bd_short {
         * This value indicates how many 16B BD locations are consumed
         * in the ring by this packet.
         * A value of 1 indicates that this BD is the only BD (and that
-        * the it is a short BD).  A value
+        * it is a short BD). A value
         * of 3 indicates either 3 short BDs or 1 long BD and one short
-        * BD in the packet.  A value of 0 indicates
+        * BD in the packet. A value of 0 indicates
         * that there are 32 BD locations in the packet (the maximum).
         *
         * This field is valid only on the first BD of a packet.
@@ -1464,7 +1553,7 @@ struct tx_bd_short {
         * This value must be valid on all BDs of a packet.
         */
        uint64_t        address;
-} __attribute__((packed));
+} __rte_packed;
 
 /* tx_bd_long (size:128b/16B) */
 struct tx_bd_long {
@@ -1491,7 +1580,7 @@ struct tx_bd_long {
        #define TX_BD_LONG_FLAGS_SFT            6
        /*
         * If set to 1, the packet ends with the data in the buffer
-        * pointed to by this descriptor.  This flag must be
+        * pointed to by this descriptor. This flag must be
         * valid on every BD.
         */
        #define TX_BD_LONG_FLAGS_PACKET_END      UINT32_C(0x40)
@@ -1509,9 +1598,9 @@ struct tx_bd_long {
         * This value indicates how many 16B BD locations are consumed
         * in the ring by this packet.
         * A value of 1 indicates that this BD is the only BD (and that
-        * the it is a short BD).  A value
+        * it is a short BD). A value
         * of 3 indicates either 3 short BDs or 1 long BD and one short
-        * BD in the packet.  A value of 0 indicates
+        * BD in the packet. A value of 0 indicates
         * that there are 32 BD locations in the packet (the maximum).
         *
         * This field is valid only on the first BD of a packet.
@@ -1571,7 +1660,7 @@ struct tx_bd_long {
         * This value must be valid on all BDs of a packet.
         */
        uint64_t        address;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Last 16 bytes of tx_bd_long. */
 /* tx_bd_long_hi (size:128b/16B) */
@@ -1592,7 +1681,7 @@ struct tx_bd_long_hi {
         */
        #define TX_BD_LONG_LFLAGS_TCP_UDP_CHKSUM     UINT32_C(0x1)
        /*
-        * If set to 1,  the controller replaces the IP checksum of the
+        * If set to 1, the controller replaces the IP checksum of the
         * normal packets, or the inner IP checksum of the encapsulated
         * packets with the hardware calculated IP checksum for the
         * packet associated with this descriptor.
@@ -1606,9 +1695,9 @@ struct tx_bd_long_hi {
         *
         * This bit must be valid on the first BD of a packet.
         *
-        * Packet must be 64B or longer when this flag is set.  It is not
+        * Packet must be 64B or longer when this flag is set. It is not
         * useful to use this bit with any form of TX offload such as
-        * CSO or LSO.  The intent is that the packet from the host already
+        * CSO or LSO. The intent is that the packet from the host already
         * has a valid Ethernet CRC on the packet.
         */
        #define TX_BD_LONG_LFLAGS_NOCRC              UINT32_C(0x4)
@@ -1637,9 +1726,9 @@ struct tx_bd_long_hi {
         */
        #define TX_BD_LONG_LFLAGS_T_IP_CHKSUM        UINT32_C(0x10)
        /*
-        * If set to 1,  the device will treat this packet with LSO(Large
+        * If set to 1, the device will treat this packet with LSO(Large
         * Send Offload) processing for both normal or encapsulated
-        * packets, which is a form of TCP segmentation.  When this bit
+        * packets, which is a form of TCP segmentation. When this bit
         * is 1, the hdr_size and mss fields must be valid. The driver
         * doesn't need to set t_ip_chksum, ip_chksum, and tcp_udp_chksum
         * flags since the controller will replace the appropriate
@@ -1672,19 +1761,19 @@ struct tx_bd_long_hi {
        #define TX_BD_LONG_LFLAGS_T_IPID             UINT32_C(0x80)
        /*
         * If set to '1', then the RoCE ICRC will be appended to the
-        * packet.  Packet must be a valid RoCE format packet.
+        * packet. Packet must be a valid RoCE format packet.
         */
        #define TX_BD_LONG_LFLAGS_ROCE_CRC           UINT32_C(0x100)
        /*
         * If set to '1', then the FCoE CRC will be appended to the
-        * packet.  Packet must be a valid FCoE format packet.
+        * packet. Packet must be a valid FCoE format packet.
         */
        #define TX_BD_LONG_LFLAGS_FCOE_CRC           UINT32_C(0x200)
        uint16_t        hdr_size;
        /*
         * When LSO is '1', this field must contain the offset of the
         * TCP payload from the beginning of the packet in as
-        * 16b words. In case of encapsulated/tunneling packet, this  field
+        * 16b words. In case of encapsulated/tunneling packet, this field
         * contains the offset of the inner TCP payload from beginning of the
         * packet as 16-bit words.
         *
@@ -1761,7 +1850,7 @@ struct tx_bd_long_hi {
        #define TX_BD_LONG_CFA_META_KEY_VLAN_TAG        (UINT32_C(0x1) << 28)
        #define TX_BD_LONG_CFA_META_KEY_LAST \
                TX_BD_LONG_CFA_META_KEY_VLAN_TAG
-} __attribute__((packed));
+} __rte_packed;
 
 /*
  * This structure is used to inform the NIC of packet data that needs to be
@@ -1791,7 +1880,7 @@ struct tx_bd_long_inline {
        #define TX_BD_LONG_INLINE_FLAGS_SFT             6
        /*
         * If set to 1, the packet ends with the data in the buffer
-        * pointed to by this descriptor.  This flag must be
+        * pointed to by this descriptor. This flag must be
         * valid on every BD.
         */
        #define TX_BD_LONG_INLINE_FLAGS_PACKET_END       UINT32_C(0x40)
@@ -1896,12 +1985,12 @@ struct tx_bd_long_inline {
        #define TX_BD_LONG_INLINE_LFLAGS_T_IPID             UINT32_C(0x80)
        /*
         * If set to '1', then the RoCE ICRC will be appended to the
-        * packet.  Packet must be a valid RoCE format packet.
+        * packet. Packet must be a valid RoCE format packet.
         */
        #define TX_BD_LONG_INLINE_LFLAGS_ROCE_CRC           UINT32_C(0x100)
        /*
         * If set to '1', then the FCoE CRC will be appended to the
-        * packet.  Packet must be a valid FCoE format packet.
+        * packet. Packet must be a valid FCoE format packet.
         */
        #define TX_BD_LONG_INLINE_LFLAGS_FCOE_CRC           UINT32_C(0x200)
        uint16_t        unused2;
@@ -1974,7 +2063,7 @@ struct tx_bd_long_inline {
                (UINT32_C(0x1) << 28)
        #define TX_BD_LONG_INLINE_CFA_META_KEY_LAST \
                TX_BD_LONG_INLINE_CFA_META_KEY_VLAN_TAG
-} __attribute__((packed));
+} __rte_packed;
 
 /* tx_bd_empty (size:128b/16B) */
 struct tx_bd_empty {
@@ -1984,7 +2073,7 @@ struct tx_bd_empty {
        #define TX_BD_EMPTY_TYPE_SFT        0
        /*
         * Indicates that this BD is 1BB long and is an empty
-        * TX BD.  Not valid for use by the driver.
+        * TX BD. Not valid for use by the driver.
         */
        #define TX_BD_EMPTY_TYPE_TX_BD_EMPTY  UINT32_C(0x1)
        #define TX_BD_EMPTY_TYPE_LAST        TX_BD_EMPTY_TYPE_TX_BD_EMPTY
@@ -1992,7 +2081,7 @@ struct tx_bd_empty {
        uint8_t unused_2;
        uint8_t unused_3[3];
        uint8_t unused_4[8];
-} __attribute__((packed));
+} __rte_packed;
 
 /* rx_prod_pkt_bd (size:128b/16B) */
 struct rx_prod_pkt_bd {
@@ -2003,7 +2092,7 @@ struct rx_prod_pkt_bd {
        #define RX_PROD_PKT_BD_TYPE_SFT          0
        /*
         * Indicates that this BD is 16B long and is an RX Producer
-        * (ie. empty) buffer descriptor.
+        * (i.e. empty) buffer descriptor.
         */
        #define RX_PROD_PKT_BD_TYPE_RX_PROD_PKT    UINT32_C(0x4)
        #define RX_PROD_PKT_BD_TYPE_LAST \
@@ -2012,7 +2101,7 @@ struct rx_prod_pkt_bd {
        #define RX_PROD_PKT_BD_FLAGS_SFT         6
        /*
         * If set to 1, the packet will be placed at the address plus
-        * 2B.  The 2 Bytes of padding will be written as zero.
+        * 2B. The 2 Bytes of padding will be written as zero.
         */
        #define RX_PROD_PKT_BD_FLAGS_SOP_PAD      UINT32_C(0x40)
        /*
@@ -2022,9 +2111,9 @@ struct rx_prod_pkt_bd {
        #define RX_PROD_PKT_BD_FLAGS_EOP_PAD      UINT32_C(0x80)
        /*
         * This value is the number of additional buffers in the ring that
-        * describe the buffer space to be consumed for the this packet.
+        * describe the buffer space to be consumed for this packet.
         * If the value is zero, then the packet must fit within the
-        * space described by this BD.  If this value is 1 or more, it
+        * space described by this BD. If this value is 1 or more, it
         * indicates how many additional "buffer" BDs are in the ring
         * immediately following this BD to be used for the same
         * network packet.
@@ -2047,10 +2136,10 @@ struct rx_prod_pkt_bd {
        uint32_t        opaque;
        /*
         * This is the host physical address where data for the packet may
-        * by placed in host memory.
+        * be placed in host memory.
         */
        uint64_t        address;
-} __attribute__((packed));
+} __rte_packed;
 
 /* rx_prod_bfr_bd (size:128b/16B) */
 struct rx_prod_bfr_bd {
@@ -2076,10 +2165,10 @@ struct rx_prod_bfr_bd {
        uint32_t        opaque;
        /*
         * This is the host physical address where data for the packet may
-        * by placed in host memory.
+        * be placed in host memory.
         */
        uint64_t        address;
-} __attribute__((packed));
+} __rte_packed;
 
 /* rx_prod_agg_bd (size:128b/16B) */
 struct rx_prod_agg_bd {
@@ -2115,10 +2204,10 @@ struct rx_prod_agg_bd {
        uint32_t        opaque;
        /*
         * This is the host physical address where data for the packet may
-        * by placed in host memory.
+        * be placed in host memory.
         */
        uint64_t        address;
-} __attribute__((packed));
+} __rte_packed;
 
 /* cmpl_base (size:128b/16B) */
 struct cmpl_base {
@@ -2126,15 +2215,15 @@ struct cmpl_base {
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
        #define CMPL_BASE_TYPE_MASK            UINT32_C(0x3f)
        #define CMPL_BASE_TYPE_SFT             0
        /*
         * TX L2 completion:
-        * Completion of TX packet.  Length = 16B
+        * Completion of TX packet. Length = 16B
         */
        #define CMPL_BASE_TYPE_TX_L2             UINT32_C(0x0)
        /*
@@ -2145,7 +2234,7 @@ struct cmpl_base {
        /*
         * RX Aggregation Buffer completion :
         * Completion of an L2 aggregation buffer in support of
-        * TPA, HDS, or Jumbo packet completion.  Length = 16B
+        * TPA, HDS, or Jumbo packet completion. Length = 16B
         */
        #define CMPL_BASE_TYPE_RX_AGG            UINT32_C(0x12)
        /*
@@ -2194,8 +2283,8 @@ struct cmpl_base {
        uint32_t        info2;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        uint32_t        info3_v;
        #define CMPL_BASE_V         UINT32_C(0x1)
@@ -2203,7 +2292,7 @@ struct cmpl_base {
        #define CMPL_BASE_INFO3_SFT 1
        /* info4 is 32 b */
        uint32_t        info4;
-} __attribute__((packed));
+} __rte_packed;
 
 /* tx_cmpl (size:128b/16B) */
 struct tx_cmpl {
@@ -2211,15 +2300,15 @@ struct tx_cmpl {
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
        #define TX_CMPL_TYPE_MASK       UINT32_C(0x3f)
        #define TX_CMPL_TYPE_SFT        0
        /*
         * TX L2 completion:
-        * Completion of TX packet.  Length = 16B
+        * Completion of TX packet. Length = 16B
         */
        #define TX_CMPL_TYPE_TX_L2        UINT32_C(0x0)
        #define TX_CMPL_TYPE_LAST        TX_CMPL_TYPE_TX_L2
@@ -2227,14 +2316,14 @@ struct tx_cmpl {
        #define TX_CMPL_FLAGS_SFT       6
        /*
         * When this bit is '1', it indicates a packet that has an
-        * error of some type.  Type of error is indicated in
+        * error of some type. Type of error is indicated in
         * error_flags.
         */
        #define TX_CMPL_FLAGS_ERROR      UINT32_C(0x40)
        /*
         * When this bit is '1', it indicates that the packet completed
         * was transmitted using the push acceleration data provided
-        * by the driver.  When this bit is '0', it indicates that the
+        * by the driver. When this bit is '0', it indicates that the
         * packet had not push acceleration data written or was executed
         * as a normal packet even though push data was provided.
         */
@@ -2249,8 +2338,8 @@ struct tx_cmpl {
        uint16_t        errors_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define TX_CMPL_V                              UINT32_C(0x1)
        #define TX_CMPL_ERRORS_MASK                    UINT32_C(0xfffe)
@@ -2272,7 +2361,7 @@ struct tx_cmpl {
                TX_CMPL_ERRORS_BUFFER_ERROR_BAD_FMT
        /*
         * When this bit is '1', it indicates that the length of
-        * the packet was zero.  No packet was transmitted.
+        * the packet was zero. No packet was transmitted.
         */
        #define TX_CMPL_ERRORS_ZERO_LENGTH_PKT          UINT32_C(0x10)
        /*
@@ -2289,7 +2378,7 @@ struct tx_cmpl {
        #define TX_CMPL_ERRORS_DMA_ERROR                UINT32_C(0x40)
        /*
         * When this bit is '1', it indicates that the packet was longer
-        * than indicated by the hint.  No packet was transmitted.
+        * than indicated by the hint. No packet was transmitted.
         */
        #define TX_CMPL_ERRORS_HINT_TOO_SHORT           UINT32_C(0x80)
        /*
@@ -2302,7 +2391,7 @@ struct tx_cmpl {
        uint16_t        unused_1;
        /* unused3 is 32 b */
        uint32_t        unused_2;
-} __attribute__((packed));
+} __rte_packed;
 
 /* rx_pkt_cmpl (size:128b/16B) */
 struct rx_pkt_cmpl {
@@ -2310,8 +2399,8 @@ struct rx_pkt_cmpl {
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
        #define RX_PKT_CMPL_TYPE_MASK                   UINT32_C(0x3f)
@@ -2326,7 +2415,7 @@ struct rx_pkt_cmpl {
        #define RX_PKT_CMPL_FLAGS_SFT                   6
        /*
         * When this bit is '1', it indicates a packet that has an
-        * error of some type.  Type of error is indicated in
+        * error of some type. Type of error is indicated in
         * error_flags.
         */
        #define RX_PKT_CMPL_FLAGS_ERROR                  UINT32_C(0x40)
@@ -2427,9 +2516,9 @@ struct rx_pkt_cmpl {
                RX_PKT_CMPL_FLAGS_ITYPE_PTP_W_TIMESTAMP
        /*
         * This is the length of the data for the packet stored in the
-        * buffer(s) identified by the opaque value.  This includes
-        * the packet BD and any associated buffer BDs.  This does not include
-        * the the length of any data places in aggregation BDs.
+        * buffer(s) identified by the opaque value. This includes
+        * the packet BD and any associated buffer BDs. This does not include
+        * the length of any data places in aggregation BDs.
         */
        uint16_t        len;
        /*
@@ -2440,8 +2529,8 @@ struct rx_pkt_cmpl {
        uint8_t agg_bufs_v1;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define RX_PKT_CMPL_V1           UINT32_C(0x1)
        /*
@@ -2456,7 +2545,7 @@ struct rx_pkt_cmpl {
        #define RX_PKT_CMPL_UNUSED1_MASK UINT32_C(0xc0)
        #define RX_PKT_CMPL_UNUSED1_SFT  6
        /*
-        * This is the RSS hash type for the packet.  The value is packed
+        * This is the RSS hash type for the packet. The value is packed
         * {tuple_extrac_op[1:0],rss_profile_id[4:0],tuple_extrac_op[2]}.
         *
         * The value of tuple_extrac_op provides the information about
@@ -2487,7 +2576,7 @@ struct rx_pkt_cmpl {
        uint8_t rss_hash_type;
        /*
         * This value indicates the offset in bytes from the beginning of the packet
-        * where the inner payload starts.  This value is valid for TCP, UDP,
+        * where the inner payload starts. This value is valid for TCP, UDP,
         * FCoE, and RoCE packets.
         *
         * A value of zero indicates that header is 256B into the packet.
@@ -2500,7 +2589,7 @@ struct rx_pkt_cmpl {
         * based on the mode bits and key value in the VNIC.
         */
        uint32_t        rss_hash;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Last 16 bytes of rx_pkt_cmpl. */
 /* rx_pkt_cmpl_hi (size:128b/16B) */
@@ -2533,7 +2622,7 @@ struct rx_pkt_cmpl_hi {
        /* This value indicates what format the metadata field is. */
        #define RX_PKT_CMPL_FLAGS2_META_FORMAT_MASK           UINT32_C(0xf0)
        #define RX_PKT_CMPL_FLAGS2_META_FORMAT_SFT            4
-       /* No metadata informtaion.  Value is zero. */
+       /* No metadata information. Value is zero. */
        #define RX_PKT_CMPL_FLAGS2_META_FORMAT_NONE \
                (UINT32_C(0x0) << 4)
        /*
@@ -2552,7 +2641,7 @@ struct rx_pkt_cmpl_hi {
         * - VXLAN = VNI[23:0] -> VXLAN Network ID
         * - Geneve (NGE) = VNI[23:0] a-> Virtual Network Identifier.
         * - NVGRE = TNI[23:0] -> Tenant Network ID
-        * - GRE = KEY[31:0 -> key fieled with bit mask. zero if K = 0
+        * - GRE = KEY[31:0] -> key field with bit mask. zero if K = 0
         * - IPV4 = 0 (not populated)
         * - IPV6 = Flow Label[19:0]
         * - PPPoE = sessionID[15:0]
@@ -2582,7 +2671,7 @@ struct rx_pkt_cmpl_hi {
                RX_PKT_CMPL_FLAGS2_META_FORMAT_HDR_OFFSET
        /*
         * This field indicates the IP type for the inner-most IP header.
-        * A value of '0' indicates IPv4.  A value of '1' indicates IPv6.
+        * A value of '0' indicates IPv4. A value of '1' indicates IPv6.
         * This value is only valid if itype indicates a packet
         * with an IP header.
         */
@@ -2626,8 +2715,8 @@ struct rx_pkt_cmpl_hi {
        uint16_t        errors_v2;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define RX_PKT_CMPL_V2 \
                UINT32_C(0x1)
@@ -2637,7 +2726,7 @@ struct rx_pkt_cmpl_hi {
        /*
         * This error indicates that there was some sort of problem with
         * the BDs for the packet that was found after part of the
-        * packet was already placed.  The packet should be treated as
+        * packet was already placed. The packet should be treated as
         * invalid.
         */
        #define RX_PKT_CMPL_ERRORS_BUFFER_ERROR_MASK \
@@ -2650,7 +2739,7 @@ struct rx_pkt_cmpl_hi {
         * Did Not Fit:
         * Packet did not fit into packet buffer provided.
         * For regular placement, this means the packet did not fit
-        * in the buffer provided.  For HDS and jumbo placement, this
+        * in the buffer provided. For HDS and jumbo placement, this
         * means that the packet could not be placed into 7 physical
         * buffers or less.
         */
@@ -2703,7 +2792,7 @@ struct rx_pkt_cmpl_hi {
                UINT32_C(0x80)
        /*
         * This indicates that there was a CRC error on either an FCoE
-        * or RoCE packet.  The itype indicates the packet type.
+        * or RoCE packet. The itype indicates the packet type.
         */
        #define RX_PKT_CMPL_ERRORS_CRC_ERROR \
                UINT32_C(0x100)
@@ -2841,21 +2930,25 @@ struct rx_pkt_cmpl_hi {
         * This value holds the reordering sequence number for the packet.
         * If the reordering sequence is not valid, then this value is zero.
         * The reordering domain for the packet is in the bottom 8 to 10b of
-        * the rss_hash value.  The bottom 20b of this value contain the
+        * the rss_hash value. The bottom 20b of this value contain the
         * ordering domain value for the packet.
         */
        #define RX_PKT_CMPL_REORDER_MASK UINT32_C(0xffffff)
        #define RX_PKT_CMPL_REORDER_SFT 0
-} __attribute__((packed));
+} __rte_packed;
 
+/*
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is 0.
+ */
 /* rx_tpa_start_cmpl (size:128b/16B) */
 struct rx_tpa_start_cmpl {
        uint16_t        flags_type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
        #define RX_TPA_START_CMPL_TYPE_MASK                UINT32_C(0x3f)
@@ -2877,9 +2970,9 @@ struct rx_tpa_start_cmpl {
        #define RX_TPA_START_CMPL_FLAGS_PLACEMENT_SFT       7
        /*
         * Jumbo:
-        * TPA Packet was placed using jumbo algorithm.  This means
+        * TPA Packet was placed using jumbo algorithm. This means
         * that the first buffer will be filled with data before
-        * moving to aggregation buffers.  Each aggregation buffer
+        * moving to aggregation buffers. Each aggregation buffer
         * will be filled before moving to the next aggregation
         * buffer.
         */
@@ -2945,19 +3038,19 @@ struct rx_tpa_start_cmpl {
        uint32_t        opaque;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        uint8_t v1;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define RX_TPA_START_CMPL_V1 UINT32_C(0x1)
        #define RX_TPA_START_CMPL_LAST RX_TPA_START_CMPL_V1
        /*
-        * This is the RSS hash type for the packet.  The value is packed
+        * This is the RSS hash type for the packet. The value is packed
         * {tuple_extrac_op[1:0],rss_profile_id[4:0],tuple_extrac_op[2]}.
         *
         * The value of tuple_extrac_op provides the information about
@@ -2988,7 +3081,7 @@ struct rx_tpa_start_cmpl {
        uint8_t rss_hash_type;
        /*
         * This is the aggregation ID that the completion is associated
-        * with.  Use this number to correlate the TPA start completion
+        * with. Use this number to correlate the TPA start completion
         * with the TPA end completion.
         */
        uint16_t        agg_id;
@@ -2997,7 +3090,7 @@ struct rx_tpa_start_cmpl {
        #define RX_TPA_START_CMPL_UNUSED2_SFT 0
        /*
         * This is the aggregation ID that the completion is associated
-        * with.  Use this number to correlate the TPA start completion
+        * with. Use this number to correlate the TPA start completion
         * with the TPA end completion.
         */
        #define RX_TPA_START_CMPL_AGG_ID_MASK UINT32_C(0xfe00)
@@ -3007,9 +3100,14 @@ struct rx_tpa_start_cmpl {
         * based on the mode bits and key value in the VNIC.
         */
        uint32_t        rss_hash;
-} __attribute__((packed));
+} __rte_packed;
 
-/* Last 16 bytes of rx_tpq_start_cmpl. */
+/*
+ * Last 16 bytes of rx_tpa_start_cmpl.
+ *
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is 0.
+ */
 /* rx_tpa_start_cmpl_hi (size:128b/16B) */
 struct rx_tpa_start_cmpl_hi {
        uint32_t        flags2;
@@ -3018,34 +3116,29 @@ struct rx_tpa_start_cmpl_hi {
         * inner packet and that the sum passed for all segments
         * included in the aggregation.
         */
-       #define RX_TPA_START_CMPL_FLAGS2_IP_CS_CALC \
-               UINT32_C(0x1)
+       #define RX_TPA_START_CMPL_FLAGS2_IP_CS_CALC       UINT32_C(0x1)
        /*
         * This indicates that the TCP, UDP or ICMP checksum was
         * calculated for the inner packet and that the sum passed
         * for all segments included in the aggregation.
         */
-       #define RX_TPA_START_CMPL_FLAGS2_L4_CS_CALC \
-               UINT32_C(0x2)
+       #define RX_TPA_START_CMPL_FLAGS2_L4_CS_CALC       UINT32_C(0x2)
        /*
         * This indicates that the ip checksum was calculated for the
         * tunnel header and that the sum passed for all segments
         * included in the aggregation.
         */
-       #define RX_TPA_START_CMPL_FLAGS2_T_IP_CS_CALC \
-               UINT32_C(0x4)
+       #define RX_TPA_START_CMPL_FLAGS2_T_IP_CS_CALC     UINT32_C(0x4)
        /*
         * This indicates that the UDP checksum was
         * calculated for the tunnel packet and that the sum passed for
         * all segments included in the aggregation.
         */
-       #define RX_TPA_START_CMPL_FLAGS2_T_L4_CS_CALC \
-               UINT32_C(0x8)
+       #define RX_TPA_START_CMPL_FLAGS2_T_L4_CS_CALC     UINT32_C(0x8)
        /* This value indicates what format the metadata field is. */
-       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_MASK \
-               UINT32_C(0xf0)
-       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_SFT            4
-       /* No metadata informtaion.  Value is zero. */
+       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_MASK UINT32_C(0xf0)
+       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_SFT  4
+       /* No metadata information. Value is zero. */
        #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_NONE \
                (UINT32_C(0x0) << 4)
        /*
@@ -3057,71 +3150,13 @@ struct rx_tpa_start_cmpl_hi {
         */
        #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_VLAN \
                (UINT32_C(0x1) << 4)
-       /*
-        * If ext_meta_format is equal to 1, the metadata field
-        * contains the lower 16b of the tunnel ID value, justified
-        * to LSB
-        * - VXLAN = VNI[23:0] -> VXLAN Network ID
-        * - Geneve (NGE) = VNI[23:0] a-> Virtual Network Identifier.
-        * - NVGRE = TNI[23:0] -> Tenant Network ID
-        * - GRE = KEY[31:0 -> key fieled with bit mask. zero if K = 0
-        * - IPV4 = 0 (not populated)
-        * - IPV6 = Flow Label[19:0]
-        * - PPPoE = sessionID[15:0]
-        * - MPLs = Outer label[19:0]
-        * - UPAR = Selected[31:0] with bit mask
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_TUNNEL_ID \
-               (UINT32_C(0x2) << 4)
-       /*
-        * if ext_meta_format is equal to 1, metadata field contains
-        * 16b metadata from the prepended header (chdr_data).
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_CHDR_DATA \
-               (UINT32_C(0x3) << 4)
-       /*
-        * If ext_meta_format is equal to 1, the metadata field contains
-        * the outer_l3_offset, inner_l2_offset, inner_l3_offset and
-        * inner_l4_size.
-        * - metadata[8:0] contains the outer_l3_offset.
-        * - metadata[17:9] contains the inner_l2_offset.
-        * - metadata[26:18] contains the inner_l3_offset.
-        * - metadata[31:27] contains the inner_l4_size.
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_HDR_OFFSET \
-               (UINT32_C(0x4) << 4)
        #define RX_TPA_START_CMPL_FLAGS2_META_FORMAT_LAST \
-               RX_TPA_START_CMPL_FLAGS2_META_FORMAT_HDR_OFFSET
+               RX_TPA_START_CMPL_FLAGS2_META_FORMAT_VLAN
        /*
         * This field indicates the IP type for the inner-most IP header.
-        * A value of '0' indicates IPv4.  A value of '1' indicates IPv6.
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_IP_TYPE \
-               UINT32_C(0x100)
-       /*
-        * This indicates that the complete 1's complement checksum was
-        * calculated for the packet.
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_CALC \
-               UINT32_C(0x200)
-       /*
-        * The combination of this value and meta_format indicated what
-        * format the metadata field is.
-        */
-       #define RX_TPA_START_CMPL_FLAGS2_EXT_META_FORMAT_MASK \
-               UINT32_C(0xc00)
-       #define RX_TPA_START_CMPL_FLAGS2_EXT_META_FORMAT_SFT        10
-       /*
-        * This value is the complete 1's complement checksum calculated from
-        * the start of the outer L3 header to the end of the packet (not
-        * including the ethernet crc). It is valid when the
-        * 'complete_checksum_calc' flag is set. For TPA Start completions,
-        * the complete checksum is calculated for the first packet in the
-        * aggregation only.
+        * A value of '0' indicates IPv4. A value of '1' indicates IPv6.
         */
-       #define RX_TPA_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_MASK \
-               UINT32_C(0xffff0000)
-       #define RX_TPA_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_SFT      16
+       #define RX_TPA_START_CMPL_FLAGS2_IP_TYPE          UINT32_C(0x100)
        /*
         * This is data from the CFA block as indicated by the meta_format
         * field.
@@ -3138,41 +3173,13 @@ struct rx_tpa_start_cmpl_hi {
        /* When meta_format=1, this value is the VLAN TPID. */
        #define RX_TPA_START_CMPL_METADATA_TPID_MASK UINT32_C(0xffff0000)
        #define RX_TPA_START_CMPL_METADATA_TPID_SFT 16
-       uint16_t        errors_v2;
+       uint16_t        v2;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
-        */
-       #define RX_TPA_START_CMPL_V2                            UINT32_C(0x1)
-       #define RX_TPA_START_CMPL_ERRORS_MASK \
-               UINT32_C(0xfffe)
-       #define RX_TPA_START_CMPL_ERRORS_SFT                    1
-       /*
-        * This error indicates that there was some sort of problem with
-        * the BDs for the packet that was found after part of the
-        * packet was already placed.  The packet should be treated as
-        * invalid.
-        */
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_MASK       UINT32_C(0xe)
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_SFT        1
-       /* No buffer error */
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
-               (UINT32_C(0x0) << 1)
-       /*
-        * Bad Format:
-        * BDs were not formatted correctly.
-        */
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
-               (UINT32_C(0x3) << 1)
-       /*
-        * Flush:
-        * There was a bad_format error on the previous operation
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
-               (UINT32_C(0x5) << 1)
-       #define RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_LAST \
-               RX_TPA_START_CMPL_ERRORS_BUFFER_ERROR_FLUSH
+       #define RX_TPA_START_CMPL_V2     UINT32_C(0x1)
        /*
         * This field identifies the CFA action rule that was used for this
         * packet.
@@ -3186,7 +3193,7 @@ struct rx_tpa_start_cmpl_hi {
        uint32_t        inner_l4_size_inner_l3_offset_inner_l2_offset_outer_l3_offset;
        /*
         * This is the offset from the beginning of the packet in bytes for
-        * the outer L3 header.  If there is no outer L3 header, then this
+        * the outer L3 header. If there is no outer L3 header, then this
         * value is zero.
         */
        #define RX_TPA_START_CMPL_OUTER_L3_OFFSET_MASK UINT32_C(0x1ff)
@@ -3210,16 +3217,20 @@ struct rx_tpa_start_cmpl_hi {
         */
        #define RX_TPA_START_CMPL_INNER_L4_SIZE_MASK  UINT32_C(0xf8000000)
        #define RX_TPA_START_CMPL_INNER_L4_SIZE_SFT   27
-} __attribute__((packed));
+} __rte_packed;
 
+/*
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is 0.
+ */
 /* rx_tpa_end_cmpl (size:128b/16B) */
 struct rx_tpa_end_cmpl {
        uint16_t        flags_type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
        #define RX_TPA_END_CMPL_TYPE_MASK                UINT32_C(0x3f)
@@ -3236,7 +3247,7 @@ struct rx_tpa_end_cmpl {
        #define RX_TPA_END_CMPL_FLAGS_SFT                6
        /*
         * When this bit is '1', it indicates a packet that has an
-        * error of some type.  Type of error is indicated in
+        * error of some type. Type of error is indicated in
         * error_flags.
         */
        #define RX_TPA_END_CMPL_FLAGS_ERROR               UINT32_C(0x40)
@@ -3245,9 +3256,9 @@ struct rx_tpa_end_cmpl {
        #define RX_TPA_END_CMPL_FLAGS_PLACEMENT_SFT       7
        /*
         * Jumbo:
-        * TPA Packet was placed using jumbo algorithm.  This means
+        * TPA Packet was placed using jumbo algorithm. This means
         * that the first buffer will be filled with data before
-        * moving to aggregation buffers.  Each aggregation buffer
+        * moving to aggregation buffers. Each aggregation buffer
         * will be filled before moving to the next aggregation
         * buffer.
         */
@@ -3290,7 +3301,7 @@ struct rx_tpa_end_cmpl {
         * This value indicates what the inner packet determined for the
         * packet was.
         * - 2 TCP Packet
-        *     Indicates that the packet was IP and TCP.  This indicates
+        *     Indicates that the packet was IP and TCP. This indicates
         *     that the ip_cs field is valid and that the tcp_udp_cs
         *     field is valid and contains the TCP checksum.
         *     This also indicates that the payload_offset field is valid.
@@ -3310,14 +3321,14 @@ struct rx_tpa_end_cmpl {
        uint32_t        opaque;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        uint8_t agg_bufs_v1;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define RX_TPA_END_CMPL_V1           UINT32_C(0x1)
        /*
@@ -3333,7 +3344,7 @@ struct rx_tpa_end_cmpl {
        uint8_t tpa_segs;
        /*
         * This value indicates the offset in bytes from the beginning of the packet
-        * where the inner payload starts.  This value is valid for TCP, UDP,
+        * where the inner payload starts. This value is valid for TCP, UDP,
         * FCoE, and RoCE packets.
         *
         * A value of zero indicates an offset of 256 bytes.
@@ -3344,7 +3355,7 @@ struct rx_tpa_end_cmpl {
        #define RX_TPA_END_CMPL_UNUSED2     UINT32_C(0x1)
        /*
         * This is the aggregation ID that the completion is associated
-        * with.  Use this number to correlate the TPA start completion
+        * with. Use this number to correlate the TPA start completion
         * with the TPA end completion.
         */
        #define RX_TPA_END_CMPL_AGG_ID_MASK UINT32_C(0xfe)
@@ -3358,21 +3369,22 @@ struct rx_tpa_end_cmpl {
         * For GRO packets, this field is zero except for the following
         * sub-fields.
         * - tsdelta[31]
-        *     Timestamp present indication.  When '0', no Timestamp
-        *     option is in the packet.  When '1', then a Timestamp
+        *     Timestamp present indication. When '0', no Timestamp
+        *     option is in the packet. When '1', then a Timestamp
         *     option is present in the packet.
         */
        uint32_t        tsdelta;
-} __attribute__((packed));
+} __rte_packed;
 
-/* Last 16 bytes of rx_tpa_end_cmpl. */
+/*
+ * Last 16 bytes of rx_tpa_end_cmpl.
+ *
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is 0.
+ */
 /* rx_tpa_end_cmpl_hi (size:128b/16B) */
 struct rx_tpa_end_cmpl_hi {
-       /*
-        * This value is the number of duplicate ACKs that have been
-        * received as part of the TPA operation.
-        */
-       uint16_t        tpa_dup_acks;
+       uint32_t        tpa_dup_acks;
        /*
         * This value is the number of duplicate ACKs that have been
         * received as part of the TPA operation.
@@ -3380,28 +3392,13 @@ struct rx_tpa_end_cmpl_hi {
        #define RX_TPA_END_CMPL_TPA_DUP_ACKS_MASK UINT32_C(0xf)
        #define RX_TPA_END_CMPL_TPA_DUP_ACKS_SFT 0
        /*
-        * This value indicated the offset in bytes from the beginning of
-        * the packet where the inner payload starts. This value is valid
-        * for TCP, UDP, FCoE and RoCE packets
-        */
-       uint8_t payload_offset;
-       /*
-        * The value is the total number of aggregation buffers that were
-        * used in the TPA operation. All TPA aggregation buffer completions
-        * precede the TPA End completion. If the value is zero, then the
-        * aggregation is completely contained in the buffer space provided
-        * in the aggregation start completion.
-        * Note that the field is simply provided as a cross check.
-        */
-       uint8_t tpa_agg_bufs;
-       /*
-        * This value is the valid when TPA completion is active.  It
+        * This value is the valid when TPA completion is active. It
         * indicates the length of the longest segment of the TPA operation
         * for LRO mode and the length of the first segment in GRO mode.
         *
         * This value may be used by GRO software to re-construct the original
-        * packet stream from the TPA packet.  This is the length of all
-        * but the last segment for GRO.  In LRO mode this value may be used
+        * packet stream from the TPA packet. This is the length of all
+        * but the last segment for GRO. In LRO mode this value may be used
         * to indicate MSS size to the stack.
         */
        uint16_t        tpa_seg_len;
@@ -3410,8 +3407,8 @@ struct rx_tpa_end_cmpl_hi {
        uint16_t        errors_v2;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
        #define RX_TPA_END_CMPL_V2                             UINT32_C(0x1)
        #define RX_TPA_END_CMPL_ERRORS_MASK                    UINT32_C(0xfffe)
@@ -3419,32 +3416,23 @@ struct rx_tpa_end_cmpl_hi {
        /*
         * This error indicates that there was some sort of problem with
         * the BDs for the packet that was found after part of the
-        * packet was already placed.  The packet should be treated as
+        * packet was already placed. The packet should be treated as
         * invalid.
         */
        #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_MASK        UINT32_C(0xe)
        #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_SFT         1
-       /* No buffer error */
-       #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
-               (UINT32_C(0x0) << 1)
        /*
         * This error occurs when there is a fatal HW problem in
-        * the chip only.  It indicates that there were not
+        * the chip only. It indicates that there were not
         * BDs on chip but that there was adequate reservation.
         * provided by the TPA block.
         */
        #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_NOT_ON_CHIP \
                (UINT32_C(0x2) << 1)
-       /*
-        * Bad Format:
-        * BDs were not formatted correctly.
-        */
-       #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
-               (UINT32_C(0x3) << 1)
        /*
         * This error occurs when TPA block was not configured to
         * reserve adequate BDs for TPA operations on this RX
-        * ring.  All data for the TPA operation was not placed.
+        * ring. All data for the TPA operation was not placed.
         *
         * This error can also be generated when the number of
         * segments is not programmed correctly in TPA and the
@@ -3453,14 +3441,8 @@ struct rx_tpa_end_cmpl_hi {
         */
        #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_RSV_ERROR \
                (UINT32_C(0x4) << 1)
-       /*
-        * Flush:
-        * There was a bad_format error on the previous operation
-        */
-       #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
-               (UINT32_C(0x5) << 1)
        #define RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_LAST \
-               RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_FLUSH
+               RX_TPA_END_CMPL_ERRORS_BUFFER_ERROR_RSV_ERROR
        /* unused5 is 16 b */
        uint16_t        unused_4;
        /*
@@ -3468,2632 +3450,3147 @@ struct rx_tpa_end_cmpl_hi {
         * completion that corresponds to this TPA end completion.
         */
        uint32_t        start_opaque;
-} __attribute__((packed));
+} __rte_packed;
 
-/* rx_abuf_cmpl (size:128b/16B) */
-struct rx_abuf_cmpl {
-       uint16_t        type;
+/*
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is greater than 0.
+ */
+/* rx_tpa_v2_start_cmpl (size:128b/16B) */
+struct rx_tpa_v2_start_cmpl {
+       uint16_t        flags_type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define RX_ABUF_CMPL_TYPE_MASK  UINT32_C(0x3f)
-       #define RX_ABUF_CMPL_TYPE_SFT   0
+       #define RX_TPA_V2_START_CMPL_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define RX_TPA_V2_START_CMPL_TYPE_SFT                       0
        /*
-        * RX Aggregation Buffer completion :
-        * Completion of an L2 aggregation buffer in support of
-        * TPA, HDS, or Jumbo packet completion.  Length = 16B
+        * RX L2 TPA Start Completion:
+        * Completion at the beginning of a TPA operation.
+        * Length = 32B
         */
-       #define RX_ABUF_CMPL_TYPE_RX_AGG  UINT32_C(0x12)
-       #define RX_ABUF_CMPL_TYPE_LAST   RX_ABUF_CMPL_TYPE_RX_AGG
+       #define RX_TPA_V2_START_CMPL_TYPE_RX_TPA_START \
+               UINT32_C(0x13)
+       #define RX_TPA_V2_START_CMPL_TYPE_LAST \
+               RX_TPA_V2_START_CMPL_TYPE_RX_TPA_START
+       #define RX_TPA_V2_START_CMPL_FLAGS_MASK \
+               UINT32_C(0xffc0)
+       #define RX_TPA_V2_START_CMPL_FLAGS_SFT                      6
+       /* This bit will always be '0' for TPA start completions. */
+       #define RX_TPA_V2_START_CMPL_FLAGS_ERROR \
+               UINT32_C(0x40)
+       /* This field indicates how the packet was placed in the buffer. */
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_MASK \
+               UINT32_C(0x380)
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_SFT             7
        /*
-        * This is the length of the data for the packet stored in this
-        * aggregation buffer identified by the opaque value.  This does not
-        * include the length of any
-        * data placed in other aggregation BDs or in the packet or buffer
-        * BDs.   This length does not include any space added due to
-        * hdr_offset register during HDS placement mode.
+        * Jumbo:
+        * TPA Packet was placed using jumbo algorithm. This means
+        * that the first buffer will be filled with data before
+        * moving to aggregation buffers. Each aggregation buffer
+        * will be filled before moving to the next aggregation
+        * buffer.
         */
-       uint16_t        len;
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_JUMBO \
+               (UINT32_C(0x1) << 7)
        /*
-        * This is a copy of the opaque field from the RX BD this aggregation
-        * buffer corresponds to.
+        * Header/Data Separation:
+        * Packet was placed using Header/Data separation algorithm.
+        * The separation location is indicated by the itype field.
         */
-       uint32_t        opaque;
-       uint32_t        v;
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_HDS \
+               (UINT32_C(0x2) << 7)
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * GRO/Jumbo:
+        * Packet will be placed using GRO/Jumbo where the first
+        * packet is filled with data. Subsequent packets will be
+        * placed such that any one packet does not span two
+        * aggregation buffers unless it starts at the beginning of
+        * an aggregation buffer.
         */
-       #define RX_ABUF_CMPL_V     UINT32_C(0x1)
-       /* unused3 is 32 b */
-       uint32_t        unused_2;
-} __attribute__((packed));
-
-/* eject_cmpl (size:128b/16B) */
-struct eject_cmpl {
-       uint16_t        type;
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_GRO_JUMBO \
+               (UINT32_C(0x5) << 7)
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * GRO/Header-Data Separation:
+        * Packet will be placed using GRO/HDS where the header
+        * is in the first packet.
+        * Payload of each packet will be
+        * placed such that any one packet does not span two
+        * aggregation buffers unless it starts at the beginning of
+        * an aggregation buffer.
         */
-       #define EJECT_CMPL_TYPE_MASK       UINT32_C(0x3f)
-       #define EJECT_CMPL_TYPE_SFT        0
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_GRO_HDS \
+               (UINT32_C(0x6) << 7)
+       #define RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_LAST \
+               RX_TPA_V2_START_CMPL_FLAGS_PLACEMENT_GRO_HDS
+       /* This bit is '1' if the RSS field in this completion is valid. */
+       #define RX_TPA_V2_START_CMPL_FLAGS_RSS_VALID \
+               UINT32_C(0x400)
        /*
-        * Statistics Ejection Completion:
-        * Completion of statistics data ejection buffer.
-        * Length = 16B
+        * For devices that support timestamps, when this bit is cleared the
+        * `inner_l4_size_inner_l3_offset_inner_l2_offset_outer_l3_offset`
+        * field contains the 32b timestamp for
+        * the packet from the MAC. When this bit is set, the
+        * `inner_l4_size_inner_l3_offset_inner_l2_offset_outer_l3_offset`
+        * field contains the outer_l3_offset, inner_l2_offset,
+        * inner_l3_offset, and inner_l4_size.
         */
-       #define EJECT_CMPL_TYPE_STAT_EJECT   UINT32_C(0x1a)
-       #define EJECT_CMPL_TYPE_LAST        EJECT_CMPL_TYPE_STAT_EJECT
-       #define EJECT_CMPL_FLAGS_MASK      UINT32_C(0xffc0)
-       #define EJECT_CMPL_FLAGS_SFT       6
+       #define RX_TPA_V2_START_CMPL_FLAGS_TIMESTAMP_FLD_FORMAT \
+               UINT32_C(0x800)
        /*
-        * When this bit is '1', it indicates a packet that has an
-        * error of some type.  Type of error is indicated in
-        * error_flags.
+        * This value indicates what the inner packet determined for the
+        * packet was.
         */
-       #define EJECT_CMPL_FLAGS_ERROR      UINT32_C(0x40)
+       #define RX_TPA_V2_START_CMPL_FLAGS_ITYPE_MASK \
+               UINT32_C(0xf000)
+       #define RX_TPA_V2_START_CMPL_FLAGS_ITYPE_SFT                 12
        /*
-        * This is the length of the statistics data stored in this
-        * buffer.
+        * TCP Packet:
+        * Indicates that the packet was IP and TCP.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS_ITYPE_TCP \
+               (UINT32_C(0x2) << 12)
+       #define RX_TPA_V2_START_CMPL_FLAGS_ITYPE_LAST \
+               RX_TPA_V2_START_CMPL_FLAGS_ITYPE_TCP
+       /*
+        * This value indicates the amount of packet data written to the
+        * buffer the opaque field in this completion corresponds to.
         */
        uint16_t        len;
        /*
-        * This is a copy of the opaque field from the RX BD this ejection
-        * buffer corresponds to.
+        * This is a copy of the opaque field from the RX BD this completion
+        * corresponds to.
         */
        uint32_t        opaque;
-       uint16_t        v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define EJECT_CMPL_V                              UINT32_C(0x1)
-       #define EJECT_CMPL_ERRORS_MASK                    UINT32_C(0xfffe)
-       #define EJECT_CMPL_ERRORS_SFT                     1
+       uint8_t v1;
        /*
-        * This error indicates that there was some sort of problem with
-        * the BDs for statistics ejection. The statistics ejection should
-        * be treated as invalid
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_MASK        UINT32_C(0xe)
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_SFT         1
-       /* No buffer error */
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
-               (UINT32_C(0x0) << 1)
+       #define RX_TPA_V2_START_CMPL_V1 UINT32_C(0x1)
+       #define RX_TPA_V2_START_CMPL_LAST RX_TPA_V2_START_CMPL_V1
        /*
-        * Did Not Fit:
-        * Statistics did not fit into aggregation buffer provided.
+        * This is the RSS hash type for the packet. The value is packed
+        * {tuple_extrac_op[1:0],rss_profile_id[4:0],tuple_extrac_op[2]}.
+        *
+        * The value of tuple_extrac_op provides the information about
+        * what fields the hash was computed on.
+        * * 0: The RSS hash was computed over source IP address,
+        * destination IP address, source port, and destination port of inner
+        * IP and TCP or UDP headers. Note: For non-tunneled packets,
+        * the packet headers are considered inner packet headers for the RSS
+        * hash computation purpose.
+        * * 1: The RSS hash was computed over source IP address and destination
+        * IP address of inner IP header. Note: For non-tunneled packets,
+        * the packet headers are considered inner packet headers for the RSS
+        * hash computation purpose.
+        * * 2: The RSS hash was computed over source IP address,
+        * destination IP address, source port, and destination port of
+        * IP and TCP or UDP headers of outer tunnel headers.
+        * Note: For non-tunneled packets, this value is not applicable.
+        * * 3: The RSS hash was computed over source IP address and
+        * destination IP address of IP header of outer tunnel headers.
+        * Note: For non-tunneled packets, this value is not applicable.
+        *
+        * Note that 4-tuples values listed above are applicable
+        * for layer 4 protocols supported and enabled for RSS in the hardware,
+        * HWRM firmware, and drivers. For example, if RSS hash is supported and
+        * enabled for TCP traffic only, then the values of tuple_extract_op
+        * corresponding to 4-tuples are only valid for TCP traffic.
         */
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_DID_NOT_FIT \
-               (UINT32_C(0x1) << 1)
+       uint8_t rss_hash_type;
+       /*
+        * This is the aggregation ID that the completion is associated
+        * with. Use this number to correlate the TPA start completion
+        * with the TPA end completion.
+        */
+       uint16_t        agg_id;
+       /*
+        * This value is the RSS hash value calculated for the packet
+        * based on the mode bits and key value in the VNIC.
+        */
+       uint32_t        rss_hash;
+} __rte_packed;
+
+/*
+ * Last 16 bytes of rx_tpa_v2_start_cmpl.
+ *
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is greater than 0.
+ */
+/* rx_tpa_v2_start_cmpl_hi (size:128b/16B) */
+struct rx_tpa_v2_start_cmpl_hi {
+       uint32_t        flags2;
+       /*
+        * This indicates that the ip checksum was calculated for the
+        * inner packet and that the sum passed for all segments
+        * included in the aggregation.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_IP_CS_CALC \
+               UINT32_C(0x1)
+       /*
+        * This indicates that the TCP, UDP or ICMP checksum was
+        * calculated for the inner packet and that the sum passed
+        * for all segments included in the aggregation.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_L4_CS_CALC \
+               UINT32_C(0x2)
+       /*
+        * This indicates that the ip checksum was calculated for the
+        * tunnel header and that the sum passed for all segments
+        * included in the aggregation.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_T_IP_CS_CALC \
+               UINT32_C(0x4)
+       /*
+        * This indicates that the UDP checksum was
+        * calculated for the tunnel packet and that the sum passed for
+        * all segments included in the aggregation.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_T_L4_CS_CALC \
+               UINT32_C(0x8)
+       /* This value indicates what format the metadata field is. */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_MASK \
+               UINT32_C(0xf0)
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_SFT            4
+       /* No metadata informtaion. Value is zero. */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_NONE \
+               (UINT32_C(0x0) << 4)
+       /*
+        * The metadata field contains the VLAN tag and TPID value.
+        * - metadata[11:0] contains the vlan VID value.
+        * - metadata[12] contains the vlan DE value.
+        * - metadata[15:13] contains the vlan PRI value.
+        * - metadata[31:16] contains the vlan TPID value.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_VLAN \
+               (UINT32_C(0x1) << 4)
+       /*
+        * If ext_meta_format is equal to 1, the metadata field
+        * contains the lower 16b of the tunnel ID value, justified
+        * to LSB
+        * - VXLAN = VNI[23:0] -> VXLAN Network ID
+        * - Geneve (NGE) = VNI[23:0] a-> Virtual Network Identifier.
+        * - NVGRE = TNI[23:0] -> Tenant Network ID
+        * - GRE = KEY[31:0 -> key fieled with bit mask. zero if K = 0
+        * - IPV4 = 0 (not populated)
+        * - IPV6 = Flow Label[19:0]
+        * - PPPoE = sessionID[15:0]
+        * - MPLs = Outer label[19:0]
+        * - UPAR = Selected[31:0] with bit mask
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_TUNNEL_ID \
+               (UINT32_C(0x2) << 4)
+       /*
+        * if ext_meta_format is equal to 1, metadata field contains
+        * 16b metadata from the prepended header (chdr_data).
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_CHDR_DATA \
+               (UINT32_C(0x3) << 4)
+       /*
+        * If ext_meta_format is equal to 1, the metadata field contains
+        * the outer_l3_offset, inner_l2_offset, inner_l3_offset and
+        * inner_l4_size.
+        * - metadata[8:0] contains the outer_l3_offset.
+        * - metadata[17:9] contains the inner_l2_offset.
+        * - metadata[26:18] contains the inner_l3_offset.
+        * - metadata[31:27] contains the inner_l4_size.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_HDR_OFFSET \
+               (UINT32_C(0x4) << 4)
+       #define RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_LAST \
+               RX_TPA_V2_START_CMPL_FLAGS2_META_FORMAT_HDR_OFFSET
+       /*
+        * This field indicates the IP type for the inner-most IP header.
+        * A value of '0' indicates IPv4. A value of '1' indicates IPv6.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_IP_TYPE \
+               UINT32_C(0x100)
+       /*
+        * This indicates that the complete 1's complement checksum was
+        * calculated for the packet.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_CALC \
+               UINT32_C(0x200)
+       /*
+        * The combination of this value and meta_format indicated what
+        * format the metadata field is.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_EXT_META_FORMAT_MASK \
+               UINT32_C(0xc00)
+       #define RX_TPA_V2_START_CMPL_FLAGS2_EXT_META_FORMAT_SFT        10
+       /*
+        * This value is the complete 1's complement checksum calculated from
+        * the start of the outer L3 header to the end of the packet (not
+        * including the ethernet crc). It is valid when the
+        * 'complete_checksum_calc' flag is set. For TPA Start completions,
+        * the complete checksum is calculated for the first packet in the
+        * aggregation only.
+        */
+       #define RX_TPA_V2_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_MASK \
+               UINT32_C(0xffff0000)
+       #define RX_TPA_V2_START_CMPL_FLAGS2_COMPLETE_CHECKSUM_SFT      16
+       /*
+        * This is data from the CFA block as indicated by the meta_format
+        * field.
+        */
+       uint32_t        metadata;
+       /* When {ext_meta_format,meta_format}=1, this value is the VLAN VID. */
+       #define RX_TPA_V2_START_CMPL_METADATA_VID_MASK UINT32_C(0xfff)
+       #define RX_TPA_V2_START_CMPL_METADATA_VID_SFT  0
+       /* When {ext_meta_format,meta_format}=1, this value is the VLAN DE. */
+       #define RX_TPA_V2_START_CMPL_METADATA_DE       UINT32_C(0x1000)
+       /* When {ext_meta_format,meta_format}=1, this value is the VLAN PRI. */
+       #define RX_TPA_V2_START_CMPL_METADATA_PRI_MASK UINT32_C(0xe000)
+       #define RX_TPA_V2_START_CMPL_METADATA_PRI_SFT  13
+       /* When {ext_meta_format,meta_format}=1, this value is the VLAN TPID. */
+       #define RX_TPA_V2_START_CMPL_METADATA_TPID_MASK UINT32_C(0xffff0000)
+       #define RX_TPA_V2_START_CMPL_METADATA_TPID_SFT 16
+       uint16_t        errors_v2;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define RX_TPA_V2_START_CMPL_V2 \
+               UINT32_C(0x1)
+       #define RX_TPA_V2_START_CMPL_ERRORS_MASK \
+               UINT32_C(0xfffe)
+       #define RX_TPA_V2_START_CMPL_ERRORS_SFT                    1
+       /*
+        * This error indicates that there was some sort of problem with
+        * the BDs for the packet that was found after part of the
+        * packet was already placed. The packet should be treated as
+        * invalid.
+        */
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_MASK \
+               UINT32_C(0xe)
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_SFT        1
+       /* No buffer error */
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
+               (UINT32_C(0x0) << 1)
        /*
         * Bad Format:
         * BDs were not formatted correctly.
         */
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
                (UINT32_C(0x3) << 1)
        /*
         * Flush:
         * There was a bad_format error on the previous operation
         */
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
                (UINT32_C(0x5) << 1)
-       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_LAST \
-               EJECT_CMPL_ERRORS_BUFFER_ERROR_FLUSH
-       /* reserved16 is 16 b */
-       uint16_t        reserved16;
-       /* unused3 is 32 b */
-       uint32_t        unused_2;
-} __attribute__((packed));
-
-/* hwrm_cmpl (size:128b/16B) */
-struct hwrm_cmpl {
-       uint16_t        type;
-       /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
-        */
-       #define HWRM_CMPL_TYPE_MASK     UINT32_C(0x3f)
-       #define HWRM_CMPL_TYPE_SFT      0
+       #define RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_LAST \
+               RX_TPA_V2_START_CMPL_ERRORS_BUFFER_ERROR_FLUSH
        /*
-        * HWRM Command Completion:
-        * Completion of an HWRM command.
+        * This field identifies the CFA action rule that was used for this
+        * packet.
         */
-       #define HWRM_CMPL_TYPE_HWRM_DONE  UINT32_C(0x20)
-       #define HWRM_CMPL_TYPE_LAST      HWRM_CMPL_TYPE_HWRM_DONE
-       /* This is the sequence_id of the HWRM command that has completed. */
-       uint16_t        sequence_id;
-       /* unused2 is 32 b */
-       uint32_t        unused_1;
-       uint32_t        v;
+       uint16_t        cfa_code;
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * For devices that support timestamps this field is overridden
+        * with the timestamp value. When `flags.timestamp_fld_format` is
+        * cleared, this field contains the 32b timestamp for the packet from the
+        * MAC.
+        *
+        * When `flags.timestamp_fld_format` is set, this field contains the
+        * outer_l3_offset, inner_l2_offset, inner_l3_offset, and inner_l4_size
+        * as defined below.
         */
-       #define HWRM_CMPL_V     UINT32_C(0x1)
-       /* unused4 is 32 b */
-       uint32_t        unused_3;
-} __attribute__((packed));
-
-/* hwrm_fwd_req_cmpl (size:128b/16B) */
-struct hwrm_fwd_req_cmpl {
+       uint32_t        inner_l4_size_inner_l3_offset_inner_l2_offset_outer_l3_offset;
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * This is the offset from the beginning of the packet in bytes for
+        * the outer L3 header. If there is no outer L3 header, then this
+        * value is zero.
         */
-       uint16_t        req_len_type;
+       #define RX_TPA_V2_START_CMPL_OUTER_L3_OFFSET_MASK UINT32_C(0x1ff)
+       #define RX_TPA_V2_START_CMPL_OUTER_L3_OFFSET_SFT 0
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * This is the offset from the beginning of the packet in bytes for
+        * the inner most L2 header.
         */
-       #define HWRM_FWD_REQ_CMPL_TYPE_MASK        UINT32_C(0x3f)
-       #define HWRM_FWD_REQ_CMPL_TYPE_SFT         0
-       /* Forwarded HWRM Request */
-       #define HWRM_FWD_REQ_CMPL_TYPE_HWRM_FWD_REQ  UINT32_C(0x22)
-       #define HWRM_FWD_REQ_CMPL_TYPE_LAST \
-               HWRM_FWD_REQ_CMPL_TYPE_HWRM_FWD_REQ
-       /* Length of forwarded request in bytes. */
-       #define HWRM_FWD_REQ_CMPL_REQ_LEN_MASK     UINT32_C(0xffc0)
-       #define HWRM_FWD_REQ_CMPL_REQ_LEN_SFT      6
+       #define RX_TPA_V2_START_CMPL_INNER_L2_OFFSET_MASK UINT32_C(0x3fe00)
+       #define RX_TPA_V2_START_CMPL_INNER_L2_OFFSET_SFT 9
        /*
-        * Source ID of this request.
-        * Typically used in forwarding requests and responses.
-        * 0x0 - 0xFFF8 - Used for function ids
-        * 0xFFF8 - 0xFFFE - Reserved for internal processors
-        * 0xFFFF - HWRM
+        * This is the offset from the beginning of the packet in bytes for
+        * the inner most L3 header.
         */
-       uint16_t        source_id;
-       /* unused1 is 32 b */
-       uint32_t        unused0;
-       /* Address of forwarded request. */
-       uint32_t        req_buf_addr_v[2];
+       #define RX_TPA_V2_START_CMPL_INNER_L3_OFFSET_MASK UINT32_C(0x7fc0000)
+       #define RX_TPA_V2_START_CMPL_INNER_L3_OFFSET_SFT 18
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * This is the size in bytes of the inner most L4 header.
+        * This can be subtracted from the payload_offset to determine
+        * the start of the inner most L4 header.
         */
-       #define HWRM_FWD_REQ_CMPL_V                UINT32_C(0x1)
-       /* Address of forwarded request. */
-       #define HWRM_FWD_REQ_CMPL_REQ_BUF_ADDR_MASK UINT32_C(0xfffffffe)
-       #define HWRM_FWD_REQ_CMPL_REQ_BUF_ADDR_SFT 1
-} __attribute__((packed));
+       #define RX_TPA_V2_START_CMPL_INNER_L4_SIZE_MASK  UINT32_C(0xf8000000)
+       #define RX_TPA_V2_START_CMPL_INNER_L4_SIZE_SFT   27
+} __rte_packed;
 
-/* hwrm_fwd_resp_cmpl (size:128b/16B) */
-struct hwrm_fwd_resp_cmpl {
-       uint16_t        type;
+/*
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is greater than 0.
+ */
+/* rx_tpa_v2_end_cmpl (size:128b/16B) */
+struct rx_tpa_v2_end_cmpl {
+       uint16_t        flags_type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_FWD_RESP_CMPL_TYPE_MASK         UINT32_C(0x3f)
-       #define HWRM_FWD_RESP_CMPL_TYPE_SFT          0
-       /* Forwarded HWRM Response */
-       #define HWRM_FWD_RESP_CMPL_TYPE_HWRM_FWD_RESP  UINT32_C(0x24)
-       #define HWRM_FWD_RESP_CMPL_TYPE_LAST \
-               HWRM_FWD_RESP_CMPL_TYPE_HWRM_FWD_RESP
+       #define RX_TPA_V2_END_CMPL_TYPE_MASK                UINT32_C(0x3f)
+       #define RX_TPA_V2_END_CMPL_TYPE_SFT                 0
        /*
-        * Source ID of this response.
-        * Typically used in forwarding requests and responses.
-        * 0x0 - 0xFFF8 - Used for function ids
-        * 0xFFF8 - 0xFFFE - Reserved for internal processors
-        * 0xFFFF - HWRM
-        */
-       uint16_t        source_id;
-       /* Length of forwarded response in bytes. */
-       uint16_t        resp_len;
-       /* unused2 is 16 b */
-       uint16_t        unused_1;
-       /* Address of forwarded request. */
-       uint32_t        resp_buf_addr_v[2];
-       /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * RX L2 TPA End Completion:
+        * Completion at the end of a TPA operation.
+        * Length = 32B
         */
-       #define HWRM_FWD_RESP_CMPL_V                 UINT32_C(0x1)
-       /* Address of forwarded request. */
-       #define HWRM_FWD_RESP_CMPL_RESP_BUF_ADDR_MASK UINT32_C(0xfffffffe)
-       #define HWRM_FWD_RESP_CMPL_RESP_BUF_ADDR_SFT 1
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl (size:128b/16B) */
-struct hwrm_async_event_cmpl {
-       uint16_t        type;
+       #define RX_TPA_V2_END_CMPL_TYPE_RX_TPA_END            UINT32_C(0x15)
+       #define RX_TPA_V2_END_CMPL_TYPE_LAST \
+               RX_TPA_V2_END_CMPL_TYPE_RX_TPA_END
+       #define RX_TPA_V2_END_CMPL_FLAGS_MASK               UINT32_C(0xffc0)
+       #define RX_TPA_V2_END_CMPL_FLAGS_SFT                6
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * When this bit is '1', it indicates a packet that has an
+        * error of some type. Type of error is indicated in
+        * error_flags.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_TYPE_MASK            UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_TYPE_HWRM_ASYNC_EVENT  UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link status changed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_STATUS_CHANGE \
-               UINT32_C(0x0)
-       /* Link MTU changed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_MTU_CHANGE \
-               UINT32_C(0x1)
-       /* Link speed changed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CHANGE \
-               UINT32_C(0x2)
-       /* DCB Configuration changed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DCB_CONFIG_CHANGE \
-               UINT32_C(0x3)
-       /* Port connection not allowed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PORT_CONN_NOT_ALLOWED \
-               UINT32_C(0x4)
-       /* Link speed configuration was not allowed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED \
-               UINT32_C(0x5)
-       /* Link speed configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CFG_CHANGE \
-               UINT32_C(0x6)
-       /* Port PHY configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PORT_PHY_CFG_CHANGE \
-               UINT32_C(0x7)
-       /* Reset notification to clients */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_RESET_NOTIFY \
-               UINT32_C(0x8)
-       /* Master function selection event */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_ERROR_RECOVERY \
-               UINT32_C(0x9)
-       /* Function driver unloaded */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_DRVR_UNLOAD \
-               UINT32_C(0x10)
-       /* Function driver loaded */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_DRVR_LOAD \
-               UINT32_C(0x11)
-       /* Function FLR related processing has completed */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_FLR_PROC_CMPLT \
-               UINT32_C(0x12)
-       /* PF driver unloaded */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_DRVR_UNLOAD \
-               UINT32_C(0x20)
-       /* PF driver loaded */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_DRVR_LOAD \
-               UINT32_C(0x21)
-       /* VF Function Level Reset (FLR) */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_FLR \
-               UINT32_C(0x30)
-       /* VF MAC Address Change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_MAC_ADDR_CHANGE \
-               UINT32_C(0x31)
-       /* PF-VF communication channel status change. */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_VF_COMM_STATUS_CHANGE \
-               UINT32_C(0x32)
-       /* VF Configuration Change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_CFG_CHANGE \
-               UINT32_C(0x33)
-       /* LLFC/PFC Configuration Change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LLFC_PFC_CHANGE \
-               UINT32_C(0x34)
-       /* Default VNIC Configuration Change */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DEFAULT_VNIC_CHANGE \
-               UINT32_C(0x35)
-       /* HW flow aged */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HW_FLOW_AGED \
-               UINT32_C(0x36)
+       #define RX_TPA_V2_END_CMPL_FLAGS_ERROR               UINT32_C(0x40)
+       /* This field indicates how the packet was placed in the buffer. */
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_MASK      UINT32_C(0x380)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_SFT       7
        /*
-        * A debug notification being posted to the driver. These
-        * notifications are purely for diagnostic purpose and should not be
-        * used for functional purpose. The driver is not supposed to act
-        * on these messages except to log/record it.
+        * Jumbo:
+        * TPA Packet was placed using jumbo algorithm. This means
+        * that the first buffer will be filled with data before
+        * moving to aggregation buffers. Each aggregation buffer
+        * will be filled before moving to the next aggregation
+        * buffer.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DEBUG_NOTIFICATION \
-               UINT32_C(0x37)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_JUMBO \
+               (UINT32_C(0x1) << 7)
        /*
-        * A EEM flow cached memory flush request event being posted to the PF
-        * driver.
+        * Header/Data Separation:
+        * Packet was placed using Header/Data separation algorithm.
+        * The separation location is indicated by the itype field.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CACHE_FLUSH_REQ \
-               UINT32_C(0x38)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_HDS \
+               (UINT32_C(0x2) << 7)
        /*
-        * A EEM flow cache memory flush completion event being posted to the
-        * firmware by the PF driver. This is indication that host EEM flush
-        * has completed by the PF.
+        * GRO/Jumbo:
+        * Packet will be placed using GRO/Jumbo where the first
+        * packet is filled with data. Subsequent packets will be
+        * placed such that any one packet does not span two
+        * aggregation buffers unless it starts at the beginning of
+        * an aggregation buffer.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CACHE_FLUSH_DONE \
-               UINT32_C(0x39)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_GRO_JUMBO \
+               (UINT32_C(0x5) << 7)
        /*
-        * A tcp flag action change event being posted to the PF or trusted VF
-        * driver by the firmware. The PF or trusted VF driver should query
-        * the firmware for the new TCP flag action update after receiving
-        * this async event.
+        * GRO/Header-Data Separation:
+        * Packet will be placed using GRO/HDS where the header
+        * is in the first packet.
+        * Payload of each packet will be
+        * placed such that any one packet does not span two
+        * aggregation buffers unless it starts at the beginning of
+        * an aggregation buffer.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_TCP_FLAG_ACTION_CHANGE \
-               UINT32_C(0x3a)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_GRO_HDS \
+               (UINT32_C(0x6) << 7)
+       #define RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_LAST \
+               RX_TPA_V2_END_CMPL_FLAGS_PLACEMENT_GRO_HDS
+       /* unused is 2 b */
+       #define RX_TPA_V2_END_CMPL_FLAGS_UNUSED_MASK         UINT32_C(0xc00)
+       #define RX_TPA_V2_END_CMPL_FLAGS_UNUSED_SFT          10
        /*
-        * A eem flow active event being posted to the PF or trusted VF driver
-        * by the firmware. The PF or trusted VF driver should update the
-        * flow's aging timer after receiving this async event.
+        * This value indicates what the inner packet determined for the
+        * packet was.
+        * - 2 TCP Packet
+        *     Indicates that the packet was IP and TCP. This indicates
+        *     that the ip_cs field is valid and that the tcp_udp_cs
+        *     field is valid and contains the TCP checksum.
+        *     This also indicates that the payload_offset field is valid.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_FLOW_ACTIVE \
-               UINT32_C(0x3b)
+       #define RX_TPA_V2_END_CMPL_FLAGS_ITYPE_MASK          UINT32_C(0xf000)
+       #define RX_TPA_V2_END_CMPL_FLAGS_ITYPE_SFT           12
        /*
-        * A eem cfg change event being posted to the trusted VF driver by the
-        * firmware if the parent PF EEM configuration changed.
+        * This value is zero for TPA End completions.
+        * There is no data in the buffer that corresponds to the opaque
+        * value in this completion.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CFG_CHANGE \
-               UINT32_C(0x3c)
+       uint16_t        len;
        /*
-        * A trace log message. This contains firmware trace logs string
-        * embedded in the asynchronous message. This is an experimental
-        * event, not meant for production use at this time.
+        * This is a copy of the opaque field from the RX BD this completion
+        * corresponds to.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FW_TRACE_MSG \
-               UINT32_C(0xfe)
-       /* HWRM Error */
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HWRM_ERROR \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HWRM_ERROR
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       uint32_t        opaque;
+       uint8_t v1;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_V          UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl_link_status_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_link_status_change {
-       uint16_t        type;
+       #define RX_TPA_V2_END_CMPL_V1     UINT32_C(0x1)
+       /* This value is the number of segments in the TPA operation. */
+       uint8_t tpa_segs;
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * This is the aggregation ID that the completion is associated
+        * with. Use this number to correlate the TPA start completion
+        * with the TPA end completion.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link status changed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LINK_STATUS_CHANGE \
-               UINT32_C(0x0)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LINK_STATUS_CHANGE
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       uint16_t        agg_id;
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * For non-GRO packets, this value is the
+        * timestamp delta between earliest and latest timestamp values for
+        * TPA packet. If packets were not time stamped, then delta will be
+        * zero.
+        *
+        * For GRO packets, this field is zero except for the following
+        * sub-fields.
+        * - tsdelta[31]
+        *     Timestamp present indication. When '0', no Timestamp
+        *     option is in the packet. When '1', then a Timestamp
+        *     option is present in the packet.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* Indicates link status change */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE \
-               UINT32_C(0x1)
+       uint32_t        tsdelta;
+} __rte_packed;
+
+/*
+ * Last 16 bytes of rx_tpa_v2_end_cmpl.
+ *
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is greater than 0.
+ */
+/* rx_tpa_v2_end_cmpl_hi (size:128b/16B) */
+struct rx_tpa_v2_end_cmpl_hi {
        /*
-        * If this bit set to 0, then it indicates that the link
-        * was up and it went down.
+        * This value is the number of duplicate ACKs that have been
+        * received as part of the TPA operation.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_DOWN \
-               UINT32_C(0x0)
+       uint16_t        tpa_dup_acks;
        /*
-        * If this bit is set to 1, then it indicates that the link
-        * was down and it went up.
+        * This value is the number of duplicate ACKs that have been
+        * received as part of the TPA operation.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_UP \
-               UINT32_C(0x1)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_UP
-       /* Indicates the physical port this link status change occur */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_MASK \
+       #define RX_TPA_V2_END_CMPL_TPA_DUP_ACKS_MASK UINT32_C(0xf)
+       #define RX_TPA_V2_END_CMPL_TPA_DUP_ACKS_SFT 0
+       /*
+        * This value indicated the offset in bytes from the beginning of
+        * the packet where the inner payload starts. This value is valid
+        * for TCP, UDP, FCoE and RoCE packets
+        */
+       uint8_t payload_offset;
+       /*
+        * The value is the total number of aggregation buffers that were
+        * used in the TPA operation. All TPA aggregation buffer completions
+        * precede the TPA End completion. If the value is zero, then the
+        * aggregation is completely contained in the buffer space provided
+        * in the aggregation start completion.
+        * Note that the field is simply provided as a cross check.
+        */
+       uint8_t tpa_agg_bufs;
+       /*
+        * This value is the valid when TPA completion is active. It
+        * indicates the length of the longest segment of the TPA operation
+        * for LRO mode and the length of the first segment in GRO mode.
+        *
+        * This value may be used by GRO software to re-construct the original
+        * packet stream from the TPA packet. This is the length of all
+        * but the last segment for GRO. In LRO mode this value may be used
+        * to indicate MSS size to the stack.
+        */
+       uint16_t        tpa_seg_len;
+       uint16_t        unused_1;
+       uint16_t        errors_v2;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define RX_TPA_V2_END_CMPL_V2                             UINT32_C(0x1)
+       #define RX_TPA_V2_END_CMPL_ERRORS_MASK \
+               UINT32_C(0xfffe)
+       #define RX_TPA_V2_END_CMPL_ERRORS_SFT                     1
+       /*
+        * This error indicates that there was some sort of problem with
+        * the BDs for the packet that was found after part of the
+        * packet was already placed. The packet should be treated as
+        * invalid.
+        */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_MASK \
                UINT32_C(0xe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_SFT \
-               1
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff0)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               4
-       /* Indicates the physical function this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PF_ID_MASK \
-               UINT32_C(0xff00000)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PF_ID_SFT \
-               20
-} __attribute__((packed));
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_SFT         1
+       /* No buffer error */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
+               (UINT32_C(0x0) << 1)
+       /*
+        * This error occurs when there is a fatal HW problem in
+        * the chip only. It indicates that there were not
+        * BDs on chip but that there was adequate reservation.
+        * provided by the TPA block.
+        */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_NOT_ON_CHIP \
+               (UINT32_C(0x2) << 1)
+       /*
+        * Bad Format:
+        * BDs were not formatted correctly.
+        */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
+               (UINT32_C(0x3) << 1)
+       /*
+        * This error occurs when TPA block was not configured to
+        * reserve adequate BDs for TPA operations on this RX
+        * ring. All data for the TPA operation was not placed.
+        *
+        * This error can also be generated when the number of
+        * segments is not programmed correctly in TPA and the
+        * 33 total aggregation buffers allowed for the TPA
+        * operation has been exceeded.
+        */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_RSV_ERROR \
+               (UINT32_C(0x4) << 1)
+       /*
+        * Flush:
+        * There was a bad_format error on the previous operation
+        */
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
+               (UINT32_C(0x5) << 1)
+       #define RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_LAST \
+               RX_TPA_V2_END_CMPL_ERRORS_BUFFER_ERROR_FLUSH
+       uint16_t        unused_2;
+       /*
+        * This is the opaque value that was completed for the TPA start
+        * completion that corresponds to this TPA end completion.
+        */
+       uint32_t        start_opaque;
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_link_mtu_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_link_mtu_change {
+/*
+ * This TPA completion structure is used on devices where the
+ * `hwrm_vnic_qcaps.max_aggs_supported` value is greater than 0.
+ */
+/* rx_tpa_v2_abuf_cmpl (size:128b/16B) */
+struct rx_tpa_v2_abuf_cmpl {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link MTU changed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LINK_MTU_CHANGE \
-               UINT32_C(0x1)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LINK_MTU_CHANGE
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       #define RX_TPA_V2_ABUF_CMPL_TYPE_MASK      UINT32_C(0x3f)
+       #define RX_TPA_V2_ABUF_CMPL_TYPE_SFT       0
+       /*
+        * RX TPA Aggregation Buffer completion :
+        * Completion of an L2 aggregation buffer in support of
+        * TPA packet completion. Length = 16B
+        */
+       #define RX_TPA_V2_ABUF_CMPL_TYPE_RX_TPA_AGG  UINT32_C(0x16)
+       #define RX_TPA_V2_ABUF_CMPL_TYPE_LAST \
+               RX_TPA_V2_ABUF_CMPL_TYPE_RX_TPA_AGG
+       /*
+        * This is the length of the data for the packet stored in this
+        * aggregation buffer identified by the opaque value. This does not
+        * include the length of any
+        * data placed in other aggregation BDs or in the packet or buffer
+        * BDs. This length does not include any space added due to
+        * hdr_offset register during HDS placement mode.
+        */
+       uint16_t        len;
+       /*
+        * This is a copy of the opaque field from the RX BD this aggregation
+        * buffer corresponds to.
+        */
+       uint32_t        opaque;
+       uint16_t        v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_V          UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* The new MTU of the link in bytes. */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_DATA1_NEW_MTU_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_DATA1_NEW_MTU_SFT 0
-} __attribute__((packed));
+       #define RX_TPA_V2_ABUF_CMPL_V     UINT32_C(0x1)
+       /*
+        * This is the aggregation ID that the completion is associated with. Use
+        * this number to correlate the TPA agg completion with the TPA start
+        * completion and the TPA end completion.
+        */
+       uint16_t        agg_id;
+       uint32_t        unused_1;
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_link_speed_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_link_speed_change {
+/* rx_abuf_cmpl (size:128b/16B) */
+struct rx_abuf_cmpl {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link speed changed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LINK_SPEED_CHANGE \
-               UINT32_C(0x2)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LINK_SPEED_CHANGE
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       #define RX_ABUF_CMPL_TYPE_MASK  UINT32_C(0x3f)
+       #define RX_ABUF_CMPL_TYPE_SFT   0
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * RX Aggregation Buffer completion :
+        * Completion of an L2 aggregation buffer in support of
+        * TPA, HDS, or Jumbo packet completion. Length = 16B
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
+       #define RX_ABUF_CMPL_TYPE_RX_AGG  UINT32_C(0x12)
+       #define RX_ABUF_CMPL_TYPE_LAST   RX_ABUF_CMPL_TYPE_RX_AGG
        /*
-        * When this bit is '1', the link was forced to the
-        * force_link_speed value.
+        * This is the length of the data for the packet stored in this
+        * aggregation buffer identified by the opaque value. This does not
+        * include the length of any
+        * data placed in other aggregation BDs or in the packet or buffer
+        * BDs. This length does not include any space added due to
+        * hdr_offset register during HDS placement mode.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_FORCE \
-               UINT32_C(0x1)
-       /* The new link speed in 100 Mbps units. */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_MASK \
-               UINT32_C(0xfffe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_SFT \
-               1
-       /* 100Mb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100MB \
-               (UINT32_C(0x1) << 1)
-       /* 1Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_1GB \
-               (UINT32_C(0xa) << 1)
-       /* 2Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_2GB \
-               (UINT32_C(0x14) << 1)
-       /* 25Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_2_5GB \
-               (UINT32_C(0x19) << 1)
-       /* 10Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_10GB \
-               (UINT32_C(0x64) << 1)
-       /* 20Mb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_20GB \
-               (UINT32_C(0xc8) << 1)
-       /* 25Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_25GB \
-               (UINT32_C(0xfa) << 1)
-       /* 40Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_40GB \
-               (UINT32_C(0x190) << 1)
-       /* 50Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_50GB \
-               (UINT32_C(0x1f4) << 1)
-       /* 100Gb link speed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100GB \
-               (UINT32_C(0x3e8) << 1)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100GB
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               16
-} __attribute__((packed));
+       uint16_t        len;
+       /*
+        * This is a copy of the opaque field from the RX BD this aggregation
+        * buffer corresponds to.
+        */
+       uint32_t        opaque;
+       uint32_t        v;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define RX_ABUF_CMPL_V     UINT32_C(0x1)
+       /* unused3 is 32 b */
+       uint32_t        unused_2;
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_dcb_config_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_dcb_config_change {
+/* eject_cmpl (size:128b/16B) */
+struct eject_cmpl {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* DCB Configuration changed */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_DCB_CONFIG_CHANGE \
-               UINT32_C(0x3)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_DCB_CONFIG_CHANGE
-       /* Event specific data */
-       uint32_t        event_data2;
-       /* ETS configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_ETS \
-               UINT32_C(0x1)
-       /* PFC configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_PFC \
-               UINT32_C(0x2)
-       /* APP configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_APP \
-               UINT32_C(0x4)
-       uint8_t opaque_v;
+       #define EJECT_CMPL_TYPE_MASK       UINT32_C(0x3f)
+       #define EJECT_CMPL_TYPE_SFT        0
        /*
-        * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * Statistics Ejection Completion:
+        * Completion of statistics data ejection buffer.
+        * Length = 16B
         */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               0
-       /* Priority recommended for RoCE traffic */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_MASK \
-               UINT32_C(0xff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_SFT \
-               16
-       /* none is 255 */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_NONE \
-               (UINT32_C(0xff) << 16)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_NONE
-       /* Priority recommended for L2 traffic */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_MASK \
-               UINT32_C(0xff000000)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_SFT \
-               24
-       /* none is 255 */
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_NONE \
-               (UINT32_C(0xff) << 24)
-       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_NONE
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl_port_conn_not_allowed (size:128b/16B) */
-struct hwrm_async_event_cmpl_port_conn_not_allowed {
-       uint16_t        type;
+       #define EJECT_CMPL_TYPE_STAT_EJECT   UINT32_C(0x1a)
+       #define EJECT_CMPL_TYPE_LAST        EJECT_CMPL_TYPE_STAT_EJECT
+       #define EJECT_CMPL_FLAGS_MASK      UINT32_C(0xffc0)
+       #define EJECT_CMPL_FLAGS_SFT       6
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * When this bit is '1', it indicates a packet that has an
+        * error of some type. Type of error is indicated in
+        * error_flags.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_SFT \
-               0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Port connection not allowed */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_PORT_CONN_NOT_ALLOWED \
-               UINT32_C(0x4)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_PORT_CONN_NOT_ALLOWED
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       #define EJECT_CMPL_FLAGS_ERROR      UINT32_C(0x40)
+       /*
+        * This is the length of the statistics data stored in this
+        * buffer.
+        */
+       uint16_t        len;
+       /*
+        * This is a copy of the opaque field from the RX BD this ejection
+        * buffer corresponds to.
+        */
+       uint32_t        opaque;
+       uint16_t        v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_PORT_ID_SFT \
-               0
+       #define EJECT_CMPL_V                              UINT32_C(0x1)
+       #define EJECT_CMPL_ERRORS_MASK                    UINT32_C(0xfffe)
+       #define EJECT_CMPL_ERRORS_SFT                     1
        /*
-        * This value indicates the current port level enforcement policy
-        * for the optics module when there is an optical module mismatch
-        * and port is not connected.
+        * This error indicates that there was some sort of problem with
+        * the BDs for statistics ejection. The statistics ejection should
+        * be treated as invalid
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_MASK \
-               UINT32_C(0xff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_SFT \
-               16
-       /* No enforcement */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_NONE \
-               (UINT32_C(0x0) << 16)
-       /* Disable Transmit side Laser. */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_DISABLETX \
-               (UINT32_C(0x1) << 16)
-       /* Raise a warning message. */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_WARNINGMSG \
-               (UINT32_C(0x2) << 16)
-       /* Power down the module. */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_PWRDOWN \
-               (UINT32_C(0x3) << 16)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_PWRDOWN
-} __attribute__((packed));
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_MASK        UINT32_C(0xe)
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_SFT         1
+       /* No buffer error */
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_NO_BUFFER \
+               (UINT32_C(0x0) << 1)
+       /*
+        * Did Not Fit:
+        * Statistics did not fit into aggregation buffer provided.
+        */
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_DID_NOT_FIT \
+               (UINT32_C(0x1) << 1)
+       /*
+        * Bad Format:
+        * BDs were not formatted correctly.
+        */
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_BAD_FORMAT \
+               (UINT32_C(0x3) << 1)
+       /*
+        * Flush:
+        * There was a bad_format error on the previous operation
+        */
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_FLUSH \
+               (UINT32_C(0x5) << 1)
+       #define EJECT_CMPL_ERRORS_BUFFER_ERROR_LAST \
+               EJECT_CMPL_ERRORS_BUFFER_ERROR_FLUSH
+       /* reserved16 is 16 b */
+       uint16_t        reserved16;
+       /* unused3 is 32 b */
+       uint32_t        unused_2;
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_link_speed_cfg_not_allowed (size:128b/16B) */
-struct hwrm_async_event_cmpl_link_speed_cfg_not_allowed {
+/* hwrm_cmpl (size:128b/16B) */
+struct hwrm_cmpl {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_SFT \
-               0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link speed configuration was not allowed */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED \
-               UINT32_C(0x5)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       #define HWRM_CMPL_TYPE_MASK     UINT32_C(0x3f)
+       #define HWRM_CMPL_TYPE_SFT      0
+       /*
+        * HWRM Command Completion:
+        * Completion of an HWRM command.
+        */
+       #define HWRM_CMPL_TYPE_HWRM_DONE  UINT32_C(0x20)
+       #define HWRM_CMPL_TYPE_LAST      HWRM_CMPL_TYPE_HWRM_DONE
+       /* This is the sequence_id of the HWRM command that has completed. */
+       uint16_t        sequence_id;
+       /* unused2 is 32 b */
+       uint32_t        unused_1;
+       uint32_t        v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_DATA1_PORT_ID_SFT \
-               0
-} __attribute__((packed));
+       #define HWRM_CMPL_V     UINT32_C(0x1)
+       /* unused4 is 32 b */
+       uint32_t        unused_3;
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_link_speed_cfg_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_link_speed_cfg_change {
-       uint16_t        type;
+/* hwrm_fwd_req_cmpl (size:128b/16B) */
+struct hwrm_fwd_req_cmpl {
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_SFT \
-               0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Link speed configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LINK_SPEED_CFG_CHANGE \
-               UINT32_C(0x6)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LINK_SPEED_CFG_CHANGE
-       /* Event specific data */
-       uint32_t        event_data2;
-       uint8_t opaque_v;
+       uint16_t        req_len_type;
+       /*
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
+        */
+       #define HWRM_FWD_REQ_CMPL_TYPE_MASK        UINT32_C(0x3f)
+       #define HWRM_FWD_REQ_CMPL_TYPE_SFT         0
+       /* Forwarded HWRM Request */
+       #define HWRM_FWD_REQ_CMPL_TYPE_HWRM_FWD_REQ  UINT32_C(0x22)
+       #define HWRM_FWD_REQ_CMPL_TYPE_LAST \
+               HWRM_FWD_REQ_CMPL_TYPE_HWRM_FWD_REQ
+       /* Length of forwarded request in bytes. */
+       #define HWRM_FWD_REQ_CMPL_REQ_LEN_MASK     UINT32_C(0xffc0)
+       #define HWRM_FWD_REQ_CMPL_REQ_LEN_SFT      6
+       /*
+        * Source ID of this request.
+        * Typically used in forwarding requests and responses.
+        * 0x0 - 0xFFF8 - Used for function ids
+        * 0xFFF8 - 0xFFFE - Reserved for internal processors
+        * 0xFFFF - HWRM
+        */
+       uint16_t        source_id;
+       /* unused1 is 32 b */
+       uint32_t        unused0;
+       /* Address of forwarded request. */
+       uint32_t        req_buf_addr_v[2];
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_V \
-               UINT32_C(0x1)
-       /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
-       uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
-       uint16_t        timestamp_hi;
-       /* Event specific data */
-       uint32_t        event_data1;
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               0
+       #define HWRM_FWD_REQ_CMPL_V                UINT32_C(0x1)
+       /* Address of forwarded request. */
+       #define HWRM_FWD_REQ_CMPL_REQ_BUF_ADDR_MASK UINT32_C(0xfffffffe)
+       #define HWRM_FWD_REQ_CMPL_REQ_BUF_ADDR_SFT 1
+} __rte_packed;
+
+/* hwrm_fwd_resp_cmpl (size:128b/16B) */
+struct hwrm_fwd_resp_cmpl {
+       uint16_t        type;
        /*
-        * If set to 1, it indicates that the supported link speeds
-        * configuration on the port has changed.
-        * If set to 0, then there is no change in supported link speeds
-        * configuration.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_SUPPORTED_LINK_SPEEDS_CHANGE \
-               UINT32_C(0x10000)
+       #define HWRM_FWD_RESP_CMPL_TYPE_MASK         UINT32_C(0x3f)
+       #define HWRM_FWD_RESP_CMPL_TYPE_SFT          0
+       /* Forwarded HWRM Response */
+       #define HWRM_FWD_RESP_CMPL_TYPE_HWRM_FWD_RESP  UINT32_C(0x24)
+       #define HWRM_FWD_RESP_CMPL_TYPE_LAST \
+               HWRM_FWD_RESP_CMPL_TYPE_HWRM_FWD_RESP
        /*
-        * If set to 1, it indicates that the link speed configuration
-        * on the port has become illegal or invalid.
-        * If set to 0, then the link speed configuration on the port is
-        * legal or valid.
+        * Source ID of this response.
+        * Typically used in forwarding requests and responses.
+        * 0x0 - 0xFFF8 - Used for function ids
+        * 0xFFF8 - 0xFFFE - Reserved for internal processors
+        * 0xFFFF - HWRM
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_ILLEGAL_LINK_SPEED_CFG \
-               UINT32_C(0x20000)
-} __attribute__((packed));
+       uint16_t        source_id;
+       /* Length of forwarded response in bytes. */
+       uint16_t        resp_len;
+       /* unused2 is 16 b */
+       uint16_t        unused_1;
+       /* Address of forwarded request. */
+       uint32_t        resp_buf_addr_v[2];
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define HWRM_FWD_RESP_CMPL_V                 UINT32_C(0x1)
+       /* Address of forwarded request. */
+       #define HWRM_FWD_RESP_CMPL_RESP_BUF_ADDR_MASK UINT32_C(0xfffffffe)
+       #define HWRM_FWD_RESP_CMPL_RESP_BUF_ADDR_SFT 1
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_port_phy_cfg_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_port_phy_cfg_change {
+/* hwrm_async_event_cmpl (size:128b/16B) */
+struct hwrm_async_event_cmpl {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_SFT \
-               0
+       #define HWRM_ASYNC_EVENT_CMPL_TYPE_MASK            UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_TYPE_HWRM_ASYNC_EVENT  UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
+       /* Link status changed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_STATUS_CHANGE \
+               UINT32_C(0x0)
+       /* Link MTU changed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_MTU_CHANGE \
+               UINT32_C(0x1)
+       /* Link speed changed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CHANGE \
+               UINT32_C(0x2)
+       /* DCB Configuration changed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DCB_CONFIG_CHANGE \
+               UINT32_C(0x3)
+       /* Port connection not allowed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PORT_CONN_NOT_ALLOWED \
+               UINT32_C(0x4)
+       /* Link speed configuration was not allowed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED \
+               UINT32_C(0x5)
+       /* Link speed configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LINK_SPEED_CFG_CHANGE \
+               UINT32_C(0x6)
        /* Port PHY configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_PORT_PHY_CFG_CHANGE \
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PORT_PHY_CFG_CHANGE \
                UINT32_C(0x7)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_PORT_PHY_CFG_CHANGE
+       /* Reset notification to clients */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_RESET_NOTIFY \
+               UINT32_C(0x8)
+       /* Master function selection event */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_ERROR_RECOVERY \
+               UINT32_C(0x9)
+       /* Function driver unloaded */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_DRVR_UNLOAD \
+               UINT32_C(0x10)
+       /* Function driver loaded */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_DRVR_LOAD \
+               UINT32_C(0x11)
+       /* Function FLR related processing has completed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FUNC_FLR_PROC_CMPLT \
+               UINT32_C(0x12)
+       /* PF driver unloaded */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_DRVR_UNLOAD \
+               UINT32_C(0x20)
+       /* PF driver loaded */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_DRVR_LOAD \
+               UINT32_C(0x21)
+       /* VF Function Level Reset (FLR) */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_FLR \
+               UINT32_C(0x30)
+       /* VF MAC Address Change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_MAC_ADDR_CHANGE \
+               UINT32_C(0x31)
+       /* PF-VF communication channel status change. */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_PF_VF_COMM_STATUS_CHANGE \
+               UINT32_C(0x32)
+       /* VF Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_VF_CFG_CHANGE \
+               UINT32_C(0x33)
+       /* LLFC/PFC Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LLFC_PFC_CHANGE \
+               UINT32_C(0x34)
+       /* Default VNIC Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DEFAULT_VNIC_CHANGE \
+               UINT32_C(0x35)
+       /* HW flow aged */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HW_FLOW_AGED \
+               UINT32_C(0x36)
+       /*
+        * A debug notification being posted to the driver. These
+        * notifications are purely for diagnostic purpose and should not be
+        * used for functional purpose. The driver is not supposed to act
+        * on these messages except to log/record it.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_DEBUG_NOTIFICATION \
+               UINT32_C(0x37)
+       /*
+        * An EEM flow cached memory flush for all flows request event being
+        * posted to the PF driver.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CACHE_FLUSH_REQ \
+               UINT32_C(0x38)
+       /*
+        * An EEM flow cache memory flush completion event being posted to the
+        * firmware by the PF driver. This is indication that host EEM flush
+        * has completed by the PF.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CACHE_FLUSH_DONE \
+               UINT32_C(0x39)
+       /*
+        * A tcp flag action change event being posted to the PF or trusted VF
+        * driver by the firmware. The PF or trusted VF driver should query
+        * the firmware for the new TCP flag action update after receiving
+        * this async event.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_TCP_FLAG_ACTION_CHANGE \
+               UINT32_C(0x3a)
+       /*
+        * An EEM flow active event being posted to the PF or trusted VF driver
+        * by the firmware. The PF or trusted VF driver should update the
+        * flow's aging timer after receiving this async event.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_FLOW_ACTIVE \
+               UINT32_C(0x3b)
+       /*
+        * A eem cfg change event being posted to the trusted VF driver by the
+        * firmware if the parent PF EEM configuration changed.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_EEM_CFG_CHANGE \
+               UINT32_C(0x3c)
+       /* TFLIB unique default VNIC Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_TFLIB_DEFAULT_VNIC_CHANGE \
+               UINT32_C(0x3d)
+       /* TFLIB unique link status changed */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_TFLIB_LINK_STATUS_CHANGE \
+               UINT32_C(0x3e)
+       /*
+        * An event signifying completion for HWRM_FW_STATE_QUIESCE
+        * (completion, timeout, or error)
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_QUIESCE_DONE \
+               UINT32_C(0x3f)
+       /*
+        * A trace log message. This contains firmware trace logs string
+        * embedded in the asynchronous message. This is an experimental
+        * event, not meant for production use at this time.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_FW_TRACE_MSG \
+               UINT32_C(0xfe)
+       /* HWRM Error */
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HWRM_ERROR \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EVENT_ID_HWRM_ERROR
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_V \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               0
-       /*
-        * If set to 1, it indicates that the FEC
-        * configuration on the port has changed.
-        * If set to 0, then there is no change in FEC configuration.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_FEC_CFG_CHANGE \
-               UINT32_C(0x10000)
-       /*
-        * If set to 1, it indicates that the EEE configuration
-        * on the port has changed.
-        * If set to 0, then there is no change in EEE configuration
-        * on the port.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_EEE_CFG_CHANGE \
-               UINT32_C(0x20000)
-       /*
-        * If set to 1, it indicates that the pause configuration
-        * on the PHY has changed.
-        * If set to 0, then there is no change in the pause
-        * configuration on the PHY.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PAUSE_CFG_CHANGE \
-               UINT32_C(0x40000)
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl_reset_notify (size:128b/16B) */
-struct hwrm_async_event_cmpl_reset_notify {
-       uint16_t        type;
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_link_status_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_link_status_change {
+       uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notify clients of imminent reset. */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_RESET_NOTIFY \
-               UINT32_C(0x8)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_RESET_NOTIFY
+       /* Link status changed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LINK_STATUS_CHANGE \
+               UINT32_C(0x0)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_ID_LINK_STATUS_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_OPAQUE_SFT 1
-       /*
-        * 8-lsb timestamp (100-msec resolution)
-        * The Minimum time required for the Firmware readiness after sending this
-        * notification to the driver instances.
-        */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
-       /*
-        * 16-lsb timestamp (100-msec resolution)
-        * The Maximum Firmware Reset bail out value in the order of 100
-        * milli seconds. The driver instances will use this value to re-initiate the
-        * registration process again if the core firmware didn’t set the ready
-        * state bit.
-        */
+       /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates driver action requested */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_SFT \
-               0
-       /*
-        * If set to 1, it indicates that the l2 client should
-        * stop sending in band traffic to Nitro.
-        * if set to 0, there is no change in L2 client behavior.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_STOP_TX_QUEUE \
+       /* Indicates link status change */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE \
                UINT32_C(0x1)
        /*
-        * If set to 1, it indicates that the L2 client should
-        * bring down the interface.
-        * If set to 0, then there is no change in L2 client behavior.
+        * If this bit set to 0, then it indicates that the link
+        * was up and it went down.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_IFDOWN \
-               UINT32_C(0x2)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_LAST \
-               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_IFDOWN
-       /* Indicates reason for reset. */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_MASK \
-               UINT32_C(0xff00)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_SFT \
-               8
-       /* A management client has requested reset. */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_MANAGEMENT_RESET_REQUEST \
-               (UINT32_C(0x1) << 8)
-       /* A fatal firmware exception has occurred. */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_FATAL \
-               (UINT32_C(0x2) << 8)
-       /* A non-fatal firmware exception has occurred. */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_NON_FATAL \
-               (UINT32_C(0x3) << 8)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_NON_FATAL
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_DOWN \
+               UINT32_C(0x0)
        /*
-        * Minimum time before driver should attempt access - units 100ms ticks.
-        * Range 0-65535
+        * If this bit is set to 1, then it indicates that the link
+        * was down and it went up.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DELAY_IN_100MS_TICKS_MASK \
-               UINT32_C(0xffff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DELAY_IN_100MS_TICKS_SFT \
-               16
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_UP \
+               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_LINK_CHANGE_UP
+       /* Indicates the physical port this link status change occur */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_MASK \
+               UINT32_C(0xe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_SFT \
+               1
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_ID_MASK \
+               UINT32_C(0xffff0)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               4
+       /* Indicates the physical function this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PF_ID_MASK \
+               UINT32_C(0xff00000)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_STATUS_CHANGE_EVENT_DATA1_PF_ID_SFT \
+               20
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_error_recovery (size:128b/16B) */
-struct hwrm_async_event_cmpl_error_recovery {
+/* hwrm_async_event_cmpl_link_mtu_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_link_mtu_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /*
-        * This async notification message can be used for selecting or
-        * deselecting master function for error recovery,
-        * and to communicate to all the functions whether error recovery
-        * was enabled/disabled.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_ERROR_RECOVERY \
-               UINT32_C(0x9)
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_ERROR_RECOVERY
+       /* Link MTU changed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LINK_MTU_CHANGE \
+               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_ID_LINK_MTU_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_OPAQUE_SFT 1
-       /* 8-lsb timestamp (100-msec resolution) */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
-       /* 16-lsb timestamp (100-msec resolution) */
+       /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates driver action requested */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_SFT \
-               0
-       /*
-        * If set to 1, this function is selected as Master function.
-        * This function has responsibility to do 'chip reset' when it
-        * detects a fatal error. If set to 0, master function functionality
-        * is disabled on this function.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_MASTER_FUNC \
-               UINT32_C(0x1)
-       /*
-        * If set to 1, error recovery is enabled.
-        * If set to 0, error recovery is disabled.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_RECOVERY_ENABLED \
-               UINT32_C(0x2)
-} __attribute__((packed));
+       /* The new MTU of the link in bytes. */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_DATA1_NEW_MTU_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_MTU_CHANGE_EVENT_DATA1_NEW_MTU_SFT 0
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_func_drvr_unload (size:128b/16B) */
-struct hwrm_async_event_cmpl_func_drvr_unload {
+/* hwrm_async_event_cmpl_link_speed_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_link_speed_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Function driver unloaded */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_FUNC_DRVR_UNLOAD \
-               UINT32_C(0x10)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_FUNC_DRVR_UNLOAD
+       /* Link speed changed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LINK_SPEED_CHANGE \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_ID_LINK_SPEED_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_OPAQUE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_OPAQUE_MASK \
                UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Function ID */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_SFT \
-               0
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl_func_drvr_load (size:128b/16B) */
-struct hwrm_async_event_cmpl_func_drvr_load {
-       uint16_t        type;
        /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
+        * When this bit is '1', the link was forced to the
+        * force_link_speed value.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_MASK \
-               UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_SFT             0
-       /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT \
-               UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT
-       /* Identifiers of events. */
-       uint16_t        event_id;
-       /* Function driver loaded */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_FUNC_DRVR_LOAD \
-               UINT32_C(0x11)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_FUNC_DRVR_LOAD
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_FORCE \
+               UINT32_C(0x1)
+       /* The new link speed in 100 Mbps units. */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_MASK \
+               UINT32_C(0xfffe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_SFT \
+               1
+       /* 100Mb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100MB \
+               (UINT32_C(0x1) << 1)
+       /* 1Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_1GB \
+               (UINT32_C(0xa) << 1)
+       /* 2Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_2GB \
+               (UINT32_C(0x14) << 1)
+       /* 25Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_2_5GB \
+               (UINT32_C(0x19) << 1)
+       /* 10Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_10GB \
+               (UINT32_C(0x64) << 1)
+       /* 20Mb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_20GB \
+               (UINT32_C(0xc8) << 1)
+       /* 25Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_25GB \
+               (UINT32_C(0xfa) << 1)
+       /* 40Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_40GB \
+               (UINT32_C(0x190) << 1)
+       /* 50Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_50GB \
+               (UINT32_C(0x1f4) << 1)
+       /* 100Gb link speed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100GB \
+               (UINT32_C(0x3e8) << 1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_NEW_LINK_SPEED_100MBPS_100GB
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_PORT_ID_MASK \
+               UINT32_C(0xffff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               16
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_dcb_config_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_dcb_config_change {
+       uint16_t        type;
+       /*
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* DCB Configuration changed */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_DCB_CONFIG_CHANGE \
+               UINT32_C(0x3)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_ID_DCB_CONFIG_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
+       /* ETS configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_ETS \
+               UINT32_C(0x1)
+       /* PFC configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_PFC \
+               UINT32_C(0x2)
+       /* APP configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA2_APP \
+               UINT32_C(0x4)
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Function ID */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_DATA1_FUNC_ID_MASK \
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_DATA1_FUNC_ID_SFT 0
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               0
+       /* Priority recommended for RoCE traffic */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_MASK \
+               UINT32_C(0xff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_SFT \
+               16
+       /* none is 255 */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_NONE \
+               (UINT32_C(0xff) << 16)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_ROCE_PRIORITY_NONE
+       /* Priority recommended for L2 traffic */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_MASK \
+               UINT32_C(0xff000000)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_SFT \
+               24
+       /* none is 255 */
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_NONE \
+               (UINT32_C(0xff) << 24)
+       #define HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DCB_CONFIG_CHANGE_EVENT_DATA1_RECOMMEND_L2_PRIORITY_NONE
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_func_flr_proc_cmplt (size:128b/16B) */
-struct hwrm_async_event_cmpl_func_flr_proc_cmplt {
+/* hwrm_async_event_cmpl_port_conn_not_allowed (size:128b/16B) */
+struct hwrm_async_event_cmpl_port_conn_not_allowed {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_SFT \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_SFT \
                0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Function FLR related processing has completed */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_FUNC_FLR_PROC_CMPLT \
-               UINT32_C(0x12)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_FUNC_FLR_PROC_CMPLT
+       /* Port connection not allowed */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_PORT_CONN_NOT_ALLOWED \
+               UINT32_C(0x4)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_ID_PORT_CONN_NOT_ALLOWED
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_V \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_V \
                UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_OPAQUE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_OPAQUE_MASK \
                UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Function ID */
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_DATA1_FUNC_ID_MASK \
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_PORT_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_DATA1_FUNC_ID_SFT \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_PORT_ID_SFT \
                0
-} __attribute__((packed));
+       /*
+        * This value indicates the current port level enforcement policy
+        * for the optics module when there is an optical module mismatch
+        * and port is not connected.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_MASK \
+               UINT32_C(0xff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_SFT \
+               16
+       /* No enforcement */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_NONE \
+               (UINT32_C(0x0) << 16)
+       /* Disable Transmit side Laser. */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_DISABLETX \
+               (UINT32_C(0x1) << 16)
+       /* Raise a warning message. */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_WARNINGMSG \
+               (UINT32_C(0x2) << 16)
+       /* Power down the module. */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_PWRDOWN \
+               (UINT32_C(0x3) << 16)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PORT_CONN_NOT_ALLOWED_EVENT_DATA1_ENFORCEMENT_POLICY_PWRDOWN
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_pf_drvr_unload (size:128b/16B) */
-struct hwrm_async_event_cmpl_pf_drvr_unload {
+/* hwrm_async_event_cmpl_link_speed_cfg_not_allowed (size:128b/16B) */
+struct hwrm_async_event_cmpl_link_speed_cfg_not_allowed {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_SFT \
+               0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* PF driver unloaded */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_PF_DRVR_UNLOAD \
-               UINT32_C(0x20)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_PF_DRVR_UNLOAD
+       /* Link speed configuration was not allowed */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED \
+               UINT32_C(0x5)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_ID_LINK_SPEED_CFG_NOT_ALLOWED
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* PF ID */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_MASK \
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_DATA1_PORT_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_SFT 0
-       /* Indicates the physical port this pf belongs to */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_PORT_MASK \
-               UINT32_C(0x70000)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_PORT_SFT    16
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_NOT_ALLOWED_EVENT_DATA1_PORT_ID_SFT \
+               0
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_pf_drvr_load (size:128b/16B) */
-struct hwrm_async_event_cmpl_pf_drvr_load {
+/* hwrm_async_event_cmpl_link_speed_cfg_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_link_speed_cfg_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_SFT \
+               0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* PF driver loaded */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_PF_DRVR_LOAD \
-               UINT32_C(0x21)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_PF_DRVR_LOAD
+       /* Link speed configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LINK_SPEED_CFG_CHANGE \
+               UINT32_C(0x6)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_ID_LINK_SPEED_CFG_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* PF ID */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_FUNC_ID_MASK \
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_FUNC_ID_SFT 0
-       /* Indicates the physical port this pf belongs to */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_PORT_MASK \
-               UINT32_C(0x70000)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_PORT_SFT    16
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               0
+       /*
+        * If set to 1, it indicates that the supported link speeds
+        * configuration on the port has changed.
+        * If set to 0, then there is no change in supported link speeds
+        * configuration.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_SUPPORTED_LINK_SPEEDS_CHANGE \
+               UINT32_C(0x10000)
+       /*
+        * If set to 1, it indicates that the link speed configuration
+        * on the port has become illegal or invalid.
+        * If set to 0, then the link speed configuration on the port is
+        * legal or valid.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_LINK_SPEED_CFG_CHANGE_EVENT_DATA1_ILLEGAL_LINK_SPEED_CFG \
+               UINT32_C(0x20000)
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_vf_flr (size:128b/16B) */
-struct hwrm_async_event_cmpl_vf_flr {
+/* hwrm_async_event_cmpl_port_phy_cfg_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_port_phy_cfg_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_SFT \
+               0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* VF Function Level Reset (FLR) */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_VF_FLR UINT32_C(0x30)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_VF_FLR
+       /* Port PHY configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_PORT_PHY_CFG_CHANGE \
+               UINT32_C(0x7)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_ID_PORT_PHY_CFG_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* VF ID */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_VF_ID_MASK \
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PORT_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_VF_ID_SFT 0
-       /* Indicates the physical function this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_PF_ID_MASK \
-               UINT32_C(0xff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_PF_ID_SFT 16
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               0
+       /*
+        * If set to 1, it indicates that the FEC
+        * configuration on the port has changed.
+        * If set to 0, then there is no change in FEC configuration.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_FEC_CFG_CHANGE \
+               UINT32_C(0x10000)
+       /*
+        * If set to 1, it indicates that the EEE configuration
+        * on the port has changed.
+        * If set to 0, then there is no change in EEE configuration
+        * on the port.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_EEE_CFG_CHANGE \
+               UINT32_C(0x20000)
+       /*
+        * If set to 1, it indicates that the pause configuration
+        * on the PHY has changed.
+        * If set to 0, then there is no change in the pause
+        * configuration on the PHY.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_PORT_PHY_CFG_CHANGE_EVENT_DATA1_PAUSE_CFG_CHANGE \
+               UINT32_C(0x40000)
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_vf_mac_addr_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_vf_mac_addr_change {
+/* hwrm_async_event_cmpl_reset_notify (size:128b/16B) */
+struct hwrm_async_event_cmpl_reset_notify {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* VF MAC Address Change */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_VF_MAC_ADDR_CHANGE \
-               UINT32_C(0x31)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_VF_MAC_ADDR_CHANGE
+       /* Notify clients of imminent reset. */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_RESET_NOTIFY \
+               UINT32_C(0x8)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_ID_RESET_NOTIFY
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_V \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_OPAQUE_SFT 1
+       /*
+        * 8-lsb timestamp (100-msec resolution)
+        * The Minimum time required for the Firmware readiness after sending this
+        * notification to the driver instances.
+        */
        uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
+       /*
+        * 16-lsb timestamp (100-msec resolution)
+        * The Maximum Firmware Reset bail out value in the order of 100
+        * milli seconds. The driver instances will use this value to re-initiate the
+        * registration process again if the core firmware didn’t set the ready
+        * state bit.
+        */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* VF ID */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_DATA1_VF_ID_MASK \
-               UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_DATA1_VF_ID_SFT \
+       /* Indicates driver action requested */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_SFT \
                0
-} __attribute__((packed));
+       /*
+        * If set to 1, it indicates that the l2 client should
+        * stop sending in band traffic to Nitro.
+        * if set to 0, there is no change in L2 client behavior.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_STOP_TX_QUEUE \
+               UINT32_C(0x1)
+       /*
+        * If set to 1, it indicates that the L2 client should
+        * bring down the interface.
+        * If set to 0, then there is no change in L2 client behavior.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_IFDOWN \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_LAST \
+               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DRIVER_ACTION_DRIVER_IFDOWN
+       /* Indicates reason for reset. */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_MASK \
+               UINT32_C(0xff00)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_SFT \
+               8
+       /* A management client has requested reset. */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_MANAGEMENT_RESET_REQUEST \
+               (UINT32_C(0x1) << 8)
+       /* A fatal firmware exception has occurred. */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_FATAL \
+               (UINT32_C(0x2) << 8)
+       /* A non-fatal firmware exception has occurred. */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_NON_FATAL \
+               (UINT32_C(0x3) << 8)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_REASON_CODE_FW_EXCEPTION_NON_FATAL
+       /*
+        * Minimum time before driver should attempt access - units 100ms ticks.
+        * Range 0-65535
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DELAY_IN_100MS_TICKS_MASK \
+               UINT32_C(0xffff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_RESET_NOTIFY_EVENT_DATA1_DELAY_IN_100MS_TICKS_SFT \
+               16
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_pf_vf_comm_status_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_pf_vf_comm_status_change {
+/* hwrm_async_event_cmpl_error_recovery (size:128b/16B) */
+struct hwrm_async_event_cmpl_error_recovery {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_SFT \
-               0
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* PF-VF communication channel status change. */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_PF_VF_COMM_STATUS_CHANGE \
-               UINT32_C(0x32)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_PF_VF_COMM_STATUS_CHANGE
+       /*
+        * This async notification message can be used for selecting or
+        * deselecting master function for error recovery,
+        * and to communicate to all the functions whether error recovery
+        * was enabled/disabled.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_ERROR_RECOVERY \
+               UINT32_C(0x9)
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_ID_ERROR_RECOVERY
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_V \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_OPAQUE_SFT 1
-       /* 8-lsb timestamp from POR (100-msec resolution) */
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_OPAQUE_SFT 1
+       /* 8-lsb timestamp (100-msec resolution) */
        uint8_t timestamp_lo;
-       /* 16-lsb timestamp from POR (100-msec resolution) */
+       /* 16-lsb timestamp (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
+       /* Indicates driver action requested */
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_SFT \
+               0
        /*
-        * If this bit is set to 1, then it indicates that the PF-VF
-        * communication was lost and it is established.
-        * If this bit set to 0, then it indicates that the PF-VF
-        * communication was established and it is lost.
+        * If set to 1, this function is selected as Master function.
+        * This function has responsibility to do 'chip reset' when it
+        * detects a fatal error. If set to 0, master function functionality
+        * is disabled on this function.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_DATA1_COMM_ESTABLISHED \
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_MASTER_FUNC \
                UINT32_C(0x1)
-} __attribute__((packed));
+       /*
+        * If set to 1, error recovery is enabled.
+        * If set to 0, error recovery is disabled.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_ERROR_RECOVERY_EVENT_DATA1_FLAGS_RECOVERY_ENABLED \
+               UINT32_C(0x2)
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_vf_cfg_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_vf_cfg_change {
+/* hwrm_async_event_cmpl_func_drvr_unload (size:128b/16B) */
+struct hwrm_async_event_cmpl_func_drvr_unload {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* VF Configuration Change */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_VF_CFG_CHANGE \
-               UINT32_C(0x33)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_VF_CFG_CHANGE
+       /* Function driver unloaded */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_FUNC_DRVR_UNLOAD \
+               UINT32_C(0x10)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_ID_FUNC_DRVR_UNLOAD
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
-       /*
-        * Each flag provided in this field indicates a specific VF
-        * configuration change. At least one of these flags shall be set to 1
-        * when an asynchronous event completion of this type is provided
-        * by the HWRM.
-        */
+       /* Event specific data */
        uint32_t        event_data1;
-       /*
-        * If this bit is set to 1, then the value of MTU
-        * was changed on this VF.
-        * If set to 0, then this bit should be ignored.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_MTU_CHANGE \
-               UINT32_C(0x1)
-       /*
-        * If this bit is set to 1, then the value of MRU
-        * was changed on this VF.
-        * If set to 0, then this bit should be ignored.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_MRU_CHANGE \
-               UINT32_C(0x2)
-       /*
-        * If this bit is set to 1, then the value of default MAC
-        * address was changed on this VF.
-        * If set to 0, then this bit should be ignored.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_DFLT_MAC_ADDR_CHANGE \
-               UINT32_C(0x4)
-       /*
-        * If this bit is set to 1, then the value of default VLAN
-        * was changed on this VF.
-        * If set to 0, then this bit should be ignored.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_DFLT_VLAN_CHANGE \
-               UINT32_C(0x8)
-       /*
-        * If this bit is set to 1, then the value of trusted VF enable
-        * was changed on this VF.
-        * If set to 0, then this bit should be ignored.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_TRUSTED_VF_CFG_CHANGE \
-               UINT32_C(0x10)
-} __attribute__((packed));
+       /* Function ID */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_SFT \
+               0
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_llfc_pfc_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_llfc_pfc_change {
+/* hwrm_async_event_cmpl_func_drvr_load (size:128b/16B) */
+struct hwrm_async_event_cmpl_func_drvr_load {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* unused1 is 10 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_UNUSED1_MASK \
-               UINT32_C(0xffc0)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_UNUSED1_SFT          6
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* LLFC/PFC Configuration Change */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LLFC_PFC_CHANGE \
-               UINT32_C(0x34)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LLFC_PFC_CHANGE
+       /* Function driver loaded */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_FUNC_DRVR_LOAD \
+               UINT32_C(0x11)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_ID_FUNC_DRVR_LOAD
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates llfc pfc status change */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_MASK \
-               UINT32_C(0x3)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_SFT \
-               0
-       /*
-        * If this field set to 1, then it indicates that llfc is
-        * enabled.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_LLFC \
-               UINT32_C(0x1)
-       /*
-        * If this field is set to 2, then it indicates that pfc
-        * is enabled.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_PFC \
-               UINT32_C(0x2)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_LAST \
-               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_PFC
-       /* Indicates the physical port this llfc pfc change occur */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_MASK \
-               UINT32_C(0x1c)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_SFT \
-               2
-       /* PORT ID */
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_ID_MASK \
-               UINT32_C(0x1fffe0)
-       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_ID_SFT \
-               5
-} __attribute__((packed));
+       /* Function ID */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_DATA1_FUNC_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_DRVR_LOAD_EVENT_DATA1_FUNC_ID_SFT 0
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_default_vnic_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_default_vnic_change {
+/* hwrm_async_event_cmpl_func_flr_proc_cmplt (size:128b/16B) */
+struct hwrm_async_event_cmpl_func_flr_proc_cmplt {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_SFT \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_SFT \
                0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_HWRM_ASYNC_EVENT
-       /* unused1 is 10 b */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_UNUSED1_MASK \
-               UINT32_C(0xffc0)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_UNUSED1_SFT \
-               6
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of a default vnic allocaiton or free */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_ALLOC_FREE_NOTIFICATION \
-               UINT32_C(0x35)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_ALLOC_FREE_NOTIFICATION
+       /* Function FLR related processing has completed */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_FUNC_FLR_PROC_CMPLT \
+               UINT32_C(0x12)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_ID_FUNC_FLR_PROC_CMPLT
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_V \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_V \
                UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_OPAQUE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_OPAQUE_MASK \
                UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates default vnic configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_MASK \
-               UINT32_C(0x3)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_SFT \
+       /* Function ID */
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_DATA1_FUNC_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_FUNC_FLR_PROC_CMPLT_EVENT_DATA1_FUNC_ID_SFT \
                0
-       /*
-        * If this field is set to 1, then it indicates that
-        * a default VNIC has been allocate.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_ALLOC \
-               UINT32_C(0x1)
-       /*
-        * If this field is set to 2, then it indicates that
-        * a default VNIC has been freed.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_FREE \
-               UINT32_C(0x2)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_FREE
-       /* Indicates the physical function this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_PF_ID_MASK \
-               UINT32_C(0x3fc)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_PF_ID_SFT \
-               2
-       /* Indicates the virtual function this event occurred on */
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_VF_ID_MASK \
-               UINT32_C(0x3fffc00)
-       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_VF_ID_SFT \
-               10
-} __attribute__((packed));
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_hw_flow_aged (size:128b/16B) */
-struct hwrm_async_event_cmpl_hw_flow_aged {
+/* hwrm_async_event_cmpl_pf_drvr_unload (size:128b/16B) */
+struct hwrm_async_event_cmpl_pf_drvr_unload {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of a hw flow aged */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_HW_FLOW_AGED \
-               UINT32_C(0x36)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_HW_FLOW_AGED
+       /* PF driver unloaded */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_PF_DRVR_UNLOAD \
+               UINT32_C(0x20)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_ID_PF_DRVR_UNLOAD
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates flow ID this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_ID_MASK \
-               UINT32_C(0x7fffffff)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_ID_SFT \
-               0
-       /* Indicates flow direction this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION \
-               UINT32_C(0x80000000)
+       /* PF ID */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_FUNC_ID_SFT 0
+       /* Indicates the physical port this pf belongs to */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_PORT_MASK \
+               UINT32_C(0x70000)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_UNLOAD_EVENT_DATA1_PORT_SFT    16
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_pf_drvr_load (size:128b/16B) */
+struct hwrm_async_event_cmpl_pf_drvr_load {
+       uint16_t        type;
        /*
-        * If this bit set to 0, then it indicates that the aged
-        * event was rx flow.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_RX \
-               (UINT32_C(0x0) << 31)
-       /*
-        * If this bit is set to 1, then it indicates that the aged
-        * event was tx flow.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_TX \
-               (UINT32_C(0x1) << 31)
-       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_TX
-} __attribute__((packed));
-
-/* hwrm_async_event_cmpl_eem_cache_flush_req (size:128b/16B) */
-struct hwrm_async_event_cmpl_eem_cache_flush_req {
-       uint16_t        type;
-       /*
-        * This field indicates the exact type of the completion.
-        * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
-        * records.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_SFT \
-               0
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of a eem_cache_flush request */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_EEM_CACHE_FLUSH_REQ \
-               UINT32_C(0x38)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_EEM_CACHE_FLUSH_REQ
+       /* PF driver loaded */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_PF_DRVR_LOAD \
+               UINT32_C(0x21)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_ID_PF_DRVR_LOAD
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_V \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-} __attribute__((packed));
+       /* PF ID */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_FUNC_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_FUNC_ID_SFT 0
+       /* Indicates the physical port this pf belongs to */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_PORT_MASK \
+               UINT32_C(0x70000)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_DRVR_LOAD_EVENT_DATA1_PORT_SFT    16
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_eem_cache_flush_done (size:128b/16B) */
-struct hwrm_async_event_cmpl_eem_cache_flush_done {
+/* hwrm_async_event_cmpl_vf_flr (size:128b/16B) */
+struct hwrm_async_event_cmpl_vf_flr {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_SFT \
-               0
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_FLR_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /*
-        * Notification of a host eem_cache_flush has completed. This event
-        * is generated by the host driver.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_EEM_CACHE_FLUSH_DONE \
-               UINT32_C(0x39)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_EEM_CACHE_FLUSH_DONE
+       /* VF Function Level Reset (FLR) */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_VF_FLR UINT32_C(0x30)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_ID_VF_FLR
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_V \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_OPAQUE_MASK \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates function ID that this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_DATA1_FID_MASK \
+       /* VF ID */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_VF_ID_MASK \
                UINT32_C(0xffff)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_DATA1_FID_SFT \
-               0
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_VF_ID_SFT 0
+       /* Indicates the physical function this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_PF_ID_MASK \
+               UINT32_C(0xff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_FLR_EVENT_DATA1_PF_ID_SFT 16
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_tcp_flag_action_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_tcp_flag_action_change {
+/* hwrm_async_event_cmpl_vf_mac_addr_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_vf_mac_addr_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_SFT \
-               0
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of tcp flag action change */
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_TCP_FLAG_ACTION_CHANGE \
-               UINT32_C(0x3a)
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_TCP_FLAG_ACTION_CHANGE
+       /* VF MAC Address Change */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_VF_MAC_ADDR_CHANGE \
+               UINT32_C(0x31)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_ID_VF_MAC_ADDR_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_V \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_V \
                UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_OPAQUE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_OPAQUE_MASK \
                UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-} __attribute__((packed));
+       /* VF ID */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_DATA1_VF_ID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_MAC_ADDR_CHANGE_EVENT_DATA1_VF_ID_SFT \
+               0
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_eem_flow_active (size:128b/16B) */
-struct hwrm_async_event_cmpl_eem_flow_active {
+/* hwrm_async_event_cmpl_pf_vf_comm_status_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_pf_vf_comm_status_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_SFT \
+               0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of an active eem flow */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_EEM_FLOW_ACTIVE \
-               UINT32_C(0x3b)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_EEM_FLOW_ACTIVE
+       /* PF-VF communication channel status change. */
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_PF_VF_COMM_STATUS_CHANGE \
+               UINT32_C(0x32)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_ID_PF_VF_COMM_STATUS_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
-       /* Indicates the 2nd global id this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_GLOBAL_ID_2_MASK \
-               UINT32_C(0x3fffffff)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_GLOBAL_ID_2_SFT \
-               0
-       /*
-        * Indicates flow direction of the flow identified by
-        * the global_id_2.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION \
-               UINT32_C(0x40000000)
-       /* If this bit is set to 0, then it indicates that this rx flow. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_RX \
-               (UINT32_C(0x0) << 30)
-       /* If this bit is set to 1, then it indicates that this tx flow. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_TX \
-               (UINT32_C(0x1) << 30)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_TX
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_OPAQUE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_OPAQUE_MASK \
                UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Indicates the 1st global id this event occurred on. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_GLOBAL_ID_1_MASK \
-               UINT32_C(0x3fffffff)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_GLOBAL_ID_1_SFT \
-               0
-       /*
-        * Indicates flow direction of the flow identified by the
-        * global_id_1.
-        */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION \
-               UINT32_C(0x40000000)
-       /* If this bit is set to 0, then it indicates that this is rx flow. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_RX \
-               (UINT32_C(0x0) << 30)
-       /* If this bit is set to 1, then it indicates that this is tx flow. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_TX \
-               (UINT32_C(0x1) << 30)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_TX
        /*
-        * Indicates EEM flow aging mode this event occurred on. If
-        * this bit is set to 0, the event_data1 is the EEM global
-        * ID. If this bit is set to 1, the event_data1 is the number
-        * of global ID in the context memory.
+        * If this bit is set to 1, then it indicates that the PF-VF
+        * communication was lost and it is established.
+        * If this bit set to 0, then it indicates that the PF-VF
+        * communication was established and it is lost.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE \
-               UINT32_C(0x80000000)
-       /* EEM flow aging mode 0. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_0 \
-               (UINT32_C(0x0) << 31)
-       /* EEM flow aging mode 1. */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_1 \
-               (UINT32_C(0x1) << 31)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_1
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_PF_VF_COMM_STATUS_CHANGE_EVENT_DATA1_COMM_ESTABLISHED \
+               UINT32_C(0x1)
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_eem_cfg_change (size:128b/16B) */
-struct hwrm_async_event_cmpl_eem_cfg_change {
+/* hwrm_async_event_cmpl_vf_cfg_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_vf_cfg_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Notification of EEM configuration change */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_EEM_CFG_CHANGE \
-               UINT32_C(0x3c)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_EEM_CFG_CHANGE
+       /* VF Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_VF_CFG_CHANGE \
+               UINT32_C(0x33)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_ID_VF_CFG_CHANGE
        /* Event specific data */
        uint32_t        event_data2;
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
-       /* Event specific data */
+       /*
+        * Each flag provided in this field indicates a specific VF
+        * configuration change. At least one of these flags shall be set to 1
+        * when an asynchronous event completion of this type is provided
+        * by the HWRM.
+        */
        uint32_t        event_data1;
        /*
-        * Value of 1 to indicate EEM TX configuration is enabled. Value of
-        * 0 to indicate the EEM TX configuration is disabled.
+        * If this bit is set to 1, then the value of MTU
+        * was changed on this VF.
+        * If set to 0, then this bit should be ignored.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_DATA1_EEM_TX_ENABLE \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_MTU_CHANGE \
                UINT32_C(0x1)
        /*
-        * Value of 1 to indicate EEM RX configuration is enabled. Value of 0
-        * to indicate the EEM RX configuration is disabled.
+        * If this bit is set to 1, then the value of MRU
+        * was changed on this VF.
+        * If set to 0, then this bit should be ignored.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_DATA1_EEM_RX_ENABLE \
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_MRU_CHANGE \
                UINT32_C(0x2)
-} __attribute__((packed));
+       /*
+        * If this bit is set to 1, then the value of default MAC
+        * address was changed on this VF.
+        * If set to 0, then this bit should be ignored.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_DFLT_MAC_ADDR_CHANGE \
+               UINT32_C(0x4)
+       /*
+        * If this bit is set to 1, then the value of default VLAN
+        * was changed on this VF.
+        * If set to 0, then this bit should be ignored.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_DFLT_VLAN_CHANGE \
+               UINT32_C(0x8)
+       /*
+        * If this bit is set to 1, then the value of trusted VF enable
+        * was changed on this VF.
+        * If set to 0, then this bit should be ignored.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_VF_CFG_CHANGE_EVENT_DATA1_TRUSTED_VF_CFG_CHANGE \
+               UINT32_C(0x10)
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_fw_trace_msg (size:128b/16B) */
-struct hwrm_async_event_cmpl_fw_trace_msg {
+/* hwrm_async_event_cmpl_llfc_pfc_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_llfc_pfc_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_SFT             0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       /* unused1 is 10 b */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_UNUSED1_MASK \
+               UINT32_C(0xffc0)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_UNUSED1_SFT          6
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* Firmware trace log message */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_FW_TRACE_MSG \
-               UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_FW_TRACE_MSG
-       /* Trace byte 0 to 3 */
+       /* LLFC/PFC Configuration Change */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LLFC_PFC_CHANGE \
+               UINT32_C(0x34)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_ID_LLFC_PFC_CHANGE
+       /* Event specific data */
        uint32_t        event_data2;
-       /* Trace byte0 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE0_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE0_SFT 0
-       /* Trace byte1 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE1_MASK \
-               UINT32_C(0xff00)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE1_SFT 8
-       /* Trace byte2 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE2_MASK \
-               UINT32_C(0xff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE2_SFT 16
-       /* Trace byte3 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE3_MASK \
-               UINT32_C(0xff000000)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE3_SFT 24
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_V          UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_OPAQUE_SFT 1
-       /* Trace flags */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
-       /* Indicates if the string is partial or complete. */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING \
-               UINT32_C(0x1)
-       /* Complete string */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_COMPLETE \
-               UINT32_C(0x0)
-       /* Partial string */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_PARTIAL \
-               UINT32_C(0x1)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_PARTIAL
-       /* Indicates the firmware that sent the trace message. */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE \
-               UINT32_C(0x2)
-       /* Primary firmware */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_PRIMARY \
-               (UINT32_C(0x0) << 1)
-       /* Secondary firmware */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_SECONDARY \
-               (UINT32_C(0x1) << 1)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_SECONDARY
-       /* Trace byte 4 to 5 */
+       /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
-       /* Trace byte4 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE4_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE4_SFT 0
-       /* Trace byte5 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE5_MASK \
-               UINT32_C(0xff00)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE5_SFT 8
-       /* Trace byte 6 to 9 */
+       /* Event specific data */
        uint32_t        event_data1;
-       /* Trace byte6 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE6_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE6_SFT 0
-       /* Trace byte7 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE7_MASK \
-               UINT32_C(0xff00)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE7_SFT 8
-       /* Trace byte8 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE8_MASK \
-               UINT32_C(0xff0000)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE8_SFT 16
-       /* Trace byte9 */
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE9_MASK \
-               UINT32_C(0xff000000)
-       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE9_SFT 24
-} __attribute__((packed));
+       /* Indicates llfc pfc status change */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_MASK \
+               UINT32_C(0x3)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_SFT \
+               0
+       /*
+        * If this field set to 1, then it indicates that llfc is
+        * enabled.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_LLFC \
+               UINT32_C(0x1)
+       /*
+        * If this field is set to 2, then it indicates that pfc
+        * is enabled.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_PFC \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_LAST \
+               HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_LLFC_PFC_PFC
+       /* Indicates the physical port this llfc pfc change occur */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_MASK \
+               UINT32_C(0x1c)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_SFT \
+               2
+       /* PORT ID */
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_ID_MASK \
+               UINT32_C(0x1fffe0)
+       #define HWRM_ASYNC_EVENT_CMPL_LLFC_PFC_CHANGE_EVENT_DATA1_PORT_ID_SFT \
+               5
+} __rte_packed;
 
-/* hwrm_async_event_cmpl_hwrm_error (size:128b/16B) */
-struct hwrm_async_event_cmpl_hwrm_error {
+/* hwrm_async_event_cmpl_default_vnic_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_default_vnic_change {
        uint16_t        type;
        /*
         * This field indicates the exact type of the completion.
         * By convention, the LSB identifies the length of the
-        * record in 16B units.  Even values indicate 16B
-        * records.  Odd values indicate 32B
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
         * records.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_MASK \
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_MASK \
                UINT32_C(0x3f)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_SFT             0
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_SFT \
+               0
        /* HWRM Asynchronous Event Information */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_HWRM_ASYNC_EVENT \
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_HWRM_ASYNC_EVENT \
                UINT32_C(0x2e)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_HWRM_ASYNC_EVENT
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       /* unused1 is 10 b */
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_UNUSED1_MASK \
+               UINT32_C(0xffc0)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_UNUSED1_SFT \
+               6
        /* Identifiers of events. */
        uint16_t        event_id;
-       /* HWRM Error */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_HWRM_ERROR \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_HWRM_ERROR
+       /* Notification of a default vnic allocation or free */
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_ALLOC_FREE_NOTIFICATION \
+               UINT32_C(0x35)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_ID_ALLOC_FREE_NOTIFICATION
        /* Event specific data */
        uint32_t        event_data2;
-       /* Severity of HWRM Error */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_MASK \
-               UINT32_C(0xff)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_SFT     0
-       /* Warning */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_WARNING \
-               UINT32_C(0x0)
-       /* Non-fatal Error */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_NONFATAL \
-               UINT32_C(0x1)
-       /* Fatal Error */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_FATAL \
-               UINT32_C(0x2)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_LAST \
-               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_FATAL
        uint8_t opaque_v;
        /*
         * This value is written by the NIC such that it will be different
-        * for each pass through the completion queue.   The even passes
-        * will write 1.  The odd passes will write 0.
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_V          UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_V \
+               UINT32_C(0x1)
        /* opaque is 7 b */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_OPAQUE_MASK UINT32_C(0xfe)
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_OPAQUE_SFT 1
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_OPAQUE_SFT 1
        /* 8-lsb timestamp from POR (100-msec resolution) */
        uint8_t timestamp_lo;
        /* 16-lsb timestamp from POR (100-msec resolution) */
        uint16_t        timestamp_hi;
        /* Event specific data */
        uint32_t        event_data1;
-       /* Time stamp for error event */
-       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA1_TIMESTAMP \
-               UINT32_C(0x1)
-} __attribute__((packed));
-
-/*******************
- * hwrm_func_reset *
- *******************/
-
-
-/* hwrm_func_reset_input (size:192b/24B) */
-struct hwrm_func_reset_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
+       /* Indicates default vnic configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_MASK \
+               UINT32_C(0x3)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_SFT \
+               0
        /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        * If this field is set to 1, then it indicates that
+        * a default VNIC has been allocate.
         */
-       uint16_t        cmpl_ring;
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_ALLOC \
+               UINT32_C(0x1)
        /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
-        */
-       uint16_t        seq_id;
-       /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
-        */
-       uint16_t        target_id;
-       /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
+        * If this field is set to 2, then it indicates that
+        * a default VNIC has been freed.
         */
-       uint64_t        resp_addr;
-       uint32_t        enables;
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_FREE \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_DEF_VNIC_STATE_DEF_VNIC_FREE
+       /* Indicates the physical function this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_PF_ID_MASK \
+               UINT32_C(0x3fc)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_PF_ID_SFT \
+               2
+       /* Indicates the virtual function this event occurred on */
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_VF_ID_MASK \
+               UINT32_C(0x3fffc00)
+       #define HWRM_ASYNC_EVENT_CMPL_DEFAULT_VNIC_CHANGE_EVENT_DATA1_VF_ID_SFT \
+               10
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_hw_flow_aged (size:128b/16B) */
+struct hwrm_async_event_cmpl_hw_flow_aged {
+       uint16_t        type;
        /*
-        * This bit must be '1' for the vf_id_valid field to be
-        * configured.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       #define HWRM_FUNC_RESET_INPUT_ENABLES_VF_ID_VALID     UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Notification of a hw flow aged */
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_HW_FLOW_AGED \
+               UINT32_C(0x36)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_ID_HW_FLOW_AGED
+       /* Event specific data */
+       uint32_t        event_data2;
+       uint8_t opaque_v;
        /*
-        * The ID of the VF that this PF is trying to reset.
-        * Only the parent PF shall be allowed to reset a child VF.
-        *
-        * A parent PF driver shall use this field only when a specific child VF
-        * is requested to be reset.
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       uint16_t        vf_id;
-       /* This value indicates the level of a function reset. */
-       uint8_t func_reset_level;
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+       /* Indicates flow ID this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_ID_MASK \
+               UINT32_C(0x7fffffff)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_ID_SFT \
+               0
+       /* Indicates flow direction this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION \
+               UINT32_C(0x80000000)
        /*
-        * Reset the caller function and its children VFs (if any). If no
-        * children functions exist, then reset the caller function only.
+        * If this bit set to 0, then it indicates that the aged
+        * event was rx flow.
         */
-       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETALL \
-               UINT32_C(0x0)
-       /* Reset the caller function only */
-       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETME \
-               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_RX \
+               (UINT32_C(0x0) << 31)
        /*
-        * Reset all children VFs of the caller function driver if the
-        * caller is a PF driver.
-        * It is an error to specify this level by a VF driver.
-        * It is an error to specify this level by a PF driver with
-        * no children VFs.
+        * If this bit is set to 1, then it indicates that the aged
+        * event was tx flow.
         */
-       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETCHILDREN \
-               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HW_FLOW_AGED_EVENT_DATA1_FLOW_DIRECTION_TX
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_eem_cache_flush_req (size:128b/16B) */
+struct hwrm_async_event_cmpl_eem_cache_flush_req {
+       uint16_t        type;
        /*
-        * Reset a specific VF of the caller function driver if the caller
-        * is the parent PF driver.
-        * It is an error to specify this level by a VF driver.
-        * It is an error to specify this level by a PF driver that is not
-        * the parent of the VF that is being requested to reset.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETVF \
-               UINT32_C(0x3)
-       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_LAST \
-               HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETVF
-       uint8_t unused_0;
-} __attribute__((packed));
-
-/* hwrm_func_reset_output (size:128b/16B) */
-struct hwrm_func_reset_output {
-       /* The specific error status for the command. */
-       uint16_t        error_code;
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /* The sequence ID from the original command. */
-       uint16_t        seq_id;
-       /* The length of the response data in number of bytes. */
-       uint16_t        resp_len;
-       uint8_t unused_0[7];
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_SFT \
+               0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Notification of a eem_cache_flush request */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_EEM_CACHE_FLUSH_REQ \
+               UINT32_C(0x38)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_EVENT_ID_EEM_CACHE_FLUSH_REQ
+       /* Event specific data */
+       uint32_t        event_data2;
+       uint8_t opaque_v;
        /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       uint8_t valid;
-} __attribute__((packed));
-
-/********************
- * hwrm_func_getfid *
- ********************/
-
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_V \
+               UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_REQ_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+} __rte_packed;
 
-/* hwrm_func_getfid_input (size:192b/24B) */
-struct hwrm_func_getfid_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
+/* hwrm_async_event_cmpl_eem_cache_flush_done (size:128b/16B) */
+struct hwrm_async_event_cmpl_eem_cache_flush_done {
+       uint16_t        type;
        /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       uint16_t        cmpl_ring;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_SFT \
+               0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
        /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        * Notification of a host eem_cache_flush has completed. This event
+        * is generated by the host driver.
         */
-       uint16_t        seq_id;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_EEM_CACHE_FLUSH_DONE \
+               UINT32_C(0x39)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_ID_EEM_CACHE_FLUSH_DONE
+       /* Event specific data */
+       uint32_t        event_data2;
+       uint8_t opaque_v;
        /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       uint16_t        target_id;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_V \
+               UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+       /* Indicates function ID that this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_DATA1_FID_MASK \
+               UINT32_C(0xffff)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CACHE_FLUSH_DONE_EVENT_DATA1_FID_SFT \
+               0
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_tcp_flag_action_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_tcp_flag_action_change {
+       uint16_t        type;
        /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       uint64_t        resp_addr;
-       uint32_t        enables;
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_SFT \
+               0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Notification of tcp flag action change */
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_TCP_FLAG_ACTION_CHANGE \
+               UINT32_C(0x3a)
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_EVENT_ID_TCP_FLAG_ACTION_CHANGE
+       /* Event specific data */
+       uint32_t        event_data2;
+       uint8_t opaque_v;
        /*
-        * This bit must be '1' for the pci_id field to be
-        * configured.
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       #define HWRM_FUNC_GETFID_INPUT_ENABLES_PCI_ID     UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_V \
+               UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_TCP_FLAG_ACTION_CHANGE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_eem_flow_active (size:128b/16B) */
+struct hwrm_async_event_cmpl_eem_flow_active {
+       uint16_t        type;
        /*
-        * This value is the PCI ID of the queried function.
-        * If ARI is enabled, then it is
-        * Bus Number (8b):Function Number(8b). Otherwise, it is
-        * Bus Number (8b):Device Number (5b):Function Number(3b).
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       uint16_t        pci_id;
-       uint8_t unused_0[2];
-} __attribute__((packed));
-
-/* hwrm_func_getfid_output (size:128b/16B) */
-struct hwrm_func_getfid_output {
-       /* The specific error status for the command. */
-       uint16_t        error_code;
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /* The sequence ID from the original command. */
-       uint16_t        seq_id;
-       /* The length of the response data in number of bytes. */
-       uint16_t        resp_len;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Notification of an active eem flow */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_EEM_FLOW_ACTIVE \
+               UINT32_C(0x3b)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_ID_EEM_FLOW_ACTIVE
+       /* Event specific data */
+       uint32_t        event_data2;
+       /* Indicates the 2nd global id this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_GLOBAL_ID_2_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_GLOBAL_ID_2_SFT \
+               0
        /*
-        * FID value.  This value is used to identify operations on the PCI
-        * bus as belonging to a particular PCI function.
+        * Indicates flow direction of the flow identified by
+        * the global_id_2.
         */
-       uint16_t        fid;
-       uint8_t unused_0[5];
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION \
+               UINT32_C(0x40000000)
+       /* If this bit is set to 0, then it indicates that this rx flow. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_RX \
+               (UINT32_C(0x0) << 30)
+       /* If this bit is set to 1, then it indicates that this tx flow. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_TX \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA2_FLOW_DIRECTION_TX
+       uint8_t opaque_v;
        /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       uint8_t valid;
-} __attribute__((packed));
-
-/**********************
- * hwrm_func_vf_alloc *
- **********************/
-
-
-/* hwrm_func_vf_alloc_input (size:192b/24B) */
-struct hwrm_func_vf_alloc_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_OPAQUE_MASK \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+       /* Indicates the 1st global id this event occurred on. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_GLOBAL_ID_1_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_GLOBAL_ID_1_SFT \
+               0
        /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        * Indicates flow direction of the flow identified by the
+        * global_id_1.
         */
-       uint16_t        cmpl_ring;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION \
+               UINT32_C(0x40000000)
+       /* If this bit is set to 0, then it indicates that this is rx flow. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_RX \
+               (UINT32_C(0x0) << 30)
+       /* If this bit is set to 1, then it indicates that this is tx flow. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_TX \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_FLOW_DIRECTION_TX
        /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        * Indicates EEM flow aging mode this event occurred on. If
+        * this bit is set to 0, the event_data1 is the EEM global
+        * ID. If this bit is set to 1, the event_data1 is the number
+        * of global ID in the context memory.
         */
-       uint16_t        seq_id;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE \
+               UINT32_C(0x80000000)
+       /* EEM flow aging mode 0. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_0 \
+               (UINT32_C(0x0) << 31)
+       /* EEM flow aging mode 1. */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_1 \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_FLOW_ACTIVE_EVENT_DATA1_MODE_1
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_eem_cfg_change (size:128b/16B) */
+struct hwrm_async_event_cmpl_eem_cfg_change {
+       uint16_t        type;
        /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       uint16_t        target_id;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Notification of EEM configuration change */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_EEM_CFG_CHANGE \
+               UINT32_C(0x3c)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_ID_EEM_CFG_CHANGE
+       /* Event specific data */
+       uint32_t        event_data2;
+       uint8_t opaque_v;
        /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
         */
-       uint64_t        resp_addr;
-       uint32_t        enables;
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
        /*
-        * This bit must be '1' for the first_vf_id field to be
-        * configured.
+        * Value of 1 to indicate EEM TX configuration is enabled. Value of
+        * 0 to indicate the EEM TX configuration is disabled.
         */
-       #define HWRM_FUNC_VF_ALLOC_INPUT_ENABLES_FIRST_VF_ID     UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_DATA1_EEM_TX_ENABLE \
+               UINT32_C(0x1)
        /*
-        * This value is used to identify a Virtual Function (VF).
-        * The scope of VF ID is local within a PF.
+        * Value of 1 to indicate EEM RX configuration is enabled. Value of 0
+        * to indicate the EEM RX configuration is disabled.
         */
-       uint16_t        first_vf_id;
-       /* The number of virtual functions requested. */
-       uint16_t        num_vfs;
-} __attribute__((packed));
+       #define HWRM_ASYNC_EVENT_CMPL_EEM_CFG_CHANGE_EVENT_DATA1_EEM_RX_ENABLE \
+               UINT32_C(0x2)
+} __rte_packed;
 
-/* hwrm_func_vf_alloc_output (size:128b/16B) */
-struct hwrm_func_vf_alloc_output {
-       /* The specific error status for the command. */
-       uint16_t        error_code;
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /* The sequence ID from the original command. */
-       uint16_t        seq_id;
-       /* The length of the response data in number of bytes. */
-       uint16_t        resp_len;
-       /* The ID of the first VF allocated. */
-       uint16_t        first_vf_id;
-       uint8_t unused_0[5];
+/* hwrm_async_event_cmpl_quiesce_done (size:128b/16B) */
+struct hwrm_async_event_cmpl_quiesce_done {
+       uint16_t        type;
        /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
         */
-       uint8_t valid;
-} __attribute__((packed));
-
-/*********************
- * hwrm_func_vf_free *
- *********************/
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* An event signifying completion of HWRM_FW_STATE_QUIESCE */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_ID_QUIESCE_DONE \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_ID_QUIESCE_DONE
+       /* Event specific data */
+       uint32_t        event_data2;
+       /* Status of HWRM_FW_STATE_QUIESCE completion */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_SFT \
+               0
+       /*
+        * The quiesce operation started by HWRM_FW_STATE_QUIESCE
+        * completed successfully.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_SUCCESS \
+               UINT32_C(0x0)
+       /*
+        * The quiesce operation started by HWRM_FW_STATE_QUIESCE timed
+        * out.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_TIMEOUT \
+               UINT32_C(0x1)
+       /*
+        * The quiesce operation started by HWRM_FW_STATE_QUIESCE
+        * encountered an error.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_ERROR \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_LAST \
+               HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA2_QUIESCE_STATUS_ERROR
+       uint8_t opaque_v;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+       /* Time stamp for error event */
+       #define HWRM_ASYNC_EVENT_CMPL_QUIESCE_DONE_EVENT_DATA1_TIMESTAMP \
+               UINT32_C(0x1)
+} __rte_packed;
+
+/* hwrm_async_event_cmpl_fw_trace_msg (size:128b/16B) */
+struct hwrm_async_event_cmpl_fw_trace_msg {
+       uint16_t        type;
+       /*
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* Firmware trace log message */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_FW_TRACE_MSG \
+               UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_ID_FW_TRACE_MSG
+       /* Trace byte 0 to 3 */
+       uint32_t        event_data2;
+       /* Trace byte0 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE0_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE0_SFT 0
+       /* Trace byte1 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE1_MASK \
+               UINT32_C(0xff00)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE1_SFT 8
+       /* Trace byte2 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE2_MASK \
+               UINT32_C(0xff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE2_SFT 16
+       /* Trace byte3 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE3_MASK \
+               UINT32_C(0xff000000)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA2_BYTE3_SFT 24
+       uint8_t opaque_v;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_OPAQUE_SFT 1
+       /* Trace flags */
+       uint8_t timestamp_lo;
+       /* Indicates if the string is partial or complete. */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING \
+               UINT32_C(0x1)
+       /* Complete string */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_COMPLETE \
+               UINT32_C(0x0)
+       /* Partial string */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_PARTIAL \
+               UINT32_C(0x1)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_STRING_PARTIAL
+       /* Indicates the firmware that sent the trace message. */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE \
+               UINT32_C(0x2)
+       /* Primary firmware */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_PRIMARY \
+               (UINT32_C(0x0) << 1)
+       /* Secondary firmware */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_SECONDARY \
+               (UINT32_C(0x1) << 1)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_LO_FIRMWARE_SECONDARY
+       /* Trace byte 4 to 5 */
+       uint16_t        timestamp_hi;
+       /* Trace byte4 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE4_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE4_SFT 0
+       /* Trace byte5 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE5_MASK \
+               UINT32_C(0xff00)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_TIMESTAMP_HI_BYTE5_SFT 8
+       /* Trace byte 6 to 9 */
+       uint32_t        event_data1;
+       /* Trace byte6 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE6_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE6_SFT 0
+       /* Trace byte7 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE7_MASK \
+               UINT32_C(0xff00)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE7_SFT 8
+       /* Trace byte8 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE8_MASK \
+               UINT32_C(0xff0000)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE8_SFT 16
+       /* Trace byte9 */
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE9_MASK \
+               UINT32_C(0xff000000)
+       #define HWRM_ASYNC_EVENT_CMPL_FW_TRACE_MSG_EVENT_DATA1_BYTE9_SFT 24
+} __rte_packed;
 
+/* hwrm_async_event_cmpl_hwrm_error (size:128b/16B) */
+struct hwrm_async_event_cmpl_hwrm_error {
+       uint16_t        type;
+       /*
+        * This field indicates the exact type of the completion.
+        * By convention, the LSB identifies the length of the
+        * record in 16B units. Even values indicate 16B
+        * records. Odd values indicate 32B
+        * records.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_MASK \
+               UINT32_C(0x3f)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_SFT             0
+       /* HWRM Asynchronous Event Information */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_HWRM_ASYNC_EVENT \
+               UINT32_C(0x2e)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_TYPE_HWRM_ASYNC_EVENT
+       /* Identifiers of events. */
+       uint16_t        event_id;
+       /* HWRM Error */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_HWRM_ERROR \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_ID_HWRM_ERROR
+       /* Event specific data */
+       uint32_t        event_data2;
+       /* Severity of HWRM Error */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_MASK \
+               UINT32_C(0xff)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_SFT     0
+       /* Warning */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_WARNING \
+               UINT32_C(0x0)
+       /* Non-fatal Error */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_NONFATAL \
+               UINT32_C(0x1)
+       /* Fatal Error */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_FATAL \
+               UINT32_C(0x2)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_LAST \
+               HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA2_SEVERITY_FATAL
+       uint8_t opaque_v;
+       /*
+        * This value is written by the NIC such that it will be different
+        * for each pass through the completion queue. The even passes
+        * will write 1. The odd passes will write 0.
+        */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_V          UINT32_C(0x1)
+       /* opaque is 7 b */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_OPAQUE_MASK UINT32_C(0xfe)
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_OPAQUE_SFT 1
+       /* 8-lsb timestamp from POR (100-msec resolution) */
+       uint8_t timestamp_lo;
+       /* 16-lsb timestamp from POR (100-msec resolution) */
+       uint16_t        timestamp_hi;
+       /* Event specific data */
+       uint32_t        event_data1;
+       /* Time stamp for error event */
+       #define HWRM_ASYNC_EVENT_CMPL_HWRM_ERROR_EVENT_DATA1_TIMESTAMP \
+               UINT32_C(0x1)
+} __rte_packed;
 
-/* hwrm_func_vf_free_input (size:192b/24B) */
-struct hwrm_func_vf_free_input {
+/*******************
+ * hwrm_func_reset *
+ *******************/
+
+
+/* hwrm_func_reset_input (size:192b/24B) */
+struct hwrm_func_reset_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -6110,7 +6607,8 @@ struct hwrm_func_vf_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -6123,24 +6621,54 @@ struct hwrm_func_vf_free_input {
        uint64_t        resp_addr;
        uint32_t        enables;
        /*
-        * This bit must be '1' for the first_vf_id field to be
+        * This bit must be '1' for the vf_id_valid field to be
         * configured.
         */
-       #define HWRM_FUNC_VF_FREE_INPUT_ENABLES_FIRST_VF_ID     UINT32_C(0x1)
+       #define HWRM_FUNC_RESET_INPUT_ENABLES_VF_ID_VALID     UINT32_C(0x1)
        /*
-        * This value is used to identify a Virtual Function (VF).
-        * The scope of VF ID is local within a PF.
+        * The ID of the VF that this PF is trying to reset.
+        * Only the parent PF shall be allowed to reset a child VF.
+        *
+        * A parent PF driver shall use this field only when a specific child VF
+        * is requested to be reset.
         */
-       uint16_t        first_vf_id;
+       uint16_t        vf_id;
+       /* This value indicates the level of a function reset. */
+       uint8_t func_reset_level;
        /*
-        * The number of virtual functions requested.
-        * 0xFFFF - Cleanup all children of this PF.
+        * Reset the caller function and its children VFs (if any). If no
+        * children functions exist, then reset the caller function only.
         */
-       uint16_t        num_vfs;
-} __attribute__((packed));
+       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETALL \
+               UINT32_C(0x0)
+       /* Reset the caller function only */
+       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETME \
+               UINT32_C(0x1)
+       /*
+        * Reset all children VFs of the caller function driver if the
+        * caller is a PF driver.
+        * It is an error to specify this level by a VF driver.
+        * It is an error to specify this level by a PF driver with
+        * no children VFs.
+        */
+       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETCHILDREN \
+               UINT32_C(0x2)
+       /*
+        * Reset a specific VF of the caller function driver if the caller
+        * is the parent PF driver.
+        * It is an error to specify this level by a VF driver.
+        * It is an error to specify this level by a PF driver that is not
+        * the parent of the VF that is being requested to reset.
+        */
+       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETVF \
+               UINT32_C(0x3)
+       #define HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_LAST \
+               HWRM_FUNC_RESET_INPUT_FUNC_RESET_LEVEL_RESETVF
+       uint8_t unused_0;
+} __rte_packed;
 
-/* hwrm_func_vf_free_output (size:128b/16B) */
-struct hwrm_func_vf_free_output {
+/* hwrm_func_reset_output (size:128b/16B) */
+struct hwrm_func_reset_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -6158,16 +6686,16 @@ struct hwrm_func_vf_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************
- * hwrm_func_vf_cfg *
+ * hwrm_func_getfid *
  ********************/
 
 
-/* hwrm_func_vf_cfg_input (size:448b/56B) */
-struct hwrm_func_vf_cfg_input {
-       /* The HWRM command request type. */
+/* hwrm_func_getfid_input (size:192b/24B) */
+struct hwrm_func_getfid_input {
+       /* The HWRM command request type. */
        uint16_t        req_type;
        /*
         * The completion ring to send the completion event on. This should
@@ -6183,7 +6711,232 @@ struct hwrm_func_vf_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        enables;
+       /*
+        * This bit must be '1' for the pci_id field to be
+        * configured.
+        */
+       #define HWRM_FUNC_GETFID_INPUT_ENABLES_PCI_ID     UINT32_C(0x1)
+       /*
+        * This value is the PCI ID of the queried function.
+        * If ARI is enabled, then it is
+        * Bus Number (8b):Function Number(8b). Otherwise, it is
+        * Bus Number (8b):Device Number (5b):Function Number(3b).
+        */
+       uint16_t        pci_id;
+       uint8_t unused_0[2];
+} __rte_packed;
+
+/* hwrm_func_getfid_output (size:128b/16B) */
+struct hwrm_func_getfid_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /*
+        * FID value.  This value is used to identify operations on the PCI
+        * bus as belonging to a particular PCI function.
+        */
+       uint16_t        fid;
+       uint8_t unused_0[5];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/**********************
+ * hwrm_func_vf_alloc *
+ **********************/
+
+
+/* hwrm_func_vf_alloc_input (size:192b/24B) */
+struct hwrm_func_vf_alloc_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        enables;
+       /*
+        * This bit must be '1' for the first_vf_id field to be
+        * configured.
+        */
+       #define HWRM_FUNC_VF_ALLOC_INPUT_ENABLES_FIRST_VF_ID     UINT32_C(0x1)
+       /*
+        * This value is used to identify a Virtual Function (VF).
+        * The scope of VF ID is local within a PF.
+        */
+       uint16_t        first_vf_id;
+       /* The number of virtual functions requested. */
+       uint16_t        num_vfs;
+} __rte_packed;
+
+/* hwrm_func_vf_alloc_output (size:128b/16B) */
+struct hwrm_func_vf_alloc_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* The ID of the first VF allocated. */
+       uint16_t        first_vf_id;
+       uint8_t unused_0[5];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/*********************
+ * hwrm_func_vf_free *
+ *********************/
+
+
+/* hwrm_func_vf_free_input (size:192b/24B) */
+struct hwrm_func_vf_free_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        enables;
+       /*
+        * This bit must be '1' for the first_vf_id field to be
+        * configured.
+        */
+       #define HWRM_FUNC_VF_FREE_INPUT_ENABLES_FIRST_VF_ID     UINT32_C(0x1)
+       /*
+        * This value is used to identify a Virtual Function (VF).
+        * The scope of VF ID is local within a PF.
+        */
+       uint16_t        first_vf_id;
+       /*
+        * The number of virtual functions requested.
+        * 0xFFFF - Cleanup all children of this PF.
+        */
+       uint16_t        num_vfs;
+} __rte_packed;
+
+/* hwrm_func_vf_free_output (size:128b/16B) */
+struct hwrm_func_vf_free_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/********************
+ * hwrm_func_vf_cfg *
+ ********************/
+
+
+/* hwrm_func_vf_cfg_input (size:448b/56B) */
+struct hwrm_func_vf_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -6400,7 +7153,7 @@ struct hwrm_func_vf_cfg_input {
        /* The number of HW ring groups requested for the VF. */
        uint16_t        num_hw_ring_grps;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vf_cfg_output (size:128b/16B) */
 struct hwrm_func_vf_cfg_output {
@@ -6421,7 +7174,7 @@ struct hwrm_func_vf_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_func_qcaps *
@@ -6446,7 +7199,8 @@ struct hwrm_func_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -6464,7 +7218,7 @@ struct hwrm_func_qcaps_input {
         */
        uint16_t        fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_qcaps_output (size:640b/80B) */
 struct hwrm_func_qcaps_output {
@@ -6663,6 +7417,30 @@ struct hwrm_func_qcaps_output {
         */
        #define HWRM_FUNC_QCAPS_OUTPUT_FLAGS_ERROR_RECOVERY_CAPABLE \
                UINT32_C(0x800000)
+       /*
+        * If the query is for a VF, then this flag shall be ignored.
+        * If this query is for a PF and this flag is set to 1, then
+        * the PF has the capability to support extended stats.
+        */
+       #define HWRM_FUNC_QCAPS_OUTPUT_FLAGS_EXT_STATS_SUPPORTED \
+               UINT32_C(0x1000000)
+       /*
+        * If the query is for a VF, then this flag shall be ignored.
+        * If this query is for a PF and this flag is set to 1, then host
+        * must initiate reset or reload (or fastboot) the firmware image
+        * upon detection of device shutdown state.
+        */
+       #define HWRM_FUNC_QCAPS_OUTPUT_FLAGS_ERR_RECOVER_RELOAD \
+               UINT32_C(0x2000000)
+       /*
+        * If the query is for a VF, then this flag (always set to 0) shall
+        * be ignored. If this query is for a PF and this flag is set to 1,
+        * host, when registered for the default vnic change async event,
+        * receives async notification whenever a default vnic state is
+        * changed for any of child or adopted VFs.
+        */
+       #define HWRM_FUNC_QCAPS_OUTPUT_FLAGS_NOTIFY_VF_DEF_VNIC_CHNG_SUPPORTED \
+               UINT32_C(0x4000000)
        /*
         * This value is current MAC address configured for this
         * function. A value of 00-00-00-00-00-00 indicates no
@@ -6782,7 +7560,7 @@ struct hwrm_func_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_func_qcfg *
@@ -6807,7 +7585,8 @@ struct hwrm_func_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -6825,7 +7604,7 @@ struct hwrm_func_qcfg_input {
         */
        uint16_t        fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_qcfg_output (size:704b/88B) */
 struct hwrm_func_qcfg_output {
@@ -6921,6 +7700,16 @@ struct hwrm_func_qcfg_output {
         */
        #define HWRM_FUNC_QCFG_OUTPUT_FLAGS_SECURE_MODE_ENABLED \
                UINT32_C(0x80)
+       /*
+        * If set to 1, then this PF is enabled with a preboot driver that
+        * requires access to the legacy L2 ring model and legacy 32b
+        * doorbells. If set to 0, then this PF is not allowed to use
+        * the legacy L2 rings. This feature is not allowed on VFs and
+        * is only relevant for devices that require a context backing
+        * store.
+        */
+       #define HWRM_FUNC_QCFG_OUTPUT_FLAGS_PREBOOT_LEGACY_L2_RINGS \
+               UINT32_C(0x100)
        /*
         * This value is current MAC address configured for this
         * function. A value of 00-00-00-00-00-00 indicates no
@@ -7200,7 +7989,16 @@ struct hwrm_func_qcfg_output {
         * the unregister request on PF in the HOT Reset Process.
         */
        uint16_t        registered_vfs;
-       uint8_t unused_1[3];
+       /*
+        * The size of the doorbell BAR in KBytes reserved for L2 including
+        * any area that is shared between L2 and RoCE.  The L2 driver
+        * should only map the L2 portion of the doorbell BAR.  Any rounding
+        * of the BAR size to the native CPU page size should be performed
+        * by the driver.  If the value is zero, no special partitioning
+        * of the doorbell BAR between L2 and RoCE is required.
+        */
+       uint16_t        l2_doorbell_bar_size_kb;
+       uint8_t unused_1;
        /*
         * For backward compatibility this field must be set to 1.
         * Older drivers might look for this field to be 1 before
@@ -7213,7 +8011,12 @@ struct hwrm_func_qcfg_output {
         * after receiving the RESET Notify event.
         */
        uint32_t        reset_addr_poll;
-       uint8_t unused_2[3];
+       /*
+        * This field specifies legacy L2 doorbell size in KBytes. Drivers should use
+        * this value to find out the doorbell page offset from the BAR.
+        */
+       uint16_t        legacy_l2_db_size_kb;
+       uint8_t unused_2[1];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -7222,7 +8025,7 @@ struct hwrm_func_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************
  * hwrm_func_cfg *
@@ -7247,7 +8050,8 @@ struct hwrm_func_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -7440,6 +8244,14 @@ struct hwrm_func_cfg_input {
         */
        #define HWRM_FUNC_CFG_INPUT_FLAGS_TRUSTED_VF_DISABLE \
                UINT32_C(0x1000000)
+       /*
+        * This bit is used by preboot drivers on a PF that require access
+        * to the legacy L2 ring model and legacy 32b doorbells. This
+        * feature is not allowed on VFs and is only relevant for devices
+        * that require a context backing store.
+        */
+       #define HWRM_FUNC_CFG_INPUT_FLAGS_PREBOOT_LEGACY_L2_RINGS \
+               UINT32_C(0x2000000)
        uint32_t        enables;
        /*
         * This bit must be '1' for the mtu field to be
@@ -7843,7 +8655,7 @@ struct hwrm_func_cfg_input {
         * be reserved for this function on the RX side.
         */
        uint16_t        num_mcast_filters;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_cfg_output (size:128b/16B) */
 struct hwrm_func_cfg_output {
@@ -7864,7 +8676,7 @@ struct hwrm_func_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************
  * hwrm_func_qstats *
@@ -7889,7 +8701,8 @@ struct hwrm_func_qstats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -7904,10 +8717,23 @@ struct hwrm_func_qstats_input {
         * Function ID of the function that is being queried.
         * 0xFF... (All Fs) if the query is for the requesting
         * function.
+        * A privileged PF can query for other function's statistics.
         */
        uint16_t        fid;
-       uint8_t unused_0[6];
-} __attribute__((packed));
+       /* This flags indicates the type of statistics request. */
+       uint8_t flags;
+       /* This value is not used to avoid backward compatibility issues. */
+       #define HWRM_FUNC_QSTATS_INPUT_FLAGS_UNUSED    UINT32_C(0x0)
+       /*
+        * flags should be set to 1 when request is for only RoCE statistics.
+        * This will be honored only if the caller_fid is a privileged PF.
+        * In all other cases FID and caller_fid should be the same.
+        */
+       #define HWRM_FUNC_QSTATS_INPUT_FLAGS_ROCE_ONLY UINT32_C(0x1)
+       #define HWRM_FUNC_QSTATS_INPUT_FLAGS_LAST \
+               HWRM_FUNC_QSTATS_INPUT_FLAGS_ROCE_ONLY
+       uint8_t unused_0[5];
+} __rte_packed;
 
 /* hwrm_func_qstats_output (size:1408b/176B) */
 struct hwrm_func_qstats_output {
@@ -7989,7 +8815,7 @@ struct hwrm_func_qstats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_func_clr_stats *
@@ -8014,7 +8840,8 @@ struct hwrm_func_clr_stats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8032,7 +8859,7 @@ struct hwrm_func_clr_stats_input {
         */
        uint16_t        fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_clr_stats_output (size:128b/16B) */
 struct hwrm_func_clr_stats_output {
@@ -8053,7 +8880,7 @@ struct hwrm_func_clr_stats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_func_vf_resc_free *
@@ -8078,7 +8905,8 @@ struct hwrm_func_vf_resc_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8095,7 +8923,7 @@ struct hwrm_func_vf_resc_free_input {
         */
        uint16_t        vf_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vf_resc_free_output (size:128b/16B) */
 struct hwrm_func_vf_resc_free_output {
@@ -8116,7 +8944,7 @@ struct hwrm_func_vf_resc_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_func_drv_rgtr *
@@ -8141,7 +8969,8 @@ struct hwrm_func_drv_rgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8221,6 +9050,16 @@ struct hwrm_func_drv_rgtr_input {
         */
        #define HWRM_FUNC_DRV_RGTR_INPUT_FLAGS_ERROR_RECOVERY_SUPPORT \
                UINT32_C(0x20)
+       /*
+        * When this bit is 1, the function is indicating the support of the
+        * Master capability. The Firmware will use this capability to select the
+        * Master function. The master function will be used to initiate
+        * designated functionality like error recovery etc… If none of the
+        * registered PF’s or trusted VF’s indicate this support, then
+        * firmware will select the 1st registered PF as Master capable instance.
+        */
+       #define HWRM_FUNC_DRV_RGTR_INPUT_FLAGS_MASTER_SUPPORT \
+               UINT32_C(0x40)
        uint32_t        enables;
        /*
         * This bit must be '1' for the os_type field to be
@@ -8329,7 +9168,7 @@ struct hwrm_func_drv_rgtr_input {
        uint16_t        ver_upd;
        /* This is the 16bit patch version of the driver. */
        uint16_t        ver_patch;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_drv_rgtr_output (size:128b/16B) */
 struct hwrm_func_drv_rgtr_output {
@@ -8357,7 +9196,7 @@ struct hwrm_func_drv_rgtr_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /************************
  * hwrm_func_drv_unrgtr *
@@ -8382,7 +9221,8 @@ struct hwrm_func_drv_unrgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8401,7 +9241,7 @@ struct hwrm_func_drv_unrgtr_input {
        #define HWRM_FUNC_DRV_UNRGTR_INPUT_FLAGS_PREPARE_FOR_SHUTDOWN \
                UINT32_C(0x1)
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_drv_unrgtr_output (size:128b/16B) */
 struct hwrm_func_drv_unrgtr_output {
@@ -8422,7 +9262,7 @@ struct hwrm_func_drv_unrgtr_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_func_buf_rgtr *
@@ -8447,7 +9287,8 @@ struct hwrm_func_buf_rgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8535,7 +9376,7 @@ struct hwrm_func_buf_rgtr_input {
         * HWRM.
         */
        uint64_t        resp_buf_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_buf_rgtr_output (size:128b/16B) */
 struct hwrm_func_buf_rgtr_output {
@@ -8556,7 +9397,7 @@ struct hwrm_func_buf_rgtr_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /************************
  * hwrm_func_buf_unrgtr *
@@ -8581,7 +9422,8 @@ struct hwrm_func_buf_unrgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8604,7 +9446,7 @@ struct hwrm_func_buf_unrgtr_input {
         */
        uint16_t        vf_id;
        uint8_t unused_0[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_buf_unrgtr_output (size:128b/16B) */
 struct hwrm_func_buf_unrgtr_output {
@@ -8625,7 +9467,7 @@ struct hwrm_func_buf_unrgtr_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_func_drv_qver *
@@ -8650,7 +9492,8 @@ struct hwrm_func_drv_qver_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8670,7 +9513,7 @@ struct hwrm_func_drv_qver_input {
         */
        uint16_t        fid;
        uint8_t unused_0[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_drv_qver_output (size:256b/32B) */
 struct hwrm_func_drv_qver_output {
@@ -8732,7 +9575,7 @@ struct hwrm_func_drv_qver_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_func_resource_qcaps *
@@ -8757,7 +9600,8 @@ struct hwrm_func_resource_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8775,7 +9619,7 @@ struct hwrm_func_resource_qcaps_input {
         */
        uint16_t        fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_resource_qcaps_output (size:448b/56B) */
 struct hwrm_func_resource_qcaps_output {
@@ -8861,7 +9705,7 @@ struct hwrm_func_resource_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************************
  * hwrm_func_backing_store_qcaps *
@@ -8886,7 +9730,8 @@ struct hwrm_func_backing_store_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -8897,9 +9742,9 @@ struct hwrm_func_backing_store_qcaps_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
-/* hwrm_func_backing_store_qcaps_output (size:576b/72B) */
+/* hwrm_func_backing_store_qcaps_output (size:640b/80B) */
 struct hwrm_func_backing_store_qcaps_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
@@ -8973,7 +9818,10 @@ struct hwrm_func_backing_store_qcaps_output {
         * the backing store.
         */
        uint32_t        tqm_max_entries_per_ring;
-       /* Maximum number of MR/AV context entries supported for this function. */
+       /*
+        * Maximum number of MR plus AV context entries supported for this
+        * function.
+        */
        uint32_t        mrav_max_entries;
        /* Number of bytes that must be allocated for each context entry. */
        uint16_t        mrav_entry_size;
@@ -8981,13 +9829,41 @@ struct hwrm_func_backing_store_qcaps_output {
        uint16_t        tim_entry_size;
        /* Maximum number of Timer context entries supported for this function. */
        uint32_t        tim_max_entries;
-       uint8_t unused_0[2];
+       /*
+        * When this field is zero, the 32b `mrav_num_entries` field in the
+        * `backing_store_cfg` and `backing_store_qcfg` commands represents
+        * the total number of MR plus AV entries allowed in the MR/AV backing
+        * store PBL.
+        *
+        * When this field is non-zero, the 32b `mrav_num_entries` field in
+        * the `backing_store_cfg` and `backing_store_qcfg` commands is
+        * logically divided into two 16b fields. Bits `[31:16]` represents
+        * the `mr_num_entries` and bits `[15:0]` represents `av_num_entries`.
+        * Both of these values are represented in a unit granularity
+        * specified by this field. For example, if this field is 16 and
+        * `mrav_num_entries` is `0x02000100`, then the number of MR entries
+        * is 8192 and the number of AV entries is 4096.
+        */
+       uint16_t        mrav_num_entries_units;
        /*
         * The number of entries specified for any TQM ring must be a
         * multiple of this value to prevent any resource allocation
         * limitations.
         */
        uint8_t tqm_entries_multiple;
+       /*
+        * Initializer to be used by drivers
+        * to initialize context memory to ensure
+        * context subsystem flags an error for an attack
+        * before the first time context load.
+        */
+       uint8_t ctx_kind_initializer;
+       /* Reserved for future. */
+       uint32_t        rsvd;
+       /* Reserved for future. */
+       uint16_t        rsvd1;
+       /* Reserved for future. */
+       uint8_t rsvd2;
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -8996,7 +9872,7 @@ struct hwrm_func_backing_store_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_func_backing_store_cfg *
@@ -9021,7 +9897,8 @@ struct hwrm_func_backing_store_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -9041,6 +9918,12 @@ struct hwrm_func_backing_store_cfg_input {
         */
        #define HWRM_FUNC_BACKING_STORE_CFG_INPUT_FLAGS_PREBOOT_MODE \
                UINT32_C(0x1)
+       /*
+        * When set, the 32b `mrav_num_entries` field is logically divided
+        * into two 16b fields, `mr_num_entries` and `av_num_entries`.
+        */
+       #define HWRM_FUNC_BACKING_STORE_CFG_INPUT_FLAGS_MRAV_RESERVATION_SPLIT \
+               UINT32_C(0x2)
        uint32_t        enables;
        /*
         * This bit must be '1' for the qp fields to be
@@ -9958,7 +10841,20 @@ struct hwrm_func_backing_store_cfg_input {
         * the backing store.
         */
        uint32_t        tqm_ring7_num_entries;
-       /* Number of MR/AV entries. */
+       /*
+        * If the MR/AV split reservation flag is not set, then this field
+        * represents the total number of MR plus AV entries. For versions
+        * of firmware that support the split reservation, when it is not
+        * specified half of the entries will be reserved for MRs and the
+        * other half for AVs.
+        *
+        * If the MR/AV split reservation flag is set, then this
+        * field is logically divided into two 16b fields. Bits `[31:16]`
+        * represents the `mr_num_entries` and bits `[15:0]` represents
+        * `av_num_entries`. The granularity of these values is defined by
+        * the `mrav_num_entries_unit` field returned by the
+        * `backing_store_qcaps` command.
+        */
        uint32_t        mrav_num_entries;
        /* Number of Timer entries. */
        uint32_t        tim_num_entries;
@@ -9990,7 +10886,7 @@ struct hwrm_func_backing_store_cfg_input {
        uint16_t        mrav_entry_size;
        /* Number of bytes that have been allocated for each context entry. */
        uint16_t        tim_entry_size;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_backing_store_cfg_output (size:128b/16B) */
 struct hwrm_func_backing_store_cfg_output {
@@ -10011,7 +10907,7 @@ struct hwrm_func_backing_store_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_func_backing_store_qcfg *
@@ -10036,7 +10932,8 @@ struct hwrm_func_backing_store_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -10047,7 +10944,7 @@ struct hwrm_func_backing_store_qcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_backing_store_qcfg_output (size:1920b/240B) */
 struct hwrm_func_backing_store_qcfg_output {
@@ -10068,6 +10965,12 @@ struct hwrm_func_backing_store_qcfg_output {
         */
        #define HWRM_FUNC_BACKING_STORE_QCFG_OUTPUT_FLAGS_PREBOOT_MODE \
                UINT32_C(0x1)
+       /*
+        * When set, the 32b `mrav_num_entries` field is logically divided
+        * into two 16b fields, `mr_num_entries` and `av_num_entries`.
+        */
+       #define HWRM_FUNC_BACKING_STORE_QCFG_OUTPUT_FLAGS_MRAV_RESERVATION_SPLIT \
+               UINT32_C(0x2)
        uint8_t unused_0[4];
        /*
         * This bit must be '1' for the qp fields to be
@@ -10891,7 +11794,20 @@ struct hwrm_func_backing_store_qcfg_output {
        uint32_t        tqm_ring6_num_entries;
        /* Number of TQM ring 7 entries. */
        uint32_t        tqm_ring7_num_entries;
-       /* Number of MR/AV entries. */
+       /*
+        * If the MR/AV split reservation flag is not set, then this field
+        * represents the total number of MR plus AV entries. For versions
+        * of firmware that support the split reservation, when it is not
+        * specified half of the entries will be reserved for MRs and the
+        * other half for AVs.
+        *
+        * If the MR/AV split reservation flag is set, then this
+        * field is logically divided into two 16b fields. Bits `[31:16]`
+        * represents the `mr_num_entries` and bits `[15:0]` represents
+        * `av_num_entries`. The granularity of these values is defined by
+        * the `mrav_num_entries_unit` field returned by the
+        * `backing_store_qcaps` command.
+        */
        uint32_t        mrav_num_entries;
        /* Number of Timer entries. */
        uint32_t        tim_num_entries;
@@ -10905,7 +11821,7 @@ struct hwrm_func_backing_store_qcfg_output {
         * is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_error_recovery_qcfg *
@@ -10930,7 +11846,8 @@ struct hwrm_error_recovery_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -10942,7 +11859,7 @@ struct hwrm_error_recovery_qcfg_input {
         */
        uint64_t        resp_addr;
        uint8_t unused_0[8];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_error_recovery_qcfg_output (size:1664b/208B) */
 struct hwrm_error_recovery_qcfg_output {
@@ -11271,7 +12188,7 @@ struct hwrm_error_recovery_qcfg_output {
         * is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_func_vlan_qcfg *
@@ -11296,7 +12213,8 @@ struct hwrm_func_vlan_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11315,7 +12233,7 @@ struct hwrm_func_vlan_qcfg_input {
         */
        uint16_t        fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vlan_qcfg_output (size:320b/40B) */
 struct hwrm_func_vlan_qcfg_output {
@@ -11361,7 +12279,7 @@ struct hwrm_func_vlan_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_func_vlan_cfg *
@@ -11386,7 +12304,8 @@ struct hwrm_func_vlan_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11461,7 +12380,7 @@ struct hwrm_func_vlan_cfg_input {
        /* Future use. */
        uint32_t        rsvd2;
        uint8_t unused_3[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vlan_cfg_output (size:128b/16B) */
 struct hwrm_func_vlan_cfg_output {
@@ -11482,7 +12401,7 @@ struct hwrm_func_vlan_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_func_vf_vnic_ids_query *
@@ -11507,7 +12426,8 @@ struct hwrm_func_vf_vnic_ids_query_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11528,7 +12448,7 @@ struct hwrm_func_vf_vnic_ids_query_input {
        uint32_t        max_vnic_id_cnt;
        /* This is the address for VF VNIC ID table */
        uint64_t        vnic_id_tbl_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vf_vnic_ids_query_output (size:128b/16B) */
 struct hwrm_func_vf_vnic_ids_query_output {
@@ -11555,7 +12475,7 @@ struct hwrm_func_vf_vnic_ids_query_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_func_vf_bw_cfg *
@@ -11580,7 +12500,8 @@ struct hwrm_func_vf_bw_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11658,7 +12579,7 @@ struct hwrm_func_vf_bw_cfg_input {
                (UINT32_C(0xf) << 12)
        #define HWRM_FUNC_VF_BW_CFG_INPUT_VFN_RATE_LAST \
                HWRM_FUNC_VF_BW_CFG_INPUT_VFN_RATE_PCT_100
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vf_bw_cfg_output (size:128b/16B) */
 struct hwrm_func_vf_bw_cfg_output {
@@ -11679,7 +12600,7 @@ struct hwrm_func_vf_bw_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /************************
  * hwrm_func_vf_bw_qcfg *
@@ -11704,7 +12625,8 @@ struct hwrm_func_vf_bw_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11727,7 +12649,7 @@ struct hwrm_func_vf_bw_qcfg_input {
        /* The physical VF id of interest */
        #define HWRM_FUNC_VF_BW_QCFG_INPUT_VFN_VFID_MASK UINT32_C(0xfff)
        #define HWRM_FUNC_VF_BW_QCFG_INPUT_VFN_VFID_SFT 0
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_vf_bw_qcfg_output (size:960b/120B) */
 struct hwrm_func_vf_bw_qcfg_output {
@@ -11816,7 +12738,7 @@ struct hwrm_func_vf_bw_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_func_drv_if_change *
@@ -11841,7 +12763,8 @@ struct hwrm_func_drv_if_change_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -11868,7 +12791,7 @@ struct hwrm_func_drv_if_change_input {
         */
        #define HWRM_FUNC_DRV_IF_CHANGE_INPUT_FLAGS_UP     UINT32_C(0x1)
        uint32_t        unused;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_func_drv_if_change_output (size:128b/16B) */
 struct hwrm_func_drv_if_change_output {
@@ -11904,7 +12827,213 @@ struct hwrm_func_drv_if_change_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
+
+/*******************************
+ * hwrm_func_host_pf_ids_query *
+ *******************************/
+
+
+/* hwrm_func_host_pf_ids_query_input (size:192b/24B) */
+struct hwrm_func_host_pf_ids_query_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint8_t host;
+       /*
+        * # If this bit is set to '1', the query will contain PF(s)
+        * belongs to SOC host.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_HOST_SOC      UINT32_C(0x1)
+       /*
+        * # If this bit is set to '1', the query will contain PF(s)
+        * belongs to EP0 host.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_HOST_EP_0     UINT32_C(0x2)
+       /*
+        * # If this bit is set to '1', the query will contain PF(s)
+        * belongs to EP1 host.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_HOST_EP_1     UINT32_C(0x4)
+       /*
+        * # If this bit is set to '1', the query will contain PF(s)
+        * belongs to EP2 host.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_HOST_EP_2     UINT32_C(0x8)
+       /*
+        * # If this bit is set to '1', the query will contain PF(s)
+        * belongs to EP3 host.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_HOST_EP_3     UINT32_C(0x10)
+       /*
+        * This provides a filter of what PF(s) will be returned in the
+        * query..
+        */
+       uint8_t filter;
+       /*
+        * all available PF(s) belong to the host(s) (defined in the
+        * host field). This includes the hidden PFs.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_FILTER_ALL  UINT32_C(0x0)
+       /*
+        * all available PF(s) belong to the host(s) (defined in the
+        * host field) that is available for L2 traffic.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_FILTER_L2   UINT32_C(0x1)
+       /*
+        * all available PF(s) belong to the host(s) (defined in the
+        * host field) that is available for ROCE traffic.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_FILTER_ROCE UINT32_C(0x2)
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_FILTER_LAST \
+               HWRM_FUNC_HOST_PF_IDS_QUERY_INPUT_FILTER_ROCE
+       uint8_t unused_1[6];
+} __rte_packed;
+
+/* hwrm_func_host_pf_ids_query_output (size:128b/16B) */
+struct hwrm_func_host_pf_ids_query_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* This provides the first PF ID of the device. */
+       uint16_t        first_pf_id;
+       uint16_t        pf_ordinal_mask;
+       /*
+        * When this bit is '1', it indicates first PF belongs to one of
+        * the hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_0 \
+               UINT32_C(0x1)
+       /*
+        * When this bit is '1', it indicates 2nd PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_1 \
+               UINT32_C(0x2)
+       /*
+        * When this bit is '1', it indicates 3rd PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_2 \
+               UINT32_C(0x4)
+       /*
+        * When this bit is '1', it indicates 4th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_3 \
+               UINT32_C(0x8)
+       /*
+        * When this bit is '1', it indicates 5th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_4 \
+               UINT32_C(0x10)
+       /*
+        * When this bit is '1', it indicates 6th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_5 \
+               UINT32_C(0x20)
+       /*
+        * When this bit is '1', it indicates 7th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_6 \
+               UINT32_C(0x40)
+       /*
+        * When this bit is '1', it indicates 8th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_7 \
+               UINT32_C(0x80)
+       /*
+        * When this bit is '1', it indicates 9th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_8 \
+               UINT32_C(0x100)
+       /*
+        * When this bit is '1', it indicates 10th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_9 \
+               UINT32_C(0x200)
+       /*
+        * When this bit is '1', it indicates 11th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_10 \
+               UINT32_C(0x400)
+       /*
+        * When this bit is '1', it indicates 12th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_11 \
+               UINT32_C(0x800)
+       /*
+        * When this bit is '1', it indicates 13th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_12 \
+               UINT32_C(0x1000)
+       /*
+        * When this bit is '1', it indicates 14th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_13 \
+               UINT32_C(0x2000)
+       /*
+        * When this bit is '1', it indicates 15th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_14 \
+               UINT32_C(0x4000)
+       /*
+        * When this bit is '1', it indicates 16th PF belongs to one of the
+        * hosts defined in the input request.
+        */
+       #define HWRM_FUNC_HOST_PF_IDS_QUERY_OUTPUT_PF_ORDINAL_MASK_FUNC_15 \
+               UINT32_C(0x8000)
+       uint8_t unused_1[3];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
 
 /*********************
  * hwrm_port_phy_cfg *
@@ -11929,7 +13058,8 @@ struct hwrm_port_phy_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -12375,7 +13505,7 @@ struct hwrm_port_phy_cfg_input {
        #define HWRM_PORT_PHY_CFG_INPUT_LPBK_REMOTE   UINT32_C(0x2)
        /*
         * The HW will be configured with external loopback such that
-        * host data is sent on the trasmitter and based on the external
+        * host data is sent on the transmitter and based on the external
         * loopback connection the data will be received without modification.
         */
        #define HWRM_PORT_PHY_CFG_INPUT_LPBK_EXTERNAL UINT32_C(0x3)
@@ -12437,7 +13567,7 @@ struct hwrm_port_phy_cfg_input {
                UINT32_C(0x40)
        uint8_t unused_2[2];
        /*
-        * Reuested setting of TX LPI timer in microseconds.
+        * Requested setting of TX LPI timer in microseconds.
         * This field is valid only when EEE is enabled and TX LPI is
         * enabled.
         */
@@ -12445,7 +13575,7 @@ struct hwrm_port_phy_cfg_input {
        #define HWRM_PORT_PHY_CFG_INPUT_TX_LPI_TIMER_MASK UINT32_C(0xffffff)
        #define HWRM_PORT_PHY_CFG_INPUT_TX_LPI_TIMER_SFT 0
        uint32_t        unused_3;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_cfg_output (size:128b/16B) */
 struct hwrm_port_phy_cfg_output {
@@ -12466,7 +13596,7 @@ struct hwrm_port_phy_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_cfg_cmd_err (size:64b/8B) */
 struct hwrm_port_phy_cfg_cmd_err {
@@ -12495,7 +13625,7 @@ struct hwrm_port_phy_cfg_cmd_err {
        #define HWRM_PORT_PHY_CFG_CMD_ERR_CODE_LAST \
                HWRM_PORT_PHY_CFG_CMD_ERR_CODE_RETRY
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_port_phy_qcfg *
@@ -12520,7 +13650,8 @@ struct hwrm_port_phy_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -12534,7 +13665,7 @@ struct hwrm_port_phy_qcfg_input {
        /* Port ID of port that is to be queried. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_qcfg_output (size:768b/96B) */
 struct hwrm_port_phy_qcfg_output {
@@ -12866,7 +13997,7 @@ struct hwrm_port_phy_qcfg_output {
        #define HWRM_PORT_PHY_QCFG_OUTPUT_LPBK_REMOTE   UINT32_C(0x2)
        /*
         * The HW will be configured with external loopback such that
-        * host data is sent on the trasmitter and based on the external
+        * host data is sent on the transmitter and based on the external
         * loopback connection the data will be received without modification.
         */
        #define HWRM_PORT_PHY_QCFG_OUTPUT_LPBK_EXTERNAL UINT32_C(0x3)
@@ -13382,14 +14513,14 @@ struct hwrm_port_phy_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_port_mac_cfg *
  *********************/
 
 
-/* hwrm_port_mac_cfg_input (size:320b/40B) */
+/* hwrm_port_mac_cfg_input (size:384b/48B) */
 struct hwrm_port_mac_cfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
@@ -13407,7 +14538,8 @@ struct hwrm_port_mac_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -13504,7 +14636,7 @@ struct hwrm_port_mac_cfg_input {
        #define HWRM_PORT_MAC_CFG_INPUT_FLAGS_OOB_WOL_ENABLE \
                UINT32_C(0x100)
        /*
-        * When this bit is '1', the the Out-Of-Box WoL is requested to
+        * When this bit is '1', the Out-Of-Box WoL is requested to
         * be disabled on this port.
         */
        #define HWRM_PORT_MAC_CFG_INPUT_FLAGS_OOB_WOL_DISABLE \
@@ -13527,6 +14659,13 @@ struct hwrm_port_mac_cfg_input {
         */
        #define HWRM_PORT_MAC_CFG_INPUT_FLAGS_IP_DSCP2COS_DISABLE \
                UINT32_C(0x1000)
+       /*
+        * When this bit is set to '1', and the ptp_tx_ts_capture_enable
+        * bit is set, then the device uses one step Tx timestamping.
+        * This bit is temporary and used for experimental purposes.
+        */
+       #define HWRM_PORT_MAC_CFG_INPUT_FLAGS_PTP_ONE_STEP_TX_TS \
+               UINT32_C(0x2000)
        uint32_t        enables;
        /*
         * This bit must be '1' for the ipg field to be
@@ -13576,6 +14715,12 @@ struct hwrm_port_mac_cfg_input {
         */
        #define HWRM_PORT_MAC_CFG_INPUT_ENABLES_COS_FIELD_CFG \
                UINT32_C(0x100)
+       /*
+        * This bit must be '1' for the ptp_freq_adj_ppb field to be
+        * configured.
+        */
+       #define HWRM_PORT_MAC_CFG_INPUT_ENABLES_PTP_FREQ_ADJ_PPB \
+               UINT32_C(0x200)
        /* Port ID of port that is to be configured. */
        uint16_t        port_id;
        /*
@@ -13661,7 +14806,7 @@ struct hwrm_port_mac_cfg_input {
         * This field shall be ignored if the ptp_tx_ts_capture_enable
         * flag is not set in this command.
         * Otherwise, if bit 'i' is set, then the HWRM is being
-        * requested to configure the transmit sied of the port to
+        * requested to configure the transmit side of the port to
         * capture the time stamp of every transmitted PTP message
         * with messageType field value set to i.
         */
@@ -13763,7 +14908,13 @@ struct hwrm_port_mac_cfg_input {
        #define HWRM_PORT_MAC_CFG_INPUT_COS_FIELD_CFG_DEFAULT_COS_SFT \
                5
        uint8_t unused_0[3];
-} __attribute__((packed));
+       /*
+        * This signed field specifies by how much to adjust the frequency
+        * of sync timer updates (measured in parts per billion).
+        */
+       int32_t ptp_freq_adj_ppb;
+       uint8_t unused_1[4];
+} __rte_packed;
 
 /* hwrm_port_mac_cfg_output (size:128b/16B) */
 struct hwrm_port_mac_cfg_output {
@@ -13817,7 +14968,7 @@ struct hwrm_port_mac_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_port_mac_qcfg *
@@ -13842,7 +14993,8 @@ struct hwrm_port_mac_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -13856,7 +15008,7 @@ struct hwrm_port_mac_qcfg_input {
        /* Port ID of port that is to be configured. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_mac_qcfg_output (size:192b/24B) */
 struct hwrm_port_mac_qcfg_output {
@@ -14106,7 +15258,7 @@ struct hwrm_port_mac_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_port_mac_ptp_qcfg *
@@ -14131,7 +15283,8 @@ struct hwrm_port_mac_ptp_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -14145,7 +15298,7 @@ struct hwrm_port_mac_ptp_qcfg_input {
        /* Port ID of port that is being queried. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_mac_ptp_qcfg_output (size:640b/80B) */
 struct hwrm_port_mac_ptp_qcfg_output {
@@ -14174,6 +15327,12 @@ struct hwrm_port_mac_ptp_qcfg_output {
         */
        #define HWRM_PORT_MAC_PTP_QCFG_OUTPUT_FLAGS_HWRM_ACCESS \
                UINT32_C(0x2)
+       /*
+        * When this bit is set to '1', the device supports one-step
+        * Tx timestamping.
+        */
+       #define HWRM_PORT_MAC_PTP_QCFG_OUTPUT_FLAGS_ONE_STEP_TX_TS \
+               UINT32_C(0x4)
        uint8_t unused_0[3];
        /* Offset of the PTP register for the lower 32 bits of timestamp for RX. */
        uint32_t        rx_ts_reg_off_lower;
@@ -14214,7 +15373,7 @@ struct hwrm_port_mac_ptp_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Port Tx Statistics Formats */
 /* tx_port_stats (size:3264b/408B) */
@@ -14355,7 +15514,7 @@ struct tx_port_stats {
        uint64_t        tx_stat_discard;
        /* Total Tx Error Drops per Port reported by STATS block */
        uint64_t        tx_stat_error;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Port Rx Statistics Formats */
 /* rx_port_stats (size:4224b/528B) */
@@ -14570,7 +15729,7 @@ struct rx_port_stats {
        /* Total Rx Discards per Port reported by STATS block */
        uint64_t        rx_stat_discard;
        uint64_t        rx_stat_err;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************
  * hwrm_port_qstats *
@@ -14595,7 +15754,8 @@ struct hwrm_port_qstats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -14619,7 +15779,7 @@ struct hwrm_port_qstats_input {
         * Rx port statistics will be stored
         */
        uint64_t        rx_stat_host_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_qstats_output (size:128b/16B) */
 struct hwrm_port_qstats_output {
@@ -14644,7 +15804,7 @@ struct hwrm_port_qstats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Port Tx Statistics extended Formats */
 /* tx_port_stats_ext (size:2048b/256B) */
@@ -14713,10 +15873,10 @@ struct tx_port_stats_ext {
        uint64_t        pfc_pri7_tx_duration_us;
        /* Number of times, a XON -> XOFF and XOFF -> XON transitions occur for priority 7 */
        uint64_t        pfc_pri7_tx_transitions;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Port Rx Statistics extended Formats */
-/* rx_port_stats_ext (size:2368b/296B) */
+/* rx_port_stats_ext (size:3648b/456B) */
 struct rx_port_stats_ext {
        /* Number of times link state changed to down */
        uint64_t        link_down_events;
@@ -14792,7 +15952,50 @@ struct rx_port_stats_ext {
        uint64_t        pfc_pri7_rx_duration_us;
        /* Number of times, a XON -> XOFF and XOFF -> XON transitions occur for priority 7 */
        uint64_t        pfc_pri7_rx_transitions;
-} __attribute__((packed));
+       /* Total number of received bits */
+       uint64_t        rx_bits;
+       /* The number of events where the port receive buffer was over 85% full */
+       uint64_t        rx_buffer_passed_threshold;
+       /*
+        * The number of symbol errors that wasn't corrected by FEC correction
+        * alogirithm
+        */
+       uint64_t        rx_pcs_symbol_err;
+       /* The number of corrected bits on the port according to active FEC */
+       uint64_t        rx_corrected_bits;
+       /* Total number of rx discard bytes count on cos queue 0 */
+       uint64_t        rx_discard_bytes_cos0;
+       /* Total number of rx discard bytes count on cos queue 1 */
+       uint64_t        rx_discard_bytes_cos1;
+       /* Total number of rx discard bytes count on cos queue 2 */
+       uint64_t        rx_discard_bytes_cos2;
+       /* Total number of rx discard bytes count on cos queue 3 */
+       uint64_t        rx_discard_bytes_cos3;
+       /* Total number of rx discard bytes count on cos queue 4 */
+       uint64_t        rx_discard_bytes_cos4;
+       /* Total number of rx discard bytes count on cos queue 5 */
+       uint64_t        rx_discard_bytes_cos5;
+       /* Total number of rx discard bytes count on cos queue 6 */
+       uint64_t        rx_discard_bytes_cos6;
+       /* Total number of rx discard bytes count on cos queue 7 */
+       uint64_t        rx_discard_bytes_cos7;
+       /* Total number of rx discard packets count on cos queue 0 */
+       uint64_t        rx_discard_packets_cos0;
+       /* Total number of rx discard packets count on cos queue 1 */
+       uint64_t        rx_discard_packets_cos1;
+       /* Total number of rx discard packets count on cos queue 2 */
+       uint64_t        rx_discard_packets_cos2;
+       /* Total number of rx discard packets count on cos queue 3 */
+       uint64_t        rx_discard_packets_cos3;
+       /* Total number of rx discard packets count on cos queue 4 */
+       uint64_t        rx_discard_packets_cos4;
+       /* Total number of rx discard packets count on cos queue 5 */
+       uint64_t        rx_discard_packets_cos5;
+       /* Total number of rx discard packets count on cos queue 6 */
+       uint64_t        rx_discard_packets_cos6;
+       /* Total number of rx discard packets count on cos queue 7 */
+       uint64_t        rx_discard_packets_cos7;
+} __rte_packed;
 
 /************************
  * hwrm_port_qstats_ext *
@@ -14817,7 +16020,8 @@ struct hwrm_port_qstats_ext_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -14851,7 +16055,7 @@ struct hwrm_port_qstats_ext_input {
         * Rx port statistics will be stored
         */
        uint64_t        rx_stat_host_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_qstats_ext_output (size:128b/16B) */
 struct hwrm_port_qstats_ext_output {
@@ -14884,7 +16088,7 @@ struct hwrm_port_qstats_ext_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_port_lpbk_qstats *
@@ -14909,7 +16113,8 @@ struct hwrm_port_lpbk_qstats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -14920,7 +16125,7 @@ struct hwrm_port_lpbk_qstats_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_lpbk_qstats_output (size:768b/96B) */
 struct hwrm_port_lpbk_qstats_output {
@@ -14961,7 +16166,7 @@ struct hwrm_port_lpbk_qstats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_port_clr_stats *
@@ -14986,7 +16191,8 @@ struct hwrm_port_clr_stats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15011,7 +16217,7 @@ struct hwrm_port_clr_stats_input {
         */
        #define HWRM_PORT_CLR_STATS_INPUT_FLAGS_ROCE_COUNTERS     UINT32_C(0x1)
        uint8_t unused_0[5];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_clr_stats_output (size:128b/16B) */
 struct hwrm_port_clr_stats_output {
@@ -15032,7 +16238,7 @@ struct hwrm_port_clr_stats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_port_phy_qcaps *
@@ -15057,7 +16263,8 @@ struct hwrm_port_phy_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15071,7 +16278,7 @@ struct hwrm_port_phy_qcaps_input {
        /* Port ID of port that is being queried. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_qcaps_output (size:192b/24B) */
 struct hwrm_port_phy_qcaps_output {
@@ -15097,13 +16304,28 @@ struct hwrm_port_phy_qcaps_output {
         */
        #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_EXTERNAL_LPBK_SUPPORTED \
                UINT32_C(0x2)
+       /*
+        * If set to 1, then this field indicates that the
+        * PHY is capable of supporting loopback in autoneg mode.
+        */
+       #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_AUTONEG_LPBK_SUPPORTED \
+               UINT32_C(0x4)
+       /*
+        * Indicates if the configuration of shared PHY settings is supported.
+        * In cases where a physical port is shared by multiple functions
+        * (e.g. NPAR, multihost, etc), the configuration of PHY
+        * settings may not be allowed. Callers to HWRM_PORT_PHY_CFG will
+        * get an HWRM_ERR_CODE_RESOURCE_ACCESS_DENIED error in this case.
+        */
+       #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_SHARED_PHY_CFG_SUPPORTED \
+               UINT32_C(0x8)
        /*
         * Reserved field. The HWRM shall set this field to 0.
         * An HWRM client shall ignore this field.
         */
        #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_RSVD1_MASK \
-               UINT32_C(0xfc)
-       #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_RSVD1_SFT                   2
+               UINT32_C(0xf0)
+       #define HWRM_PORT_PHY_QCAPS_OUTPUT_FLAGS_RSVD1_SFT                    4
        /* Number of front panel ports for this device. */
        uint8_t port_cnt;
        /* Not supported or unknown */
@@ -15286,7 +16508,7 @@ struct hwrm_port_phy_qcaps_output {
        #define HWRM_PORT_PHY_QCAPS_OUTPUT_VALID_MASK \
                UINT32_C(0xff000000)
        #define HWRM_PORT_PHY_QCAPS_OUTPUT_VALID_SFT             24
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_port_phy_mdio_write *
@@ -15311,7 +16533,8 @@ struct hwrm_port_phy_mdio_write_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15341,7 +16564,7 @@ struct hwrm_port_phy_mdio_write_input {
        uint8_t cl45_mdio;
        /*  */
        uint8_t unused_1[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_mdio_write_output (size:128b/16B) */
 struct hwrm_port_phy_mdio_write_output {
@@ -15362,7 +16585,7 @@ struct hwrm_port_phy_mdio_write_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_port_phy_mdio_read *
@@ -15387,7 +16610,8 @@ struct hwrm_port_phy_mdio_read_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15415,7 +16639,7 @@ struct hwrm_port_phy_mdio_read_input {
        uint8_t cl45_mdio;
        /*  */
        uint8_t unused_1;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_phy_mdio_read_output (size:128b/16B) */
 struct hwrm_port_phy_mdio_read_output {
@@ -15438,7 +16662,7 @@ struct hwrm_port_phy_mdio_read_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_port_led_cfg *
@@ -15463,7 +16687,8 @@ struct hwrm_port_led_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15840,7 +17065,7 @@ struct hwrm_port_led_cfg_input {
        uint8_t led3_group_id;
        /* Reserved field. */
        uint8_t rsvd3;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_led_cfg_output (size:128b/16B) */
 struct hwrm_port_led_cfg_output {
@@ -15861,7 +17086,7 @@ struct hwrm_port_led_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_port_led_qcfg *
@@ -15886,7 +17111,8 @@ struct hwrm_port_led_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -15900,7 +17126,7 @@ struct hwrm_port_led_qcfg_input {
        /* Port ID of port whose LED configuration is being queried. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_led_qcfg_output (size:448b/56B) */
 struct hwrm_port_led_qcfg_output {
@@ -16166,7 +17392,7 @@ struct hwrm_port_led_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_port_led_qcaps *
@@ -16191,7 +17417,8 @@ struct hwrm_port_led_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -16205,7 +17432,7 @@ struct hwrm_port_led_qcaps_input {
        /* Port ID of port whose LED configuration is being queried. */
        uint16_t        port_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_port_led_qcaps_output (size:384b/48B) */
 struct hwrm_port_led_qcaps_output {
@@ -16517,15 +17744,15 @@ struct hwrm_port_led_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
- * hwrm_queue_qportcfg *
+ * hwrm_port_prbs_test *
  ***********************/
 
 
-/* hwrm_queue_qportcfg_input (size:192b/24B) */
-struct hwrm_queue_qportcfg_input {
+/* hwrm_port_prbs_test_input (size:384b/48B) */
+struct hwrm_port_prbs_test_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -16542,7 +17769,8 @@ struct hwrm_queue_qportcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -16553,40 +17781,80 @@ struct hwrm_queue_qportcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-       uint32_t        flags;
+       /* Host address data is to DMA'd to. */
+       uint64_t        resp_data_addr;
        /*
-        * Enumeration denoting the RX, TX type of the resource.
-        * This enumeration is used for resources that are similar for both
-        * TX and RX paths of the chip.
+        * Size of the buffer pointed to by resp_data_addr. The firmware may
+        * use this entire buffer or less than the entire buffer, but never more.
         */
-       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH     UINT32_C(0x1)
-       /* tx path */
-       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_TX    UINT32_C(0x0)
-       /* rx path */
-       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_RX    UINT32_C(0x1)
-       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_LAST \
-               HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_RX
+       uint16_t        data_len;
+       uint16_t        unused_0;
+       uint32_t        unused_1;
+       /* Port ID of port where PRBS test to be run. */
+       uint16_t        port_id;
+       /* Polynomial selection for PRBS test. */
+       uint16_t        poly;
+       /* PRBS7 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS7   UINT32_C(0x0)
+       /* PRBS9 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS9   UINT32_C(0x1)
+       /* PRBS11 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS11  UINT32_C(0x2)
+       /* PRBS15 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS15  UINT32_C(0x3)
+       /* PRBS23 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS23  UINT32_C(0x4)
+       /* PRBS31 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS31  UINT32_C(0x5)
+       /* PRBS58 */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_PRBS58  UINT32_C(0x6)
+       /* Invalid */
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_INVALID UINT32_C(0xff)
+       #define HWRM_PORT_PRBS_TEST_INPUT_POLY_LAST \
+               HWRM_PORT_PRBS_TEST_INPUT_POLY_INVALID
        /*
-        * Port ID of port for which the queue configuration is being
-        * queried.  This field is only required when sent by IPC.
+        * Configuration bits for PRBS test.
+        * Use enable bit to start/stop test.
+        * Use tx/rx lane map bits to run test on specific lanes,
+        * if set to 0 test will be run on all lanes.
         */
-       uint16_t        port_id;
+       uint16_t        prbs_config;
        /*
-        * Drivers will set this capability when it can use
-        * queue_idx_service_profile to map the queues to application.
+        * Set 0 to stop test currently in progress
+        * Set 1 to start test with configuration provided.
         */
-       uint8_t drv_qmap_cap;
-       /* disabled */
-       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_DISABLED UINT32_C(0x0)
-       /* enabled */
-       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_ENABLED  UINT32_C(0x1)
-       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_LAST \
-               HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_ENABLED
-       uint8_t unused_0;
-} __attribute__((packed));
+       #define HWRM_PORT_PRBS_TEST_INPUT_PRBS_CONFIG_START_STOP \
+               UINT32_C(0x1)
+       /*
+        * If set to 1, tx_lane_map bitmap should have lane bits set.
+        * If set to 0, test will be run on all lanes for this port.
+        */
+       #define HWRM_PORT_PRBS_TEST_INPUT_PRBS_CONFIG_TX_LANE_MAP_VALID \
+               UINT32_C(0x2)
+       /*
+        * If set to 1, rx_lane_map bitmap should have lane bits set.
+        * If set to 0, test will be run on all lanes for this port.
+        */
+       #define HWRM_PORT_PRBS_TEST_INPUT_PRBS_CONFIG_RX_LANE_MAP_VALID \
+               UINT32_C(0x4)
+       /* Duration in seconds to run the PRBS test. */
+       uint16_t        timeout;
+       /*
+        * If tx_lane_map_valid is set to 1, this field is a bitmap
+        * of tx lanes to run PRBS test. bit0 = lane0,
+        * bit1 = lane1 ..bit31 = lane31
+        */
+       uint32_t        tx_lane_map;
+       /*
+        * If rx_lane_map_valid is set to 1, this field is a bitmap
+        * of rx lanes to run PRBS test. bit0 = lane0,
+        * bit1 = lane1 ..bit31 = lane31
+        */
+       uint32_t        rx_lane_map;
+} __rte_packed;
 
-/* hwrm_queue_qportcfg_output (size:256b/32B) */
-struct hwrm_queue_qportcfg_output {
+/* hwrm_port_prbs_test_output (size:128b/16B) */
+struct hwrm_port_prbs_test_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -16595,389 +17863,300 @@ struct hwrm_queue_qportcfg_output {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
+       /* Total length of stored data. */
+       uint16_t        total_data_len;
+       uint16_t        unused_0;
+       uint8_t unused_1[3];
        /*
-        * The maximum number of queues that can be configured on this
-        * port.
-        * Valid values range from 1 through 8.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint8_t max_configurable_queues;
+       uint8_t valid;
+} __rte_packed;
+
+/**********************
+ * hwrm_port_dsc_dump *
+ **********************/
+
+
+/* hwrm_port_dsc_dump_input (size:320b/40B) */
+struct hwrm_port_dsc_dump_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
        /*
-        * The maximum number of lossless queues that can be configured
-        * on this port.
-        * Valid values range from 0 through 8.
-        */
-       uint8_t max_configurable_lossless_queues;
-       /*
-        * Bitmask indicating which queues can be configured by the
-        * hwrm_queue_cfg command.
-        *
-        * Each bit represents a specific queue where bit 0 represents
-        * queue 0 and bit 7 represents queue 7.
-        * # A value of 0 indicates that the queue is not configurable
-        * by the hwrm_queue_cfg command.
-        * # A value of 1 indicates that the queue is configurable.
-        * # A hwrm_queue_cfg command shall return error when trying to
-        * configure a queue not configurable.
-        */
-       uint8_t queue_cfg_allowed;
-       /* Information about queue configuration. */
-       uint8_t queue_cfg_info;
-       /*
-        * If this flag is set to '1', then the queues are
-        * configured asymmetrically on TX and RX sides.
-        * If this flag is set to '0', then the queues are
-        * configured symmetrically on TX and RX sides. For
-        * symmetric configuration, the queue configuration
-        * including queue ids and service profiles on the
-        * TX side is the same as the corresponding queue
-        * configuration on the RX side.
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
         */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
-               UINT32_C(0x1)
+       uint16_t        cmpl_ring;
        /*
-        * Bitmask indicating which queues can be configured by the
-        * hwrm_queue_pfcenable_cfg command.
-        *
-        * Each bit represents a specific priority where bit 0 represents
-        * priority 0 and bit 7 represents priority 7.
-        * # A value of 0 indicates that the priority is not configurable by
-        * the hwrm_queue_pfcenable_cfg command.
-        * # A value of 1 indicates that the priority is configurable.
-        * # A hwrm_queue_pfcenable_cfg command shall return error when
-        * trying to configure a priority that is not configurable.
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
         */
-       uint8_t queue_pfcenable_cfg_allowed;
+       uint16_t        seq_id;
        /*
-        * Bitmask indicating which queues can be configured by the
-        * hwrm_queue_pri2cos_cfg command.
-        *
-        * Each bit represents a specific queue where bit 0 represents
-        * queue 0 and bit 7 represents queue 7.
-        * # A value of 0 indicates that the queue is not configurable
-        * by the hwrm_queue_pri2cos_cfg command.
-        * # A value of 1 indicates that the queue is configurable.
-        * # A hwrm_queue_pri2cos_cfg command shall return error when
-        * trying to configure a queue that is not configurable.
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
         */
-       uint8_t queue_pri2cos_cfg_allowed;
+       uint16_t        target_id;
        /*
-        * Bitmask indicating which queues can be configured by the
-        * hwrm_queue_pri2cos_cfg command.
-        *
-        * Each bit represents a specific queue where bit 0 represents
-        * queue 0 and bit 7 represents queue 7.
-        * # A value of 0 indicates that the queue is not configurable
-        * by the hwrm_queue_pri2cos_cfg command.
-        * # A value of 1 indicates that the queue is configurable.
-        * # A hwrm_queue_pri2cos_cfg command shall return error when
-        * trying to configure a queue not configurable.
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
         */
-       uint8_t queue_cos2bw_cfg_allowed;
+       uint64_t        resp_addr;
+       /* Host address where response diagnostic data is returned. */
+       uint64_t        resp_data_addr;
        /*
-        * ID of CoS Queue 0.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * Size of the buffer pointed to by resp_data_addr. The firmware
+        * may use this entire buffer or less than the entire buffer, but
+        * never more.
         */
-       uint8_t queue_id0;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id0_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSY \
+       uint16_t        data_len;
+       uint16_t        unused_0;
+       uint32_t        unused_1;
+       /* Port ID of port where dsc dump to be collected. */
+       uint16_t        port_id;
+       /* Diag level specified by the user */
+       uint16_t        diag_level;
+       /* SRDS_DIAG_LANE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_LANE \
                UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS \
+       /* SRDS_DIAG_CORE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_CORE \
                UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+       /* SRDS_DIAG_EVENT */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_EVENT \
                UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS_NIC \
+       /* SRDS_DIAG_EYE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_EYE \
                UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_UNKNOWN
+       /* SRDS_DIAG_REG_CORE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_REG_CORE \
+               UINT32_C(0x4)
+       /* SRDS_DIAG_REG_LANE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_REG_LANE \
+               UINT32_C(0x5)
+       /* SRDS_DIAG_UC_CORE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_UC_CORE \
+               UINT32_C(0x6)
+       /* SRDS_DIAG_UC_LANE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_UC_LANE \
+               UINT32_C(0x7)
+       /* SRDS_DIAG_LANE_DEBUG */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_LANE_DEBUG \
+               UINT32_C(0x8)
+       /* SRDS_DIAG_BER_VERT */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_BER_VERT \
+               UINT32_C(0x9)
+       /* SRDS_DIAG_BER_HORZ */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_BER_HORZ \
+               UINT32_C(0xa)
+       /* SRDS_DIAG_EVENT_SAFE */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_EVENT_SAFE \
+               UINT32_C(0xb)
+       /* SRDS_DIAG_TIMESTAMP */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_TIMESTAMP \
+               UINT32_C(0xc)
+       #define HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_LAST \
+               HWRM_PORT_DSC_DUMP_INPUT_DIAG_LEVEL_SRDS_DIAG_TIMESTAMP
        /*
-        * ID of CoS Queue 1.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * This field is a lane number
+        * on which to collect the dsc dump
         */
-       uint8_t queue_id1;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id1_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS \
+       uint16_t        lane_number;
+       /*
+        * Configuration bits.
+        * Use enable bit to start dsc dump or retrieve dump
+        */
+       uint16_t        dsc_dump_config;
+       /*
+        * Set 0 to retrieve the dsc dump
+        * Set 1 to start the dsc dump
+        */
+       #define HWRM_PORT_DSC_DUMP_INPUT_DSC_DUMP_CONFIG_START_RETRIEVE \
                UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS_ROCE \
+} __rte_packed;
+
+/* hwrm_port_dsc_dump_output (size:128b/16B) */
+struct hwrm_port_dsc_dump_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* Total length of stored data. */
+       uint16_t        total_data_len;
+       uint16_t        unused_0;
+       uint8_t unused_1[3];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/******************************
+ * hwrm_port_sfp_sideband_cfg *
+ ******************************/
+
+
+/* hwrm_port_sfp_sideband_cfg_input (size:256b/32B) */
+struct hwrm_port_sfp_sideband_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /* Port ID of port that is to be queried. */
+       uint16_t        port_id;
+       uint8_t unused_0[6];
+       /*
+        * This bitfield is used to specify which bits from the 'flags'
+        * fields are being configured by the caller.
+        */
+       uint32_t        enables;
+       /* This bit must be '1' for rs0 to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_RS0 \
                UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+       /* This bit must be '1' for rs1 to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_RS1 \
                UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_UNKNOWN
+       /* This bit must be '1' for tx_disable to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_TX_DIS \
+               UINT32_C(0x4)
        /*
-        * ID of CoS Queue 2.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * This bit must be '1' for mod_sel to be configured.
+        * Valid only on QSFP modules
         */
-       uint8_t queue_id2;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id2_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS_ROCE \
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_MOD_SEL \
+               UINT32_C(0x8)
+       /* This bit must be '1' for reset_l to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_RESET_L \
+               UINT32_C(0x10)
+       /* This bit must be '1' for lp_mode to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_LP_MODE \
+               UINT32_C(0x20)
+       /* This bit must be '1' for pwr_disable to be configured. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_ENABLES_PWR_DIS \
+               UINT32_C(0x40)
+       /*
+        * Only bits that have corresponding bits in the 'enables'
+        * bitfield are processed by the firmware, all other bits
+        * of 'flags' are ignored.
+        */
+       uint32_t        flags;
+       /*
+        * This bit along with rs1 configures the current speed of the dual
+        * rate module. If these pins are GNDed then the speed can be changed
+        * by driectly writing to EEPROM.
+        */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_RS0 \
                UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+       /*
+        * This bit along with rs0 configures the current speed of the dual
+        * rate module. If these pins are GNDed then the speed can be changed
+        * by driectly writing to EEPROM.
+        */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_RS1 \
                UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_UNKNOWN
        /*
-        * ID of CoS Queue 3.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
-        */
-       uint8_t queue_id3;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id3_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSY_ROCE_CNP \
-               UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_UNKNOWN
-       /*
-        * ID of CoS Queue 4.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * When this bit is set to '1', tx_disable is set.
+        * On a 1G BASE-T module, if this bit is set,
+        * module PHY registers will not be accessible.
         */
-       uint8_t queue_id4;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id4_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSY_ROCE_CNP \
-               UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_UNKNOWN
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_TX_DIS \
+               UINT32_C(0x4)
        /*
-        * ID of CoS Queue 5.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * When this bit is set to '1', this module is selected.
+        * Valid only on QSFP modules
         */
-       uint8_t queue_id5;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id5_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSY_ROCE_CNP \
-               UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_UNKNOWN
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_MOD_SEL \
+               UINT32_C(0x8)
        /*
-        * ID of CoS Queue 6.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * If reset_l is set to 0, Module will be taken out of reset
+        * and other signals will be set to their requested state once
+        * the module is out of reset.
+        * Valid only on QSFP modules
         */
-       uint8_t queue_id6;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id6_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSY_ROCE_CNP \
-               UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_UNKNOWN
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_RESET_L \
+               UINT32_C(0x10)
        /*
-        * ID of CoS Queue 7.
-        * FF - Invalid id
-        *
-        * # This ID can be used on any subsequent call to an hwrm command
-        * that takes a queue id.
-        * # IDs must always be queried by this command before any use
-        * by the driver or software.
-        * # Any driver or software should not make any assumptions about
-        * queue IDs.
-        * # A value of 0xff indicates that the queue is not available.
-        * # Available queues may not be in sequential order.
+        * When this bit is set to '1', the module will be configured
+        * in low power mode.
+        * Valid only on QSFP modules
         */
-       uint8_t queue_id7;
-       /* This value is applicable to CoS queues only. */
-       uint8_t queue_id7_service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSY \
-               UINT32_C(0x0)
-       /* Lossless (legacy) */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS \
-               UINT32_C(0x1)
-       /* Lossless RoCE */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS_ROCE \
-               UINT32_C(0x1)
-       /* Lossy RoCE CNP */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSY_ROCE_CNP \
-               UINT32_C(0x2)
-       /* Lossless NIC */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS_NIC \
-               UINT32_C(0x3)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_UNKNOWN \
-               UINT32_C(0xff)
-       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_UNKNOWN
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_LP_MODE \
+               UINT32_C(0x20)
+       /* When this bit is set to '1', the module will be powered down. */
+       #define HWRM_PORT_SFP_SIDEBAND_CFG_INPUT_FLAGS_PWR_DIS \
+               UINT32_C(0x40)
+} __rte_packed;
+
+/* hwrm_port_sfp_sideband_cfg_output (size:128b/16B) */
+struct hwrm_port_sfp_sideband_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused[7];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
+        * to indicate that the output has been completely written. When
+        * writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
-/*******************
- * hwrm_queue_qcfg *
- *******************/
+/*******************************
+ * hwrm_port_sfp_sideband_qcfg *
+ *******************************/
 
 
-/* hwrm_queue_qcfg_input (size:192b/24B) */
-struct hwrm_queue_qcfg_input {
+/* hwrm_port_sfp_sideband_qcfg_input (size:192b/24B) */
+struct hwrm_port_sfp_sideband_qcfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -16994,7 +18173,8 @@ struct hwrm_queue_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -17005,25 +18185,13 @@ struct hwrm_queue_qcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-       uint32_t        flags;
-       /*
-        * Enumeration denoting the RX, TX type of the resource.
-        * This enumeration is used for resources that are similar for both
-        * TX and RX paths of the chip.
-        */
-       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH     UINT32_C(0x1)
-       /* tx path */
-       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_TX    UINT32_C(0x0)
-       /* rx path */
-       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_RX    UINT32_C(0x1)
-       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_LAST \
-               HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_RX
-       /* Queue ID of the queue. */
-       uint32_t        queue_id;
-} __attribute__((packed));
+       /* Port ID of port that is to be queried. */
+       uint16_t        port_id;
+       uint8_t unused_0[6];
+} __rte_packed;
 
-/* hwrm_queue_qcfg_output (size:128b/16B) */
-struct hwrm_queue_qcfg_output {
+/* hwrm_port_sfp_sideband_qcfg_output (size:192b/24B) */
+struct hwrm_port_sfp_sideband_qcfg_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -17033,151 +18201,85 @@ struct hwrm_queue_qcfg_output {
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
        /*
-        * This value is a the estimate packet length used in the
-        * TX arbiter.
+        * Bitmask indicating which sideband signals are valid.
+        * This is based on the board and nvm cfg that is present on the board.
         */
-       uint32_t        queue_len;
-       /* This value is applicable to CoS queues only. */
-       uint8_t service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LOSSY    UINT32_C(0x0)
-       /* Lossless */
-       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LOSSLESS UINT32_C(0x1)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_UNKNOWN  UINT32_C(0xff)
-       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_UNKNOWN
-       /* Information about queue configuration. */
-       uint8_t queue_cfg_info;
+       uint32_t        supported_mask;
+       uint32_t        sideband_signals;
+       /* When this bit is set to '1', the Module is absent. */
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_MOD_ABS \
+               UINT32_C(0x1)
        /*
-        * If this flag is set to '1', then the queue is
-        * configured asymmetrically on TX and RX sides.
-        * If this flag is set to '0', then this queue is
-        * configured symmetrically on TX and RX sides.
+        * When this bit is set to '1', there is no valid signal on RX.
+        * This signal is a filtered version of Signal Detect.
         */
-       #define HWRM_QUEUE_QCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
-               UINT32_C(0x1)
-       uint8_t unused_0;
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_RX_LOS \
+               UINT32_C(0x2)
        /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
+        * This bit along with rs1 indiactes the current speed of the dual
+        * rate module.If these pins are grounded then the speed can be
+        * changed by driectky writing to EEPROM.
         */
-       uint8_t valid;
-} __attribute__((packed));
-
-/******************
- * hwrm_queue_cfg *
- ******************/
-
-
-/* hwrm_queue_cfg_input (size:320b/40B) */
-struct hwrm_queue_cfg_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
-        */
-       uint16_t        cmpl_ring;
-       /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
-        */
-       uint16_t        seq_id;
-       /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
-        */
-       uint16_t        target_id;
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_RS0 \
+               UINT32_C(0x4)
        /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
+        * This bit along with rs0 indiactes the current speed of the dual
+        * rate module.If these pins are grounded then the speed can be
+        * changed by driectky writing to EEPROM.
         */
-       uint64_t        resp_addr;
-       uint32_t        flags;
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_RS1 \
+               UINT32_C(0x8)
        /*
-        * Enumeration denoting the RX, TX, or both directions applicable to the resource.
-        * This enumeration is used for resources that are similar for both
-        * TX and RX paths of the chip.
+        * When this bit is set to '1', tx_disable is set.
+        * On a 1G BASE-T module, if this bit is set, module PHY
+        * registers will not be accessible.
         */
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_MASK UINT32_C(0x3)
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_SFT  0
-       /* tx path */
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
-       /* rx path */
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
-       /* Bi-directional (Symmetrically applicable to TX and RX paths) */
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_BIDIR  UINT32_C(0x2)
-       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_LAST \
-               HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_BIDIR
-       uint32_t        enables;
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_TX_DIS \
+               UINT32_C(0x10)
+       /* When this bit is set to '1', tx_fault is set. */
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_TX_FAULT \
+               UINT32_C(0x20)
        /*
-        * This bit must be '1' for the dflt_len field to be
-        * configured.
+        * When this bit is set to '1', module is selected.
+        * Valid only on QSFP modules
         */
-       #define HWRM_QUEUE_CFG_INPUT_ENABLES_DFLT_LEN            UINT32_C(0x1)
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_MOD_SEL \
+               UINT32_C(0x40)
        /*
-        * This bit must be '1' for the service_profile field to be
-        * configured.
+        * When this bit is set to '0', the module is held in reset.
+        * if reset_l is set to 1,first module is taken out of reset
+        * and other signals will be set to their requested state.
+        * Valid only on QSFP modules.
         */
-       #define HWRM_QUEUE_CFG_INPUT_ENABLES_SERVICE_PROFILE     UINT32_C(0x2)
-       /* Queue ID of queue that is to be configured by this function. */
-       uint32_t        queue_id;
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_RESET_L \
+               UINT32_C(0x80)
        /*
-        * This value is a the estimate packet length used in the
-        * TX arbiter.
-        * Set to 0xFF... (All Fs) to not adjust this value.
+        * When this bit is set to '1', the module is in low power mode.
+        * Valid only on QSFP modules
         */
-       uint32_t        dflt_len;
-       /* This value is applicable to CoS queues only. */
-       uint8_t service_profile;
-       /* Lossy (best-effort) */
-       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LOSSY    UINT32_C(0x0)
-       /* Lossless */
-       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LOSSLESS UINT32_C(0x1)
-       /* Set to 0xFF... (All Fs) if there is no service profile specified */
-       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_UNKNOWN  UINT32_C(0xff)
-       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LAST \
-               HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_UNKNOWN
-       uint8_t unused_0[7];
-} __attribute__((packed));
-
-/* hwrm_queue_cfg_output (size:128b/16B) */
-struct hwrm_queue_cfg_output {
-       /* The specific error status for the command. */
-       uint16_t        error_code;
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /* The sequence ID from the original command. */
-       uint16_t        seq_id;
-       /* The length of the response data in number of bytes. */
-       uint16_t        resp_len;
-       uint8_t unused_0[7];
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_LP_MODE \
+               UINT32_C(0x100)
+       /* When this bit is set to '1', module is in power down state. */
+       #define HWRM_PORT_SFP_SIDEBAND_QCFG_OUTPUT_SIDEBAND_SIGNALS_PWR_DIS \
+               UINT32_C(0x200)
+       uint8_t unused[7];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
+        * to indicate that the output has been completely written. When
+        * writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
-/*****************************
- * hwrm_queue_pfcenable_qcfg *
- *****************************/
+/**********************************
+ * hwrm_port_phy_mdio_bus_acquire *
+ **********************************/
 
 
-/* hwrm_queue_pfcenable_qcfg_input (size:192b/24B) */
-struct hwrm_queue_pfcenable_qcfg_input {
+/* hwrm_port_phy_mdio_bus_acquire_input (size:192b/24B) */
+struct hwrm_port_phy_mdio_bus_acquire_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -17194,7 +18296,8 @@ struct hwrm_queue_pfcenable_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -17205,17 +18308,28 @@ struct hwrm_queue_pfcenable_qcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
+       /* Port ID of the port. */
+       uint16_t        port_id;
        /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure pri2cos mapping on this port.
+        * client_id of the client requesting BUS access.
+        * Any value from 0x10 to 0xFFFF can be used.
+        * Client should make sure that the returned client_id
+        * in response matches the client_id in request.
+        * 0-0xF are reserved for internal use.
         */
-       uint16_t        port_id;
-       uint8_t unused_0[6];
-} __attribute__((packed));
+       uint16_t        client_id;
+       /*
+        * Timeout in milli seconds, MDIO BUS will be released automatically
+        * after this time, if another mdio acquire command is not received
+        * within the timeout window from the same client.
+        * A 0xFFFF will hold the bus until this bus is released.
+        */
+       uint16_t        mdio_bus_timeout;
+       uint8_t unused_0[2];
+} __rte_packed;
 
-/* hwrm_queue_pfcenable_qcfg_output (size:128b/16B) */
-struct hwrm_queue_pfcenable_qcfg_output {
+/* hwrm_port_phy_mdio_bus_acquire_output (size:128b/16B) */
+struct hwrm_port_phy_mdio_bus_acquire_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -17224,32 +18338,13 @@ struct hwrm_queue_pfcenable_qcfg_output {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
-       uint32_t        flags;
-       /* If set to 1, then PFC is enabled on PRI 0. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI0_PFC_ENABLED \
-               UINT32_C(0x1)
-       /* If set to 1, then PFC is enabled on PRI 1. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI1_PFC_ENABLED \
-               UINT32_C(0x2)
-       /* If set to 1, then PFC is enabled on PRI 2. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI2_PFC_ENABLED \
-               UINT32_C(0x4)
-       /* If set to 1, then PFC is enabled on PRI 3. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI3_PFC_ENABLED \
-               UINT32_C(0x8)
-       /* If set to 1, then PFC is enabled on PRI 4. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI4_PFC_ENABLED \
-               UINT32_C(0x10)
-       /* If set to 1, then PFC is enabled on PRI 5. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI5_PFC_ENABLED \
-               UINT32_C(0x20)
-       /* If set to 1, then PFC is enabled on PRI 6. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI6_PFC_ENABLED \
-               UINT32_C(0x40)
-       /* If set to 1, then PFC is enabled on PRI 7. */
-       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI7_PFC_ENABLED \
-               UINT32_C(0x80)
-       uint8_t unused_0[3];
+       uint16_t        unused_0;
+       /*
+        * client_id of the module holding the BUS.
+        * 0-0xF are reserved for internal use.
+        */
+       uint16_t        client_id;
+       uint8_t unused_1[3];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -17258,15 +18353,15 @@ struct hwrm_queue_pfcenable_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
-/****************************
- * hwrm_queue_pfcenable_cfg *
- ****************************/
+/**********************************
+ * hwrm_port_phy_mdio_bus_release *
+ **********************************/
 
 
-/* hwrm_queue_pfcenable_cfg_input (size:192b/24B) */
-struct hwrm_queue_pfcenable_cfg_input {
+/* hwrm_port_phy_mdio_bus_release_input (size:192b/24B) */
+struct hwrm_port_phy_mdio_bus_release_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -17283,7 +18378,8 @@ struct hwrm_queue_pfcenable_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -17294,42 +18390,18 @@ struct hwrm_queue_pfcenable_cfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-       uint32_t        flags;
-       /* If set to 1, then PFC is requested to be enabled on PRI 0. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI0_PFC_ENABLED \
-               UINT32_C(0x1)
-       /* If set to 1, then PFC is requested to be enabled on PRI 1. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI1_PFC_ENABLED \
-               UINT32_C(0x2)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 2. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI2_PFC_ENABLED \
-               UINT32_C(0x4)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 3. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI3_PFC_ENABLED \
-               UINT32_C(0x8)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 4. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI4_PFC_ENABLED \
-               UINT32_C(0x10)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 5. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI5_PFC_ENABLED \
-               UINT32_C(0x20)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 6. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI6_PFC_ENABLED \
-               UINT32_C(0x40)
-       /* If set to 1, then PFC is requested to  be enabled on PRI 7. */
-       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI7_PFC_ENABLED \
-               UINT32_C(0x80)
+       /* Port ID of the port. */
+       uint16_t        port_id;
        /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure pri2cos mapping on this port.
+        * client_id of the client requesting BUS release.
+        * A client should not release any other clients BUS.
         */
-       uint16_t        port_id;
-       uint8_t unused_0[2];
-} __attribute__((packed));
+       uint16_t        client_id;
+       uint8_t unused_0[4];
+} __rte_packed;
 
-/* hwrm_queue_pfcenable_cfg_output (size:128b/16B) */
-struct hwrm_queue_pfcenable_cfg_output {
+/* hwrm_port_phy_mdio_bus_release_output (size:128b/16B) */
+struct hwrm_port_phy_mdio_bus_release_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -17338,7 +18410,10 @@ struct hwrm_queue_pfcenable_cfg_output {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
-       uint8_t unused_0[7];
+       uint16_t        unused_0;
+       /* The BUS is released if client_id matches the client_id in request. */
+       uint16_t        clients_id;
+       uint8_t unused_1[3];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -17347,15 +18422,15 @@ struct hwrm_queue_pfcenable_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
-/***************************
- * hwrm_queue_pri2cos_qcfg *
- ***************************/
+/***********************
+ * hwrm_queue_qportcfg *
+ ***********************/
 
 
-/* hwrm_queue_pri2cos_qcfg_input (size:192b/24B) */
-struct hwrm_queue_pri2cos_qcfg_input {
+/* hwrm_queue_qportcfg_input (size:192b/24B) */
+struct hwrm_queue_qportcfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -17372,7 +18447,8 @@ struct hwrm_queue_pri2cos_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -17389,31 +18465,34 @@ struct hwrm_queue_pri2cos_qcfg_input {
         * This enumeration is used for resources that are similar for both
         * TX and RX paths of the chip.
         */
-       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH      UINT32_C(0x1)
+       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH     UINT32_C(0x1)
        /* tx path */
-       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
+       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_TX    UINT32_C(0x0)
        /* rx path */
-       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
-       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_LAST \
-               HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_RX
+       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_RX    UINT32_C(0x1)
+       #define HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_LAST \
+               HWRM_QUEUE_QPORTCFG_INPUT_FLAGS_PATH_RX
        /*
-        * When this bit is set to '0', the query is
-        * for VLAN PRI field in tunnel headers.
-        * When this bit is set to '1', the query is
-        * for VLAN PRI field in inner packet headers.
+        * Port ID of port for which the queue configuration is being
+        * queried. This field is only required when sent by IPC.
         */
-       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_IVLAN     UINT32_C(0x2)
+       uint16_t        port_id;
        /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure pri2cos mapping on this port.
+        * Drivers will set this capability when it can use
+        * queue_idx_service_profile to map the queues to application.
         */
-       uint8_t port_id;
-       uint8_t unused_0[3];
-} __attribute__((packed));
+       uint8_t drv_qmap_cap;
+       /* disabled */
+       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_DISABLED UINT32_C(0x0)
+       /* enabled */
+       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_ENABLED  UINT32_C(0x1)
+       #define HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_LAST \
+               HWRM_QUEUE_QPORTCFG_INPUT_DRV_QMAP_CAP_ENABLED
+       uint8_t unused_0;
+} __rte_packed;
 
-/* hwrm_queue_pri2cos_qcfg_output (size:192b/24B) */
-struct hwrm_queue_pri2cos_qcfg_output {
+/* hwrm_queue_qportcfg_output (size:256b/32B) */
+struct hwrm_queue_qportcfg_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -17423,265 +18502,388 @@ struct hwrm_queue_pri2cos_qcfg_output {
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
        /*
-        * CoS Queue assigned to priority 0.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
+        * The maximum number of queues that can be configured on this
+        * port.
+        * Valid values range from 1 through 8.
         */
-       uint8_t pri0_cos_queue_id;
+       uint8_t max_configurable_queues;
        /*
-        * CoS Queue assigned to priority 1.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
+        * The maximum number of lossless queues that can be configured
+        * on this port.
+        * Valid values range from 0 through 8.
         */
-       uint8_t pri1_cos_queue_id;
+       uint8_t max_configurable_lossless_queues;
        /*
-        * CoS Queue assigned to priority 2  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
+        * Bitmask indicating which queues can be configured by the
+        * hwrm_queue_cfg command.
+        *
+        * Each bit represents a specific queue where bit 0 represents
+        * queue 0 and bit 7 represents queue 7.
+        * # A value of 0 indicates that the queue is not configurable
+        * by the hwrm_queue_cfg command.
+        * # A value of 1 indicates that the queue is configurable.
+        * # A hwrm_queue_cfg command shall return error when trying to
+        * configure a queue not configurable.
         */
-       uint8_t pri2_cos_queue_id;
+       uint8_t queue_cfg_allowed;
+       /* Information about queue configuration. */
+       uint8_t queue_cfg_info;
        /*
-        * CoS Queue assigned to priority 3.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
-        */
-       uint8_t pri3_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 4.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
-        */
-       uint8_t pri4_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 5.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
-        */
-       uint8_t pri5_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 6.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
-        */
-       uint8_t pri6_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 7.  This value can only
-        * be changed before traffic has started.
-        * A value of 0xff indicates that no CoS queue is assigned to the
-        * specified priority.
-        */
-       uint8_t pri7_cos_queue_id;
-       /* Information about queue configuration. */
-       uint8_t queue_cfg_info;
-       /*
-        * If this flag is set to '1', then the PRI to CoS
-        * configuration is asymmetric on TX and RX sides.
-        * If this flag is set to '0', then PRI to CoS configuration
-        * is symmetric on TX and RX sides.
+        * If this flag is set to '1', then the queues are
+        * configured asymmetrically on TX and RX sides.
+        * If this flag is set to '0', then the queues are
+        * configured symmetrically on TX and RX sides. For
+        * symmetric configuration, the queue configuration
+        * including queue ids and service profiles on the
+        * TX side is the same as the corresponding queue
+        * configuration on the RX side.
         */
-       #define HWRM_QUEUE_PRI2COS_QCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
                UINT32_C(0x1)
-       uint8_t unused_0[6];
-       /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
-        */
-       uint8_t valid;
-} __attribute__((packed));
-
-/**************************
- * hwrm_queue_pri2cos_cfg *
- **************************/
-
-
-/* hwrm_queue_pri2cos_cfg_input (size:320b/40B) */
-struct hwrm_queue_pri2cos_cfg_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
-        */
-       uint16_t        cmpl_ring;
-       /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
-        */
-       uint16_t        seq_id;
        /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
+        * Bitmask indicating which queues can be configured by the
+        * hwrm_queue_pfcenable_cfg command.
+        *
+        * Each bit represents a specific priority where bit 0 represents
+        * priority 0 and bit 7 represents priority 7.
+        * # A value of 0 indicates that the priority is not configurable by
+        * the hwrm_queue_pfcenable_cfg command.
+        * # A value of 1 indicates that the priority is configurable.
+        * # A hwrm_queue_pfcenable_cfg command shall return error when
+        * trying to configure a priority that is not configurable.
         */
-       uint16_t        target_id;
+       uint8_t queue_pfcenable_cfg_allowed;
        /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
+        * Bitmask indicating which queues can be configured by the
+        * hwrm_queue_pri2cos_cfg command.
+        *
+        * Each bit represents a specific queue where bit 0 represents
+        * queue 0 and bit 7 represents queue 7.
+        * # A value of 0 indicates that the queue is not configurable
+        * by the hwrm_queue_pri2cos_cfg command.
+        * # A value of 1 indicates that the queue is configurable.
+        * # A hwrm_queue_pri2cos_cfg command shall return error when
+        * trying to configure a queue that is not configurable.
         */
-       uint64_t        resp_addr;
-       uint32_t        flags;
+       uint8_t queue_pri2cos_cfg_allowed;
        /*
-        * Enumeration denoting the RX, TX, or both directions applicable to the resource.
-        * This enumeration is used for resources that are similar for both
-        * TX and RX paths of the chip.
+        * Bitmask indicating which queues can be configured by the
+        * hwrm_queue_pri2cos_cfg command.
+        *
+        * Each bit represents a specific queue where bit 0 represents
+        * queue 0 and bit 7 represents queue 7.
+        * # A value of 0 indicates that the queue is not configurable
+        * by the hwrm_queue_pri2cos_cfg command.
+        * # A value of 1 indicates that the queue is configurable.
+        * # A hwrm_queue_pri2cos_cfg command shall return error when
+        * trying to configure a queue not configurable.
         */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_MASK UINT32_C(0x3)
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_SFT  0
-       /* tx path */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
-       /* rx path */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
-       /* Bi-directional (Symmetrically applicable to TX and RX paths) */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_BIDIR  UINT32_C(0x2)
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_LAST \
-               HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_BIDIR
+       uint8_t queue_cos2bw_cfg_allowed;
        /*
-        * When this bit is set to '0', the mapping is requested
-        * for VLAN PRI field in tunnel headers.
-        * When this bit is set to '1', the mapping is requested
-        * for VLAN PRI field in inner packet headers.
+        * ID of CoS Queue 0.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_IVLAN     UINT32_C(0x4)
-       uint32_t        enables;
+       uint8_t queue_id0;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id0_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID0_SERVICE_PROFILE_UNKNOWN
        /*
-        * This bit must be '1' for the pri0_cos_queue_id field to be
-        * configured.
+        * ID of CoS Queue 1.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI0_COS_QUEUE_ID \
+       uint8_t queue_id1;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id1_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS_ROCE \
                UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID1_SERVICE_PROFILE_UNKNOWN
        /*
-        * This bit must be '1' for the pri1_cos_queue_id field to be
-        * configured.
+        * ID of CoS Queue 2.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI1_COS_QUEUE_ID \
+       uint8_t queue_id2;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id2_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSY_ROCE_CNP \
                UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID2_SERVICE_PROFILE_UNKNOWN
        /*
-        * This bit must be '1' for the pri2_cos_queue_id field to be
-        * configured.
+        * ID of CoS Queue 3.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI2_COS_QUEUE_ID \
-               UINT32_C(0x4)
-       /*
-        * This bit must be '1' for the pri3_cos_queue_id field to be
-        * configured.
-        */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI3_COS_QUEUE_ID \
-               UINT32_C(0x8)
-       /*
-        * This bit must be '1' for the pri4_cos_queue_id field to be
-        * configured.
-        */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI4_COS_QUEUE_ID \
-               UINT32_C(0x10)
-       /*
-        * This bit must be '1' for the pri5_cos_queue_id field to be
-        * configured.
-        */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI5_COS_QUEUE_ID \
-               UINT32_C(0x20)
-       /*
-        * This bit must be '1' for the pri6_cos_queue_id field to be
-        * configured.
-        */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI6_COS_QUEUE_ID \
-               UINT32_C(0x40)
-       /*
-        * This bit must be '1' for the pri7_cos_queue_id field to be
-        * configured.
-        */
-       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI7_COS_QUEUE_ID \
-               UINT32_C(0x80)
-       /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure pri2cos mapping on this port.
-        */
-       uint8_t port_id;
-       /*
-        * CoS Queue assigned to priority 0.  This value can only
-        * be changed before traffic has started.
-        */
-       uint8_t pri0_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 1.  This value can only
-        * be changed before traffic has started.
-        */
-       uint8_t pri1_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 2  This value can only
-        * be changed before traffic has started.
-        */
-       uint8_t pri2_cos_queue_id;
-       /*
-        * CoS Queue assigned to priority 3.  This value can only
-        * be changed before traffic has started.
-        */
-       uint8_t pri3_cos_queue_id;
+       uint8_t queue_id3;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id3_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID3_SERVICE_PROFILE_UNKNOWN
        /*
-        * CoS Queue assigned to priority 4.  This value can only
-        * be changed before traffic has started.
+        * ID of CoS Queue 4.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       uint8_t pri4_cos_queue_id;
+       uint8_t queue_id4;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id4_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID4_SERVICE_PROFILE_UNKNOWN
        /*
-        * CoS Queue assigned to priority 5.  This value can only
-        * be changed before traffic has started.
+        * ID of CoS Queue 5.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       uint8_t pri5_cos_queue_id;
+       uint8_t queue_id5;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id5_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID5_SERVICE_PROFILE_UNKNOWN
        /*
-        * CoS Queue assigned to priority 6.  This value can only
-        * be changed before traffic has started.
+        * ID of CoS Queue 6.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       uint8_t pri6_cos_queue_id;
+       uint8_t queue_id6;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id6_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID6_SERVICE_PROFILE_UNKNOWN
        /*
-        * CoS Queue assigned to priority 7.  This value can only
-        * be changed before traffic has started.
+        * ID of CoS Queue 7.
+        * FF - Invalid id
+        *
+        * # This ID can be used on any subsequent call to an hwrm command
+        * that takes a queue id.
+        * # IDs must always be queried by this command before any use
+        * by the driver or software.
+        * # Any driver or software should not make any assumptions about
+        * queue IDs.
+        * # A value of 0xff indicates that the queue is not available.
+        * # Available queues may not be in sequential order.
         */
-       uint8_t pri7_cos_queue_id;
-       uint8_t unused_0[7];
-} __attribute__((packed));
-
-/* hwrm_queue_pri2cos_cfg_output (size:128b/16B) */
-struct hwrm_queue_pri2cos_cfg_output {
-       /* The specific error status for the command. */
-       uint16_t        error_code;
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /* The sequence ID from the original command. */
-       uint16_t        seq_id;
-       /* The length of the response data in number of bytes. */
-       uint16_t        resp_len;
-       uint8_t unused_0[7];
+       uint8_t queue_id7;
+       /* This value is applicable to CoS queues only. */
+       uint8_t queue_id7_service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSY \
+               UINT32_C(0x0)
+       /* Lossless (legacy) */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS \
+               UINT32_C(0x1)
+       /* Lossless RoCE */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS_ROCE \
+               UINT32_C(0x1)
+       /* Lossy RoCE CNP */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSY_ROCE_CNP \
+               UINT32_C(0x2)
+       /* Lossless NIC */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LOSSLESS_NIC \
+               UINT32_C(0x3)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_UNKNOWN \
+               UINT32_C(0xff)
+       #define HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QPORTCFG_OUTPUT_QUEUE_ID7_SERVICE_PROFILE_UNKNOWN
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
-/**************************
- * hwrm_queue_cos2bw_qcfg *
- **************************/
+/*******************
+ * hwrm_queue_qcfg *
+ *******************/
 
 
-/* hwrm_queue_cos2bw_qcfg_input (size:192b/24B) */
-struct hwrm_queue_cos2bw_qcfg_input {
+/* hwrm_queue_qcfg_input (size:192b/24B) */
+struct hwrm_queue_qcfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -17698,7 +18900,8 @@ struct hwrm_queue_cos2bw_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -17709,18 +18912,26 @@ struct hwrm_queue_cos2bw_qcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
+       uint32_t        flags;
        /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure TC BW assignment on this port.
+        * Enumeration denoting the RX, TX type of the resource.
+        * This enumeration is used for resources that are similar for both
+        * TX and RX paths of the chip.
         */
-       uint16_t        port_id;
-       uint8_t unused_0[6];
-} __attribute__((packed));
-
-/* hwrm_queue_cos2bw_qcfg_output (size:896b/112B) */
-struct hwrm_queue_cos2bw_qcfg_output {
-       /* The specific error status for the command. */
+       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH     UINT32_C(0x1)
+       /* tx path */
+       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_TX    UINT32_C(0x0)
+       /* rx path */
+       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_RX    UINT32_C(0x1)
+       #define HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_LAST \
+               HWRM_QUEUE_QCFG_INPUT_FLAGS_PATH_RX
+       /* Queue ID of the queue. */
+       uint32_t        queue_id;
+} __rte_packed;
+
+/* hwrm_queue_qcfg_output (size:128b/16B) */
+struct hwrm_queue_qcfg_output {
+       /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
        uint16_t        req_type;
@@ -17728,483 +18939,2020 @@ struct hwrm_queue_cos2bw_qcfg_output {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
-       /* ID of CoS Queue 0. */
-       uint8_t queue_id0;
-       uint8_t unused_0;
-       uint16_t        unused_1;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This value is the estimate packet length used in the
+        * TX arbiter.
         */
-       uint32_t        queue_id0_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint32_t        queue_len;
+       /* This value is applicable to CoS queues only. */
+       uint8_t service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LOSSY    UINT32_C(0x0)
+       /* Lossless */
+       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LOSSLESS UINT32_C(0x1)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_UNKNOWN  UINT32_C(0xff)
+       #define HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_QCFG_OUTPUT_SERVICE_PROFILE_UNKNOWN
+       /* Information about queue configuration. */
+       uint8_t queue_cfg_info;
        /*
-        * Maximum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * If this flag is set to '1', then the queue is
+        * configured asymmetrically on TX and RX sides.
+        * If this flag is set to '0', then this queue is
+        * configured symmetrically on TX and RX sides.
         */
-       uint32_t        queue_id0_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id0_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_QCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
                UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint8_t unused_0;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint8_t queue_id0_pri_lvl;
+       uint8_t valid;
+} __rte_packed;
+
+/******************
+ * hwrm_queue_cfg *
+ ******************/
+
+
+/* hwrm_queue_cfg_input (size:320b/40B) */
+struct hwrm_queue_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
         */
-       uint8_t queue_id0_bw_weight;
-       /* ID of CoS Queue 1. */
-       uint8_t queue_id1;
+       uint16_t        cmpl_ring;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
         */
-       uint32_t        queue_id1_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint16_t        seq_id;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
         */
-       uint32_t        queue_id1_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id1_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint16_t        target_id;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
         */
-       uint8_t queue_id1_pri_lvl;
+       uint64_t        resp_addr;
+       uint32_t        flags;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * Enumeration denoting the RX, TX, or both directions applicable to the resource.
+        * This enumeration is used for resources that are similar for both
+        * TX and RX paths of the chip.
         */
-       uint8_t queue_id1_bw_weight;
-       /* ID of CoS Queue 2. */
-       uint8_t queue_id2;
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_MASK UINT32_C(0x3)
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_SFT  0
+       /* tx path */
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
+       /* rx path */
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
+       /* Bi-directional (Symmetrically applicable to TX and RX paths) */
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_BIDIR  UINT32_C(0x2)
+       #define HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_LAST \
+               HWRM_QUEUE_CFG_INPUT_FLAGS_PATH_BIDIR
+       uint32_t        enables;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This bit must be '1' for the dflt_len field to be
+        * configured.
         */
-       uint32_t        queue_id2_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_CFG_INPUT_ENABLES_DFLT_LEN            UINT32_C(0x1)
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This bit must be '1' for the service_profile field to be
+        * configured.
         */
-       uint32_t        queue_id2_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id2_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       #define HWRM_QUEUE_CFG_INPUT_ENABLES_SERVICE_PROFILE     UINT32_C(0x2)
+       /* Queue ID of queue that is to be configured by this function. */
+       uint32_t        queue_id;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * This value is a the estimate packet length used in the
+        * TX arbiter.
+        * Set to 0xFF... (All Fs) to not adjust this value.
         */
-       uint8_t queue_id2_pri_lvl;
+       uint32_t        dflt_len;
+       /* This value is applicable to CoS queues only. */
+       uint8_t service_profile;
+       /* Lossy (best-effort) */
+       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LOSSY    UINT32_C(0x0)
+       /* Lossless */
+       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LOSSLESS UINT32_C(0x1)
+       /* Set to 0xFF... (All Fs) if there is no service profile specified */
+       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_UNKNOWN  UINT32_C(0xff)
+       #define HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_LAST \
+               HWRM_QUEUE_CFG_INPUT_SERVICE_PROFILE_UNKNOWN
+       uint8_t unused_0[7];
+} __rte_packed;
+
+/* hwrm_queue_cfg_output (size:128b/16B) */
+struct hwrm_queue_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint8_t queue_id2_bw_weight;
-       /* ID of CoS Queue 3. */
-       uint8_t queue_id3;
+       uint8_t valid;
+} __rte_packed;
+
+/*****************************
+ * hwrm_queue_pfcenable_qcfg *
+ *****************************/
+
+
+/* hwrm_queue_pfcenable_qcfg_input (size:192b/24B) */
+struct hwrm_queue_pfcenable_qcfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
         */
-       uint32_t        queue_id3_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_GIGA \
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint16_t        port_id;
+       uint8_t unused_0[6];
+} __rte_packed;
+
+/* hwrm_queue_pfcenable_qcfg_output (size:128b/16B) */
+struct hwrm_queue_pfcenable_qcfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint32_t        flags;
+       /* If set to 1, then PFC is enabled on PRI 0. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI0_PFC_ENABLED \
+               UINT32_C(0x1)
+       /* If set to 1, then PFC is enabled on PRI 1. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI1_PFC_ENABLED \
+               UINT32_C(0x2)
+       /* If set to 1, then PFC is enabled on PRI 2. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI2_PFC_ENABLED \
+               UINT32_C(0x4)
+       /* If set to 1, then PFC is enabled on PRI 3. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI3_PFC_ENABLED \
+               UINT32_C(0x8)
+       /* If set to 1, then PFC is enabled on PRI 4. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI4_PFC_ENABLED \
+               UINT32_C(0x10)
+       /* If set to 1, then PFC is enabled on PRI 5. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI5_PFC_ENABLED \
+               UINT32_C(0x20)
+       /* If set to 1, then PFC is enabled on PRI 6. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI6_PFC_ENABLED \
+               UINT32_C(0x40)
+       /* If set to 1, then PFC is enabled on PRI 7. */
+       #define HWRM_QUEUE_PFCENABLE_QCFG_OUTPUT_FLAGS_PRI7_PFC_ENABLED \
+               UINT32_C(0x80)
+       uint8_t unused_0[3];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/****************************
+ * hwrm_queue_pfcenable_cfg *
+ ****************************/
+
+
+/* hwrm_queue_pfcenable_cfg_input (size:192b/24B) */
+struct hwrm_queue_pfcenable_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        flags;
+       /* If set to 1, then PFC is requested to be enabled on PRI 0. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI0_PFC_ENABLED \
+               UINT32_C(0x1)
+       /* If set to 1, then PFC is requested to be enabled on PRI 1. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI1_PFC_ENABLED \
+               UINT32_C(0x2)
+       /* If set to 1, then PFC is requested to be enabled on PRI 2. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI2_PFC_ENABLED \
+               UINT32_C(0x4)
+       /* If set to 1, then PFC is requested to be enabled on PRI 3. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI3_PFC_ENABLED \
+               UINT32_C(0x8)
+       /* If set to 1, then PFC is requested to be enabled on PRI 4. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI4_PFC_ENABLED \
+               UINT32_C(0x10)
+       /* If set to 1, then PFC is requested to be enabled on PRI 5. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI5_PFC_ENABLED \
+               UINT32_C(0x20)
+       /* If set to 1, then PFC is requested to be enabled on PRI 6. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI6_PFC_ENABLED \
+               UINT32_C(0x40)
+       /* If set to 1, then PFC is requested to be enabled on PRI 7. */
+       #define HWRM_QUEUE_PFCENABLE_CFG_INPUT_FLAGS_PRI7_PFC_ENABLED \
+               UINT32_C(0x80)
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint16_t        port_id;
+       uint8_t unused_0[2];
+} __rte_packed;
+
+/* hwrm_queue_pfcenable_cfg_output (size:128b/16B) */
+struct hwrm_queue_pfcenable_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/***************************
+ * hwrm_queue_pri2cos_qcfg *
+ ***************************/
+
+
+/* hwrm_queue_pri2cos_qcfg_input (size:192b/24B) */
+struct hwrm_queue_pri2cos_qcfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        flags;
+       /*
+        * Enumeration denoting the RX, TX type of the resource.
+        * This enumeration is used for resources that are similar for both
+        * TX and RX paths of the chip.
+        */
+       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH      UINT32_C(0x1)
+       /* tx path */
+       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
+       /* rx path */
+       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
+       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_LAST \
+               HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_PATH_RX
+       /*
+        * When this bit is set to '0', the query is
+        * for PRI from tunnel headers.
+        * When this bit is set to '1', the query is
+        * for PRI from inner packet headers.
+        */
+       #define HWRM_QUEUE_PRI2COS_QCFG_INPUT_FLAGS_IVLAN     UINT32_C(0x2)
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint8_t port_id;
+       uint8_t unused_0[3];
+} __rte_packed;
+
+/* hwrm_queue_pri2cos_qcfg_output (size:192b/24B) */
+struct hwrm_queue_pri2cos_qcfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /*
+        * CoS Queue assigned to priority 0. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri0_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 1. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri1_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 2. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri2_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 3. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri3_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 4. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri4_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 5. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri5_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 6. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri6_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 7. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no CoS queue is assigned to the
+        * specified priority.
+        */
+       uint8_t pri7_cos_queue_id;
+       /* Information about queue configuration. */
+       uint8_t queue_cfg_info;
+       /*
+        * If this flag is set to '1', then the PRI to CoS
+        * configuration is asymmetric on TX and RX sides.
+        * If this flag is set to '0', then PRI to CoS configuration
+        * is symmetric on TX and RX sides.
+        */
+       #define HWRM_QUEUE_PRI2COS_QCFG_OUTPUT_QUEUE_CFG_INFO_ASYM_CFG \
+               UINT32_C(0x1)
+       uint8_t unused_0[6];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/**************************
+ * hwrm_queue_pri2cos_cfg *
+ **************************/
+
+
+/* hwrm_queue_pri2cos_cfg_input (size:320b/40B) */
+struct hwrm_queue_pri2cos_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        flags;
+       /*
+        * Enumeration denoting the RX, TX, or both directions applicable to the resource.
+        * This enumeration is used for resources that are similar for both
+        * TX and RX paths of the chip.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_MASK UINT32_C(0x3)
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_SFT  0
+       /* tx path */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_TX     UINT32_C(0x0)
+       /* rx path */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x1)
+       /* Bi-directional (Symmetrically applicable to TX and RX paths) */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_BIDIR  UINT32_C(0x2)
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_LAST \
+               HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_PATH_BIDIR
+       /*
+        * When this bit is set to '0', the mapping is requested
+        * for PRI from tunnel headers.
+        * When this bit is set to '1', the mapping is requested
+        * for PRI from inner packet headers.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_FLAGS_IVLAN     UINT32_C(0x4)
+       uint32_t        enables;
+       /*
+        * This bit must be '1' for the pri0_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI0_COS_QUEUE_ID \
+               UINT32_C(0x1)
+       /*
+        * This bit must be '1' for the pri1_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI1_COS_QUEUE_ID \
+               UINT32_C(0x2)
+       /*
+        * This bit must be '1' for the pri2_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI2_COS_QUEUE_ID \
+               UINT32_C(0x4)
+       /*
+        * This bit must be '1' for the pri3_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI3_COS_QUEUE_ID \
+               UINT32_C(0x8)
+       /*
+        * This bit must be '1' for the pri4_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI4_COS_QUEUE_ID \
+               UINT32_C(0x10)
+       /*
+        * This bit must be '1' for the pri5_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI5_COS_QUEUE_ID \
+               UINT32_C(0x20)
+       /*
+        * This bit must be '1' for the pri6_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI6_COS_QUEUE_ID \
+               UINT32_C(0x40)
+       /*
+        * This bit must be '1' for the pri7_cos_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_PRI2COS_CFG_INPUT_ENABLES_PRI7_COS_QUEUE_ID \
+               UINT32_C(0x80)
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint8_t port_id;
+       /*
+        * CoS Queue assigned to priority 0. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri0_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 1. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri1_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 2  This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri2_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 3. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri3_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 4. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri4_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 5. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri5_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 6. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri6_cos_queue_id;
+       /*
+        * CoS Queue assigned to priority 7. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t pri7_cos_queue_id;
+       uint8_t unused_0[7];
+} __rte_packed;
+
+/* hwrm_queue_pri2cos_cfg_output (size:128b/16B) */
+struct hwrm_queue_pri2cos_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/**************************
+ * hwrm_queue_cos2bw_qcfg *
+ **************************/
+
+
+/* hwrm_queue_cos2bw_qcfg_input (size:192b/24B) */
+struct hwrm_queue_cos2bw_qcfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure TC BW assignment on this port.
+        */
+       uint16_t        port_id;
+       uint8_t unused_0[6];
+} __rte_packed;
+
+/* hwrm_queue_cos2bw_qcfg_output (size:896b/112B) */
+struct hwrm_queue_cos2bw_qcfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* ID of CoS Queue 0. */
+       uint8_t queue_id0;
+       uint8_t unused_0;
+       uint16_t        unused_1;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id0_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id0_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id0_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id0_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id0_bw_weight;
+       /* ID of CoS Queue 1. */
+       uint8_t queue_id1;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id1_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id1_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id1_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id1_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id1_bw_weight;
+       /* ID of CoS Queue 2. */
+       uint8_t queue_id2;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id2_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id2_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id2_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id2_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id2_bw_weight;
+       /* ID of CoS Queue 3. */
+       uint8_t queue_id3;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id3_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id3_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id3_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id3_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id3_bw_weight;
+       /* ID of CoS Queue 4. */
+       uint8_t queue_id4;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id4_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id4_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id4_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id4_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id4_bw_weight;
+       /* ID of CoS Queue 5. */
+       uint8_t queue_id5;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id5_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id5_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id5_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id5_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id5_bw_weight;
+       /* ID of CoS Queue 6. */
+       uint8_t queue_id6;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id6_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id6_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id6_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id6_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id6_bw_weight;
+       /* ID of CoS Queue 7. */
+       uint8_t queue_id7;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id7_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id7_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id7_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id7_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id7_bw_weight;
+       uint8_t unused_2[4];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/*************************
+ * hwrm_queue_cos2bw_cfg *
+ *************************/
+
+
+/* hwrm_queue_cos2bw_cfg_input (size:1024b/128B) */
+struct hwrm_queue_cos2bw_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        flags;
+       uint32_t        enables;
+       /*
+        * If this bit is set to 1, then all queue_id0 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID0_VALID \
+               UINT32_C(0x1)
+       /*
+        * If this bit is set to 1, then all queue_id1 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID1_VALID \
+               UINT32_C(0x2)
+       /*
+        * If this bit is set to 1, then all queue_id2 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID2_VALID \
+               UINT32_C(0x4)
+       /*
+        * If this bit is set to 1, then all queue_id3 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID3_VALID \
+               UINT32_C(0x8)
+       /*
+        * If this bit is set to 1, then all queue_id4 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID4_VALID \
+               UINT32_C(0x10)
+       /*
+        * If this bit is set to 1, then all queue_id5 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID5_VALID \
+               UINT32_C(0x20)
+       /*
+        * If this bit is set to 1, then all queue_id6 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID6_VALID \
+               UINT32_C(0x40)
+       /*
+        * If this bit is set to 1, then all queue_id7 related
+        * parameters in this command are valid.
+        */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID7_VALID \
+               UINT32_C(0x80)
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure TC BW assignment on this port.
+        */
+       uint16_t        port_id;
+       /* ID of CoS Queue 0. */
+       uint8_t queue_id0;
+       uint8_t unused_0;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id0_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID
+       /*
+        * Maximum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id0_max_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID
+       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
+       uint8_t queue_id0_tsa_assign;
+       /* Strict Priority */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_SP \
+               UINT32_C(0x0)
+       /* Enhanced Transmission Selection */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_ETS \
+               UINT32_C(0x1)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_FIRST \
+               UINT32_C(0x2)
+       /* reserved. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_LAST \
+               UINT32_C(0xff)
+       /*
+        * Priority level for strict priority. Valid only when the
+        * tsa_assign is 0 - Strict Priority (SP)
+        * 0..7 - Valid values.
+        * 8..255 - Reserved.
+        */
+       uint8_t queue_id0_pri_lvl;
+       /*
+        * Weight used to allocate remaining BW for this COS after
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id0_bw_weight;
+       /* ID of CoS Queue 1. */
+       uint8_t queue_id1;
+       /*
+        * Minimum BW allocated to CoS Queue.
+        * The HWRM will translate this value into byte counter and
+        * time interval used for this COS inside the device.
+        */
+       uint32_t        queue_id1_min_bw;
+       /* The bandwidth value. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_MASK \
+               UINT32_C(0xfffffff)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_SFT \
+               0
+       /* The granularity of the value (bits or bytes). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE \
+               UINT32_C(0x10000000)
+       /* Value is in bits. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BITS \
+               (UINT32_C(0x0) << 28)
+       /* Value is in bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES \
+               (UINT32_C(0x1) << 28)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES
+       /* bw_value_unit is 3 b */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MASK \
+               UINT32_C(0xe0000000)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_SFT \
+               29
+       /* Value is in Mb or MB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MEGA \
+               (UINT32_C(0x0) << 29)
+       /* Value is in Kb or KB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_KILO \
+               (UINT32_C(0x2) << 29)
+       /* Value is in bits or bytes. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_BASE \
+               (UINT32_C(0x4) << 29)
+       /* Value is in Gb or GB (base 10). */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_GIGA \
+               (UINT32_C(0x6) << 29)
+       /* Value is in 1/100th of a percentage of total bandwidth. */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+               (UINT32_C(0x1) << 29)
+       /* Invalid unit */
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id3_max_bw;
+       uint32_t        queue_id1_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id3_tsa_assign;
+       uint8_t queue_id1_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18212,121 +20960,121 @@ struct hwrm_queue_cos2bw_qcfg_output {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id3_pri_lvl;
+       uint8_t queue_id1_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id3_bw_weight;
-       /* ID of CoS Queue 4. */
-       uint8_t queue_id4;
+       uint8_t queue_id1_bw_weight;
+       /* ID of CoS Queue 2. */
+       uint8_t queue_id2;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id4_min_bw;
+       uint32_t        queue_id2_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id4_max_bw;
+       uint32_t        queue_id2_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id4_tsa_assign;
+       uint8_t queue_id2_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18334,121 +21082,121 @@ struct hwrm_queue_cos2bw_qcfg_output {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id4_pri_lvl;
+       uint8_t queue_id2_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
-        */
-       uint8_t queue_id4_bw_weight;
-       /* ID of CoS Queue 5. */
-       uint8_t queue_id5;
+        * servicing guaranteed bandwidths for all COS.
+        */
+       uint8_t queue_id2_bw_weight;
+       /* ID of CoS Queue 3. */
+       uint8_t queue_id3;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id5_min_bw;
+       uint32_t        queue_id3_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id5_max_bw;
+       uint32_t        queue_id3_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id5_tsa_assign;
+       uint8_t queue_id3_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18456,121 +21204,121 @@ struct hwrm_queue_cos2bw_qcfg_output {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id5_pri_lvl;
+       uint8_t queue_id3_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id5_bw_weight;
-       /* ID of CoS Queue 6. */
-       uint8_t queue_id6;
+       uint8_t queue_id3_bw_weight;
+       /* ID of CoS Queue 4. */
+       uint8_t queue_id4;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id6_min_bw;
+       uint32_t        queue_id4_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id6_max_bw;
+       uint32_t        queue_id4_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id6_tsa_assign;
+       uint8_t queue_id4_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18578,121 +21326,121 @@ struct hwrm_queue_cos2bw_qcfg_output {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id6_pri_lvl;
+       uint8_t queue_id4_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id6_bw_weight;
-       /* ID of CoS Queue 7. */
-       uint8_t queue_id7;
+       uint8_t queue_id4_bw_weight;
+       /* ID of CoS Queue 5. */
+       uint8_t queue_id5;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id7_min_bw;
+       uint32_t        queue_id5_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id7_max_bw;
+       uint32_t        queue_id5_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID \
+               (UINT32_C(0x7) << 29)
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id7_tsa_assign;
+       uint8_t queue_id5_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_QCFG_OUTPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18700,223 +21448,121 @@ struct hwrm_queue_cos2bw_qcfg_output {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id7_pri_lvl;
+       uint8_t queue_id5_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id7_bw_weight;
-       uint8_t unused_2[4];
-       /*
-        * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
-        * to indicate that the output has been completely written.
-        * When writing a command completion or response to an internal processor,
-        * the order of writes has to be such that this field is written last.
-        */
-       uint8_t valid;
-} __attribute__((packed));
-
-/*************************
- * hwrm_queue_cos2bw_cfg *
- *************************/
-
-
-/* hwrm_queue_cos2bw_cfg_input (size:1024b/128B) */
-struct hwrm_queue_cos2bw_cfg_input {
-       /* The HWRM command request type. */
-       uint16_t        req_type;
-       /*
-        * The completion ring to send the completion event on. This should
-        * be the NQ ID returned from the `nq_alloc` HWRM command.
-        */
-       uint16_t        cmpl_ring;
-       /*
-        * The sequence ID is used by the driver for tracking multiple
-        * commands. This ID is treated as opaque data by the firmware and
-        * the value is returned in the `hwrm_resp_hdr` upon completion.
-        */
-       uint16_t        seq_id;
-       /*
-        * The target ID of the command:
-        * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
-        * * 0xFFFF - HWRM
-        */
-       uint16_t        target_id;
-       /*
-        * A physical address pointer pointing to a host buffer that the
-        * command's response data will be written. This can be either a host
-        * physical address (HPA) or a guest physical address (GPA) and must
-        * point to a physically contiguous block of memory.
-        */
-       uint64_t        resp_addr;
-       uint32_t        flags;
-       uint32_t        enables;
-       /*
-        * If this bit is set to 1, then all queue_id0 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID0_VALID \
-               UINT32_C(0x1)
-       /*
-        * If this bit is set to 1, then all queue_id1 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID1_VALID \
-               UINT32_C(0x2)
-       /*
-        * If this bit is set to 1, then all queue_id2 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID2_VALID \
-               UINT32_C(0x4)
-       /*
-        * If this bit is set to 1, then all queue_id3 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID3_VALID \
-               UINT32_C(0x8)
-       /*
-        * If this bit is set to 1, then all queue_id4 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID4_VALID \
-               UINT32_C(0x10)
-       /*
-        * If this bit is set to 1, then all queue_id5 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID5_VALID \
-               UINT32_C(0x20)
-       /*
-        * If this bit is set to 1, then all queue_id6 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID6_VALID \
-               UINT32_C(0x40)
-       /*
-        * If this bit is set to 1, then all queue_id7 related
-        * parameters in this command are valid.
-        */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_ENABLES_COS_QUEUE_ID7_VALID \
-               UINT32_C(0x80)
-       /*
-        * Port ID of port for which the table is being configured.
-        * The HWRM needs to check whether this function is allowed
-        * to configure TC BW assignment on this port.
-        */
-       uint16_t        port_id;
-       /* ID of CoS Queue 0. */
-       uint8_t queue_id0;
-       uint8_t unused_0;
+       uint8_t queue_id5_bw_weight;
+       /* ID of CoS Queue 6. */
+       uint8_t queue_id6;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id0_min_bw;
+       uint32_t        queue_id6_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
-        * Maximum BW allocated to CoS Queue.
+        * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id0_max_bw;
+       uint32_t        queue_id6_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id0_tsa_assign;
+       uint8_t queue_id6_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID0_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -18924,121 +21570,121 @@ struct hwrm_queue_cos2bw_cfg_input {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id0_pri_lvl;
+       uint8_t queue_id6_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id0_bw_weight;
-       /* ID of CoS Queue 1. */
-       uint8_t queue_id1;
+       uint8_t queue_id6_bw_weight;
+       /* ID of CoS Queue 7. */
+       uint8_t queue_id7;
        /*
         * Minimum BW allocated to CoS Queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id1_min_bw;
+       uint32_t        queue_id7_min_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MIN_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID
        /*
         * Maximum BW allocated to CoS queue.
         * The HWRM will translate this value into byte counter and
         * time interval used for this COS inside the device.
         */
-       uint32_t        queue_id1_max_bw;
+       uint32_t        queue_id7_max_bw;
        /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_MASK \
                UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_SFT \
                0
        /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE \
                UINT32_C(0x10000000)
        /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BITS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BITS \
                (UINT32_C(0x0) << 28)
        /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES \
                (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_SCALE_BYTES
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES
        /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MASK \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MASK \
                UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_SFT \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_SFT \
                29
        /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_MEGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MEGA \
                (UINT32_C(0x0) << 29)
        /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_KILO \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_KILO \
                (UINT32_C(0x2) << 29)
        /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_BASE \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_BASE \
                (UINT32_C(0x4) << 29)
        /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_GIGA \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_GIGA \
                (UINT32_C(0x6) << 29)
        /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
                (UINT32_C(0x1) << 29)
        /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID \
                (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_MAX_BW_BW_VALUE_UNIT_INVALID
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_LAST \
+               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID
        /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id1_tsa_assign;
+       uint8_t queue_id7_tsa_assign;
        /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_SP \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_SP \
                UINT32_C(0x0)
        /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_ETS \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_ETS \
                UINT32_C(0x1)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_FIRST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_FIRST \
                UINT32_C(0x2)
        /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID1_TSA_ASSIGN_RESERVED_LAST \
+       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_LAST \
                UINT32_C(0xff)
        /*
         * Priority level for strict priority. Valid only when the
@@ -19046,749 +21692,619 @@ struct hwrm_queue_cos2bw_cfg_input {
         * 0..7 - Valid values.
         * 8..255 - Reserved.
         */
-       uint8_t queue_id1_pri_lvl;
+       uint8_t queue_id7_pri_lvl;
        /*
         * Weight used to allocate remaining BW for this COS after
         * servicing guaranteed bandwidths for all COS.
         */
-       uint8_t queue_id1_bw_weight;
-       /* ID of CoS Queue 2. */
-       uint8_t queue_id2;
+       uint8_t queue_id7_bw_weight;
+       uint8_t unused_1[5];
+} __rte_packed;
+
+/* hwrm_queue_cos2bw_cfg_output (size:128b/16B) */
+struct hwrm_queue_cos2bw_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint32_t        queue_id2_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint8_t valid;
+} __rte_packed;
+
+/*************************
+ * hwrm_queue_dscp_qcaps *
+ *************************/
+
+
+/* hwrm_queue_dscp_qcaps_input (size:192b/24B) */
+struct hwrm_queue_dscp_qcaps_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint8_t port_id;
+       uint8_t unused_0[7];
+} __rte_packed;
+
+/* hwrm_queue_dscp_qcaps_output (size:128b/16B) */
+struct hwrm_queue_dscp_qcaps_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* The number of bits provided by the hardware for the DSCP value. */
+       uint8_t num_dscp_bits;
+       uint8_t unused_0;
+       /* Max number of DSCP-MASK-PRI entries supported. */
+       uint16_t        max_entries;
+       uint8_t unused_1[3];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/****************************
+ * hwrm_queue_dscp2pri_qcfg *
+ ****************************/
+
+
+/* hwrm_queue_dscp2pri_qcfg_input (size:256b/32B) */
+struct hwrm_queue_dscp2pri_qcfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /*
+        * This is the host address where the 24-bits DSCP-MASK-PRI
+        * tuple(s) will be copied to.
+        */
+       uint64_t        dest_data_addr;
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
+        */
+       uint8_t port_id;
+       uint8_t unused_0;
+       /* Size of the buffer pointed to by dest_data_addr. */
+       uint16_t        dest_data_buffer_size;
+       uint8_t unused_1[4];
+} __rte_packed;
+
+/* hwrm_queue_dscp2pri_qcfg_output (size:128b/16B) */
+struct hwrm_queue_dscp2pri_qcfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /*
+        * A count of the number of DSCP-MASK-PRI tuple(s) pointed to
+        * by the dest_data_addr.
+        */
+       uint16_t        entry_cnt;
+       /*
+        * This is the default PRI which un-initialized DSCP values are
+        * mapped to.
+        */
+       uint8_t default_pri;
+       uint8_t unused_0[4];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/***************************
+ * hwrm_queue_dscp2pri_cfg *
+ ***************************/
+
+
+/* hwrm_queue_dscp2pri_cfg_input (size:320b/40B) */
+struct hwrm_queue_dscp2pri_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This is the host address where the 24-bits DSCP-MASK-PRI tuple
+        * will be copied from.
         */
-       uint32_t        queue_id2_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id2_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_ETS \
+       uint64_t        src_data_addr;
+       uint32_t        flags;
+       /* use_hw_default_pri is 1 b */
+       #define HWRM_QUEUE_DSCP2PRI_CFG_INPUT_FLAGS_USE_HW_DEFAULT_PRI \
                UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID2_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint32_t        enables;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * This bit must be '1' for the default_pri field to be
+        * configured.
         */
-       uint8_t queue_id2_pri_lvl;
+       #define HWRM_QUEUE_DSCP2PRI_CFG_INPUT_ENABLES_DEFAULT_PRI \
+               UINT32_C(0x1)
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure pri2cos mapping on this port.
         */
-       uint8_t queue_id2_bw_weight;
-       /* ID of CoS Queue 3. */
-       uint8_t queue_id3;
+       uint8_t port_id;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This is the default PRI which un-initialized DSCP values will be
+        * mapped to.
         */
-       uint32_t        queue_id3_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint8_t default_pri;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * A count of the number of DSCP-MASK-PRI tuple(s) in the data pointed
+        * to by src_data_addr.
         */
-       uint32_t        queue_id3_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id3_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID3_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint16_t        entry_cnt;
+       uint8_t unused_0[4];
+} __rte_packed;
+
+/* hwrm_queue_dscp2pri_cfg_output (size:128b/16B) */
+struct hwrm_queue_dscp2pri_cfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint8_t unused_0[7];
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint8_t queue_id3_pri_lvl;
+       uint8_t valid;
+} __rte_packed;
+
+/*************************
+ * hwrm_queue_mpls_qcaps *
+ *************************/
+
+
+/* hwrm_queue_mpls_qcaps_input (size:192b/24B) */
+struct hwrm_queue_mpls_qcaps_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure MPLS TC(EXP) to pri mapping on this port.
+        */
+       uint8_t port_id;
+       uint8_t unused_0[7];
+} __rte_packed;
+
+/* hwrm_queue_mpls_qcaps_output (size:128b/16B) */
+struct hwrm_queue_mpls_qcaps_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /*
+        * Bitmask indicating which queues can be configured by the
+        * hwrm_queue_mplstc2pri_cfg command.
+        *
+        * Each bit represents a specific pri where bit 0 represents
+        * pri 0 and bit 7 represents pri 7.
+        * # A value of 0 indicates that the pri is not configurable
+        * by the hwrm_queue_mplstc2pri_cfg command.
+        * # A value of 1 indicates that the pri is configurable.
+        * # A hwrm_queue_mplstc2pri_cfg command shall return error when
+        * trying to configure a pri that is not configurable.
+        */
+       uint8_t queue_mplstc2pri_cfg_allowed;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * This is the default PRI which un-initialized MPLS values will be
+        * mapped to.
         */
-       uint8_t queue_id3_bw_weight;
-       /* ID of CoS Queue 4. */
-       uint8_t queue_id4;
+       uint8_t hw_default_pri;
+       uint8_t unused_0[5];
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
         */
-       uint32_t        queue_id4_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint8_t valid;
+} __rte_packed;
+
+/******************************
+ * hwrm_queue_mplstc2pri_qcfg *
+ ******************************/
+
+
+/* hwrm_queue_mplstc2pri_qcfg_input (size:192b/24B) */
+struct hwrm_queue_mplstc2pri_qcfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
         */
-       uint32_t        queue_id4_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id4_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID4_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint16_t        cmpl_ring;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
         */
-       uint8_t queue_id4_pri_lvl;
+       uint16_t        seq_id;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
         */
-       uint8_t queue_id4_bw_weight;
-       /* ID of CoS Queue 5. */
-       uint8_t queue_id5;
+       uint16_t        target_id;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
         */
-       uint32_t        queue_id5_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint64_t        resp_addr;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure MPLS TC(EXP) to pri mapping on this port.
         */
-       uint32_t        queue_id5_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id5_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID5_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint8_t port_id;
+       uint8_t unused_0[7];
+} __rte_packed;
+
+/* hwrm_queue_mplstc2pri_qcfg_output (size:192b/24B) */
+struct hwrm_queue_mplstc2pri_qcfg_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * pri assigned to MPLS TC(EXP) 0. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 0.
         */
-       uint8_t queue_id5_pri_lvl;
+       uint8_t tc0_pri_queue_id;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * pri assigned to MPLS TC(EXP) 1. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 1.
         */
-       uint8_t queue_id5_bw_weight;
-       /* ID of CoS Queue 6. */
-       uint8_t queue_id6;
+       uint8_t tc1_pri_queue_id;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * pri assigned to MPLS TC(EXP) 2. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 2.
         */
-       uint32_t        queue_id6_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint8_t tc2_pri_queue_id;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * pri assigned to MPLS TC(EXP) 3. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 3.
         */
-       uint32_t        queue_id6_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id6_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_ETS \
-               UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_FIRST \
-               UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID6_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
+       uint8_t tc3_pri_queue_id;
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * pri assigned to MPLS TC(EXP) 4. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 4.
         */
-       uint8_t queue_id6_pri_lvl;
+       uint8_t tc4_pri_queue_id;
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * pri assigned to MPLS TC(EXP) 5. This value can only be changed
+        * before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 5.
         */
-       uint8_t queue_id6_bw_weight;
-       /* ID of CoS Queue 7. */
-       uint8_t queue_id7;
+       uint8_t tc5_pri_queue_id;
        /*
-        * Minimum BW allocated to CoS Queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * pri assigned to MPLS TC(EXP) 6. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 6.
         */
-       uint32_t        queue_id7_min_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MIN_BW_BW_VALUE_UNIT_INVALID
+       uint8_t tc6_pri_queue_id;
        /*
-        * Maximum BW allocated to CoS queue.
-        * The HWRM will translate this value into byte counter and
-        * time interval used for this COS inside the device.
+        * pri assigned to MPLS TC(EXP) 7. This value can only
+        * be changed before traffic has started.
+        * A value of 0xff indicates that no pri is assigned to the
+        * MPLS TC(EXP) 7.
         */
-       uint32_t        queue_id7_max_bw;
-       /* The bandwidth value. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_MASK \
-               UINT32_C(0xfffffff)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_SFT \
-               0
-       /* The granularity of the value (bits or bytes). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE \
-               UINT32_C(0x10000000)
-       /* Value is in bits. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BITS \
-               (UINT32_C(0x0) << 28)
-       /* Value is in bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES \
-               (UINT32_C(0x1) << 28)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_SCALE_BYTES
-       /* bw_value_unit is 3 b */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MASK \
-               UINT32_C(0xe0000000)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_SFT \
-               29
-       /* Value is in Mb or MB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_MEGA \
-               (UINT32_C(0x0) << 29)
-       /* Value is in Kb or KB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_KILO \
-               (UINT32_C(0x2) << 29)
-       /* Value is in bits or bytes. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_BASE \
-               (UINT32_C(0x4) << 29)
-       /* Value is in Gb or GB (base 10). */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_GIGA \
-               (UINT32_C(0x6) << 29)
-       /* Value is in 1/100th of a percentage of total bandwidth. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_PERCENT1_100 \
-               (UINT32_C(0x1) << 29)
-       /* Invalid unit */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID \
-               (UINT32_C(0x7) << 29)
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_LAST \
-               HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_MAX_BW_BW_VALUE_UNIT_INVALID
-       /* Transmission Selection Algorithm (TSA) for CoS Queue. */
-       uint8_t queue_id7_tsa_assign;
-       /* Strict Priority */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_SP \
-               UINT32_C(0x0)
-       /* Enhanced Transmission Selection */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_ETS \
+       uint8_t tc7_pri_queue_id;
+       uint8_t unused_0[7];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/*****************************
+ * hwrm_queue_mplstc2pri_cfg *
+ *****************************/
+
+
+/* hwrm_queue_mplstc2pri_cfg_input (size:256b/32B) */
+struct hwrm_queue_mplstc2pri_cfg_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        enables;
+       /*
+        * This bit must be '1' for the mplstc0_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC0_PRI_QUEUE_ID \
                UINT32_C(0x1)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_FIRST \
+       /*
+        * This bit must be '1' for the mplstc1_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC1_PRI_QUEUE_ID \
                UINT32_C(0x2)
-       /* reserved. */
-       #define HWRM_QUEUE_COS2BW_CFG_INPUT_QUEUE_ID7_TSA_ASSIGN_RESERVED_LAST \
-               UINT32_C(0xff)
        /*
-        * Priority level for strict priority. Valid only when the
-        * tsa_assign is 0 - Strict Priority (SP)
-        * 0..7 - Valid values.
-        * 8..255 - Reserved.
+        * This bit must be '1' for the mplstc2_pri_queue_id field to be
+        * configured.
         */
-       uint8_t queue_id7_pri_lvl;
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC2_PRI_QUEUE_ID \
+               UINT32_C(0x4)
        /*
-        * Weight used to allocate remaining BW for this COS after
-        * servicing guaranteed bandwidths for all COS.
+        * This bit must be '1' for the mplstc3_pri_queue_id field to be
+        * configured.
         */
-       uint8_t queue_id7_bw_weight;
-       uint8_t unused_1[5];
-} __attribute__((packed));
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC3_PRI_QUEUE_ID \
+               UINT32_C(0x8)
+       /*
+        * This bit must be '1' for the mplstc4_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC4_PRI_QUEUE_ID \
+               UINT32_C(0x10)
+       /*
+        * This bit must be '1' for the mplstc5_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC5_PRI_QUEUE_ID \
+               UINT32_C(0x20)
+       /*
+        * This bit must be '1' for the mplstc6_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC6_PRI_QUEUE_ID \
+               UINT32_C(0x40)
+       /*
+        * This bit must be '1' for the mplstc7_pri_queue_id field to be
+        * configured.
+        */
+       #define HWRM_QUEUE_MPLSTC2PRI_CFG_INPUT_ENABLES_TC7_PRI_QUEUE_ID \
+               UINT32_C(0x80)
+       /*
+        * Port ID of port for which the table is being configured.
+        * The HWRM needs to check whether this function is allowed
+        * to configure MPLS TC(EXP)to pri mapping on this port.
+        */
+       uint8_t port_id;
+       uint8_t unused_0[3];
+       /*
+        * pri assigned to MPLS TC(EXP) 0. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc0_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 1. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc1_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 2  This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc2_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 3. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc3_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 4. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc4_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 5. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc5_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 6. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc6_pri_queue_id;
+       /*
+        * pri assigned to MPLS TC(EXP) 7. This value can only
+        * be changed before traffic has started.
+        */
+       uint8_t tc7_pri_queue_id;
+} __rte_packed;
 
-/* hwrm_queue_cos2bw_cfg_output (size:128b/16B) */
-struct hwrm_queue_cos2bw_cfg_output {
+/* hwrm_queue_mplstc2pri_cfg_output (size:128b/16B) */
+struct hwrm_queue_mplstc2pri_cfg_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -19800,13 +22316,13 @@ struct hwrm_queue_cos2bw_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_vnic_alloc *
@@ -19831,7 +22347,8 @@ struct hwrm_vnic_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -19849,7 +22366,7 @@ struct hwrm_vnic_alloc_input {
         */
        #define HWRM_VNIC_ALLOC_INPUT_FLAGS_DEFAULT     UINT32_C(0x1)
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_alloc_output (size:128b/16B) */
 struct hwrm_vnic_alloc_output {
@@ -19872,7 +22389,7 @@ struct hwrm_vnic_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_vnic_free *
@@ -19897,7 +22414,8 @@ struct hwrm_vnic_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -19911,7 +22429,7 @@ struct hwrm_vnic_free_input {
        /* Logical vnic ID */
        uint32_t        vnic_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_free_output (size:128b/16B) */
 struct hwrm_vnic_free_output {
@@ -19932,14 +22450,14 @@ struct hwrm_vnic_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************
  * hwrm_vnic_cfg *
  *****************/
 
 
-/* hwrm_vnic_cfg_input (size:320b/40B) */
+/* hwrm_vnic_cfg_input (size:384b/48B) */
 struct hwrm_vnic_cfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
@@ -19957,7 +22475,8 @@ struct hwrm_vnic_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20081,6 +22600,9 @@ struct hwrm_vnic_cfg_input {
         */
        #define HWRM_VNIC_CFG_INPUT_ENABLES_DEFAULT_CMPL_RING_ID \
                UINT32_C(0x40)
+       /* This bit must be '1' for the queue_id field to be configured. */
+       #define HWRM_VNIC_CFG_INPUT_ENABLES_QUEUE_ID \
+               UINT32_C(0x80)
        /* Logical vnic ID */
        uint16_t        vnic_id;
        /*
@@ -20126,7 +22648,20 @@ struct hwrm_vnic_cfg_input {
         * be chosen if packet does not match any RSS rules.
         */
        uint16_t        default_cmpl_ring_id;
-} __attribute__((packed));
+       /*
+        * When specified, only incoming packets classified to the specified CoS
+        * queue ID will be arriving on this VNIC.  Packet priority to CoS mapping
+        * rules can be specified using HWRM_QUEUE_PRI2COS_CFG.  In this mode,
+        * ntuple filters with VNIC destination specified are invalid since they
+        * conflict with the the CoS to VNIC steering rules in this mode.
+        *
+        * If this field is not specified, packet to VNIC steering will be
+        * subject to the standard L2 filter rules and any additional ntuple
+        * filter rules with destination VNIC specified.
+        */
+       uint16_t        queue_id;
+       uint8_t unused0[6];
+} __rte_packed;
 
 /* hwrm_vnic_cfg_output (size:128b/16B) */
 struct hwrm_vnic_cfg_output {
@@ -20147,7 +22682,7 @@ struct hwrm_vnic_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_vnic_qcfg *
@@ -20172,7 +22707,8 @@ struct hwrm_vnic_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20194,7 +22730,7 @@ struct hwrm_vnic_qcfg_input {
        /* ID of Virtual Function whose VNIC resource is being queried. */
        uint16_t        vf_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_qcfg_output (size:256b/32B) */
 struct hwrm_vnic_qcfg_output {
@@ -20293,7 +22829,13 @@ struct hwrm_vnic_qcfg_output {
         */
        #define HWRM_VNIC_QCFG_OUTPUT_FLAGS_ROCE_MIRRORING_CAPABLE_VNIC_MODE \
                UINT32_C(0x40)
-       uint8_t unused_1[7];
+       /*
+        * When returned with a valid CoS Queue id, the CoS Queue/VNIC association
+        * is valid.  Otherwise it will return 0xFFFF to indicate no VNIC/CoS
+        * queue association.
+        */
+       uint16_t        queue_id;
+       uint8_t unused_1[5];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -20302,7 +22844,7 @@ struct hwrm_vnic_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_vnic_qcaps *
@@ -20327,7 +22869,8 @@ struct hwrm_vnic_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20340,7 +22883,7 @@ struct hwrm_vnic_qcaps_input {
        uint64_t        resp_addr;
        uint32_t        enables;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_qcaps_output (size:192b/24B) */
 struct hwrm_vnic_qcaps_output {
@@ -20419,7 +22962,23 @@ struct hwrm_vnic_qcaps_output {
         */
        #define HWRM_VNIC_QCAPS_OUTPUT_FLAGS_OUTERMOST_RSS_CAP \
                UINT32_C(0x80)
-       uint8_t unused_1[7];
+       /*
+        * When this bit is '1', it indicates that firmware supports the
+        * ability to steer incoming packets from one CoS queue to one
+        * VNIC.  This optional feature can then be enabled
+        * using HWRM_VNIC_CFG on any VNIC.  This feature is only
+        * available when NVM option “enable_cos_classfication” is set
+        * to 1.  If set to '0', firmware does not support this feature.
+        */
+       #define HWRM_VNIC_QCAPS_OUTPUT_FLAGS_COS_ASSIGNMENT_CAP \
+               UINT32_C(0x100)
+       /*
+        * This field advertises the maximum concurrent TPA aggregations
+        * supported by the VNIC on new devices that support TPA v2.
+        * '0' means that TPA v2 is not supported.
+        */
+       uint16_t        max_aggs_supported;
+       uint8_t unused_1[5];
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -20428,7 +22987,7 @@ struct hwrm_vnic_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_vnic_tpa_cfg *
@@ -20453,7 +23012,8 @@ struct hwrm_vnic_tpa_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20529,6 +23089,15 @@ struct hwrm_vnic_tpa_cfg_input {
         */
        #define HWRM_VNIC_TPA_CFG_INPUT_FLAGS_GRO_TTL_CHECK \
                UINT32_C(0x80)
+       /*
+        * When this bit is '1' and the GRO mode is enabled,
+        * the VNIC shall DMA payload data using GRO rules.
+        * When this bit is '0', the VNIC shall DMA payload data
+        * using the more efficient LRO rules of filling all
+        * aggregation buffers.
+        */
+       #define HWRM_VNIC_TPA_CFG_INPUT_FLAGS_AGG_PACK_AS_GRO \
+               UINT32_C(0x100)
        uint32_t        enables;
        /*
         * This bit must be '1' for the max_agg_segs field to be
@@ -20545,16 +23114,15 @@ struct hwrm_vnic_tpa_cfg_input {
         * configured.
         */
        #define HWRM_VNIC_TPA_CFG_INPUT_ENABLES_MAX_AGG_TIMER     UINT32_C(0x4)
-       /*
-        * This bit must be '1' for the min_agg_len field to be
-        * configured.
-        */
+       /* deprecated bit.  Do not use!!! */
        #define HWRM_VNIC_TPA_CFG_INPUT_ENABLES_MIN_AGG_LEN       UINT32_C(0x8)
        /* Logical vnic ID */
        uint16_t        vnic_id;
        /*
         * This is the maximum number of TCP segments that can
-        * be aggregated (unit is Log2). Max value is 31.
+        * be aggregated (unit is Log2). Max value is 31. On new
+        * devices supporting TPA v2, the unit is multiples of 4 and
+        * valid values are > 0 and <= 63.
         */
        uint16_t        max_agg_segs;
        /* 1 segment */
@@ -20571,7 +23139,10 @@ struct hwrm_vnic_tpa_cfg_input {
                HWRM_VNIC_TPA_CFG_INPUT_MAX_AGG_SEGS_MAX
        /*
         * This is the maximum number of aggregations this VNIC is
-        * allowed (unit is Log2). Max value is 7
+        * allowed (unit is Log2). Max value is 7. On new devices
+        * supporting TPA v2, this is in unit of 1 and must be > 0
+        * and <= max_aggs_supported in the hwrm_vnic_qcaps response
+        * to enable TPA v2.
         */
        uint16_t        max_aggs;
        /* 1 aggregation */
@@ -20596,10 +23167,12 @@ struct hwrm_vnic_tpa_cfg_input {
        uint32_t        max_agg_timer;
        /*
         * This is the minimum amount of payload length required to
-        * start an aggregation context.
+        * start an aggregation context. This field is deprecated and
+        * should be set to 0.  The minimum length is set by firmware
+        * and can be queried using hwrm_vnic_tpa_qcfg.
         */
        uint32_t        min_agg_len;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_tpa_cfg_output (size:128b/16B) */
 struct hwrm_vnic_tpa_cfg_output {
@@ -20620,7 +23193,7 @@ struct hwrm_vnic_tpa_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_vnic_rss_cfg *
@@ -20645,7 +23218,8 @@ struct hwrm_vnic_rss_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20749,7 +23323,7 @@ struct hwrm_vnic_rss_cfg_input {
        /* Index to the rss indirection table. */
        uint16_t        rss_ctx_idx;
        uint8_t unused_1[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_rss_cfg_output (size:128b/16B) */
 struct hwrm_vnic_rss_cfg_output {
@@ -20770,7 +23344,28 @@ struct hwrm_vnic_rss_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
+
+/* hwrm_vnic_rss_cfg_cmd_err (size:64b/8B) */
+struct hwrm_vnic_rss_cfg_cmd_err {
+       /*
+        * command specific error codes that goes to
+        * the cmd_err field in Common HWRM Error Response.
+        */
+       uint8_t code;
+       /* Unknown error */
+       #define HWRM_VNIC_RSS_CFG_CMD_ERR_CODE_UNKNOWN \
+               UINT32_C(0x0)
+       /*
+        * Unable to change global RSS mode to outer due to all active
+        * interfaces are not ready to support outer RSS hashing.
+        */
+       #define HWRM_VNIC_RSS_CFG_CMD_ERR_CODE_INTERFACE_NOT_READY \
+               UINT32_C(0x1)
+       #define HWRM_VNIC_RSS_CFG_CMD_ERR_CODE_LAST \
+               HWRM_VNIC_RSS_CFG_CMD_ERR_CODE_INTERFACE_NOT_READY
+       uint8_t unused_0[7];
+} __rte_packed;
 
 /**********************
  * hwrm_vnic_rss_qcfg *
@@ -20795,7 +23390,8 @@ struct hwrm_vnic_rss_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -20809,7 +23405,7 @@ struct hwrm_vnic_rss_qcfg_input {
        /* Index to the rss indirection table. */
        uint16_t        rss_ctx_idx;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_rss_qcfg_output (size:512b/64B) */
 struct hwrm_vnic_rss_qcfg_output {
@@ -20912,7 +23508,7 @@ struct hwrm_vnic_rss_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_vnic_plcmodes_cfg *
@@ -20937,7 +23533,8 @@ struct hwrm_vnic_plcmodes_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21038,7 +23635,7 @@ struct hwrm_vnic_plcmodes_cfg_input {
        /*
         * This value is used to determine the offset into
         * packet buffer where the split data (payload) will be
-        * placed according to one of of HDS placement algorithm.
+        * placed according to one of HDS placement algorithm.
         *
         * The lengths of packet buffers provided for split data
         * shall be larger than this value.
@@ -21054,7 +23651,7 @@ struct hwrm_vnic_plcmodes_cfg_input {
         */
        uint16_t        hds_threshold;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_plcmodes_cfg_output (size:128b/16B) */
 struct hwrm_vnic_plcmodes_cfg_output {
@@ -21075,7 +23672,7 @@ struct hwrm_vnic_plcmodes_cfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_vnic_plcmodes_qcfg *
@@ -21100,7 +23697,8 @@ struct hwrm_vnic_plcmodes_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21114,7 +23712,7 @@ struct hwrm_vnic_plcmodes_qcfg_input {
        /* Logical vnic ID */
        uint32_t        vnic_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_plcmodes_qcfg_output (size:192b/24B) */
 struct hwrm_vnic_plcmodes_qcfg_output {
@@ -21179,7 +23777,7 @@ struct hwrm_vnic_plcmodes_qcfg_output {
        /*
         * This value is used to determine the offset into
         * packet buffer where the split data (payload) will be
-        * placed according to one of of HDS placement algorithm.
+        * placed according to one of HDS placement algorithm.
         *
         * The lengths of packet buffers provided for split data
         * shall be larger than this value.
@@ -21203,7 +23801,7 @@ struct hwrm_vnic_plcmodes_qcfg_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************************
  * hwrm_vnic_rss_cos_lb_ctx_alloc *
@@ -21228,7 +23826,8 @@ struct hwrm_vnic_rss_cos_lb_ctx_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21239,7 +23838,7 @@ struct hwrm_vnic_rss_cos_lb_ctx_alloc_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_rss_cos_lb_ctx_alloc_output (size:128b/16B) */
 struct hwrm_vnic_rss_cos_lb_ctx_alloc_output {
@@ -21262,7 +23861,7 @@ struct hwrm_vnic_rss_cos_lb_ctx_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************************
  * hwrm_vnic_rss_cos_lb_ctx_free *
@@ -21287,7 +23886,8 @@ struct hwrm_vnic_rss_cos_lb_ctx_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21301,7 +23901,7 @@ struct hwrm_vnic_rss_cos_lb_ctx_free_input {
        /* rss_cos_lb_ctx_id is 16 b */
        uint16_t        rss_cos_lb_ctx_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vnic_rss_cos_lb_ctx_free_output (size:128b/16B) */
 struct hwrm_vnic_rss_cos_lb_ctx_free_output {
@@ -21322,7 +23922,7 @@ struct hwrm_vnic_rss_cos_lb_ctx_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_ring_alloc *
@@ -21347,7 +23947,8 @@ struct hwrm_ring_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21634,7 +24235,7 @@ struct hwrm_ring_alloc_input {
         * record.
         */
        uint64_t        cq_handle;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_alloc_output (size:128b/16B) */
 struct hwrm_ring_alloc_output {
@@ -21662,7 +24263,7 @@ struct hwrm_ring_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_ring_free *
@@ -21687,7 +24288,8 @@ struct hwrm_ring_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21718,7 +24320,7 @@ struct hwrm_ring_free_input {
        /* Physical number of ring allocated. */
        uint16_t        ring_id;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_free_output (size:128b/16B) */
 struct hwrm_ring_free_output {
@@ -21739,7 +24341,7 @@ struct hwrm_ring_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_ring_reset *
@@ -21764,7 +24366,8 @@ struct hwrm_ring_reset_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21791,7 +24394,7 @@ struct hwrm_ring_reset_input {
        /* Physical number of the ring. */
        uint16_t        ring_id;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_reset_output (size:128b/16B) */
 struct hwrm_ring_reset_output {
@@ -21814,7 +24417,7 @@ struct hwrm_ring_reset_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_ring_aggint_qcaps *
@@ -21839,7 +24442,8 @@ struct hwrm_ring_aggint_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -21850,7 +24454,7 @@ struct hwrm_ring_aggint_qcaps_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_aggint_qcaps_output (size:384b/48B) */
 struct hwrm_ring_aggint_qcaps_output {
@@ -21963,7 +24567,7 @@ struct hwrm_ring_aggint_qcaps_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************************
  * hwrm_ring_cmpl_ring_qaggint_params *
@@ -21988,7 +24592,8 @@ struct hwrm_ring_cmpl_ring_qaggint_params_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22002,7 +24607,7 @@ struct hwrm_ring_cmpl_ring_qaggint_params_input {
        /* Physical number of completion ring. */
        uint16_t        ring_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_cmpl_ring_qaggint_params_output (size:256b/32B) */
 struct hwrm_ring_cmpl_ring_qaggint_params_output {
@@ -22069,7 +24674,7 @@ struct hwrm_ring_cmpl_ring_qaggint_params_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************************************
  * hwrm_ring_cmpl_ring_cfg_aggint_params *
@@ -22094,7 +24699,8 @@ struct hwrm_ring_cmpl_ring_cfg_aggint_params_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22204,7 +24810,7 @@ struct hwrm_ring_cmpl_ring_cfg_aggint_params_input {
        #define HWRM_RING_CMPL_RING_CFG_AGGINT_PARAMS_INPUT_ENABLES_NUM_CMPL_AGGR_INT \
                UINT32_C(0x20)
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_cmpl_ring_cfg_aggint_params_output (size:128b/16B) */
 struct hwrm_ring_cmpl_ring_cfg_aggint_params_output {
@@ -22225,7 +24831,7 @@ struct hwrm_ring_cmpl_ring_cfg_aggint_params_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_ring_grp_alloc *
@@ -22250,7 +24856,8 @@ struct hwrm_ring_grp_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22282,7 +24889,7 @@ struct hwrm_ring_grp_alloc_input {
         * with the ring group.
         */
        uint16_t        sc;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_grp_alloc_output (size:128b/16B) */
 struct hwrm_ring_grp_alloc_output {
@@ -22309,7 +24916,7 @@ struct hwrm_ring_grp_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_ring_grp_free *
@@ -22334,7 +24941,8 @@ struct hwrm_ring_grp_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22348,7 +24956,7 @@ struct hwrm_ring_grp_free_input {
        /* This is the ring group ID value. */
        uint32_t        ring_group_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_ring_grp_free_output (size:128b/16B) */
 struct hwrm_ring_grp_free_output {
@@ -22369,7 +24977,7 @@ struct hwrm_ring_grp_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 /*
  * special reserved flow ID to identify per function default
  * flows for vSwitch offload
@@ -22414,7 +25022,8 @@ struct hwrm_cfa_l2_filter_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22476,6 +25085,22 @@ struct hwrm_cfa_l2_filter_alloc_input {
                (UINT32_C(0x2) << 4)
        #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_FLAGS_TRAFFIC_LAST \
                HWRM_CFA_L2_FILTER_ALLOC_INPUT_FLAGS_TRAFFIC_ROCE
+       /*
+        * Setting of this flag indicates that no XDP filter is created with
+        * L2 filter.
+        * 0 - legacy behavior, XDP filter is created with L2 filter
+        * 1 - XDP filter won't be created with L2 filter
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_FLAGS_XDP_DISABLE \
+               UINT32_C(0x40)
+       /*
+        * Setting this flag to 1 indicate the L2 fields in this command
+        * pertain to source fields. Setting this flag to 0 indicate the
+        * L2 fields in this command pertain to the destination fields
+        * and this is the default/legacy behavior.
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_FLAGS_SOURCE_VALID \
+               UINT32_C(0x80)
        uint32_t        enables;
        /*
         * This bit must be '1' for the l2_addr field to be
@@ -22579,13 +25204,31 @@ struct hwrm_cfa_l2_filter_alloc_input {
         */
        #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_ENABLES_MIRROR_VNIC_ID \
                UINT32_C(0x10000)
+       /*
+        * This bit must be '1' for the num_vlans field to be
+        * configured.
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_ENABLES_NUM_VLANS \
+               UINT32_C(0x20000)
+       /*
+        * This bit must be '1' for the t_num_vlans field to be
+        * configured.
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_ENABLES_T_NUM_VLANS \
+               UINT32_C(0x40000)
        /*
         * This value sets the match value for the L2 MAC address.
         * Destination MAC address for RX path.
         * Source MAC address for TX path.
         */
        uint8_t l2_addr[6];
-       uint8_t unused_0[2];
+       /* This value sets the match value for the number of VLANs. */
+       uint8_t num_vlans;
+       /*
+        * This value sets the match value for the number of VLANs
+        * in the tunnel headers.
+        */
+       uint8_t t_num_vlans;
        /*
         * This value sets the mask value for the L2 address.
         * A value of 0 will mask the corresponding bit from
@@ -22694,7 +25337,7 @@ struct hwrm_cfa_l2_filter_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_L2_FILTER_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -22766,7 +25409,7 @@ struct hwrm_cfa_l2_filter_alloc_input {
         * 2 - Below the given filter
         */
        uint64_t        l2_filter_id_hint;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_l2_filter_alloc_output (size:192b/24B) */
 struct hwrm_cfa_l2_filter_alloc_output {
@@ -22784,23 +25427,55 @@ struct hwrm_cfa_l2_filter_alloc_output {
         */
        uint64_t        l2_filter_id;
        /*
-        * This is the ID of the flow associated with this
-        * filter.
-        * This value shall be used to match and associate the
-        * flow identifier returned in completion records.
-        * A value of 0xFFFFFFFF shall indicate no flow id.
+        * The flow id value in bit 0-29 is the actual ID of the flow
+        * associated with this filter and it shall be used to match
+        * and associate the flow identifier returned in completion
+        * records. A value of 0xFFFFFFFF in the 32-bit flow_id field
+        * shall indicate no valid flow id.
         */
        uint32_t        flow_id;
+       /* Indicate the flow id value. */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_SFT 0
+       /* Indicate type of the flow. */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE \
+               UINT32_C(0x40000000)
+       /*
+        * If this bit set to 0, then it indicates that the flow is
+        * internal flow.
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_INT \
+               (UINT32_C(0x0) << 30)
+       /*
+        * If this bit is set to 1, then it indicates that the flow is
+        * external flow.
+        */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_LAST \
+               HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT
+       /* Indicate the flow direction. */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR \
+               UINT32_C(0x80000000)
+       /* If this bit set to 0, then it indicates rx flow. */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_RX \
+               (UINT32_C(0x0) << 31)
+       /* If this bit is set to 1, then it indicates that tx flow. */
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_LAST \
+               HWRM_CFA_L2_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_cfa_l2_filter_free *
@@ -22825,7 +25500,8 @@ struct hwrm_cfa_l2_filter_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22841,7 +25517,7 @@ struct hwrm_cfa_l2_filter_free_input {
         * context.
         */
        uint64_t        l2_filter_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_l2_filter_free_output (size:128b/16B) */
 struct hwrm_cfa_l2_filter_free_output {
@@ -22856,13 +25532,13 @@ struct hwrm_cfa_l2_filter_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_cfa_l2_filter_cfg *
@@ -22887,7 +25563,8 @@ struct hwrm_cfa_l2_filter_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -22968,7 +25645,7 @@ struct hwrm_cfa_l2_filter_cfg_input {
         * mirrored.
         */
        uint32_t        new_mirror_vnic_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_l2_filter_cfg_output (size:128b/16B) */
 struct hwrm_cfa_l2_filter_cfg_output {
@@ -22983,13 +25660,13 @@ struct hwrm_cfa_l2_filter_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_cfa_l2_set_rx_mask *
@@ -23014,7 +25691,8 @@ struct hwrm_cfa_l2_set_rx_mask_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23149,7 +25827,7 @@ struct hwrm_cfa_l2_set_rx_mask_input {
         */
        uint32_t        num_vlan_tags;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_l2_set_rx_mask_output (size:128b/16B) */
 struct hwrm_cfa_l2_set_rx_mask_output {
@@ -23164,13 +25842,13 @@ struct hwrm_cfa_l2_set_rx_mask_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_l2_set_rx_mask_cmd_err (size:64b/8B) */
 struct hwrm_cfa_l2_set_rx_mask_cmd_err {
@@ -23188,7 +25866,7 @@ struct hwrm_cfa_l2_set_rx_mask_cmd_err {
        #define HWRM_CFA_L2_SET_RX_MASK_CMD_ERR_CODE_LAST \
                HWRM_CFA_L2_SET_RX_MASK_CMD_ERR_CODE_NTUPLE_FILTER_CONFLICT_ERR
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_vlan_antispoof_cfg *
@@ -23213,7 +25891,8 @@ struct hwrm_cfa_vlan_antispoof_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23241,7 +25920,7 @@ struct hwrm_cfa_vlan_antispoof_cfg_input {
         * for the 12-bit VLAN ID.
         */
        uint64_t        vlan_tag_mask_tbl_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_vlan_antispoof_cfg_output (size:128b/16B) */
 struct hwrm_cfa_vlan_antispoof_cfg_output {
@@ -23256,13 +25935,13 @@ struct hwrm_cfa_vlan_antispoof_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_vlan_antispoof_qcfg *
@@ -23287,7 +25966,8 @@ struct hwrm_cfa_vlan_antispoof_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23318,7 +25998,7 @@ struct hwrm_cfa_vlan_antispoof_qcfg_input {
         * the mask value should be 0xfff for the 12-bit VLAN ID.
         */
        uint64_t        vlan_tag_mask_tbl_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_vlan_antispoof_qcfg_output (size:128b/16B) */
 struct hwrm_cfa_vlan_antispoof_qcfg_output {
@@ -23335,13 +26015,13 @@ struct hwrm_cfa_vlan_antispoof_qcfg_output {
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_tunnel_filter_alloc *
@@ -23366,7 +26046,8 @@ struct hwrm_cfa_tunnel_filter_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23509,7 +26190,7 @@ struct hwrm_cfa_tunnel_filter_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_TUNNEL_FILTER_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_TUNNEL_FILTER_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -23587,7 +26268,7 @@ struct hwrm_cfa_tunnel_filter_alloc_input {
         * mirrored.
         */
        uint32_t        mirror_vnic_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_tunnel_filter_alloc_output (size:192b/24B) */
 struct hwrm_cfa_tunnel_filter_alloc_output {
@@ -23602,23 +26283,55 @@ struct hwrm_cfa_tunnel_filter_alloc_output {
        /* This value is an opaque id into CFA data structures. */
        uint64_t        tunnel_filter_id;
        /*
-        * This is the ID of the flow associated with this
-        * filter.
-        * This value shall be used to match and associate the
-        * flow identifier returned in completion records.
-        * A value of 0xFFFFFFFF shall indicate no flow id.
+        * The flow id value in bit 0-29 is the actual ID of the flow
+        * associated with this filter and it shall be used to match
+        * and associate the flow identifier returned in completion
+        * records. A value of 0xFFFFFFFF in the 32-bit flow_id field
+        * shall indicate no valid flow id.
         */
        uint32_t        flow_id;
+       /* Indicate the flow id value. */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_SFT 0
+       /* Indicate type of the flow. */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE \
+               UINT32_C(0x40000000)
+       /*
+        * If this bit set to 0, then it indicates that the flow is
+        * internal flow.
+        */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_INT \
+               (UINT32_C(0x0) << 30)
+       /*
+        * If this bit is set to 1, then it indicates that the flow is
+        * external flow.
+        */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_LAST \
+               HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT
+       /* Indicate the flow direction. */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR \
+               UINT32_C(0x80000000)
+       /* If this bit set to 0, then it indicates rx flow. */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_RX \
+               (UINT32_C(0x0) << 31)
+       /* If this bit is set to 1, then it indicates that tx flow. */
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_LAST \
+               HWRM_CFA_TUNNEL_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_tunnel_filter_free *
@@ -23643,7 +26356,8 @@ struct hwrm_cfa_tunnel_filter_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23656,7 +26370,7 @@ struct hwrm_cfa_tunnel_filter_free_input {
        uint64_t        resp_addr;
        /* This value is an opaque id into CFA data structures. */
        uint64_t        tunnel_filter_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_tunnel_filter_free_output (size:128b/16B) */
 struct hwrm_cfa_tunnel_filter_free_output {
@@ -23671,13 +26385,13 @@ struct hwrm_cfa_tunnel_filter_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************************
  * hwrm_cfa_redirect_tunnel_type_alloc *
@@ -23702,7 +26416,8 @@ struct hwrm_cfa_redirect_tunnel_type_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23735,7 +26450,7 @@ struct hwrm_cfa_redirect_tunnel_type_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -23767,7 +26482,7 @@ struct hwrm_cfa_redirect_tunnel_type_alloc_input {
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_ALLOC_INPUT_FLAGS_MODIFY_DST \
                UINT32_C(0x1)
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_redirect_tunnel_type_alloc_output (size:128b/16B) */
 struct hwrm_cfa_redirect_tunnel_type_alloc_output {
@@ -23782,13 +26497,13 @@ struct hwrm_cfa_redirect_tunnel_type_alloc_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************************
  * hwrm_cfa_redirect_tunnel_type_free *
@@ -23813,7 +26528,8 @@ struct hwrm_cfa_redirect_tunnel_type_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23846,7 +26562,7 @@ struct hwrm_cfa_redirect_tunnel_type_free_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_FREE_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_FREE_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -23873,7 +26589,7 @@ struct hwrm_cfa_redirect_tunnel_type_free_input {
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_FREE_INPUT_TUNNEL_TYPE_LAST \
                HWRM_CFA_REDIRECT_TUNNEL_TYPE_FREE_INPUT_TUNNEL_TYPE_ANYTUNNEL
        uint8_t unused_0[5];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_redirect_tunnel_type_free_output (size:128b/16B) */
 struct hwrm_cfa_redirect_tunnel_type_free_output {
@@ -23888,13 +26604,13 @@ struct hwrm_cfa_redirect_tunnel_type_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************************
  * hwrm_cfa_redirect_tunnel_type_info *
@@ -23919,7 +26635,8 @@ struct hwrm_cfa_redirect_tunnel_type_info_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -23952,7 +26669,7 @@ struct hwrm_cfa_redirect_tunnel_type_info_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_INFO_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_INFO_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -23979,7 +26696,7 @@ struct hwrm_cfa_redirect_tunnel_type_info_input {
        #define HWRM_CFA_REDIRECT_TUNNEL_TYPE_INFO_INPUT_TUNNEL_TYPE_LAST \
                HWRM_CFA_REDIRECT_TUNNEL_TYPE_INFO_INPUT_TUNNEL_TYPE_ANYTUNNEL
        uint8_t unused_0[5];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_redirect_tunnel_type_info_output (size:128b/16B) */
 struct hwrm_cfa_redirect_tunnel_type_info_output {
@@ -23996,13 +26713,13 @@ struct hwrm_cfa_redirect_tunnel_type_info_output {
        uint8_t unused_0[5];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vxlan_ipv4_hdr (size:128b/16B) */
 struct hwrm_vxlan_ipv4_hdr {
@@ -24028,7 +26745,7 @@ struct hwrm_vxlan_ipv4_hdr {
        uint32_t        src_ip_addr;
        /* IPv4 destination address. */
        uint32_t        dest_ip_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_vxlan_ipv6_hdr (size:320b/40B) */
 struct hwrm_vxlan_ipv6_hdr {
@@ -24064,7 +26781,7 @@ struct hwrm_vxlan_ipv6_hdr {
        uint32_t        src_ip_addr[4];
        /* IPv6 destination address. */
        uint32_t        dest_ip_addr[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_encap_data_vxlan (size:640b/80B) */
 struct hwrm_cfa_encap_data_vxlan {
@@ -24109,7 +26826,7 @@ struct hwrm_cfa_encap_data_vxlan {
        /* VXLAN header flags field. */
        uint8_t hdr_flags;
        uint8_t unused[3];
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_encap_record_alloc *
@@ -24134,7 +26851,8 @@ struct hwrm_cfa_encap_record_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -24173,7 +26891,7 @@ struct hwrm_cfa_encap_record_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_ENCAP_RECORD_ALLOC_INPUT_ENCAP_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_ENCAP_RECORD_ALLOC_INPUT_ENCAP_TYPE_MPLS \
                UINT32_C(0x6)
        /* VLAN */
@@ -24199,7 +26917,7 @@ struct hwrm_cfa_encap_record_alloc_input {
        uint8_t unused_0[3];
        /* This value is encap data used for the given encap type. */
        uint32_t        encap_data[20];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_encap_record_alloc_output (size:128b/16B) */
 struct hwrm_cfa_encap_record_alloc_output {
@@ -24216,13 +26934,13 @@ struct hwrm_cfa_encap_record_alloc_output {
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_cfa_encap_record_free *
@@ -24247,7 +26965,8 @@ struct hwrm_cfa_encap_record_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -24261,7 +26980,7 @@ struct hwrm_cfa_encap_record_free_input {
        /* This value is an opaque id into CFA data structures. */
        uint32_t        encap_record_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_encap_record_free_output (size:128b/16B) */
 struct hwrm_cfa_encap_record_free_output {
@@ -24276,13 +26995,13 @@ struct hwrm_cfa_encap_record_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_ntuple_filter_alloc *
@@ -24307,7 +27026,8 @@ struct hwrm_cfa_ntuple_filter_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -24336,11 +27056,25 @@ struct hwrm_cfa_ntuple_filter_alloc_input {
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_FLAGS_METER \
                UINT32_C(0x4)
        /*
-        * Setting of this flag indicates that the dest_id field contains function ID.
+        * Setting of this flag indicates that the dst_id field contains function ID.
         * If this is not set it indicates dest_id is VNIC or VPORT.
         */
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_FLAGS_DEST_FID \
                UINT32_C(0x8)
+       /*
+        * Setting of this flag indicates match on arp reply when ethertype is 0x0806.
+        * If this is not set it indicates no specific arp opcode matching.
+        */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_FLAGS_ARP_REPLY \
+               UINT32_C(0x10)
+       /*
+        * Setting of this flag indicates that the dst_id field contains RFS ring
+        * table index. If this is not set it indicates dst_id is VNIC or VPORT
+        * or function ID.  Note dest_fid and dest_rfs_ring_idx can’t be set at
+        * the same time.
+        */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_FLAGS_DEST_RFS_RING_IDX \
+               UINT32_C(0x20)
        uint32_t        enables;
        /*
         * This bit must be '1' for the l2_filter_id field to be
@@ -24456,6 +27190,9 @@ struct hwrm_cfa_ntuple_filter_alloc_input {
         */
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_ENABLES_DST_MACADDR \
                UINT32_C(0x40000)
+       /* This flag is deprecated. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_ENABLES_RFS_RING_TBL_IDX \
+               UINT32_C(0x80000)
        /*
         * This value identifies a set of CFA data structures used for an L2
         * context.
@@ -24543,7 +27280,7 @@ struct hwrm_cfa_ntuple_filter_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -24639,7 +27376,7 @@ struct hwrm_cfa_ntuple_filter_alloc_input {
         * the pri_hint.
         */
        uint64_t        ntuple_filter_id_hint;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ntuple_filter_alloc_output (size:192b/24B) */
 struct hwrm_cfa_ntuple_filter_alloc_output {
@@ -24654,23 +27391,55 @@ struct hwrm_cfa_ntuple_filter_alloc_output {
        /* This value is an opaque id into CFA data structures. */
        uint64_t        ntuple_filter_id;
        /*
-        * This is the ID of the flow associated with this
-        * filter.
-        * This value shall be used to match and associate the
-        * flow identifier returned in completion records.
-        * A value of 0xFFFFFFFF shall indicate no flow id.
+        * The flow id value in bit 0-29 is the actual ID of the flow
+        * associated with this filter and it shall be used to match
+        * and associate the flow identifier returned in completion
+        * records. A value of 0xFFFFFFFF in the 32-bit flow_id field
+        * shall indicate no valid flow id.
         */
        uint32_t        flow_id;
+       /* Indicate the flow id value. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_VALUE_SFT 0
+       /* Indicate type of the flow. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE \
+               UINT32_C(0x40000000)
+       /*
+        * If this bit set to 0, then it indicates that the flow is
+        * internal flow.
+        */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_INT \
+               (UINT32_C(0x0) << 30)
+       /*
+        * If this bit is set to 1, then it indicates that the flow is
+        * external flow.
+        */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_LAST \
+               HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT
+       /* Indicate the flow direction. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR \
+               UINT32_C(0x80000000)
+       /* If this bit set to 0, then it indicates rx flow. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_RX \
+               (UINT32_C(0x0) << 31)
+       /* If this bit is set to 1, then it indicates that tx flow. */
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_LAST \
+               HWRM_CFA_NTUPLE_FILTER_ALLOC_OUTPUT_FLOW_ID_DIR_TX
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ntuple_filter_alloc_cmd_err (size:64b/8B) */
 struct hwrm_cfa_ntuple_filter_alloc_cmd_err {
@@ -24688,7 +27457,7 @@ struct hwrm_cfa_ntuple_filter_alloc_cmd_err {
        #define HWRM_CFA_NTUPLE_FILTER_ALLOC_CMD_ERR_CODE_LAST \
                HWRM_CFA_NTUPLE_FILTER_ALLOC_CMD_ERR_CODE_RX_MASK_VLAN_CONFLICT_ERR
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_ntuple_filter_free *
@@ -24713,7 +27482,8 @@ struct hwrm_cfa_ntuple_filter_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -24726,7 +27496,7 @@ struct hwrm_cfa_ntuple_filter_free_input {
        uint64_t        resp_addr;
        /* This value is an opaque id into CFA data structures. */
        uint64_t        ntuple_filter_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ntuple_filter_free_output (size:128b/16B) */
 struct hwrm_cfa_ntuple_filter_free_output {
@@ -24741,13 +27511,13 @@ struct hwrm_cfa_ntuple_filter_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_cfa_ntuple_filter_cfg *
@@ -24772,7 +27542,8 @@ struct hwrm_cfa_ntuple_filter_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -24809,6 +27580,14 @@ struct hwrm_cfa_ntuple_filter_cfg_input {
         */
        #define HWRM_CFA_NTUPLE_FILTER_CFG_INPUT_FLAGS_DEST_FID \
                UINT32_C(0x1)
+       /*
+        * Setting of this flag indicates that the new_dst_id field contains
+        * RFS ring table index. If this is not set it indicates new_dst_id is
+        * VNIC or VPORT or function ID.  Note dest_fid and dest_rfs_ring_idx
+        * can’t be set at the same time.
+        */
+       #define HWRM_CFA_NTUPLE_FILTER_CFG_INPUT_FLAGS_DEST_RFS_RING_IDX \
+               UINT32_C(0x2)
        /* This value is an opaque id into CFA data structures. */
        uint64_t        ntuple_filter_id;
        /*
@@ -24838,7 +27617,7 @@ struct hwrm_cfa_ntuple_filter_cfg_input {
        #define HWRM_CFA_NTUPLE_FILTER_CFG_INPUT_NEW_METER_INSTANCE_ID_LAST \
                HWRM_CFA_NTUPLE_FILTER_CFG_INPUT_NEW_METER_INSTANCE_ID_INVALID
        uint8_t unused_1[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ntuple_filter_cfg_output (size:128b/16B) */
 struct hwrm_cfa_ntuple_filter_cfg_output {
@@ -24853,13 +27632,13 @@ struct hwrm_cfa_ntuple_filter_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_cfa_em_flow_alloc *
@@ -24884,7 +27663,8 @@ struct hwrm_cfa_em_flow_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -25067,7 +27847,7 @@ struct hwrm_cfa_em_flow_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_EM_FLOW_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_EM_FLOW_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -25201,7 +27981,7 @@ struct hwrm_cfa_em_flow_alloc_input {
        /* Logical ID of the encapsulation record. */
        uint32_t        encap_record_id;
        uint8_t unused_2[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_em_flow_alloc_output (size:192b/24B) */
 struct hwrm_cfa_em_flow_alloc_output {
@@ -25216,23 +27996,55 @@ struct hwrm_cfa_em_flow_alloc_output {
        /* This value is an opaque id into CFA data structures. */
        uint64_t        em_filter_id;
        /*
-        * This is the ID of the flow associated with this
-        * filter.
-        * This value shall be used to match and associate the
-        * flow identifier returned in completion records.
-        * A value of 0xFFFFFFFF shall indicate no flow id.
+        * The flow id value in bit 0-29 is the actual ID of the flow
+        * associated with this filter and it shall be used to match
+        * and associate the flow identifier returned in completion
+        * records. A value of 0xFFFFFFFF in the 32-bit flow_id field
+        * shall indicate no valid flow id.
         */
        uint32_t        flow_id;
+       /* Indicate the flow id value. */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_VALUE_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_VALUE_SFT 0
+       /* Indicate type of the flow. */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE \
+               UINT32_C(0x40000000)
+       /*
+        * If this bit set to 0, then it indicates that the flow is
+        * internal flow.
+        */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_INT \
+               (UINT32_C(0x0) << 30)
+       /*
+        * If this bit is set to 1, then it indicates that the flow is
+        * external flow.
+        */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_LAST \
+               HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT
+       /* Indicate the flow direction. */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR \
+               UINT32_C(0x80000000)
+       /* If this bit set to 0, then it indicates rx flow. */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_RX \
+               (UINT32_C(0x0) << 31)
+       /* If this bit is set to 1, then it indicates that tx flow. */
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_LAST \
+               HWRM_CFA_EM_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_TX
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_cfa_em_flow_free *
@@ -25257,7 +28069,8 @@ struct hwrm_cfa_em_flow_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -25270,7 +28083,7 @@ struct hwrm_cfa_em_flow_free_input {
        uint64_t        resp_addr;
        /* This value is an opaque id into CFA data structures. */
        uint64_t        em_filter_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_em_flow_free_output (size:128b/16B) */
 struct hwrm_cfa_em_flow_free_output {
@@ -25285,13 +28098,13 @@ struct hwrm_cfa_em_flow_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /************************
  * hwrm_cfa_meter_qcaps *
@@ -25316,7 +28129,8 @@ struct hwrm_cfa_meter_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -25327,7 +28141,7 @@ struct hwrm_cfa_meter_qcaps_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_qcaps_output (size:320b/40B) */
 struct hwrm_cfa_meter_qcaps_output {
@@ -25397,13 +28211,13 @@ struct hwrm_cfa_meter_qcaps_output {
        uint8_t unused_1[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_meter_profile_alloc *
@@ -25428,7 +28242,8 @@ struct hwrm_cfa_meter_profile_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -25649,7 +28464,7 @@ struct hwrm_cfa_meter_profile_alloc_input {
                (UINT32_C(0x7) << 29)
        #define HWRM_CFA_METER_PROFILE_ALLOC_INPUT_EXCESS_PEAK_BURST_BW_VALUE_UNIT_LAST \
                HWRM_CFA_METER_PROFILE_ALLOC_INPUT_EXCESS_PEAK_BURST_BW_VALUE_UNIT_INVALID
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_profile_alloc_output (size:128b/16B) */
 struct hwrm_cfa_meter_profile_alloc_output {
@@ -25674,13 +28489,13 @@ struct hwrm_cfa_meter_profile_alloc_output {
        uint8_t unused_0[5];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_meter_profile_free *
@@ -25705,7 +28520,8 @@ struct hwrm_cfa_meter_profile_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -25743,7 +28559,7 @@ struct hwrm_cfa_meter_profile_free_input {
        #define HWRM_CFA_METER_PROFILE_FREE_INPUT_METER_PROFILE_ID_LAST \
                HWRM_CFA_METER_PROFILE_FREE_INPUT_METER_PROFILE_ID_INVALID
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_profile_free_output (size:128b/16B) */
 struct hwrm_cfa_meter_profile_free_output {
@@ -25758,13 +28574,13 @@ struct hwrm_cfa_meter_profile_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_cfa_meter_profile_cfg *
@@ -25789,7 +28605,8 @@ struct hwrm_cfa_meter_profile_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26013,7 +28830,7 @@ struct hwrm_cfa_meter_profile_cfg_input {
                (UINT32_C(0x7) << 29)
        #define HWRM_CFA_METER_PROFILE_CFG_INPUT_EXCESS_PEAK_BURST_BW_VALUE_UNIT_LAST \
                HWRM_CFA_METER_PROFILE_CFG_INPUT_EXCESS_PEAK_BURST_BW_VALUE_UNIT_INVALID
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_profile_cfg_output (size:128b/16B) */
 struct hwrm_cfa_meter_profile_cfg_output {
@@ -26028,13 +28845,13 @@ struct hwrm_cfa_meter_profile_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************************
  * hwrm_cfa_meter_instance_alloc *
@@ -26059,7 +28876,8 @@ struct hwrm_cfa_meter_instance_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26098,7 +28916,7 @@ struct hwrm_cfa_meter_instance_alloc_input {
        #define HWRM_CFA_METER_INSTANCE_ALLOC_INPUT_METER_PROFILE_ID_LAST \
                HWRM_CFA_METER_INSTANCE_ALLOC_INPUT_METER_PROFILE_ID_INVALID
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_instance_alloc_output (size:128b/16B) */
 struct hwrm_cfa_meter_instance_alloc_output {
@@ -26123,13 +28941,13 @@ struct hwrm_cfa_meter_instance_alloc_output {
        uint8_t unused_0[5];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_meter_instance_cfg *
@@ -26154,7 +28972,8 @@ struct hwrm_cfa_meter_instance_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26200,7 +29019,7 @@ struct hwrm_cfa_meter_instance_cfg_input {
         */
        uint16_t        meter_instance_id;
        uint8_t unused_1[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_instance_cfg_output (size:128b/16B) */
 struct hwrm_cfa_meter_instance_cfg_output {
@@ -26215,13 +29034,13 @@ struct hwrm_cfa_meter_instance_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_meter_instance_free *
@@ -26246,7 +29065,8 @@ struct hwrm_cfa_meter_instance_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26284,7 +29104,7 @@ struct hwrm_cfa_meter_instance_free_input {
        #define HWRM_CFA_METER_INSTANCE_FREE_INPUT_METER_INSTANCE_ID_LAST \
                HWRM_CFA_METER_INSTANCE_FREE_INPUT_METER_INSTANCE_ID_INVALID
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_meter_instance_free_output (size:128b/16B) */
 struct hwrm_cfa_meter_instance_free_output {
@@ -26299,13 +29119,13 @@ struct hwrm_cfa_meter_instance_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************************
  * hwrm_cfa_decap_filter_alloc *
@@ -26330,7 +29150,8 @@ struct hwrm_cfa_decap_filter_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26476,7 +29297,7 @@ struct hwrm_cfa_decap_filter_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_DECAP_FILTER_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_DECAP_FILTER_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -26606,7 +29427,7 @@ struct hwrm_cfa_decap_filter_alloc_input {
         * information of the decap filter.
         */
        uint16_t        l2_ctxt_ref_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_decap_filter_alloc_output (size:128b/16B) */
 struct hwrm_cfa_decap_filter_alloc_output {
@@ -26623,13 +29444,13 @@ struct hwrm_cfa_decap_filter_alloc_output {
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_cfa_decap_filter_free *
@@ -26654,7 +29475,8 @@ struct hwrm_cfa_decap_filter_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26668,7 +29490,7 @@ struct hwrm_cfa_decap_filter_free_input {
        /* This value is an opaque id into CFA data structures. */
        uint32_t        decap_filter_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_decap_filter_free_output (size:128b/16B) */
 struct hwrm_cfa_decap_filter_free_output {
@@ -26683,13 +29505,13 @@ struct hwrm_cfa_decap_filter_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_cfa_flow_alloc *
@@ -26714,7 +29536,8 @@ struct hwrm_cfa_flow_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -26842,11 +29665,20 @@ struct hwrm_cfa_flow_alloc_input {
                UINT32_C(0x800)
        /*
         * If set to 1 an attempt will be made to try to offload this flow to the
-        * most optimal flow table resource.  If set to 0, the flow will be
+        * most optimal flow table resource. If set to 0, the flow will be
         * placed to the default flow table resource.
         */
        #define HWRM_CFA_FLOW_ALLOC_INPUT_ACTION_FLAGS_PRI_HINT \
                UINT32_C(0x1000)
+       /*
+        * If set to 1 there will be no attempt to allocate an on-chip try to
+        * offload this flow. If set to 0, which will keep compatibility with the
+        * older drivers, will cause the FW to attempt to allocate an on-chip flow
+        * counter for the newly created flow. This will keep the existing behavior
+        * with EM flows which always had an associated flow counter.
+        */
+       #define HWRM_CFA_FLOW_ALLOC_INPUT_ACTION_FLAGS_NO_FLOW_COUNTER_ALLOC \
+               UINT32_C(0x2000)
        /*
         * Tx Flow: pf or vf fid.
         * Rx Flow: vf fid.
@@ -26935,7 +29767,7 @@ struct hwrm_cfa_flow_alloc_input {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_FLOW_ALLOC_INPUT_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_FLOW_ALLOC_INPUT_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -26961,7 +29793,7 @@ struct hwrm_cfa_flow_alloc_input {
                UINT32_C(0xff)
        #define HWRM_CFA_FLOW_ALLOC_INPUT_TUNNEL_TYPE_LAST \
                HWRM_CFA_FLOW_ALLOC_INPUT_TUNNEL_TYPE_ANYTUNNEL
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_alloc_output (size:256b/32B) */
 struct hwrm_cfa_flow_alloc_output {
@@ -26977,26 +29809,86 @@ struct hwrm_cfa_flow_alloc_output {
        uint16_t        flow_handle;
        uint8_t unused_0[2];
        /*
-        * This is the ID of the flow associated with this
-        * filter.
-        * This value shall be used to match and associate the
-        * flow identifier returned in completion records.
-        * A value of 0xFFFFFFFF shall indicate no flow id.
+        * The flow id value in bit 0-29 is the actual ID of the flow
+        * associated with this filter and it shall be used to match
+        * and associate the flow identifier returned in completion
+        * records. A value of 0xFFFFFFFF in the 32-bit flow_id field
+        * shall indicate no valid flow id.
         */
        uint32_t        flow_id;
+       /* Indicate the flow id value. */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_VALUE_MASK \
+               UINT32_C(0x3fffffff)
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_VALUE_SFT 0
+       /* Indicate type of the flow. */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE \
+               UINT32_C(0x40000000)
+       /*
+        * If this bit set to 0, then it indicates that the flow is
+        * internal flow.
+        */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_INT \
+               (UINT32_C(0x0) << 30)
+       /*
+        * If this bit is set to 1, then it indicates that the flow is
+        * external flow.
+        */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT \
+               (UINT32_C(0x1) << 30)
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_LAST \
+               HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_TYPE_EXT
+       /* Indicate the flow direction. */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR \
+               UINT32_C(0x80000000)
+       /* If this bit set to 0, then it indicates rx flow. */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_RX \
+               (UINT32_C(0x0) << 31)
+       /* If this bit is set to 1, then it indicates that tx flow. */
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_TX \
+               (UINT32_C(0x1) << 31)
+       #define HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_LAST \
+               HWRM_CFA_FLOW_ALLOC_OUTPUT_FLOW_ID_DIR_TX
        /* This value identifies a set of CFA data structures used for a flow. */
        uint64_t        ext_flow_handle;
        uint32_t        flow_counter_id;
        uint8_t unused_1[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
+
+/* hwrm_cfa_flow_alloc_cmd_err (size:64b/8B) */
+struct hwrm_cfa_flow_alloc_cmd_err {
+       /*
+        * command specific error codes that goes to
+        * the cmd_err field in Common HWRM Error Response.
+        */
+       uint8_t code;
+       /* Unknown error */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_UNKNOWN         UINT32_C(0x0)
+       /* No more L2 Context TCAM */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_L2_CONTEXT_TCAM UINT32_C(0x1)
+       /* No more action records */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_ACTION_RECORD   UINT32_C(0x2)
+       /* No more flow counters */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_FLOW_COUNTER    UINT32_C(0x3)
+       /* No more wild-card TCAM */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_WILD_CARD_TCAM  UINT32_C(0x4)
+       /* Hash collsion in exact match tables */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_HASH_COLLISION  UINT32_C(0x5)
+       /* Key is already installed */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_KEY_EXISTS      UINT32_C(0x6)
+       /* Flow Context DB is out of resource */
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_FLOW_CTXT_DB    UINT32_C(0x7)
+       #define HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_LAST \
+               HWRM_CFA_FLOW_ALLOC_CMD_ERR_CODE_FLOW_CTXT_DB
+       uint8_t unused_0[7];
+} __rte_packed;
 
 /**********************
  * hwrm_cfa_flow_free *
@@ -27021,7 +29913,8 @@ struct hwrm_cfa_flow_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27034,10 +29927,12 @@ struct hwrm_cfa_flow_free_input {
        uint64_t        resp_addr;
        /* Flow record index. */
        uint16_t        flow_handle;
-       uint8_t unused_0[6];
+       uint16_t        unused_0;
+       /* Flow counter id to be freed. */
+       uint32_t        flow_counter_id;
        /* This value identifies a set of CFA data structures used for a flow. */
        uint64_t        ext_flow_handle;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_free_output (size:256b/32B) */
 struct hwrm_cfa_flow_free_output {
@@ -27056,13 +29951,13 @@ struct hwrm_cfa_flow_free_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_action_data (size:960b/120B) */
 struct hwrm_cfa_flow_action_data {
@@ -27095,10 +29990,10 @@ struct hwrm_cfa_flow_action_data {
        /* If set to 1, flow aging is enabled for this flow. */
        #define HWRM_CFA_FLOW_ACTION_DATA_ACTION_FLAGS_FLOW_AGING_ENABLED \
                UINT32_C(0x80)
-       /* Setting of this flag indicates encap action.. */
+       /* Setting of this flag indicates encap action. */
        #define HWRM_CFA_FLOW_ACTION_DATA_ACTION_FLAGS_ENCAP \
                UINT32_C(0x100)
-       /* Setting of this flag indicates decap action.. */
+       /* Setting of this flag indicates decap action. */
        #define HWRM_CFA_FLOW_ACTION_DATA_ACTION_FLAGS_DECAP \
                UINT32_C(0x200)
        /* Meter id. */
@@ -27124,7 +30019,7 @@ struct hwrm_cfa_flow_action_data {
        #define HWRM_CFA_FLOW_ACTION_DATA_ENCAP_TYPE_IPIP         UINT32_C(0x4)
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_FLOW_ACTION_DATA_ENCAP_TYPE_GENEVE       UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_FLOW_ACTION_DATA_ENCAP_TYPE_MPLS         UINT32_C(0x6)
        /* VLAN */
        #define HWRM_CFA_FLOW_ACTION_DATA_ENCAP_TYPE_VLAN         UINT32_C(0x7)
@@ -27143,7 +30038,7 @@ struct hwrm_cfa_flow_action_data {
        uint8_t unused[7];
        /* This value is encap data for the associated encap type. */
        uint32_t        encap_data[20];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_tunnel_hdr_data (size:64b/8B) */
 struct hwrm_cfa_flow_tunnel_hdr_data {
@@ -27167,7 +30062,7 @@ struct hwrm_cfa_flow_tunnel_hdr_data {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_FLOW_TUNNEL_HDR_DATA_TUNNEL_TYPE_GENEVE \
                UINT32_C(0x5)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_FLOW_TUNNEL_HDR_DATA_TUNNEL_TYPE_MPLS \
                UINT32_C(0x6)
        /* Stateless Transport Tunnel (STT) */
@@ -27199,7 +30094,7 @@ struct hwrm_cfa_flow_tunnel_hdr_data {
         * Virtual Network Identifier (VNI).
         */
        uint32_t        tunnel_id;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_l4_key_data (size:64b/8B) */
 struct hwrm_cfa_flow_l4_key_data {
@@ -27208,7 +30103,7 @@ struct hwrm_cfa_flow_l4_key_data {
        /* The value of destination port. */
        uint16_t        l4_dst_port;
        uint32_t        unused;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_l3_key_data (size:512b/64B) */
 struct hwrm_cfa_flow_l3_key_data {
@@ -27222,7 +30117,7 @@ struct hwrm_cfa_flow_l3_key_data {
        /* NAT IPv4/IPv6 address. */
        uint32_t        nat_ip_address[4];
        uint32_t        unused[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_l2_key_data (size:448b/56B) */
 struct hwrm_cfa_flow_l2_key_data {
@@ -27255,7 +30150,7 @@ struct hwrm_cfa_flow_l2_key_data {
        /* Inner VLAN TCI. */
        uint16_t        ivlan_tci;
        uint8_t unused[8];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_key_data (size:4160b/520B) */
 struct hwrm_cfa_flow_key_data {
@@ -27285,7 +30180,7 @@ struct hwrm_cfa_flow_key_data {
        uint32_t        l4_key_data[2];
        /* Flow associated L4 header mask info. */
        uint32_t        l4_key_mask[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_cfa_flow_info *
@@ -27310,7 +30205,8 @@ struct hwrm_cfa_flow_info_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27342,7 +30238,7 @@ struct hwrm_cfa_flow_info_input {
        uint8_t unused_0[6];
        /* This value identifies a set of CFA data structures used for a flow. */
        uint64_t        ext_flow_handle;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_info_output (size:5632b/704B) */
 struct hwrm_cfa_flow_info_output {
@@ -27389,13 +30285,13 @@ struct hwrm_cfa_flow_info_output {
        uint8_t unused_1[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_cfa_flow_flush *
@@ -27420,7 +30316,8 @@ struct hwrm_cfa_flow_flush_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27443,11 +30340,20 @@ struct hwrm_cfa_flow_flush_input {
                UINT32_C(0x1)
        /*
         * Set to 1 to indicate flow flush operation to cleanup all the flows, meters, CFA
-        * context memory tables..etc.  This flag is set to 0 by older driver. For older firmware,
+        * context memory tables etc. This flag is set to 0 by older driver. For older firmware,
         * setting this flag has no effect.
         */
        #define HWRM_CFA_FLOW_FLUSH_INPUT_FLAGS_FLOW_RESET_ALL \
                UINT32_C(0x2)
+       /*
+        * Set to 1 to indicate flow flush operation to cleanup all the flows by the caller.
+        * This flag is set to 0 by older driver. For older firmware, setting this flag has no effect.
+        */
+       #define HWRM_CFA_FLOW_FLUSH_INPUT_FLAGS_FLOW_RESET_PORT \
+               UINT32_C(0x4)
+       /* Set to 1 to indicate the flow counter IDs are included in the flow table. */
+       #define HWRM_CFA_FLOW_FLUSH_INPUT_FLAGS_FLOW_HANDLE_INCL_FC \
+               UINT32_C(0x8000000)
        /*
         * This specifies the size of flow handle entries provided by the driver
         * in the flow table specified below. Only two flow handle size enums are defined.
@@ -27498,7 +30404,7 @@ struct hwrm_cfa_flow_flush_input {
        uint16_t        num_flows;
        /* Pointer to the PBL, or PDL depending on number of levels */
        uint64_t        page_dir;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_flush_output (size:128b/16B) */
 struct hwrm_cfa_flow_flush_output {
@@ -27513,13 +30419,13 @@ struct hwrm_cfa_flow_flush_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_cfa_flow_stats *
@@ -27544,7 +30450,8 @@ struct hwrm_cfa_flow_stats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27598,7 +30505,7 @@ struct hwrm_cfa_flow_stats_input {
        uint32_t        flow_id_8;
        /* Flow ID of a flow. */
        uint32_t        flow_id_9;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_stats_output (size:1408b/176B) */
 struct hwrm_cfa_flow_stats_output {
@@ -27653,13 +30560,13 @@ struct hwrm_cfa_flow_stats_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************************
  * hwrm_cfa_flow_aging_timer_reset *
@@ -27684,7 +30591,8 @@ struct hwrm_cfa_flow_aging_timer_reset_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27705,7 +30613,7 @@ struct hwrm_cfa_flow_aging_timer_reset_input {
        uint32_t        flow_timer;
        /* This value identifies a set of CFA data structures used for a flow. */
        uint64_t        ext_flow_handle;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_aging_timer_reset_output (size:128b/16B) */
 struct hwrm_cfa_flow_aging_timer_reset_output {
@@ -27720,20 +30628,20 @@ struct hwrm_cfa_flow_aging_timer_reset_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_cfa_flow_aging_cfg *
  ***************************/
 
 
-/* hwrm_cfa_flow_aging_cfg_input (size:256b/32B) */
+/* hwrm_cfa_flow_aging_cfg_input (size:384b/48B) */
 struct hwrm_cfa_flow_aging_cfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
@@ -27751,7 +30659,8 @@ struct hwrm_cfa_flow_aging_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27773,16 +30682,40 @@ struct hwrm_cfa_flow_aging_cfg_input {
        /* This bit must be '1' for the udp flow timer field to be configured */
        #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_UDP_FLOW_TIMER \
                UINT32_C(0x4)
-       /* The direction for the flow aging configuration, 1 is rx path, 2 is tx path. */
+       /* This bit must be '1' for the eem dma interval field to be configured */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_EEM_DMA_INTERVAL \
+               UINT32_C(0x8)
+       /* This bit must be '1' for the eem notice interval field to be configured */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_EEM_NOTICE_INTERVAL \
+               UINT32_C(0x10)
+       /* This bit must be '1' for the eem context memory maximum entries field to be configured */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_EEM_CTX_MAX_ENTRIES \
+               UINT32_C(0x20)
+       /* This bit must be '1' for the eem context memory ID field to be configured */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_EEM_CTX_ID \
+               UINT32_C(0x40)
+       /* This bit must be '1' for the eem context memory type field to be configured */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_ENABLES_EEM_CTX_MEM_TYPE \
+               UINT32_C(0x80)
        uint8_t flags;
        /* Enumeration denoting the RX, TX type of the resource. */
-       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH     UINT32_C(0x1)
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH       UINT32_C(0x1)
        /* tx path */
-       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_TX    UINT32_C(0x0)
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_TX      UINT32_C(0x0)
        /* rx path */
-       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_RX    UINT32_C(0x1)
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_RX      UINT32_C(0x1)
        #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_LAST \
                HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_PATH_RX
+       /* Enumeration denoting the enable, disable eem flow aging configuration. */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_EEM        UINT32_C(0x2)
+       /* tx path */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_EEM_DISABLE \
+               (UINT32_C(0x0) << 1)
+       /* rx path */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_EEM_ENABLE \
+               (UINT32_C(0x1) << 1)
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_EEM_LAST \
+               HWRM_CFA_FLOW_AGING_CFG_INPUT_FLAGS_EEM_ENABLE
        uint8_t unused_0;
        /* The flow aging timer for all TCP flows, the unit is 100 milliseconds. */
        uint32_t        tcp_flow_timer;
@@ -27790,7 +30723,22 @@ struct hwrm_cfa_flow_aging_cfg_input {
        uint32_t        tcp_fin_timer;
        /* The flow aging timer for all UDP flows, the unit is 100 milliseconds. */
        uint32_t        udp_flow_timer;
-} __attribute__((packed));
+       /* The interval to dma eem ejection data to host memory, the unit is milliseconds. */
+       uint16_t        eem_dma_interval;
+       /* The interval to notify driver to read the eem ejection data, the unit is milliseconds. */
+       uint16_t        eem_notice_interval;
+       /* The maximum entries number in the eem context memory. */
+       uint32_t        eem_ctx_max_entries;
+       /* The context memory ID for eem flow aging. */
+       uint16_t        eem_ctx_id;
+       uint16_t        eem_ctx_mem_type;
+       /* The content of context memory is eem ejection data, the size of each entry is 4 bytes. */
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_EEM_CTX_MEM_TYPE_EJECTION_DATA \
+               UINT32_C(0x0)
+       #define HWRM_CFA_FLOW_AGING_CFG_INPUT_EEM_CTX_MEM_TYPE_LAST \
+               HWRM_CFA_FLOW_AGING_CFG_INPUT_EEM_CTX_MEM_TYPE_EJECTION_DATA
+       uint8_t unused_1[4];
+} __rte_packed;
 
 /* hwrm_cfa_flow_aging_cfg_output (size:128b/16B) */
 struct hwrm_cfa_flow_aging_cfg_output {
@@ -27805,13 +30753,13 @@ struct hwrm_cfa_flow_aging_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_cfa_flow_aging_qcfg *
@@ -27836,7 +30784,8 @@ struct hwrm_cfa_flow_aging_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27858,9 +30807,9 @@ struct hwrm_cfa_flow_aging_qcfg_input {
        #define HWRM_CFA_FLOW_AGING_QCFG_INPUT_FLAGS_PATH_LAST \
                HWRM_CFA_FLOW_AGING_QCFG_INPUT_FLAGS_PATH_RX
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
-/* hwrm_cfa_flow_aging_qcfg_output (size:192b/24B) */
+/* hwrm_cfa_flow_aging_qcfg_output (size:320b/40B) */
 struct hwrm_cfa_flow_aging_qcfg_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
@@ -27876,16 +30825,26 @@ struct hwrm_cfa_flow_aging_qcfg_output {
        uint32_t        tcp_fin_timer;
        /* The current flow aging timer for all UDP flows, the unit is 100 millisecond. */
        uint32_t        udp_flow_timer;
-       uint8_t unused_0[3];
+       /* The interval to dma eem ejection data to host memory, the unit is milliseconds. */
+       uint16_t        eem_dma_interval;
+       /* The interval to notify driver to read the eem ejection data, the unit is milliseconds. */
+       uint16_t        eem_notice_interval;
+       /* The maximum entries number in the eem context memory. */
+       uint32_t        eem_ctx_max_entries;
+       /* The context memory ID for eem flow aging. */
+       uint16_t        eem_ctx_id;
+       /* The context memory type for eem flow aging. */
+       uint16_t        eem_ctx_mem_type;
+       uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************************
  * hwrm_cfa_flow_aging_qcaps *
@@ -27910,7 +30869,8 @@ struct hwrm_cfa_flow_aging_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27932,7 +30892,7 @@ struct hwrm_cfa_flow_aging_qcaps_input {
        #define HWRM_CFA_FLOW_AGING_QCAPS_INPUT_FLAGS_PATH_LAST \
                HWRM_CFA_FLOW_AGING_QCAPS_INPUT_FLAGS_PATH_RX
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_flow_aging_qcaps_output (size:256b/32B) */
 struct hwrm_cfa_flow_aging_qcaps_output {
@@ -27955,13 +30915,13 @@ struct hwrm_cfa_flow_aging_qcaps_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************************
  * hwrm_cfa_tcp_flag_process_qcfg *
@@ -27986,7 +30946,8 @@ struct hwrm_cfa_tcp_flag_process_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -27997,7 +30958,7 @@ struct hwrm_cfa_tcp_flag_process_qcfg_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_tcp_flag_process_qcfg_output (size:192b/24B) */
 struct hwrm_cfa_tcp_flag_process_qcfg_output {
@@ -28020,13 +30981,13 @@ struct hwrm_cfa_tcp_flag_process_qcfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_cfa_pair_info *
@@ -28051,7 +31012,8 @@ struct hwrm_cfa_pair_info_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28075,7 +31037,7 @@ struct hwrm_cfa_pair_info_input {
        uint8_t pair_vfid;
        /* Pair name (32 byte string). */
        char    pair_name[32];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_pair_info_output (size:576b/72B) */
 struct hwrm_cfa_pair_info_output {
@@ -28140,13 +31102,13 @@ struct hwrm_cfa_pair_info_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************************
  * hwrm_cfa_redirect_query_tunnel_type *
@@ -28171,7 +31133,8 @@ struct hwrm_cfa_redirect_query_tunnel_type_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28185,7 +31148,7 @@ struct hwrm_cfa_redirect_query_tunnel_type_input {
        /* The source function id. */
        uint16_t        src_fid;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_redirect_query_tunnel_type_output (size:128b/16B) */
 struct hwrm_cfa_redirect_query_tunnel_type_output {
@@ -28217,7 +31180,7 @@ struct hwrm_cfa_redirect_query_tunnel_type_output {
        /* Generic Network Virtualization Encapsulation (Geneve) */
        #define HWRM_CFA_REDIRECT_QUERY_TUNNEL_TYPE_OUTPUT_TUNNEL_MASK_GENEVE \
                UINT32_C(0x20)
-       /* Multi-Protocol Lable Switching (MPLS) */
+       /* Multi-Protocol Label Switching (MPLS) */
        #define HWRM_CFA_REDIRECT_QUERY_TUNNEL_TYPE_OUTPUT_TUNNEL_MASK_MPLS \
                UINT32_C(0x40)
        /* Stateless Transport Tunnel (STT) */
@@ -28244,13 +31207,13 @@ struct hwrm_cfa_redirect_query_tunnel_type_output {
        uint8_t unused_0[3];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_cfa_ctx_mem_rgtr *
@@ -28275,7 +31238,8 @@ struct hwrm_cfa_ctx_mem_rgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28320,7 +31284,7 @@ struct hwrm_cfa_ctx_mem_rgtr_input {
        uint32_t        unused_0;
        /* Pointer to the PBL, or PDL depending on number of levels */
        uint64_t        page_dir;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ctx_mem_rgtr_output (size:128b/16B) */
 struct hwrm_cfa_ctx_mem_rgtr_output {
@@ -28333,20 +31297,20 @@ struct hwrm_cfa_ctx_mem_rgtr_output {
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
        /*
-        * Id/Handle to the recently register context memory.  This handle is passed
+        * Id/Handle to the recently register context memory. This handle is passed
         * to the CFA feature.
         */
        uint16_t        ctx_id;
        uint8_t unused_0[5];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_cfa_ctx_mem_unrgtr *
@@ -28371,7 +31335,8 @@ struct hwrm_cfa_ctx_mem_unrgtr_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28383,12 +31348,12 @@ struct hwrm_cfa_ctx_mem_unrgtr_input {
         */
        uint64_t        resp_addr;
        /*
-        * Id/Handle to the recently register context memory.  This handle is passed
+        * Id/Handle to the recently register context memory. This handle is passed
         * to the CFA feature.
         */
        uint16_t        ctx_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ctx_mem_unrgtr_output (size:128b/16B) */
 struct hwrm_cfa_ctx_mem_unrgtr_output {
@@ -28403,13 +31368,13 @@ struct hwrm_cfa_ctx_mem_unrgtr_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_cfa_ctx_mem_qctx *
@@ -28434,7 +31399,8 @@ struct hwrm_cfa_ctx_mem_qctx_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28446,12 +31412,12 @@ struct hwrm_cfa_ctx_mem_qctx_input {
         */
        uint64_t        resp_addr;
        /*
-        * Id/Handle to the recently register context memory.  This handle is passed
+        * Id/Handle to the recently register context memory. This handle is passed
         * to the CFA feature.
         */
        uint16_t        ctx_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ctx_mem_qctx_output (size:256b/32B) */
 struct hwrm_cfa_ctx_mem_qctx_output {
@@ -28500,13 +31466,13 @@ struct hwrm_cfa_ctx_mem_qctx_output {
        uint8_t unused_1[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_cfa_ctx_mem_qcaps *
@@ -28531,7 +31497,8 @@ struct hwrm_cfa_ctx_mem_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28542,7 +31509,7 @@ struct hwrm_cfa_ctx_mem_qcaps_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_ctx_mem_qcaps_output (size:128b/16B) */
 struct hwrm_cfa_ctx_mem_qcaps_output {
@@ -28556,8 +31523,16 @@ struct hwrm_cfa_ctx_mem_qcaps_output {
        uint16_t        resp_len;
        /* Indicates the maximum number of context memory which can be registered. */
        uint16_t        max_entries;
-       uint8_t unused_0[6];
-} __attribute__((packed));
+       uint8_t unused_0[5];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
 
 /**********************
  * hwrm_cfa_eem_qcaps *
@@ -28582,7 +31557,8 @@ struct hwrm_cfa_eem_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28612,9 +31588,9 @@ struct hwrm_cfa_eem_qcaps_input {
        #define HWRM_CFA_EEM_QCAPS_INPUT_FLAGS_PREFERRED_OFFLOAD \
                UINT32_C(0x4)
        uint32_t        unused_0;
-} __attribute__((packed));
+} __rte_packed;
 
-/* hwrm_cfa_eem_qcaps_output (size:256b/32B) */
+/* hwrm_cfa_eem_qcaps_output (size:320b/40B) */
 struct hwrm_cfa_eem_qcaps_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
@@ -28630,71 +31606,97 @@ struct hwrm_cfa_eem_qcaps_output {
         * which are to be offloaded.
         * Note if this bit is set then the path_rx bit can't be set.
         */
-       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_PATH_TX     UINT32_C(0x1)
+       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_PATH_TX \
+               UINT32_C(0x1)
        /*
         * When set to 1, indicates the configuration will apply to RX flows
         * which are to be offloaded.
         * Note if this bit is set then the path_tx bit can't be set.
         */
-       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_PATH_RX     UINT32_C(0x2)
+       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_PATH_RX \
+               UINT32_C(0x2)
+       /*
+        * When set to 1, indicates the the FW supports the Centralized
+        * Memory Model. The concept designates one entity for the
+        * memory allocation while all others ‘subscribe’ to it.
+        */
+       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_CENTRALIZED_MEMORY_MODEL_SUPPORTED \
+               UINT32_C(0x4)
+       /*
+        * When set to 1, indicates the the FW supports the Detached
+        * Centralized Memory Model. The memory is allocated and managed
+        * as a separate entity. All PFs and VFs will be granted direct
+        * or semi-direct access to the allocated memory while none of
+        * which can interfere with the management of the memory.
+        */
+       #define HWRM_CFA_EEM_QCAPS_OUTPUT_FLAGS_DETACHED_CENTRALIZED_MEMORY_MODEL_SUPPORTED \
+               UINT32_C(0x8)
        uint32_t        unused_0;
        uint32_t        supported;
        /*
         * If set to 1, then EEM KEY0 table is supported using crc32 hash.
-        * If set to 0 EEM KEY0 table is not supported.
+        * If set to 0, EEM KEY0 table is not supported.
         */
        #define HWRM_CFA_EEM_QCAPS_OUTPUT_SUPPORTED_KEY0_TABLE \
                UINT32_C(0x1)
        /*
         * If set to 1, then EEM KEY1 table is supported using lookup3 hash.
-        * If set to 0 EEM KEY1 table is not supported.
+        * If set to 0, EEM KEY1 table is not supported.
         */
        #define HWRM_CFA_EEM_QCAPS_OUTPUT_SUPPORTED_KEY1_TABLE \
                UINT32_C(0x2)
        /*
         * If set to 1, then EEM External Record table is supported.
-        * If set to 0 EEM External Record table is not supported.
+        * If set to 0, EEM External Record table is not supported.
         * (This table includes action record, EFC pointers, encap pointers)
         */
        #define HWRM_CFA_EEM_QCAPS_OUTPUT_SUPPORTED_EXTERNAL_RECORD_TABLE \
                UINT32_C(0x4)
        /*
         * If set to 1, then EEM External Flow Counters table is supported.
-        * If set to 0 EEM External Flow Counters table is not supported.
+        * If set to 0, EEM External Flow Counters table is not supported.
         */
        #define HWRM_CFA_EEM_QCAPS_OUTPUT_SUPPORTED_EXTERNAL_FLOW_COUNTERS_TABLE \
                UINT32_C(0x8)
        /*
-        * The maximum number of entries supported by EEM.   When configuring the host memory
+        * If set to 1, then FID table used for implicit flow flush is supported.
+        * If set to 0, then FID table used for implicit flow flush is not supported.
+        */
+       #define HWRM_CFA_EEM_QCAPS_OUTPUT_SUPPORTED_FID_TABLE \
+               UINT32_C(0x10)
+       /*
+        * The maximum number of entries supported by EEM. When configuring the host memory
         * the number of numbers of entries that can supported are -
         *      32k, 64k 128k, 256k, 512k, 1M, 2M, 4M, 8M, 32M, 64M, 128M entries.
         * Any value that are not these values, the FW will round down to the closest support
         * number of entries.
         */
        uint32_t        max_entries_supported;
-       /* The entry size in bytes of each entry in the KEY0/KEY1 EEM tables. */
+       /* The entry size in bytes of each entry in the EEM KEY0/KEY1 tables. */
        uint16_t        key_entry_size;
-       /* The entry size in bytes of each entry in the RECORD EEM tables. */
+       /* The entry size in bytes of each entry in the EEM RECORD tables. */
        uint16_t        record_entry_size;
-       /* The entry size in bytes of each entry in the EFC EEM tables. */
+       /* The entry size in bytes of each entry in the EEM EFC tables. */
        uint16_t        efc_entry_size;
-       uint8_t unused_1;
+       /* The FID size in bytes of each entry in the EEM FID tables. */
+       uint16_t        fid_entry_size;
+       uint8_t unused_1[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************
  * hwrm_cfa_eem_cfg *
  ********************/
 
 
-/* hwrm_cfa_eem_cfg_input (size:320b/40B) */
+/* hwrm_cfa_eem_cfg_input (size:384b/48B) */
 struct hwrm_cfa_eem_cfg_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
@@ -28712,7 +31714,8 @@ struct hwrm_cfa_eem_cfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28741,11 +31744,19 @@ struct hwrm_cfa_eem_cfg_input {
        /* When set to 1, all offloaded flows will be sent to EEM. */
        #define HWRM_CFA_EEM_CFG_INPUT_FLAGS_PREFERRED_OFFLOAD \
                UINT32_C(0x4)
-       uint32_t        unused_0;
+       /* When set to 1, secondary, 0 means primary. */
+       #define HWRM_CFA_EEM_CFG_INPUT_FLAGS_SECONDARY_PF \
+               UINT32_C(0x8)
+       /*
+        * Group_id which used by Firmware to identify memory pools belonging
+        * to certain group.
+        */
+       uint16_t        group_id;
+       uint16_t        unused_0;
        /*
-        * Configured EEM with the given number of entries.  All the EEM tables KEY0, KEY1,
+        * Configured EEM with the given number of entries. All the EEM tables KEY0, KEY1,
         * RECORD, EFC all have the same number of entries and all tables will be configured
-        * using this value.  Current minimum value is 32k. Current maximum value is 128M.
+        * using this value. Current minimum value is 32k. Current maximum value is 128M.
         */
        uint32_t        num_entries;
        uint32_t        unused_1;
@@ -28757,7 +31768,11 @@ struct hwrm_cfa_eem_cfg_input {
        uint16_t        record_ctx_id;
        /* Configured EEM with the given context if for EFC table. */
        uint16_t        efc_ctx_id;
-} __attribute__((packed));
+       /* Configured EEM with the given context if for EFC table. */
+       uint16_t        fid_ctx_id;
+       uint16_t        unused_2;
+       uint32_t        unused_3;
+} __rte_packed;
 
 /* hwrm_cfa_eem_cfg_output (size:128b/16B) */
 struct hwrm_cfa_eem_cfg_output {
@@ -28772,13 +31787,13 @@ struct hwrm_cfa_eem_cfg_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_cfa_eem_qcfg *
@@ -28803,7 +31818,8 @@ struct hwrm_cfa_eem_qcfg_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28820,9 +31836,9 @@ struct hwrm_cfa_eem_qcfg_input {
        /* When set to 1, indicates the configuration is the RX flow. */
        #define HWRM_CFA_EEM_QCFG_INPUT_FLAGS_PATH_RX     UINT32_C(0x2)
        uint32_t        unused_0;
-} __attribute__((packed));
+} __rte_packed;
 
-/* hwrm_cfa_eem_qcfg_output (size:192b/24B) */
+/* hwrm_cfa_eem_qcfg_output (size:256b/32B) */
 struct hwrm_cfa_eem_qcfg_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
@@ -28844,16 +31860,26 @@ struct hwrm_cfa_eem_qcfg_output {
                UINT32_C(0x4)
        /* The number of entries the FW has configured for EEM. */
        uint32_t        num_entries;
-       uint8_t unused_0[7];
+       /* Configured EEM with the given context if for KEY0 table. */
+       uint16_t        key0_ctx_id;
+       /* Configured EEM with the given context if for KEY1 table. */
+       uint16_t        key1_ctx_id;
+       /* Configured EEM with the given context if for RECORD table. */
+       uint16_t        record_ctx_id;
+       /* Configured EEM with the given context if for EFC table. */
+       uint16_t        efc_ctx_id;
+       /* Configured EEM with the given context if for EFC table. */
+       uint16_t        fid_ctx_id;
+       uint8_t unused_2[5];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_cfa_eem_op *
@@ -28878,7 +31904,8 @@ struct hwrm_cfa_eem_op_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28909,7 +31936,7 @@ struct hwrm_cfa_eem_op_input {
        #define HWRM_CFA_EEM_OP_INPUT_OP_RESERVED    UINT32_C(0x0)
        /*
         * To properly stop EEM and ensure there are no DMA's, the caller
-        * must disable EEM for the given PF, using this call.  This will
+        * must disable EEM for the given PF, using this call. This will
         * safely disable EEM and ensure that all DMA'ed to the
         * keys/records/efc have been completed.
         */
@@ -28917,7 +31944,7 @@ struct hwrm_cfa_eem_op_input {
        /*
         * Once the EEM host memory has been configured, EEM options have
         * been configured. Then the caller should enable EEM for the given
-        * PF.  Note once this call has been made, then the EEM mechanism
+        * PF. Note once this call has been made, then the EEM mechanism
         * will be active and DMA's will occur as packets are processed.
         */
        #define HWRM_CFA_EEM_OP_INPUT_OP_EEM_ENABLE  UINT32_C(0x2)
@@ -28928,7 +31955,7 @@ struct hwrm_cfa_eem_op_input {
        #define HWRM_CFA_EEM_OP_INPUT_OP_EEM_CLEANUP UINT32_C(0x3)
        #define HWRM_CFA_EEM_OP_INPUT_OP_LAST \
                HWRM_CFA_EEM_OP_INPUT_OP_EEM_CLEANUP
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_cfa_eem_op_output (size:128b/16B) */
 struct hwrm_cfa_eem_op_output {
@@ -28943,21 +31970,187 @@ struct hwrm_cfa_eem_op_output {
        uint8_t unused_0[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************************
  * hwrm_cfa_adv_flow_mgnt_qcaps *
  ********************************/
 
 
-/* hwrm_cfa_adv_flow_mgnt_qcaps_input (size:256b/32B) */
-struct hwrm_cfa_adv_flow_mgnt_qcaps_input {
+/* hwrm_cfa_adv_flow_mgnt_qcaps_input (size:256b/32B) */
+struct hwrm_cfa_adv_flow_mgnt_qcaps_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        unused_0[4];
+} __rte_packed;
+
+/* hwrm_cfa_adv_flow_mgnt_qcaps_output (size:128b/16B) */
+struct hwrm_cfa_adv_flow_mgnt_qcaps_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       uint32_t        flags;
+       /*
+        * Value of 1 to indicate firmware support 16-bit flow handle.
+        * Value of 0 to indicate firmware not support 16-bit flow handle.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_HND_16BIT_SUPPORTED \
+               UINT32_C(0x1)
+       /*
+        * Value of 1 to indicate firmware support 64-bit flow handle.
+        * Value of 0 to indicate firmware not support 64-bit flow handle.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_HND_64BIT_SUPPORTED \
+               UINT32_C(0x2)
+       /*
+        * Value of 1 to indicate firmware support flow batch delete operation through
+        * HWRM_CFA_FLOW_FLUSH command.
+        * Value of 0 to indicate that the firmware does not support flow batch delete
+        * operation.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_BATCH_DELETE_SUPPORTED \
+               UINT32_C(0x4)
+       /*
+        * Value of 1 to indicate that the firmware support flow reset all operation through
+        * HWRM_CFA_FLOW_FLUSH command.
+        * Value of 0 indicates firmware does not support flow reset all operation.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_RESET_ALL_SUPPORTED \
+               UINT32_C(0x8)
+       /*
+        * Value of 1 to indicate that firmware supports use of FID as dest_id in
+        * HWRM_CFA_NTUPLE_ALLOC/CFG commands.
+        * Value of 0 indicates firmware does not support use of FID as dest_id.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_NTUPLE_FLOW_DEST_FUNC_SUPPORTED \
+               UINT32_C(0x10)
+       /*
+        * Value of 1 to indicate that firmware supports TX EEM flows.
+        * Value of 0 indicates firmware does not support TX EEM flows.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_TX_EEM_FLOW_SUPPORTED \
+               UINT32_C(0x20)
+       /*
+        * Value of 1 to indicate that firmware supports RX EEM flows.
+        * Value of 0 indicates firmware does not support RX EEM flows.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_RX_EEM_FLOW_SUPPORTED \
+               UINT32_C(0x40)
+       /*
+        * Value of 1 to indicate that firmware supports the dynamic allocation of an
+        * on-chip flow counter which can be used for EEM flows.
+        * Value of 0 indicates firmware does not support the dynamic allocation of an
+        * on-chip flow counter.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_COUNTER_ALLOC_SUPPORTED \
+               UINT32_C(0x80)
+       /*
+        * Value of 1 to indicate that firmware supports setting of
+        * rfs_ring_tbl_idx in HWRM_CFA_NTUPLE_ALLOC command.
+        * Value of 0 indicates firmware does not support rfs_ring_tbl_idx.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_RFS_RING_TBL_IDX_SUPPORTED \
+               UINT32_C(0x100)
+       /*
+        * Value of 1 to indicate that firmware supports untagged matching
+        * criteria on HWRM_CFA_L2_FILTER_ALLOC command. Value of 0
+        * indicates firmware does not support untagged matching.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_UNTAGGED_VLAN_SUPPORTED \
+               UINT32_C(0x200)
+       /*
+        * Value of 1 to indicate that firmware supports XDP filter. Value
+        * of 0 indicates firmware does not support XDP filter.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_XDP_SUPPORTED \
+               UINT32_C(0x400)
+       /*
+        * Value of 1 to indicate that the firmware support L2 header source
+        * fields matching criteria on HWRM_CFA_L2_FILTER_ALLOC command.
+        * Value of 0 indicates firmware does not support L2 header source
+        * fields matching.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_L2_HEADER_SOURCE_FIELDS_SUPPORTED \
+               UINT32_C(0x800)
+       /*
+        * If set to 1, firmware is capable of supporting ARP ethertype as
+        * matching criteria for HWRM_CFA_NTUPLE_FILTER_ALLOC command on the
+        * RX direction. By default, this flag should be 0 for older version
+        * of firmware.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_NTUPLE_FLOW_RX_ARP_SUPPORTED \
+               UINT32_C(0x1000)
+       /*
+        * Value of 1 to indicate that firmware supports setting of
+        * rfs_ring_tbl_idx in dst_id field of the HWRM_CFA_NTUPLE_ALLOC
+        * command. Value of 0 indicates firmware does not support
+        * rfs_ring_tbl_idx in dst_id field.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_RFS_RING_TBL_IDX_V2_SUPPORTED \
+               UINT32_C(0x2000)
+       /*
+        * If set to 1, firmware is capable of supporting IPv4/IPv6 as
+        * ethertype in HWRM_CFA_NTUPLE_FILTER_ALLOC command on the RX
+        * direction. By default, this flag should be 0 for older version
+        * of firmware.
+        */
+       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_NTUPLE_FLOW_RX_ETHERTYPE_IP_SUPPORTED \
+               UINT32_C(0x4000)
+       uint8_t unused_0[3];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM. This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/******************
+ * hwrm_cfa_tflib *
+ ******************/
+
+
+/* hwrm_cfa_tflib_input (size:1024b/128B) */
+struct hwrm_cfa_tflib_input {
        /* The HWRM command request type. */
        uint16_t        req_type;
        /*
@@ -28974,7 +32167,8 @@ struct hwrm_cfa_adv_flow_mgnt_qcaps_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -28985,11 +32179,18 @@ struct hwrm_cfa_adv_flow_mgnt_qcaps_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-       uint32_t        unused_0[4];
-} __attribute__((packed));
-
-/* hwrm_cfa_adv_flow_mgnt_qcaps_output (size:128b/16B) */
-struct hwrm_cfa_adv_flow_mgnt_qcaps_output {
+       /* TFLIB message type. */
+       uint16_t        tf_type;
+       /* TFLIB message subtype. */
+       uint16_t        tf_subtype;
+       /* unused. */
+       uint8_t unused0[4];
+       /* TFLIB request data. */
+       uint32_t        tf_req[26];
+} __rte_packed;
+
+/* hwrm_cfa_tflib_output (size:5632b/704B) */
+struct hwrm_cfa_tflib_output {
        /* The specific error status for the command. */
        uint16_t        error_code;
        /* The HWRM command request type. */
@@ -28998,63 +32199,25 @@ struct hwrm_cfa_adv_flow_mgnt_qcaps_output {
        uint16_t        seq_id;
        /* The length of the response data in number of bytes. */
        uint16_t        resp_len;
-       uint32_t        flags;
-       /*
-        * Value of 1 to indicate firmware support 16-bit flow handle.
-        * Value of 0 to indicate firmware not support 16-bit flow handle.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_HND_16BIT_SUPPORTED \
-               UINT32_C(0x1)
-       /*
-        * Value of 1 to indicate firmware support 64-bit flow handle.
-        * Value of 0 to indicate firmware not support 64-bit flow handle.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_HND_64BIT_SUPPORTED \
-               UINT32_C(0x2)
-       /*
-        * Value of 1 to indicate firmware support flow batch delete operation through
-        * HWRM_CFA_FLOW_FLUSH command.
-        * Value of 0 to indicate that the firmware does not support flow batch delete
-        * operation.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_BATCH_DELETE_SUPPORTED \
-               UINT32_C(0x4)
-       /*
-        * Value of 1 to indicate that the firmware support flow reset all operation through
-        * HWRM_CFA_FLOW_FLUSH command.
-        * Value of 0 indicates firmware does not support flow reset all operation.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_FLOW_RESET_ALL_SUPPORTED \
-               UINT32_C(0x8)
-       /*
-        * Value of 1 to indicate that firmware supports use of FID as dest_id in
-        * HWRM_CFA_NTUPLE_ALLOC/CFG commands.
-        * Value of 0 indicates firmware does not support use of FID as dest_id.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_NTUPLE_FLOW_DEST_FUNC_SUPPORTED \
-               UINT32_C(0x10)
-       /*
-        * Value of 1 to indicate that firmware supports TX EEM flows.
-        * Value of 0 indicates firmware does not support TX EEM flows.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_TX_EEM_FLOW_SUPPORTED \
-               UINT32_C(0x20)
-       /*
-        * Value of 1 to indicate that firmware supports RX EEM flows.
-        * Value of 0 indicates firmware does not support RX EEM flows.
-        */
-       #define HWRM_CFA_ADV_FLOW_MGNT_QCAPS_OUTPUT_FLAGS_RX_EEM_FLOW_SUPPORTED \
-               UINT32_C(0x40)
-       uint8_t unused_0[3];
+       /* TFLIB message type. */
+       uint16_t        tf_type;
+       /* TFLIB message subtype. */
+       uint16_t        tf_subtype;
+       /* TFLIB response code */
+       uint32_t        tf_resp_code;
+       /* TFLIB response data. */
+       uint32_t        tf_resp[170];
+       /* unused. */
+       uint8_t unused1[7];
        /*
         * This field is used in Output records to indicate that the output
-        * is completely written to RAM.  This field should be read as '1'
+        * is completely written to RAM. This field should be read as '1'
         * to indicate that the output has been completely written.
         * When writing a command completion or response to an internal processor,
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_tunnel_dst_port_query *
@@ -29079,7 +32242,8 @@ struct hwrm_tunnel_dst_port_query_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29113,7 +32277,7 @@ struct hwrm_tunnel_dst_port_query_input {
        #define HWRM_TUNNEL_DST_PORT_QUERY_INPUT_TUNNEL_TYPE_LAST \
                HWRM_TUNNEL_DST_PORT_QUERY_INPUT_TUNNEL_TYPE_VXLAN_GPE_V6
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_tunnel_dst_port_query_output (size:128b/16B) */
 struct hwrm_tunnel_dst_port_query_output {
@@ -29152,7 +32316,7 @@ struct hwrm_tunnel_dst_port_query_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************************
  * hwrm_tunnel_dst_port_alloc *
@@ -29177,7 +32341,8 @@ struct hwrm_tunnel_dst_port_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29223,7 +32388,7 @@ struct hwrm_tunnel_dst_port_alloc_input {
         */
        uint16_t        tunnel_dst_port_val;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_tunnel_dst_port_alloc_output (size:128b/16B) */
 struct hwrm_tunnel_dst_port_alloc_output {
@@ -29249,7 +32414,7 @@ struct hwrm_tunnel_dst_port_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************************
  * hwrm_tunnel_dst_port_free *
@@ -29274,7 +32439,8 @@ struct hwrm_tunnel_dst_port_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29314,7 +32480,7 @@ struct hwrm_tunnel_dst_port_free_input {
         */
        uint16_t        tunnel_dst_port_id;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_tunnel_dst_port_free_output (size:128b/16B) */
 struct hwrm_tunnel_dst_port_free_output {
@@ -29335,7 +32501,7 @@ struct hwrm_tunnel_dst_port_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* Periodic statistics context DMA to host. */
 /* ctx_hw_stats (size:1280b/160B) */
@@ -29380,7 +32546,54 @@ struct ctx_hw_stats {
        uint64_t        tpa_events;
        /* Number of TPA aborts */
        uint64_t        tpa_aborts;
-} __attribute__((packed));
+} __rte_packed;
+
+/* Periodic statistics context DMA to host. */
+/* ctx_hw_stats_ext (size:1344b/168B) */
+struct ctx_hw_stats_ext {
+       /* Number of received unicast packets */
+       uint64_t        rx_ucast_pkts;
+       /* Number of received multicast packets */
+       uint64_t        rx_mcast_pkts;
+       /* Number of received broadcast packets */
+       uint64_t        rx_bcast_pkts;
+       /* Number of discarded packets on received path */
+       uint64_t        rx_discard_pkts;
+       /* Number of dropped packets on received path */
+       uint64_t        rx_drop_pkts;
+       /* Number of received bytes for unicast traffic */
+       uint64_t        rx_ucast_bytes;
+       /* Number of received bytes for multicast traffic */
+       uint64_t        rx_mcast_bytes;
+       /* Number of received bytes for broadcast traffic */
+       uint64_t        rx_bcast_bytes;
+       /* Number of transmitted unicast packets */
+       uint64_t        tx_ucast_pkts;
+       /* Number of transmitted multicast packets */
+       uint64_t        tx_mcast_pkts;
+       /* Number of transmitted broadcast packets */
+       uint64_t        tx_bcast_pkts;
+       /* Number of discarded packets on transmit path */
+       uint64_t        tx_discard_pkts;
+       /* Number of dropped packets on transmit path */
+       uint64_t        tx_drop_pkts;
+       /* Number of transmitted bytes for unicast traffic */
+       uint64_t        tx_ucast_bytes;
+       /* Number of transmitted bytes for multicast traffic */
+       uint64_t        tx_mcast_bytes;
+       /* Number of transmitted bytes for broadcast traffic */
+       uint64_t        tx_bcast_bytes;
+       /* Number of TPA eligible packets */
+       uint64_t        rx_tpa_eligible_pkt;
+       /* Number of TPA eligible bytes */
+       uint64_t        rx_tpa_eligible_bytes;
+       /* Number of TPA packets */
+       uint64_t        rx_tpa_pkt;
+       /* Number of TPA bytes */
+       uint64_t        rx_tpa_bytes;
+       /* Number of TPA errors */
+       uint64_t        rx_tpa_errors;
+} __rte_packed;
 
 /* Periodic Engine statistics context DMA to host. */
 /* ctx_eng_stats (size:512b/64B) */
@@ -29426,7 +32639,7 @@ struct ctx_eng_stats {
         * the unit is count of clock cycles
         */
        uint64_t        cdd_engine_usage;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_stat_ctx_alloc *
@@ -29451,7 +32664,8 @@ struct hwrm_stat_ctx_alloc_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29475,6 +32689,11 @@ struct hwrm_stat_ctx_alloc_input {
         * shall be never done and the DMA address shall not be used.
         * In this case, the stat block can only be read by
         * hwrm_stat_ctx_query command.
+        * On Ethernet/L2 based devices:
+        *   if tpa v2 supported (hwrm_vnic_qcaps[max_aggs_supported]>0),
+        *       ctx_hw_stats_ext is used for DMA,
+        *   else
+        *       ctx_hw_stats is used for DMA.
         */
        uint32_t        update_period_ms;
        /*
@@ -29491,8 +32710,14 @@ struct hwrm_stat_ctx_alloc_input {
         * used for network traffic or engine traffic.
         */
        #define HWRM_STAT_CTX_ALLOC_INPUT_STAT_CTX_FLAGS_ROCE     UINT32_C(0x1)
-       uint8_t unused_0[3];
-} __attribute__((packed));
+       uint8_t unused_0;
+       /*
+        * This is the size of the structure (ctx_hw_stats or
+        * ctx_hw_stats_ext) that the driver has allocated to be used
+        * for the periodic DMA updates.
+        */
+       uint16_t        stats_dma_length;
+} __rte_packed;
 
 /* hwrm_stat_ctx_alloc_output (size:128b/16B) */
 struct hwrm_stat_ctx_alloc_output {
@@ -29515,7 +32740,7 @@ struct hwrm_stat_ctx_alloc_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_stat_ctx_free *
@@ -29540,7 +32765,8 @@ struct hwrm_stat_ctx_free_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29554,7 +32780,7 @@ struct hwrm_stat_ctx_free_input {
        /* ID of the statistics context that is being queried. */
        uint32_t        stat_ctx_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_stat_ctx_free_output (size:128b/16B) */
 struct hwrm_stat_ctx_free_output {
@@ -29577,7 +32803,7 @@ struct hwrm_stat_ctx_free_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***********************
  * hwrm_stat_ctx_query *
@@ -29602,7 +32828,8 @@ struct hwrm_stat_ctx_query_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29616,7 +32843,7 @@ struct hwrm_stat_ctx_query_input {
        /* ID of the statistics context that is being queried. */
        uint32_t        stat_ctx_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_stat_ctx_query_output (size:1408b/176B) */
 struct hwrm_stat_ctx_query_output {
@@ -29677,7 +32904,7 @@ struct hwrm_stat_ctx_query_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_stat_ctx_eng_query *
@@ -29702,7 +32929,8 @@ struct hwrm_stat_ctx_eng_query_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29716,7 +32944,7 @@ struct hwrm_stat_ctx_eng_query_input {
        /* ID of the statistics context that is being queried. */
        uint32_t        stat_ctx_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_stat_ctx_eng_query_output (size:640b/80B) */
 struct hwrm_stat_ctx_eng_query_output {
@@ -29778,7 +33006,7 @@ struct hwrm_stat_ctx_eng_query_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_stat_ctx_clr_stats *
@@ -29803,7 +33031,8 @@ struct hwrm_stat_ctx_clr_stats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29817,7 +33046,7 @@ struct hwrm_stat_ctx_clr_stats_input {
        /* ID of the statistics context that is being queried. */
        uint32_t        stat_ctx_id;
        uint8_t unused_0[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_stat_ctx_clr_stats_output (size:128b/16B) */
 struct hwrm_stat_ctx_clr_stats_output {
@@ -29838,7 +33067,7 @@ struct hwrm_stat_ctx_clr_stats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /********************
  * hwrm_pcie_qstats *
@@ -29863,7 +33092,8 @@ struct hwrm_pcie_qstats_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29886,7 +33116,7 @@ struct hwrm_pcie_qstats_input {
         * PCIe statistics will be stored
         */
        uint64_t        pcie_stat_host_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_pcie_qstats_output (size:128b/16B) */
 struct hwrm_pcie_qstats_output {
@@ -29909,7 +33139,7 @@ struct hwrm_pcie_qstats_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* PCIe Statistics Formats */
 /* pcie_ctx_hw_stats (size:768b/96B) */
@@ -29925,11 +33155,11 @@ struct pcie_ctx_hw_stats {
        uint64_t        pcie_tl_signal_integrity;
        /* Number of times LTSSM entered Recovery state */
        uint64_t        pcie_link_integrity;
-       /* Number of TLP bytes that have been trasmitted */
+       /* Number of TLP bytes that have been transmitted */
        uint64_t        pcie_tx_traffic_rate;
        /* Number of TLP bytes that have been received */
        uint64_t        pcie_rx_traffic_rate;
-       /* Number of DLLP bytes that have been trasmitted */
+       /* Number of DLLP bytes that have been transmitted */
        uint64_t        pcie_tx_dllp_statistics;
        /* Number of DLLP bytes that have been received */
        uint64_t        pcie_rx_dllp_statistics;
@@ -29945,7 +33175,7 @@ struct pcie_ctx_hw_stats {
         * to Recovery
         */
        uint64_t        pcie_recovery_histogram;
-} __attribute__((packed));
+} __rte_packed;
 
 /**********************
  * hwrm_exec_fwd_resp *
@@ -29970,7 +33200,8 @@ struct hwrm_exec_fwd_resp_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -29997,7 +33228,7 @@ struct hwrm_exec_fwd_resp_input {
         */
        uint16_t        encap_resp_target_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_exec_fwd_resp_output (size:128b/16B) */
 struct hwrm_exec_fwd_resp_output {
@@ -30018,7 +33249,7 @@ struct hwrm_exec_fwd_resp_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /************************
  * hwrm_reject_fwd_resp *
@@ -30043,7 +33274,8 @@ struct hwrm_reject_fwd_resp_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30070,7 +33302,7 @@ struct hwrm_reject_fwd_resp_input {
         */
        uint16_t        encap_resp_target_id;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_reject_fwd_resp_output (size:128b/16B) */
 struct hwrm_reject_fwd_resp_output {
@@ -30091,7 +33323,7 @@ struct hwrm_reject_fwd_resp_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************
  * hwrm_fwd_resp *
@@ -30116,7 +33348,8 @@ struct hwrm_fwd_resp_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30158,7 +33391,7 @@ struct hwrm_fwd_resp_input {
        uint64_t        encap_resp_addr;
        /* This is an encapsulated response. */
        uint32_t        encap_resp[24];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_fwd_resp_output (size:128b/16B) */
 struct hwrm_fwd_resp_output {
@@ -30179,7 +33412,7 @@ struct hwrm_fwd_resp_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************************
  * hwrm_fwd_async_event_cmpl *
@@ -30204,7 +33437,8 @@ struct hwrm_fwd_async_event_cmpl_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30227,7 +33461,7 @@ struct hwrm_fwd_async_event_cmpl_input {
        uint8_t unused_0[6];
        /* This is an encapsulated asynchronous event completion. */
        uint32_t        encap_async_event_cmpl[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_fwd_async_event_cmpl_output (size:128b/16B) */
 struct hwrm_fwd_async_event_cmpl_output {
@@ -30248,7 +33482,7 @@ struct hwrm_fwd_async_event_cmpl_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_nvm_raw_write_blk *
@@ -30273,7 +33507,8 @@ struct hwrm_nvm_raw_write_blk_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30286,7 +33521,7 @@ struct hwrm_nvm_raw_write_blk_input {
        uint64_t        resp_addr;
        /*
         * 64-bit Host Source Address.
-        * This is the loation of the source data to be written.
+        * This is the location of the source data to be written.
         */
        uint64_t        host_src_addr;
        /*
@@ -30296,7 +33531,7 @@ struct hwrm_nvm_raw_write_blk_input {
        uint32_t        dest_addr;
        /* Length of data to be written, in bytes. */
        uint32_t        len;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_raw_write_blk_output (size:128b/16B) */
 struct hwrm_nvm_raw_write_blk_output {
@@ -30317,7 +33552,7 @@ struct hwrm_nvm_raw_write_blk_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*****************
  * hwrm_nvm_read *
@@ -30342,7 +33577,8 @@ struct hwrm_nvm_read_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30366,7 +33602,7 @@ struct hwrm_nvm_read_input {
        /* The length of the data to be read, in bytes. */
        uint32_t        len;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_read_output (size:128b/16B) */
 struct hwrm_nvm_read_output {
@@ -30387,7 +33623,7 @@ struct hwrm_nvm_read_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*********************
  * hwrm_nvm_raw_dump *
@@ -30412,7 +33648,8 @@ struct hwrm_nvm_raw_dump_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30432,7 +33669,7 @@ struct hwrm_nvm_raw_dump_input {
        uint32_t        offset;
        /* Total length of NVRAM contents to be read, in bytes. */
        uint32_t        len;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_raw_dump_output (size:128b/16B) */
 struct hwrm_nvm_raw_dump_output {
@@ -30453,7 +33690,7 @@ struct hwrm_nvm_raw_dump_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_nvm_get_dir_entries *
@@ -30478,7 +33715,8 @@ struct hwrm_nvm_get_dir_entries_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30494,7 +33732,7 @@ struct hwrm_nvm_get_dir_entries_input {
         * This is the host address where the directory will be written.
         */
        uint64_t        host_dest_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_get_dir_entries_output (size:128b/16B) */
 struct hwrm_nvm_get_dir_entries_output {
@@ -30515,7 +33753,7 @@ struct hwrm_nvm_get_dir_entries_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_nvm_get_dir_info *
@@ -30540,7 +33778,8 @@ struct hwrm_nvm_get_dir_info_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30551,7 +33790,7 @@ struct hwrm_nvm_get_dir_info_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_get_dir_info_output (size:192b/24B) */
 struct hwrm_nvm_get_dir_info_output {
@@ -30576,7 +33815,7 @@ struct hwrm_nvm_get_dir_info_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_nvm_write *
@@ -30601,7 +33840,8 @@ struct hwrm_nvm_write_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30646,12 +33886,12 @@ struct hwrm_nvm_write_input {
         * The requested length of the allocated NVM for the item, in bytes. This value may be greater than or equal to the specified data length (dir_data_length).
         * If this value is less than the specified data length, it will be ignored.
         * The response will contain the actual allocated item length, which may be greater than the requested item length.
-        * The purpose for allocating more than the required number of bytes for an item's data is to pre-allocate extra storage (padding) to accomodate
+        * The purpose for allocating more than the required number of bytes for an item's data is to pre-allocate extra storage (padding) to accommodate
         * the potential future growth of an item (e.g. upgraded firmware with a size increase, log growth, expanded configuration data).
         */
        uint32_t        dir_item_length;
        uint32_t        unused_0;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_write_output (size:128b/16B) */
 struct hwrm_nvm_write_output {
@@ -30679,7 +33919,7 @@ struct hwrm_nvm_write_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_write_cmd_err (size:64b/8B) */
 struct hwrm_nvm_write_cmd_err {
@@ -30697,7 +33937,7 @@ struct hwrm_nvm_write_cmd_err {
        #define HWRM_NVM_WRITE_CMD_ERR_CODE_LAST \
                HWRM_NVM_WRITE_CMD_ERR_CODE_NO_SPACE
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /*******************
  * hwrm_nvm_modify *
@@ -30722,7 +33962,8 @@ struct hwrm_nvm_modify_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30749,7 +33990,7 @@ struct hwrm_nvm_modify_input {
         */
        uint32_t        len;
        uint8_t unused_1[4];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_modify_output (size:128b/16B) */
 struct hwrm_nvm_modify_output {
@@ -30770,7 +34011,7 @@ struct hwrm_nvm_modify_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_nvm_find_dir_entry *
@@ -30795,7 +34036,8 @@ struct hwrm_nvm_find_dir_entry_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30838,7 +34080,7 @@ struct hwrm_nvm_find_dir_entry_input {
        #define HWRM_NVM_FIND_DIR_ENTRY_INPUT_OPT_ORDINAL_LAST \
                HWRM_NVM_FIND_DIR_ENTRY_INPUT_OPT_ORDINAL_GT
        uint8_t unused_0[3];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_find_dir_entry_output (size:256b/32B) */
 struct hwrm_nvm_find_dir_entry_output {
@@ -30872,7 +34114,7 @@ struct hwrm_nvm_find_dir_entry_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_nvm_erase_dir_entry *
@@ -30897,7 +34139,8 @@ struct hwrm_nvm_erase_dir_entry_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30911,7 +34154,7 @@ struct hwrm_nvm_erase_dir_entry_input {
        /* Directory Entry Index */
        uint16_t        dir_idx;
        uint8_t unused_0[6];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_erase_dir_entry_output (size:128b/16B) */
 struct hwrm_nvm_erase_dir_entry_output {
@@ -30932,7 +34175,7 @@ struct hwrm_nvm_erase_dir_entry_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_nvm_get_dev_info *
@@ -30957,7 +34200,8 @@ struct hwrm_nvm_get_dev_info_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -30968,7 +34212,7 @@ struct hwrm_nvm_get_dev_info_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_get_dev_info_output (size:256b/32B) */
 struct hwrm_nvm_get_dev_info_output {
@@ -30991,7 +34235,12 @@ struct hwrm_nvm_get_dev_info_output {
        uint32_t        reserved_size;
        /* Available size that can be used, in bytes.  Available size is the NVRAM size take away the used size and reserved size. */
        uint32_t        available_size;
-       uint8_t unused_0[3];
+       /* This field represents the major version of NVM cfg */
+       uint8_t nvm_cfg_ver_maj;
+       /* This field represents the minor version of NVM cfg */
+       uint8_t nvm_cfg_ver_min;
+       /* This field represents the update version of NVM cfg */
+       uint8_t nvm_cfg_ver_upd;
        /*
         * This field is used in Output records to indicate that the output
         * is completely written to RAM.  This field should be read as '1'
@@ -31000,7 +34249,7 @@ struct hwrm_nvm_get_dev_info_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_nvm_mod_dir_entry *
@@ -31025,7 +34274,8 @@ struct hwrm_nvm_mod_dir_entry_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31058,7 +34308,7 @@ struct hwrm_nvm_mod_dir_entry_input {
         * value of the content in the directory entry.
         */
        uint32_t        checksum;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_mod_dir_entry_output (size:128b/16B) */
 struct hwrm_nvm_mod_dir_entry_output {
@@ -31079,7 +34329,7 @@ struct hwrm_nvm_mod_dir_entry_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /**************************
  * hwrm_nvm_verify_update *
@@ -31104,7 +34354,8 @@ struct hwrm_nvm_verify_update_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31131,7 +34382,7 @@ struct hwrm_nvm_verify_update_input {
         */
        uint16_t        dir_ext;
        uint8_t unused_0[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_verify_update_output (size:128b/16B) */
 struct hwrm_nvm_verify_update_output {
@@ -31152,7 +34403,7 @@ struct hwrm_nvm_verify_update_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /***************************
  * hwrm_nvm_install_update *
@@ -31177,7 +34428,8 @@ struct hwrm_nvm_install_update_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31216,7 +34468,7 @@ struct hwrm_nvm_install_update_input {
        #define HWRM_NVM_INSTALL_UPDATE_INPUT_FLAGS_ERASE_UNUSED_SPACE \
                UINT32_C(0x1)
        /*
-        * If set to 1, then unspecifed images, images not in the package file, will be safely deleted.
+        * If set to 1, then unspecified images, images not in the package file, will be safely deleted.
         * When combined with erase_unused_space then unspecified images will be securely erased.
         */
        #define HWRM_NVM_INSTALL_UPDATE_INPUT_FLAGS_REMOVE_UNUSED_PKG \
@@ -31228,7 +34480,7 @@ struct hwrm_nvm_install_update_input {
        #define HWRM_NVM_INSTALL_UPDATE_INPUT_FLAGS_ALLOWED_TO_DEFRAG \
                UINT32_C(0x4)
        uint8_t unused_0[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_install_update_output (size:192b/24B) */
 struct hwrm_nvm_install_update_output {
@@ -31297,7 +34549,7 @@ struct hwrm_nvm_install_update_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_install_update_cmd_err (size:64b/8B) */
 struct hwrm_nvm_install_update_cmd_err {
@@ -31315,7 +34567,7 @@ struct hwrm_nvm_install_update_cmd_err {
        #define HWRM_NVM_INSTALL_UPDATE_CMD_ERR_CODE_LAST \
                HWRM_NVM_INSTALL_UPDATE_CMD_ERR_CODE_NO_SPACE
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /******************
  * hwrm_nvm_flush *
@@ -31340,7 +34592,8 @@ struct hwrm_nvm_flush_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31351,7 +34604,7 @@ struct hwrm_nvm_flush_input {
         * point to a physically contiguous block of memory.
         */
        uint64_t        resp_addr;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_flush_output (size:128b/16B) */
 struct hwrm_nvm_flush_output {
@@ -31372,7 +34625,7 @@ struct hwrm_nvm_flush_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_flush_cmd_err (size:64b/8B) */
 struct hwrm_nvm_flush_cmd_err {
@@ -31388,7 +34641,7 @@ struct hwrm_nvm_flush_cmd_err {
        #define HWRM_NVM_FLUSH_CMD_ERR_CODE_LAST \
                HWRM_NVM_FLUSH_CMD_ERR_CODE_FAIL
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_nvm_get_variable *
@@ -31413,7 +34666,8 @@ struct hwrm_nvm_get_variable_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31464,7 +34718,7 @@ struct hwrm_nvm_get_variable_input {
        #define HWRM_NVM_GET_VARIABLE_INPUT_FLAGS_FACTORY_DFLT \
                UINT32_C(0x1)
        uint8_t unused_0;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_get_variable_output (size:128b/16B) */
 struct hwrm_nvm_get_variable_output {
@@ -31503,7 +34757,7 @@ struct hwrm_nvm_get_variable_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_get_variable_cmd_err (size:64b/8B) */
 struct hwrm_nvm_get_variable_cmd_err {
@@ -31523,7 +34777,7 @@ struct hwrm_nvm_get_variable_cmd_err {
        #define HWRM_NVM_GET_VARIABLE_CMD_ERR_CODE_LAST \
                HWRM_NVM_GET_VARIABLE_CMD_ERR_CODE_LEN_TOO_SHORT
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /*************************
  * hwrm_nvm_set_variable *
@@ -31548,7 +34802,8 @@ struct hwrm_nvm_set_variable_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31613,8 +34868,14 @@ struct hwrm_nvm_set_variable_input {
                (UINT32_C(0x3) << 1)
        #define HWRM_NVM_SET_VARIABLE_INPUT_FLAGS_ENCRYPT_MODE_LAST \
                HWRM_NVM_SET_VARIABLE_INPUT_FLAGS_ENCRYPT_MODE_HMAC_SHA1_AUTH
+       #define HWRM_NVM_SET_VARIABLE_INPUT_FLAGS_FLAGS_UNUSED_0_MASK \
+               UINT32_C(0x70)
+       #define HWRM_NVM_SET_VARIABLE_INPUT_FLAGS_FLAGS_UNUSED_0_SFT         4
+       /* When this bit is 1, update the factory default region */
+       #define HWRM_NVM_SET_VARIABLE_INPUT_FLAGS_FACTORY_DEFAULT \
+               UINT32_C(0x80)
        uint8_t unused_0;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_set_variable_output (size:128b/16B) */
 struct hwrm_nvm_set_variable_output {
@@ -31635,7 +34896,7 @@ struct hwrm_nvm_set_variable_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_set_variable_cmd_err (size:64b/8B) */
 struct hwrm_nvm_set_variable_cmd_err {
@@ -31653,7 +34914,7 @@ struct hwrm_nvm_set_variable_cmd_err {
        #define HWRM_NVM_SET_VARIABLE_CMD_ERR_CODE_LAST \
                HWRM_NVM_SET_VARIABLE_CMD_ERR_CODE_CORRUPT_VAR
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
 
 /****************************
  * hwrm_nvm_validate_option *
@@ -31678,7 +34939,8 @@ struct hwrm_nvm_validate_option_input {
        /*
         * The target ID of the command:
         * * 0x0-0xFFF8 - The function ID
-        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
         * * 0xFFFF - HWRM
         */
        uint16_t        target_id;
@@ -31723,7 +34985,7 @@ struct hwrm_nvm_validate_option_input {
        /* index for the 4th dimensions */
        uint16_t        index_3;
        uint8_t unused_0[2];
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_validate_option_output (size:128b/16B) */
 struct hwrm_nvm_validate_option_output {
@@ -31751,7 +35013,7 @@ struct hwrm_nvm_validate_option_output {
         * the order of writes has to be such that this field is written last.
         */
        uint8_t valid;
-} __attribute__((packed));
+} __rte_packed;
 
 /* hwrm_nvm_validate_option_cmd_err (size:64b/8B) */
 struct hwrm_nvm_validate_option_cmd_err {
@@ -31765,6 +35027,229 @@ struct hwrm_nvm_validate_option_cmd_err {
        #define HWRM_NVM_VALIDATE_OPTION_CMD_ERR_CODE_LAST \
                HWRM_NVM_VALIDATE_OPTION_CMD_ERR_CODE_UNKNOWN
        uint8_t unused_0[7];
-} __attribute__((packed));
+} __rte_packed;
+
+/*****************
+ * hwrm_fw_reset *
+ ******************/
+
+
+/* hwrm_fw_reset_input (size:192b/24B) */
+struct hwrm_fw_reset_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFE - Reserved for internal processors
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       /* Type of embedded processor. */
+       uint8_t embedded_proc_type;
+       /* Boot Processor */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_BOOT \
+               UINT32_C(0x0)
+       /* Management Processor */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_MGMT \
+               UINT32_C(0x1)
+       /* Network control processor */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_NETCTRL \
+               UINT32_C(0x2)
+       /* RoCE control processor */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_ROCE \
+               UINT32_C(0x3)
+       /*
+        * Host (in multi-host environment): This is only valid if requester is IPC.
+        * Reinit host hardware resources and PCIe.
+        */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_HOST \
+               UINT32_C(0x4)
+       /* AP processor complex (in multi-host environment). Use host_idx to control which core is reset */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_AP \
+               UINT32_C(0x5)
+       /* Reset all blocks of the chip (including all processors) */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_CHIP \
+               UINT32_C(0x6)
+       /*
+        * Host (in multi-host environment): This is only valid if requester is IPC.
+        * Reinit host hardware resources.
+        */
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_HOST_RESOURCE_REINIT \
+               UINT32_C(0x7)
+       #define HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_LAST \
+               HWRM_FW_RESET_INPUT_EMBEDDED_PROC_TYPE_HOST_RESOURCE_REINIT
+       /* Type of self reset. */
+       uint8_t selfrst_status;
+       /* No Self Reset */
+       #define HWRM_FW_RESET_INPUT_SELFRST_STATUS_SELFRSTNONE \
+               UINT32_C(0x0)
+       /* Self Reset as soon as possible to do so safely */
+       #define HWRM_FW_RESET_INPUT_SELFRST_STATUS_SELFRSTASAP \
+               UINT32_C(0x1)
+       /* Self Reset on PCIe Reset */
+       #define HWRM_FW_RESET_INPUT_SELFRST_STATUS_SELFRSTPCIERST \
+               UINT32_C(0x2)
+       /* Self Reset immediately after notification to all clients. */
+       #define HWRM_FW_RESET_INPUT_SELFRST_STATUS_SELFRSTIMMEDIATE \
+               UINT32_C(0x3)
+       #define HWRM_FW_RESET_INPUT_SELFRST_STATUS_LAST \
+               HWRM_FW_RESET_INPUT_SELFRST_STATUS_SELFRSTIMMEDIATE
+       /*
+        * Indicate which host is being reset. 0 means first host.
+        * Only valid when embedded_proc_type is host in multihost
+        * environment
+        */
+       uint8_t host_idx;
+       uint8_t flags;
+       /*
+        * When this bit is '1', then the core firmware initiates
+        * the reset only after graceful shut down of all registered instances.
+        * If not, the device will continue with the existing firmware.
+        */
+       #define HWRM_FW_RESET_INPUT_FLAGS_RESET_GRACEFUL     UINT32_C(0x1)
+       uint8_t unused_0[4];
+} __rte_packed;
+
+/* hwrm_fw_reset_output (size:128b/16B) */
+struct hwrm_fw_reset_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /* Type of self reset. */
+       uint8_t selfrst_status;
+       /* No Self Reset */
+       #define HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_SELFRSTNONE \
+               UINT32_C(0x0)
+       /* Self Reset as soon as possible to do so safely */
+       #define HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_SELFRSTASAP \
+               UINT32_C(0x1)
+       /* Self Reset on PCIe Reset */
+       #define HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_SELFRSTPCIERST \
+               UINT32_C(0x2)
+       /* Self Reset immediately after notification to all clients. */
+       #define HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_SELFRSTIMMEDIATE \
+               UINT32_C(0x3)
+       #define HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_LAST \
+               HWRM_FW_RESET_OUTPUT_SELFRST_STATUS_SELFRSTIMMEDIATE
+       uint8_t unused_0[6];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t valid;
+} __rte_packed;
+
+/**********************
+ * hwrm_port_ts_query *
+ ***********************/
+
+
+/* hwrm_port_ts_query_input (size:192b/24B) */
+struct hwrm_port_ts_query_input {
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /*
+        * The completion ring to send the completion event on. This should
+        * be the NQ ID returned from the `nq_alloc` HWRM command.
+        */
+       uint16_t        cmpl_ring;
+       /*
+        * The sequence ID is used by the driver for tracking multiple
+        * commands. This ID is treated as opaque data by the firmware and
+        * the value is returned in the `hwrm_resp_hdr` upon completion.
+        */
+       uint16_t        seq_id;
+       /*
+        * The target ID of the command:
+        * * 0x0-0xFFF8 - The function ID
+        * * 0xFFF8-0xFFFC, 0xFFFE - Reserved for internal processors
+        * * 0xFFFD - Reserved for user-space HWRM interface
+        * * 0xFFFF - HWRM
+        */
+       uint16_t        target_id;
+       /*
+        * A physical address pointer pointing to a host buffer that the
+        * command's response data will be written. This can be either a host
+        * physical address (HPA) or a guest physical address (GPA) and must
+        * point to a physically contiguous block of memory.
+        */
+       uint64_t        resp_addr;
+       uint32_t        flags;
+       /*
+        * Enumeration denoting the RX, TX type of the resource.
+        * This enumeration is used for resources that are similar for both
+        * TX and RX paths of the chip.
+        */
+       #define HWRM_PORT_TS_QUERY_INPUT_FLAGS_PATH             0x1UL
+       /* tx path */
+       #define HWRM_PORT_TS_QUERY_INPUT_FLAGS_PATH_TX          0x0UL
+       /* rx path */
+       #define HWRM_PORT_TS_QUERY_INPUT_FLAGS_PATH_RX          0x1UL
+       #define HWRM_PORT_TS_QUERY_INPUT_FLAGS_PATH_LAST        \
+               HWRM_PORT_TS_QUERY_INPUT_FLAGS_PATH_RX
+       /*
+        * If set, the response includes the current value of the free
+        * running timer.
+        */
+       #define HWRM_PORT_TS_QUERY_INPUT_FLAGS_CURRENT_TIME     0x2UL
+       /* Port ID of port that is being queried. */
+       uint16_t        port_id;
+       uint8_t         unused_0[2];
+} __rte_packed;
+
+/* hwrm_port_ts_query_output (size:192b/24B) */
+struct hwrm_port_ts_query_output {
+       /* The specific error status for the command. */
+       uint16_t        error_code;
+       /* The HWRM command request type. */
+       uint16_t        req_type;
+       /* The sequence ID from the original command. */
+       uint16_t        seq_id;
+       /* The length of the response data in number of bytes. */
+       uint16_t        resp_len;
+       /*
+        * Timestamp value of PTP message captured, or current value of
+        * free running timer.
+        */
+       uint32_t        ptp_msg_ts[2];
+       /* Sequence ID of the PTP message captured. */
+       uint16_t        ptp_msg_seqid;
+       uint8_t         unused_0[5];
+       /*
+        * This field is used in Output records to indicate that the output
+        * is completely written to RAM.  This field should be read as '1'
+        * to indicate that the output has been completely written.
+        * When writing a command completion or response to an internal processor,
+        * the order of writes has to be such that this field is written last.
+        */
+       uint8_t         valid;
+} __rte_packed;
 
 #endif /* _HSI_STRUCT_DEF_DPDK_H_ */