drivers/event/sw/sw_evdev.h

   1 /*-
   2  *   BSD LICENSE
   3  *
   4  *   Copyright(c) 2016-2017 Intel Corporation. All rights reserved.
   5  *
   6  *   Redistribution and use in source and binary forms, with or without
   7  *   modification, are permitted provided that the following conditions
   8  *   are met:
   9  *
  10  *     * Redistributions of source code must retain the above copyright
  11  *       notice, this list of conditions and the following disclaimer.
  12  *     * Redistributions in binary form must reproduce the above copyright
  13  *       notice, this list of conditions and the following disclaimer in
  14  *       the documentation and/or other materials provided with the
  15  *       distribution.
  16  *     * Neither the name of Intel Corporation nor the names of its
  17  *       contributors may be used to endorse or promote products derived
  18  *       from this software without specific prior written permission.
  19  *
  20  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  21  *   "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  22  *   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  23  *   A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  24  *   OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  25  *   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  26  *   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  27  *   DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  28  *   THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  29  *   (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  30  *   OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  31  */
  32
  33 #ifndef _SW_EVDEV_H_
  34 #define _SW_EVDEV_H_
  35
  36 #include <rte_eventdev.h>
  37 #include <rte_eventdev_pmd.h>
  38
  39 #define SW_DEFAULT_CREDIT_QUANTA 32
  40 #define SW_DEFAULT_SCHED_QUANTA 128
  41 #define SW_QID_NUM_FIDS 16384
  42 #define SW_IQS_MAX 4
  43 #define SW_Q_PRIORITY_MAX 255
  44 #define SW_PORTS_MAX 64
  45 #define MAX_SW_CONS_Q_DEPTH 128
  46 #define SW_INFLIGHT_EVENTS_TOTAL 4096
  47 /* allow for lots of over-provisioning */
  48 #define MAX_SW_PROD_Q_DEPTH 4096
  49 #define SW_FRAGMENTS_MAX 16
  50
  51 #define EVENTDEV_NAME_SW_PMD event_sw
  52 #define SW_PMD_NAME RTE_STR(event_sw)
  53
  54 #ifdef RTE_LIBRTE_PMD_EVDEV_SW_DEBUG
  55 #define SW_LOG_INFO(fmt, args...) \
  56         RTE_LOG(INFO, EVENTDEV, "[%s] %s() line %u: " fmt "\n", \
  57                         SW_PMD_NAME, \
  58                         __func__, __LINE__, ## args)
  59
  60 #define SW_LOG_DBG(fmt, args...) \
  61         RTE_LOG(DEBUG, EVENTDEV, "[%s] %s() line %u: " fmt "\n", \
  62                         SW_PMD_NAME, \
  63                         __func__, __LINE__, ## args)
  64 #else
  65 #define SW_LOG_INFO(fmt, args...)
  66 #define SW_LOG_DBG(fmt, args...)
  67 #endif
  68
  69 #define SW_LOG_ERR(fmt, args...) \
  70         RTE_LOG(ERR, EVENTDEV, "[%s] %s() line %u: " fmt "\n", \
  71                         SW_PMD_NAME, \
  72                         __func__, __LINE__, ## args)
  73
  74 /* Records basic event stats at a given point. Used in port and qid structs */
  75 struct sw_point_stats {
  76         uint64_t rx_pkts;
  77         uint64_t rx_dropped;
  78         uint64_t tx_pkts;
  79 };
  80
  81 /* structure used to track what port a flow (FID) is pinned to */
  82 struct sw_fid_t {
  83         /* which CQ this FID is currently pinned to */
  84         int32_t cq;
  85         /* number of packets gone to the CQ with this FID */
  86         uint32_t pcount;
  87 };
  88
  89 struct reorder_buffer_entry {
  90         uint16_t num_fragments;         /**< Number of packet fragments */
  91         uint16_t fragment_index;        /**< Points to the oldest valid frag */
  92         uint8_t ready;                  /**< Entry is ready to be reordered */
  93         struct rte_event fragments[SW_FRAGMENTS_MAX];
  94 };
  95
  96 struct sw_qid {
  97         /* set when the QID has been initialized */
  98         uint8_t initialized;
  99         /* The type of this QID */
 100         int8_t type;
 101         /* Integer ID representing the queue. This is used in history lists,
 102          * to identify the stage of processing.
 103          */
 104         uint32_t id;
 105         struct sw_point_stats stats;
 106
 107         /* Internal priority rings for packets */
 108         struct iq_ring *iq[SW_IQS_MAX];
 109         uint32_t iq_pkt_mask; /* A mask to indicate packets in an IQ */
 110         uint64_t iq_pkt_count[SW_IQS_MAX];
 111
 112         /* Information on what CQs are polling this IQ */
 113         uint32_t cq_num_mapped_cqs;
 114         uint32_t cq_next_tx; /* cq to write next (non-atomic) packet */
 115         uint32_t cq_map[SW_PORTS_MAX];
 116
 117         /* Track flow ids for atomic load balancing */
 118         struct sw_fid_t fids[SW_QID_NUM_FIDS];
 119
 120         /* Track packet order for reordering when needed */
 121         struct reorder_buffer_entry *reorder_buffer; /*< pkts await reorder */
 122         struct rte_ring *reorder_buffer_freelist; /* available reorder slots */
 123         uint32_t reorder_buffer_index; /* oldest valid reorder buffer entry */
 124         uint32_t window_size;          /* Used to wrap reorder_buffer_index */
 125
 126         uint8_t priority;
 127 };
 128
 129 struct sw_evdev {
 130         struct rte_eventdev_data *data;
 131
 132         int32_t sched_quanta;
 133         uint32_t credit_update_quanta;
 134 };
 135
 136 static inline struct sw_evdev *
 137 sw_pmd_priv(const struct rte_eventdev *eventdev)
 138 {
 139         return eventdev->data->dev_private;
 140 }
 141
 142 static inline const struct sw_evdev *
 143 sw_pmd_priv_const(const struct rte_eventdev *eventdev)
 144 {
 145         return eventdev->data->dev_private;
 146 }
 147
 148 #endif /* _SW_EVDEV_H_ */