drivers/net/mlx5/linux/mlx5_mp_os.c

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright 2019 6WIND S.A.
   3  * Copyright 2019 Mellanox Technologies, Ltd
   4  */
   5
   6 #include <stdio.h>
   7 #include <time.h>
   8
   9 #include <rte_eal.h>
  10 #include <ethdev_driver.h>
  11 #include <rte_string_fns.h>
  12
  13 #include <mlx5_common_mp.h>
  14 #include <mlx5_common_mr.h>
  15 #include <mlx5_malloc.h>
  16
  17 #include "mlx5.h"
  18 #include "mlx5_rxtx.h"
  19 #include "mlx5_rx.h"
  20 #include "mlx5_utils.h"
  21
  22 int
  23 mlx5_mp_os_primary_handle(const struct rte_mp_msg *mp_msg, const void *peer)
  24 {
  25         struct rte_mp_msg mp_res;
  26         struct mlx5_mp_param *res = (struct mlx5_mp_param *)mp_res.param;
  27         const struct mlx5_mp_param *param =
  28                 (const struct mlx5_mp_param *)mp_msg->param;
  29         struct rte_eth_dev *dev;
  30         struct mlx5_priv *priv;
  31         struct mr_cache_entry entry;
  32         uint32_t lkey;
  33         int ret;
  34
  35         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_PRIMARY);
  36         if (!rte_eth_dev_is_valid_port(param->port_id)) {
  37                 rte_errno = ENODEV;
  38                 DRV_LOG(ERR, "port %u invalid port ID", param->port_id);
  39                 return -rte_errno;
  40         }
  41         dev = &rte_eth_devices[param->port_id];
  42         priv = dev->data->dev_private;
  43         switch (param->type) {
  44         case MLX5_MP_REQ_CREATE_MR:
  45                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  46                 lkey = mlx5_mr_create_primary(priv->sh->pd,
  47                                               &priv->sh->share_cache,
  48                                               &entry, param->args.addr,
  49                                               priv->config.mr_ext_memseg_en);
  50                 if (lkey == UINT32_MAX)
  51                         res->result = -rte_errno;
  52                 ret = rte_mp_reply(&mp_res, peer);
  53                 break;
  54         case MLX5_MP_REQ_VERBS_CMD_FD:
  55                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  56                 mp_res.num_fds = 1;
  57                 mp_res.fds[0] = ((struct ibv_context *)priv->sh->ctx)->cmd_fd;
  58                 res->result = 0;
  59                 ret = rte_mp_reply(&mp_res, peer);
  60                 break;
  61         case MLX5_MP_REQ_QUEUE_STATE_MODIFY:
  62                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  63                 res->result = mlx5_queue_state_modify_primary
  64                                         (dev, &param->args.state_modify);
  65                 ret = rte_mp_reply(&mp_res, peer);
  66                 break;
  67         case MLX5_MP_REQ_QUEUE_RX_STOP:
  68                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  69                 res->result = mlx5_rx_queue_stop_primary
  70                                         (dev, param->args.queue_id.queue_id);
  71                 ret = rte_mp_reply(&mp_res, peer);
  72                 break;
  73         case MLX5_MP_REQ_QUEUE_RX_START:
  74                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  75                 res->result = mlx5_rx_queue_start_primary
  76                                         (dev, param->args.queue_id.queue_id);
  77                 ret = rte_mp_reply(&mp_res, peer);
  78                 break;
  79         case MLX5_MP_REQ_QUEUE_TX_STOP:
  80                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  81                 res->result = mlx5_tx_queue_stop_primary
  82                                         (dev, param->args.queue_id.queue_id);
  83                 ret = rte_mp_reply(&mp_res, peer);
  84                 break;
  85         case MLX5_MP_REQ_QUEUE_TX_START:
  86                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
  87                 res->result = mlx5_tx_queue_start_primary
  88                                         (dev, param->args.queue_id.queue_id);
  89                 ret = rte_mp_reply(&mp_res, peer);
  90                 break;
  91         default:
  92                 rte_errno = EINVAL;
  93                 DRV_LOG(ERR, "port %u invalid mp request type",
  94                         dev->data->port_id);
  95                 return -rte_errno;
  96         }
  97         return ret;
  98 }
  99
 100 /**
 101  * IPC message handler of a secondary process.
 102  *
 103  * @param[in] dev
 104  *   Pointer to Ethernet structure.
 105  * @param[in] peer
 106  *   Pointer to the peer socket path.
 107  *
 108  * @return
 109  *   0 on success, a negative errno value otherwise and rte_errno is set.
 110  */
 111 int
 112 mlx5_mp_os_secondary_handle(const struct rte_mp_msg *mp_msg, const void *peer)
 113 {
 114 struct rte_mp_msg mp_res;
 115         struct mlx5_mp_param *res = (struct mlx5_mp_param *)mp_res.param;
 116         const struct mlx5_mp_param *param =
 117                 (const struct mlx5_mp_param *)mp_msg->param;
 118         struct rte_eth_dev *dev;
 119         struct mlx5_proc_priv *ppriv;
 120         struct mlx5_priv *priv;
 121         int ret;
 122
 123         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_SECONDARY);
 124         if (!rte_eth_dev_is_valid_port(param->port_id)) {
 125                 rte_errno = ENODEV;
 126                 DRV_LOG(ERR, "port %u invalid port ID", param->port_id);
 127                 return -rte_errno;
 128         }
 129         dev = &rte_eth_devices[param->port_id];
 130         priv = dev->data->dev_private;
 131         switch (param->type) {
 132         case MLX5_MP_REQ_START_RXTX:
 133                 DRV_LOG(INFO, "port %u starting datapath", dev->data->port_id);
 134                 rte_mb();
 135                 dev->rx_pkt_burst = mlx5_select_rx_function(dev);
 136                 dev->tx_pkt_burst = mlx5_select_tx_function(dev);
 137                 ppriv = (struct mlx5_proc_priv *)dev->process_private;
 138                 /* If Tx queue number changes, re-initialize UAR. */
 139                 if (ppriv->uar_table_sz != priv->txqs_n) {
 140                         mlx5_tx_uar_uninit_secondary(dev);
 141                         mlx5_proc_priv_uninit(dev);
 142                         ret = mlx5_proc_priv_init(dev);
 143                         if (ret)
 144                                 return -rte_errno;
 145                         ret = mlx5_tx_uar_init_secondary(dev, mp_msg->fds[0]);
 146                         if (ret) {
 147                                 mlx5_proc_priv_uninit(dev);
 148                                 return -rte_errno;
 149                         }
 150                 }
 151                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
 152                 res->result = 0;
 153                 ret = rte_mp_reply(&mp_res, peer);
 154                 break;
 155         case MLX5_MP_REQ_STOP_RXTX:
 156                 DRV_LOG(INFO, "port %u stopping datapath", dev->data->port_id);
 157                 dev->rx_pkt_burst = removed_rx_burst;
 158                 dev->tx_pkt_burst = removed_tx_burst;
 159                 rte_mb();
 160                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
 161                 res->result = 0;
 162                 ret = rte_mp_reply(&mp_res, peer);
 163                 break;
 164         default:
 165                 rte_errno = EINVAL;
 166                 DRV_LOG(ERR, "port %u invalid mp request type",
 167                         dev->data->port_id);
 168                 return -rte_errno;
 169         }
 170         return ret;
 171 }
 172
 173 /**
 174  * Broadcast request of stopping/starting data-path to secondary processes.
 175  *
 176  * @param[in] dev
 177  *   Pointer to Ethernet structure.
 178  * @param[in] type
 179  *   Request type.
 180  */
 181 static void
 182 mp_req_on_rxtx(struct rte_eth_dev *dev, enum mlx5_mp_req_type type)
 183 {
 184         struct rte_mp_msg mp_req;
 185         struct rte_mp_msg *mp_res;
 186         struct rte_mp_reply mp_rep;
 187         struct mlx5_mp_param *res;
 188         struct timespec ts = {.tv_sec = MLX5_MP_REQ_TIMEOUT_SEC, .tv_nsec = 0};
 189         struct mlx5_priv *priv = dev->data->dev_private;
 190         int ret;
 191         int i;
 192
 193         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_PRIMARY);
 194         if (!mlx5_shared_data->secondary_cnt)
 195                 return;
 196         if (type != MLX5_MP_REQ_START_RXTX && type != MLX5_MP_REQ_STOP_RXTX) {
 197                 DRV_LOG(ERR, "port %u unknown request (req_type %d)",
 198                         dev->data->port_id, type);
 199                 return;
 200         }
 201         mp_init_msg(&priv->mp_id, &mp_req, type);
 202         if (type == MLX5_MP_REQ_START_RXTX) {
 203                 mp_req.num_fds = 1;
 204                 mp_req.fds[0] = ((struct ibv_context *)priv->sh->ctx)->cmd_fd;
 205         }
 206         ret = rte_mp_request_sync(&mp_req, &mp_rep, &ts);
 207         if (ret) {
 208                 if (rte_errno != ENOTSUP)
 209                         DRV_LOG(ERR, "port %u failed to request stop/start Rx/Tx (%d)",
 210                                 dev->data->port_id, type);
 211                 goto exit;
 212         }
 213         if (mp_rep.nb_sent != mp_rep.nb_received) {
 214                 DRV_LOG(ERR,
 215                         "port %u not all secondaries responded (req_type %d)",
 216                         dev->data->port_id, type);
 217                 goto exit;
 218         }
 219         for (i = 0; i < mp_rep.nb_received; i++) {
 220                 mp_res = &mp_rep.msgs[i];
 221                 res = (struct mlx5_mp_param *)mp_res->param;
 222                 if (res->result) {
 223                         DRV_LOG(ERR, "port %u request failed on secondary #%d",
 224                                 dev->data->port_id, i);
 225                         goto exit;
 226                 }
 227         }
 228 exit:
 229         mlx5_free(mp_rep.msgs);
 230 }
 231
 232 /**
 233  * Broadcast request of starting data-path to secondary processes. The request
 234  * is synchronous.
 235  *
 236  * @param[in] dev
 237  *   Pointer to Ethernet structure.
 238  */
 239 void
 240 mlx5_mp_os_req_start_rxtx(struct rte_eth_dev *dev)
 241 {
 242         mp_req_on_rxtx(dev, MLX5_MP_REQ_START_RXTX);
 243 }
 244
 245 /**
 246  * Broadcast request of stopping data-path to secondary processes. The request
 247  * is synchronous.
 248  *
 249  * @param[in] dev
 250  *   Pointer to Ethernet structure.
 251  */
 252 void
 253 mlx5_mp_os_req_stop_rxtx(struct rte_eth_dev *dev)
 254 {
 255         mp_req_on_rxtx(dev, MLX5_MP_REQ_STOP_RXTX);
 256 }
 257
 258 /**
 259  * Request Verbs Rx/Tx queue stop or start to the primary process.
 260  *
 261  * @param[in] dev
 262  *   Pointer to Ethernet structure.
 263  * @param queue_id
 264  *   Queue ID to control.
 265  * @param req_type
 266  *   request type
 267  *     MLX5_MP_REQ_QUEUE_RX_START - start Rx queue
 268  *     MLX5_MP_REQ_QUEUE_TX_START - stop Tx queue
 269  *     MLX5_MP_REQ_QUEUE_RX_STOP - stop Rx queue
 270  *     MLX5_MP_REQ_QUEUE_TX_STOP - stop Tx queue
 271  * @return
 272  *   0 on success, a negative errno value otherwise and
 273  *     rte_errno is set.
 274  */
 275 int
 276 mlx5_mp_os_req_queue_control(struct rte_eth_dev *dev, uint16_t queue_id,
 277                           enum mlx5_mp_req_type req_type)
 278 {
 279         struct rte_mp_msg mp_req;
 280         struct rte_mp_msg *mp_res;
 281         struct rte_mp_reply mp_rep;
 282         struct mlx5_mp_param *req = (struct mlx5_mp_param *)mp_req.param;
 283         struct mlx5_mp_param *res;
 284         struct timespec ts = {.tv_sec = MLX5_MP_REQ_TIMEOUT_SEC, .tv_nsec = 0};
 285         struct mlx5_priv *priv;
 286         int ret;
 287
 288         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_SECONDARY);
 289         priv = dev->data->dev_private;
 290         mp_init_msg(&priv->mp_id, &mp_req, req_type);
 291         req->args.queue_id.queue_id = queue_id;
 292         ret = rte_mp_request_sync(&mp_req, &mp_rep, &ts);
 293         if (ret) {
 294                 DRV_LOG(ERR, "port %u request to primary process failed",
 295                         dev->data->port_id);
 296                 return -rte_errno;
 297         }
 298         MLX5_ASSERT(mp_rep.nb_received == 1);
 299         mp_res = &mp_rep.msgs[0];
 300         res = (struct mlx5_mp_param *)mp_res->param;
 301         ret = res->result;
 302         free(mp_rep.msgs);
 303         return ret;
 304 }