net/mlx5: separate Rx function declarations to another file
[dpdk.git] / drivers / net / mlx5 / linux / mlx5_mp_os.c
1 /* SPDX-License-Identifier: BSD-3-Clause
2  * Copyright 2019 6WIND S.A.
3  * Copyright 2019 Mellanox Technologies, Ltd
4  */
5
6 #include <stdio.h>
7 #include <time.h>
8
9 #include <rte_eal.h>
10 #include <ethdev_driver.h>
11 #include <rte_string_fns.h>
12
13 #include <mlx5_common_mp.h>
14 #include <mlx5_common_mr.h>
15 #include <mlx5_malloc.h>
16
17 #include "mlx5.h"
18 #include "mlx5_rxtx.h"
19 #include "mlx5_rx.h"
20 #include "mlx5_utils.h"
21
22 int
23 mlx5_mp_os_primary_handle(const struct rte_mp_msg *mp_msg, const void *peer)
24 {
25         struct rte_mp_msg mp_res;
26         struct mlx5_mp_param *res = (struct mlx5_mp_param *)mp_res.param;
27         const struct mlx5_mp_param *param =
28                 (const struct mlx5_mp_param *)mp_msg->param;
29         struct rte_eth_dev *dev;
30         struct mlx5_priv *priv;
31         struct mr_cache_entry entry;
32         uint32_t lkey;
33         int ret;
34
35         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_PRIMARY);
36         if (!rte_eth_dev_is_valid_port(param->port_id)) {
37                 rte_errno = ENODEV;
38                 DRV_LOG(ERR, "port %u invalid port ID", param->port_id);
39                 return -rte_errno;
40         }
41         dev = &rte_eth_devices[param->port_id];
42         priv = dev->data->dev_private;
43         switch (param->type) {
44         case MLX5_MP_REQ_CREATE_MR:
45                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
46                 lkey = mlx5_mr_create_primary(priv->sh->pd,
47                                               &priv->sh->share_cache,
48                                               &entry, param->args.addr,
49                                               priv->config.mr_ext_memseg_en);
50                 if (lkey == UINT32_MAX)
51                         res->result = -rte_errno;
52                 ret = rte_mp_reply(&mp_res, peer);
53                 break;
54         case MLX5_MP_REQ_VERBS_CMD_FD:
55                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
56                 mp_res.num_fds = 1;
57                 mp_res.fds[0] = ((struct ibv_context *)priv->sh->ctx)->cmd_fd;
58                 res->result = 0;
59                 ret = rte_mp_reply(&mp_res, peer);
60                 break;
61         case MLX5_MP_REQ_QUEUE_STATE_MODIFY:
62                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
63                 res->result = mlx5_queue_state_modify_primary
64                                         (dev, &param->args.state_modify);
65                 ret = rte_mp_reply(&mp_res, peer);
66                 break;
67         case MLX5_MP_REQ_QUEUE_RX_STOP:
68                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
69                 res->result = mlx5_rx_queue_stop_primary
70                                         (dev, param->args.queue_id.queue_id);
71                 ret = rte_mp_reply(&mp_res, peer);
72                 break;
73         case MLX5_MP_REQ_QUEUE_RX_START:
74                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
75                 res->result = mlx5_rx_queue_start_primary
76                                         (dev, param->args.queue_id.queue_id);
77                 ret = rte_mp_reply(&mp_res, peer);
78                 break;
79         case MLX5_MP_REQ_QUEUE_TX_STOP:
80                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
81                 res->result = mlx5_tx_queue_stop_primary
82                                         (dev, param->args.queue_id.queue_id);
83                 ret = rte_mp_reply(&mp_res, peer);
84                 break;
85         case MLX5_MP_REQ_QUEUE_TX_START:
86                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
87                 res->result = mlx5_tx_queue_start_primary
88                                         (dev, param->args.queue_id.queue_id);
89                 ret = rte_mp_reply(&mp_res, peer);
90                 break;
91         default:
92                 rte_errno = EINVAL;
93                 DRV_LOG(ERR, "port %u invalid mp request type",
94                         dev->data->port_id);
95                 return -rte_errno;
96         }
97         return ret;
98 }
99
100 /**
101  * IPC message handler of a secondary process.
102  *
103  * @param[in] dev
104  *   Pointer to Ethernet structure.
105  * @param[in] peer
106  *   Pointer to the peer socket path.
107  *
108  * @return
109  *   0 on success, a negative errno value otherwise and rte_errno is set.
110  */
111 int
112 mlx5_mp_os_secondary_handle(const struct rte_mp_msg *mp_msg, const void *peer)
113 {
114 struct rte_mp_msg mp_res;
115         struct mlx5_mp_param *res = (struct mlx5_mp_param *)mp_res.param;
116         const struct mlx5_mp_param *param =
117                 (const struct mlx5_mp_param *)mp_msg->param;
118         struct rte_eth_dev *dev;
119         struct mlx5_proc_priv *ppriv;
120         struct mlx5_priv *priv;
121         int ret;
122
123         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_SECONDARY);
124         if (!rte_eth_dev_is_valid_port(param->port_id)) {
125                 rte_errno = ENODEV;
126                 DRV_LOG(ERR, "port %u invalid port ID", param->port_id);
127                 return -rte_errno;
128         }
129         dev = &rte_eth_devices[param->port_id];
130         priv = dev->data->dev_private;
131         switch (param->type) {
132         case MLX5_MP_REQ_START_RXTX:
133                 DRV_LOG(INFO, "port %u starting datapath", dev->data->port_id);
134                 rte_mb();
135                 dev->rx_pkt_burst = mlx5_select_rx_function(dev);
136                 dev->tx_pkt_burst = mlx5_select_tx_function(dev);
137                 ppriv = (struct mlx5_proc_priv *)dev->process_private;
138                 /* If Tx queue number changes, re-initialize UAR. */
139                 if (ppriv->uar_table_sz != priv->txqs_n) {
140                         mlx5_tx_uar_uninit_secondary(dev);
141                         mlx5_proc_priv_uninit(dev);
142                         ret = mlx5_proc_priv_init(dev);
143                         if (ret)
144                                 return -rte_errno;
145                         ret = mlx5_tx_uar_init_secondary(dev, mp_msg->fds[0]);
146                         if (ret) {
147                                 mlx5_proc_priv_uninit(dev);
148                                 return -rte_errno;
149                         }
150                 }
151                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
152                 res->result = 0;
153                 ret = rte_mp_reply(&mp_res, peer);
154                 break;
155         case MLX5_MP_REQ_STOP_RXTX:
156                 DRV_LOG(INFO, "port %u stopping datapath", dev->data->port_id);
157                 dev->rx_pkt_burst = removed_rx_burst;
158                 dev->tx_pkt_burst = removed_tx_burst;
159                 rte_mb();
160                 mp_init_msg(&priv->mp_id, &mp_res, param->type);
161                 res->result = 0;
162                 ret = rte_mp_reply(&mp_res, peer);
163                 break;
164         default:
165                 rte_errno = EINVAL;
166                 DRV_LOG(ERR, "port %u invalid mp request type",
167                         dev->data->port_id);
168                 return -rte_errno;
169         }
170         return ret;
171 }
172
173 /**
174  * Broadcast request of stopping/starting data-path to secondary processes.
175  *
176  * @param[in] dev
177  *   Pointer to Ethernet structure.
178  * @param[in] type
179  *   Request type.
180  */
181 static void
182 mp_req_on_rxtx(struct rte_eth_dev *dev, enum mlx5_mp_req_type type)
183 {
184         struct rte_mp_msg mp_req;
185         struct rte_mp_msg *mp_res;
186         struct rte_mp_reply mp_rep;
187         struct mlx5_mp_param *res;
188         struct timespec ts = {.tv_sec = MLX5_MP_REQ_TIMEOUT_SEC, .tv_nsec = 0};
189         struct mlx5_priv *priv = dev->data->dev_private;
190         int ret;
191         int i;
192
193         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_PRIMARY);
194         if (!mlx5_shared_data->secondary_cnt)
195                 return;
196         if (type != MLX5_MP_REQ_START_RXTX && type != MLX5_MP_REQ_STOP_RXTX) {
197                 DRV_LOG(ERR, "port %u unknown request (req_type %d)",
198                         dev->data->port_id, type);
199                 return;
200         }
201         mp_init_msg(&priv->mp_id, &mp_req, type);
202         if (type == MLX5_MP_REQ_START_RXTX) {
203                 mp_req.num_fds = 1;
204                 mp_req.fds[0] = ((struct ibv_context *)priv->sh->ctx)->cmd_fd;
205         }
206         ret = rte_mp_request_sync(&mp_req, &mp_rep, &ts);
207         if (ret) {
208                 if (rte_errno != ENOTSUP)
209                         DRV_LOG(ERR, "port %u failed to request stop/start Rx/Tx (%d)",
210                                 dev->data->port_id, type);
211                 goto exit;
212         }
213         if (mp_rep.nb_sent != mp_rep.nb_received) {
214                 DRV_LOG(ERR,
215                         "port %u not all secondaries responded (req_type %d)",
216                         dev->data->port_id, type);
217                 goto exit;
218         }
219         for (i = 0; i < mp_rep.nb_received; i++) {
220                 mp_res = &mp_rep.msgs[i];
221                 res = (struct mlx5_mp_param *)mp_res->param;
222                 if (res->result) {
223                         DRV_LOG(ERR, "port %u request failed on secondary #%d",
224                                 dev->data->port_id, i);
225                         goto exit;
226                 }
227         }
228 exit:
229         mlx5_free(mp_rep.msgs);
230 }
231
232 /**
233  * Broadcast request of starting data-path to secondary processes. The request
234  * is synchronous.
235  *
236  * @param[in] dev
237  *   Pointer to Ethernet structure.
238  */
239 void
240 mlx5_mp_os_req_start_rxtx(struct rte_eth_dev *dev)
241 {
242         mp_req_on_rxtx(dev, MLX5_MP_REQ_START_RXTX);
243 }
244
245 /**
246  * Broadcast request of stopping data-path to secondary processes. The request
247  * is synchronous.
248  *
249  * @param[in] dev
250  *   Pointer to Ethernet structure.
251  */
252 void
253 mlx5_mp_os_req_stop_rxtx(struct rte_eth_dev *dev)
254 {
255         mp_req_on_rxtx(dev, MLX5_MP_REQ_STOP_RXTX);
256 }
257
258 /**
259  * Request Verbs Rx/Tx queue stop or start to the primary process.
260  *
261  * @param[in] dev
262  *   Pointer to Ethernet structure.
263  * @param queue_id
264  *   Queue ID to control.
265  * @param req_type
266  *   request type
267  *     MLX5_MP_REQ_QUEUE_RX_START - start Rx queue
268  *     MLX5_MP_REQ_QUEUE_TX_START - stop Tx queue
269  *     MLX5_MP_REQ_QUEUE_RX_STOP - stop Rx queue
270  *     MLX5_MP_REQ_QUEUE_TX_STOP - stop Tx queue
271  * @return
272  *   0 on success, a negative errno value otherwise and
273  *     rte_errno is set.
274  */
275 int
276 mlx5_mp_os_req_queue_control(struct rte_eth_dev *dev, uint16_t queue_id,
277                           enum mlx5_mp_req_type req_type)
278 {
279         struct rte_mp_msg mp_req;
280         struct rte_mp_msg *mp_res;
281         struct rte_mp_reply mp_rep;
282         struct mlx5_mp_param *req = (struct mlx5_mp_param *)mp_req.param;
283         struct mlx5_mp_param *res;
284         struct timespec ts = {.tv_sec = MLX5_MP_REQ_TIMEOUT_SEC, .tv_nsec = 0};
285         struct mlx5_priv *priv;
286         int ret;
287
288         MLX5_ASSERT(rte_eal_process_type() == RTE_PROC_SECONDARY);
289         priv = dev->data->dev_private;
290         mp_init_msg(&priv->mp_id, &mp_req, req_type);
291         req->args.queue_id.queue_id = queue_id;
292         ret = rte_mp_request_sync(&mp_req, &mp_rep, &ts);
293         if (ret) {
294                 DRV_LOG(ERR, "port %u request to primary process failed",
295                         dev->data->port_id);
296                 return -rte_errno;
297         }
298         MLX5_ASSERT(mp_rep.nb_received == 1);
299         mp_res = &mp_rep.msgs[0];
300         res = (struct mlx5_mp_param *)mp_res->param;
301         ret = res->result;
302         free(mp_rep.msgs);
303         return ret;
304 }