net/sfc/base: detect equal stride super-buffer support
[dpdk.git] / drivers / net / sfc / base / ef10_nic.c
1 /* SPDX-License-Identifier: BSD-3-Clause
2  *
3  * Copyright (c) 2012-2018 Solarflare Communications Inc.
4  * All rights reserved.
5  */
6
7 #include "efx.h"
8 #include "efx_impl.h"
9 #if EFSYS_OPT_MON_MCDI
10 #include "mcdi_mon.h"
11 #endif
12
13 #if EFSYS_OPT_HUNTINGTON || EFSYS_OPT_MEDFORD || EFSYS_OPT_MEDFORD2
14
15 #include "ef10_tlv_layout.h"
16
17         __checkReturn   efx_rc_t
18 efx_mcdi_get_port_assignment(
19         __in            efx_nic_t *enp,
20         __out           uint32_t *portp)
21 {
22         efx_mcdi_req_t req;
23         uint8_t payload[MAX(MC_CMD_GET_PORT_ASSIGNMENT_IN_LEN,
24                             MC_CMD_GET_PORT_ASSIGNMENT_OUT_LEN)];
25         efx_rc_t rc;
26
27         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
28             enp->en_family == EFX_FAMILY_MEDFORD ||
29             enp->en_family == EFX_FAMILY_MEDFORD2);
30
31         (void) memset(payload, 0, sizeof (payload));
32         req.emr_cmd = MC_CMD_GET_PORT_ASSIGNMENT;
33         req.emr_in_buf = payload;
34         req.emr_in_length = MC_CMD_GET_PORT_ASSIGNMENT_IN_LEN;
35         req.emr_out_buf = payload;
36         req.emr_out_length = MC_CMD_GET_PORT_ASSIGNMENT_OUT_LEN;
37
38         efx_mcdi_execute(enp, &req);
39
40         if (req.emr_rc != 0) {
41                 rc = req.emr_rc;
42                 goto fail1;
43         }
44
45         if (req.emr_out_length_used < MC_CMD_GET_PORT_ASSIGNMENT_OUT_LEN) {
46                 rc = EMSGSIZE;
47                 goto fail2;
48         }
49
50         *portp = MCDI_OUT_DWORD(req, GET_PORT_ASSIGNMENT_OUT_PORT);
51
52         return (0);
53
54 fail2:
55         EFSYS_PROBE(fail2);
56 fail1:
57         EFSYS_PROBE1(fail1, efx_rc_t, rc);
58
59         return (rc);
60 }
61
62         __checkReturn   efx_rc_t
63 efx_mcdi_get_port_modes(
64         __in            efx_nic_t *enp,
65         __out           uint32_t *modesp,
66         __out_opt       uint32_t *current_modep)
67 {
68         efx_mcdi_req_t req;
69         uint8_t payload[MAX(MC_CMD_GET_PORT_MODES_IN_LEN,
70                             MC_CMD_GET_PORT_MODES_OUT_LEN)];
71         efx_rc_t rc;
72
73         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
74             enp->en_family == EFX_FAMILY_MEDFORD ||
75             enp->en_family == EFX_FAMILY_MEDFORD2);
76
77         (void) memset(payload, 0, sizeof (payload));
78         req.emr_cmd = MC_CMD_GET_PORT_MODES;
79         req.emr_in_buf = payload;
80         req.emr_in_length = MC_CMD_GET_PORT_MODES_IN_LEN;
81         req.emr_out_buf = payload;
82         req.emr_out_length = MC_CMD_GET_PORT_MODES_OUT_LEN;
83
84         efx_mcdi_execute(enp, &req);
85
86         if (req.emr_rc != 0) {
87                 rc = req.emr_rc;
88                 goto fail1;
89         }
90
91         /*
92          * Require only Modes and DefaultMode fields, unless the current mode
93          * was requested (CurrentMode field was added for Medford).
94          */
95         if (req.emr_out_length_used <
96             MC_CMD_GET_PORT_MODES_OUT_CURRENT_MODE_OFST) {
97                 rc = EMSGSIZE;
98                 goto fail2;
99         }
100         if ((current_modep != NULL) && (req.emr_out_length_used <
101             MC_CMD_GET_PORT_MODES_OUT_CURRENT_MODE_OFST + 4)) {
102                 rc = EMSGSIZE;
103                 goto fail3;
104         }
105
106         *modesp = MCDI_OUT_DWORD(req, GET_PORT_MODES_OUT_MODES);
107
108         if (current_modep != NULL) {
109                 *current_modep = MCDI_OUT_DWORD(req,
110                                             GET_PORT_MODES_OUT_CURRENT_MODE);
111         }
112
113         return (0);
114
115 fail3:
116         EFSYS_PROBE(fail3);
117 fail2:
118         EFSYS_PROBE(fail2);
119 fail1:
120         EFSYS_PROBE1(fail1, efx_rc_t, rc);
121
122         return (rc);
123 }
124
125         __checkReturn   efx_rc_t
126 ef10_nic_get_port_mode_bandwidth(
127         __in            uint32_t port_mode,
128         __out           uint32_t *bandwidth_mbpsp)
129 {
130         uint32_t bandwidth;
131         efx_rc_t rc;
132
133         switch (port_mode) {
134         case TLV_PORT_MODE_10G:
135                 bandwidth = 10000;
136                 break;
137         case TLV_PORT_MODE_10G_10G:
138                 bandwidth = 10000 * 2;
139                 break;
140         case TLV_PORT_MODE_10G_10G_10G_10G:
141         case TLV_PORT_MODE_10G_10G_10G_10G_Q:
142         case TLV_PORT_MODE_10G_10G_10G_10G_Q1_Q2:
143         case TLV_PORT_MODE_10G_10G_10G_10G_Q2:
144                 bandwidth = 10000 * 4;
145                 break;
146         case TLV_PORT_MODE_40G:
147                 bandwidth = 40000;
148                 break;
149         case TLV_PORT_MODE_40G_40G:
150                 bandwidth = 40000 * 2;
151                 break;
152         case TLV_PORT_MODE_40G_10G_10G:
153         case TLV_PORT_MODE_10G_10G_40G:
154                 bandwidth = 40000 + (10000 * 2);
155                 break;
156         default:
157                 rc = EINVAL;
158                 goto fail1;
159         }
160
161         *bandwidth_mbpsp = bandwidth;
162
163         return (0);
164
165 fail1:
166         EFSYS_PROBE1(fail1, efx_rc_t, rc);
167
168         return (rc);
169 }
170
171 static  __checkReturn           efx_rc_t
172 efx_mcdi_vadaptor_alloc(
173         __in                    efx_nic_t *enp,
174         __in                    uint32_t port_id)
175 {
176         efx_mcdi_req_t req;
177         uint8_t payload[MAX(MC_CMD_VADAPTOR_ALLOC_IN_LEN,
178                             MC_CMD_VADAPTOR_ALLOC_OUT_LEN)];
179         efx_rc_t rc;
180
181         EFSYS_ASSERT3U(enp->en_vport_id, ==, EVB_PORT_ID_NULL);
182
183         (void) memset(payload, 0, sizeof (payload));
184         req.emr_cmd = MC_CMD_VADAPTOR_ALLOC;
185         req.emr_in_buf = payload;
186         req.emr_in_length = MC_CMD_VADAPTOR_ALLOC_IN_LEN;
187         req.emr_out_buf = payload;
188         req.emr_out_length = MC_CMD_VADAPTOR_ALLOC_OUT_LEN;
189
190         MCDI_IN_SET_DWORD(req, VADAPTOR_ALLOC_IN_UPSTREAM_PORT_ID, port_id);
191         MCDI_IN_POPULATE_DWORD_1(req, VADAPTOR_ALLOC_IN_FLAGS,
192             VADAPTOR_ALLOC_IN_FLAG_PERMIT_SET_MAC_WHEN_FILTERS_INSTALLED,
193             enp->en_nic_cfg.enc_allow_set_mac_with_installed_filters ? 1 : 0);
194
195         efx_mcdi_execute(enp, &req);
196
197         if (req.emr_rc != 0) {
198                 rc = req.emr_rc;
199                 goto fail1;
200         }
201
202         return (0);
203
204 fail1:
205         EFSYS_PROBE1(fail1, efx_rc_t, rc);
206
207         return (rc);
208 }
209
210 static  __checkReturn           efx_rc_t
211 efx_mcdi_vadaptor_free(
212         __in                    efx_nic_t *enp,
213         __in                    uint32_t port_id)
214 {
215         efx_mcdi_req_t req;
216         uint8_t payload[MAX(MC_CMD_VADAPTOR_FREE_IN_LEN,
217                             MC_CMD_VADAPTOR_FREE_OUT_LEN)];
218         efx_rc_t rc;
219
220         (void) memset(payload, 0, sizeof (payload));
221         req.emr_cmd = MC_CMD_VADAPTOR_FREE;
222         req.emr_in_buf = payload;
223         req.emr_in_length = MC_CMD_VADAPTOR_FREE_IN_LEN;
224         req.emr_out_buf = payload;
225         req.emr_out_length = MC_CMD_VADAPTOR_FREE_OUT_LEN;
226
227         MCDI_IN_SET_DWORD(req, VADAPTOR_FREE_IN_UPSTREAM_PORT_ID, port_id);
228
229         efx_mcdi_execute(enp, &req);
230
231         if (req.emr_rc != 0) {
232                 rc = req.emr_rc;
233                 goto fail1;
234         }
235
236         return (0);
237
238 fail1:
239         EFSYS_PROBE1(fail1, efx_rc_t, rc);
240
241         return (rc);
242 }
243
244         __checkReturn   efx_rc_t
245 efx_mcdi_get_mac_address_pf(
246         __in                    efx_nic_t *enp,
247         __out_ecount_opt(6)     uint8_t mac_addrp[6])
248 {
249         efx_mcdi_req_t req;
250         uint8_t payload[MAX(MC_CMD_GET_MAC_ADDRESSES_IN_LEN,
251                             MC_CMD_GET_MAC_ADDRESSES_OUT_LEN)];
252         efx_rc_t rc;
253
254         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
255             enp->en_family == EFX_FAMILY_MEDFORD ||
256             enp->en_family == EFX_FAMILY_MEDFORD2);
257
258         (void) memset(payload, 0, sizeof (payload));
259         req.emr_cmd = MC_CMD_GET_MAC_ADDRESSES;
260         req.emr_in_buf = payload;
261         req.emr_in_length = MC_CMD_GET_MAC_ADDRESSES_IN_LEN;
262         req.emr_out_buf = payload;
263         req.emr_out_length = MC_CMD_GET_MAC_ADDRESSES_OUT_LEN;
264
265         efx_mcdi_execute(enp, &req);
266
267         if (req.emr_rc != 0) {
268                 rc = req.emr_rc;
269                 goto fail1;
270         }
271
272         if (req.emr_out_length_used < MC_CMD_GET_MAC_ADDRESSES_OUT_LEN) {
273                 rc = EMSGSIZE;
274                 goto fail2;
275         }
276
277         if (MCDI_OUT_DWORD(req, GET_MAC_ADDRESSES_OUT_MAC_COUNT) < 1) {
278                 rc = ENOENT;
279                 goto fail3;
280         }
281
282         if (mac_addrp != NULL) {
283                 uint8_t *addrp;
284
285                 addrp = MCDI_OUT2(req, uint8_t,
286                     GET_MAC_ADDRESSES_OUT_MAC_ADDR_BASE);
287
288                 EFX_MAC_ADDR_COPY(mac_addrp, addrp);
289         }
290
291         return (0);
292
293 fail3:
294         EFSYS_PROBE(fail3);
295 fail2:
296         EFSYS_PROBE(fail2);
297 fail1:
298         EFSYS_PROBE1(fail1, efx_rc_t, rc);
299
300         return (rc);
301 }
302
303         __checkReturn   efx_rc_t
304 efx_mcdi_get_mac_address_vf(
305         __in                    efx_nic_t *enp,
306         __out_ecount_opt(6)     uint8_t mac_addrp[6])
307 {
308         efx_mcdi_req_t req;
309         uint8_t payload[MAX(MC_CMD_VPORT_GET_MAC_ADDRESSES_IN_LEN,
310                             MC_CMD_VPORT_GET_MAC_ADDRESSES_OUT_LENMAX)];
311         efx_rc_t rc;
312
313         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
314             enp->en_family == EFX_FAMILY_MEDFORD ||
315             enp->en_family == EFX_FAMILY_MEDFORD2);
316
317         (void) memset(payload, 0, sizeof (payload));
318         req.emr_cmd = MC_CMD_VPORT_GET_MAC_ADDRESSES;
319         req.emr_in_buf = payload;
320         req.emr_in_length = MC_CMD_VPORT_GET_MAC_ADDRESSES_IN_LEN;
321         req.emr_out_buf = payload;
322         req.emr_out_length = MC_CMD_VPORT_GET_MAC_ADDRESSES_OUT_LENMAX;
323
324         MCDI_IN_SET_DWORD(req, VPORT_GET_MAC_ADDRESSES_IN_VPORT_ID,
325             EVB_PORT_ID_ASSIGNED);
326
327         efx_mcdi_execute(enp, &req);
328
329         if (req.emr_rc != 0) {
330                 rc = req.emr_rc;
331                 goto fail1;
332         }
333
334         if (req.emr_out_length_used <
335             MC_CMD_VPORT_GET_MAC_ADDRESSES_OUT_LENMIN) {
336                 rc = EMSGSIZE;
337                 goto fail2;
338         }
339
340         if (MCDI_OUT_DWORD(req,
341                 VPORT_GET_MAC_ADDRESSES_OUT_MACADDR_COUNT) < 1) {
342                 rc = ENOENT;
343                 goto fail3;
344         }
345
346         if (mac_addrp != NULL) {
347                 uint8_t *addrp;
348
349                 addrp = MCDI_OUT2(req, uint8_t,
350                     VPORT_GET_MAC_ADDRESSES_OUT_MACADDR);
351
352                 EFX_MAC_ADDR_COPY(mac_addrp, addrp);
353         }
354
355         return (0);
356
357 fail3:
358         EFSYS_PROBE(fail3);
359 fail2:
360         EFSYS_PROBE(fail2);
361 fail1:
362         EFSYS_PROBE1(fail1, efx_rc_t, rc);
363
364         return (rc);
365 }
366
367         __checkReturn   efx_rc_t
368 efx_mcdi_get_clock(
369         __in            efx_nic_t *enp,
370         __out           uint32_t *sys_freqp,
371         __out           uint32_t *dpcpu_freqp)
372 {
373         efx_mcdi_req_t req;
374         uint8_t payload[MAX(MC_CMD_GET_CLOCK_IN_LEN,
375                             MC_CMD_GET_CLOCK_OUT_LEN)];
376         efx_rc_t rc;
377
378         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
379             enp->en_family == EFX_FAMILY_MEDFORD ||
380             enp->en_family == EFX_FAMILY_MEDFORD2);
381
382         (void) memset(payload, 0, sizeof (payload));
383         req.emr_cmd = MC_CMD_GET_CLOCK;
384         req.emr_in_buf = payload;
385         req.emr_in_length = MC_CMD_GET_CLOCK_IN_LEN;
386         req.emr_out_buf = payload;
387         req.emr_out_length = MC_CMD_GET_CLOCK_OUT_LEN;
388
389         efx_mcdi_execute(enp, &req);
390
391         if (req.emr_rc != 0) {
392                 rc = req.emr_rc;
393                 goto fail1;
394         }
395
396         if (req.emr_out_length_used < MC_CMD_GET_CLOCK_OUT_LEN) {
397                 rc = EMSGSIZE;
398                 goto fail2;
399         }
400
401         *sys_freqp = MCDI_OUT_DWORD(req, GET_CLOCK_OUT_SYS_FREQ);
402         if (*sys_freqp == 0) {
403                 rc = EINVAL;
404                 goto fail3;
405         }
406         *dpcpu_freqp = MCDI_OUT_DWORD(req, GET_CLOCK_OUT_DPCPU_FREQ);
407         if (*dpcpu_freqp == 0) {
408                 rc = EINVAL;
409                 goto fail4;
410         }
411
412         return (0);
413
414 fail4:
415         EFSYS_PROBE(fail4);
416 fail3:
417         EFSYS_PROBE(fail3);
418 fail2:
419         EFSYS_PROBE(fail2);
420 fail1:
421         EFSYS_PROBE1(fail1, efx_rc_t, rc);
422
423         return (rc);
424 }
425
426         __checkReturn   efx_rc_t
427 efx_mcdi_get_rxdp_config(
428         __in            efx_nic_t *enp,
429         __out           uint32_t *end_paddingp)
430 {
431         efx_mcdi_req_t req;
432         uint8_t payload[MAX(MC_CMD_GET_RXDP_CONFIG_IN_LEN,
433                             MC_CMD_GET_RXDP_CONFIG_OUT_LEN)];
434         uint32_t end_padding;
435         efx_rc_t rc;
436
437         memset(payload, 0, sizeof (payload));
438         req.emr_cmd = MC_CMD_GET_RXDP_CONFIG;
439         req.emr_in_buf = payload;
440         req.emr_in_length = MC_CMD_GET_RXDP_CONFIG_IN_LEN;
441         req.emr_out_buf = payload;
442         req.emr_out_length = MC_CMD_GET_RXDP_CONFIG_OUT_LEN;
443
444         efx_mcdi_execute(enp, &req);
445         if (req.emr_rc != 0) {
446                 rc = req.emr_rc;
447                 goto fail1;
448         }
449
450         if (MCDI_OUT_DWORD_FIELD(req, GET_RXDP_CONFIG_OUT_DATA,
451                                     GET_RXDP_CONFIG_OUT_PAD_HOST_DMA) == 0) {
452                 /* RX DMA end padding is disabled */
453                 end_padding = 0;
454         } else {
455                 switch (MCDI_OUT_DWORD_FIELD(req, GET_RXDP_CONFIG_OUT_DATA,
456                                             GET_RXDP_CONFIG_OUT_PAD_HOST_LEN)) {
457                 case MC_CMD_SET_RXDP_CONFIG_IN_PAD_HOST_64:
458                         end_padding = 64;
459                         break;
460                 case MC_CMD_SET_RXDP_CONFIG_IN_PAD_HOST_128:
461                         end_padding = 128;
462                         break;
463                 case MC_CMD_SET_RXDP_CONFIG_IN_PAD_HOST_256:
464                         end_padding = 256;
465                         break;
466                 default:
467                         rc = ENOTSUP;
468                         goto fail2;
469                 }
470         }
471
472         *end_paddingp = end_padding;
473
474         return (0);
475
476 fail2:
477         EFSYS_PROBE(fail2);
478 fail1:
479         EFSYS_PROBE1(fail1, efx_rc_t, rc);
480
481         return (rc);
482 }
483
484         __checkReturn   efx_rc_t
485 efx_mcdi_get_vector_cfg(
486         __in            efx_nic_t *enp,
487         __out_opt       uint32_t *vec_basep,
488         __out_opt       uint32_t *pf_nvecp,
489         __out_opt       uint32_t *vf_nvecp)
490 {
491         efx_mcdi_req_t req;
492         uint8_t payload[MAX(MC_CMD_GET_VECTOR_CFG_IN_LEN,
493                             MC_CMD_GET_VECTOR_CFG_OUT_LEN)];
494         efx_rc_t rc;
495
496         (void) memset(payload, 0, sizeof (payload));
497         req.emr_cmd = MC_CMD_GET_VECTOR_CFG;
498         req.emr_in_buf = payload;
499         req.emr_in_length = MC_CMD_GET_VECTOR_CFG_IN_LEN;
500         req.emr_out_buf = payload;
501         req.emr_out_length = MC_CMD_GET_VECTOR_CFG_OUT_LEN;
502
503         efx_mcdi_execute(enp, &req);
504
505         if (req.emr_rc != 0) {
506                 rc = req.emr_rc;
507                 goto fail1;
508         }
509
510         if (req.emr_out_length_used < MC_CMD_GET_VECTOR_CFG_OUT_LEN) {
511                 rc = EMSGSIZE;
512                 goto fail2;
513         }
514
515         if (vec_basep != NULL)
516                 *vec_basep = MCDI_OUT_DWORD(req, GET_VECTOR_CFG_OUT_VEC_BASE);
517         if (pf_nvecp != NULL)
518                 *pf_nvecp = MCDI_OUT_DWORD(req, GET_VECTOR_CFG_OUT_VECS_PER_PF);
519         if (vf_nvecp != NULL)
520                 *vf_nvecp = MCDI_OUT_DWORD(req, GET_VECTOR_CFG_OUT_VECS_PER_VF);
521
522         return (0);
523
524 fail2:
525         EFSYS_PROBE(fail2);
526 fail1:
527         EFSYS_PROBE1(fail1, efx_rc_t, rc);
528
529         return (rc);
530 }
531
532 static  __checkReturn   efx_rc_t
533 efx_mcdi_alloc_vis(
534         __in            efx_nic_t *enp,
535         __in            uint32_t min_vi_count,
536         __in            uint32_t max_vi_count,
537         __out           uint32_t *vi_basep,
538         __out           uint32_t *vi_countp,
539         __out           uint32_t *vi_shiftp)
540 {
541         efx_mcdi_req_t req;
542         uint8_t payload[MAX(MC_CMD_ALLOC_VIS_IN_LEN,
543                             MC_CMD_ALLOC_VIS_EXT_OUT_LEN)];
544         efx_rc_t rc;
545
546         if (vi_countp == NULL) {
547                 rc = EINVAL;
548                 goto fail1;
549         }
550
551         (void) memset(payload, 0, sizeof (payload));
552         req.emr_cmd = MC_CMD_ALLOC_VIS;
553         req.emr_in_buf = payload;
554         req.emr_in_length = MC_CMD_ALLOC_VIS_IN_LEN;
555         req.emr_out_buf = payload;
556         req.emr_out_length = MC_CMD_ALLOC_VIS_EXT_OUT_LEN;
557
558         MCDI_IN_SET_DWORD(req, ALLOC_VIS_IN_MIN_VI_COUNT, min_vi_count);
559         MCDI_IN_SET_DWORD(req, ALLOC_VIS_IN_MAX_VI_COUNT, max_vi_count);
560
561         efx_mcdi_execute(enp, &req);
562
563         if (req.emr_rc != 0) {
564                 rc = req.emr_rc;
565                 goto fail2;
566         }
567
568         if (req.emr_out_length_used < MC_CMD_ALLOC_VIS_OUT_LEN) {
569                 rc = EMSGSIZE;
570                 goto fail3;
571         }
572
573         *vi_basep = MCDI_OUT_DWORD(req, ALLOC_VIS_OUT_VI_BASE);
574         *vi_countp = MCDI_OUT_DWORD(req, ALLOC_VIS_OUT_VI_COUNT);
575
576         /* Report VI_SHIFT if available (always zero for Huntington) */
577         if (req.emr_out_length_used < MC_CMD_ALLOC_VIS_EXT_OUT_LEN)
578                 *vi_shiftp = 0;
579         else
580                 *vi_shiftp = MCDI_OUT_DWORD(req, ALLOC_VIS_EXT_OUT_VI_SHIFT);
581
582         return (0);
583
584 fail3:
585         EFSYS_PROBE(fail3);
586 fail2:
587         EFSYS_PROBE(fail2);
588 fail1:
589         EFSYS_PROBE1(fail1, efx_rc_t, rc);
590
591         return (rc);
592 }
593
594
595 static  __checkReturn   efx_rc_t
596 efx_mcdi_free_vis(
597         __in            efx_nic_t *enp)
598 {
599         efx_mcdi_req_t req;
600         efx_rc_t rc;
601
602         EFX_STATIC_ASSERT(MC_CMD_FREE_VIS_IN_LEN == 0);
603         EFX_STATIC_ASSERT(MC_CMD_FREE_VIS_OUT_LEN == 0);
604
605         req.emr_cmd = MC_CMD_FREE_VIS;
606         req.emr_in_buf = NULL;
607         req.emr_in_length = 0;
608         req.emr_out_buf = NULL;
609         req.emr_out_length = 0;
610
611         efx_mcdi_execute_quiet(enp, &req);
612
613         /* Ignore ELREADY (no allocated VIs, so nothing to free) */
614         if ((req.emr_rc != 0) && (req.emr_rc != EALREADY)) {
615                 rc = req.emr_rc;
616                 goto fail1;
617         }
618
619         return (0);
620
621 fail1:
622         EFSYS_PROBE1(fail1, efx_rc_t, rc);
623
624         return (rc);
625 }
626
627
628 static  __checkReturn   efx_rc_t
629 efx_mcdi_alloc_piobuf(
630         __in            efx_nic_t *enp,
631         __out           efx_piobuf_handle_t *handlep)
632 {
633         efx_mcdi_req_t req;
634         uint8_t payload[MAX(MC_CMD_ALLOC_PIOBUF_IN_LEN,
635                             MC_CMD_ALLOC_PIOBUF_OUT_LEN)];
636         efx_rc_t rc;
637
638         if (handlep == NULL) {
639                 rc = EINVAL;
640                 goto fail1;
641         }
642
643         (void) memset(payload, 0, sizeof (payload));
644         req.emr_cmd = MC_CMD_ALLOC_PIOBUF;
645         req.emr_in_buf = payload;
646         req.emr_in_length = MC_CMD_ALLOC_PIOBUF_IN_LEN;
647         req.emr_out_buf = payload;
648         req.emr_out_length = MC_CMD_ALLOC_PIOBUF_OUT_LEN;
649
650         efx_mcdi_execute_quiet(enp, &req);
651
652         if (req.emr_rc != 0) {
653                 rc = req.emr_rc;
654                 goto fail2;
655         }
656
657         if (req.emr_out_length_used < MC_CMD_ALLOC_PIOBUF_OUT_LEN) {
658                 rc = EMSGSIZE;
659                 goto fail3;
660         }
661
662         *handlep = MCDI_OUT_DWORD(req, ALLOC_PIOBUF_OUT_PIOBUF_HANDLE);
663
664         return (0);
665
666 fail3:
667         EFSYS_PROBE(fail3);
668 fail2:
669         EFSYS_PROBE(fail2);
670 fail1:
671         EFSYS_PROBE1(fail1, efx_rc_t, rc);
672
673         return (rc);
674 }
675
676 static  __checkReturn   efx_rc_t
677 efx_mcdi_free_piobuf(
678         __in            efx_nic_t *enp,
679         __in            efx_piobuf_handle_t handle)
680 {
681         efx_mcdi_req_t req;
682         uint8_t payload[MAX(MC_CMD_FREE_PIOBUF_IN_LEN,
683                             MC_CMD_FREE_PIOBUF_OUT_LEN)];
684         efx_rc_t rc;
685
686         (void) memset(payload, 0, sizeof (payload));
687         req.emr_cmd = MC_CMD_FREE_PIOBUF;
688         req.emr_in_buf = payload;
689         req.emr_in_length = MC_CMD_FREE_PIOBUF_IN_LEN;
690         req.emr_out_buf = payload;
691         req.emr_out_length = MC_CMD_FREE_PIOBUF_OUT_LEN;
692
693         MCDI_IN_SET_DWORD(req, FREE_PIOBUF_IN_PIOBUF_HANDLE, handle);
694
695         efx_mcdi_execute_quiet(enp, &req);
696
697         if (req.emr_rc != 0) {
698                 rc = req.emr_rc;
699                 goto fail1;
700         }
701
702         return (0);
703
704 fail1:
705         EFSYS_PROBE1(fail1, efx_rc_t, rc);
706
707         return (rc);
708 }
709
710 static  __checkReturn   efx_rc_t
711 efx_mcdi_link_piobuf(
712         __in            efx_nic_t *enp,
713         __in            uint32_t vi_index,
714         __in            efx_piobuf_handle_t handle)
715 {
716         efx_mcdi_req_t req;
717         uint8_t payload[MAX(MC_CMD_LINK_PIOBUF_IN_LEN,
718                             MC_CMD_LINK_PIOBUF_OUT_LEN)];
719         efx_rc_t rc;
720
721         (void) memset(payload, 0, sizeof (payload));
722         req.emr_cmd = MC_CMD_LINK_PIOBUF;
723         req.emr_in_buf = payload;
724         req.emr_in_length = MC_CMD_LINK_PIOBUF_IN_LEN;
725         req.emr_out_buf = payload;
726         req.emr_out_length = MC_CMD_LINK_PIOBUF_OUT_LEN;
727
728         MCDI_IN_SET_DWORD(req, LINK_PIOBUF_IN_PIOBUF_HANDLE, handle);
729         MCDI_IN_SET_DWORD(req, LINK_PIOBUF_IN_TXQ_INSTANCE, vi_index);
730
731         efx_mcdi_execute(enp, &req);
732
733         if (req.emr_rc != 0) {
734                 rc = req.emr_rc;
735                 goto fail1;
736         }
737
738         return (0);
739
740 fail1:
741         EFSYS_PROBE1(fail1, efx_rc_t, rc);
742
743         return (rc);
744 }
745
746 static  __checkReturn   efx_rc_t
747 efx_mcdi_unlink_piobuf(
748         __in            efx_nic_t *enp,
749         __in            uint32_t vi_index)
750 {
751         efx_mcdi_req_t req;
752         uint8_t payload[MAX(MC_CMD_UNLINK_PIOBUF_IN_LEN,
753                             MC_CMD_UNLINK_PIOBUF_OUT_LEN)];
754         efx_rc_t rc;
755
756         (void) memset(payload, 0, sizeof (payload));
757         req.emr_cmd = MC_CMD_UNLINK_PIOBUF;
758         req.emr_in_buf = payload;
759         req.emr_in_length = MC_CMD_UNLINK_PIOBUF_IN_LEN;
760         req.emr_out_buf = payload;
761         req.emr_out_length = MC_CMD_UNLINK_PIOBUF_OUT_LEN;
762
763         MCDI_IN_SET_DWORD(req, UNLINK_PIOBUF_IN_TXQ_INSTANCE, vi_index);
764
765         efx_mcdi_execute_quiet(enp, &req);
766
767         if (req.emr_rc != 0) {
768                 rc = req.emr_rc;
769                 goto fail1;
770         }
771
772         return (0);
773
774 fail1:
775         EFSYS_PROBE1(fail1, efx_rc_t, rc);
776
777         return (rc);
778 }
779
780 static                  void
781 ef10_nic_alloc_piobufs(
782         __in            efx_nic_t *enp,
783         __in            uint32_t max_piobuf_count)
784 {
785         efx_piobuf_handle_t *handlep;
786         unsigned int i;
787
788         EFSYS_ASSERT3U(max_piobuf_count, <=,
789             EFX_ARRAY_SIZE(enp->en_arch.ef10.ena_piobuf_handle));
790
791         enp->en_arch.ef10.ena_piobuf_count = 0;
792
793         for (i = 0; i < max_piobuf_count; i++) {
794                 handlep = &enp->en_arch.ef10.ena_piobuf_handle[i];
795
796                 if (efx_mcdi_alloc_piobuf(enp, handlep) != 0)
797                         goto fail1;
798
799                 enp->en_arch.ef10.ena_pio_alloc_map[i] = 0;
800                 enp->en_arch.ef10.ena_piobuf_count++;
801         }
802
803         return;
804
805 fail1:
806         for (i = 0; i < enp->en_arch.ef10.ena_piobuf_count; i++) {
807                 handlep = &enp->en_arch.ef10.ena_piobuf_handle[i];
808
809                 efx_mcdi_free_piobuf(enp, *handlep);
810                 *handlep = EFX_PIOBUF_HANDLE_INVALID;
811         }
812         enp->en_arch.ef10.ena_piobuf_count = 0;
813 }
814
815
816 static                  void
817 ef10_nic_free_piobufs(
818         __in            efx_nic_t *enp)
819 {
820         efx_piobuf_handle_t *handlep;
821         unsigned int i;
822
823         for (i = 0; i < enp->en_arch.ef10.ena_piobuf_count; i++) {
824                 handlep = &enp->en_arch.ef10.ena_piobuf_handle[i];
825
826                 efx_mcdi_free_piobuf(enp, *handlep);
827                 *handlep = EFX_PIOBUF_HANDLE_INVALID;
828         }
829         enp->en_arch.ef10.ena_piobuf_count = 0;
830 }
831
832 /* Sub-allocate a block from a piobuf */
833         __checkReturn   efx_rc_t
834 ef10_nic_pio_alloc(
835         __inout         efx_nic_t *enp,
836         __out           uint32_t *bufnump,
837         __out           efx_piobuf_handle_t *handlep,
838         __out           uint32_t *blknump,
839         __out           uint32_t *offsetp,
840         __out           size_t *sizep)
841 {
842         efx_nic_cfg_t *encp = &enp->en_nic_cfg;
843         efx_drv_cfg_t *edcp = &enp->en_drv_cfg;
844         uint32_t blk_per_buf;
845         uint32_t buf, blk;
846         efx_rc_t rc;
847
848         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
849             enp->en_family == EFX_FAMILY_MEDFORD ||
850             enp->en_family == EFX_FAMILY_MEDFORD2);
851         EFSYS_ASSERT(bufnump);
852         EFSYS_ASSERT(handlep);
853         EFSYS_ASSERT(blknump);
854         EFSYS_ASSERT(offsetp);
855         EFSYS_ASSERT(sizep);
856
857         if ((edcp->edc_pio_alloc_size == 0) ||
858             (enp->en_arch.ef10.ena_piobuf_count == 0)) {
859                 rc = ENOMEM;
860                 goto fail1;
861         }
862         blk_per_buf = encp->enc_piobuf_size / edcp->edc_pio_alloc_size;
863
864         for (buf = 0; buf < enp->en_arch.ef10.ena_piobuf_count; buf++) {
865                 uint32_t *map = &enp->en_arch.ef10.ena_pio_alloc_map[buf];
866
867                 if (~(*map) == 0)
868                         continue;
869
870                 EFSYS_ASSERT3U(blk_per_buf, <=, (8 * sizeof (*map)));
871                 for (blk = 0; blk < blk_per_buf; blk++) {
872                         if ((*map & (1u << blk)) == 0) {
873                                 *map |= (1u << blk);
874                                 goto done;
875                         }
876                 }
877         }
878         rc = ENOMEM;
879         goto fail2;
880
881 done:
882         *handlep = enp->en_arch.ef10.ena_piobuf_handle[buf];
883         *bufnump = buf;
884         *blknump = blk;
885         *sizep = edcp->edc_pio_alloc_size;
886         *offsetp = blk * (*sizep);
887
888         return (0);
889
890 fail2:
891         EFSYS_PROBE(fail2);
892 fail1:
893         EFSYS_PROBE1(fail1, efx_rc_t, rc);
894
895         return (rc);
896 }
897
898 /* Free a piobuf sub-allocated block */
899         __checkReturn   efx_rc_t
900 ef10_nic_pio_free(
901         __inout         efx_nic_t *enp,
902         __in            uint32_t bufnum,
903         __in            uint32_t blknum)
904 {
905         uint32_t *map;
906         efx_rc_t rc;
907
908         if ((bufnum >= enp->en_arch.ef10.ena_piobuf_count) ||
909             (blknum >= (8 * sizeof (*map)))) {
910                 rc = EINVAL;
911                 goto fail1;
912         }
913
914         map = &enp->en_arch.ef10.ena_pio_alloc_map[bufnum];
915         if ((*map & (1u << blknum)) == 0) {
916                 rc = ENOENT;
917                 goto fail2;
918         }
919         *map &= ~(1u << blknum);
920
921         return (0);
922
923 fail2:
924         EFSYS_PROBE(fail2);
925 fail1:
926         EFSYS_PROBE1(fail1, efx_rc_t, rc);
927
928         return (rc);
929 }
930
931         __checkReturn   efx_rc_t
932 ef10_nic_pio_link(
933         __inout         efx_nic_t *enp,
934         __in            uint32_t vi_index,
935         __in            efx_piobuf_handle_t handle)
936 {
937         return (efx_mcdi_link_piobuf(enp, vi_index, handle));
938 }
939
940         __checkReturn   efx_rc_t
941 ef10_nic_pio_unlink(
942         __inout         efx_nic_t *enp,
943         __in            uint32_t vi_index)
944 {
945         return (efx_mcdi_unlink_piobuf(enp, vi_index));
946 }
947
948 static  __checkReturn   efx_rc_t
949 ef10_mcdi_get_pf_count(
950         __in            efx_nic_t *enp,
951         __out           uint32_t *pf_countp)
952 {
953         efx_mcdi_req_t req;
954         uint8_t payload[MAX(MC_CMD_GET_PF_COUNT_IN_LEN,
955                             MC_CMD_GET_PF_COUNT_OUT_LEN)];
956         efx_rc_t rc;
957
958         (void) memset(payload, 0, sizeof (payload));
959         req.emr_cmd = MC_CMD_GET_PF_COUNT;
960         req.emr_in_buf = payload;
961         req.emr_in_length = MC_CMD_GET_PF_COUNT_IN_LEN;
962         req.emr_out_buf = payload;
963         req.emr_out_length = MC_CMD_GET_PF_COUNT_OUT_LEN;
964
965         efx_mcdi_execute(enp, &req);
966
967         if (req.emr_rc != 0) {
968                 rc = req.emr_rc;
969                 goto fail1;
970         }
971
972         if (req.emr_out_length_used < MC_CMD_GET_PF_COUNT_OUT_LEN) {
973                 rc = EMSGSIZE;
974                 goto fail2;
975         }
976
977         *pf_countp = *MCDI_OUT(req, uint8_t,
978                                 MC_CMD_GET_PF_COUNT_OUT_PF_COUNT_OFST);
979
980         EFSYS_ASSERT(*pf_countp != 0);
981
982         return (0);
983
984 fail2:
985         EFSYS_PROBE(fail2);
986 fail1:
987         EFSYS_PROBE1(fail1, efx_rc_t, rc);
988
989         return (rc);
990 }
991
992 static  __checkReturn   efx_rc_t
993 ef10_get_datapath_caps(
994         __in            efx_nic_t *enp)
995 {
996         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
997         efx_mcdi_req_t req;
998         uint8_t payload[MAX(MC_CMD_GET_CAPABILITIES_IN_LEN,
999                             MC_CMD_GET_CAPABILITIES_V4_OUT_LEN)];
1000         efx_rc_t rc;
1001
1002         if ((rc = ef10_mcdi_get_pf_count(enp, &encp->enc_hw_pf_count)) != 0)
1003                 goto fail1;
1004
1005
1006         (void) memset(payload, 0, sizeof (payload));
1007         req.emr_cmd = MC_CMD_GET_CAPABILITIES;
1008         req.emr_in_buf = payload;
1009         req.emr_in_length = MC_CMD_GET_CAPABILITIES_IN_LEN;
1010         req.emr_out_buf = payload;
1011         req.emr_out_length = MC_CMD_GET_CAPABILITIES_V4_OUT_LEN;
1012
1013         efx_mcdi_execute_quiet(enp, &req);
1014
1015         if (req.emr_rc != 0) {
1016                 rc = req.emr_rc;
1017                 goto fail2;
1018         }
1019
1020         if (req.emr_out_length_used < MC_CMD_GET_CAPABILITIES_OUT_LEN) {
1021                 rc = EMSGSIZE;
1022                 goto fail3;
1023         }
1024
1025 #define CAP_FLAGS1(_req, _flag)                                         \
1026         (MCDI_OUT_DWORD((_req), GET_CAPABILITIES_OUT_FLAGS1) &          \
1027         (1u << (MC_CMD_GET_CAPABILITIES_V2_OUT_ ## _flag ## _LBN)))
1028
1029 #define CAP_FLAGS2(_req, _flag)                                         \
1030         (((_req).emr_out_length_used >= MC_CMD_GET_CAPABILITIES_V2_OUT_LEN) && \
1031             (MCDI_OUT_DWORD((_req), GET_CAPABILITIES_V2_OUT_FLAGS2) &   \
1032             (1u << (MC_CMD_GET_CAPABILITIES_V2_OUT_ ## _flag ## _LBN))))
1033
1034         /*
1035          * Huntington RXDP firmware inserts a 0 or 14 byte prefix.
1036          * We only support the 14 byte prefix here.
1037          */
1038         if (CAP_FLAGS1(req, RX_PREFIX_LEN_14) == 0) {
1039                 rc = ENOTSUP;
1040                 goto fail4;
1041         }
1042         encp->enc_rx_prefix_size = 14;
1043
1044         /* Check if the firmware supports additional RSS modes */
1045         if (CAP_FLAGS1(req, ADDITIONAL_RSS_MODES))
1046                 encp->enc_rx_scale_additional_modes_supported = B_TRUE;
1047         else
1048                 encp->enc_rx_scale_additional_modes_supported = B_FALSE;
1049
1050         /* Check if the firmware supports TSO */
1051         if (CAP_FLAGS1(req, TX_TSO))
1052                 encp->enc_fw_assisted_tso_enabled = B_TRUE;
1053         else
1054                 encp->enc_fw_assisted_tso_enabled = B_FALSE;
1055
1056         /* Check if the firmware supports FATSOv2 */
1057         if (CAP_FLAGS2(req, TX_TSO_V2)) {
1058                 encp->enc_fw_assisted_tso_v2_enabled = B_TRUE;
1059                 encp->enc_fw_assisted_tso_v2_n_contexts = MCDI_OUT_WORD(req,
1060                     GET_CAPABILITIES_V2_OUT_TX_TSO_V2_N_CONTEXTS);
1061         } else {
1062                 encp->enc_fw_assisted_tso_v2_enabled = B_FALSE;
1063                 encp->enc_fw_assisted_tso_v2_n_contexts = 0;
1064         }
1065
1066         /* Check if the firmware supports FATSOv2 encap */
1067         if (CAP_FLAGS2(req, TX_TSO_V2_ENCAP))
1068                 encp->enc_fw_assisted_tso_v2_encap_enabled = B_TRUE;
1069         else
1070                 encp->enc_fw_assisted_tso_v2_encap_enabled = B_FALSE;
1071
1072         /* Check if the firmware has vadapter/vport/vswitch support */
1073         if (CAP_FLAGS1(req, EVB))
1074                 encp->enc_datapath_cap_evb = B_TRUE;
1075         else
1076                 encp->enc_datapath_cap_evb = B_FALSE;
1077
1078         /* Check if the firmware supports VLAN insertion */
1079         if (CAP_FLAGS1(req, TX_VLAN_INSERTION))
1080                 encp->enc_hw_tx_insert_vlan_enabled = B_TRUE;
1081         else
1082                 encp->enc_hw_tx_insert_vlan_enabled = B_FALSE;
1083
1084         /* Check if the firmware supports RX event batching */
1085         if (CAP_FLAGS1(req, RX_BATCHING))
1086                 encp->enc_rx_batching_enabled = B_TRUE;
1087         else
1088                 encp->enc_rx_batching_enabled = B_FALSE;
1089
1090         /*
1091          * Even if batching isn't reported as supported, we may still get
1092          * batched events (see bug61153).
1093          */
1094         encp->enc_rx_batch_max = 16;
1095
1096         /* Check if the firmware supports disabling scatter on RXQs */
1097         if (CAP_FLAGS1(req, RX_DISABLE_SCATTER))
1098                 encp->enc_rx_disable_scatter_supported = B_TRUE;
1099         else
1100                 encp->enc_rx_disable_scatter_supported = B_FALSE;
1101
1102         /* Check if the firmware supports packed stream mode */
1103         if (CAP_FLAGS1(req, RX_PACKED_STREAM))
1104                 encp->enc_rx_packed_stream_supported = B_TRUE;
1105         else
1106                 encp->enc_rx_packed_stream_supported = B_FALSE;
1107
1108         /*
1109          * Check if the firmware supports configurable buffer sizes
1110          * for packed stream mode (otherwise buffer size is 1Mbyte)
1111          */
1112         if (CAP_FLAGS1(req, RX_PACKED_STREAM_VAR_BUFFERS))
1113                 encp->enc_rx_var_packed_stream_supported = B_TRUE;
1114         else
1115                 encp->enc_rx_var_packed_stream_supported = B_FALSE;
1116
1117         /* Check if the firmware supports equal stride super-buffer mode */
1118         if (CAP_FLAGS2(req, EQUAL_STRIDE_SUPER_BUFFER))
1119                 encp->enc_rx_es_super_buffer_supported = B_TRUE;
1120         else
1121                 encp->enc_rx_es_super_buffer_supported = B_FALSE;
1122
1123         /* Check if the firmware supports FW subvariant w/o Tx checksumming */
1124         if (CAP_FLAGS2(req, FW_SUBVARIANT_NO_TX_CSUM))
1125                 encp->enc_fw_subvariant_no_tx_csum_supported = B_TRUE;
1126         else
1127                 encp->enc_fw_subvariant_no_tx_csum_supported = B_FALSE;
1128
1129         /* Check if the firmware supports set mac with running filters */
1130         if (CAP_FLAGS1(req, VADAPTOR_PERMIT_SET_MAC_WHEN_FILTERS_INSTALLED))
1131                 encp->enc_allow_set_mac_with_installed_filters = B_TRUE;
1132         else
1133                 encp->enc_allow_set_mac_with_installed_filters = B_FALSE;
1134
1135         /*
1136          * Check if firmware supports the extended MC_CMD_SET_MAC, which allows
1137          * specifying which parameters to configure.
1138          */
1139         if (CAP_FLAGS1(req, SET_MAC_ENHANCED))
1140                 encp->enc_enhanced_set_mac_supported = B_TRUE;
1141         else
1142                 encp->enc_enhanced_set_mac_supported = B_FALSE;
1143
1144         /*
1145          * Check if firmware supports version 2 of MC_CMD_INIT_EVQ, which allows
1146          * us to let the firmware choose the settings to use on an EVQ.
1147          */
1148         if (CAP_FLAGS2(req, INIT_EVQ_V2))
1149                 encp->enc_init_evq_v2_supported = B_TRUE;
1150         else
1151                 encp->enc_init_evq_v2_supported = B_FALSE;
1152
1153         /*
1154          * Check if firmware-verified NVRAM updates must be used.
1155          *
1156          * The firmware trusted installer requires all NVRAM updates to use
1157          * version 2 of MC_CMD_NVRAM_UPDATE_START (to enable verified update)
1158          * and version 2 of MC_CMD_NVRAM_UPDATE_FINISH (to verify the updated
1159          * partition and report the result).
1160          */
1161         if (CAP_FLAGS2(req, NVRAM_UPDATE_REPORT_VERIFY_RESULT))
1162                 encp->enc_nvram_update_verify_result_supported = B_TRUE;
1163         else
1164                 encp->enc_nvram_update_verify_result_supported = B_FALSE;
1165
1166         /*
1167          * Check if firmware provides packet memory and Rx datapath
1168          * counters.
1169          */
1170         if (CAP_FLAGS1(req, PM_AND_RXDP_COUNTERS))
1171                 encp->enc_pm_and_rxdp_counters = B_TRUE;
1172         else
1173                 encp->enc_pm_and_rxdp_counters = B_FALSE;
1174
1175         /*
1176          * Check if the 40G MAC hardware is capable of reporting
1177          * statistics for Tx size bins.
1178          */
1179         if (CAP_FLAGS2(req, MAC_STATS_40G_TX_SIZE_BINS))
1180                 encp->enc_mac_stats_40g_tx_size_bins = B_TRUE;
1181         else
1182                 encp->enc_mac_stats_40g_tx_size_bins = B_FALSE;
1183
1184         /*
1185          * Check if firmware supports VXLAN and NVGRE tunnels.
1186          * The capability indicates Geneve protocol support as well.
1187          */
1188         if (CAP_FLAGS1(req, VXLAN_NVGRE)) {
1189                 encp->enc_tunnel_encapsulations_supported =
1190                     (1u << EFX_TUNNEL_PROTOCOL_VXLAN) |
1191                     (1u << EFX_TUNNEL_PROTOCOL_GENEVE) |
1192                     (1u << EFX_TUNNEL_PROTOCOL_NVGRE);
1193
1194                 EFX_STATIC_ASSERT(EFX_TUNNEL_MAXNENTRIES ==
1195                     MC_CMD_SET_TUNNEL_ENCAP_UDP_PORTS_IN_ENTRIES_MAXNUM);
1196                 encp->enc_tunnel_config_udp_entries_max =
1197                     EFX_TUNNEL_MAXNENTRIES;
1198         } else {
1199                 encp->enc_tunnel_config_udp_entries_max = 0;
1200         }
1201
1202         /*
1203          * Check if firmware reports the VI window mode.
1204          * Medford2 has a variable VI window size (8K, 16K or 64K).
1205          * Medford and Huntington have a fixed 8K VI window size.
1206          */
1207         if (req.emr_out_length_used >= MC_CMD_GET_CAPABILITIES_V3_OUT_LEN) {
1208                 uint8_t mode =
1209                     MCDI_OUT_BYTE(req, GET_CAPABILITIES_V3_OUT_VI_WINDOW_MODE);
1210
1211                 switch (mode) {
1212                 case MC_CMD_GET_CAPABILITIES_V3_OUT_VI_WINDOW_MODE_8K:
1213                         encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_8K;
1214                         break;
1215                 case MC_CMD_GET_CAPABILITIES_V3_OUT_VI_WINDOW_MODE_16K:
1216                         encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_16K;
1217                         break;
1218                 case MC_CMD_GET_CAPABILITIES_V3_OUT_VI_WINDOW_MODE_64K:
1219                         encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_64K;
1220                         break;
1221                 default:
1222                         encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_INVALID;
1223                         break;
1224                 }
1225         } else if ((enp->en_family == EFX_FAMILY_HUNTINGTON) ||
1226                     (enp->en_family == EFX_FAMILY_MEDFORD)) {
1227                 /* Huntington and Medford have fixed 8K window size */
1228                 encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_8K;
1229         } else {
1230                 encp->enc_vi_window_shift = EFX_VI_WINDOW_SHIFT_INVALID;
1231         }
1232
1233         /* Check if firmware supports extended MAC stats. */
1234         if (req.emr_out_length_used >= MC_CMD_GET_CAPABILITIES_V4_OUT_LEN) {
1235                 /* Extended stats buffer supported */
1236                 encp->enc_mac_stats_nstats = MCDI_OUT_WORD(req,
1237                     GET_CAPABILITIES_V4_OUT_MAC_STATS_NUM_STATS);
1238         } else {
1239                 /* Use Siena-compatible legacy MAC stats */
1240                 encp->enc_mac_stats_nstats = MC_CMD_MAC_NSTATS;
1241         }
1242
1243         if (encp->enc_mac_stats_nstats >= MC_CMD_MAC_NSTATS_V2)
1244                 encp->enc_fec_counters = B_TRUE;
1245         else
1246                 encp->enc_fec_counters = B_FALSE;
1247
1248         if (CAP_FLAGS1(req, RX_RSS_LIMITED)) {
1249                 /* Only one exclusive RSS context is available per port. */
1250                 encp->enc_rx_scale_max_exclusive_contexts = 1;
1251
1252                 switch (enp->en_family) {
1253                 case EFX_FAMILY_MEDFORD2:
1254                         encp->enc_rx_scale_hash_alg_mask =
1255                             (1U << EFX_RX_HASHALG_TOEPLITZ);
1256                         break;
1257
1258                 case EFX_FAMILY_MEDFORD:
1259                 case EFX_FAMILY_HUNTINGTON:
1260                         /*
1261                          * Packed stream firmware variant maintains a
1262                          * non-standard algorithm for hash computation.
1263                          * It implies explicit XORing together
1264                          * source + destination IP addresses (or last
1265                          * four bytes in the case of IPv6) and using the
1266                          * resulting value as the input to a Toeplitz hash.
1267                          */
1268                         encp->enc_rx_scale_hash_alg_mask =
1269                             (1U << EFX_RX_HASHALG_PACKED_STREAM);
1270                         break;
1271
1272                 default:
1273                         rc = EINVAL;
1274                         goto fail5;
1275                 }
1276
1277                 /* Port numbers cannot contribute to the hash value */
1278                 encp->enc_rx_scale_l4_hash_supported = B_FALSE;
1279         } else {
1280                 /*
1281                  * Maximum number of exclusive RSS contexts.
1282                  * EF10 hardware supports 64 in total, but 6 are reserved
1283                  * for shared contexts. They are a global resource so
1284                  * not all may be available.
1285                  */
1286                 encp->enc_rx_scale_max_exclusive_contexts = 64 - 6;
1287
1288                 encp->enc_rx_scale_hash_alg_mask =
1289                     (1U << EFX_RX_HASHALG_TOEPLITZ);
1290
1291                 /*
1292                  * It is possible to use port numbers as
1293                  * the input data for hash computation.
1294                  */
1295                 encp->enc_rx_scale_l4_hash_supported = B_TRUE;
1296         }
1297
1298 #undef CAP_FLAGS1
1299 #undef CAP_FLAGS2
1300
1301         return (0);
1302
1303 fail5:
1304         EFSYS_PROBE(fail5);
1305 fail4:
1306         EFSYS_PROBE(fail4);
1307 fail3:
1308         EFSYS_PROBE(fail3);
1309 fail2:
1310         EFSYS_PROBE(fail2);
1311 fail1:
1312         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1313
1314         return (rc);
1315 }
1316
1317
1318 #define EF10_LEGACY_PF_PRIVILEGE_MASK                                   \
1319         (MC_CMD_PRIVILEGE_MASK_IN_GRP_ADMIN                     |       \
1320         MC_CMD_PRIVILEGE_MASK_IN_GRP_LINK                       |       \
1321         MC_CMD_PRIVILEGE_MASK_IN_GRP_ONLOAD                     |       \
1322         MC_CMD_PRIVILEGE_MASK_IN_GRP_PTP                        |       \
1323         MC_CMD_PRIVILEGE_MASK_IN_GRP_INSECURE_FILTERS           |       \
1324         MC_CMD_PRIVILEGE_MASK_IN_GRP_MAC_SPOOFING               |       \
1325         MC_CMD_PRIVILEGE_MASK_IN_GRP_UNICAST                    |       \
1326         MC_CMD_PRIVILEGE_MASK_IN_GRP_MULTICAST                  |       \
1327         MC_CMD_PRIVILEGE_MASK_IN_GRP_BROADCAST                  |       \
1328         MC_CMD_PRIVILEGE_MASK_IN_GRP_ALL_MULTICAST              |       \
1329         MC_CMD_PRIVILEGE_MASK_IN_GRP_PROMISCUOUS)
1330
1331 #define EF10_LEGACY_VF_PRIVILEGE_MASK   0
1332
1333
1334         __checkReturn           efx_rc_t
1335 ef10_get_privilege_mask(
1336         __in                    efx_nic_t *enp,
1337         __out                   uint32_t *maskp)
1338 {
1339         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1340         uint32_t mask;
1341         efx_rc_t rc;
1342
1343         if ((rc = efx_mcdi_privilege_mask(enp, encp->enc_pf, encp->enc_vf,
1344                                             &mask)) != 0) {
1345                 if (rc != ENOTSUP)
1346                         goto fail1;
1347
1348                 /* Fallback for old firmware without privilege mask support */
1349                 if (EFX_PCI_FUNCTION_IS_PF(encp)) {
1350                         /* Assume PF has admin privilege */
1351                         mask = EF10_LEGACY_PF_PRIVILEGE_MASK;
1352                 } else {
1353                         /* VF is always unprivileged by default */
1354                         mask = EF10_LEGACY_VF_PRIVILEGE_MASK;
1355                 }
1356         }
1357
1358         *maskp = mask;
1359
1360         return (0);
1361
1362 fail1:
1363         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1364
1365         return (rc);
1366 }
1367
1368
1369 /*
1370  * Table of mapping schemes from port number to external number.
1371  *
1372  * Each port number ultimately corresponds to a connector: either as part of
1373  * a cable assembly attached to a module inserted in an SFP+/QSFP+ cage on
1374  * the board, or fixed to the board (e.g. 10GBASE-T magjack on SFN5121T
1375  * "Salina"). In general:
1376  *
1377  * Port number (0-based)
1378  *     |
1379  *   port mapping (n:1)
1380  *     |
1381  *     v
1382  * External port number (normally 1-based)
1383  *     |
1384  *   fixed (1:1) or cable assembly (1:m)
1385  *     |
1386  *     v
1387  * Connector
1388  *
1389  * The external numbering refers to the cages or magjacks on the board,
1390  * as visibly annotated on the board or back panel. This table describes
1391  * how to determine which external cage/magjack corresponds to the port
1392  * numbers used by the driver.
1393  *
1394  * The count of adjacent port numbers that map to each external number,
1395  * and the offset in the numbering, is determined by the chip family and
1396  * current port mode.
1397  *
1398  * For the Huntington family, the current port mode cannot be discovered,
1399  * but a single mapping is used by all modes for a given chip variant,
1400  * so the mapping used is instead the last match in the table to the full
1401  * set of port modes to which the NIC can be configured. Therefore the
1402  * ordering of entries in the mapping table is significant.
1403  */
1404 static struct ef10_external_port_map_s {
1405         efx_family_t    family;
1406         uint32_t        modes_mask;
1407         int32_t         count;
1408         int32_t         offset;
1409 }       __ef10_external_port_mappings[] = {
1410         /*
1411          * Modes used by Huntington family controllers where each port
1412          * number maps to a separate cage.
1413          * SFN7x22F (Torino):
1414          *      port 0 -> cage 1
1415          *      port 1 -> cage 2
1416          * SFN7xx4F (Pavia):
1417          *      port 0 -> cage 1
1418          *      port 1 -> cage 2
1419          *      port 2 -> cage 3
1420          *      port 3 -> cage 4
1421          */
1422         {
1423                 EFX_FAMILY_HUNTINGTON,
1424                 (1U << TLV_PORT_MODE_10G) |                     /* mode 0 */
1425                 (1U << TLV_PORT_MODE_10G_10G) |                 /* mode 2 */
1426                 (1U << TLV_PORT_MODE_10G_10G_10G_10G),          /* mode 4 */
1427                 1,      /* ports per cage */
1428                 1       /* first cage */
1429         },
1430         /*
1431          * Modes which for Huntington identify a chip variant where 2
1432          * adjacent port numbers map to each cage.
1433          * SFN7x42Q (Monza):
1434          *      port 0 -> cage 1
1435          *      port 1 -> cage 1
1436          *      port 2 -> cage 2
1437          *      port 3 -> cage 2
1438          */
1439         {
1440                 EFX_FAMILY_HUNTINGTON,
1441                 (1U << TLV_PORT_MODE_40G) |                     /* mode 1 */
1442                 (1U << TLV_PORT_MODE_40G_40G) |                 /* mode 3 */
1443                 (1U << TLV_PORT_MODE_40G_10G_10G) |             /* mode 6 */
1444                 (1U << TLV_PORT_MODE_10G_10G_40G),              /* mode 7 */
1445                 2,      /* ports per cage */
1446                 1       /* first cage */
1447         },
1448         /*
1449          * Modes that on Medford allocate each port number to a separate
1450          * cage.
1451          *      port 0 -> cage 1
1452          *      port 1 -> cage 2
1453          *      port 2 -> cage 3
1454          *      port 3 -> cage 4
1455          */
1456         {
1457                 EFX_FAMILY_MEDFORD,
1458                 (1U << TLV_PORT_MODE_10G) |                     /* mode 0 */
1459                 (1U << TLV_PORT_MODE_10G_10G),                  /* mode 2 */
1460                 1,      /* ports per cage */
1461                 1       /* first cage */
1462         },
1463         /*
1464          * Modes that on Medford allocate 2 adjacent port numbers to each
1465          * cage.
1466          *      port 0 -> cage 1
1467          *      port 1 -> cage 1
1468          *      port 2 -> cage 2
1469          *      port 3 -> cage 2
1470          */
1471         {
1472                 EFX_FAMILY_MEDFORD,
1473                 (1U << TLV_PORT_MODE_40G) |                     /* mode 1 */
1474                 (1U << TLV_PORT_MODE_40G_40G) |                 /* mode 3 */
1475                 (1U << TLV_PORT_MODE_40G_10G_10G) |             /* mode 6 */
1476                 (1U << TLV_PORT_MODE_10G_10G_40G) |             /* mode 7 */
1477                 /* Do not use 10G_10G_10G_10G_Q1_Q2 (see bug63270) */
1478                 (1U << TLV_PORT_MODE_10G_10G_10G_10G_Q1_Q2),    /* mode 9 */
1479                 2,      /* ports per cage */
1480                 1       /* first cage */
1481         },
1482         /*
1483          * Modes that on Medford allocate 4 adjacent port numbers to each
1484          * connector, starting on cage 1.
1485          *      port 0 -> cage 1
1486          *      port 1 -> cage 1
1487          *      port 2 -> cage 1
1488          *      port 3 -> cage 1
1489          */
1490         {
1491                 EFX_FAMILY_MEDFORD,
1492                 (1U << TLV_PORT_MODE_10G_10G_10G_10G_Q) |       /* mode 5 */
1493                 /* Do not use 10G_10G_10G_10G_Q1 (see bug63270) */
1494                 (1U << TLV_PORT_MODE_10G_10G_10G_10G_Q1),       /* mode 4 */
1495                 4,      /* ports per cage */
1496                 1       /* first cage */
1497         },
1498         /*
1499          * Modes that on Medford allocate 4 adjacent port numbers to each
1500          * connector, starting on cage 2.
1501          *      port 0 -> cage 2
1502          *      port 1 -> cage 2
1503          *      port 2 -> cage 2
1504          *      port 3 -> cage 2
1505          */
1506         {
1507                 EFX_FAMILY_MEDFORD,
1508                 (1U << TLV_PORT_MODE_10G_10G_10G_10G_Q2),       /* mode 8 */
1509                 4,      /* ports per cage */
1510                 2       /* first cage */
1511         },
1512         /*
1513          * Modes that on Medford2 allocate each port number to a separate
1514          * cage.
1515          *      port 0 -> cage 1
1516          *      port 1 -> cage 2
1517          *      port 2 -> cage 3
1518          *      port 3 -> cage 4
1519          */
1520         {
1521                 EFX_FAMILY_MEDFORD2,
1522                 (1U << TLV_PORT_MODE_1x1_NA) |                  /* mode 0 */
1523                 (1U << TLV_PORT_MODE_1x4_NA) |                  /* mode 1 */
1524                 (1U << TLV_PORT_MODE_1x1_1x1) |                 /* mode 2 */
1525                 (1U << TLV_PORT_MODE_1x2_NA) |                  /* mode 10 */
1526                 (1U << TLV_PORT_MODE_1x2_1x2) |                 /* mode 12 */
1527                 (1U << TLV_PORT_MODE_1x4_1x2) |                 /* mode 15 */
1528                 (1U << TLV_PORT_MODE_1x2_1x4),                  /* mode 16 */
1529                 1,      /* ports per cage */
1530                 1       /* first cage */
1531         },
1532         /*
1533          * FIXME: Some port modes are not representable in this mapping:
1534          *  - TLV_PORT_MODE_1x2_2x1 (mode 17):
1535          *      port 0 -> cage 1
1536          *      port 1 -> cage 2
1537          *      port 2 -> cage 2
1538          */
1539         /*
1540          * Modes that on Medford2 allocate 2 adjacent port numbers to each
1541          * cage, starting on cage 1.
1542          *      port 0 -> cage 1
1543          *      port 1 -> cage 1
1544          *      port 2 -> cage 2
1545          *      port 3 -> cage 2
1546          */
1547         {
1548                 EFX_FAMILY_MEDFORD2,
1549                 (1U << TLV_PORT_MODE_1x4_1x4) |                 /* mode 3 */
1550                 (1U << TLV_PORT_MODE_2x1_2x1) |                 /* mode 4 */
1551                 (1U << TLV_PORT_MODE_1x4_2x1) |                 /* mode 6 */
1552                 (1U << TLV_PORT_MODE_2x1_1x4) |                 /* mode 7 */
1553                 (1U << TLV_PORT_MODE_2x2_NA) |                  /* mode 13 */
1554                 (1U << TLV_PORT_MODE_2x1_1x2),                  /* mode 18 */
1555                 2,      /* ports per cage */
1556                 1       /* first cage */
1557         },
1558         /*
1559          * Modes that on Medford2 allocate 2 adjacent port numbers to each
1560          * cage, starting on cage 2.
1561          *      port 0 -> cage 2
1562          *      port 1 -> cage 2
1563          */
1564         {
1565                 EFX_FAMILY_MEDFORD2,
1566                 (1U << TLV_PORT_MODE_NA_2x2),                   /* mode 14 */
1567                 2,      /* ports per cage */
1568                 2       /* first cage */
1569         },
1570         /*
1571          * Modes that on Medford2 allocate 4 adjacent port numbers to each
1572          * connector, starting on cage 1.
1573          *      port 0 -> cage 1
1574          *      port 1 -> cage 1
1575          *      port 2 -> cage 1
1576          *      port 3 -> cage 1
1577          */
1578         {
1579                 EFX_FAMILY_MEDFORD2,
1580                 (1U << TLV_PORT_MODE_4x1_NA),                   /* mode 5 */
1581                 4,      /* ports per cage */
1582                 1       /* first cage */
1583         },
1584         /*
1585          * Modes that on Medford2 allocate 4 adjacent port numbers to each
1586          * connector, starting on cage 2.
1587          *      port 0 -> cage 2
1588          *      port 1 -> cage 2
1589          *      port 2 -> cage 2
1590          *      port 3 -> cage 2
1591          */
1592         {
1593                 EFX_FAMILY_MEDFORD2,
1594                 (1U << TLV_PORT_MODE_NA_4x1) |                  /* mode 8 */
1595                 (1U << TLV_PORT_MODE_NA_1x2),                   /* mode 11 */
1596                 4,      /* ports per cage */
1597                 2       /* first cage */
1598         },
1599 };
1600
1601 static  __checkReturn   efx_rc_t
1602 ef10_external_port_mapping(
1603         __in            efx_nic_t *enp,
1604         __in            uint32_t port,
1605         __out           uint8_t *external_portp)
1606 {
1607         efx_rc_t rc;
1608         int i;
1609         uint32_t port_modes;
1610         uint32_t matches;
1611         uint32_t current;
1612         int32_t count = 1; /* Default 1-1 mapping */
1613         int32_t offset = 1; /* Default starting external port number */
1614
1615         if ((rc = efx_mcdi_get_port_modes(enp, &port_modes, &current)) != 0) {
1616                 /*
1617                  * No current port mode information (i.e. Huntington)
1618                  * - infer mapping from available modes
1619                  */
1620                 if ((rc = efx_mcdi_get_port_modes(enp,
1621                             &port_modes, NULL)) != 0) {
1622                         /*
1623                          * No port mode information available
1624                          * - use default mapping
1625                          */
1626                         goto out;
1627                 }
1628         } else {
1629                 /* Only need to scan the current mode */
1630                 port_modes = 1 << current;
1631         }
1632
1633         /*
1634          * Infer the internal port -> external number mapping from
1635          * the possible port modes for this NIC.
1636          */
1637         for (i = 0; i < EFX_ARRAY_SIZE(__ef10_external_port_mappings); ++i) {
1638                 struct ef10_external_port_map_s *eepmp =
1639                     &__ef10_external_port_mappings[i];
1640                 if (eepmp->family != enp->en_family)
1641                         continue;
1642                 matches = (eepmp->modes_mask & port_modes);
1643                 if (matches != 0) {
1644                         /*
1645                          * Some modes match. For some Huntington boards
1646                          * there will be multiple matches. The mapping on the
1647                          * last match is used.
1648                          */
1649                         count = eepmp->count;
1650                         offset = eepmp->offset;
1651                         port_modes &= ~matches;
1652                 }
1653         }
1654
1655         if (port_modes != 0) {
1656                 /* Some advertised modes are not supported */
1657                 rc = ENOTSUP;
1658                 goto fail1;
1659         }
1660
1661 out:
1662         /*
1663          * Scale as required by last matched mode and then convert to
1664          * correctly offset numbering
1665          */
1666         *external_portp = (uint8_t)((port / count) + offset);
1667         return (0);
1668
1669 fail1:
1670         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1671
1672         return (rc);
1673 }
1674
1675 static  __checkReturn   efx_rc_t
1676 ef10_nic_board_cfg(
1677         __in            efx_nic_t *enp)
1678 {
1679         const efx_nic_ops_t *enop = enp->en_enop;
1680         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
1681         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1682         ef10_link_state_t els;
1683         efx_port_t *epp = &(enp->en_port);
1684         uint32_t board_type = 0;
1685         uint32_t base, nvec;
1686         uint32_t port;
1687         uint32_t mask;
1688         uint32_t pf;
1689         uint32_t vf;
1690         uint8_t mac_addr[6] = { 0 };
1691         efx_rc_t rc;
1692
1693         /* Get the (zero-based) MCDI port number */
1694         if ((rc = efx_mcdi_get_port_assignment(enp, &port)) != 0)
1695                 goto fail1;
1696
1697         /* EFX MCDI interface uses one-based port numbers */
1698         emip->emi_port = port + 1;
1699
1700         if ((rc = ef10_external_port_mapping(enp, port,
1701                     &encp->enc_external_port)) != 0)
1702                 goto fail2;
1703
1704         /*
1705          * Get PCIe function number from firmware (used for
1706          * per-function privilege and dynamic config info).
1707          *  - PCIe PF: pf = PF number, vf = 0xffff.
1708          *  - PCIe VF: pf = parent PF, vf = VF number.
1709          */
1710         if ((rc = efx_mcdi_get_function_info(enp, &pf, &vf)) != 0)
1711                 goto fail3;
1712
1713         encp->enc_pf = pf;
1714         encp->enc_vf = vf;
1715
1716         /* MAC address for this function */
1717         if (EFX_PCI_FUNCTION_IS_PF(encp)) {
1718                 rc = efx_mcdi_get_mac_address_pf(enp, mac_addr);
1719 #if EFSYS_OPT_ALLOW_UNCONFIGURED_NIC
1720                 /*
1721                  * Disable static config checking, ONLY for manufacturing test
1722                  * and setup at the factory, to allow the static config to be
1723                  * installed.
1724                  */
1725 #else /* EFSYS_OPT_ALLOW_UNCONFIGURED_NIC */
1726                 if ((rc == 0) && (mac_addr[0] & 0x02)) {
1727                         /*
1728                          * If the static config does not include a global MAC
1729                          * address pool then the board may return a locally
1730                          * administered MAC address (this should only happen on
1731                          * incorrectly programmed boards).
1732                          */
1733                         rc = EINVAL;
1734                 }
1735 #endif /* EFSYS_OPT_ALLOW_UNCONFIGURED_NIC */
1736         } else {
1737                 rc = efx_mcdi_get_mac_address_vf(enp, mac_addr);
1738         }
1739         if (rc != 0)
1740                 goto fail4;
1741
1742         EFX_MAC_ADDR_COPY(encp->enc_mac_addr, mac_addr);
1743
1744         /* Board configuration (legacy) */
1745         rc = efx_mcdi_get_board_cfg(enp, &board_type, NULL, NULL);
1746         if (rc != 0) {
1747                 /* Unprivileged functions may not be able to read board cfg */
1748                 if (rc == EACCES)
1749                         board_type = 0;
1750                 else
1751                         goto fail5;
1752         }
1753
1754         encp->enc_board_type = board_type;
1755         encp->enc_clk_mult = 1; /* not used for EF10 */
1756
1757         /* Fill out fields in enp->en_port and enp->en_nic_cfg from MCDI */
1758         if ((rc = efx_mcdi_get_phy_cfg(enp)) != 0)
1759                 goto fail6;
1760
1761         /* Obtain the default PHY advertised capabilities */
1762         if ((rc = ef10_phy_get_link(enp, &els)) != 0)
1763                 goto fail7;
1764         epp->ep_default_adv_cap_mask = els.els_adv_cap_mask;
1765         epp->ep_adv_cap_mask = els.els_adv_cap_mask;
1766
1767         /* Check capabilities of running datapath firmware */
1768         if ((rc = ef10_get_datapath_caps(enp)) != 0)
1769                 goto fail8;
1770
1771         /* Alignment for WPTR updates */
1772         encp->enc_rx_push_align = EF10_RX_WPTR_ALIGN;
1773
1774         encp->enc_tx_dma_desc_size_max = EFX_MASK32(ESF_DZ_RX_KER_BYTE_CNT);
1775         /* No boundary crossing limits */
1776         encp->enc_tx_dma_desc_boundary = 0;
1777
1778         /*
1779          * Maximum number of bytes into the frame the TCP header can start for
1780          * firmware assisted TSO to work.
1781          */
1782         encp->enc_tx_tso_tcp_header_offset_limit = EF10_TCP_HEADER_OFFSET_LIMIT;
1783
1784         /*
1785          * Set resource limits for MC_CMD_ALLOC_VIS. Note that we cannot use
1786          * MC_CMD_GET_RESOURCE_LIMITS here as that reports the available
1787          * resources (allocated to this PCIe function), which is zero until
1788          * after we have allocated VIs.
1789          */
1790         encp->enc_evq_limit = 1024;
1791         encp->enc_rxq_limit = EFX_RXQ_LIMIT_TARGET;
1792         encp->enc_txq_limit = EFX_TXQ_LIMIT_TARGET;
1793
1794         encp->enc_buftbl_limit = 0xFFFFFFFF;
1795
1796         /* Get interrupt vector limits */
1797         if ((rc = efx_mcdi_get_vector_cfg(enp, &base, &nvec, NULL)) != 0) {
1798                 if (EFX_PCI_FUNCTION_IS_PF(encp))
1799                         goto fail9;
1800
1801                 /* Ignore error (cannot query vector limits from a VF). */
1802                 base = 0;
1803                 nvec = 1024;
1804         }
1805         encp->enc_intr_vec_base = base;
1806         encp->enc_intr_limit = nvec;
1807
1808         /*
1809          * Get the current privilege mask. Note that this may be modified
1810          * dynamically, so this value is informational only. DO NOT use
1811          * the privilege mask to check for sufficient privileges, as that
1812          * can result in time-of-check/time-of-use bugs.
1813          */
1814         if ((rc = ef10_get_privilege_mask(enp, &mask)) != 0)
1815                 goto fail10;
1816         encp->enc_privilege_mask = mask;
1817
1818         /* Get remaining controller-specific board config */
1819         if ((rc = enop->eno_board_cfg(enp)) != 0)
1820                 if (rc != EACCES)
1821                         goto fail11;
1822
1823         return (0);
1824
1825 fail11:
1826         EFSYS_PROBE(fail11);
1827 fail10:
1828         EFSYS_PROBE(fail10);
1829 fail9:
1830         EFSYS_PROBE(fail9);
1831 fail8:
1832         EFSYS_PROBE(fail8);
1833 fail7:
1834         EFSYS_PROBE(fail7);
1835 fail6:
1836         EFSYS_PROBE(fail6);
1837 fail5:
1838         EFSYS_PROBE(fail5);
1839 fail4:
1840         EFSYS_PROBE(fail4);
1841 fail3:
1842         EFSYS_PROBE(fail3);
1843 fail2:
1844         EFSYS_PROBE(fail2);
1845 fail1:
1846         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1847
1848         return (rc);
1849 }
1850
1851         __checkReturn   efx_rc_t
1852 ef10_nic_probe(
1853         __in            efx_nic_t *enp)
1854 {
1855         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1856         efx_drv_cfg_t *edcp = &(enp->en_drv_cfg);
1857         efx_rc_t rc;
1858
1859         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
1860             enp->en_family == EFX_FAMILY_MEDFORD ||
1861             enp->en_family == EFX_FAMILY_MEDFORD2);
1862
1863         /* Read and clear any assertion state */
1864         if ((rc = efx_mcdi_read_assertion(enp)) != 0)
1865                 goto fail1;
1866
1867         /* Exit the assertion handler */
1868         if ((rc = efx_mcdi_exit_assertion_handler(enp)) != 0)
1869                 if (rc != EACCES)
1870                         goto fail2;
1871
1872         if ((rc = efx_mcdi_drv_attach(enp, B_TRUE)) != 0)
1873                 goto fail3;
1874
1875         if ((rc = ef10_nic_board_cfg(enp)) != 0)
1876                 goto fail4;
1877
1878         /*
1879          * Set default driver config limits (based on board config).
1880          *
1881          * FIXME: For now allocate a fixed number of VIs which is likely to be
1882          * sufficient and small enough to allow multiple functions on the same
1883          * port.
1884          */
1885         edcp->edc_min_vi_count = edcp->edc_max_vi_count =
1886             MIN(128, MAX(encp->enc_rxq_limit, encp->enc_txq_limit));
1887
1888         /* The client driver must configure and enable PIO buffer support */
1889         edcp->edc_max_piobuf_count = 0;
1890         edcp->edc_pio_alloc_size = 0;
1891
1892 #if EFSYS_OPT_MAC_STATS
1893         /* Wipe the MAC statistics */
1894         if ((rc = efx_mcdi_mac_stats_clear(enp)) != 0)
1895                 goto fail5;
1896 #endif
1897
1898 #if EFSYS_OPT_LOOPBACK
1899         if ((rc = efx_mcdi_get_loopback_modes(enp)) != 0)
1900                 goto fail6;
1901 #endif
1902
1903 #if EFSYS_OPT_MON_STATS
1904         if ((rc = mcdi_mon_cfg_build(enp)) != 0) {
1905                 /* Unprivileged functions do not have access to sensors */
1906                 if (rc != EACCES)
1907                         goto fail7;
1908         }
1909 #endif
1910
1911         encp->enc_features = enp->en_features;
1912
1913         return (0);
1914
1915 #if EFSYS_OPT_MON_STATS
1916 fail7:
1917         EFSYS_PROBE(fail7);
1918 #endif
1919 #if EFSYS_OPT_LOOPBACK
1920 fail6:
1921         EFSYS_PROBE(fail6);
1922 #endif
1923 #if EFSYS_OPT_MAC_STATS
1924 fail5:
1925         EFSYS_PROBE(fail5);
1926 #endif
1927 fail4:
1928         EFSYS_PROBE(fail4);
1929 fail3:
1930         EFSYS_PROBE(fail3);
1931 fail2:
1932         EFSYS_PROBE(fail2);
1933 fail1:
1934         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1935
1936         return (rc);
1937 }
1938
1939         __checkReturn   efx_rc_t
1940 ef10_nic_set_drv_limits(
1941         __inout         efx_nic_t *enp,
1942         __in            efx_drv_limits_t *edlp)
1943 {
1944         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1945         efx_drv_cfg_t *edcp = &(enp->en_drv_cfg);
1946         uint32_t min_evq_count, max_evq_count;
1947         uint32_t min_rxq_count, max_rxq_count;
1948         uint32_t min_txq_count, max_txq_count;
1949         efx_rc_t rc;
1950
1951         if (edlp == NULL) {
1952                 rc = EINVAL;
1953                 goto fail1;
1954         }
1955
1956         /* Get minimum required and maximum usable VI limits */
1957         min_evq_count = MIN(edlp->edl_min_evq_count, encp->enc_evq_limit);
1958         min_rxq_count = MIN(edlp->edl_min_rxq_count, encp->enc_rxq_limit);
1959         min_txq_count = MIN(edlp->edl_min_txq_count, encp->enc_txq_limit);
1960
1961         edcp->edc_min_vi_count =
1962             MAX(min_evq_count, MAX(min_rxq_count, min_txq_count));
1963
1964         max_evq_count = MIN(edlp->edl_max_evq_count, encp->enc_evq_limit);
1965         max_rxq_count = MIN(edlp->edl_max_rxq_count, encp->enc_rxq_limit);
1966         max_txq_count = MIN(edlp->edl_max_txq_count, encp->enc_txq_limit);
1967
1968         edcp->edc_max_vi_count =
1969             MAX(max_evq_count, MAX(max_rxq_count, max_txq_count));
1970
1971         /*
1972          * Check limits for sub-allocated piobuf blocks.
1973          * PIO is optional, so don't fail if the limits are incorrect.
1974          */
1975         if ((encp->enc_piobuf_size == 0) ||
1976             (encp->enc_piobuf_limit == 0) ||
1977             (edlp->edl_min_pio_alloc_size == 0) ||
1978             (edlp->edl_min_pio_alloc_size > encp->enc_piobuf_size)) {
1979                 /* Disable PIO */
1980                 edcp->edc_max_piobuf_count = 0;
1981                 edcp->edc_pio_alloc_size = 0;
1982         } else {
1983                 uint32_t blk_size, blk_count, blks_per_piobuf;
1984
1985                 blk_size =
1986                     MAX(edlp->edl_min_pio_alloc_size,
1987                             encp->enc_piobuf_min_alloc_size);
1988
1989                 blks_per_piobuf = encp->enc_piobuf_size / blk_size;
1990                 EFSYS_ASSERT3U(blks_per_piobuf, <=, 32);
1991
1992                 blk_count = (encp->enc_piobuf_limit * blks_per_piobuf);
1993
1994                 /* A zero max pio alloc count means unlimited */
1995                 if ((edlp->edl_max_pio_alloc_count > 0) &&
1996                     (edlp->edl_max_pio_alloc_count < blk_count)) {
1997                         blk_count = edlp->edl_max_pio_alloc_count;
1998                 }
1999
2000                 edcp->edc_pio_alloc_size = blk_size;
2001                 edcp->edc_max_piobuf_count =
2002                     (blk_count + (blks_per_piobuf - 1)) / blks_per_piobuf;
2003         }
2004
2005         return (0);
2006
2007 fail1:
2008         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2009
2010         return (rc);
2011 }
2012
2013
2014         __checkReturn   efx_rc_t
2015 ef10_nic_reset(
2016         __in            efx_nic_t *enp)
2017 {
2018         efx_mcdi_req_t req;
2019         uint8_t payload[MAX(MC_CMD_ENTITY_RESET_IN_LEN,
2020                             MC_CMD_ENTITY_RESET_OUT_LEN)];
2021         efx_rc_t rc;
2022
2023         /* ef10_nic_reset() is called to recover from BADASSERT failures. */
2024         if ((rc = efx_mcdi_read_assertion(enp)) != 0)
2025                 goto fail1;
2026         if ((rc = efx_mcdi_exit_assertion_handler(enp)) != 0)
2027                 goto fail2;
2028
2029         (void) memset(payload, 0, sizeof (payload));
2030         req.emr_cmd = MC_CMD_ENTITY_RESET;
2031         req.emr_in_buf = payload;
2032         req.emr_in_length = MC_CMD_ENTITY_RESET_IN_LEN;
2033         req.emr_out_buf = payload;
2034         req.emr_out_length = MC_CMD_ENTITY_RESET_OUT_LEN;
2035
2036         MCDI_IN_POPULATE_DWORD_1(req, ENTITY_RESET_IN_FLAG,
2037             ENTITY_RESET_IN_FUNCTION_RESOURCE_RESET, 1);
2038
2039         efx_mcdi_execute(enp, &req);
2040
2041         if (req.emr_rc != 0) {
2042                 rc = req.emr_rc;
2043                 goto fail3;
2044         }
2045
2046         /* Clear RX/TX DMA queue errors */
2047         enp->en_reset_flags &= ~(EFX_RESET_RXQ_ERR | EFX_RESET_TXQ_ERR);
2048
2049         return (0);
2050
2051 fail3:
2052         EFSYS_PROBE(fail3);
2053 fail2:
2054         EFSYS_PROBE(fail2);
2055 fail1:
2056         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2057
2058         return (rc);
2059 }
2060
2061         __checkReturn   efx_rc_t
2062 ef10_nic_init(
2063         __in            efx_nic_t *enp)
2064 {
2065         efx_drv_cfg_t *edcp = &(enp->en_drv_cfg);
2066         uint32_t min_vi_count, max_vi_count;
2067         uint32_t vi_count, vi_base, vi_shift;
2068         uint32_t i;
2069         uint32_t retry;
2070         uint32_t delay_us;
2071         uint32_t vi_window_size;
2072         efx_rc_t rc;
2073
2074         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
2075             enp->en_family == EFX_FAMILY_MEDFORD ||
2076             enp->en_family == EFX_FAMILY_MEDFORD2);
2077
2078         /* Enable reporting of some events (e.g. link change) */
2079         if ((rc = efx_mcdi_log_ctrl(enp)) != 0)
2080                 goto fail1;
2081
2082         /* Allocate (optional) on-chip PIO buffers */
2083         ef10_nic_alloc_piobufs(enp, edcp->edc_max_piobuf_count);
2084
2085         /*
2086          * For best performance, PIO writes should use a write-combined
2087          * (WC) memory mapping. Using a separate WC mapping for the PIO
2088          * aperture of each VI would be a burden to drivers (and not
2089          * possible if the host page size is >4Kbyte).
2090          *
2091          * To avoid this we use a single uncached (UC) mapping for VI
2092          * register access, and a single WC mapping for extra VIs used
2093          * for PIO writes.
2094          *
2095          * Each piobuf must be linked to a VI in the WC mapping, and to
2096          * each VI that is using a sub-allocated block from the piobuf.
2097          */
2098         min_vi_count = edcp->edc_min_vi_count;
2099         max_vi_count =
2100             edcp->edc_max_vi_count + enp->en_arch.ef10.ena_piobuf_count;
2101
2102         /* Ensure that the previously attached driver's VIs are freed */
2103         if ((rc = efx_mcdi_free_vis(enp)) != 0)
2104                 goto fail2;
2105
2106         /*
2107          * Reserve VI resources (EVQ+RXQ+TXQ) for this PCIe function. If this
2108          * fails then retrying the request for fewer VI resources may succeed.
2109          */
2110         vi_count = 0;
2111         if ((rc = efx_mcdi_alloc_vis(enp, min_vi_count, max_vi_count,
2112                     &vi_base, &vi_count, &vi_shift)) != 0)
2113                 goto fail3;
2114
2115         EFSYS_PROBE2(vi_alloc, uint32_t, vi_base, uint32_t, vi_count);
2116
2117         if (vi_count < min_vi_count) {
2118                 rc = ENOMEM;
2119                 goto fail4;
2120         }
2121
2122         enp->en_arch.ef10.ena_vi_base = vi_base;
2123         enp->en_arch.ef10.ena_vi_count = vi_count;
2124         enp->en_arch.ef10.ena_vi_shift = vi_shift;
2125
2126         if (vi_count < min_vi_count + enp->en_arch.ef10.ena_piobuf_count) {
2127                 /* Not enough extra VIs to map piobufs */
2128                 ef10_nic_free_piobufs(enp);
2129         }
2130
2131         enp->en_arch.ef10.ena_pio_write_vi_base =
2132             vi_count - enp->en_arch.ef10.ena_piobuf_count;
2133
2134         EFSYS_ASSERT3U(enp->en_nic_cfg.enc_vi_window_shift, !=,
2135             EFX_VI_WINDOW_SHIFT_INVALID);
2136         EFSYS_ASSERT3U(enp->en_nic_cfg.enc_vi_window_shift, <=,
2137             EFX_VI_WINDOW_SHIFT_64K);
2138         vi_window_size = 1U << enp->en_nic_cfg.enc_vi_window_shift;
2139
2140         /* Save UC memory mapping details */
2141         enp->en_arch.ef10.ena_uc_mem_map_offset = 0;
2142         if (enp->en_arch.ef10.ena_piobuf_count > 0) {
2143                 enp->en_arch.ef10.ena_uc_mem_map_size =
2144                     (vi_window_size *
2145                     enp->en_arch.ef10.ena_pio_write_vi_base);
2146         } else {
2147                 enp->en_arch.ef10.ena_uc_mem_map_size =
2148                     (vi_window_size *
2149                     enp->en_arch.ef10.ena_vi_count);
2150         }
2151
2152         /* Save WC memory mapping details */
2153         enp->en_arch.ef10.ena_wc_mem_map_offset =
2154             enp->en_arch.ef10.ena_uc_mem_map_offset +
2155             enp->en_arch.ef10.ena_uc_mem_map_size;
2156
2157         enp->en_arch.ef10.ena_wc_mem_map_size =
2158             (vi_window_size *
2159             enp->en_arch.ef10.ena_piobuf_count);
2160
2161         /* Link piobufs to extra VIs in WC mapping */
2162         if (enp->en_arch.ef10.ena_piobuf_count > 0) {
2163                 for (i = 0; i < enp->en_arch.ef10.ena_piobuf_count; i++) {
2164                         rc = efx_mcdi_link_piobuf(enp,
2165                             enp->en_arch.ef10.ena_pio_write_vi_base + i,
2166                             enp->en_arch.ef10.ena_piobuf_handle[i]);
2167                         if (rc != 0)
2168                                 break;
2169                 }
2170         }
2171
2172         /*
2173          * Allocate a vAdaptor attached to our upstream vPort/pPort.
2174          *
2175          * On a VF, this may fail with MC_CMD_ERR_NO_EVB_PORT (ENOENT) if the PF
2176          * driver has yet to bring up the EVB port. See bug 56147. In this case,
2177          * retry the request several times after waiting a while. The wait time
2178          * between retries starts small (10ms) and exponentially increases.
2179          * Total wait time is a little over two seconds. Retry logic in the
2180          * client driver may mean this whole loop is repeated if it continues to
2181          * fail.
2182          */
2183         retry = 0;
2184         delay_us = 10000;
2185         while ((rc = efx_mcdi_vadaptor_alloc(enp, EVB_PORT_ID_ASSIGNED)) != 0) {
2186                 if (EFX_PCI_FUNCTION_IS_PF(&enp->en_nic_cfg) ||
2187                     (rc != ENOENT)) {
2188                         /*
2189                          * Do not retry alloc for PF, or for other errors on
2190                          * a VF.
2191                          */
2192                         goto fail5;
2193                 }
2194
2195                 /* VF startup before PF is ready. Retry allocation. */
2196                 if (retry > 5) {
2197                         /* Too many attempts */
2198                         rc = EINVAL;
2199                         goto fail6;
2200                 }
2201                 EFSYS_PROBE1(mcdi_no_evb_port_retry, int, retry);
2202                 EFSYS_SLEEP(delay_us);
2203                 retry++;
2204                 if (delay_us < 500000)
2205                         delay_us <<= 2;
2206         }
2207
2208         enp->en_vport_id = EVB_PORT_ID_ASSIGNED;
2209         enp->en_nic_cfg.enc_mcdi_max_payload_length = MCDI_CTL_SDU_LEN_MAX_V2;
2210
2211         return (0);
2212
2213 fail6:
2214         EFSYS_PROBE(fail6);
2215 fail5:
2216         EFSYS_PROBE(fail5);
2217 fail4:
2218         EFSYS_PROBE(fail4);
2219 fail3:
2220         EFSYS_PROBE(fail3);
2221 fail2:
2222         EFSYS_PROBE(fail2);
2223
2224         ef10_nic_free_piobufs(enp);
2225
2226 fail1:
2227         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2228
2229         return (rc);
2230 }
2231
2232         __checkReturn   efx_rc_t
2233 ef10_nic_get_vi_pool(
2234         __in            efx_nic_t *enp,
2235         __out           uint32_t *vi_countp)
2236 {
2237         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
2238             enp->en_family == EFX_FAMILY_MEDFORD ||
2239             enp->en_family == EFX_FAMILY_MEDFORD2);
2240
2241         /*
2242          * Report VIs that the client driver can use.
2243          * Do not include VIs used for PIO buffer writes.
2244          */
2245         *vi_countp = enp->en_arch.ef10.ena_pio_write_vi_base;
2246
2247         return (0);
2248 }
2249
2250         __checkReturn   efx_rc_t
2251 ef10_nic_get_bar_region(
2252         __in            efx_nic_t *enp,
2253         __in            efx_nic_region_t region,
2254         __out           uint32_t *offsetp,
2255         __out           size_t *sizep)
2256 {
2257         efx_rc_t rc;
2258
2259         EFSYS_ASSERT(enp->en_family == EFX_FAMILY_HUNTINGTON ||
2260             enp->en_family == EFX_FAMILY_MEDFORD ||
2261             enp->en_family == EFX_FAMILY_MEDFORD2);
2262
2263         /*
2264          * TODO: Specify host memory mapping alignment and granularity
2265          * in efx_drv_limits_t so that they can be taken into account
2266          * when allocating extra VIs for PIO writes.
2267          */
2268         switch (region) {
2269         case EFX_REGION_VI:
2270                 /* UC mapped memory BAR region for VI registers */
2271                 *offsetp = enp->en_arch.ef10.ena_uc_mem_map_offset;
2272                 *sizep = enp->en_arch.ef10.ena_uc_mem_map_size;
2273                 break;
2274
2275         case EFX_REGION_PIO_WRITE_VI:
2276                 /* WC mapped memory BAR region for piobuf writes */
2277                 *offsetp = enp->en_arch.ef10.ena_wc_mem_map_offset;
2278                 *sizep = enp->en_arch.ef10.ena_wc_mem_map_size;
2279                 break;
2280
2281         default:
2282                 rc = EINVAL;
2283                 goto fail1;
2284         }
2285
2286         return (0);
2287
2288 fail1:
2289         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2290
2291         return (rc);
2292 }
2293
2294                         void
2295 ef10_nic_fini(
2296         __in            efx_nic_t *enp)
2297 {
2298         uint32_t i;
2299         efx_rc_t rc;
2300
2301         (void) efx_mcdi_vadaptor_free(enp, enp->en_vport_id);
2302         enp->en_vport_id = 0;
2303
2304         /* Unlink piobufs from extra VIs in WC mapping */
2305         if (enp->en_arch.ef10.ena_piobuf_count > 0) {
2306                 for (i = 0; i < enp->en_arch.ef10.ena_piobuf_count; i++) {
2307                         rc = efx_mcdi_unlink_piobuf(enp,
2308                             enp->en_arch.ef10.ena_pio_write_vi_base + i);
2309                         if (rc != 0)
2310                                 break;
2311                 }
2312         }
2313
2314         ef10_nic_free_piobufs(enp);
2315
2316         (void) efx_mcdi_free_vis(enp);
2317         enp->en_arch.ef10.ena_vi_count = 0;
2318 }
2319
2320                         void
2321 ef10_nic_unprobe(
2322         __in            efx_nic_t *enp)
2323 {
2324 #if EFSYS_OPT_MON_STATS
2325         mcdi_mon_cfg_free(enp);
2326 #endif /* EFSYS_OPT_MON_STATS */
2327         (void) efx_mcdi_drv_attach(enp, B_FALSE);
2328 }
2329
2330 #if EFSYS_OPT_DIAG
2331
2332         __checkReturn   efx_rc_t
2333 ef10_nic_register_test(
2334         __in            efx_nic_t *enp)
2335 {
2336         efx_rc_t rc;
2337
2338         /* FIXME */
2339         _NOTE(ARGUNUSED(enp))
2340         _NOTE(CONSTANTCONDITION)
2341         if (B_FALSE) {
2342                 rc = ENOTSUP;
2343                 goto fail1;
2344         }
2345         /* FIXME */
2346
2347         return (0);
2348
2349 fail1:
2350         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2351
2352         return (rc);
2353 }
2354
2355 #endif  /* EFSYS_OPT_DIAG */
2356
2357 #if EFSYS_OPT_FW_SUBVARIANT_AWARE
2358
2359         __checkReturn   efx_rc_t
2360 efx_mcdi_get_nic_global(
2361         __in            efx_nic_t *enp,
2362         __in            uint32_t key,
2363         __out           uint32_t *valuep)
2364 {
2365         efx_mcdi_req_t req;
2366         uint8_t payload[MAX(MC_CMD_GET_NIC_GLOBAL_IN_LEN,
2367                             MC_CMD_GET_NIC_GLOBAL_OUT_LEN)];
2368         efx_rc_t rc;
2369
2370         (void) memset(payload, 0, sizeof (payload));
2371         req.emr_cmd = MC_CMD_GET_NIC_GLOBAL;
2372         req.emr_in_buf = payload;
2373         req.emr_in_length = MC_CMD_GET_NIC_GLOBAL_IN_LEN;
2374         req.emr_out_buf = payload;
2375         req.emr_out_length = MC_CMD_GET_NIC_GLOBAL_OUT_LEN;
2376
2377         MCDI_IN_SET_DWORD(req, GET_NIC_GLOBAL_IN_KEY, key);
2378
2379         efx_mcdi_execute(enp, &req);
2380
2381         if (req.emr_rc != 0) {
2382                 rc = req.emr_rc;
2383                 goto fail1;
2384         }
2385
2386         if (req.emr_out_length_used != MC_CMD_GET_NIC_GLOBAL_OUT_LEN) {
2387                 rc = EMSGSIZE;
2388                 goto fail2;
2389         }
2390
2391         *valuep = MCDI_OUT_DWORD(req, GET_NIC_GLOBAL_OUT_VALUE);
2392
2393         return (0);
2394
2395 fail2:
2396         EFSYS_PROBE(fail2);
2397 fail1:
2398         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2399
2400         return (rc);
2401 }
2402
2403         __checkReturn   efx_rc_t
2404 efx_mcdi_set_nic_global(
2405         __in            efx_nic_t *enp,
2406         __in            uint32_t key,
2407         __in            uint32_t value)
2408 {
2409         efx_mcdi_req_t req;
2410         uint8_t payload[MC_CMD_SET_NIC_GLOBAL_IN_LEN];
2411         efx_rc_t rc;
2412
2413         (void) memset(payload, 0, sizeof (payload));
2414         req.emr_cmd = MC_CMD_SET_NIC_GLOBAL;
2415         req.emr_in_buf = payload;
2416         req.emr_in_length = MC_CMD_SET_NIC_GLOBAL_IN_LEN;
2417         req.emr_out_buf = NULL;
2418         req.emr_out_length = 0;
2419
2420         MCDI_IN_SET_DWORD(req, SET_NIC_GLOBAL_IN_KEY, key);
2421         MCDI_IN_SET_DWORD(req, SET_NIC_GLOBAL_IN_VALUE, value);
2422
2423         efx_mcdi_execute(enp, &req);
2424
2425         if (req.emr_rc != 0) {
2426                 rc = req.emr_rc;
2427                 goto fail1;
2428         }
2429
2430         return (0);
2431
2432 fail1:
2433         EFSYS_PROBE1(fail1, efx_rc_t, rc);
2434
2435         return (rc);
2436 }
2437
2438 #endif  /* EFSYS_OPT_FW_SUBVARIANT_AWARE */
2439
2440 #endif  /* EFSYS_OPT_HUNTINGTON || EFSYS_OPT_MEDFORD || EFSYS_OPT_MEDFORD2 */