drivers/net/sfc/sfc.c

   1 /*-
   2  * Copyright (c) 2016 Solarflare Communications Inc.
   3  * All rights reserved.
   4  *
   5  * This software was jointly developed between OKTET Labs (under contract
   6  * for Solarflare) and Solarflare Communications, Inc.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions are met:
  10  *
  11  * 1. Redistributions of source code must retain the above copyright notice,
  12  *    this list of conditions and the following disclaimer.
  13  * 2. Redistributions in binary form must reproduce the above copyright notice,
  14  *    this list of conditions and the following disclaimer in the documentation
  15  *    and/or other materials provided with the distribution.
  16  *
  17  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  18  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO,
  19  * THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  20  * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR
  21  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
  22  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  23  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS;
  24  * OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY,
  25  * WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  26  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE,
  27  * EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  28  */
  29
  30 /* sysconf() */
  31 #include <unistd.h>
  32
  33 #include <rte_errno.h>
  34
  35 #include "efx.h"
  36
  37 #include "sfc.h"
  38 #include "sfc_log.h"
  39
  40
  41 int
  42 sfc_dma_alloc(const struct sfc_adapter *sa, const char *name, uint16_t id,
  43               size_t len, int socket_id, efsys_mem_t *esmp)
  44 {
  45         const struct rte_memzone *mz;
  46
  47         sfc_log_init(sa, "name=%s id=%u len=%lu socket_id=%d",
  48                      name, id, len, socket_id);
  49
  50         mz = rte_eth_dma_zone_reserve(sa->eth_dev, name, id, len,
  51                                       sysconf(_SC_PAGESIZE), socket_id);
  52         if (mz == NULL) {
  53                 sfc_err(sa, "cannot reserve DMA zone for %s:%u %#x@%d: %s",
  54                         name, (unsigned int)id, (unsigned int)len, socket_id,
  55                         rte_strerror(rte_errno));
  56                 return ENOMEM;
  57         }
  58
  59         esmp->esm_addr = rte_mem_phy2mch(mz->memseg_id, mz->phys_addr);
  60         if (esmp->esm_addr == RTE_BAD_PHYS_ADDR) {
  61                 (void)rte_memzone_free(mz);
  62                 return EFAULT;
  63         }
  64
  65         esmp->esm_mz = mz;
  66         esmp->esm_base = mz->addr;
  67
  68         return 0;
  69 }
  70
  71 void
  72 sfc_dma_free(const struct sfc_adapter *sa, efsys_mem_t *esmp)
  73 {
  74         int rc;
  75
  76         sfc_log_init(sa, "name=%s", esmp->esm_mz->name);
  77
  78         rc = rte_memzone_free(esmp->esm_mz);
  79         if (rc != 0)
  80                 sfc_err(sa, "rte_memzone_free(() failed: %d", rc);
  81
  82         memset(esmp, 0, sizeof(*esmp));
  83 }
  84
  85 /*
  86  * Check requested device level configuration.
  87  * Receive and transmit configuration is checked in corresponding
  88  * modules.
  89  */
  90 static int
  91 sfc_check_conf(struct sfc_adapter *sa)
  92 {
  93         const struct rte_eth_conf *conf = &sa->eth_dev->data->dev_conf;
  94         int rc = 0;
  95
  96         if (conf->link_speeds != ETH_LINK_SPEED_AUTONEG) {
  97                 sfc_err(sa, "Manual link speed/duplex choice not supported");
  98                 rc = EINVAL;
  99         }
 100
 101         if (conf->lpbk_mode != 0) {
 102                 sfc_err(sa, "Loopback not supported");
 103                 rc = EINVAL;
 104         }
 105
 106         if (conf->dcb_capability_en != 0) {
 107                 sfc_err(sa, "Priority-based flow control not supported");
 108                 rc = EINVAL;
 109         }
 110
 111         if (conf->fdir_conf.mode != RTE_FDIR_MODE_NONE) {
 112                 sfc_err(sa, "Flow Director not supported");
 113                 rc = EINVAL;
 114         }
 115
 116         if (conf->intr_conf.lsc != 0) {
 117                 sfc_err(sa, "Link status change interrupt not supported");
 118                 rc = EINVAL;
 119         }
 120
 121         if (conf->intr_conf.rxq != 0) {
 122                 sfc_err(sa, "Receive queue interrupt not supported");
 123                 rc = EINVAL;
 124         }
 125
 126         return rc;
 127 }
 128
 129 int
 130 sfc_start(struct sfc_adapter *sa)
 131 {
 132         int rc;
 133
 134         sfc_log_init(sa, "entry");
 135
 136         SFC_ASSERT(sfc_adapter_is_locked(sa));
 137
 138         switch (sa->state) {
 139         case SFC_ADAPTER_CONFIGURED:
 140                 break;
 141         case SFC_ADAPTER_STARTED:
 142                 sfc_info(sa, "already started");
 143                 return 0;
 144         default:
 145                 rc = EINVAL;
 146                 goto fail_bad_state;
 147         }
 148
 149         sa->state = SFC_ADAPTER_STARTING;
 150
 151         sfc_log_init(sa, "init nic");
 152         rc = efx_nic_init(sa->nic);
 153         if (rc != 0)
 154                 goto fail_nic_init;
 155
 156         sa->state = SFC_ADAPTER_STARTED;
 157         sfc_log_init(sa, "done");
 158         return 0;
 159
 160 fail_nic_init:
 161         sa->state = SFC_ADAPTER_CONFIGURED;
 162 fail_bad_state:
 163         sfc_log_init(sa, "failed %d", rc);
 164         return rc;
 165 }
 166
 167 void
 168 sfc_stop(struct sfc_adapter *sa)
 169 {
 170         sfc_log_init(sa, "entry");
 171
 172         SFC_ASSERT(sfc_adapter_is_locked(sa));
 173
 174         switch (sa->state) {
 175         case SFC_ADAPTER_STARTED:
 176                 break;
 177         case SFC_ADAPTER_CONFIGURED:
 178                 sfc_info(sa, "already stopped");
 179                 return;
 180         default:
 181                 sfc_err(sa, "stop in unexpected state %u", sa->state);
 182                 SFC_ASSERT(B_FALSE);
 183                 return;
 184         }
 185
 186         sa->state = SFC_ADAPTER_STOPPING;
 187
 188         efx_nic_fini(sa->nic);
 189
 190         sa->state = SFC_ADAPTER_CONFIGURED;
 191         sfc_log_init(sa, "done");
 192 }
 193
 194 int
 195 sfc_configure(struct sfc_adapter *sa)
 196 {
 197         int rc;
 198
 199         sfc_log_init(sa, "entry");
 200
 201         SFC_ASSERT(sfc_adapter_is_locked(sa));
 202
 203         SFC_ASSERT(sa->state == SFC_ADAPTER_INITIALIZED);
 204         sa->state = SFC_ADAPTER_CONFIGURING;
 205
 206         rc = sfc_check_conf(sa);
 207         if (rc != 0)
 208                 goto fail_check_conf;
 209
 210         sa->state = SFC_ADAPTER_CONFIGURED;
 211         sfc_log_init(sa, "done");
 212         return 0;
 213
 214 fail_check_conf:
 215         sa->state = SFC_ADAPTER_INITIALIZED;
 216         sfc_log_init(sa, "failed %d", rc);
 217         return rc;
 218 }
 219
 220 void
 221 sfc_close(struct sfc_adapter *sa)
 222 {
 223         sfc_log_init(sa, "entry");
 224
 225         SFC_ASSERT(sfc_adapter_is_locked(sa));
 226
 227         SFC_ASSERT(sa->state == SFC_ADAPTER_CONFIGURED);
 228         sa->state = SFC_ADAPTER_CLOSING;
 229
 230         sa->state = SFC_ADAPTER_INITIALIZED;
 231         sfc_log_init(sa, "done");
 232 }
 233
 234 static int
 235 sfc_mem_bar_init(struct sfc_adapter *sa)
 236 {
 237         struct rte_eth_dev *eth_dev = sa->eth_dev;
 238         struct rte_pci_device *pci_dev = SFC_DEV_TO_PCI(eth_dev);
 239         efsys_bar_t *ebp = &sa->mem_bar;
 240         unsigned int i;
 241         struct rte_mem_resource *res;
 242
 243         for (i = 0; i < RTE_DIM(pci_dev->mem_resource); i++) {
 244                 res = &pci_dev->mem_resource[i];
 245                 if ((res->len != 0) && (res->phys_addr != 0)) {
 246                         /* Found first memory BAR */
 247                         SFC_BAR_LOCK_INIT(ebp, eth_dev->data->name);
 248                         ebp->esb_rid = i;
 249                         ebp->esb_dev = pci_dev;
 250                         ebp->esb_base = res->addr;
 251                         return 0;
 252                 }
 253         }
 254
 255         return EFAULT;
 256 }
 257
 258 static void
 259 sfc_mem_bar_fini(struct sfc_adapter *sa)
 260 {
 261         efsys_bar_t *ebp = &sa->mem_bar;
 262
 263         SFC_BAR_LOCK_DESTROY(ebp);
 264         memset(ebp, 0, sizeof(*ebp));
 265 }
 266
 267 int
 268 sfc_attach(struct sfc_adapter *sa)
 269 {
 270         struct rte_pci_device *pci_dev = SFC_DEV_TO_PCI(sa->eth_dev);
 271         efx_nic_t *enp;
 272         int rc;
 273
 274         sfc_log_init(sa, "entry");
 275
 276         SFC_ASSERT(sfc_adapter_is_locked(sa));
 277
 278         sa->socket_id = rte_socket_id();
 279
 280         sfc_log_init(sa, "init mem bar");
 281         rc = sfc_mem_bar_init(sa);
 282         if (rc != 0)
 283                 goto fail_mem_bar_init;
 284
 285         sfc_log_init(sa, "get family");
 286         rc = efx_family(pci_dev->id.vendor_id, pci_dev->id.device_id,
 287                         &sa->family);
 288         if (rc != 0)
 289                 goto fail_family;
 290         sfc_log_init(sa, "family is %u", sa->family);
 291
 292         sfc_log_init(sa, "create nic");
 293         rte_spinlock_init(&sa->nic_lock);
 294         rc = efx_nic_create(sa->family, (efsys_identifier_t *)sa,
 295                             &sa->mem_bar, &sa->nic_lock, &enp);
 296         if (rc != 0)
 297                 goto fail_nic_create;
 298         sa->nic = enp;
 299
 300         rc = sfc_mcdi_init(sa);
 301         if (rc != 0)
 302                 goto fail_mcdi_init;
 303
 304         sfc_log_init(sa, "probe nic");
 305         rc = efx_nic_probe(enp);
 306         if (rc != 0)
 307                 goto fail_nic_probe;
 308
 309         efx_mcdi_new_epoch(enp);
 310
 311         sfc_log_init(sa, "reset nic");
 312         rc = efx_nic_reset(enp);
 313         if (rc != 0)
 314                 goto fail_nic_reset;
 315
 316         /* Initialize NIC to double-check hardware */
 317         sfc_log_init(sa, "init nic");
 318         rc = efx_nic_init(enp);
 319         if (rc != 0)
 320                 goto fail_nic_init;
 321
 322         sfc_log_init(sa, "fini nic");
 323         efx_nic_fini(enp);
 324
 325         sa->rxq_max = 1;
 326         sa->txq_max = 1;
 327
 328         sa->state = SFC_ADAPTER_INITIALIZED;
 329
 330         sfc_log_init(sa, "done");
 331         return 0;
 332
 333 fail_nic_init:
 334 fail_nic_reset:
 335         sfc_log_init(sa, "unprobe nic");
 336         efx_nic_unprobe(enp);
 337
 338 fail_nic_probe:
 339         sfc_mcdi_fini(sa);
 340
 341 fail_mcdi_init:
 342         sfc_log_init(sa, "destroy nic");
 343         sa->nic = NULL;
 344         efx_nic_destroy(enp);
 345
 346 fail_nic_create:
 347 fail_family:
 348         sfc_mem_bar_fini(sa);
 349
 350 fail_mem_bar_init:
 351         sfc_log_init(sa, "failed %d", rc);
 352         return rc;
 353 }
 354
 355 void
 356 sfc_detach(struct sfc_adapter *sa)
 357 {
 358         efx_nic_t *enp = sa->nic;
 359
 360         sfc_log_init(sa, "entry");
 361
 362         SFC_ASSERT(sfc_adapter_is_locked(sa));
 363
 364         sfc_log_init(sa, "unprobe nic");
 365         efx_nic_unprobe(enp);
 366
 367         sfc_mcdi_fini(sa);
 368
 369         sfc_log_init(sa, "destroy nic");
 370         sa->nic = NULL;
 371         efx_nic_destroy(enp);
 372
 373         sfc_mem_bar_fini(sa);
 374
 375         sa->state = SFC_ADAPTER_UNINITIALIZED;
 376 }