igb_uio: use kernel functions for masking MSI-X
[dpdk.git] / lib / librte_eal / linuxapp / igb_uio / igb_uio.c
index 07a19a3..e4ef817 100644 (file)
@@ -91,27 +91,6 @@ static struct attribute *dev_attrs[] = {
 static const struct attribute_group dev_attr_grp = {
        .attrs = dev_attrs,
 };
-/*
- * It masks the msix on/off of generating MSI-X messages.
- */
-static void
-igbuio_msix_mask_irq(struct msi_desc *desc, int32_t state)
-{
-       u32 mask_bits = desc->masked;
-       unsigned offset = desc->msi_attrib.entry_nr * PCI_MSIX_ENTRY_SIZE +
-                                               PCI_MSIX_ENTRY_VECTOR_CTRL;
-
-       if (state != 0)
-               mask_bits &= ~PCI_MSIX_ENTRY_CTRL_MASKBIT;
-       else
-               mask_bits |= PCI_MSIX_ENTRY_CTRL_MASKBIT;
-
-       if (mask_bits != desc->masked) {
-               writel(mask_bits, desc->mask_base + offset);
-               readl(desc->mask_base);
-               desc->masked = mask_bits;
-       }
-}
 
 /**
  * This is the irqcontrol callback to be registered to uio_info.
@@ -132,21 +111,31 @@ igbuio_pci_irqcontrol(struct uio_info *info, s32 irq_state)
        struct rte_uio_pci_dev *udev = info->priv;
        struct pci_dev *pdev = udev->pdev;
 
-       pci_cfg_access_lock(pdev);
-       if (udev->mode == RTE_INTR_MODE_LEGACY)
-               pci_intx(pdev, !!irq_state);
+#ifdef HAVE_IRQ_DATA
+       struct irq_data *irq = irq_get_irq_data(udev->info.irq);
+#else
+       unsigned int irq = udev->info.irq;
+#endif
 
-       else if (udev->mode == RTE_INTR_MODE_MSIX) {
-               struct msi_desc *desc;
+       pci_cfg_access_lock(pdev);
 
-#if (LINUX_VERSION_CODE < KERNEL_VERSION(4, 3, 0))
-               list_for_each_entry(desc, &pdev->msi_list, list)
-                       igbuio_msix_mask_irq(desc, irq_state);
+       if (udev->mode == RTE_INTR_MODE_MSIX) {
+#ifdef HAVE_PCI_MSI_MASK_IRQ
+               if (irq_state == 1)
+                       pci_msi_unmask_irq(irq);
+               else
+                       pci_msi_mask_irq(irq);
 #else
-               list_for_each_entry(desc, &pdev->dev.msi_list, list)
-                       igbuio_msix_mask_irq(desc, irq_state);
+               if (irq_state == 1)
+                       unmask_msi_irq(irq);
+               else
+                       mask_msi_irq(irq);
 #endif
        }
+
+       if (udev->mode == RTE_INTR_MODE_LEGACY)
+               pci_intx(pdev, !!irq_state);
+
        pci_cfg_access_unlock(pdev);
 
        return 0;
@@ -308,6 +297,72 @@ igbuio_pci_release_iomem(struct uio_info *info)
        }
 }
 
+static int
+igbuio_pci_enable_interrupts(struct rte_uio_pci_dev *udev)
+{
+       int err = 0;
+#ifndef HAVE_ALLOC_IRQ_VECTORS
+       struct msix_entry msix_entry;
+#endif
+
+       switch (igbuio_intr_mode_preferred) {
+       case RTE_INTR_MODE_MSIX:
+               /* Only 1 msi-x vector needed */
+#ifndef HAVE_ALLOC_IRQ_VECTORS
+               msix_entry.entry = 0;
+               if (pci_enable_msix(udev->pdev, &msix_entry, 1) == 0) {
+                       dev_dbg(&udev->pdev->dev, "using MSI-X");
+                       udev->info.irq_flags = IRQF_NO_THREAD;
+                       udev->info.irq = msix_entry.vector;
+                       udev->mode = RTE_INTR_MODE_MSIX;
+                       break;
+               }
+#else
+               if (pci_alloc_irq_vectors(udev->pdev, 1, 1, PCI_IRQ_MSIX) == 1) {
+                       dev_dbg(&udev->pdev->dev, "using MSI-X");
+                       udev->info.irq_flags = IRQF_NO_THREAD;
+                       udev->info.irq = pci_irq_vector(udev->pdev, 0);
+                       udev->mode = RTE_INTR_MODE_MSIX;
+                       break;
+               }
+#endif
+       /* fall back to INTX */
+       case RTE_INTR_MODE_LEGACY:
+               if (pci_intx_mask_supported(udev->pdev)) {
+                       dev_dbg(&udev->pdev->dev, "using INTX");
+                       udev->info.irq_flags = IRQF_SHARED | IRQF_NO_THREAD;
+                       udev->info.irq = udev->pdev->irq;
+                       udev->mode = RTE_INTR_MODE_LEGACY;
+                       break;
+               }
+               dev_notice(&udev->pdev->dev, "PCI INTX mask not supported\n");
+               /* fall back to no IRQ */
+       case RTE_INTR_MODE_NONE:
+               udev->mode = RTE_INTR_MODE_NONE;
+               udev->info.irq = 0;
+               break;
+
+       default:
+               dev_err(&udev->pdev->dev, "invalid IRQ mode %u",
+                       igbuio_intr_mode_preferred);
+               err = -EINVAL;
+       }
+
+       return err;
+}
+
+static void
+igbuio_pci_disable_interrupts(struct rte_uio_pci_dev *udev)
+{
+#ifndef HAVE_ALLOC_IRQ_VECTORS
+       if (udev->mode == RTE_INTR_MODE_MSIX)
+               pci_disable_msix(udev->pdev);
+#else
+       if (udev->mode == RTE_INTR_MODE_MSIX)
+               pci_free_irq_vectors(udev->pdev);
+#endif
+}
+
 static int
 igbuio_setup_bars(struct pci_dev *dev, struct uio_info *info)
 {
@@ -356,9 +411,6 @@ static int
 igbuio_pci_probe(struct pci_dev *dev, const struct pci_device_id *id)
 {
        struct rte_uio_pci_dev *udev;
-#ifdef HAVE_PCI_ENABLE_MSIX
-       struct msix_entry msix_entry;
-#endif
        dma_addr_t map_dma_addr;
        void *map_addr;
        int err;
@@ -413,52 +465,13 @@ igbuio_pci_probe(struct pci_dev *dev, const struct pci_device_id *id)
        udev->info.priv = udev;
        udev->pdev = dev;
 
-       switch (igbuio_intr_mode_preferred) {
-       case RTE_INTR_MODE_MSIX:
-               /* Only 1 msi-x vector needed */
-#ifdef HAVE_PCI_ENABLE_MSIX
-               msix_entry.entry = 0;
-               if (pci_enable_msix(dev, &msix_entry, 1) == 0) {
-                       dev_dbg(&dev->dev, "using MSI-X");
-                       udev->info.irq_flags = IRQF_NO_THREAD;
-                       udev->info.irq = msix_entry.vector;
-                       udev->mode = RTE_INTR_MODE_MSIX;
-                       break;
-               }
-#else
-               if (pci_alloc_irq_vectors(dev, 1, 1, PCI_IRQ_MSIX) == 1) {
-                       dev_dbg(&dev->dev, "using MSI-X");
-                       udev->info.irq = pci_irq_vector(dev, 0);
-                       udev->mode = RTE_INTR_MODE_MSIX;
-                       break;
-               }
-#endif
-               /* fall back to INTX */
-       case RTE_INTR_MODE_LEGACY:
-               if (pci_intx_mask_supported(dev)) {
-                       dev_dbg(&dev->dev, "using INTX");
-                       udev->info.irq_flags = IRQF_SHARED | IRQF_NO_THREAD;
-                       udev->info.irq = dev->irq;
-                       udev->mode = RTE_INTR_MODE_LEGACY;
-                       break;
-               }
-               dev_notice(&dev->dev, "PCI INTX mask not supported\n");
-               /* fall back to no IRQ */
-       case RTE_INTR_MODE_NONE:
-               udev->mode = RTE_INTR_MODE_NONE;
-               udev->info.irq = 0;
-               break;
-
-       default:
-               dev_err(&dev->dev, "invalid IRQ mode %u",
-                       igbuio_intr_mode_preferred);
-               err = -EINVAL;
+       err = igbuio_pci_enable_interrupts(udev);
+       if (err != 0)
                goto fail_release_iomem;
-       }
 
        err = sysfs_create_group(&dev->dev.kobj, &dev_attr_grp);
        if (err != 0)
-               goto fail_release_iomem;
+               goto fail_disable_interrupts;
 
        /* register uio driver */
        err = uio_register_device(&dev->dev, &udev->info);
@@ -495,10 +508,10 @@ igbuio_pci_probe(struct pci_dev *dev, const struct pci_device_id *id)
 
 fail_remove_group:
        sysfs_remove_group(&dev->dev.kobj, &dev_attr_grp);
+fail_disable_interrupts:
+       igbuio_pci_disable_interrupts(udev);
 fail_release_iomem:
        igbuio_pci_release_iomem(&udev->info);
-       if (udev->mode == RTE_INTR_MODE_MSIX)
-               pci_disable_msix(udev->pdev);
        pci_disable_device(dev);
 fail_free:
        kfree(udev);
@@ -513,9 +526,8 @@ igbuio_pci_remove(struct pci_dev *dev)
 
        sysfs_remove_group(&dev->dev.kobj, &dev_attr_grp);
        uio_unregister_device(&udev->info);
+       igbuio_pci_disable_interrupts(udev);
        igbuio_pci_release_iomem(&udev->info);
-       if (udev->mode == RTE_INTR_MODE_MSIX)
-               pci_disable_msix(dev);
        pci_disable_device(dev);
        pci_set_drvdata(dev, NULL);
        kfree(udev);