crypto/cnxk: move IPsec SA creation to common
[dpdk.git] / drivers / common / cnxk / roc_nix_debug.c
index 6e56513..e05e60d 100644 (file)
@@ -5,14 +5,14 @@
 #include "roc_api.h"
 #include "roc_priv.h"
 
-#define nix_dump(fmt, ...) fprintf(stderr, fmt "\n", ##__VA_ARGS__)
+#define nix_dump plt_dump
 #define NIX_REG_INFO(reg)                                                      \
        {                                                                      \
                reg, #reg                                                      \
        }
 #define NIX_REG_NAME_SZ 48
 
-#define nix_dump_no_nl(fmt, ...) fprintf(stderr, fmt, ##__VA_ARGS__)
+#define nix_dump_no_nl plt_dump_no_nl
 
 struct nix_lf_reg_info {
        uint32_t offset;
@@ -52,7 +52,9 @@ nix_bitmap_dump(struct plt_bitmap *bmp)
        int i;
 
        plt_bitmap_scan_init(bmp);
-       plt_bitmap_scan(bmp, &pos, &slab);
+       if (!plt_bitmap_scan(bmp, &pos, &slab))
+               return;
+
        start_pos = pos;
 
        nix_dump_no_nl("  \t\t[");
@@ -110,17 +112,12 @@ roc_nix_lf_get_reg_count(struct roc_nix *roc_nix)
 }
 
 int
-roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
+nix_lf_gen_reg_dump(uintptr_t nix_lf_base, uint64_t *data)
 {
-       struct nix *nix = roc_nix_to_nix_priv(roc_nix);
-       uintptr_t nix_lf_base = nix->base;
        bool dump_stdout;
        uint64_t reg;
        uint32_t i;
 
-       if (roc_nix == NULL)
-               return NIX_ERR_PARAM;
-
        dump_stdout = data ? 0 : 1;
 
        for (i = 0; i < PLT_DIM(nix_lf_reg); i++) {
@@ -131,8 +128,21 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                        *data++ = reg;
        }
 
+       return i;
+}
+
+int
+nix_lf_stat_reg_dump(uintptr_t nix_lf_base, uint64_t *data, uint8_t lf_tx_stats,
+                    uint8_t lf_rx_stats)
+{
+       uint32_t i, count = 0;
+       bool dump_stdout;
+       uint64_t reg;
+
+       dump_stdout = data ? 0 : 1;
+
        /* NIX_LF_TX_STATX */
-       for (i = 0; i < nix->lf_tx_stats; i++) {
+       for (i = 0; i < lf_tx_stats; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_TX_STATX(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_TX_STATX", i,
@@ -140,9 +150,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_RX_STATX */
-       for (i = 0; i < nix->lf_rx_stats; i++) {
+       for (i = 0; i < lf_rx_stats; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_RX_STATX(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_RX_STATX", i,
@@ -151,8 +162,21 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                        *data++ = reg;
        }
 
+       return count + i;
+}
+
+int
+nix_lf_int_reg_dump(uintptr_t nix_lf_base, uint64_t *data, uint16_t qints,
+                   uint16_t cints)
+{
+       uint32_t i, count = 0;
+       bool dump_stdout;
+       uint64_t reg;
+
+       dump_stdout = data ? 0 : 1;
+
        /* NIX_LF_QINTX_CNT*/
-       for (i = 0; i < nix->qints; i++) {
+       for (i = 0; i < qints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_QINTX_CNT(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_QINTX_CNT", i,
@@ -160,9 +184,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_QINTX_INT */
-       for (i = 0; i < nix->qints; i++) {
+       for (i = 0; i < qints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_QINTX_INT(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_QINTX_INT", i,
@@ -170,9 +195,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_QINTX_ENA_W1S */
-       for (i = 0; i < nix->qints; i++) {
+       for (i = 0; i < qints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_QINTX_ENA_W1S(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_QINTX_ENA_W1S",
@@ -180,9 +206,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_QINTX_ENA_W1C */
-       for (i = 0; i < nix->qints; i++) {
+       for (i = 0; i < qints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_QINTX_ENA_W1C(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_QINTX_ENA_W1C",
@@ -190,9 +217,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_CNT */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_CNT(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_CNT", i,
@@ -200,9 +228,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_WAIT */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_WAIT(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_WAIT", i,
@@ -210,9 +239,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_INT */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_INT(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_INT", i,
@@ -220,9 +250,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_INT_W1S */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_INT_W1S(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_INT_W1S",
@@ -230,9 +261,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_ENA_W1S */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_ENA_W1S(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_ENA_W1S",
@@ -240,9 +272,10 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+       count += i;
 
        /* NIX_LF_CINTX_ENA_W1C */
-       for (i = 0; i < nix->cints; i++) {
+       for (i = 0; i < cints; i++) {
                reg = plt_read64(nix_lf_base + NIX_LF_CINTX_ENA_W1C(i));
                if (dump_stdout && reg)
                        nix_dump("%32s_%d = 0x%" PRIx64, "NIX_LF_CINTX_ENA_W1C",
@@ -250,12 +283,40 @@ roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
                if (data)
                        *data++ = reg;
        }
+
+       return count + i;
+}
+
+int
+roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data)
+{
+       struct nix *nix = roc_nix_to_nix_priv(roc_nix);
+       bool dump_stdout = data ? 0 : 1;
+       uintptr_t nix_base;
+       uint32_t i;
+
+       if (roc_nix == NULL)
+               return NIX_ERR_PARAM;
+
+       nix_base = nix->base;
+       /* General registers */
+       i = nix_lf_gen_reg_dump(nix_base, data);
+
+       /* Rx, Tx stat registers */
+       i += nix_lf_stat_reg_dump(nix_base, dump_stdout ? NULL : &data[i],
+                                 nix->lf_tx_stats, nix->lf_rx_stats);
+
+       /* Intr registers */
+       i += nix_lf_int_reg_dump(nix_base, dump_stdout ? NULL : &data[i],
+                                nix->qints, nix->cints);
+
        return 0;
 }
 
-static int
-nix_q_ctx_get(struct mbox *mbox, uint8_t ctype, uint16_t qid, __io void **ctx_p)
+int
+nix_q_ctx_get(struct dev *dev, uint8_t ctype, uint16_t qid, __io void **ctx_p)
 {
+       struct mbox *mbox = dev->mbox;
        int rc;
 
        if (roc_model_is_cn9k()) {
@@ -264,6 +325,9 @@ nix_q_ctx_get(struct mbox *mbox, uint8_t ctype, uint16_t qid, __io void **ctx_p)
                int rc;
 
                aq = mbox_alloc_msg_nix_aq_enq(mbox);
+               if (!aq)
+                       return -ENOSPC;
+
                aq->qidx = qid;
                aq->ctype = ctype;
                aq->op = NIX_AQ_INSTOP_READ;
@@ -282,6 +346,9 @@ nix_q_ctx_get(struct mbox *mbox, uint8_t ctype, uint16_t qid, __io void **ctx_p)
                struct nix_cn10k_aq_enq_req *aq;
 
                aq = mbox_alloc_msg_nix_cn10k_aq_enq(mbox);
+               if (!aq)
+                       return -ENOSPC;
+
                aq->qidx = qid;
                aq->ctype = ctype;
                aq->op = NIX_AQ_INSTOP_READ;
@@ -485,7 +552,7 @@ nix_cn9k_lf_rq_dump(__io struct nix_rq_ctx_s *ctx)
        nix_dump("W10: re_pkts \t\t\t0x%" PRIx64 "\n", (uint64_t)ctx->re_pkts);
 }
 
-static inline void
+void
 nix_lf_rq_dump(__io struct nix_cn10k_rq_ctx_s *ctx)
 {
        nix_dump("W0: wqe_aura \t\t\t%d\nW0: len_ol3_dis \t\t\t%d",
@@ -595,12 +662,12 @@ roc_nix_queues_ctx_dump(struct roc_nix *roc_nix)
 {
        struct nix *nix = roc_nix_to_nix_priv(roc_nix);
        int rc = -1, q, rq = nix->nb_rx_queues;
-       struct mbox *mbox = (&nix->dev)->mbox;
        struct npa_aq_enq_rsp *npa_rsp;
        struct npa_aq_enq_req *npa_aq;
-       volatile void *ctx;
+       struct dev *dev = &nix->dev;
        int sq = nix->nb_tx_queues;
        struct npa_lf *npa_lf;
+       volatile void *ctx;
        uint32_t sqb_aura;
 
        npa_lf = idev_npa_obj_get();
@@ -608,7 +675,7 @@ roc_nix_queues_ctx_dump(struct roc_nix *roc_nix)
                return NPA_ERR_DEVICE_NOT_BOUNDED;
 
        for (q = 0; q < rq; q++) {
-               rc = nix_q_ctx_get(mbox, NIX_AQ_CTYPE_CQ, q, &ctx);
+               rc = nix_q_ctx_get(dev, NIX_AQ_CTYPE_CQ, q, &ctx);
                if (rc) {
                        plt_err("Failed to get cq context");
                        goto fail;
@@ -619,7 +686,7 @@ roc_nix_queues_ctx_dump(struct roc_nix *roc_nix)
        }
 
        for (q = 0; q < rq; q++) {
-               rc = nix_q_ctx_get(mbox, NIX_AQ_CTYPE_RQ, q, &ctx);
+               rc = nix_q_ctx_get(dev, NIX_AQ_CTYPE_RQ, q, &ctx);
                if (rc) {
                        plt_err("Failed to get rq context");
                        goto fail;
@@ -633,7 +700,7 @@ roc_nix_queues_ctx_dump(struct roc_nix *roc_nix)
        }
 
        for (q = 0; q < sq; q++) {
-               rc = nix_q_ctx_get(mbox, NIX_AQ_CTYPE_SQ, q, &ctx);
+               rc = nix_q_ctx_get(dev, NIX_AQ_CTYPE_SQ, q, &ctx);
                if (rc) {
                        plt_err("Failed to get sq context");
                        goto fail;
@@ -686,11 +753,13 @@ roc_nix_cqe_dump(const struct nix_cqe_hdr_s *cq)
 {
        const union nix_rx_parse_u *rx =
                (const union nix_rx_parse_u *)((const uint64_t *)cq + 1);
+       const uint64_t *sgs = (const uint64_t *)(rx + 1);
+       int i;
 
        nix_dump("tag \t\t0x%x\tq \t\t%d\t\tnode \t\t%d\tcqe_type \t%d",
                 cq->tag, cq->q, cq->node, cq->cqe_type);
 
-       nix_dump("W0: chan \t%d\t\tdesc_sizem1 \t%d", rx->chan,
+       nix_dump("W0: chan \t0x%x\t\tdesc_sizem1 \t%d", rx->chan,
                 rx->desc_sizem1);
        nix_dump("W0: imm_copy \t%d\t\texpress \t%d", rx->imm_copy,
                 rx->express);
@@ -731,6 +800,9 @@ roc_nix_cqe_dump(const struct nix_cqe_hdr_s *cq)
 
        nix_dump("W5: vtag0_ptr \t%d\t\tvtag1_ptr \t%d\t\tflow_key_alg \t%d",
                 rx->vtag0_ptr, rx->vtag1_ptr, rx->flow_key_alg);
+
+       for (i = 0; i < (rx->desc_sizem1 + 1) << 1; i++)
+               nix_dump("sg[%u] = %p", i, (void *)sgs[i]);
 }
 
 void
@@ -754,6 +826,7 @@ roc_nix_rq_dump(struct roc_nix_rq *rq)
        nix_dump("  vwqe_wait_tmo = %ld", rq->vwqe_wait_tmo);
        nix_dump("  vwqe_aura_handle = %ld", rq->vwqe_aura_handle);
        nix_dump("  roc_nix = %p", rq->roc_nix);
+       nix_dump("  inl_dev_refs = %d", rq->inl_dev_refs);
 }
 
 void
@@ -1096,6 +1169,7 @@ roc_nix_dump(struct roc_nix *roc_nix)
 {
        struct nix *nix = roc_nix_to_nix_priv(roc_nix);
        struct dev *dev = &nix->dev;
+       int i;
 
        nix_dump("nix@%p", nix);
        nix_dump("  pf = %d", dev_get_pf(dev->pf_func));
@@ -1105,6 +1179,7 @@ roc_nix_dump(struct roc_nix *roc_nix)
        nix_dump("  port_id = %d", roc_nix->port_id);
        nix_dump("  rss_tag_as_xor = %d", roc_nix->rss_tag_as_xor);
        nix_dump("  rss_tag_as_xor = %d", roc_nix->max_sqb_count);
+       nix_dump("  outb_nb_desc = %u", roc_nix->outb_nb_desc);
 
        nix_dump("  \tpci_dev = %p", nix->pci_dev);
        nix_dump("  \tbase = 0x%" PRIxPTR "", nix->base);
@@ -1142,10 +1217,58 @@ roc_nix_dump(struct roc_nix *roc_nix)
        nix_dump("  \ttx_link = %d", nix->tx_link);
        nix_dump("  \tsqb_size = %d", nix->sqb_size);
        nix_dump("  \tmsixoff = %d", nix->msixoff);
+       for (i = 0; i < nix->nb_cpt_lf; i++)
+               nix_dump("  \tcpt_msixoff[%d] = %d", i, nix->cpt_msixoff[i]);
        nix_dump("  \tcints = %d", nix->cints);
        nix_dump("  \tqints = %d", nix->qints);
        nix_dump("  \tsdp_link = %d", nix->sdp_link);
        nix_dump("  \tptp_en = %d", nix->ptp_en);
        nix_dump("  \trss_alg_idx = %d", nix->rss_alg_idx);
        nix_dump("  \ttx_pause = %d", nix->tx_pause);
+       nix_dump("  \tinl_inb_ena = %d", nix->inl_inb_ena);
+       nix_dump("  \tinl_outb_ena = %d", nix->inl_outb_ena);
+       nix_dump("  \tinb_sa_base = 0x%p", nix->inb_sa_base);
+       nix_dump("  \tinb_sa_sz = %" PRIu64, nix->inb_sa_sz);
+       nix_dump("  \toutb_sa_base = 0x%p", nix->outb_sa_base);
+       nix_dump("  \toutb_sa_sz = %" PRIu64, nix->outb_sa_sz);
+       nix_dump("  \toutb_err_sso_pffunc = 0x%x", nix->outb_err_sso_pffunc);
+       nix_dump("  \tcpt_lf_base = 0x%p", nix->cpt_lf_base);
+       nix_dump("  \tnb_cpt_lf = %d", nix->nb_cpt_lf);
+       nix_dump("  \tinb_inl_dev = %d", nix->inb_inl_dev);
+}
+
+void
+roc_nix_inl_dev_dump(struct roc_nix_inl_dev *roc_inl_dev)
+{
+       struct nix_inl_dev *inl_dev =
+               (struct nix_inl_dev *)&roc_inl_dev->reserved;
+       struct dev *dev = &inl_dev->dev;
+       int i;
+
+       nix_dump("nix_inl_dev@%p", inl_dev);
+       nix_dump("  pf = %d", dev_get_pf(dev->pf_func));
+       nix_dump("  vf = %d", dev_get_vf(dev->pf_func));
+       nix_dump("  bar2 = 0x%" PRIx64, dev->bar2);
+       nix_dump("  bar4 = 0x%" PRIx64, dev->bar4);
+
+       nix_dump("  \tpci_dev = %p", inl_dev->pci_dev);
+       nix_dump("  \tnix_base = 0x%" PRIxPTR "", inl_dev->nix_base);
+       nix_dump("  \tsso_base = 0x%" PRIxPTR "", inl_dev->sso_base);
+       nix_dump("  \tssow_base = 0x%" PRIxPTR "", inl_dev->ssow_base);
+       nix_dump("  \tnix_msixoff = %d", inl_dev->nix_msixoff);
+       nix_dump("  \tsso_msixoff = %d", inl_dev->sso_msixoff);
+       nix_dump("  \tssow_msixoff = %d", inl_dev->ssow_msixoff);
+       nix_dump("  \tnix_cints = %d", inl_dev->cints);
+       nix_dump("  \tnix_qints = %d", inl_dev->qints);
+       nix_dump("  \tinb_sa_base = 0x%p", inl_dev->inb_sa_base);
+       nix_dump("  \tinb_sa_sz = %d", inl_dev->inb_sa_sz);
+       nix_dump("  \txaq_buf_size = %u", inl_dev->xaq_buf_size);
+       nix_dump("  \txae_waes = %u", inl_dev->xae_waes);
+       nix_dump("  \tiue = %u", inl_dev->iue);
+       nix_dump("  \txaq_aura = 0x%" PRIx64, inl_dev->xaq.aura_handle);
+       nix_dump("  \txaq_mem = 0x%p", inl_dev->xaq.mem);
+
+       nix_dump("  \tinl_dev_rq:");
+       for (i = 0; i < inl_dev->nb_rqs; i++)
+               roc_nix_rq_dump(&inl_dev->rqs[i]);
 }