update Cavium Inc copyright headers
[dpdk.git] / app / test-eventdev / test_perf_common.h
index ab5c082..4956586 100644 (file)
@@ -1,7 +1,7 @@
 /*
  *   BSD LICENSE
  *
- *   Copyright (C) Cavium 2017.
+ *   Copyright (C) Cavium, Inc 2017.
  *
  *   Redistribution and use in source and binary forms, with or without
  *   modification, are permitted provided that the following conditions
@@ -13,7 +13,7 @@
  *       notice, this list of conditions and the following disclaimer in
  *       the documentation and/or other materials provided with the
  *       distribution.
- *     * Neither the name of Cavium networks nor the names of its
+ *     * Neither the name of Cavium, Inc nor the names of its
  *       contributors may be used to endorse or promote products derived
  *       from this software without specific prior written permission.
  *
@@ -82,7 +82,88 @@ struct test_perf {
        uint8_t sched_type_list[EVT_MAX_STAGES] __rte_cache_aligned;
 } __rte_cache_aligned;
 
+struct perf_elt {
+       uint64_t timestamp;
+} __rte_cache_aligned;
+
+#define BURST_SIZE 16
+
+#define PERF_WORKER_INIT\
+       struct worker_data *w  = arg;\
+       struct test_perf *t = w->t;\
+       struct evt_options *opt = t->opt;\
+       const uint8_t dev = w->dev_id;\
+       const uint8_t port = w->port_id;\
+       uint8_t *const sched_type_list = &t->sched_type_list[0];\
+       struct rte_mempool *const pool = t->pool;\
+       const uint8_t nb_stages = t->opt->nb_stages;\
+       const uint8_t laststage = nb_stages - 1;\
+       uint8_t cnt = 0;\
+       void *bufs[16] __rte_cache_aligned;\
+       int const sz = RTE_DIM(bufs);\
+       if (opt->verbose_level > 1)\
+               printf("%s(): lcore %d dev_id %d port=%d\n", __func__,\
+                               rte_lcore_id(), dev, port)
+
+static inline __attribute__((always_inline)) int
+perf_process_last_stage(struct rte_mempool *const pool,
+               struct rte_event *const ev, struct worker_data *const w,
+               void *bufs[], int const buf_sz, uint8_t count)
+{
+       bufs[count++] = ev->event_ptr;
+       w->processed_pkts++;
+       rte_smp_wmb();
+
+       if (unlikely(count == buf_sz)) {
+               count = 0;
+               rte_mempool_put_bulk(pool, bufs, buf_sz);
+       }
+       return count;
+}
+
+static inline __attribute__((always_inline)) uint8_t
+perf_process_last_stage_latency(struct rte_mempool *const pool,
+               struct rte_event *const ev, struct worker_data *const w,
+               void *bufs[], int const buf_sz, uint8_t count)
+{
+       uint64_t latency;
+       struct perf_elt *const m = ev->event_ptr;
+
+       bufs[count++] = ev->event_ptr;
+       w->processed_pkts++;
+
+       if (unlikely(count == buf_sz)) {
+               count = 0;
+               latency = rte_get_timer_cycles() - m->timestamp;
+               rte_mempool_put_bulk(pool, bufs, buf_sz);
+       } else {
+               latency = rte_get_timer_cycles() - m->timestamp;
+       }
+
+       w->latency += latency;
+       rte_smp_wmb();
+       return count;
+}
+
+
+static inline int
+perf_nb_event_ports(struct evt_options *opt)
+{
+       return evt_nr_active_lcores(opt->wlcores) +
+                       evt_nr_active_lcores(opt->plcores);
+}
+
+int perf_test_result(struct evt_test *test, struct evt_options *opt);
+int perf_opt_check(struct evt_options *opt, uint64_t nb_queues);
 int perf_test_setup(struct evt_test *test, struct evt_options *opt);
+int perf_mempool_setup(struct evt_test *test, struct evt_options *opt);
+int perf_event_dev_port_setup(struct evt_test *test, struct evt_options *opt,
+                               uint8_t stride, uint8_t nb_queues);
+int perf_launch_lcores(struct evt_test *test, struct evt_options *opt,
+               int (*worker)(void *));
+void perf_opt_dump(struct evt_options *opt, uint8_t nb_queues);
 void perf_test_destroy(struct evt_test *test, struct evt_options *opt);
+void perf_eventdev_destroy(struct evt_test *test, struct evt_options *opt);
+void perf_mempool_destroy(struct evt_test *test, struct evt_options *opt);
 
 #endif /* _TEST_PERF_COMMON_ */