mbuf: replace data pointer by an offset
[dpdk.git] / app / test-pmd / flowgen.c
1 /*-
2  *   BSD LICENSE
3  *
4  *   Copyright(c) 2010-2013 Tilera Corporation. All rights reserved.
5  *   All rights reserved.
6  *
7  *   Redistribution and use in source and binary forms, with or without
8  *   modification, are permitted provided that the following conditions
9  *   are met:
10  *
11  *     * Redistributions of source code must retain the above copyright
12  *       notice, this list of conditions and the following disclaimer.
13  *     * Redistributions in binary form must reproduce the above copyright
14  *       notice, this list of conditions and the following disclaimer in
15  *       the documentation and/or other materials provided with the
16  *       distribution.
17  *     * Neither the name of Tilera Corporation nor the names of its
18  *       contributors may be used to endorse or promote products derived
19  *       from this software without specific prior written permission.
20  *
21  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
22  *   "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
23  *   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
24  *   A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
25  *   OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
26  *   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
27  *   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
28  *   DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
29  *   THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
30  *   (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
31  *   OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
32  *
33  */
34
35 #include <stdarg.h>
36 #include <string.h>
37 #include <stdio.h>
38 #include <errno.h>
39 #include <stdint.h>
40 #include <unistd.h>
41 #include <inttypes.h>
42
43 #include <sys/queue.h>
44 #include <sys/stat.h>
45
46 #include <rte_common.h>
47 #include <rte_byteorder.h>
48 #include <rte_log.h>
49 #include <rte_debug.h>
50 #include <rte_cycles.h>
51 #include <rte_memory.h>
52 #include <rte_memcpy.h>
53 #include <rte_memzone.h>
54 #include <rte_launch.h>
55 #include <rte_tailq.h>
56 #include <rte_eal.h>
57 #include <rte_per_lcore.h>
58 #include <rte_lcore.h>
59 #include <rte_atomic.h>
60 #include <rte_branch_prediction.h>
61 #include <rte_ring.h>
62 #include <rte_memory.h>
63 #include <rte_mempool.h>
64 #include <rte_mbuf.h>
65 #include <rte_interrupts.h>
66 #include <rte_pci.h>
67 #include <rte_ether.h>
68 #include <rte_ethdev.h>
69 #include <rte_ip.h>
70 #include <rte_tcp.h>
71 #include <rte_udp.h>
72 #include <rte_string_fns.h>
73
74 #include "testpmd.h"
75
76 /* hardcoded configuration (for now) */
77 static unsigned cfg_n_flows     = 1024;
78 static unsigned cfg_pkt_size    = 300;
79 static uint32_t cfg_ip_src      = IPv4(10, 254, 0, 0);
80 static uint32_t cfg_ip_dst      = IPv4(10, 253, 0, 0);
81 static uint16_t cfg_udp_src     = 1000;
82 static uint16_t cfg_udp_dst     = 1001;
83 static struct ether_addr cfg_ether_src  =
84         {{ 0x00, 0x01, 0x02, 0x03, 0x04, 0x00 }};
85 static struct ether_addr cfg_ether_dst  =
86         {{ 0x00, 0x01, 0x02, 0x03, 0x04, 0x01 }};
87
88 #define IP_DEFTTL  64   /* from RFC 1340. */
89 #define IP_VERSION 0x40
90 #define IP_HDRLEN  0x05 /* default IP header length == five 32-bits words. */
91 #define IP_VHL_DEF (IP_VERSION | IP_HDRLEN)
92
93 static inline struct rte_mbuf *
94 tx_mbuf_alloc(struct rte_mempool *mp)
95 {
96         struct rte_mbuf *m;
97
98         m = __rte_mbuf_raw_alloc(mp);
99         __rte_mbuf_sanity_check_raw(m, 0);
100         return (m);
101 }
102
103
104 static inline uint16_t
105 ip_sum(const uint16_t *hdr, int hdr_len)
106 {
107         uint32_t sum = 0;
108
109         while (hdr_len > 1)
110         {
111                 sum += *hdr++;
112                 if (sum & 0x80000000)
113                         sum = (sum & 0xFFFF) + (sum >> 16);
114                 hdr_len -= 2;
115         }
116
117         while (sum >> 16)
118                 sum = (sum & 0xFFFF) + (sum >> 16);
119
120         return ~sum;
121 }
122
123 /*
124  * Multi-flow generation mode.
125  *
126  * We originate a bunch of flows (varying destination IP addresses), and
127  * terminate receive traffic.  Received traffic is simply discarded, but we
128  * still do so in order to maintain traffic statistics.
129  */
130 static void
131 pkt_burst_flow_gen(struct fwd_stream *fs)
132 {
133         unsigned pkt_size = cfg_pkt_size - 4;   /* Adjust FCS */
134         struct rte_mbuf  *pkts_burst[MAX_PKT_BURST];
135         struct rte_mempool *mbp;
136         struct rte_mbuf  *pkt;
137         struct ether_hdr *eth_hdr;
138         struct ipv4_hdr *ip_hdr;
139         struct udp_hdr *udp_hdr;
140         uint16_t vlan_tci;
141         uint16_t ol_flags;
142         uint16_t nb_rx;
143         uint16_t nb_tx;
144         uint16_t nb_pkt;
145         uint16_t i;
146 #ifdef RTE_TEST_PMD_RECORD_CORE_CYCLES
147         uint64_t start_tsc;
148         uint64_t end_tsc;
149         uint64_t core_cycles;
150 #endif
151         static int next_flow = 0;
152
153 #ifdef RTE_TEST_PMD_RECORD_CORE_CYCLES
154         start_tsc = rte_rdtsc();
155 #endif
156
157         /* Receive a burst of packets and discard them. */
158         nb_rx = rte_eth_rx_burst(fs->rx_port, fs->rx_queue, pkts_burst,
159                                  nb_pkt_per_burst);
160         fs->rx_packets += nb_rx;
161
162         for (i = 0; i < nb_rx; i++)
163                 rte_pktmbuf_free(pkts_burst[i]);
164
165         mbp = current_fwd_lcore()->mbp;
166         vlan_tci = ports[fs->tx_port].tx_vlan_id;
167         ol_flags = ports[fs->tx_port].tx_ol_flags;
168
169         for (nb_pkt = 0; nb_pkt < nb_pkt_per_burst; nb_pkt++) {
170                 pkt = tx_mbuf_alloc(mbp);
171                 if (!pkt)
172                         break;
173
174                 pkt->data_len = pkt_size;
175                 pkt->next = NULL;
176
177                 /* Initialize Ethernet header. */
178                 eth_hdr = rte_pktmbuf_mtod(pkt, struct ether_hdr *);
179                 ether_addr_copy(&cfg_ether_dst, &eth_hdr->d_addr);
180                 ether_addr_copy(&cfg_ether_src, &eth_hdr->s_addr);
181                 eth_hdr->ether_type = rte_cpu_to_be_16(ETHER_TYPE_IPv4);
182
183                 /* Initialize IP header. */
184                 ip_hdr = (struct ipv4_hdr *)(eth_hdr + 1);
185                 memset(ip_hdr, 0, sizeof(*ip_hdr));
186                 ip_hdr->version_ihl     = IP_VHL_DEF;
187                 ip_hdr->type_of_service = 0;
188                 ip_hdr->fragment_offset = 0;
189                 ip_hdr->time_to_live    = IP_DEFTTL;
190                 ip_hdr->next_proto_id   = IPPROTO_UDP;
191                 ip_hdr->packet_id       = 0;
192                 ip_hdr->src_addr        = rte_cpu_to_be_32(cfg_ip_src);
193                 ip_hdr->dst_addr        = rte_cpu_to_be_32(cfg_ip_dst +
194                                                            next_flow);
195                 ip_hdr->total_length    = RTE_CPU_TO_BE_16(pkt_size -
196                                                            sizeof(*eth_hdr));
197                 ip_hdr->hdr_checksum    = ip_sum((uint16_t *)ip_hdr,
198                                                  sizeof(*ip_hdr));
199
200                 /* Initialize UDP header. */
201                 udp_hdr = (struct udp_hdr *)(ip_hdr + 1);
202                 udp_hdr->src_port       = rte_cpu_to_be_16(cfg_udp_src);
203                 udp_hdr->dst_port       = rte_cpu_to_be_16(cfg_udp_dst);
204                 udp_hdr->dgram_cksum    = 0; /* No UDP checksum. */
205                 udp_hdr->dgram_len      = RTE_CPU_TO_BE_16(pkt_size -
206                                                            sizeof(*eth_hdr) -
207                                                            sizeof(*ip_hdr));
208                 pkt->nb_segs            = 1;
209                 pkt->pkt_len            = pkt_size;
210                 pkt->ol_flags           = ol_flags;
211                 pkt->vlan_tci           = vlan_tci;
212                 pkt->l2_len             = sizeof(struct ether_hdr);
213                 pkt->l3_len             = sizeof(struct ipv4_hdr);
214                 pkts_burst[nb_pkt]      = pkt;
215
216                 next_flow = (next_flow + 1) % cfg_n_flows;
217         }
218
219         nb_tx = rte_eth_tx_burst(fs->tx_port, fs->tx_queue, pkts_burst, nb_pkt);
220         fs->tx_packets += nb_tx;
221
222 #ifdef RTE_TEST_PMD_RECORD_BURST_STATS
223         fs->tx_burst_stats.pkt_burst_spread[nb_tx]++;
224 #endif
225         if (unlikely(nb_tx < nb_pkt)) {
226                 /* Back out the flow counter. */
227                 next_flow -= (nb_pkt - nb_tx);
228                 while (next_flow < 0)
229                         next_flow += cfg_n_flows;
230
231                 do {
232                         rte_pktmbuf_free(pkts_burst[nb_tx]);
233                 } while (++nb_tx < nb_pkt);
234         }
235 #ifdef RTE_TEST_PMD_RECORD_CORE_CYCLES
236         end_tsc = rte_rdtsc();
237         core_cycles = (end_tsc - start_tsc);
238         fs->core_cycles = (uint64_t) (fs->core_cycles + core_cycles);
239 #endif
240 }
241
242 struct fwd_engine flow_gen_engine = {
243         .fwd_mode_name  = "flowgen",
244         .port_fwd_begin = NULL,
245         .port_fwd_end   = NULL,
246         .packet_fwd     = pkt_burst_flow_gen,
247 };