net: fix IPv6 checksum
[dpdk.git] / lib / librte_net / rte_ip.h
1 /*-
2  *   BSD LICENSE
3  *
4  *   Copyright(c) 2010-2014 Intel Corporation. All rights reserved.
5  *   Copyright 2014 6WIND S.A.
6  *   All rights reserved.
7  *
8  *   Redistribution and use in source and binary forms, with or without
9  *   modification, are permitted provided that the following conditions
10  *   are met:
11  *
12  *     * Redistributions of source code must retain the above copyright
13  *       notice, this list of conditions and the following disclaimer.
14  *     * Redistributions in binary form must reproduce the above copyright
15  *       notice, this list of conditions and the following disclaimer in
16  *       the documentation and/or other materials provided with the
17  *       distribution.
18  *     * Neither the name of Intel Corporation nor the names of its
19  *       contributors may be used to endorse or promote products derived
20  *       from this software without specific prior written permission.
21  *
22  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
23  *   "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
24  *   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
25  *   A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
26  *   OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
27  *   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
28  *   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
29  *   DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
30  *   THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
31  *   (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
32  *   OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
33  */
34
35 /*
36  * Copyright (c) 1982, 1986, 1990, 1993
37  *      The Regents of the University of California.  All rights reserved.
38  *
39  * Redistribution and use in source and binary forms, with or without
40  * modification, are permitted provided that the following conditions
41  * are met:
42  * 1. Redistributions of source code must retain the above copyright
43  *    notice, this list of conditions and the following disclaimer.
44  * 2. Redistributions in binary form must reproduce the above copyright
45  *    notice, this list of conditions and the following disclaimer in the
46  *    documentation and/or other materials provided with the distribution.
47  * 3. All advertising materials mentioning features or use of this software
48  *    must display the following acknowledgement:
49  *      This product includes software developed by the University of
50  *      California, Berkeley and its contributors.
51  * 4. Neither the name of the University nor the names of its contributors
52  *    may be used to endorse or promote products derived from this software
53  *    without specific prior written permission.
54  *
55  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
56  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
57  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
58  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
59  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
60  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
61  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
62  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
63  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
64  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
65  * SUCH DAMAGE.
66  *
67  *      @(#)in.h        8.3 (Berkeley) 1/3/94
68  * $FreeBSD: src/sys/netinet/in.h,v 1.82 2003/10/25 09:37:10 ume Exp $
69  */
70
71 #ifndef _RTE_IP_H_
72 #define _RTE_IP_H_
73
74 /**
75  * @file
76  *
77  * IP-related defines
78  */
79
80 #include <stdint.h>
81 #include <netinet/in.h>
82
83 #include <rte_memcpy.h>
84 #include <rte_byteorder.h>
85 #include <rte_mbuf.h>
86
87 #ifdef __cplusplus
88 extern "C" {
89 #endif
90
91 /**
92  * IPv4 Header
93  */
94 struct ipv4_hdr {
95         uint8_t  version_ihl;           /**< version and header length */
96         uint8_t  type_of_service;       /**< type of service */
97         uint16_t total_length;          /**< length of packet */
98         uint16_t packet_id;             /**< packet ID */
99         uint16_t fragment_offset;       /**< fragmentation offset */
100         uint8_t  time_to_live;          /**< time to live */
101         uint8_t  next_proto_id;         /**< protocol ID */
102         uint16_t hdr_checksum;          /**< header checksum */
103         uint32_t src_addr;              /**< source address */
104         uint32_t dst_addr;              /**< destination address */
105 } __attribute__((__packed__));
106
107 /** Create IPv4 address */
108 #define IPv4(a,b,c,d) ((uint32_t)(((a) & 0xff) << 24) | \
109                                            (((b) & 0xff) << 16) | \
110                                            (((c) & 0xff) << 8)  | \
111                                            ((d) & 0xff))
112
113 /* Fragment Offset * Flags. */
114 #define IPV4_HDR_DF_SHIFT       14
115 #define IPV4_HDR_MF_SHIFT       13
116 #define IPV4_HDR_FO_SHIFT       3
117
118 #define IPV4_HDR_DF_FLAG        (1 << IPV4_HDR_DF_SHIFT)
119 #define IPV4_HDR_MF_FLAG        (1 << IPV4_HDR_MF_SHIFT)
120
121 #define IPV4_HDR_OFFSET_MASK    ((1 << IPV4_HDR_MF_SHIFT) - 1)
122
123 #define IPV4_HDR_OFFSET_UNITS   8
124
125 /*
126  * IPv4 address types
127  */
128 #define IPV4_ANY              ((uint32_t)0x00000000) /**< 0.0.0.0 */
129 #define IPV4_LOOPBACK         ((uint32_t)0x7f000001) /**< 127.0.0.1 */
130 #define IPV4_BROADCAST        ((uint32_t)0xe0000000) /**< 224.0.0.0 */
131 #define IPV4_ALLHOSTS_GROUP   ((uint32_t)0xe0000001) /**< 224.0.0.1 */
132 #define IPV4_ALLRTRS_GROUP    ((uint32_t)0xe0000002) /**< 224.0.0.2 */
133 #define IPV4_MAX_LOCAL_GROUP  ((uint32_t)0xe00000ff) /**< 224.0.0.255 */
134
135 /*
136  * IPv4 Multicast-related macros
137  */
138 #define IPV4_MIN_MCAST  IPv4(224, 0, 0, 0)          /**< Minimal IPv4-multicast address */
139 #define IPV4_MAX_MCAST  IPv4(239, 255, 255, 255)    /**< Maximum IPv4 multicast address */
140
141 #define IS_IPV4_MCAST(x) \
142         ((x) >= IPV4_MIN_MCAST && (x) <= IPV4_MAX_MCAST) /**< check if IPv4 address is multicast */
143
144 /**
145  * @internal Calculate a sum of all words in the buffer.
146  * Helper routine for the rte_raw_cksum().
147  *
148  * @param buf
149  *   Pointer to the buffer.
150  * @param len
151  *   Length of the buffer.
152  * @param sum
153  *   Initial value of the sum.
154  * @return
155  *   sum += Sum of all words in the buffer.
156  */
157 static inline uint32_t
158 __rte_raw_cksum(const void *buf, size_t len, uint32_t sum)
159 {
160         /* workaround gcc strict-aliasing warning */
161         uintptr_t ptr = (uintptr_t)buf;
162         const uint16_t *u16 = (const uint16_t *)ptr;
163
164         while (len >= (sizeof(*u16) * 4)) {
165                 sum += u16[0];
166                 sum += u16[1];
167                 sum += u16[2];
168                 sum += u16[3];
169                 len -= sizeof(*u16) * 4;
170                 u16 += 4;
171         }
172         while (len >= sizeof(*u16)) {
173                 sum += *u16;
174                 len -= sizeof(*u16);
175                 u16 += 1;
176         }
177
178         /* if length is in odd bytes */
179         if (len == 1)
180                 sum += *((const uint8_t *)u16);
181
182         return sum;
183 }
184
185 /**
186  * @internal Reduce a sum to the non-complemented checksum.
187  * Helper routine for the rte_raw_cksum().
188  *
189  * @param sum
190  *   Value of the sum.
191  * @return
192  *   The non-complemented checksum.
193  */
194 static inline uint16_t
195 __rte_raw_cksum_reduce(uint32_t sum)
196 {
197         sum = ((sum & 0xffff0000) >> 16) + (sum & 0xffff);
198         sum = ((sum & 0xffff0000) >> 16) + (sum & 0xffff);
199         return (uint16_t)sum;
200 }
201
202 /**
203  * Process the non-complemented checksum of a buffer.
204  *
205  * @param buf
206  *   Pointer to the buffer.
207  * @param len
208  *   Length of the buffer.
209  * @return
210  *   The non-complemented checksum.
211  */
212 static inline uint16_t
213 rte_raw_cksum(const void *buf, size_t len)
214 {
215         uint32_t sum;
216
217         sum = __rte_raw_cksum(buf, len, 0);
218         return __rte_raw_cksum_reduce(sum);
219 }
220
221 /**
222  * Process the IPv4 checksum of an IPv4 header.
223  *
224  * The checksum field must be set to 0 by the caller.
225  *
226  * @param ipv4_hdr
227  *   The pointer to the contiguous IPv4 header.
228  * @return
229  *   The complemented checksum to set in the IP packet.
230  */
231 static inline uint16_t
232 rte_ipv4_cksum(const struct ipv4_hdr *ipv4_hdr)
233 {
234         uint16_t cksum;
235         cksum = rte_raw_cksum(ipv4_hdr, sizeof(struct ipv4_hdr));
236         return ((cksum == 0xffff) ? cksum : ~cksum);
237 }
238
239 /**
240  * Process the pseudo-header checksum of an IPv4 header.
241  *
242  * The checksum field must be set to 0 by the caller.
243  *
244  * Depending on the ol_flags, the pseudo-header checksum expected by the
245  * drivers is not the same. For instance, when TSO is enabled, the IP
246  * payload length must not be included in the packet.
247  *
248  * When ol_flags is 0, it computes the standard pseudo-header checksum.
249  *
250  * @param ipv4_hdr
251  *   The pointer to the contiguous IPv4 header.
252  * @param ol_flags
253  *   The ol_flags of the associated mbuf.
254  * @return
255  *   The non-complemented checksum to set in the L4 header.
256  */
257 static inline uint16_t
258 rte_ipv4_phdr_cksum(const struct ipv4_hdr *ipv4_hdr, uint64_t ol_flags)
259 {
260         struct ipv4_psd_header {
261                 uint32_t src_addr; /* IP address of source host. */
262                 uint32_t dst_addr; /* IP address of destination host. */
263                 uint8_t  zero;     /* zero. */
264                 uint8_t  proto;    /* L4 protocol type. */
265                 uint16_t len;      /* L4 length. */
266         } psd_hdr;
267
268         psd_hdr.src_addr = ipv4_hdr->src_addr;
269         psd_hdr.dst_addr = ipv4_hdr->dst_addr;
270         psd_hdr.zero = 0;
271         psd_hdr.proto = ipv4_hdr->next_proto_id;
272         if (ol_flags & PKT_TX_TCP_SEG) {
273                 psd_hdr.len = 0;
274         } else {
275                 psd_hdr.len = rte_cpu_to_be_16(
276                         (uint16_t)(rte_be_to_cpu_16(ipv4_hdr->total_length)
277                                 - sizeof(struct ipv4_hdr)));
278         }
279         return rte_raw_cksum(&psd_hdr, sizeof(psd_hdr));
280 }
281
282 /**
283  * Process the IPv4 UDP or TCP checksum.
284  *
285  * The IPv4 header should not contains options. The IP and layer 4
286  * checksum must be set to 0 in the packet by the caller.
287  *
288  * @param ipv4_hdr
289  *   The pointer to the contiguous IPv4 header.
290  * @param l4_hdr
291  *   The pointer to the beginning of the L4 header.
292  * @return
293  *   The complemented checksum to set in the IP packet.
294  */
295 static inline uint16_t
296 rte_ipv4_udptcp_cksum(const struct ipv4_hdr *ipv4_hdr, const void *l4_hdr)
297 {
298         uint32_t cksum;
299         uint32_t l4_len;
300
301         l4_len = rte_be_to_cpu_16(ipv4_hdr->total_length) -
302                 sizeof(struct ipv4_hdr);
303
304         cksum = rte_raw_cksum(l4_hdr, l4_len);
305         cksum += rte_ipv4_phdr_cksum(ipv4_hdr, 0);
306
307         cksum = ((cksum & 0xffff0000) >> 16) + (cksum & 0xffff);
308         cksum = (~cksum) & 0xffff;
309         if (cksum == 0)
310                 cksum = 0xffff;
311
312         return cksum;
313 }
314
315 /**
316  * IPv6 Header
317  */
318 struct ipv6_hdr {
319         uint32_t vtc_flow;     /**< IP version, traffic class & flow label. */
320         uint16_t payload_len;  /**< IP packet length - includes sizeof(ip_header). */
321         uint8_t  proto;        /**< Protocol, next header. */
322         uint8_t  hop_limits;   /**< Hop limits. */
323         uint8_t  src_addr[16]; /**< IP address of source host. */
324         uint8_t  dst_addr[16]; /**< IP address of destination host(s). */
325 } __attribute__((__packed__));
326
327 /**
328  * Process the pseudo-header checksum of an IPv6 header.
329  *
330  * Depending on the ol_flags, the pseudo-header checksum expected by the
331  * drivers is not the same. For instance, when TSO is enabled, the IPv6
332  * payload length must not be included in the packet.
333  *
334  * When ol_flags is 0, it computes the standard pseudo-header checksum.
335  *
336  * @param ipv6_hdr
337  *   The pointer to the contiguous IPv6 header.
338  * @param ol_flags
339  *   The ol_flags of the associated mbuf.
340  * @return
341  *   The non-complemented checksum to set in the L4 header.
342  */
343 static inline uint16_t
344 rte_ipv6_phdr_cksum(const struct ipv6_hdr *ipv6_hdr, uint64_t ol_flags)
345 {
346         uint32_t sum;
347         struct {
348                 uint32_t len;   /* L4 length. */
349                 uint32_t proto; /* L4 protocol - top 3 bytes must be zero */
350         } psd_hdr;
351
352         psd_hdr.proto = (ipv6_hdr->proto << 24);
353         if (ol_flags & PKT_TX_TCP_SEG) {
354                 psd_hdr.len = 0;
355         } else {
356                 psd_hdr.len = ipv6_hdr->payload_len;
357         }
358
359         sum = __rte_raw_cksum(ipv6_hdr->src_addr,
360                 sizeof(ipv6_hdr->src_addr) + sizeof(ipv6_hdr->dst_addr),
361                 0);
362         sum = __rte_raw_cksum(&psd_hdr, sizeof(psd_hdr), sum);
363         return __rte_raw_cksum_reduce(sum);
364 }
365
366 /**
367  * Process the IPv6 UDP or TCP checksum.
368  *
369  * The IPv4 header should not contains options. The layer 4 checksum
370  * must be set to 0 in the packet by the caller.
371  *
372  * @param ipv6_hdr
373  *   The pointer to the contiguous IPv6 header.
374  * @param l4_hdr
375  *   The pointer to the beginning of the L4 header.
376  * @return
377  *   The complemented checksum to set in the IP packet.
378  */
379 static inline uint16_t
380 rte_ipv6_udptcp_cksum(const struct ipv6_hdr *ipv6_hdr, const void *l4_hdr)
381 {
382         uint32_t cksum;
383         uint32_t l4_len;
384
385         l4_len = rte_be_to_cpu_16(ipv6_hdr->payload_len);
386
387         cksum = rte_raw_cksum(l4_hdr, l4_len);
388         cksum += rte_ipv6_phdr_cksum(ipv6_hdr, 0);
389
390         cksum = ((cksum & 0xffff0000) >> 16) + (cksum & 0xffff);
391         cksum = (~cksum) & 0xffff;
392         if (cksum == 0)
393                 cksum = 0xffff;
394
395         return cksum;
396 }
397
398 #ifdef __cplusplus
399 }
400 #endif
401
402 #endif /* _RTE_IP_H_ */