lib/librte_eal/common/include/arch/x86/rte_cycles.h

   1 /*-
   2  *   BSD LICENSE
   3  *
   4  *   Copyright(c) 2010-2014 Intel Corporation. All rights reserved.
   5  *   Copyright(c) 2013 6WIND.
   6  *   All rights reserved.
   7  *
   8  *   Redistribution and use in source and binary forms, with or without
   9  *   modification, are permitted provided that the following conditions
  10  *   are met:
  11  *
  12  *     * Redistributions of source code must retain the above copyright
  13  *       notice, this list of conditions and the following disclaimer.
  14  *     * Redistributions in binary form must reproduce the above copyright
  15  *       notice, this list of conditions and the following disclaimer in
  16  *       the documentation and/or other materials provided with the
  17  *       distribution.
  18  *     * Neither the name of Intel Corporation nor the names of its
  19  *       contributors may be used to endorse or promote products derived
  20  *       from this software without specific prior written permission.
  21  *
  22  *   THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
  23  *   "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
  24  *   LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
  25  *   A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
  26  *   OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  27  *   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  28  *   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  29  *   DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  30  *   THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  31  *   (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  32  *   OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  33  */
  34
  35 #ifndef _RTE_CYCLES_X86_64_H_
  36 #define _RTE_CYCLES_X86_64_H_
  37
  38 #ifdef __cplusplus
  39 extern "C" {
  40 #endif
  41
  42 #include "generic/rte_cycles.h"
  43
  44 #ifdef RTE_LIBRTE_EAL_VMWARE_TSC_MAP_SUPPORT
  45 /* Global switch to use VMWARE mapping of TSC instead of RDTSC */
  46 extern int rte_cycles_vmware_tsc_map;
  47 #include <rte_branch_prediction.h>
  48 #endif
  49 #include <rte_common.h>
  50 #include <rte_config.h>
  51
  52 static inline uint64_t
  53 rte_rdtsc(void)
  54 {
  55         union {
  56                 uint64_t tsc_64;
  57                 RTE_STD_C11
  58                 struct {
  59                         uint32_t lo_32;
  60                         uint32_t hi_32;
  61                 };
  62         } tsc;
  63
  64 #ifdef RTE_LIBRTE_EAL_VMWARE_TSC_MAP_SUPPORT
  65         if (unlikely(rte_cycles_vmware_tsc_map)) {
  66                 /* ecx = 0x10000 corresponds to the physical TSC for VMware */
  67                 asm volatile("rdpmc" :
  68                              "=a" (tsc.lo_32),
  69                              "=d" (tsc.hi_32) :
  70                              "c"(0x10000));
  71                 return tsc.tsc_64;
  72         }
  73 #endif
  74
  75         asm volatile("rdtsc" :
  76                      "=a" (tsc.lo_32),
  77                      "=d" (tsc.hi_32));
  78         return tsc.tsc_64;
  79 }
  80
  81 static inline uint64_t
  82 rte_rdtsc_precise(void)
  83 {
  84         rte_mb();
  85         return rte_rdtsc();
  86 }
  87
  88 static inline uint64_t
  89 rte_get_tsc_cycles(void) { return rte_rdtsc(); }
  90
  91 #ifdef __cplusplus
  92 }
  93 #endif
  94
  95 #endif /* _RTE_CYCLES_X86_64_H_ */