drivers/net/ice/base/ice_acl_ctrl.c

   1 /* SPDX-License-Identifier: BSD-3-Clause
   2  * Copyright(c) 2001-2020 Intel Corporation
   3  */
   4
   5 #include "ice_acl.h"
   6 #include "ice_flow.h"
   7
   8 /* Determine the TCAM index of entry 'e' within the ACL table */
   9 #define ICE_ACL_TBL_TCAM_IDX(e) ((e) / ICE_AQC_ACL_TCAM_DEPTH)
  10
  11 /* Determine the entry index within the TCAM */
  12 #define ICE_ACL_TBL_TCAM_ENTRY_IDX(e) ((e) % ICE_AQC_ACL_TCAM_DEPTH)
  13
  14 #define ICE_ACL_SCEN_ENTRY_INVAL 0xFFFF
  15
  16 /**
  17  * ice_acl_init_entry
  18  * @scen: pointer to the scenario struct
  19  *
  20  * Initialize the scenario control structure.
  21  */
  22 static void ice_acl_init_entry(struct ice_acl_scen *scen)
  23 {
  24         /* low priority: start from the highest index, 25% of total entries
  25          * normal priority: start from the highest index, 50% of total entries
  26          * high priority: start from the lowest index, 25% of total entries
  27          */
  28         scen->first_idx[ICE_LOW] = scen->num_entry - 1;
  29         scen->first_idx[ICE_NORMAL] = scen->num_entry - scen->num_entry / 4 - 1;
  30         scen->first_idx[ICE_HIGH] = 0;
  31
  32         scen->last_idx[ICE_LOW] = scen->num_entry - scen->num_entry / 4;
  33         scen->last_idx[ICE_NORMAL] = scen->num_entry / 4;
  34         scen->last_idx[ICE_HIGH] = scen->num_entry / 4 - 1;
  35 }
  36
  37 /**
  38  * ice_acl_scen_assign_entry_idx
  39  * @scen: pointer to the scenario struct
  40  * @prior: the priority of the flow entry being allocated
  41  *
  42  * To find the index of an available entry in scenario
  43  *
  44  * Returns ICE_ACL_SCEN_ENTRY_INVAL if fails
  45  * Returns index on success
  46  */
  47 static u16
  48 ice_acl_scen_assign_entry_idx(struct ice_acl_scen *scen,
  49                               enum ice_acl_entry_prior prior)
  50 {
  51         u16 first_idx, last_idx, i;
  52         s8 step;
  53
  54         if (prior >= ICE_MAX_PRIOR)
  55                 return ICE_ACL_SCEN_ENTRY_INVAL;
  56
  57         first_idx = scen->first_idx[prior];
  58         last_idx = scen->last_idx[prior];
  59         step = first_idx <= last_idx ? 1 : -1;
  60
  61         for (i = first_idx; i != last_idx + step; i += step)
  62                 if (!ice_test_and_set_bit(i, scen->entry_bitmap))
  63                         return i;
  64
  65         return ICE_ACL_SCEN_ENTRY_INVAL;
  66 }
  67
  68 /**
  69  * ice_acl_scen_free_entry_idx
  70  * @scen: pointer to the scenario struct
  71  * @idx: the index of the flow entry being de-allocated
  72  *
  73  * To mark an entry available in scenario
  74  */
  75 static enum ice_status
  76 ice_acl_scen_free_entry_idx(struct ice_acl_scen *scen, u16 idx)
  77 {
  78         if (idx >= scen->num_entry)
  79                 return ICE_ERR_MAX_LIMIT;
  80
  81         if (!ice_test_and_clear_bit(idx, scen->entry_bitmap))
  82                 return ICE_ERR_DOES_NOT_EXIST;
  83
  84         return ICE_SUCCESS;
  85 }
  86
  87 /**
  88  * ice_acl_tbl_calc_end_idx
  89  * @start: start index of the TCAM entry of this partition
  90  * @num_entries: number of entries in this partition
  91  * @width: width of a partition in number of TCAMs
  92  *
  93  * Calculate the end entry index for a partition with starting entry index
  94  * 'start', entries 'num_entries', and width 'width'.
  95  */
  96 static u16 ice_acl_tbl_calc_end_idx(u16 start, u16 num_entries, u16 width)
  97 {
  98         u16 end_idx, add_entries = 0;
  99
 100         end_idx = start + (num_entries - 1);
 101
 102         /* In case that our ACL partition requires cascading TCAMs */
 103         if (width > 1) {
 104                 u16 num_stack_level;
 105
 106                 /* Figure out the TCAM stacked level in this ACL scenario */
 107                 num_stack_level = (start % ICE_AQC_ACL_TCAM_DEPTH) +
 108                         num_entries;
 109                 num_stack_level = DIVIDE_AND_ROUND_UP(num_stack_level,
 110                                                       ICE_AQC_ACL_TCAM_DEPTH);
 111
 112                 /* In this case, each entries in our ACL partition span
 113                  * multiple TCAMs. Thus, we will need to add
 114                  * ((width - 1) * num_stack_level) TCAM's entries to
 115                  * end_idx.
 116                  *
 117                  * For example : In our case, our scenario is 2x2:
 118                  *      [TCAM 0]        [TCAM 1]
 119                  *      [TCAM 2]        [TCAM 3]
 120                  * Assuming that a TCAM will have 512 entries. If "start"
 121                  * is 500, "num_entries" is 3 and "width" = 2, then end_idx
 122                  * should be 1024 (belongs to TCAM 2).
 123                  * Before going to this if statement, end_idx will have the
 124                  * value of 512. If "width" is 1, then the final value of
 125                  * end_idx is 512. However, in our case, width is 2, then we
 126                  * will need add (2 - 1) * 1 * 512. As result, end_idx will
 127                  * have the value of 1024.
 128                  */
 129                 add_entries = (width - 1) * num_stack_level *
 130                         ICE_AQC_ACL_TCAM_DEPTH;
 131         }
 132
 133         return end_idx + add_entries;
 134 }
 135
 136 /**
 137  * ice_acl_init_tbl
 138  * @hw: pointer to the hardware structure
 139  *
 140  * Initialize the ACL table by invalidating TCAM entries and action pairs.
 141  */
 142 static enum ice_status ice_acl_init_tbl(struct ice_hw *hw)
 143 {
 144         struct ice_aqc_actpair act_buf;
 145         struct ice_aqc_acl_data buf;
 146         enum ice_status status = ICE_SUCCESS;
 147         struct ice_acl_tbl *tbl;
 148         u8 tcam_idx, i;
 149         u16 idx;
 150
 151         tbl = hw->acl_tbl;
 152         if (!tbl) {
 153                 status = ICE_ERR_CFG;
 154                 return status;
 155         }
 156
 157         ice_memset(&buf, 0, sizeof(buf), ICE_NONDMA_MEM);
 158         ice_memset(&act_buf, 0, sizeof(act_buf), ICE_NONDMA_MEM);
 159
 160         tcam_idx = tbl->first_tcam;
 161         idx = tbl->first_entry;
 162         while (tcam_idx < tbl->last_tcam ||
 163                (tcam_idx == tbl->last_tcam && idx <= tbl->last_entry)) {
 164                 /* Use the same value for entry_key and entry_key_inv since
 165                  * we are initializing the fields to 0
 166                  */
 167                 status = ice_aq_program_acl_entry(hw, tcam_idx, idx, &buf,
 168                                                   NULL);
 169                 if (status)
 170                         return status;
 171
 172                 if (++idx > tbl->last_entry) {
 173                         tcam_idx++;
 174                         idx = tbl->first_entry;
 175                 }
 176         }
 177
 178         for (i = 0; i < ICE_AQC_MAX_ACTION_MEMORIES; i++) {
 179                 u16 act_entry_idx, start, end;
 180
 181                 if (tbl->act_mems[i].act_mem == ICE_ACL_ACT_PAIR_MEM_INVAL)
 182                         continue;
 183
 184                 start = tbl->first_entry;
 185                 end = tbl->last_entry;
 186
 187                 for (act_entry_idx = start; act_entry_idx <= end;
 188                      act_entry_idx++) {
 189                         /* Invalidate all allocated action pairs */
 190                         status = ice_aq_program_actpair(hw, i, act_entry_idx,
 191                                                         &act_buf, NULL);
 192                         if (status)
 193                                 return status;
 194                 }
 195         }
 196
 197         return status;
 198 }
 199
 200 /**
 201  * ice_acl_assign_act_mems_to_tcam
 202  * @tbl: pointer to ACL table structure
 203  * @cur_tcam: Index of current TCAM. Value = 0 to (ICE_AQC_ACL_SLICES - 1)
 204  * @cur_mem_idx: Index of current action memory bank. Value = 0 to
 205  *               (ICE_AQC_MAX_ACTION_MEMORIES - 1)
 206  * @num_mem: Number of action memory banks for this TCAM
 207  *
 208  * Assign "num_mem" valid action memory banks from "curr_mem_idx" to
 209  * "curr_tcam" TCAM.
 210  */
 211 static void
 212 ice_acl_assign_act_mems_to_tcam(struct ice_acl_tbl *tbl, u8 cur_tcam,
 213                                 u8 *cur_mem_idx, u8 num_mem)
 214 {
 215         u8 mem_cnt;
 216
 217         for (mem_cnt = 0;
 218              *cur_mem_idx < ICE_AQC_MAX_ACTION_MEMORIES && mem_cnt < num_mem;
 219              (*cur_mem_idx)++) {
 220                 struct ice_acl_act_mem *p_mem = &tbl->act_mems[*cur_mem_idx];
 221
 222                 if (p_mem->act_mem == ICE_ACL_ACT_PAIR_MEM_INVAL)
 223                         continue;
 224
 225                 p_mem->member_of_tcam = cur_tcam;
 226
 227                 mem_cnt++;
 228         }
 229 }
 230
 231 /**
 232  * ice_acl_divide_act_mems_to_tcams
 233  * @tbl: pointer to ACL table structure
 234  *
 235  * Figure out how to divide given action memory banks to given TCAMs. This
 236  * division is for SW book keeping. In the time when scenario is created,
 237  * an action memory bank can be used for different TCAM.
 238  *
 239  * For example, given that we have 2x2 ACL table with each table entry has
 240  * 2 action memory pairs. As the result, we will have 4 TCAMs (T1,T2,T3,T4)
 241  * and 4 action memory banks (A1,A2,A3,A4)
 242  *      [T1 - T2] { A1 - A2 }
 243  *      [T3 - T4] { A3 - A4 }
 244  * In the time when we need to create a scenario, for example, 2x1 scenario,
 245  * we will use [T3,T4] in a cascaded layout. As it is a requirement that all
 246  * action memory banks in a cascaded TCAM's row will need to associate with
 247  * the last TCAM. Thus, we will associate action memory banks [A3] and [A4]
 248  * for TCAM [T4].
 249  * For SW book-keeping purpose, we will keep theoretical maps between TCAM
 250  * [Tn] to action memory bank [An].
 251  */
 252 static void ice_acl_divide_act_mems_to_tcams(struct ice_acl_tbl *tbl)
 253 {
 254         u16 num_cscd, stack_level, stack_idx, min_act_mem;
 255         u8 tcam_idx = tbl->first_tcam;
 256         u16 max_idx_to_get_extra;
 257         u8 mem_idx = 0;
 258
 259         /* Determine number of stacked TCAMs */
 260         stack_level = DIVIDE_AND_ROUND_UP(tbl->info.depth,
 261                                           ICE_AQC_ACL_TCAM_DEPTH);
 262
 263         /* Determine number of cascaded TCAMs */
 264         num_cscd = DIVIDE_AND_ROUND_UP(tbl->info.width,
 265                                        ICE_AQC_ACL_KEY_WIDTH_BYTES);
 266
 267         /* In a line of cascaded TCAM, given the number of action memory
 268          * banks per ACL table entry, we want to fairly divide these action
 269          * memory banks between these TCAMs.
 270          *
 271          * For example, there are 3 TCAMs (TCAM 3,4,5) in a line of
 272          * cascaded TCAM, and there are 7 act_mems for each ACL table entry.
 273          * The result is:
 274          *      [TCAM_3 will have 3 act_mems]
 275          *      [TCAM_4 will have 2 act_mems]
 276          *      [TCAM_5 will have 2 act_mems]
 277          */
 278         min_act_mem = tbl->info.entry_act_pairs / num_cscd;
 279         max_idx_to_get_extra = tbl->info.entry_act_pairs % num_cscd;
 280
 281         for (stack_idx = 0; stack_idx < stack_level; stack_idx++) {
 282                 u16 i;
 283
 284                 for (i = 0; i < num_cscd; i++) {
 285                         u8 total_act_mem = min_act_mem;
 286
 287                         if (i < max_idx_to_get_extra)
 288                                 total_act_mem++;
 289
 290                         ice_acl_assign_act_mems_to_tcam(tbl, tcam_idx,
 291                                                         &mem_idx,
 292                                                         total_act_mem);
 293
 294                         tcam_idx++;
 295                 }
 296         }
 297 }
 298
 299 /**
 300  * ice_acl_create_tbl
 301  * @hw: pointer to the HW struct
 302  * @params: parameters for the table to be created
 303  *
 304  * Create a LEM table for ACL usage. We are currently starting with some fixed
 305  * values for the size of the table, but this will need to grow as more flow
 306  * entries are added by the user level.
 307  */
 308 enum ice_status
 309 ice_acl_create_tbl(struct ice_hw *hw, struct ice_acl_tbl_params *params)
 310 {
 311         u16 width, depth, first_e, last_e, i;
 312         struct ice_aqc_acl_generic *resp_buf;
 313         struct ice_acl_alloc_tbl tbl_alloc;
 314         struct ice_acl_tbl *tbl;
 315         enum ice_status status;
 316
 317         if (hw->acl_tbl)
 318                 return ICE_ERR_ALREADY_EXISTS;
 319
 320         if (!params)
 321                 return ICE_ERR_PARAM;
 322
 323         /* round up the width to the next TCAM width boundary. */
 324         width = ROUND_UP(params->width, (u16)ICE_AQC_ACL_KEY_WIDTH_BYTES);
 325         /* depth should be provided in chunk (64 entry) increments */
 326         depth = ICE_ALIGN(params->depth, ICE_ACL_ENTRY_ALLOC_UNIT);
 327
 328         if (params->entry_act_pairs < width / ICE_AQC_ACL_KEY_WIDTH_BYTES) {
 329                 params->entry_act_pairs = width / ICE_AQC_ACL_KEY_WIDTH_BYTES;
 330
 331                 if (params->entry_act_pairs > ICE_AQC_TBL_MAX_ACTION_PAIRS)
 332                         params->entry_act_pairs = ICE_AQC_TBL_MAX_ACTION_PAIRS;
 333         }
 334
 335         /* Validate that width*depth will not exceed the TCAM limit */
 336         if ((DIVIDE_AND_ROUND_UP(depth, ICE_AQC_ACL_TCAM_DEPTH) *
 337              (width / ICE_AQC_ACL_KEY_WIDTH_BYTES)) > ICE_AQC_ACL_SLICES)
 338                 return ICE_ERR_MAX_LIMIT;
 339
 340         ice_memset(&tbl_alloc, 0, sizeof(tbl_alloc), ICE_NONDMA_MEM);
 341         tbl_alloc.width = width;
 342         tbl_alloc.depth = depth;
 343         tbl_alloc.act_pairs_per_entry = params->entry_act_pairs;
 344         tbl_alloc.concurr = params->concurr;
 345         /* Set dependent_alloc_id only for concurrent table type */
 346         if (params->concurr) {
 347                 tbl_alloc.num_dependent_alloc_ids =
 348                         ICE_AQC_MAX_CONCURRENT_ACL_TBL;
 349
 350                 for (i = 0; i < ICE_AQC_MAX_CONCURRENT_ACL_TBL; i++)
 351                         tbl_alloc.buf.data_buf.alloc_ids[i] =
 352                                 CPU_TO_LE16(params->dep_tbls[i]);
 353         }
 354
 355         /* call the AQ command to create the ACL table with these values */
 356         status = ice_aq_alloc_acl_tbl(hw, &tbl_alloc, NULL);
 357         if (status) {
 358                 if (LE16_TO_CPU(tbl_alloc.buf.resp_buf.alloc_id) <
 359                     ICE_AQC_ALLOC_ID_LESS_THAN_4K)
 360                         ice_debug(hw, ICE_DBG_ACL,
 361                                   "Alloc ACL table failed. Unavailable resource.\n");
 362                 else
 363                         ice_debug(hw, ICE_DBG_ACL,
 364                                   "AQ allocation of ACL failed with error. status: %d\n",
 365                                    status);
 366                 return status;
 367         }
 368
 369         tbl = (struct ice_acl_tbl *)ice_malloc(hw, sizeof(*tbl));
 370         if (!tbl) {
 371                 status = ICE_ERR_NO_MEMORY;
 372
 373                 goto out;
 374         }
 375
 376         resp_buf = &tbl_alloc.buf.resp_buf;
 377
 378         /* Retrieve information of the allocated table */
 379         tbl->id = LE16_TO_CPU(resp_buf->alloc_id);
 380         tbl->first_tcam = resp_buf->ops.table.first_tcam;
 381         tbl->last_tcam = resp_buf->ops.table.last_tcam;
 382         tbl->first_entry = LE16_TO_CPU(resp_buf->first_entry);
 383         tbl->last_entry = LE16_TO_CPU(resp_buf->last_entry);
 384
 385         tbl->info = *params;
 386         tbl->info.width = width;
 387         tbl->info.depth = depth;
 388         hw->acl_tbl = tbl;
 389
 390         for (i = 0; i < ICE_AQC_MAX_ACTION_MEMORIES; i++)
 391                 tbl->act_mems[i].act_mem = resp_buf->act_mem[i];
 392
 393         /* Figure out which TCAMs that these newly allocated action memories
 394          * belong to.
 395          */
 396         ice_acl_divide_act_mems_to_tcams(tbl);
 397
 398         /* Initialize the resources allocated by invalidating all TCAM entries
 399          * and all the action pairs
 400          */
 401         status = ice_acl_init_tbl(hw);
 402         if (status) {
 403                 ice_free(hw, tbl);
 404                 hw->acl_tbl = NULL;
 405                 ice_debug(hw, ICE_DBG_ACL,
 406                           "Initialization of TCAM entries failed. status: %d\n",
 407                           status);
 408                 goto out;
 409         }
 410
 411         first_e = (tbl->first_tcam * ICE_AQC_MAX_TCAM_ALLOC_UNITS) +
 412                 (tbl->first_entry / ICE_ACL_ENTRY_ALLOC_UNIT);
 413         last_e = (tbl->last_tcam * ICE_AQC_MAX_TCAM_ALLOC_UNITS) +
 414                 (tbl->last_entry / ICE_ACL_ENTRY_ALLOC_UNIT);
 415
 416         /* Indicate available entries in the table */
 417         ice_bitmap_set(tbl->avail, first_e, last_e - first_e + 1);
 418
 419         INIT_LIST_HEAD(&tbl->scens);
 420 out:
 421
 422         return status;
 423 }
 424
 425 /**
 426  * ice_acl_alloc_partition - Allocate a partition from the ACL table
 427  * @hw: pointer to the hardware structure
 428  * @req: info of partition being allocated
 429  */
 430 static enum ice_status
 431 ice_acl_alloc_partition(struct ice_hw *hw, struct ice_acl_scen *req)
 432 {
 433         u16 start = 0, cnt = 0, off = 0;
 434         u16 width, r_entries, row;
 435         bool done = false;
 436         int dir;
 437
 438         /* Determine the number of TCAMs each entry overlaps */
 439         width = DIVIDE_AND_ROUND_UP(req->width, ICE_AQC_ACL_KEY_WIDTH_BYTES);
 440
 441         /* Check if we have enough TCAMs to accommodate the width */
 442         if (width > hw->acl_tbl->last_tcam - hw->acl_tbl->first_tcam + 1)
 443                 return ICE_ERR_MAX_LIMIT;
 444
 445         /* Number of entries must be multiple of ICE_ACL_ENTRY_ALLOC_UNIT's */
 446         r_entries = ICE_ALIGN(req->num_entry, ICE_ACL_ENTRY_ALLOC_UNIT);
 447
 448         /* To look for an available partition that can accommodate the request,
 449          * the process first logically arranges available TCAMs in rows such
 450          * that each row produces entries with the requested width. It then
 451          * scans the TCAMs' available bitmap, one bit at a time, and
 452          * accumulates contiguous available 64-entry chunks until there are
 453          * enough of them or when all TCAM configurations have been checked.
 454          *
 455          * For width of 1 TCAM, the scanning process starts from the top most
 456          * TCAM, and goes downward. Available bitmaps are examined from LSB
 457          * to MSB.
 458          *
 459          * For width of multiple TCAMs, the process starts from the bottom-most
 460          * row of TCAMs, and goes upward. Available bitmaps are examined from
 461          * the MSB to the LSB.
 462          *
 463          * To make sure that adjacent TCAMs can be logically arranged in the
 464          * same row, the scanning process may have multiple passes. In each
 465          * pass, the first TCAM of the bottom-most row is displaced by one
 466          * additional TCAM. The width of the row and the number of the TCAMs
 467          * available determine the number of passes. When the displacement is
 468          * more than the size of width, the TCAM row configurations will
 469          * repeat. The process will terminate when the configurations repeat.
 470          *
 471          * Available partitions can span more than one row of TCAMs.
 472          */
 473         if (width == 1) {
 474                 row = hw->acl_tbl->first_tcam;
 475                 dir = 1;
 476         } else {
 477                 /* Start with the bottom-most row, and scan for available
 478                  * entries upward
 479                  */
 480                 row = hw->acl_tbl->last_tcam + 1 - width;
 481                 dir = -1;
 482         }
 483
 484         do {
 485                 u16 i;
 486
 487                 /* Scan all 64-entry chunks, one chunk at a time, in the
 488                  * current TCAM row
 489                  */
 490                 for (i = 0;
 491                      i < ICE_AQC_MAX_TCAM_ALLOC_UNITS && cnt < r_entries;
 492                      i++) {
 493                         bool avail = true;
 494                         u16 w, p;
 495
 496                         /* Compute the cumulative available mask across the
 497                          * TCAM row to determine if the current 64-entry chunk
 498                          * is available.
 499                          */
 500                         p = dir > 0 ? i : ICE_AQC_MAX_TCAM_ALLOC_UNITS - i - 1;
 501                         for (w = row; w < row + width && avail; w++) {
 502                                 u16 b;
 503
 504                                 b = (w * ICE_AQC_MAX_TCAM_ALLOC_UNITS) + p;
 505                                 avail &= ice_is_bit_set(hw->acl_tbl->avail, b);
 506                         }
 507
 508                         if (!avail) {
 509                                 cnt = 0;
 510                         } else {
 511                                 /* Compute the starting index of the newly
 512                                  * found partition. When 'dir' is negative, the
 513                                  * scan processes is going upward. If so, the
 514                                  * starting index needs to be updated for every
 515                                  * available 64-entry chunk found.
 516                                  */
 517                                 if (!cnt || dir < 0)
 518                                         start = (row * ICE_AQC_ACL_TCAM_DEPTH) +
 519                                                 (p * ICE_ACL_ENTRY_ALLOC_UNIT);
 520                                 cnt += ICE_ACL_ENTRY_ALLOC_UNIT;
 521                         }
 522                 }
 523
 524                 if (cnt >= r_entries) {
 525                         req->start = start;
 526                         req->num_entry = r_entries;
 527                         req->end = ice_acl_tbl_calc_end_idx(start, r_entries,
 528                                                             width);
 529                         break;
 530                 }
 531
 532                 row = (dir > 0) ? (row + width) : (row - width);
 533                 if (row > hw->acl_tbl->last_tcam ||
 534                     row < hw->acl_tbl->first_tcam) {
 535                         /* All rows have been checked. Increment 'off' that
 536                          * will help yield a different TCAM configuration in
 537                          * which adjacent TCAMs can be alternatively in the
 538                          * same row.
 539                          */
 540                         off++;
 541
 542                         /* However, if the new 'off' value yields previously
 543                          * checked configurations, then exit.
 544                          */
 545                         if (off >= width)
 546                                 done = true;
 547                         else
 548                                 row = dir > 0 ? off :
 549                                         hw->acl_tbl->last_tcam + 1 - off -
 550                                         width;
 551                 }
 552         } while (!done);
 553
 554         return cnt >= r_entries ? ICE_SUCCESS : ICE_ERR_MAX_LIMIT;
 555 }
 556
 557 /**
 558  * ice_acl_fill_tcam_select
 559  * @scen_buf: Pointer to the scenario buffer that needs to be populated
 560  * @scen: Pointer to the available space for the scenario
 561  * @tcam_idx: Index of the TCAM used for this scenario
 562  * @tcam_idx_in_cascade : Local index of the TCAM in the cascade scenario
 563  *
 564  * For all TCAM that participate in this scenario, fill out the tcam_select
 565  * value.
 566  */
 567 static void
 568 ice_acl_fill_tcam_select(struct ice_aqc_acl_scen *scen_buf,
 569                          struct ice_acl_scen *scen, u16 tcam_idx,
 570                          u16 tcam_idx_in_cascade)
 571 {
 572         u16 cascade_cnt, idx;
 573         u8 j;
 574
 575         idx = tcam_idx_in_cascade * ICE_AQC_ACL_KEY_WIDTH_BYTES;
 576         cascade_cnt = DIVIDE_AND_ROUND_UP(scen->width,
 577                                           ICE_AQC_ACL_KEY_WIDTH_BYTES);
 578
 579         /* For each scenario, we reserved last three bytes of scenario width for
 580          * profile ID, range checker, and packet direction. Thus, the last three
 581          * bytes of the last cascaded TCAMs will have value of 1st, 31st and
 582          * 32nd byte location of BYTE selection base.
 583          *
 584          * For other bytes in the TCAMs:
 585          * For non-cascade mode (1 TCAM wide) scenario, TCAM[x]'s Select {0-1}
 586          * select indices 0-1 of the Byte Selection Base
 587          * For cascade mode, the leftmost TCAM of the first cascade row selects
 588          * indices 0-4 of the Byte Selection Base; the second TCAM in the
 589          * cascade row selects indices starting with 5-n
 590          */
 591         for (j = 0; j < ICE_AQC_ACL_KEY_WIDTH_BYTES; j++) {
 592                 /* PKT DIR uses the 1st location of Byte Selection Base: + 1 */
 593                 u8 val = ICE_AQC_ACL_BYTE_SEL_BASE + 1 + idx;
 594
 595                 if (tcam_idx_in_cascade == cascade_cnt - 1) {
 596                         if (j == ICE_ACL_SCEN_RNG_CHK_IDX_IN_TCAM)
 597                                 val = ICE_AQC_ACL_BYTE_SEL_BASE_RNG_CHK;
 598                         else if (j == ICE_ACL_SCEN_PID_IDX_IN_TCAM)
 599                                 val = ICE_AQC_ACL_BYTE_SEL_BASE_PID;
 600                         else if (j == ICE_ACL_SCEN_PKT_DIR_IDX_IN_TCAM)
 601                                 val = ICE_AQC_ACL_BYTE_SEL_BASE_PKT_DIR;
 602                 }
 603
 604                 /* In case that scenario's width is greater than the width of
 605                  * the Byte selection base, we will not assign a value to the
 606                  * tcam_select[j]. As a result, the tcam_select[j] will have
 607                  * default value which is zero.
 608                  */
 609                 if (val > ICE_AQC_ACL_BYTE_SEL_BASE_RNG_CHK)
 610                         continue;
 611
 612                 scen_buf->tcam_cfg[tcam_idx].tcam_select[j] = val;
 613
 614                 idx++;
 615         }
 616 }
 617
 618 /**
 619  * ice_acl_set_scen_chnk_msk
 620  * @scen_buf: Pointer to the scenario buffer that needs to be populated
 621  * @scen: pointer to the available space for the scenario
 622  *
 623  * Set the chunk mask for the entries that will be used by this scenario
 624  */
 625 static void
 626 ice_acl_set_scen_chnk_msk(struct ice_aqc_acl_scen *scen_buf,
 627                           struct ice_acl_scen *scen)
 628 {
 629         u16 tcam_idx, num_cscd, units, cnt;
 630         u8 chnk_offst;
 631
 632         /* Determine the starting TCAM index and offset of the start entry */
 633         tcam_idx = ICE_ACL_TBL_TCAM_IDX(scen->start);
 634         chnk_offst = (u8)((scen->start % ICE_AQC_ACL_TCAM_DEPTH) /
 635                           ICE_ACL_ENTRY_ALLOC_UNIT);
 636
 637         /* Entries are allocated and tracked in multiple of 64's */
 638         units = scen->num_entry / ICE_ACL_ENTRY_ALLOC_UNIT;
 639
 640         /* Determine number of cascaded TCAMs */
 641         num_cscd = scen->width / ICE_AQC_ACL_KEY_WIDTH_BYTES;
 642
 643         for (cnt = 0; cnt < units; cnt++) {
 644                 u16 i;
 645
 646                 /* Set the corresponding bitmap of individual 64-entry
 647                  * chunk spans across a cascade of 1 or more TCAMs
 648                  * For each TCAM, there will be (ICE_AQC_ACL_TCAM_DEPTH
 649                  * / ICE_ACL_ENTRY_ALLOC_UNIT) or 8 chunks.
 650                  */
 651                 for (i = tcam_idx; i < tcam_idx + num_cscd; i++)
 652                         scen_buf->tcam_cfg[i].chnk_msk |= BIT(chnk_offst);
 653
 654                 chnk_offst = (chnk_offst + 1) % ICE_AQC_MAX_TCAM_ALLOC_UNITS;
 655                 if (!chnk_offst)
 656                         tcam_idx += num_cscd;
 657         }
 658 }
 659
 660 /**
 661  * ice_acl_assign_act_mem_for_scen
 662  * @tbl: pointer to ACL table structure
 663  * @scen: pointer to the scenario struct
 664  * @scen_buf: pointer to the available space for the scenario
 665  * @current_tcam_idx: theoretical index of the TCAM that we associated those
 666  *                    action memory banks with, at the table creation time.
 667  * @target_tcam_idx: index of the TCAM that we want to associate those action
 668  *                   memory banks with.
 669  */
 670 static void
 671 ice_acl_assign_act_mem_for_scen(struct ice_acl_tbl *tbl,
 672                                 struct ice_acl_scen *scen,
 673                                 struct ice_aqc_acl_scen *scen_buf,
 674                                 u8 current_tcam_idx,
 675                                 u8 target_tcam_idx)
 676 {
 677         u8 i;
 678
 679         for (i = 0; i < ICE_AQC_MAX_ACTION_MEMORIES; i++) {
 680                 struct ice_acl_act_mem *p_mem = &tbl->act_mems[i];
 681
 682                 if (p_mem->act_mem == ICE_ACL_ACT_PAIR_MEM_INVAL ||
 683                     p_mem->member_of_tcam != current_tcam_idx)
 684                         continue;
 685
 686                 scen_buf->act_mem_cfg[i] = target_tcam_idx;
 687                 scen_buf->act_mem_cfg[i] |= ICE_AQC_ACL_SCE_ACT_MEM_EN;
 688                 ice_set_bit(i, scen->act_mem_bitmap);
 689         }
 690 }
 691
 692 /**
 693  * ice_acl_commit_partition - Indicate if the specified partition is active
 694  * @hw: pointer to the hardware structure
 695  * @scen: pointer to the scenario struct
 696  * @commit: true if the partition is being commit
 697  */
 698 static void
 699 ice_acl_commit_partition(struct ice_hw *hw, struct ice_acl_scen *scen,
 700                          bool commit)
 701 {
 702         u16 tcam_idx, off, num_cscd, units, cnt;
 703
 704         /* Determine the starting TCAM index and offset of the start entry */
 705         tcam_idx = ICE_ACL_TBL_TCAM_IDX(scen->start);
 706         off = (scen->start % ICE_AQC_ACL_TCAM_DEPTH) /
 707                 ICE_ACL_ENTRY_ALLOC_UNIT;
 708
 709         /* Entries are allocated and tracked in multiple of 64's */
 710         units = scen->num_entry / ICE_ACL_ENTRY_ALLOC_UNIT;
 711
 712         /* Determine number of cascaded TCAM */
 713         num_cscd = scen->width / ICE_AQC_ACL_KEY_WIDTH_BYTES;
 714
 715         for (cnt = 0; cnt < units; cnt++) {
 716                 u16 w;
 717
 718                 /* Set/clear the corresponding bitmap of individual 64-entry
 719                  * chunk spans across a row of 1 or more TCAMs
 720                  */
 721                 for (w = 0; w < num_cscd; w++) {
 722                         u16 b;
 723
 724                         b = ((tcam_idx + w) * ICE_AQC_MAX_TCAM_ALLOC_UNITS) +
 725                                 off;
 726                         if (commit)
 727                                 ice_set_bit(b, hw->acl_tbl->avail);
 728                         else
 729                                 ice_clear_bit(b, hw->acl_tbl->avail);
 730                 }
 731
 732                 off = (off + 1) % ICE_AQC_MAX_TCAM_ALLOC_UNITS;
 733                 if (!off)
 734                         tcam_idx += num_cscd;
 735         }
 736 }
 737
 738 /**
 739  * ice_acl_create_scen
 740  * @hw: pointer to the hardware structure
 741  * @match_width: number of bytes to be matched in this scenario
 742  * @num_entries: number of entries to be allocated for the scenario
 743  * @scen_id: holds returned scenario ID if successful
 744  */
 745 enum ice_status
 746 ice_acl_create_scen(struct ice_hw *hw, u16 match_width, u16 num_entries,
 747                     u16 *scen_id)
 748 {
 749         u8 cascade_cnt, first_tcam, last_tcam, i, k;
 750         struct ice_aqc_acl_scen scen_buf;
 751         struct ice_acl_scen *scen;
 752         enum ice_status status;
 753
 754         if (!hw->acl_tbl)
 755                 return ICE_ERR_DOES_NOT_EXIST;
 756
 757         scen = (struct ice_acl_scen *)ice_malloc(hw, sizeof(*scen));
 758         if (!scen)
 759                 return ICE_ERR_NO_MEMORY;
 760
 761         scen->start = hw->acl_tbl->first_entry;
 762         scen->width = ICE_AQC_ACL_KEY_WIDTH_BYTES *
 763                 DIVIDE_AND_ROUND_UP(match_width, ICE_AQC_ACL_KEY_WIDTH_BYTES);
 764         scen->num_entry = num_entries;
 765
 766         status = ice_acl_alloc_partition(hw, scen);
 767         if (status) {
 768                 ice_free(hw, scen);
 769                 return status;
 770         }
 771
 772         ice_memset(&scen_buf, 0, sizeof(scen_buf), ICE_NONDMA_MEM);
 773
 774         /* Determine the number of cascade TCAMs, given the scenario's width */
 775         cascade_cnt = DIVIDE_AND_ROUND_UP(scen->width,
 776                                           ICE_AQC_ACL_KEY_WIDTH_BYTES);
 777         first_tcam = ICE_ACL_TBL_TCAM_IDX(scen->start);
 778         last_tcam = ICE_ACL_TBL_TCAM_IDX(scen->end);
 779
 780         /* For each scenario, we reserved last three bytes of scenario width for
 781          * packet direction flag, profile ID and range checker. Thus, we want to
 782          * return back to the caller the eff_width, pkt_dir_idx, rng_chk_idx and
 783          * pid_idx.
 784          */
 785         scen->eff_width = cascade_cnt * ICE_AQC_ACL_KEY_WIDTH_BYTES -
 786                 ICE_ACL_SCEN_MIN_WIDTH;
 787         scen->rng_chk_idx = (cascade_cnt - 1) * ICE_AQC_ACL_KEY_WIDTH_BYTES +
 788                 ICE_ACL_SCEN_RNG_CHK_IDX_IN_TCAM;
 789         scen->pid_idx = (cascade_cnt - 1) * ICE_AQC_ACL_KEY_WIDTH_BYTES +
 790                 ICE_ACL_SCEN_PID_IDX_IN_TCAM;
 791         scen->pkt_dir_idx = (cascade_cnt - 1) * ICE_AQC_ACL_KEY_WIDTH_BYTES +
 792                 ICE_ACL_SCEN_PKT_DIR_IDX_IN_TCAM;
 793
 794         /* set the chunk mask for the tcams */
 795         ice_acl_set_scen_chnk_msk(&scen_buf, scen);
 796
 797         /* set the TCAM select and start_cmp and start_set bits */
 798         k = first_tcam;
 799         /* set the START_SET bit at the beginning of the stack */
 800         scen_buf.tcam_cfg[k].start_cmp_set |= ICE_AQC_ACL_ALLOC_SCE_START_SET;
 801         while (k <= last_tcam) {
 802                 u8 last_tcam_idx_cascade = cascade_cnt + k - 1;
 803
 804                 /* set start_cmp for the first cascaded TCAM */
 805                 scen_buf.tcam_cfg[k].start_cmp_set |=
 806                         ICE_AQC_ACL_ALLOC_SCE_START_CMP;
 807
 808                 /* cascade TCAMs up to the width of the scenario */
 809                 for (i = k; i < cascade_cnt + k; i++) {
 810                         ice_acl_fill_tcam_select(&scen_buf, scen, i, i - k);
 811                         ice_acl_assign_act_mem_for_scen(hw->acl_tbl, scen,
 812                                                         &scen_buf,
 813                                                         i,
 814                                                         last_tcam_idx_cascade);
 815                 }
 816
 817                 k = i;
 818         }
 819
 820         /* We need to set the start_cmp bit for the unused TCAMs. */
 821         i = 0;
 822         while (i < first_tcam)
 823                 scen_buf.tcam_cfg[i++].start_cmp_set =
 824                                         ICE_AQC_ACL_ALLOC_SCE_START_CMP;
 825
 826         i = last_tcam + 1;
 827         while (i < ICE_AQC_ACL_SLICES)
 828                 scen_buf.tcam_cfg[i++].start_cmp_set =
 829                                         ICE_AQC_ACL_ALLOC_SCE_START_CMP;
 830
 831         status = ice_aq_alloc_acl_scen(hw, scen_id, &scen_buf, NULL);
 832         if (status) {
 833                 ice_debug(hw, ICE_DBG_ACL,
 834                           "AQ allocation of ACL scenario failed. status: %d\n",
 835                           status);
 836                 ice_free(hw, scen);
 837                 return status;
 838         }
 839
 840         scen->id = *scen_id;
 841         ice_acl_commit_partition(hw, scen, false);
 842         ice_acl_init_entry(scen);
 843         LIST_ADD(&scen->list_entry, &hw->acl_tbl->scens);
 844
 845         return status;
 846 }
 847
 848 /**
 849  * ice_acl_destroy_tbl - Destroy a previously created LEM table for ACL
 850  * @hw: pointer to the HW struct
 851  */
 852 enum ice_status ice_acl_destroy_tbl(struct ice_hw *hw)
 853 {
 854         struct ice_acl_scen *pos_scen, *tmp_scen;
 855         struct ice_aqc_acl_generic resp_buf;
 856         struct ice_aqc_acl_scen buf;
 857         enum ice_status status;
 858         u8 i;
 859
 860         if (!hw->acl_tbl)
 861                 return ICE_ERR_DOES_NOT_EXIST;
 862
 863         /* Mark all the created scenario's TCAM to stop the packet lookup and
 864          * delete them afterward
 865          */
 866         LIST_FOR_EACH_ENTRY_SAFE(pos_scen, tmp_scen, &hw->acl_tbl->scens,
 867                                  ice_acl_scen, list_entry) {
 868                 status = ice_aq_query_acl_scen(hw, pos_scen->id, &buf, NULL);
 869                 if (status) {
 870                         ice_debug(hw, ICE_DBG_ACL, "ice_aq_query_acl_scen() failed. status: %d\n",
 871                                   status);
 872                         return status;
 873                 }
 874
 875                 for (i = 0; i < ICE_AQC_ACL_SLICES; i++) {
 876                         buf.tcam_cfg[i].chnk_msk = 0;
 877                         buf.tcam_cfg[i].start_cmp_set =
 878                                         ICE_AQC_ACL_ALLOC_SCE_START_CMP;
 879                 }
 880
 881                 for (i = 0; i < ICE_AQC_MAX_ACTION_MEMORIES; i++)
 882                         buf.act_mem_cfg[i] = 0;
 883
 884                 status = ice_aq_update_acl_scen(hw, pos_scen->id, &buf, NULL);
 885                 if (status) {
 886                         ice_debug(hw, ICE_DBG_ACL, "ice_aq_update_acl_scen() failed. status: %d\n",
 887                                   status);
 888                         return status;
 889                 }
 890
 891                 status = ice_acl_destroy_scen(hw, pos_scen->id);
 892                 if (status) {
 893                         ice_debug(hw, ICE_DBG_ACL, "deletion of scenario failed. status: %d\n",
 894                                   status);
 895                         return status;
 896                 }
 897         }
 898
 899         /* call the AQ command to destroy the ACL table */
 900         status = ice_aq_dealloc_acl_tbl(hw, hw->acl_tbl->id, &resp_buf, NULL);
 901
 902         if (status) {
 903                 ice_debug(hw, ICE_DBG_ACL,
 904                           "AQ de-allocation of ACL failed. status: %d\n",
 905                           status);
 906                 return status;
 907         }
 908
 909         ice_free(hw, hw->acl_tbl);
 910         hw->acl_tbl = NULL;
 911
 912         return ICE_SUCCESS;
 913 }
 914
 915 /**
 916  * ice_acl_add_entry - Add a flow entry to an ACL scenario
 917  * @hw: pointer to the HW struct
 918  * @scen: scenario to add the entry to
 919  * @prior: priority level of the entry being added
 920  * @keys: buffer of the value of the key to be programmed to the ACL entry
 921  * @inverts: buffer of the value of the key inverts to be programmed
 922  * @acts: pointer to a buffer containing formatted actions
 923  * @acts_cnt: indicates the number of actions stored in "acts"
 924  * @entry_idx: returned scenario relative index of the added flow entry
 925  *
 926  * Given an ACL table and a scenario, to add the specified key and key invert
 927  * to an available entry in the specified scenario.
 928  * The "keys" and "inverts" buffers must be of the size which is the same as
 929  * the scenario's width
 930  */
 931 enum ice_status
 932 ice_acl_add_entry(struct ice_hw *hw, struct ice_acl_scen *scen,
 933                   enum ice_acl_entry_prior prior, u8 *keys, u8 *inverts,
 934                   struct ice_acl_act_entry *acts, u8 acts_cnt, u16 *entry_idx)
 935 {
 936         u8 i, entry_tcam, num_cscd, offset;
 937         struct ice_aqc_acl_data buf;
 938         enum ice_status status = ICE_SUCCESS;
 939         u16 idx;
 940
 941         if (!scen)
 942                 return ICE_ERR_DOES_NOT_EXIST;
 943
 944         *entry_idx = ice_acl_scen_assign_entry_idx(scen, prior);
 945         if (*entry_idx >= scen->num_entry) {
 946                 *entry_idx = 0;
 947                 return ICE_ERR_MAX_LIMIT;
 948         }
 949
 950         /* Determine number of cascaded TCAMs */
 951         num_cscd = DIVIDE_AND_ROUND_UP(scen->width,
 952                                        ICE_AQC_ACL_KEY_WIDTH_BYTES);
 953
 954         entry_tcam = ICE_ACL_TBL_TCAM_IDX(scen->start);
 955         idx = ICE_ACL_TBL_TCAM_ENTRY_IDX(scen->start + *entry_idx);
 956
 957         ice_memset(&buf, 0, sizeof(buf), ICE_NONDMA_MEM);
 958         for (i = 0; i < num_cscd; i++) {
 959                 /* If the key spans more than one TCAM in the case of cascaded
 960                  * TCAMs, the key and key inverts need to be properly split
 961                  * among TCAMs.E.g.bytes 0 - 4 go to an index in the first TCAM
 962                  * and bytes 5 - 9 go to the same index in the next TCAM, etc.
 963                  * If the entry spans more than one TCAM in a cascaded TCAM
 964                  * mode, the programming of the entries in the TCAMs must be in
 965                  * reversed order - the TCAM entry of the rightmost TCAM should
 966                  * be programmed first; the TCAM entry of the leftmost TCAM
 967                  * should be programmed last.
 968                  */
 969                 offset = num_cscd - i - 1;
 970                 ice_memcpy(&buf.entry_key.val,
 971                            &keys[offset * sizeof(buf.entry_key.val)],
 972                            sizeof(buf.entry_key.val), ICE_NONDMA_TO_NONDMA);
 973                 ice_memcpy(&buf.entry_key_invert.val,
 974                            &inverts[offset * sizeof(buf.entry_key_invert.val)],
 975                            sizeof(buf.entry_key_invert.val),
 976                            ICE_NONDMA_TO_NONDMA);
 977                 status = ice_aq_program_acl_entry(hw, entry_tcam + offset, idx,
 978                                                   &buf, NULL);
 979                 if (status) {
 980                         ice_debug(hw, ICE_DBG_ACL,
 981                                   "aq program acl entry failed status: %d\n",
 982                                   status);
 983                         goto out;
 984                 }
 985         }
 986
 987         /* Program the action memory */
 988         status = ice_acl_prog_act(hw, scen, acts, acts_cnt, *entry_idx);
 989
 990 out:
 991         if (status) {
 992                 ice_acl_rem_entry(hw, scen, *entry_idx);
 993                 *entry_idx = 0;
 994         }
 995
 996         return status;
 997 }
 998
 999 /**
1000  * ice_acl_prog_act - Program a scenario's action memory
1001  * @hw: pointer to the HW struct
1002  * @scen: scenario to add the entry to
1003  * @acts: pointer to a buffer containing formatted actions
1004  * @acts_cnt: indicates the number of actions stored in "acts"
1005  * @entry_idx: scenario relative index of the added flow entry
1006  *
1007  * Program a scenario's action memory
1008  */
1009 enum ice_status
1010 ice_acl_prog_act(struct ice_hw *hw, struct ice_acl_scen *scen,
1011                  struct ice_acl_act_entry *acts, u8 acts_cnt,
1012                  u16 entry_idx)
1013 {
1014         u8 entry_tcam, num_cscd, i, actx_idx = 0;
1015         struct ice_aqc_actpair act_buf;
1016         enum ice_status status = ICE_SUCCESS;
1017         u16 idx;
1018
1019         if (entry_idx >= scen->num_entry)
1020                 return ICE_ERR_MAX_LIMIT;
1021
1022         ice_memset(&act_buf, 0, sizeof(act_buf), ICE_NONDMA_MEM);
1023
1024         /* Determine number of cascaded TCAMs */
1025         num_cscd = DIVIDE_AND_ROUND_UP(scen->width,
1026                                        ICE_AQC_ACL_KEY_WIDTH_BYTES);
1027
1028         entry_tcam = ICE_ACL_TBL_TCAM_IDX(scen->start);
1029         idx = ICE_ACL_TBL_TCAM_ENTRY_IDX(scen->start + entry_idx);
1030
1031         i = ice_find_first_bit(scen->act_mem_bitmap,
1032                                ICE_AQC_MAX_ACTION_MEMORIES);
1033         while (i < ICE_AQC_MAX_ACTION_MEMORIES) {
1034                 struct ice_acl_act_mem *mem = &hw->acl_tbl->act_mems[i];
1035
1036                 if (actx_idx >= acts_cnt)
1037                         break;
1038                 if (mem->member_of_tcam >= entry_tcam &&
1039                     mem->member_of_tcam < entry_tcam + num_cscd) {
1040                         ice_memcpy(&act_buf.act[0], &acts[actx_idx],
1041                                    sizeof(struct ice_acl_act_entry),
1042                                    ICE_NONDMA_TO_NONDMA);
1043
1044                         if (++actx_idx < acts_cnt) {
1045                                 ice_memcpy(&act_buf.act[1], &acts[actx_idx],
1046                                            sizeof(struct ice_acl_act_entry),
1047                                            ICE_NONDMA_TO_NONDMA);
1048                         }
1049
1050                         status = ice_aq_program_actpair(hw, i, idx, &act_buf,
1051                                                         NULL);
1052                         if (status) {
1053                                 ice_debug(hw, ICE_DBG_ACL,
1054                                           "program actpair failed status: %d\n",
1055                                           status);
1056                                 break;
1057                         }
1058                         actx_idx++;
1059                 }
1060
1061                 i = ice_find_next_bit(scen->act_mem_bitmap,
1062                                       ICE_AQC_MAX_ACTION_MEMORIES, i + 1);
1063         }
1064
1065         if (!status && actx_idx < acts_cnt)
1066                 status = ICE_ERR_MAX_LIMIT;
1067
1068         return status;
1069 }
1070
1071 /**
1072  * ice_acl_rem_entry - Remove a flow entry from an ACL scenario
1073  * @hw: pointer to the HW struct
1074  * @scen: scenario to remove the entry from
1075  * @entry_idx: the scenario-relative index of the flow entry being removed
1076  */
1077 enum ice_status
1078 ice_acl_rem_entry(struct ice_hw *hw, struct ice_acl_scen *scen, u16 entry_idx)
1079 {
1080         struct ice_aqc_actpair act_buf;
1081         struct ice_aqc_acl_data buf;
1082         u8 entry_tcam, num_cscd, i;
1083         enum ice_status status = ICE_SUCCESS;
1084         u16 idx;
1085
1086         if (!scen)
1087                 return ICE_ERR_DOES_NOT_EXIST;
1088
1089         if (entry_idx >= scen->num_entry)
1090                 return ICE_ERR_MAX_LIMIT;
1091
1092         if (!ice_is_bit_set(scen->entry_bitmap, entry_idx))
1093                 return ICE_ERR_DOES_NOT_EXIST;
1094
1095         /* Determine number of cascaded TCAMs */
1096         num_cscd = DIVIDE_AND_ROUND_UP(scen->width,
1097                                        ICE_AQC_ACL_KEY_WIDTH_BYTES);
1098
1099         entry_tcam = ICE_ACL_TBL_TCAM_IDX(scen->start);
1100         idx = ICE_ACL_TBL_TCAM_ENTRY_IDX(scen->start + entry_idx);
1101
1102         /* invalidate the flow entry */
1103         ice_memset(&buf, 0, sizeof(buf), ICE_NONDMA_MEM);
1104         for (i = 0; i < num_cscd; i++) {
1105                 status = ice_aq_program_acl_entry(hw, entry_tcam + i, idx, &buf,
1106                                                   NULL);
1107                 if (status)
1108                         ice_debug(hw, ICE_DBG_ACL,
1109                                   "AQ program ACL entry failed status: %d\n",
1110                                   status);
1111         }
1112
1113         ice_memset(&act_buf, 0, sizeof(act_buf), ICE_NONDMA_MEM);
1114         i = ice_find_first_bit(scen->act_mem_bitmap,
1115                                ICE_AQC_MAX_ACTION_MEMORIES);
1116         while (i < ICE_AQC_MAX_ACTION_MEMORIES) {
1117                 struct ice_acl_act_mem *mem = &hw->acl_tbl->act_mems[i];
1118
1119                 if (mem->member_of_tcam >= entry_tcam &&
1120                     mem->member_of_tcam < entry_tcam + num_cscd) {
1121                         /* Invalidate allocated action pairs */
1122                         status = ice_aq_program_actpair(hw, i, idx, &act_buf,
1123                                                         NULL);
1124                         if (status)
1125                                 ice_debug(hw, ICE_DBG_ACL,
1126                                           "program actpair failed.status: %d\n",
1127                                           status);
1128                 }
1129
1130                 i = ice_find_next_bit(scen->act_mem_bitmap,
1131                                       ICE_AQC_MAX_ACTION_MEMORIES, i + 1);
1132         }
1133
1134         ice_acl_scen_free_entry_idx(scen, entry_idx);
1135
1136         return status;
1137 }
1138
1139 /**
1140  * ice_acl_destroy_scen - Destroy an ACL scenario
1141  * @hw: pointer to the HW struct
1142  * @scen_id: ID of the remove scenario
1143  */
1144 enum ice_status ice_acl_destroy_scen(struct ice_hw *hw, u16 scen_id)
1145 {
1146         struct ice_acl_scen *scen, *tmp_scen;
1147         struct ice_flow_prof *p, *tmp;
1148         enum ice_status status;
1149
1150         if (!hw->acl_tbl)
1151                 return ICE_ERR_DOES_NOT_EXIST;
1152
1153         /* Remove profiles that use "scen_id" scenario */
1154         LIST_FOR_EACH_ENTRY_SAFE(p, tmp, &hw->fl_profs[ICE_BLK_ACL],
1155                                  ice_flow_prof, l_entry)
1156                 if (p->cfg.scen && p->cfg.scen->id == scen_id) {
1157                         status = ice_flow_rem_prof(hw, ICE_BLK_ACL, p->id);
1158                         if (status) {
1159                                 ice_debug(hw, ICE_DBG_ACL,
1160                                           "ice_flow_rem_prof failed. status: %d\n",
1161                                           status);
1162                                 goto exit;
1163                         }
1164                 }
1165
1166         /* Call the AQ command to destroy the targeted scenario */
1167         status = ice_aq_dealloc_acl_scen(hw, scen_id, NULL);
1168
1169         if (status) {
1170                 ice_debug(hw, ICE_DBG_ACL,
1171                           "AQ de-allocation of scenario failed. status: %d\n",
1172                           status);
1173                 goto exit;
1174         }
1175
1176         /* Remove scenario from hw->acl_tbl->scens */
1177         LIST_FOR_EACH_ENTRY_SAFE(scen, tmp_scen, &hw->acl_tbl->scens,
1178                                  ice_acl_scen, list_entry)
1179                 if (scen->id == scen_id) {
1180                         LIST_DEL(&scen->list_entry);
1181                         ice_free(hw, scen);
1182                 }
1183 exit:
1184         return status;
1185 }