Debian Codegraph @

modules/lsp-dsp-lib/include/private/dsp/arch/arm/neon-d32/pmath/pow.h

raw
1 /*
2 * Copyright (C) 2020 Linux Studio Plugins Project <https://lsp-plug.in/>
3 * (C) 2020 Vladimir Sadovnikov <[email protected]>
4 *
5 * This file is part of lsp-dsp-lib
6 * Created on: 31 мар. 2020 г.
7 *
8 * lsp-dsp-lib is free software: you can redistribute it and/or modify
9 * it under the terms of the GNU Lesser General Public License as published by
10 * the Free Software Foundation, either version 3 of the License, or
11 * any later version.
12 *
13 * lsp-dsp-lib is distributed in the hope that it will be useful,
14 * but WITHOUT ANY WARRANTY; without even the implied warranty of
15 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
16 * GNU Lesser General Public License for more details.
17 *
18 * You should have received a copy of the GNU Lesser General Public License
19 * along with lsp-dsp-lib. If not, see <https://www.gnu.org/licenses/>.
20 */
21
22 #ifndef PRIVATE_DSP_ARCH_ARM_NEON_D32_PMATH_POW_H_
23 #define PRIVATE_DSP_ARCH_ARM_NEON_D32_PMATH_POW_H_
24
25 #ifndef PRIVATE_DSP_ARCH_ARM_NEON_D32_IMPL
26 #error "This header should not be included directly"
27 #endif /* PRIVATE_DSP_ARCH_ARM_NEON_D32_IMPL */
28
29 #include <private/dsp/arch/arm/neon-d32/pmath/exp.h>
30 #include <private/dsp/arch/arm/neon-d32/pmath/log.h>
31
32 namespace lsp
33 {
34 namespace neon_d32
35 {
36 void powcv2(float *dst, const float *v, float c, size_t count)
37 {
38 // float C = logf(c);
39 // for (size_t i=0; i<count; ++i)
40 // v[i] = expf(v[i] * C);
41 ARCH_ARM_ASM(
42 // log(c)
43 __ASM_EMIT("vldm %[LOGC], {q15}") // 2 * log2(E)
44 __ASM_EMIT("vdup.32 q0, %y[C]")
45 LOGN_CORE_X4
46 __ASM_EMIT("vmul.f32 q0, q0, q15") // q0 = 2*y*L*log2(E)
47 __ASM_EMIT("vadd.f32 q15, q0, q2") // q15 = 2*y*L*log2(E) + R = log(c)*log2(E)
48 __ASM_EMIT("subs %[count], #8")
49 __ASM_EMIT("blo 2f")
50 // x8 blocks
51 __ASM_EMIT("1:")
52 __ASM_EMIT("vld1.32 {q0-q1}, [%[src]]!")
53 __ASM_EMIT("vmul.f32 q0, q0, q15")
54 __ASM_EMIT("vmul.f32 q1, q1, q15")
55 POW2_CORE_X8
56 __ASM_EMIT("subs %[count], #8")
57 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
58 __ASM_EMIT("bhs 1b")
59 // x4 block
60 __ASM_EMIT("2:")
61 __ASM_EMIT("adds %[count], #4")
62 __ASM_EMIT("blt 4f")
63 __ASM_EMIT("vld1.32 {q0}, [%[src]]!")
64 __ASM_EMIT("vmul.f32 q0, q0, q15")
65 POW2_CORE_X4
66 __ASM_EMIT("sub %[count], #4")
67 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
68 // Tail: 1x-3x block
69 __ASM_EMIT("4:")
70 __ASM_EMIT("adds %[count], #4")
71 __ASM_EMIT("bls 12f")
72 __ASM_EMIT("tst %[count], #1")
73 __ASM_EMIT("beq 6f")
74 __ASM_EMIT("vld1.32 {d0[0]}, [%[src]]!")
75 __ASM_EMIT("6:")
76 __ASM_EMIT("tst %[count], #2")
77 __ASM_EMIT("beq 8f")
78 __ASM_EMIT("vld1.32 {d1}, [%[src]]")
79 __ASM_EMIT("8:")
80 __ASM_EMIT("vmul.f32 q0, q0, q15")
81 POW2_CORE_X4
82 __ASM_EMIT("tst %[count], #1")
83 __ASM_EMIT("beq 10f")
84 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
85 __ASM_EMIT("10:")
86 __ASM_EMIT("tst %[count], #2")
87 __ASM_EMIT("beq 12f")
88 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
89 // End
90 __ASM_EMIT("12:")
91
92 : [dst] "+r" (dst), [src] "+r" (v), [count] "+r" (count),
93 [C] "+t" (c)
94 : [L2C] "r" (&LOG2_CONST[0]),
95 [LOGC] "r" (&LOGB_C[0]),
96 [E2C] "r" (&EXP2_CONST[0])
97 : "cc", "memory",
98 "q1", "q2", "q3",
99 "q4", "q5", "q6", "q7",
100 "q8", "q9", "q10", "q11",
101 "q12", "q13", "q14", "q15"
102 );
103 }
104
105 void powcv1(float *dst, float c, size_t count)
106 {
107 // float C = logf(c);
108 // for (size_t i=0; i<count; ++i)
109 // v[i] = expf(v[i] * C);
110 ARCH_ARM_ASM(
111 // log(c)
112 __ASM_EMIT("vldm %[LOGC], {q15}")
113 __ASM_EMIT("vdup.32 q0, %y[C]")
114 LOGN_CORE_X4
115 __ASM_EMIT("vmul.f32 q0, q0, q15") // q0 = 2*y*L*log2(E)
116 __ASM_EMIT("vadd.f32 q15, q0, q2") // q15 = 2*y*L*log2(E) + R = log(c)*log2(E)
117 __ASM_EMIT("subs %[count], #8")
118 __ASM_EMIT("blo 2f")
119 // x8 blocks
120 __ASM_EMIT("1:")
121 __ASM_EMIT("vld1.32 {q0-q1}, [%[dst]]")
122 __ASM_EMIT("vmul.f32 q0, q0, q15")
123 __ASM_EMIT("vmul.f32 q1, q1, q15")
124 POW2_CORE_X8
125 __ASM_EMIT("subs %[count], #8")
126 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
127 __ASM_EMIT("bhs 1b")
128 // x4 block
129 __ASM_EMIT("2:")
130 __ASM_EMIT("adds %[count], #4")
131 __ASM_EMIT("blt 4f")
132 __ASM_EMIT("vld1.32 {q0}, [%[dst]]")
133 __ASM_EMIT("vmul.f32 q0, q0, q15")
134 POW2_CORE_X4
135 __ASM_EMIT("sub %[count], #4")
136 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
137 // Tail: 1x-3x block
138 __ASM_EMIT("4:")
139 __ASM_EMIT("adds %[count], #4")
140 __ASM_EMIT("bls 12f")
141 __ASM_EMIT("tst %[count], #1")
142 __ASM_EMIT("beq 6f")
143 __ASM_EMIT("vld1.32 {d0[0]}, [%[dst]]!")
144 __ASM_EMIT("6:")
145 __ASM_EMIT("tst %[count], #2")
146 __ASM_EMIT("beq 8f")
147 __ASM_EMIT("vld1.32 {d1}, [%[dst]]")
148 __ASM_EMIT("8:")
149 __ASM_EMIT("vmul.f32 q0, q0, q15")
150 POW2_CORE_X4
151 __ASM_EMIT("tst %[count], #1")
152 __ASM_EMIT("beq 10f")
153 __ASM_EMIT("sub %[dst], #0x04")
154 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
155 __ASM_EMIT("10:")
156 __ASM_EMIT("tst %[count], #2")
157 __ASM_EMIT("beq 12f")
158 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
159 // End
160 __ASM_EMIT("12:")
161
162 : [dst] "+r" (dst), [count] "+r" (count),
163 [C] "+t" (c)
164 : [L2C] "r" (&LOG2_CONST[0]),
165 [LOGC] "r" (&LOGB_C[0]),
166 [E2C] "r" (&EXP2_CONST[0])
167 : "cc", "memory",
168 "q1", "q2", "q3",
169 "q4", "q5", "q6", "q7",
170 "q8", "q9", "q10", "q11",
171 "q12", "q13", "q14", "q15"
172 );
173 }
174
175 void powvc2(float *dst, const float *c, float v, size_t count)
176 {
177 // for (size_t i=0; i<count; ++i)
178 // dst[i] = expf(v * logf(c[i]));
179 ARCH_ARM_ASM(
180 __ASM_EMIT("subs %[count], #8")
181 __ASM_EMIT("vldm %[LOGC], {q14}") // q14 = 2*log2(E)
182 __ASM_EMIT("vdup.32 q15, %y[V]") // q15 = v
183 __ASM_EMIT("blo 2f")
184 // x8 blocks
185 __ASM_EMIT("1:")
186 __ASM_EMIT("vld1.32 {q0-q1}, [%[src]]!")
187 LOGN_CORE_X8
188 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
189 __ASM_EMIT("vmla.f32 q3, q1, q14")
190 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
191 __ASM_EMIT("vmul.f32 q1, q3, q15")
192 POW2_CORE_X8
193 __ASM_EMIT("subs %[count], #8")
194 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
195 __ASM_EMIT("bhs 1b")
196 // x4 block
197 __ASM_EMIT("2:")
198 __ASM_EMIT("adds %[count], #4")
199 __ASM_EMIT("blt 4f")
200 __ASM_EMIT("vld1.32 {q0}, [%[src]]!")
201 LOGN_CORE_X4
202 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
203 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
204 POW2_CORE_X4
205 __ASM_EMIT("sub %[count], #4")
206 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
207 // Tail: 1x-3x block
208 __ASM_EMIT("4:")
209 __ASM_EMIT("adds %[count], #4")
210 __ASM_EMIT("bls 12f")
211 __ASM_EMIT("tst %[count], #1")
212 __ASM_EMIT("beq 6f")
213 __ASM_EMIT("vld1.32 {d0[0]}, [%[src]]!")
214 __ASM_EMIT("6:")
215 __ASM_EMIT("tst %[count], #2")
216 __ASM_EMIT("beq 8f")
217 __ASM_EMIT("vld1.32 {d1}, [%[src]]")
218 __ASM_EMIT("8:")
219 LOGN_CORE_X4
220 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
221 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
222 POW2_CORE_X4
223 __ASM_EMIT("tst %[count], #1")
224 __ASM_EMIT("beq 10f")
225 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
226 __ASM_EMIT("10:")
227 __ASM_EMIT("tst %[count], #2")
228 __ASM_EMIT("beq 12f")
229 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
230 // End
231 __ASM_EMIT("12:")
232
233 : [dst] "+r" (dst), [src] "+r" (c), [count] "+r" (count),
234 [V] "+t" (v)
235 : [L2C] "r" (&LOG2_CONST[0]),
236 [LOGC] "r" (&LOGB_C[0]),
237 [E2C] "r" (&EXP2_CONST[0])
238 : "cc", "memory",
239 "q1", "q2", "q3",
240 "q4", "q5", "q6", "q7",
241 "q8", "q9", "q10", "q11",
242 "q12", "q13", "q14", "q15"
243 );
244 }
245
246 void powvc1(float *c, float v, size_t count)
247 {
248 // for (size_t i=0; i<count; ++i)
249 // c[i] = expf(v * logf(c[i]));
250 ARCH_ARM_ASM(
251 __ASM_EMIT("subs %[count], #8")
252 __ASM_EMIT("vldm %[LOGC], {q14}") // q14 = 2*log2(E)
253 __ASM_EMIT("vdup.32 q15, %y[V]") // q15 = v
254 __ASM_EMIT("blo 2f")
255 // x8 blocks
256 __ASM_EMIT("1:")
257 __ASM_EMIT("vld1.32 {q0-q1}, [%[dst]]")
258 LOGN_CORE_X8
259 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
260 __ASM_EMIT("vmla.f32 q3, q1, q14")
261 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
262 __ASM_EMIT("vmul.f32 q1, q3, q15")
263 POW2_CORE_X8
264 __ASM_EMIT("subs %[count], #8")
265 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
266 __ASM_EMIT("bhs 1b")
267 // x4 block
268 __ASM_EMIT("2:")
269 __ASM_EMIT("adds %[count], #4")
270 __ASM_EMIT("blt 4f")
271 __ASM_EMIT("vld1.32 {q0}, [%[dst]]")
272 LOGN_CORE_X4
273 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
274 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
275 POW2_CORE_X4
276 __ASM_EMIT("sub %[count], #4")
277 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
278 // Tail: 1x-3x block
279 __ASM_EMIT("4:")
280 __ASM_EMIT("adds %[count], #4")
281 __ASM_EMIT("bls 12f")
282 __ASM_EMIT("tst %[count], #1")
283 __ASM_EMIT("beq 6f")
284 __ASM_EMIT("vld1.32 {d0[0]}, [%[dst]]!")
285 __ASM_EMIT("6:")
286 __ASM_EMIT("tst %[count], #2")
287 __ASM_EMIT("beq 8f")
288 __ASM_EMIT("vld1.32 {d1}, [%[dst]]")
289 __ASM_EMIT("8:")
290 LOGN_CORE_X4
291 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E) + R
292 __ASM_EMIT("vmul.f32 q0, q2, q15") // q0 = (2*y*L*log2(E) + R)*v = log(c[i])*log2(E)*v
293 POW2_CORE_X4
294 __ASM_EMIT("tst %[count], #1")
295 __ASM_EMIT("beq 10f")
296 __ASM_EMIT("sub %[dst], #0x04")
297 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
298 __ASM_EMIT("10:")
299 __ASM_EMIT("tst %[count], #2")
300 __ASM_EMIT("beq 12f")
301 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
302 // End
303 __ASM_EMIT("12:")
304
305 : [dst] "+r" (c), [count] "+r" (count),
306 [V] "+t" (v)
307 : [L2C] "r" (&LOG2_CONST[0]),
308 [LOGC] "r" (&LOGB_C[0]),
309 [E2C] "r" (&EXP2_CONST[0])
310 : "cc", "memory",
311 "q1", "q2", "q3",
312 "q4", "q5", "q6", "q7",
313 "q8", "q9", "q10", "q11",
314 "q12", "q13", "q14", "q15"
315 );
316 }
317
318 void powvx2(float *dst, const float *v, const float *x, size_t count)
319 {
320 // for (size_t i=0; i<count; ++i)
321 // dst[i] = expf(x[i] * logf(v[i]));
322 ARCH_ARM_ASM(
323 __ASM_EMIT("subs %[count], #8")
324 __ASM_EMIT("vldm %[LOGC], {q14}")
325 __ASM_EMIT("blo 2f")
326 // x8 blocks
327 __ASM_EMIT("1:")
328 __ASM_EMIT("vld1.32 {q0-q1}, [%[src]]!")
329 LOGN_CORE_X8
330 __ASM_EMIT("vld1.32 {q4-q5}, [%[x]]!")
331 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
332 __ASM_EMIT("vmla.f32 q3, q1, q14")
333 __ASM_EMIT("vmul.f32 q0, q2, q4") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
334 __ASM_EMIT("vmul.f32 q1, q3, q5")
335 POW2_CORE_X8
336 __ASM_EMIT("subs %[count], #8")
337 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
338 __ASM_EMIT("bhs 1b")
339 // x4 block
340 __ASM_EMIT("2:")
341 __ASM_EMIT("adds %[count], #4")
342 __ASM_EMIT("blt 4f")
343 __ASM_EMIT("vld1.32 {q0}, [%[src]]!")
344 LOGN_CORE_X4
345 __ASM_EMIT("vld1.32 {q4}, [%[x]]!")
346 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
347 __ASM_EMIT("vmul.f32 q0, q2, q4") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
348 POW2_CORE_X4
349 __ASM_EMIT("sub %[count], #4")
350 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
351 // Tail: 1x-3x block
352 __ASM_EMIT("4:")
353 __ASM_EMIT("adds %[count], #4")
354 __ASM_EMIT("bls 12f")
355 __ASM_EMIT("tst %[count], #1")
356 __ASM_EMIT("beq 6f")
357 __ASM_EMIT("vld1.32 {d0[0]}, [%[src]]!")
358 __ASM_EMIT("vld1.32 {d2[0]}, [%[x]]!")
359 __ASM_EMIT("6:")
360 __ASM_EMIT("tst %[count], #2")
361 __ASM_EMIT("beq 8f")
362 __ASM_EMIT("vld1.32 {d1}, [%[src]]")
363 __ASM_EMIT("vld1.32 {d3}, [%[x]]")
364 __ASM_EMIT("8:")
365 LOGN_CORE_X4
366 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
367 __ASM_EMIT("vmul.f32 q0, q2, q1") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
368 POW2_CORE_X4
369 __ASM_EMIT("tst %[count], #1")
370 __ASM_EMIT("beq 10f")
371 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
372 __ASM_EMIT("10:")
373 __ASM_EMIT("tst %[count], #2")
374 __ASM_EMIT("beq 12f")
375 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
376 // End
377 __ASM_EMIT("12:")
378
379 : [dst] "+r" (dst), [src] "+r" (v), [x] "+r" (x), [count] "+r" (count)
380 : [L2C] "r" (&LOG2_CONST[0]),
381 [LOGC] "r" (&LOGB_C[0]),
382 [E2C] "r" (&EXP2_CONST[0])
383 : "cc", "memory",
384 "q0", "q1", "q2", "q3",
385 "q4", "q5", "q6", "q7",
386 "q8", "q9", "q10", "q11",
387 "q12", "q13", "q14", "q15"
388 );
389 }
390
391 void powvx1(float *v, const float *x, size_t count)
392 {
393 // for (size_t i=0; i<count; ++i)
394 // dst[i] = expf(x[i] * logf(v[i]));
395 ARCH_ARM_ASM(
396 __ASM_EMIT("subs %[count], #8")
397 __ASM_EMIT("vldm %[LOGC], {q14}")
398 __ASM_EMIT("blo 2f")
399 // x8 blocks
400 __ASM_EMIT("1:")
401 __ASM_EMIT("vld1.32 {q0-q1}, [%[dst]]")
402 LOGN_CORE_X8
403 __ASM_EMIT("vld1.32 {q4-q5}, [%[x]]!")
404 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
405 __ASM_EMIT("vmla.f32 q3, q1, q14")
406 __ASM_EMIT("vmul.f32 q0, q2, q4") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
407 __ASM_EMIT("vmul.f32 q1, q3, q5")
408 POW2_CORE_X8
409 __ASM_EMIT("subs %[count], #8")
410 __ASM_EMIT("vst1.32 {q0-q1}, [%[dst]]!")
411 __ASM_EMIT("bhs 1b")
412 // x4 block
413 __ASM_EMIT("2:")
414 __ASM_EMIT("adds %[count], #4")
415 __ASM_EMIT("blt 4f")
416 __ASM_EMIT("vld1.32 {q0}, [%[dst]]")
417 LOGN_CORE_X4
418 __ASM_EMIT("vld1.32 {q4}, [%[x]]!")
419 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
420 __ASM_EMIT("vmul.f32 q0, q2, q4") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
421 POW2_CORE_X4
422 __ASM_EMIT("sub %[count], #4")
423 __ASM_EMIT("vst1.32 {q0}, [%[dst]]!")
424 // Tail: 1x-3x block
425 __ASM_EMIT("4:")
426 __ASM_EMIT("adds %[count], #4")
427 __ASM_EMIT("bls 12f")
428 __ASM_EMIT("tst %[count], #1")
429 __ASM_EMIT("beq 6f")
430 __ASM_EMIT("vld1.32 {d0[0]}, [%[dst]]!")
431 __ASM_EMIT("vld1.32 {d2[0]}, [%[x]]!")
432 __ASM_EMIT("6:")
433 __ASM_EMIT("tst %[count], #2")
434 __ASM_EMIT("beq 8f")
435 __ASM_EMIT("vld1.32 {d1}, [%[dst]]")
436 __ASM_EMIT("vld1.32 {d3}, [%[x]]")
437 __ASM_EMIT("8:")
438 LOGN_CORE_X4
439 __ASM_EMIT("vmla.f32 q2, q0, q14") // q2 = 2*y*L*log2(E)+R
440 __ASM_EMIT("vmul.f32 q0, q2, q1") // q0 = (2*y*L*log2(E)+R)*x = log(v[i])*log2(E) * x
441 POW2_CORE_X4
442 __ASM_EMIT("tst %[count], #1")
443 __ASM_EMIT("beq 10f")
444 __ASM_EMIT("sub %[dst], #0x04")
445 __ASM_EMIT("vst1.32 {d0[0]}, [%[dst]]!")
446 __ASM_EMIT("10:")
447 __ASM_EMIT("tst %[count], #2")
448 __ASM_EMIT("beq 12f")
449 __ASM_EMIT("vst1.32 {d1}, [%[dst]]")
450 // End
451 __ASM_EMIT("12:")
452
453 : [dst] "+r" (v), [x] "+r" (x), [count] "+r" (count)
454 : [L2C] "r" (&LOG2_CONST[0]),
455 [LOGC] "r" (&LOGB_C[0]),
456 [E2C] "r" (&EXP2_CONST[0])
457 : "cc", "memory",
458 "q0", "q1", "q2", "q3",
459 "q4", "q5", "q6", "q7",
460 "q8", "q9", "q10", "q11",
461 "q12", "q13", "q14", "q15"
462 );
463 }
464 }
465 }
466
467 #endif /* PRIVATE_DSP_ARCH_ARM_NEON_D32_PMATH_POW_H_ */