Debian Codegraph @

src/libmpg123/dct64_neon.S

raw
1 /*
2 dct64_neon: ARM NEON optimized dct64
3
4 copyright 1995-2010 by the mpg123 project - free software under the terms of the LGPL 2.1
5 see COPYING and AUTHORS files in distribution or http://mpg123.org
6 initially written by Taihei Monma
7 */
8
9 #include "mangle.h"
10
11 #ifndef _M_ARM
12 .code 32
13 #endif
14 #ifndef __APPLE__
15 .fpu neon
16 #endif
17
18 .text
19 ALIGN16
20 costab_arm:
21 .word 1056974725
22 .word 1057056395
23 .word 1057223771
24 .word 1057485416
25 .word 1057855544
26 .word 1058356026
27 .word 1059019886
28 .word 1059897405
29 .word 1061067246
30 .word 1062657950
31 .word 1064892987
32 .word 1066774581
33 .word 1069414683
34 .word 1073984175
35 .word 1079645762
36 .word 1092815430
37 .word 1057005197
38 .word 1057342072
39 .word 1058087743
40 .word 1059427869
41 .word 1061799040
42 .word 1065862217
43 .word 1071413542
44 .word 1084439708
45 .word 1057128951
46 .word 1058664893
47 .word 1063675095
48 .word 1076102863
49 .word 1057655764
50 .word 1067924853
51 .word 1060439283
52 .word 1060439283
53 ALIGN4
54 GLOBAL_SYMBOL ASM_NAME(INT123_dct64_neon)
55 #ifdef __ELF__
56 .type ASM_NAME(INT123_dct64_neon), %function
57 #endif
58 ASM_NAME(INT123_dct64_neon):
59 vpush {q4-q7}
60
61 adr r3, costab_arm
62 vld1.32 {q0, q1}, [r2]!
63 vld1.32 {q2, q3}, [r2]!
64 vld1.32 {q4, q5}, [r2]!
65 vld1.32 {q6, q7}, [r2]
66 vld1.32 {q12, q13}, [r3, :128]!
67 vld1.32 {q14, q15}, [r3, :128]!
68
69 vrev64.32 q4, q4
70 vrev64.32 q5, q5
71 vrev64.32 q6, q6
72 vrev64.32 q7, q7
73 vswp d8, d9
74 vswp d10, d11
75 vswp d12, d13
76 vswp d14, d15
77
78 vsub.f32 q8, q0, q7
79 vsub.f32 q9, q1, q6
80 vsub.f32 q10, q2, q5
81 vsub.f32 q11, q3, q4
82 vadd.f32 q0, q0, q7
83 vadd.f32 q1, q1, q6
84 vadd.f32 q2, q2, q5
85 vadd.f32 q3, q3, q4
86 vmul.f32 q4, q8, q12
87 vmul.f32 q5, q9, q13
88 vmul.f32 q6, q10, q14
89 vmul.f32 q7, q11, q15
90
91 vld1.32 {q12, q13}, [r3, :128]!
92 vld1.32 {q14, q15}, [r3, :128]
93
94 vrev64.32 q2, q2
95 vrev64.32 q3, q3
96 vrev64.32 q6, q6
97 vrev64.32 q7, q7
98 vswp d4, d5
99 vswp d6, d7
100 vswp d12, d13
101 vswp d14, d15
102
103 vsub.f32 q8, q0, q3
104 vsub.f32 q9, q1, q2
105 vsub.f32 q10, q4, q7
106 vsub.f32 q11, q5, q6
107 vadd.f32 q0, q0, q3
108 vadd.f32 q1, q1, q2
109 vadd.f32 q4, q4, q7
110 vadd.f32 q5, q5, q6
111 vmul.f32 q2, q8, q12
112 vmul.f32 q3, q9, q13
113 vmul.f32 q6, q10, q12
114 vmul.f32 q7, q11, q13
115
116 vrev64.32 q1, q1
117 vrev64.32 q3, q3
118 vrev64.32 q5, q5
119 vrev64.32 q7, q7
120 vswp d2, d3
121 vswp d6, d7
122 vswp d10, d11
123 vswp d14, d15
124
125 vsub.f32 q8, q0, q1
126 vsub.f32 q9, q2, q3
127 vsub.f32 q10, q4, q5
128 vsub.f32 q11, q6, q7
129 vadd.f32 q0, q0, q1
130 vadd.f32 q2, q2, q3
131 vadd.f32 q4, q4, q5
132 vadd.f32 q6, q6, q7
133 vmul.f32 q1, q8, q14
134 vmul.f32 q3, q9, q14
135 vmul.f32 q5, q10, q14
136 vmul.f32 q7, q11, q14
137
138 vdup.32 q12, d31[0]
139 vmov d31, d30
140
141 vswp d1, d2
142 vswp d5, d6
143 vswp d9, d10
144 vswp d13, d14
145 vrev64.32 q1, q1
146 vrev64.32 q3, q3
147 vrev64.32 q5, q5
148 vrev64.32 q7, q7
149
150 vsub.f32 q8, q0, q1
151 vsub.f32 q9, q2, q3
152 vsub.f32 q10, q4, q5
153 vsub.f32 q11, q6, q7
154 vadd.f32 q0, q0, q1
155 vadd.f32 q2, q2, q3
156 vadd.f32 q4, q4, q5
157 vadd.f32 q6, q6, q7
158 vmul.f32 q1, q8, q15
159 vmul.f32 q3, q9, q15
160 vmul.f32 q5, q10, q15
161 vmul.f32 q7, q11, q15
162
163 vtrn.32 q0, q1
164 vtrn.32 q2, q3
165 vtrn.32 q4, q5
166 vtrn.32 q6, q7
167
168 vsub.f32 q8, q0, q1
169 vsub.f32 q9, q2, q3
170 vsub.f32 q10, q4, q5
171 vsub.f32 q11, q6, q7
172 vadd.f32 q0, q0, q1
173 vadd.f32 q2, q2, q3
174 vadd.f32 q4, q4, q5
175 vadd.f32 q6, q6, q7
176 vmul.f32 q1, q8, q12
177 vmul.f32 q3, q9, q12
178 vmul.f32 q5, q10, q12
179 vmul.f32 q7, q11, q12
180
181 vtrn.32 q0, q1
182 vtrn.32 q2, q3
183 vtrn.32 q4, q5
184 vtrn.32 q6, q7
185 vswp d1, d2
186 vswp d5, d6
187 vswp d9, d10
188 vswp d13, d14
189
190 vshr.u64 d16, d1, #32
191 vshr.u64 d17, d3, #32
192 vshr.u64 d18, d5, #32
193 vshr.u64 d19, d7, #32
194 vadd.f32 d1, d1, d16
195 vadd.f32 d3, d3, d17
196 vadd.f32 d5, d5, d18
197 vadd.f32 d7, d7, d19
198 vshr.u64 d20, d9, #32
199 vshr.u64 d21, d11, #32
200 vshr.u64 d22, d13, #32
201 vshr.u64 d23, d15, #32
202 vadd.f32 d9, d9, d20
203 vadd.f32 d11, d11, d21
204 vadd.f32 d13, d13, d22
205 vadd.f32 d15, d15, d23
206
207 vshr.u64 d16, d2, #32
208 vshr.u64 d18, d6, #32
209 vshr.u64 d20, d10, #32
210 vshr.u64 d22, d14, #32
211 vext.8 q8, q1, q8, #8
212 vext.8 q9, q3, q9, #8
213 vext.8 q10, q5, q10, #8
214 vext.8 q11, q7, q11, #8
215 vadd.f32 q1, q1, q8
216 vadd.f32 q3, q3, q9
217 vadd.f32 q5, q5, q10
218 vadd.f32 q7, q7, q11
219
220 vshr.u64 d16, d4, #32
221 vshr.u64 d18, d12, #32
222 vext.8 q8, q2, q8, #8
223 vext.8 q9, q6, q9, #8
224 vadd.f32 q2, q2, q3
225 vadd.f32 q6, q6, q7
226 vadd.f32 q3, q3, q8
227 vadd.f32 q7, q7, q9
228
229 vrev64.32 q8, q4
230 vshr.u64 d19, d9, #32
231 vext.8 d17, d17, d16, #4
232 vswp d9, d10
233 vswp d13, d14
234 vtrn.32 q4, q5
235 vtrn.32 q6, q7
236 vmov d16, d9
237 vmov d18, d11
238
239 vadd.f32 q4, q6
240 vadd.f32 q5, q7
241 vadd.f32 q6, q8
242 vadd.f32 q7, q9
243
244 vmov.i32 q8, #0x4b000000
245 vorr.i32 q8, #0x00400000
246 vadd.f32 q0, q0, q8
247 vadd.f32 q1, q1, q8
248 vadd.f32 q2, q2, q8
249 vadd.f32 q3, q3, q8
250 vadd.f32 q4, q4, q8
251 vadd.f32 q5, q5, q8
252 vadd.f32 q6, q6, q8
253 vadd.f32 q7, q7, q8
254 vshl.i32 q0, q0, #10
255 vshl.i32 q1, q1, #10
256 vshl.i32 q2, q2, #10
257 vshl.i32 q3, q3, #10
258 vshl.i32 q4, q4, #10
259 vshl.i32 q5, q5, #10
260 vshl.i32 q6, q6, #10
261 vshl.i32 q7, q7, #10
262 vqshrn.s32 d0, q0, #10
263 vqshrn.s32 d2, q1, #10
264 vqshrn.s32 d4, q2, #10
265 vqshrn.s32 d6, q3, #10
266 vqshrn.s32 d8, q4, #10
267 vqshrn.s32 d10, q5, #10
268 vqshrn.s32 d12, q6, #10
269 vqshrn.s32 d14, q7, #10
270
271 mov r3, #32
272 vst1.16 {d0[1]}, [r0, :16], r3
273 vst1.16 {d12[3]}, [r0, :16], r3
274 vst1.16 {d6[2]}, [r0, :16], r3
275 vst1.16 {d8[3]}, [r0, :16], r3
276 vst1.16 {d2[2]}, [r0, :16], r3
277 vst1.16 {d12[1]}, [r0, :16], r3
278 vst1.16 {d4[2]}, [r0, :16], r3
279 vst1.16 {d8[1]}, [r0, :16], r3
280 vst1.16 {d0[2]}, [r0, :16], r3
281 vst1.16 {d12[2]}, [r0, :16], r3
282 vst1.16 {d6[0]}, [r0, :16], r3
283 vst1.16 {d8[2]}, [r0, :16], r3
284 vst1.16 {d2[0]}, [r0, :16], r3
285 vst1.16 {d12[0]}, [r0, :16], r3
286 vst1.16 {d4[0]}, [r0, :16], r3
287 vst1.16 {d8[0]}, [r0, :16], r3
288 vst1.16 {d0[0]}, [r0, :16]
289
290 vst1.16 {d0[1]}, [r1, :16], r3
291 vst1.16 {d10[0]}, [r1, :16], r3
292 vst1.16 {d4[1]}, [r1, :16], r3
293 vst1.16 {d14[0]}, [r1, :16], r3
294 vst1.16 {d2[1]}, [r1, :16], r3
295 vst1.16 {d10[2]}, [r1, :16], r3
296 vst1.16 {d6[1]}, [r1, :16], r3
297 vst1.16 {d14[2]}, [r1, :16], r3
298 vst1.16 {d0[3]}, [r1, :16], r3
299 vst1.16 {d10[1]}, [r1, :16], r3
300 vst1.16 {d4[3]}, [r1, :16], r3
301 vst1.16 {d14[1]}, [r1, :16], r3
302 vst1.16 {d2[3]}, [r1, :16], r3
303 vst1.16 {d10[3]}, [r1, :16], r3
304 vst1.16 {d6[3]}, [r1, :16], r3
305 vst1.16 {d14[3]}, [r1, :16]
306
307 vpop {q4-q7}
308 bx lr
309
310 NONEXEC_STACK