/*
* Copyright (C) 2020 Linux Studio Plugins Project
* (C) 2020 Vladimir Sadovnikov
*
* This file is part of lsp-dsp-lib
* Created on: 31 мар. 2020 г.
*
* lsp-dsp-lib is free software: you can redistribute it and/or modify
* it under the terms of the GNU Lesser General Public License as published by
* the Free Software Foundation, either version 3 of the License, or
* any later version.
*
* lsp-dsp-lib is distributed in the hope that it will be useful,
* but WITHOUT ANY WARRANTY; without even the implied warranty of
* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
* GNU Lesser General Public License for more details.
*
* You should have received a copy of the GNU Lesser General Public License
* along with lsp-dsp-lib. If not, see .
*/
#ifndef PRIVATE_DSP_ARCH_X86_SSE2_GRAPHICS_AXIS_H_
#define PRIVATE_DSP_ARCH_X86_SSE2_GRAPHICS_AXIS_H_
#ifndef PRIVATE_DSP_ARCH_X86_SSE2_IMPL
#error "This header should not be included directly"
#endif /* PRIVATE_DSP_ARCH_X86_SSE2_IMPL */
namespace lsp
{
namespace sse2
{
IF_ARCH_X86(
static const uint32_t LOG_IARGS[] __lsp_aligned16 =
{
LSP_DSP_VEC4(0x7fffffff), // X_SIGN
LSP_DSP_VEC4(0x322bcc77), // X_AMP = 1e-8
LSP_DSP_VEC4(0x007fffff), // X_MANT
LSP_DSP_VEC4(0x0000007f), // X_MMASK
LSP_DSP_VEC4(0x3f000000), // X_HALF = 0.5
LSP_DSP_VEC4(0x3f3504f3), // SQRT1_2
LSP_DSP_VEC4(0x3f800000), // ONE
LSP_DSP_VEC4(0x3d9021bb), // C0
LSP_DSP_VEC4(0xbdebd1b8), // C1
LSP_DSP_VEC4(0x3def251a), // C2
LSP_DSP_VEC4(0xbdfe5d4f), // C3
LSP_DSP_VEC4(0x3e11e9bf), // C4
LSP_DSP_VEC4(0xbe2aae50), // C5
LSP_DSP_VEC4(0x3e4cceac), // C6
LSP_DSP_VEC4(0xbe7ffffc), // C7
LSP_DSP_VEC4(0x3eaaaaaa), // C8
LSP_DSP_VEC4(0xbf000000), // C9
LSP_DSP_VEC4(0x3f316430) // LXE + LN2
};
)
void axis_apply_log1(float *x, const float *v, float zero, float norm_x, size_t count)
{
//---------------------------------------------------------------
// Prepare constants
ARCH_X86_ASM
(
__ASM_EMIT("movss %[zero], %%xmm0")
__ASM_EMIT("movss %[norm_x], %%xmm1")
__ASM_EMIT("sub $4, %[count]")
__ASM_EMIT("jb 2f")
__ASM_EMIT("shufps $0x00, %%xmm0, %%xmm0") // xmm0 == zero
__ASM_EMIT("shufps $0x00, %%xmm1, %%xmm1") // xmm1 == norm_x
// Do x4 blocks
__ASM_EMIT("1:")
__ASM_EMIT("movups (%[v]), %%xmm3") // xmm3 = v
__ASM_EMIT("andps 0x00(%[ILOG]), %%xmm3") // xmm3 = abs(v)
__ASM_EMIT("add $0x10, %[v]") // v += 4
__ASM_EMIT("maxps 0x10(%[ILOG]), %%xmm3") // xmm3 = max(X_AMP, abs(v)), ignores denormalized values
__ASM_EMIT("mulps %%xmm0, %%xmm3") // xmm3 = max(X_AMP, abs(v)) * zero
// Step 2: parse float value
__ASM_EMIT("movdqa %%xmm3, %%xmm4") // xmm4 = v
__ASM_EMIT("psrld $23, %%xmm4") // xmm4 = frac(v)
__ASM_EMIT("andps 0x20(%[ILOG]), %%xmm3") // xmm3 = mant(v)
__ASM_EMIT("psubd 0x30(%[ILOG]), %%xmm4") // xmm4 = frac(v) - 127
__ASM_EMIT("orps 0x40(%[ILOG]), %%xmm3") // xmm3 = V = mant(v)+0.5
__ASM_EMIT("cvtdq2ps %%xmm4, %%xmm4") // xmm4 = E = float(frac(v)-127)
// Prepare logarithm approximation calculations
__ASM_EMIT("movaps %%xmm3, %%xmm5") // xmm5 = V
__ASM_EMIT("movaps %%xmm3, %%xmm6") // xmm6 = V
__ASM_EMIT("cmpltps 0x50(%[ILOG]), %%xmm5") // xmm5 = [ V < sqrt(1/2) ]
__ASM_EMIT("movaps 0x60(%[ILOG]), %%xmm7") // xmm7 = 1.0
__ASM_EMIT("andps %%xmm5, %%xmm6") // xmm6 = V * [ V < sqrt(1/2) ]
__ASM_EMIT("addps %%xmm6, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ]
__ASM_EMIT("andnps %%xmm7, %%xmm5") // xmm5 = 1.0 * [ V >= sqrt(1/2) ]
__ASM_EMIT("addps %%xmm5, %%xmm4") // xmm4 = E + 1.0 * [ V >= sqrt(1/2) ] = B
__ASM_EMIT("subps %%xmm7, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ] - 1.0 = A
// Calculate logarithmic values
__ASM_EMIT("movaps 0x70(%[ILOG]), %%xmm5") // xmm5 = L0
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = L0*A
__ASM_EMIT("addps 0x80(%[ILOG]), %%xmm5") // xmm5 = L1+L0*A
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L1+L0*A)
__ASM_EMIT("addps 0x90(%[ILOG]), %%xmm5") // xmm5 = L2+A*(L1+L0*A)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L2+A*(L1+L0*A))
__ASM_EMIT("addps 0xa0(%[ILOG]), %%xmm5") // xmm5 = L3+A*L2+A*(L1+L0*A)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("addps 0xb0(%[ILOG]), %%xmm5") // xmm5 = L4+A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("addps 0xc0(%[ILOG]), %%xmm5") // xmm5 = L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("addps 0xd0(%[ILOG]), %%xmm5") // xmm5 = L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("addps 0xe0(%[ILOG]), %%xmm5") // xmm5 = L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("addps 0xf0(%[ILOG]), %%xmm5") // xmm5 = L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addps 0x100(%[ILOG]), %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulps 0x110(%[ILOG]), %%xmm4") // xmm4 = B*(LXE + LN2)
__ASM_EMIT("addps %%xmm4, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addps %%xmm3, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + A
// Apply values to axes
__ASM_EMIT("movaps %%xmm5, %%xmm3") // xmm3 = log(abs(v*zero)), xmm5=log(abs(v*zero))
__ASM_EMIT("movups (%[x]), %%xmm4") // xmm4 = x
__ASM_EMIT("mulps %%xmm1, %%xmm3") // xmm3 = log(abs(v*zero)) * norm_x
__ASM_EMIT("addps %%xmm3, %%xmm4") // xmm4 = x + log(abs(v*zero)) * norm_x
__ASM_EMIT("movups %%xmm4, (%[x])")
__ASM_EMIT("add $0x10, %[x]")
__ASM_EMIT("sub $4, %[count]")
__ASM_EMIT("jae 1b")
__ASM_EMIT("2:")
__ASM_EMIT("add $3, %[count]")
__ASM_EMIT("jl 4f")
// Do x1 blocks
__ASM_EMIT("3:")
__ASM_EMIT("movss (%[v]), %%xmm3") // xmm3 = v
__ASM_EMIT("andps 0x00(%[ILOG]), %%xmm3") // xmm3 = abs(v)
__ASM_EMIT("add $0x04, %[v]") // v += 4
__ASM_EMIT("maxps 0x10(%[ILOG]), %%xmm3") // xmm3 = max(X_AMP, abs(v)), ignores denormalized values
__ASM_EMIT("mulps %%xmm0, %%xmm3") // xmm5 = max(X_AMP, abs(v)) * zero
// Step 2: parse float value
__ASM_EMIT("movdqa %%xmm3, %%xmm4") // xmm4 = v
__ASM_EMIT("psrld $23, %%xmm4") // xmm4 = frac(v)
__ASM_EMIT("andps 0x20(%[ILOG]), %%xmm3") // xmm3 = mant(v)
__ASM_EMIT("psubd 0x30(%[ILOG]), %%xmm4") // xmm4 = frac(v) - 127
__ASM_EMIT("orps 0x40(%[ILOG]), %%xmm3") // xmm3 = V = mant(v)+0.5
__ASM_EMIT("cvtdq2ps %%xmm4, %%xmm4") // xmm4 = E = float(frac(v)-127)
// Prepare logarithm approximation calculations
__ASM_EMIT("movaps %%xmm3, %%xmm5") // xmm5 = V
__ASM_EMIT("movaps %%xmm3, %%xmm6") // xmm6 = V
__ASM_EMIT("cmpltps 0x50(%[ILOG]), %%xmm5") // xmm5 = [ V < sqrt(1/2) ]
__ASM_EMIT("movaps 0x60(%[ILOG]), %%xmm7") // xmm7 = 1.0
__ASM_EMIT("andps %%xmm5, %%xmm6") // xmm6 = V * [ V < sqrt(1/2) ]
__ASM_EMIT("addps %%xmm6, %%xmm3") // xmm6 = V + V * [ V < sqrt(1/2) ]
__ASM_EMIT("andnps %%xmm7, %%xmm5") // xmm5 = 1.0 * [ V >= sqrt(1/2) ]
__ASM_EMIT("addps %%xmm5, %%xmm4") // xmm4 = E + 1.0 * [ V >= sqrt(1/2) ] = B
__ASM_EMIT("subps %%xmm7, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ] - 1.0 = A
// Calculate logarithmic values
__ASM_EMIT("movaps 0x70(%[ILOG]), %%xmm5") // xmm5 = L0
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = L0*A
__ASM_EMIT("addss 0x80(%[ILOG]), %%xmm5") // xmm5 = L1+L0*A
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L1+L0*A)
__ASM_EMIT("addss 0x90(%[ILOG]), %%xmm5") // xmm5 = L2+A*(L1+L0*A)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L2+A*(L1+L0*A))
__ASM_EMIT("addss 0xa0(%[ILOG]), %%xmm5") // xmm5 = L3+A*L2+A*(L1+L0*A)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("addss 0xb0(%[ILOG]), %%xmm5") // xmm5 = L4+A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("addss 0xc0(%[ILOG]), %%xmm5") // xmm5 = L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("addss 0xd0(%[ILOG]), %%xmm5") // xmm5 = L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("addss 0xe0(%[ILOG]), %%xmm5") // xmm5 = L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("addss 0xf0(%[ILOG]), %%xmm5") // xmm5 = L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addss 0x100(%[ILOG]), %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulss 0x110(%[ILOG]), %%xmm4") // xmm4 = B*(LXE + LN2)
__ASM_EMIT("addss %%xmm4, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addss %%xmm3, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + A
// Apply values to axes
__ASM_EMIT("movaps %%xmm5, %%xmm3") // xmm3 = log(abs(v*zero)), xmm5=log(abs(v*zero))
__ASM_EMIT("movss (%[x]), %%xmm4") // xmm4 = x
__ASM_EMIT("mulps %%xmm1, %%xmm3") // xmm3 = log(abs(v*zero)) * norm_x
__ASM_EMIT("addps %%xmm3, %%xmm4") // xmm4 = x + log(abs(v*zero)) * norm_x
__ASM_EMIT("movss %%xmm4, (%[x])")
__ASM_EMIT("add $0x04, %[x]")
__ASM_EMIT("dec %[count]")
__ASM_EMIT("jge 3b")
__ASM_EMIT("4:")
: [v] "+r" (v), [x] "+r" (x), [count] "+r" (count)
: [zero] "m" (zero), [norm_x] "m" (norm_x),
[ILOG] "r" (LOG_IARGS)
: "%xmm0", "%xmm1", "%xmm2", "%xmm3",
"%xmm4", "%xmm5", "%xmm6", "%xmm7"
);
}
void axis_apply_log2(float *x, float *y, const float *v, float zero, float norm_x, float norm_y, size_t count)
{
//---------------------------------------------------------------
// Prepare constants
ARCH_X86_ASM
(
__ASM_EMIT("movss %[zero], %%xmm0")
__ASM_EMIT("movss %[norm_x], %%xmm1")
__ASM_EMIT("movss %[norm_y], %%xmm2")
__ASM_EMIT("sub $4, %[count]")
__ASM_EMIT("jb 2f")
__ASM_EMIT("shufps $0x00, %%xmm0, %%xmm0") // xmm0 == zero
__ASM_EMIT("shufps $0x00, %%xmm1, %%xmm1") // xmm1 == norm_x
__ASM_EMIT("shufps $0x00, %%xmm2, %%xmm2") // xmm2 == norm_y
// Do x4 blocks
__ASM_EMIT("1:")
__ASM_EMIT("movups (%[v]), %%xmm3") // xmm3 = v
__ASM_EMIT("andps 0x00(%[ILOG]), %%xmm3") // xmm3 = abs(v)
__ASM_EMIT("add $0x10, %[v]") // v += 4
__ASM_EMIT("maxps 0x10(%[ILOG]), %%xmm3") // xmm3 = max(X_AMP, abs(v)), ignores denormalized values
__ASM_EMIT("mulps %%xmm0, %%xmm3") // xmm3 = max(X_AMP, abs(v)) * zero
// Step 2: parse float value
__ASM_EMIT("movdqa %%xmm3, %%xmm4") // xmm4 = v
__ASM_EMIT("psrld $23, %%xmm4") // xmm4 = frac(v)
__ASM_EMIT("andps 0x20(%[ILOG]), %%xmm3") // xmm3 = mant(v)
__ASM_EMIT("psubd 0x30(%[ILOG]), %%xmm4") // xmm4 = frac(v) - 127
__ASM_EMIT("orps 0x40(%[ILOG]), %%xmm3") // xmm3 = V = mant(v)+0.5
__ASM_EMIT("cvtdq2ps %%xmm4, %%xmm4") // xmm4 = E = float(frac(v)-127)
// Prepare logarithm approximation calculations
__ASM_EMIT("movaps %%xmm3, %%xmm5") // xmm5 = V
__ASM_EMIT("movaps %%xmm3, %%xmm6") // xmm6 = V
__ASM_EMIT("cmpltps 0x50(%[ILOG]), %%xmm5") // xmm5 = [ V < sqrt(1/2) ]
__ASM_EMIT("movaps 0x60(%[ILOG]), %%xmm7") // xmm7 = 1.0
__ASM_EMIT("andps %%xmm5, %%xmm6") // xmm6 = V * [ V < sqrt(1/2) ]
__ASM_EMIT("addps %%xmm6, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ]
__ASM_EMIT("andnps %%xmm7, %%xmm5") // xmm5 = 1.0 * [ V >= sqrt(1/2) ]
__ASM_EMIT("addps %%xmm5, %%xmm4") // xmm4 = E + 1.0 * [ V >= sqrt(1/2) ] = B
__ASM_EMIT("subps %%xmm7, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ] - 1.0 = A
// Calculate logarithmic values
__ASM_EMIT("movaps 0x70(%[ILOG]), %%xmm5") // xmm5 = L0
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = L0*A
__ASM_EMIT("addps 0x80(%[ILOG]), %%xmm5") // xmm5 = L1+L0*A
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L1+L0*A)
__ASM_EMIT("addps 0x90(%[ILOG]), %%xmm5") // xmm5 = L2+A*(L1+L0*A)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L2+A*(L1+L0*A))
__ASM_EMIT("addps 0xa0(%[ILOG]), %%xmm5") // xmm5 = L3+A*L2+A*(L1+L0*A)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("addps 0xb0(%[ILOG]), %%xmm5") // xmm5 = L4+A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("addps 0xc0(%[ILOG]), %%xmm5") // xmm5 = L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("addps 0xd0(%[ILOG]), %%xmm5") // xmm5 = L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("addps 0xe0(%[ILOG]), %%xmm5") // xmm5 = L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("addps 0xf0(%[ILOG]), %%xmm5") // xmm5 = L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addps 0x100(%[ILOG]), %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulps %%xmm3, %%xmm5") // xmm5 = A*A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulps 0x110(%[ILOG]), %%xmm4") // xmm4 = B*(LXE + LN2)
__ASM_EMIT("addps %%xmm4, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addps %%xmm3, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + A
// Apply values to axes
__ASM_EMIT("movaps %%xmm5, %%xmm3") // xmm3 = log(abs(v*zero)), xmm5=log(abs(v*zero))
__ASM_EMIT("movups (%[x]), %%xmm4") // xmm4 = x
__ASM_EMIT("movups (%[y]), %%xmm6") // xmm6 = y
__ASM_EMIT("mulps %%xmm1, %%xmm3") // xmm3 = log(abs(v*zero)) * norm_x
__ASM_EMIT("mulps %%xmm2, %%xmm5") // xmm5 = log(abs(v*zero)) * norm_y
__ASM_EMIT("addps %%xmm3, %%xmm4") // xmm4 = x + log(abs(v*zero)) * norm_x
__ASM_EMIT("addps %%xmm5, %%xmm6") // xmm6 = y + log(abs(v*zero)) * norm_y
__ASM_EMIT("movups %%xmm4, (%[x])")
__ASM_EMIT("movups %%xmm6, (%[y])")
__ASM_EMIT("add $0x10, %[x]")
__ASM_EMIT("add $0x10, %[y]")
__ASM_EMIT("sub $4, %[count]")
__ASM_EMIT("jae 1b")
__ASM_EMIT("2:")
__ASM_EMIT("add $3, %[count]")
__ASM_EMIT("jl 4f")
// Do x1 blocks
__ASM_EMIT("3:")
__ASM_EMIT("movss (%[v]), %%xmm3") // xmm3 = v
__ASM_EMIT("andps 0x00(%[ILOG]), %%xmm3") // xmm3 = abs(v)
__ASM_EMIT("add $0x04, %[v]") // v += 4
__ASM_EMIT("maxps 0x10(%[ILOG]), %%xmm3") // xmm3 = max(X_AMP, abs(v)), ignores denormalized values
__ASM_EMIT("mulps %%xmm0, %%xmm3") // xmm5 = max(X_AMP, abs(v)) * zero
// Step 2: parse float value
__ASM_EMIT("movdqa %%xmm3, %%xmm4") // xmm4 = v
__ASM_EMIT("psrld $23, %%xmm4") // xmm4 = frac(v)
__ASM_EMIT("andps 0x20(%[ILOG]), %%xmm3") // xmm3 = mant(v)
__ASM_EMIT("psubd 0x30(%[ILOG]), %%xmm4") // xmm4 = frac(v) - 127
__ASM_EMIT("orps 0x40(%[ILOG]), %%xmm3") // xmm3 = V = mant(v)+0.5
__ASM_EMIT("cvtdq2ps %%xmm4, %%xmm4") // xmm4 = E = float(frac(v)-127)
// Prepare logarithm approximation calculations
__ASM_EMIT("movaps %%xmm3, %%xmm5") // xmm5 = V
__ASM_EMIT("movaps %%xmm3, %%xmm6") // xmm6 = V
__ASM_EMIT("cmpltps 0x50(%[ILOG]), %%xmm5") // xmm5 = [ V < sqrt(1/2) ]
__ASM_EMIT("movaps 0x60(%[ILOG]), %%xmm7") // xmm7 = 1.0
__ASM_EMIT("andps %%xmm5, %%xmm6") // xmm6 = V * [ V < sqrt(1/2) ]
__ASM_EMIT("addps %%xmm6, %%xmm3") // xmm6 = V + V * [ V < sqrt(1/2) ]
__ASM_EMIT("andnps %%xmm7, %%xmm5") // xmm5 = 1.0 * [ V >= sqrt(1/2) ]
__ASM_EMIT("addps %%xmm5, %%xmm4") // xmm4 = E + 1.0 * [ V >= sqrt(1/2) ] = B
__ASM_EMIT("subps %%xmm7, %%xmm3") // xmm3 = V + V * [ V < sqrt(1/2) ] - 1.0 = A
// Calculate logarithmic values
__ASM_EMIT("movaps 0x70(%[ILOG]), %%xmm5") // xmm5 = L0
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = L0*A
__ASM_EMIT("addss 0x80(%[ILOG]), %%xmm5") // xmm5 = L1+L0*A
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L1+L0*A)
__ASM_EMIT("addss 0x90(%[ILOG]), %%xmm5") // xmm5 = L2+A*(L1+L0*A)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L2+A*(L1+L0*A))
__ASM_EMIT("addss 0xa0(%[ILOG]), %%xmm5") // xmm5 = L3+A*L2+A*(L1+L0*A)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("addss 0xb0(%[ILOG]), %%xmm5") // xmm5 = L4+A*(L3+A*L2+A*(L1+L0*A))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("addss 0xc0(%[ILOG]), %%xmm5") // xmm5 = L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("addss 0xd0(%[ILOG]), %%xmm5") // xmm5 = L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("addss 0xe0(%[ILOG]), %%xmm5") // xmm5 = L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("addss 0xf0(%[ILOG]), %%xmm5") // xmm5 = L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addss 0x100(%[ILOG]), %%xmm5") // xmm5 = A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulss %%xmm3, %%xmm5") // xmm5 = A*A*(A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + L9)
__ASM_EMIT("mulss 0x110(%[ILOG]), %%xmm4") // xmm4 = B*(LXE + LN2)
__ASM_EMIT("addss %%xmm4, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A)))))))
__ASM_EMIT("addss %%xmm3, %%xmm5") // xmm5 = B*(LXE + LN2) + A*A*A*(L8+A*(L7+A*(L6+A*(L5+A*(L4+A*(L3+A*L2+A*(L1+L0*A))))))) + A
// Apply values to axes
__ASM_EMIT("movaps %%xmm5, %%xmm3") // xmm3 = log(abs(v*zero)), xmm5=log(abs(v*zero))
__ASM_EMIT("movss (%[x]), %%xmm4") // xmm4 = x
__ASM_EMIT("movss (%[y]), %%xmm6") // xmm6 = y
__ASM_EMIT("mulps %%xmm1, %%xmm3") // xmm3 = log(abs(v*zero)) * norm_x
__ASM_EMIT("mulps %%xmm2, %%xmm5") // xmm5 = log(abs(v*zero)) * norm_y
__ASM_EMIT("addps %%xmm3, %%xmm4") // xmm4 = x + log(abs(v*zero)) * norm_x
__ASM_EMIT("addps %%xmm5, %%xmm6") // xmm6 = y + log(abs(v*zero)) * norm_y
__ASM_EMIT("movss %%xmm4, (%[x])")
__ASM_EMIT("movss %%xmm6, (%[y])")
__ASM_EMIT("add $0x04, %[x]")
__ASM_EMIT("add $0x04, %[y]")
__ASM_EMIT("dec %[count]")
__ASM_EMIT("jge 3b")
__ASM_EMIT("4:")
: [v] "+r" (v), [x] "+r" (x) , [y] "+r" (y),
[count] "+r" (count)
: [zero] "m" (zero), [norm_x] "m" (norm_x), [norm_y] "m" (norm_y),
[ILOG] "r" (LOG_IARGS)
: "%xmm0", "%xmm1", "%xmm2", "%xmm3",
"%xmm4", "%xmm5", "%xmm6", "%xmm7"
);
}
}
}
#endif /* PRIVATE_DSP_ARCH_X86_SSE2_GRAPHICS_AXIS_H_ */