blob: 9217ed2eb82f35780702f2f8cd48e4a248dce5fa [file] [log] [blame]
@/******************************************************************************
@ *
@ * Copyright (C) 2015 The Android Open Source Project
@ *
@ * Licensed under the Apache License, Version 2.0 (the "License");
@ * you may not use this file except in compliance with the License.
@ * You may obtain a copy of the License at:
@ *
@ * http://www.apache.org/licenses/LICENSE-2.0
@ *
@ * Unless required by applicable law or agreed to in writing, software
@ * distributed under the License is distributed on an "AS IS" BASIS,
@ * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
@ * See the License for the specific language governing permissions and
@ * limitations under the License.
@ *
@ *****************************************************************************
@ * Originally developed and contributed by Ittiam Systems Pvt. Ltd, Bangalore
@*/
@/*****************************************************************************/
@/* */
@/* File Name : ih264_deblk_luma_a9.s */
@/* */
@/* Description : Contains function definitions for deblocking luma */
@/* edge. Functions are coded in NEON assembly and can */
@/* be compiled using ARM RVDS. */
@/* */
@/* List of Functions : ih264_deblk_luma_vert_bs4_a9() */
@/* ih264_deblk_luma_vert_bslt4_a9() */
@/* ih264_deblk_luma_horz_bs4_a9() */
@/* ih264_deblk_luma_horz_bslt4_a9() */
@/* ih264_deblk_luma_vert_bs4_mbaff_a9() */
@/* ih264_deblk_luma_vert_bslt4_mbaff_a9() */
@/* */
@/* Issues / Problems : None */
@/* */
@/* Revision History : */
@/* */
@/* DD MM YYYY Author(s) Changes (Describe the changes made) */
@/* 28 11 2013 Ittiam Draft */
@/* 05 01 2015 Kaushik Added double-call functions for */
@/* Senthoor vertical deblocking. */
@/* */
@/*****************************************************************************/
.text
.p2align 2
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block horizontal edge for cases where the
@* boundary strength is less than 4
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @param[in] sp(0) - u4_bs
@* Packed Boundary strength array
@*
@* @param[in] sp(4) - pu1_cliptab
@* tc0_table
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_horz_bslt4_a9
ih264_deblk_luma_horz_bslt4_a9:
stmfd sp!, {r4-r7, lr}
ldrd r4, r5, [sp, #0x14] @r4 = ui_Bs , r5 = *puc_ClpTab
vpush {d8 - d15}
sub r0, r0, r1, lsl #1 @R1 = uc_Horizonpad
sub r0, r0, r1 @r0 pointer to p2
rev r4, r4 @
vld1.8 {q5}, [r0], r1 @p2 values are loaded into q5
vmov.32 d12[0], r4 @d12[0] = ui_Bs
mov r6, r0 @keeping backup of pointer to p1
vld1.8 {q4}, [r0], r1 @p1 values are loaded into q4
mov r7, r0 @keeping backup of pointer to p0
vld1.8 {q3}, [r0], r1 @p0 values are loaded into q3
vmovl.u8 q6, d12 @q6 = uc_Bs in each 16 bt scalar
vld1.8 {q0}, [r0], r1 @q0 values are loaded into q0
vabd.u8 q13, q4, q3 @Q13 = ABS(p1 - p0)
vld1.8 {q1}, [r0], r1 @q1 values are loaded into q1
vabd.u8 q11, q3, q0 @Q11 = ABS(p0 - q0)
vld1.32 d16[0], [r5] @D16[0] contains cliptab
vabd.u8 q12, q1, q0 @Q12 = ABS(q1 - q0)
vld1.8 {q2}, [r0], r1 @q2 values are loaded into q2
vtbl.8 d14, {d16}, d12 @
vdup.8 q10, r2 @Q10 contains alpha
vdup.8 q8, r3 @Q8 contains beta
vmovl.u16 q6, d12 @
vmovl.u16 q7, d14 @
vabd.u8 q14, q5, q3 @Q14 = Ap = ABS(p2 - p0)
vabd.u8 q15, q2, q0 @Q15 = Aq = ABS(q2 - q0)
vcgt.s32 q6, q6, #0 @Q6 = (us_Bs > 0)
vsli.32 q7, q7, #8 @
vcge.u8 q9, q11, q10 @Q9 = ( ABS(p0 - q0) >= Alpha )
vcge.u8 q12, q12, q8 @Q12=( ABS(q1 - q0) >= Beta )
vcge.u8 q13, q13, q8 @Q13=( ABS(p1 - p0) >= Beta )
vcgt.u8 q10, q8, q14 @Q10=(Ap<Beta)
vcgt.u8 q11, q8, q15 @Q11=(Aq<Beta)
vsli.32 q7, q7, #16 @Q7 = C0
vorr q9, q9, q12 @Q9 = ( ABS(p0 - q0) >= Alpha ) | ( ABS(q1 - q0) >= Beta )
vsubl.u8 q15, d1, d7 @
vsubl.u8 q12, d0, d6 @Q15,Q12 = (q0 - p0)
vorr q9, q9, q13 @Q9 = ( ABS(p0 - q0) >= Alpha ) | ( ABS(q1 - q0) >= Beta ) | ( ABS(p1 - p0) >= Beta )
vsubl.u8 q14, d8, d2 @Q14 = (p1 - q1)L
vshl.i16 q13, q15, #2 @Q13 = (q0 - p0)<<2
vshl.i16 q12, q12, #2 @Q12 = (q0 - p0)<<2
vsubl.u8 q15, d9, d3 @Q15 = (p1 - q1)H
vbic q6, q6, q9 @final condition
vadd.i16 q12, q12, q14 @
vadd.i16 q13, q13, q15 @Q13,Q12 = [ (q0 - p0)<<2 ] + (p1 - q1)
vsub.i8 q9, q7, q10 @Q9 = C0 + (Ap < Beta)
vrhadd.u8 q8, q3, q0 @Q8 = ((p0+q0+1) >> 1)
vqrshrn.s16 d24, q12, #3 @
vqrshrn.s16 d25, q13, #3 @Q12 = i_macro = (((q0 - p0)<<2) + (p1 - q1) + 4)>>3
vsub.i8 q9, q9, q11 @Q9 = C0 + (Ap < Beta) + (Aq < Beta)
vand.i8 q10, q10, q6 @
vand.i8 q11, q11, q6 @
vabs.s8 q13, q12 @Q13 = ABS (i_macro)
vaddl.u8 q14, d17, d11 @
vaddl.u8 q5, d16, d10 @Q14,Q5 = p2 + (p0+q0+1)>>1
vaddl.u8 q15, d17, d5 @
vmin.u8 q9, q13, q9 @Q9 = delta = (ABS(i_macro) > C) ? C : ABS(i_macro)
vshll.u8 q13, d9, #1 @
vaddl.u8 q2, d16, d4 @Q15,Q2 = q2 + (p0+q0+1)>>1
vshll.u8 q8, d8, #1 @Q13,Q8 = (p1<<1)
vand q9, q9, q6 @Making delta zero in places where values shouldn be filterd
vsub.i16 q14, q14, q13 @Q14,Q5 = [p2 + (p0+q0+1)>>1] - (p1<<1)
vsub.i16 q5, q5, q8 @
vshll.u8 q8, d2, #1 @
vshll.u8 q13, d3, #1 @Q13,Q8 = (q1<<1)
vqshrn.s16 d29, q14, #1 @
vqshrn.s16 d28, q5, #1 @Q14 = i_macro_p1
vsub.i16 q2, q2, q8 @
vsub.i16 q15, q15, q13 @Q15,Q2 = [q2 + (p0+q0+1)>>1] - (q1<<1)
vneg.s8 q13, q7 @Q13 = -C0
vmin.s8 q14, q14, q7 @Q14 = min(C0,i_macro_p1)
vcge.s8 q12, q12, #0 @Q12 = (i_macro >= 0)
vqshrn.s16 d31, q15, #1 @
vqshrn.s16 d30, q2, #1 @Q15 = i_macro_q1
vmax.s8 q14, q14, q13 @Q14 = max( - C0 , min(C0, i_macro_p1) )
vqadd.u8 q8, q3, q9 @Q8 = p0 + delta
vqsub.u8 q3, q3, q9 @Q3 = p0 - delta
vmin.s8 q15, q15, q7 @Q15 = min(C0,i_macro_q1)
vand.i8 q14, q10, q14 @condition check Ap<beta
vqadd.u8 q7, q0, q9 @Q7 = q0 + delta
vqsub.u8 q0, q0, q9 @Q0 = q0 - delta
vmax.s8 q15, q15, q13 @Q15 = max( - C0 , min(C0, i_macro_q1) )
vbif q8, q3, q12 @Q8 = (i_macro >= 0 ) ? (p0+delta) : (p0-delta)
vbif q0, q7, q12 @Q0 = (i_macro >= 0 ) ? (q0-delta) : (q0+delta)
vadd.i8 q14, q14, q4 @
vand.i8 q15, q11, q15 @condition check Aq<beta
vst1.8 {q8}, [r7], r1 @writting back filtered value of p0
vadd.i8 q15, q15, q1 @
vst1.8 {q0}, [r7], r1 @writting back filtered value of q0
vst1.8 {q14}, [r6] @writting back filtered value of p1
vst1.8 {q15}, [r7], r1 @writting back filtered value of q1
vpop {d8 - d15}
ldmfd sp!, {r4-r7, pc}
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block horizontal edge when the
@* boundary strength is set to 4
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_horz_bs4_a9
ih264_deblk_luma_horz_bs4_a9:
@ Back up necessary registers on stack
stmfd sp!, {r12, r14}
vpush {d8 - d15}
@ Init
vdup.8 q0, r2 @duplicate alpha
sub r12, r0, r1 @pointer to p0 = q0 - src_strd
vdup.8 q1, r3 @duplicate beta
sub r14, r0, r1, lsl#1 @pointer to p1 = q0 - src_strd*2
sub r2, r0, r1, lsl#2 @pointer to p3 = q0 - src_strd*4
sub r3, r14, r1 @pointer to p2 = p1 - src_strd
@ Load Data
vld1.8 {d4, d5}, [r0], r1 @load q0 to Q2, q0 = q0 + src_strd
vld1.8 {d6, d7}, [r12] @load p0 to Q3
vld1.8 {d8, d9}, [r0], r1 @load q1 to Q4, q0 = q0 + src_strd
vld1.8 {d10, d11}, [r14] @load p1 to Q5
@ Filter Decision
vabd.u8 q6, q2, q3 @ABS(p0 - q0)
vabd.u8 q7, q4, q2 @ABS(q1 - q0)
vabd.u8 q8, q5, q3 @ABS(p1 - p0)
vcge.u8 q9, q6, q0 @ABS(p0 - q0) >= Alpha
vcge.u8 q7, q7, q1 @ABS(q1 - q0) >= Beta
vcge.u8 q8, q8, q1 @ABS(p1 - p0) >= Beta
vmov.i8 q10, #2
vorr q9, q9, q7 @ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta
vld1.8 {d14, d15}, [r0], r1 @load q2 to Q7, q0 = q0 + src_strd
vorr q9, q9, q8 @ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta
vsra.u8 q10, q0, #2 @((Alpha >> 2) + 2)
vabd.u8 q11, q7, q2 @Aq = ABS(q2 - q0)
vaddl.u8 q12, d4, d6 @p0+q0 L
vaddl.u8 q13, d5, d7 @p0+q0 H
vclt.u8 q11, q11, q1 @Aq < Beta
vclt.u8 q10, q6, q10 @(ABS(p0 - q0) <((Alpha >>2) + 2))
@ Deblock Filtering q0', q1', q2'
vaddw.u8 q14, q12, d8 @p0+q0+q1 L
vaddw.u8 q15, q13, d9 @p0+q0+q1 H
vand q11, q11, q10 @(Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2))
@ q0' if (Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2)) TRUE
vadd.i16 q8, q14, q14 @2*(p0+q0+q1)L
vadd.i16 q0, q15, q15 @2*(p0+q0+q1)H
vaddw.u8 q8, q8, d14 @2*(p0+q0+q1)+q2 L
vaddw.u8 q0, q0, d15 @2*(p0+q0+q1)+q2 H
vaddw.u8 q8, q8, d10 @2*(p0+q0+q1)+q2 +p1 L
vaddw.u8 q0, q0, d11 @2*(p0+q0+q1)+q2 +p1 H
vrshrn.u16 d12, q8, #3 @(2*(p0+q0+q1)+q2 +p1 +4)>> 3 L [q0']
vrshrn.u16 d13, q0, #3 @(2*(p0+q0+q1)+q2 +p1 +4)>> 3 H [q0']
@ q0" if (Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2)) FALSE
vaddl.u8 q8, d8, d8 @2*q1 L
vaddl.u8 q0, d9, d9 @2*q1 H
vaddw.u8 q8, q8, d4 @2*q1+q0 L
vaddw.u8 q0, q0, d5 @2*q1+q0 H
vaddw.u8 q8, q8, d10 @2*q1+q0+p1 L
vaddw.u8 q0, q0, d11 @2*q1+q0+p1 H
vrshrn.u16 d16, q8, #2 @(2*q1+q0+p1+2)>>2 L [q0"]
vrshrn.u16 d17, q0, #2 @(2*q1+q0+p1+2)>>2 H [q0"]
@ q1'
vaddw.u8 q14, q14, d14 @p0+q0+q1+q2 L
vaddw.u8 q15, q15, d15 @p0+q0+q1+q2 H
vld1.8 {q0}, [r0], r1 @load q3 to Q0, q0 = q0 + src_strd
vbit q8, q6, q11 @choosing between q0' and q0" depending on condn
sub r0, r0, r1, lsl #2 @pointer to q0
vbic q11, q11, q9 @((ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta))
@ && (Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2))
vrshrn.u16 d12, q14, #2 @(p0+q0+q1+q2+2)>>2 L [q1']
vrshrn.u16 d13, q15, #2 @(p0+q0+q1+q2+2)>>2 H [q1']
vbif q2, q8, q9 @choose q0 or filtered q0
@ q2'
vaddl.u8 q8, d14, d0 @q2+q3,L
vaddl.u8 q0, d15, d1 @q2+q3,H
vadd.i16 q14, q14, q8 @p0+q0+q1+2*q2+q3 L
vst1.8 {d4, d5}, [r0], r1 @store q0
vadd.i16 q15, q15, q0 @p0+q0+q1+2*q2+q3 H
vadd.i16 q14, q14, q8 @p0+q0+q1+3*q2+2*q3 L
vadd.i16 q15, q15, q0 @p0+q0+q1+3*q2+2*q3 H
vrshrn.u16 d0, q14, #3 @(p0+q0+q1+3*q2+2*q3+4)>>3 L [q2']
vrshrn.u16 d1, q15, #3 @(p0+q0+q1+3*q2+2*q3+4)>>3 H [q2']
vld1.8 {d30, d31}, [r3] @load p2 to Q15
vbif q6, q4, q11 @choose q1 or filtered value of q1
vabd.u8 q8, q15, q3 @Ap,ABS(p2 - p0)
vaddw.u8 q12, q12, d10 @p0+q0+p1 L
vbif q0, q7, q11 @choose q2 or filtered q2
vaddw.u8 q13, q13, d11 @p0+q0+p1 H
vst1.8 {d12, d13}, [r0], r1 @store q1
vclt.u8 q8, q8, q1 @Ap < Beta
vadd.i16 q14, q12, q12 @2*(p0+q0+p1) L
vadd.i16 q2, q13, q13 @2*(p0+q0+p1) H
vst1.8 {d0, d1}, [r0], r1 @store q2
vand q10, q10, q8 @((Ap < Beta) && (ABS(p0 - q0) <((Alpha >>2) + 2)))
vaddw.u8 q14, q14, d30 @2*(p0+q0+p1)+p2 l
vaddw.u8 q2, q2, d31 @2*(p0+q0+p1)+p2 H
vaddw.u8 q14, q14, d8 @2*(p0+q0+p1)+p2+q1 L
vaddw.u8 q2, q2, d9 @2*(p0+q0+p1)+p2+q1 H
vrshrn.u16 d28, q14, #3 @(2*(p0+q0+p1)+p2+q1+4)>>3 L,p0'
vrshrn.u16 d29, q2, #3 @(2*(p0+q0+p1)+p2+q1+4)>>3 H,p0'
vmov.i8 d0, #2
vmov.i16 d1, #2
vaddl.u8 q1, d6, d8 @p0+q1 L
vmlal.u8 q1, d10, d0 @2*p1+p0+q1 L
vaddl.u8 q8, d7, d9 @p0+q1 H
vmlal.u8 q8, d11, d0 @2*p1+p0+q1 H
vaddw.u8 q6, q12, d30 @(p0+q0+p1) +p2 L
vld1.8 {d24, d25}, [r2] @load p3,Q12
vaddw.u8 q2, q13, d31 @(p0+q0+p1) +p2 H
vaddl.u8 q4, d30, d24 @p2+p3 L
vrshrn.u16 d26, q6, #2 @((p0+q0+p1)+p2 +2)>>2,p1' L
vrshrn.u16 d2, q1, #2 @(2*p1+p0+q1+2)>>2,p0"L
vrshrn.u16 d27, q2, #2 @((p0+q0+p1)+p2 +2)>>2,p1' H
vrshrn.u16 d3, q8, #2 @(2*p1+p0+q1+2)>>2,p0" H
vaddl.u8 q8, d31, d25 @p2+p3 H
vmla.u16 q6, q4, d1[0] @(p0+q0+p1)+3*p2+2*p3 L
vmla.u16 q2, q8, d1[0] @(p0+q0+p1)+3*p2+2*p3 H
vbic q8, q10, q9 @((ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta))
@&& (Ap < Beta && ABS(p0 - q0) <((Alpha >>2) + 2))
vbit q1, q14, q10 @choosing between po' and p0"
vrshrn.u16 d12, q6, #3 @((p0+q0+p1)+3*p2+2*p3+4)>>3 L p2'
vrshrn.u16 d13, q2, #3 @((p0+q0+p1)+3*p2+2*p3+4)>>3 H p2'
vbif q3, q1, q9 @choosing between p0 and filtered value of p0
vbit q5, q13, q8 @choosing between p1 and p1'
vbit q15, q6, q8 @choosing between p2 and p2'
vst1.8 {d6, d7}, [r12] @store p0
vst1.8 {d10, d11}, [r14] @store p1
vst1.8 {d30, d31}, [r3] @store p2
vpop {d8 - d15}
ldmfd sp!, {r12, pc}
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block vertical edge for cases where the
@* boundary strength is less than 4
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @param[in] sp(0) - u4_bs
@* Packed Boundary strength array
@*
@* @param[in] sp(4) - pu1_cliptab
@* tc0_table
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_vert_bslt4_a9
ih264_deblk_luma_vert_bslt4_a9:
stmfd sp!, {r12, lr}
sub r0, r0, #4 @pointer uc_edgePixel-4
ldr r12, [sp, #8] @r12 = ui_Bs
ldr r14, [sp, #12] @r14 = *puc_ClpTab
vpush {d8 - d15}
@loading p3:p2:p1:p0:q0:q1:q2:q3 for every row
vld1.8 {d0}, [r0], r1 @row1
vld1.8 d2, [r0], r1 @row2
vld1.8 d4, [r0], r1 @row3
rev r12, r12 @reversing ui_bs
vld1.8 d6, [r0], r1 @row4
vmov.32 d18[0], r12 @d12[0] = ui_Bs
vld1.32 d16[0], [r14] @D16[0] contains cliptab
vld1.8 d8, [r0], r1 @row5
vmovl.u8 q9, d18 @q6 = uc_Bs in each 16 bt scalar
vld1.8 d10, [r0], r1 @row6
vld1.8 d12, [r0], r1 @row7
vtbl.8 d16, {d16}, d18 @puc_ClipTab[uc_Bs]
vld1.8 d14, [r0], r1 @row8
vld1.8 d1, [r0], r1 @row9
vmovl.u16 q8, d16 @
vld1.8 d3, [r0], r1 @row10
vld1.8 d5, [r0], r1 @row11
vld1.8 d7, [r0], r1 @row12
vsli.32 q8, q8, #8 @
vld1.8 d9, [r0], r1 @row13
vld1.8 d11, [r0], r1 @row14
vld1.8 d13, [r0], r1 @row15
vsli.32 q8, q8, #16 @Q8 = C0
vld1.8 d15, [r0], r1 @row16
@taking two 8x8 transposes
@2X2 transposes
vtrn.8 d0, d2 @row1 &2
vtrn.8 d4, d6 @row3&row4
vtrn.8 d8, d10 @row5&6
vtrn.8 d12, d14 @row7 & 8
vtrn.8 d1, d3 @row9 &10
vtrn.8 d5, d7 @row11 & 12
vtrn.8 d9, d11 @row13 &14
vtrn.8 d13, d15 @row15 & 16
@4x4 transposes
vtrn.16 d2, d6 @row2 & row4
vtrn.16 d10, d14 @row6 & row8
vtrn.16 d3, d7 @row10 & 12
vtrn.16 d11, d15 @row14 & row16
vtrn.32 d6, d14 @row4 & 8
vtrn.32 d7, d15 @row 12 & 16
@now Q3 ->p0 and Q7->q3
vtrn.16 d0, d4 @row1 & 3
vtrn.16 d8, d12 @row 5 & 7
vtrn.16 d1, d5 @row9 & row11
vtrn.16 d9, d13 @row13 & row15
vtrn.32 d0, d8 @row1 & row5
vtrn.32 d1, d9 @row9 & 13
@now Q0->p3 & Q4->q0
@starting processing as p0 and q0 are now ready
vtrn.32 d2, d10 @row2 &6
vrhadd.u8 q10, q3, q4 @((p0 + q0 + 1) >> 1)
vtrn.32 d3, d11 @row10&row14
vmov.i8 d19, #2
@now Q1->p2 & Q5->q1
vtrn.32 d4, d12 @row3 & 7
vabd.u8 q11, q3, q4 @ABS(p0 - q0)
vtrn.32 d5, d13 @row11 & row15
vaddl.u8 q12, d20, d2 @(p2 + ((p0 + q0 + 1) >> 1) L
@now Q2->p1,Q6->q2
vaddl.u8 q13, d21, d3 @(p2 + ((p0 + q0 + 1) >> 1) H
vmlsl.u8 q12, d4, d19 @(p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1)) L
vmlsl.u8 q13, d5, d19 @(p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1)) H
vdup.8 q14, r2 @alpha
vcle.u8 q11, q14, q11 @ABS(p0 - q0) >= Alpha(Alpha <=ABS(p0 - q0))
vdup.i8 q14, r3 @beta
vabd.u8 q15, q5, q4 @ABS(q1 - q0)
vqshrn.s16 d24, q12, #1 @((p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1)) >> 1) L
vqshrn.s16 d25 , q13, #1 @((p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1)) >> 1) H
vcge.u8 q15, q15, q14 @ABS(q1 - q0) >= Beta
vabd.u8 q13, q2, q3 @ABS(p1 - p0)
vmin.s8 q12, q12, q8 @min(deltap1 ,C0)
vorr q11, q11, q15 @ABS(q1 - q0) >= Beta ||ABS(p0 - q0) >= Alpha
vneg.s8 q15, q8 @-C0
vcge.u8 q13, q13, q14 @ABS(p1 - p0) >= Beta
vmax.s8 q12, q12, q15 @max(deltap1,-C0)
vorr q11, q11, q13 @ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta)
vmovl.u16 q13, d18 @ui_bs
vaddl.u8 q9, d20, d12 @q2 + ((p0 + q0 + 1) >> 1) L
vceq.u32 q13, q13, #0 @ui_bs == 0
vsubw.u8 q9, q9, d10 @(q2 + ((p0 + q0 + 1) >> 1) - q1) L
vaddl.u8 q10, d21, d13 @q2 + ((p0 + q0 + 1) >> 1) H
vsubw.u8 q9, q9, d10 @(q2 + ((p0 + q0 + 1) >> 1) - 2*q1)L
vsubw.u8 q10, q10, d11 @(q2 + ((p0 + q0 + 1) >> 1) - q1) H
vorr q13, q13, q11 @(ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta)) &&(ui_bs)
vsubw.u8 q10, q10, d11 @(q2 + ((p0 + q0 + 1) >> 1) - 2*q1) H
vqshrn.s16 d18, q9, #1 @((q2 + ((p0 + q0 + 1) >> 1) - (q1 << 1)) >> 1) L
vabd.u8 q11, q1, q3 @Ap = ABS(p2 - p0)
vqshrn.s16 d19, q10, #1 @((q2 + ((p0 + q0 + 1) >> 1) - (q1 << 1)) >> 1) H
vabd.u8 q10, q6, q4 @Aq= ABS(q2 - q0)
vclt.u8 q11, q11, q14 @Ap < Beta
vmin.s8 q9, q9, q8 @min(delatq1,C0)
vclt.u8 q10, q10, q14 @Aq <Beta
vsubl.u8 q14, d8, d6 @(q0 - p0) L
vmax.s8 q9, q9, q15 @max(deltaq1,-C0)
vsubl.u8 q15, d9, d7 @(q0 - p0) H
vshl.s16 q14, q14, #2 @(q0 - p0)<<2 L
vsub.u8 q8, q8, q11 @C0 + (Ap < Beta)
vshl.s16 q15, q15, #2 @(q0 - p0) << 2) H
vaddw.u8 q14, q14, d4 @((q0 - p0) << 2) + (p1 L
vaddw.u8 q15, q15, d5 @((q0 - p0) << 2) + (p1 H
vsubw.u8 q14, q14, d10 @((q0 - p0) << 2) + (p1 - q1) L
vsubw.u8 q15, q15, d11 @((q0 - p0) << 2) + (p1 - q1) H
vbic q11, q11, q13 @final condition for p1
vrshrn.s16 d28, q14, #3 @delta = ((((q0 - p0) << 2) + (p1 - q1) + 4) >> 3); L
vrshrn.s16 d29, q15, #3 @delta = ((((q0 - p0) << 2) + (p1 - q1) + 4) >> 3) H
vsub.u8 q8, q8, q10 @C0 + (Ap < Beta) + (Aq < Beta)
vbic q10, q10, q13 @final condition for q1
vabs.s8 q15, q14 @abs(delta)
vand q12, q12, q11 @delatp1
vand q9, q9, q10 @delta q1
vmin.u8 q15, q15, q8 @min((abs(delta),C)
vadd.i8 q2, q2, q12 @p1+deltap1
vadd.i8 q5, q5, q9 @q1+deltaq1
vbic q15, q15, q13 @abs(delta) of pixels to be changed only
vcge.s8 q14, q14, #0 @sign(delta)
vqsub.u8 q11, q3, q15 @clip(p0-delta)
vtrn.8 d0, d2 @row1 &2
vqadd.u8 q3, q3, q15 @clip(p0+delta)
vtrn.8 d1, d3 @row9 &10
vqadd.u8 q12, q4, q15 @clip(q0+delta)
vtrn.8 d12, d14 @row7 & 8
vqsub.u8 q4, q4, q15 @clip(q0-delta)
vtrn.8 d13, d15 @row15 & 16
vbif q3, q11, q14 @p0
vbif q4, q12, q14 @q0
vtrn.8 d4, d6 @row3&row4
vtrn.8 d8, d10 @row5&6
vtrn.8 d5, d7 @row11 & 12
vtrn.8 d9, d11 @row13 &14
vtrn.16 d2, d6 @row2 & row4
vtrn.16 d10, d14 @row6 & row8
vtrn.16 d3, d7 @row10 & 12
vtrn.16 d11, d15 @row14 & row16
vtrn.32 d6, d14 @row4 & 8
vtrn.32 d7, d15 @row 12 & 16
@now Q3 ->p0 and Q7->q3
vtrn.16 d0, d4 @row1 & 3
vtrn.16 d8, d12 @row 5 & 7
vtrn.16 d1, d5 @row9 & row11
vtrn.16 d9, d13 @row13 & row15
sub r0, r0, r1, lsl#4 @restore pointer
vtrn.32 d0, d8 @row1 & row5
vtrn.32 d1, d9 @row9 & 13
vtrn.32 d2, d10 @row2 &6
vtrn.32 d3, d11 @row10&row14
vtrn.32 d4, d12 @row3 & 7
vtrn.32 d5, d13 @row11 & row15
vst1.8 {d0}, [r0], r1 @row1
vst1.8 d2, [r0], r1 @row2
vst1.8 d4, [r0], r1 @row3
vst1.8 d6, [r0], r1 @row4
vst1.8 d8, [r0], r1 @row5
vst1.8 d10, [r0], r1 @row6
vst1.8 d12, [r0], r1 @row7
vst1.8 d14, [r0], r1 @row8
vst1.8 d1, [r0], r1 @row9
vst1.8 d3, [r0], r1 @row10
vst1.8 d5, [r0], r1 @row11
vst1.8 d7, [r0], r1 @row12
vst1.8 d9, [r0], r1 @row13
vst1.8 d11, [r0], r1 @row14
vst1.8 d13, [r0], r1 @row15
vst1.8 d15, [r0], r1 @row16
vpop {d8 - d15}
ldmfd sp!, {r12, pc}
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block vertical edge when the
@* boundary strength is set to 4
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_vert_bs4_a9
ih264_deblk_luma_vert_bs4_a9:
stmfd sp!, {r12, lr}
vpush {d8 - d15}
sub r0, r0, #4 @pointer uc_edgePixel-4
@loading p3:p2:p1:p0:q0:q1:q2:q3 for every row
vld1.8 d0, [r0], r1 @row1
vld1.8 d2, [r0], r1 @row2
vld1.8 d4, [r0], r1 @row3
vld1.8 d6, [r0], r1 @row4
vld1.8 d8, [r0], r1 @row5
vld1.8 d10, [r0], r1 @row6
vld1.8 d12, [r0], r1 @row7
vld1.8 d14, [r0], r1 @row8
vld1.8 d1, [r0], r1 @row9
vld1.8 d3, [r0], r1 @row10
vld1.8 d5, [r0], r1 @row11
vld1.8 d7, [r0], r1 @row12
vld1.8 d9, [r0], r1 @row13
vld1.8 d11, [r0], r1 @row14
vld1.8 d13, [r0], r1 @row15
vld1.8 d15, [r0], r1 @row16
@taking two 8x8 transposes
@2X2 transposes
vtrn.8 d0, d2 @row1 &2
vtrn.8 d4, d6 @row3&row4
vtrn.8 d8, d10 @row5&6
vtrn.8 d12, d14 @row7 & 8
vtrn.8 d1, d3 @row9 &10
vtrn.8 d5, d7 @row11 & 12
vtrn.8 d9, d11 @row13 &14
vtrn.8 d13, d15 @row15 & 16
@4x4 transposes
vtrn.16 d2, d6 @row2 & row4
vtrn.16 d10, d14 @row6 & row8
vtrn.16 d3, d7 @row10 & 12
vtrn.16 d11, d15 @row14 & row16
vtrn.32 d6, d14 @row4 & 8
vtrn.32 d7, d15 @row 12 & 16
@now Q3 ->p0 and Q7->q3
vtrn.16 d0, d4 @row1 & 3
vtrn.16 d8, d12 @row 5 & 7
vtrn.16 d1, d5 @row9 & row11
vtrn.16 d9, d13 @row13 & row15
vtrn.32 d0, d8 @row1 & row5
vtrn.32 d1, d9 @row9 & 13
@now Q0->p3 & Q4->q0
@starting processing as p0 and q0 are now ready
@now Q1->p2 & Q5->q1
vpush {q7} @saving in stack
vtrn.32 d4, d12 @row3 & 7
vmov.i16 q14, #2
vtrn.32 d5, d13 @row11 & row15
vaddl.u8 q8, d6, d8 @p0+q0 L
vtrn.32 d2, d10 @row2 &6
vaddl.u8 q9, d7, d9 @p0+q0 H
vtrn.32 d3, d11 @row10&row14
vaddw.u8 q10, q8, d4 @p0+q0+p1 L
vaddw.u8 q11, q9, d5 @p0+q0+p1 H
vaddl.u8 q12, d2, d10 @p2+q1 L
vaddl.u8 q13, d3, d11 @p2+q1 H
vmla.u16 q12, q10, q14 @p2 + X2(p1) + X2(p0) + X2(q0) + q1 L
vmla.u16 q13, q11, q14 @p2 + X2(p1) + X2(p0) + X2(q0) + q1 H
vmov.i8 q14, #2
vaddw.u8 q8, q10, d2 @p0+q0+p1+p2 L
vaddw.u8 q9, q11, d3 @p0+q0+p1+p2 H
vdup.i8 q15, r2 @duplicate alpha
vrshrn.u16 d20, q8, #2 @(p2 + p1 + p0 + q0 + 2) >> 2)L p1'
vrshrn.u16 d21, q9, #2 @(p2 + p1 + p0 + q0 + 2) >> 2)H p1'
vabd.u8 q11, q3, q4 @ABD(p0-q0)
vsra.u8 q14, q15, #2 @alpha >>2 +2
vabd.u8 q15, q1, q3 @Ap = ABD(p2-p0)
vrshrn.u16 d24, q12, #3 @((p2 + X2(p1) + X2(p0) + X2(q0) + q1 + 4) >> 3) L p0'
vrshrn.u16 d25, q13, #3 @((p2 + X2(p1) + X2(p0) + X2(q0) + q1 + 4) >> 3) H p0'
vdup.i8 q13, r3 @beta
vcgt.u8 q14, q14, q11 @ABS(p0 - q0) <((Alpha >>2) + 2)
vaddl.u8 q11, d6, d10 @p0+q1 L
vcgt.u8 q7, q13, q15 @beta>Ap
vaddl.u8 q15, d7, d11 @p0+q1 H
vaddw.u8 q11, q11, d4 @p0+q1+p1 L
vaddw.u8 q15, q15, d5 @p0+q1+p1 H
vaddw.u8 q11, q11, d4 @p0+q1+2*p1 L
vaddw.u8 q15, q15, d5 @p0+q1+2*p1 H
vand q7, q7, q14 @(Ap < Beta && ABS(p0 - q0) <((Alpha >>2) + 2)
vrshrn.u16 d22, q11, #2 @((X2(p1) + p0 + q1 + 2) >> 2) L p0"
vrshrn.u16 d23, q15, #2 @((X2(p1) + p0 + q1 + 2) >> 2) H p0"
vaddl.u8 q15, d2, d0 @p2+p3 L
vbif q12, q11, q7 @p0' or p0 "
vaddl.u8 q11, d3, d1 @p2+p3 H
vadd.u16 q15, q15, q15 @2*(p2+p3) L
vadd.u16 q11, q11, q11 @2*(p2+p3)H
vadd.u16 q8, q8, q15 @(X2(p3) + X3(p2) + p1 + p0 + q0) L
vadd.u16 q9, q9, q11 @(X2(p3) + X3(p2) + p1 + p0 + q0) H
vabd.u8 q15, q6, q4 @Aq = abs(q2-q0)
vabd.u8 q11, q5, q4 @ABS(Q1-Q0)
vrshrn.u16 d16, q8, #3 @((X2(p3) + X3(p2) + p1 + p0 + q0 + 4) >> 3); L p2'
vrshrn.u16 d17, q9, #3 @((X2(p3) + X3(p2) + p1 + p0 + q0 + 4) >> 3); H p2'
vabd.u8 q9, q2, q3 @ABS(p1-p0)
vcgt.u8 q15, q13, q15 @Aq < Beta
vcge.u8 q11, q11, q13 @ABS(q1 - q0) >= Beta
vcge.u8 q9, q9, q13 @ABS(p1 - p0) >= beta
vdup.i8 q13, r2 @duplicate alpha
vand q15, q15, q14 @(Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2))
vabd.u8 q14, q3, q4 @abs(p0-q0)
vorr q11, q11, q9 @ABS(p1 - p0) >= Beta || ABS(q1 - q0) >= Beta
vaddl.u8 q9, d6, d8 @p0+q0 L
vcge.u8 q14, q14, q13 @ABS(p0 - q0) >= Alpha
vaddl.u8 q13, d7, d9 @p0+q0 H
vaddw.u8 q9, q9, d10 @p0+q0+q1 L
vorr q11, q11, q14 @ABS(p1 - p0) >= Beta || ABS(q1 - q0) >= Beta||ABS(p0 - q0) >= Alpha
vaddw.u8 q13, q13, d11 @p0+q0+q1 H
vbic q7, q7, q11 @final condn for p's
vmov.i8 q14, #2
vbif q3, q12, q11 @final p0
vbit q1, q8, q7 @final p2
vbif q10, q2, q7 @final p1
vaddl.u8 q12, d8, d4 @q0+p1 L
vmlal.u8 q12, d10, d28 @X2(q1) + q0 + p1 L
vaddl.u8 q8, d9, d5 @q0+p1 H
vmlal.u8 q8, d11, d28 @X2(q1) + q0 + p1 H
vmov.i16 q14, #2
vaddl.u8 q7, d4, d12 @p1+q2 L
vmla.u16 q7, q9, q14 @p1 + X2(p0) + X2(q0) + X2(q1) + q2L
vaddl.u8 q2, d5, d13 @p1+q2H
vmla.u16 q2, q13, q14 @p1 + X2(p0) + X2(q0) + X2(q1) + q2H
vrshrn.u16 d24, q12, #2 @(X2(q1) + q0 + p1 + 2) >> 2; L q0'
vrshrn.u16 d25, q8, #2 @(X2(q1) + q0 + p1 + 2) >> 2; H q0'
vaddw.u8 q9, q9, d12 @p0 + q0 + q1 + q2 L
vaddw.u8 q13, q13, d13 @p0 + q0 + q1 + q2 H
vrshrn.u16 d16, q7, #3 @(p1 + X2(p0) + X2(q0) + X2(q1) + q2 + 4) >> 3 L qo"
vpop {q7}
vrshrn.u16 d17, q2, #3 @(p1 + X2(p0) + X2(q0) + X2(q1) + q2 + 4) >> 3 H qo"
vrshrn.u16 d4, q9, #2 @p0 + q0 + q1 + q2 + 2)>>2 L q1'
vrshrn.u16 d5, q13, #2 @p0 + q0 + q1 + q2 + 2)>>2 H q1'
vbit q12, q8, q15 @q0' or q0"
vbic q15, q15, q11 @final condn for q's
vtrn.8 d0, d2 @row1 &2
vbit q5, q2, q15 @final q1
vtrn.8 d1, d3 @row9 &10
vaddl.u8 q8, d12, d14 @q2+q3 L
vtrn.8 d20, d6 @row3&row4
vaddl.u8 q2, d13, d15 @q2+q3 H
vtrn.8 d21, d7 @row11 & 12
vmla.u16 q9, q8, q14 @X2(q3) + X3(q2) + q1 + q0 + p0 L
vtrn.16 d2, d6 @row2 & row4
vmla.u16 q13, q2, q14 @X2(q3) + X3(q2) + q1 + q0 + p0 H
vtrn.16 d3, d7 @row10 & 12
vbif q4, q12, q11 @final q0
vtrn.16 d0, d20 @row1 & 3
vrshrn.u16 d18, q9, #3 @(X2(q3) + X3(q2) + q1 + q0 + p0 + 4) >> 3; L
vtrn.16 d1, d21 @row9 & row11
vrshrn.u16 d19, q13, #3 @(X2(q3) + X3(q2) + q1 + q0 + p0 + 4) >> 3; H
vtrn.8 d8, d10 @row5&6
vbit q6, q9, q15 @final q2
vtrn.8 d9, d11 @row13 &14
vtrn.8 d12, d14 @row7 & 8
vtrn.8 d13, d15 @row15 & 16
vtrn.16 d10, d14 @row6 & row8
vtrn.16 d11, d15 @row14 & row16
@now Q3 ->p0 and Q7->q3
vtrn.16 d8, d12 @row 5 & 7
vtrn.16 d9, d13 @row13 & row15
sub r0, r0, r1, lsl#4 @restore pointer
vtrn.32 d6, d14 @row4 & 8
vtrn.32 d7, d15 @row 12 & 16
vtrn.32 d0, d8 @row1 & row5
vtrn.32 d1, d9 @row9 & 13
vtrn.32 d2, d10 @row2 &6
vtrn.32 d3, d11 @row10&row14
vtrn.32 d20, d12 @row3 & 7
vtrn.32 d21, d13 @row11 & row15
vst1.8 d0, [r0], r1 @row1
vst1.8 d2, [r0], r1 @row2
vst1.8 d20, [r0], r1 @row3
vst1.8 d6, [r0], r1 @row4
vst1.8 d8, [r0], r1 @row5
vst1.8 d10, [r0], r1 @row6
vst1.8 d12, [r0], r1 @row7
vst1.8 d14, [r0], r1 @row8
vst1.8 d1, [r0], r1 @row9
vst1.8 d3, [r0], r1 @row10
vst1.8 d21, [r0], r1 @row11
vst1.8 d7, [r0], r1 @row12
vst1.8 d9, [r0], r1 @row13
vst1.8 d11, [r0], r1 @row14
vst1.8 d13, [r0], r1 @row15
vst1.8 d15, [r0], r1 @row16
vpop {d8 - d15}
ldmfd sp!, {r12, pc}
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block vertical edge when the
@* boundary strength is set to 4 on calling twice
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_vert_bs4_mbaff_a9
ih264_deblk_luma_vert_bs4_mbaff_a9:
stmfd sp!, {lr}
sub r0, r0, #4 @pointer uc_edgePixel-4
vpush {d8 - d15}
@loading [p3:p2],[p1:p0]:[q0:q1]:[q2:q3] for every row
vld4.16 {d0[0], d2[0], d4[0], d6[0]}, [r0], r1
vld4.16 {d0[1], d2[1], d4[1], d6[1]}, [r0], r1
vld4.16 {d0[2], d2[2], d4[2], d6[2]}, [r0], r1
vld4.16 {d0[3], d2[3], d4[3], d6[3]}, [r0], r1
vld4.16 {d1[0], d3[0], d5[0], d7[0]}, [r0], r1
vld4.16 {d1[1], d3[1], d5[1], d7[1]}, [r0], r1
vld4.16 {d1[2], d3[2], d5[2], d7[2]}, [r0], r1
vld4.16 {d1[3], d3[3], d5[3], d7[3]}, [r0], r1
vuzp.8 d0, d1 @D0->p3, D1->p2
vuzp.8 d2, d3 @D2->p1, D3->p0
vuzp.8 d4, d5 @D4->q0, D5->q1
vuzp.8 d6, d7 @D6->q2, D7->q3
vmov.i16 q14, #2
vaddl.u8 q4, d3, d4 @p0+q0
vaddw.u8 q5, q4, d2 @p0+q0+p1
vaddl.u8 q6, d1, d5 @p2+q1
vmla.u16 q6, q5, q14 @p2 + X2(p1) + X2(p0) + X2(q0) + q1
vmov.i8 d14, #2
vaddw.u8 q4, q5, d1 @p0+q0+p1+p2
vdup.i8 d15, r2 @duplicate alpha
vrshrn.u16 d10, q4, #2 @(p2 + p1 + p0 + q0 + 2) >> 2) p1'
vabd.u8 d11, d3, d4 @ABD(p0-q0)
vsra.u8 d14, d15, #2 @alpha >>2 +2
vabd.u8 d15, d1, d3 @Ap = ABD(p2-p0)
vrshrn.u16 d12, q6, #3 @((p2 + X2(p1) + X2(p0) + X2(q0) + q1 + 4) >> 3) p0'
vdup.i8 d13, r3 @beta
vcgt.u8 d14, d14, d11 @ABS(p0 - q0) <((Alpha >>2) + 2)
vaddl.u8 q8, d3, d5 @p0+q1
vcgt.u8 d26, d13, d15 @beta>Ap
vaddw.u8 q8, q8, d2 @p0+q1+p1
vaddw.u8 q8, q8, d2 @p0+q1+2*p1
vand d26, d26, d14 @(Ap < Beta && ABS(p0 - q0) <((Alpha >>2) + 2)
vrshrn.u16 d11, q8, #2 @((X2(p1) + p0 + q1 + 2) >> 2) p0"
vbif d12, d11, d26 @p0' or p0 "
vaddl.u8 q9, d1, d0 @p2+p3
vadd.u16 q9, q9, q9 @2*(p2+p3)
vadd.u16 q4, q4, q9 @(X2(p3) + X3(p2) + p1 + p0 + q0)
vabd.u8 d15, d6, d4 @Aq = abs(q2-q0)
vabd.u8 d11, d5, d4 @ABS(q1-q0)
vrshrn.u16 d8, q4, #3 @((X2(p3) + X3(p2) + p1 + p0 + q0 + 4) >> 3); p2'
vabd.u8 d9, d2, d3 @ABS(p1-p0)
vcgt.u8 d15, d13, d15 @Aq < Beta
vcge.u8 d11, d11, d13 @ABS(q1 - q0) >= Beta
vcge.u8 d9, d9, d13 @ABS(p1 - p0) >= beta
vdup.i8 d13, r2 @duplicate alpha
vand d15, d15, d14 @(Aq < Beta && ABS(p0 - q0) <((Alpha >>2) + 2))
vabd.u8 d14, d3, d4 @abs(p0-q0)
vorr d11, d11, d9 @ABS(p1 - p0) >= Beta || ABS(q1 - q0) >= Beta
vcge.u8 d14, d14, d13 @ABS(p0 - q0) >= Alpha
vaddl.u8 q10, d3, d4 @p0+q0
vorr d11, d11, d14 @ABS(p1 - p0) >= Beta || ABS(q1 - q0) >= Beta||ABS(p0 - q0) >= Alpha
vaddw.u8 q10, q10, d5 @p0+q0+q1
vbic d26, d26, d11 @final condn for p's
vmov.i8 d14, #2
vbif d3, d12, d11 @final p0
vbit d1, d8, d26 @final p2
vbif d10, d2, d26 @final p1
vaddl.u8 q6, d4, d2 @q0+p1
vmlal.u8 q6, d5, d14 @X2(q1) + q0 + p1
vaddl.u8 q11, d2, d6 @p1+q2
vmla.u16 q11, q10, q14 @p1 + X2(p0) + X2(q0) + X2(q1) + q2
vrshrn.u16 d12, q6, #2 @(X2(q1) + q0 + p1 + 2) >> 2; q0'
vaddw.u8 q10, q10, d6 @p0 + q0 + q1 + q2
vrshrn.u16 d8, q11, #3 @(p1 + X2(p0) + X2(q0) + X2(q1) + q2 + 4) >> 3 qo"
vrshrn.u16 d2, q10, #2 @p0 + q0 + q1 + q2 + 2)>>2 q1'
vbit d12, d8, d15 @q0' or q0"
vbic d15, d15, d11 @final condn for q's
vbit d5, d2, d15 @final q1
vaddl.u8 q12, d6, d7 @q2+q3
vmla.u16 q10, q12, q14 @X2(q3) + X3(q2) + q1 + q0 + p0
vbif d4, d12, d11 @final q0
vrshrn.u16 d9, q10, #3 @(X2(q3) + X3(q2) + q1 + q0 + p0 + 4) >> 3;
vbit d6, d9, d15 @final q2
vand d2, d10, d10 @D0->p3, D1->p2, D2->p1, D3->p0, D4->q0, D5->q1, D6->q2, D7->q3
vzip.8 d0, d1 @D0,D1 -> [p3:p2]
vzip.8 d2, d3 @D2,D3 -> [p1:p0]
vzip.8 d4, d5 @D4,D5 -> [q0:q1]
vzip.8 d6, d7 @D6,D7 -> [q2:q3]
sub r0, r0, r1, lsl#3 @restore pointer
@storing [p3:p2],[p1:p0]:[q0:q1]:[q2:q3] in every row
vst4.16 {d0[0], d2[0], d4[0], d6[0]}, [r0], r1
vst4.16 {d0[1], d2[1], d4[1], d6[1]}, [r0], r1
vst4.16 {d0[2], d2[2], d4[2], d6[2]}, [r0], r1
vst4.16 {d0[3], d2[3], d4[3], d6[3]}, [r0], r1
vst4.16 {d1[0], d3[0], d5[0], d7[0]}, [r0], r1
vst4.16 {d1[1], d3[1], d5[1], d7[1]}, [r0], r1
vst4.16 {d1[2], d3[2], d5[2], d7[2]}, [r0], r1
vst4.16 {d1[3], d3[3], d5[3], d7[3]}, [r0], r1
vpop {d8 - d15}
ldmfd sp!, {pc}
@**
@*******************************************************************************
@*
@* @brief
@* Performs filtering of a luma block vertical edge for cases where the
@* boundary strength is less than 4 on calling twice
@*
@* @par Description:
@* This operation is described in Sec. 8.7.2.4 under the title
@* "Filtering process for edges for bS equal to 4" in ITU T Rec H.264.
@*
@* @param[in] r0 - pu1_src
@* Pointer to the src sample q0
@*
@* @param[in] r1 - src_strd
@* Source stride
@*
@* @param[in] r2 - alpha
@* Alpha Value for the boundary
@*
@* @param[in] r3 - beta
@* Beta Value for the boundary
@*
@* @param[in] sp(0) - u4_bs
@* Packed Boundary strength array
@*
@* @param[in] sp(4) - pu1_cliptab
@* tc0_table
@*
@* @returns
@* None
@*
@* @remarks
@* None
@*
@*******************************************************************************
@*
.global ih264_deblk_luma_vert_bslt4_mbaff_a9
ih264_deblk_luma_vert_bslt4_mbaff_a9:
stmfd sp!, {r12, lr}
sub r0, r0, #4 @pointer uc_edgePixel-4
ldr r12, [sp, #8] @r12 = ui_Bs
ldr r14, [sp, #12] @r14 = pu1_ClipTab
vpush {d8 - d15}
@loading [p3:p2],[p1:p0]:[q0:q1]:[q2:q3] for every row
vld4.16 {d0[0], d2[0], d4[0], d6[0]}, [r0], r1
vld4.16 {d0[1], d2[1], d4[1], d6[1]}, [r0], r1
vld4.16 {d0[2], d2[2], d4[2], d6[2]}, [r0], r1
vld4.16 {d0[3], d2[3], d4[3], d6[3]}, [r0], r1
vld4.16 {d1[0], d3[0], d5[0], d7[0]}, [r0], r1
vld4.16 {d1[1], d3[1], d5[1], d7[1]}, [r0], r1
vld4.16 {d1[2], d3[2], d5[2], d7[2]}, [r0], r1
vld4.16 {d1[3], d3[3], d5[3], d7[3]}, [r0], r1
vuzp.8 d0, d1 @D0->p3, D1->p2
vuzp.8 d2, d3 @D2->p1, D3->p0
vuzp.8 d4, d5 @D4->q0, D5->q1
vuzp.8 d6, d7 @D6->q2, D7->q3
rev r12, r12 @reversing ui_bs
vmov.32 d8[0], r12 @D8[0] = ui_Bs
vld1.32 d9[0], [r14] @D9[0] contains cliptab
vmovl.u8 q15, d8 @D30 = ui_Bs in each 16 bt scalar
vtbl.8 d8, {d9}, d30 @puc_ClipTab[ui_Bs]
vsli.16 d8, d8, #8 @D8 = C0
vrhadd.u8 d10, d3, d4 @((p0 + q0 + 1) >> 1)
vmov.i8 d31, #2
vabd.u8 d11, d3, d4 @ABS(p0 - q0)
vaddl.u8 q6, d10, d1 @(p2 + ((p0 + q0 + 1) >> 1)
vmlsl.u8 q6, d2, d31 @(p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1))
vdup.8 d14, r2 @alpha
vcle.u8 d11, d14, d11 @ABS(p0 - q0) >= Alpha(Alpha <=ABS(p0 - q0))
vdup.i8 d14, r3 @beta
vabd.u8 d15, d5, d4 @ABS(q1 - q0)
vqshrn.s16 d12, q6, #1 @((p2 + ((p0 + q0 + 1) >> 1) - (p1 << 1)) >> 1)
vcge.u8 d15, d15, d14 @ABS(q1 - q0) >= Beta
vabd.u8 d13, d2, d3 @ABS(p1 - p0)
vmin.s8 d12, d12, d8 @min(deltap1 ,C0)
vorr d11, d11, d15 @ABS(q1 - q0) >= Beta ||ABS(p0 - q0) >= Alpha
vneg.s8 d15, d8 @-C0
vcge.u8 d13, d13, d14 @ABS(p1 - p0) >= Beta
vmax.s8 d12, d12, d15 @max(deltap1,-C0)
vorr d11, d11, d13 @ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta)
vceq.u16 d13, d30, #0 @ui_bs == 0
vaddl.u8 q14, d10, d6 @q2 + ((p0 + q0 + 1) >> 1)
vsubw.u8 q14, q14, d5 @q2 + ((p0 + q0 + 1) >> 1) - q1
vsubw.u8 q14, q14, d5 @q2 + ((p0 + q0 + 1) >> 1) - 2*q1
vorr d13, d13, d11 @(ABS(p0 - q0) >= Alpha || ABS(q1 - q0) >= Beta || ABS(p1 - p0) >= Beta))
@|| (ui_bs == 0)
vqshrn.s16 d9, q14, #1 @(q2 + ((p0 + q0 + 1) >> 1) - (q1 << 1)) >> 1
vabd.u8 d11, d1, d3 @Ap = ABS(p2 - p0)
vabd.u8 d10, d6, d4 @Aq= ABS(q2 - q0)
vclt.u8 d11, d11, d14 @Ap < Beta
vmin.s8 d9, d9, d8 @min(deltaq1,C0)
vclt.u8 d10, d10, d14 @Aq < Beta
vmax.s8 d9, d9, d15 @max(deltaq1,-C0)
vsubl.u8 q7, d4, d3 @q0 - p0
vshl.s16 q7, q7, #2 @(q0 - p0) << 2
vsub.u8 d8, d8, d11 @C0 + (Ap < Beta)
vaddw.u8 q7, q7, d2 @((q0 - p0) << 2) + p1
vsubw.u8 q7, q7, d5 @((q0 - p0) << 2) + (p1 - q1)
vbic d11, d11, d13 @final condition for p1
vrshr.s16 q15, q7, #3 @delta = (((q0 - p0) << 2) + (p1 - q1) + 4) >> 3
vsub.u8 d8, d8, d10 @C0 + (Ap < Beta) + (Aq < Beta)
vbic d10, d10, d13 @final condition for q1
vabs.s16 q14, q15
vmovn.i16 d15, q14 @abs(delta)
vand d12, d12, d11 @delatp1
vand d9, d9, d10 @deltaq1
vmin.u8 d15, d15, d8 @min((abs(delta),C)
vadd.i8 d2, d2, d12 @p1+deltap1
vadd.i8 d5, d5, d9 @q1+deltaq1
vbic d15, d15, d13 @abs(delta) of pixels to be changed only
vcge.s16 q14, q15, #0
vmovn.i16 d14, q14 @sign(delta)
vqsub.u8 d11, d3, d15 @clip(p0-delta)
vqadd.u8 d3, d3, d15 @clip(p0+delta)
vqadd.u8 d12, d4, d15 @clip(q0+delta)
vqsub.u8 d4, d4, d15 @clip(q0-delta)
vbif d3, d11, d14 @p0
vbif d4, d12, d14 @q0
sub r0, r0, r1, lsl#3 @restore pointer
@D0->p3, D1->p2, D2->p1, D3->p0, D4->q0, D5->q1, D6->q2, D7->q3
vzip.8 d0, d1 @D0,D1 -> [p3:p2]
vzip.8 d2, d3 @D2,D3 -> [p1:p0]
vzip.8 d4, d5 @D4,D5 -> [q0:q1]
vzip.8 d6, d7 @D6,D7 -> [q2:q3]
@storing [p3:p2],[p1:p0]:[q0:q1]:[q2:q3] in every row
vst4.16 {d0[0], d2[0], d4[0], d6[0]}, [r0], r1
vst4.16 {d0[1], d2[1], d4[1], d6[1]}, [r0], r1
vst4.16 {d0[2], d2[2], d4[2], d6[2]}, [r0], r1
vst4.16 {d0[3], d2[3], d4[3], d6[3]}, [r0], r1
vst4.16 {d1[0], d3[0], d5[0], d7[0]}, [r0], r1
vst4.16 {d1[1], d3[1], d5[1], d7[1]}, [r0], r1
vst4.16 {d1[2], d3[2], d5[2], d7[2]}, [r0], r1
vst4.16 {d1[3], d3[3], d5[3], d7[3]}, [r0], r1
vpop {d8 - d15}
ldmfd sp!, {r12, pc}