Mac-4.7.4/src/opengl/util/composition_mode_overlay.glsl

// Dca' = 2.Dca < Da ?
//        2.Sca.Dca + Sca.(1 - Da) + Dca.(1 - Sa)
//        Sa.Da - 2.(Da - Dca).(Sa - Sca) + Sca.(1 - Da) + Dca.(1 - Sa)
// Da'  = Sa + Da - Sa.Da
vec4 composite(vec4 src, vec4 dst)
{
    vec4 result;
    result.rgb = mix(2.0 * src.rgb * dst.rgb + src.rgb * (1.0 - dst.a) + dst.rgb * (1.0 - src.a),
                     src.a * dst.a - 2.0 * (dst.a - dst.rgb) * (src.a - src.rgb) + src.rgb * (1.0 - dst.a) + dst.rgb * (1.0 - src.a),
                     step(dst.a, 2.0 * dst.rgb));
    result.a = src.a + dst.a - src.a * dst.a;
    return result;
}