SIMD: replace raw AVX512 of floor/trunc/rint with universal intrinsics#20397
Merged
Conversation
8453b70 to
7735ab3
Compare
3253810 to
81e8175
Compare
81e8175 to
ca6f777
Compare
Member
Author
|
ping @mattip |
Member
|
Thanks @seiko2plus |
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
merge after:
npyv_floor_##sfxENH, SIMD: add new universal intrinsics for floor/rint #20285npyv_rint_##sfxENH, SIMD: add new universal intrinsics for floor/rint #20285Benchmark
X86
CPU
OS
Linux ip-172-31-32-40 5.11.0-1020-aws #21~20.04.2-Ubuntu SMP Fri Oct 1 13:03:59 UTC 2021 x86_64 x86_64 x86_64 GNU/Linux Python 3.8.10 gcc (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0Benchmark
Before(AVX512f) vs After(SSE41)
before after ratio [8e1c0c8f] [ca6f7772] <replace_rest_unary> - 165±1μs 151±0.3μs 0.92 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'd') - 513±0.7μs 451±0.4μs 0.88 bench_ufunc.UFunc.time_ufunc_types('rint') - 131±4μs 115±3μs 0.88 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'd') - 131±0.1μs 115±0.5μs 0.88 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 4, 'f') - 255±0.4μs 222±0.4μs 0.87 bench_ufunc.UFunc.time_ufunc_types('floor') - 252±0.4μs 217±0.3μs 0.86 bench_ufunc.UFunc.time_ufunc_types('trunc') - 135±2μs 114±0.3μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 2, 'f') - 193±8μs 152±4μs 0.78 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 4, 'f') - 149±5μs 115±2μs 0.77 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'd') - 196±1μs 151±0.5μs 0.77 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'd') - 149±0.4μs 114±0.6μs 0.76 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 4, 'f') - 132±3μs 99.1±2μs 0.75 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 4, 'f') - 151±0.9μs 113±0.7μs 0.75 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 2, 'f') - 154±4μs 97.9±2μs 0.64 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 4, 'f') - 124±2μs 75.6±1μs 0.61 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 2, 'f') - 192±5μs 115±3μs 0.60 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'd') - 191±0.2μs 114±0.5μs 0.60 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 4, 'f') - 192±0.8μs 114±0.5μs 0.59 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 2, 'f') - 146±2μs 76.9±2μs 0.53 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'f') - 200±6μs 98.1±2μs 0.49 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 4, 'f') - 123±0.1μs 49.2±0.4μs 0.40 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'f') - 191±3μs 75.6±1μs 0.40 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'f') - 145±0.3μs 49.4±0.4μs 0.34 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'f') - 189±0.3μs 49.1±0.3μs 0.26 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'f')SSE41
before after ratio [8e1c0c8f] [ca6f7772] <replace_rest_unary> - 225±0.9μs 214±0.5μs 0.95 bench_ufunc.UFunc.time_ufunc_types('trunc') - 242±5μs 218±0.6μs 0.90 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 2, 'd') - 131±4μs 110±2μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'd') - 130±1μs 109±0.2μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 4, 'f') - 133±3μs 109±0.1μs 0.82 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 2, 'f') - 185±0.7μs 145±0.3μs 0.78 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'd') - 193±7μs 145±4μs 0.75 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 4, 'f') - 147±0.5μs 109±0.6μs 0.74 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 4, 'f') - 197±2μs 145±0.3μs 0.73 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'd') - 148±0.9μs 108±0.4μs 0.73 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 2, 'f') - 131±4μs 92.0±2μs 0.70 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 4, 'f') - 21.6±0.2μs 14.6±0.8μs 0.68 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 1, 'f') - 154±5μs 93.7±2μs 0.61 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 4, 'f') - 183±5μs 110±2μs 0.60 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'd') - 124±2μs 73.4±0.5μs 0.59 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 2, 'f') - 191±5μs 110±3μs 0.57 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'd') - 191±0.2μs 109±0.2μs 0.57 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 4, 'f') - 192±0.3μs 109±0.2μs 0.57 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 2, 'f') - 146±2μs 71.6±0.6μs 0.49 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'f') - 201±6μs 93.7±2μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 4, 'f') - 123±0.3μs 47.7±0.6μs 0.39 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'f') - 190±2μs 73.2±2μs 0.38 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'f') - 144±0.1μs 47.5±0.09μs 0.33 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'f') - 189±0.1μs 47.8±0.6μs 0.25 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'f')Power little-endian
CPU
OS
Linux e517009a912a 4.19.0-2-powerpc64le #1 SMP Debian 4.19.16-1 (2019-01-17) ppc64le ppc64le ppc64le GNU/Linux gcc (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0Benchmark
baseline(VSX2)
python runtests.py -n --bench-compare parent/main "rint|floor|trunc" -- --sort ratiobefore after ratio [8e1c0c8f] [ca6f7772] <replace_rest_unary> + 142±1μs 153±1μs 1.08 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 4, 'd') - 125±0.09μs 118±0.4μs 0.94 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'd') - 147±0.3μs 119±1μs 0.81 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 2, 'f') - 147±0.3μs 119±1μs 0.81 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 2, 'f') - 147±0.6μs 119±0.6μs 0.81 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 4, 'f') - 130±0.9μs 105±2μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 1, 'd') - 149±2μs 119±0.5μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 4, 'f') - 131±1μs 104±1μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 1, 'd') - 145±0.9μs 116±0.07μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 4, 'f') - 4.35±0.01ms 3.47±0.01ms 0.80 bench_ufunc.UFunc.time_ufunc_types('rint') - 145±0.3μs 116±0.3μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'f') - 145±0.3μs 116±0.4μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'f') - 145±0.3μs 116±0.5μs 0.80 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 4, 'f') - 125±0.3μs 93.8±0.7μs 0.75 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'd') - 125±0.7μs 92.6±2μs 0.74 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'd') - 126±0.4μs 77.6±0.3μs 0.62 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 1, 'd') - 125±0.2μs 77.3±0.2μs 0.62 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 1, 'd') - 147±0.7μs 78.6±1μs 0.53 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 4, 'f') - 147±0.7μs 76.3±0.3μs 0.52 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 4, 'f') - 145±0.7μs 71.4±0.4μs 0.49 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'f') - 145±0.4μs 70.7±0.2μs 0.49 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'f') - 123±0.2μs 58.6±0.3μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 1, 'd') - 124±0.5μs 58.6±0.2μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 1, 'd') - 146±0.3μs 67.1±0.3μs 0.46 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 1, 'f') - 147±0.3μs 66.8±0.2μs 0.46 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 1, 'f') - 145±0.3μs 65.8±0.5μs 0.45 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 1, 'f') - 146±0.6μs 65.8±0.4μs 0.45 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 1, 'f') - 145±0.09μs 33.6±0.2μs 0.23 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 1, 'f') - 146±0.4μs 33.7±0.04μs 0.23 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 1, 'f') - 1.76±0.05ms 154±2μs 0.09 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 4, 'd') - 1.78±0.04ms 147±4μs 0.08 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 4, 'd') - 1.76±0.05ms 144±3μs 0.08 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 4, 'd') - 1.77±0.04ms 130±3μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 2, 'd') - 1.73±0.01ms 119±0.9μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 2, 'f') - 1.74±0.01ms 119±0.5μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 4, 'f') - 1.73±0.02ms 116±0.5μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 4, 'f') - 1.74±0.01ms 116±0.4μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 2, 'f') - 1.77±0.04ms 117±0.6μs 0.07 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 2, 'd') - 1.75±0.04ms 104±1μs 0.06 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 1, 'd') - 1.75±0.04ms 91.3±2μs 0.05 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'd') - 1.74±0.02ms 77.5±1μs 0.04 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 4, 'f') - 1.74±0.03ms 77.6±0.2μs 0.04 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 1, 'd') - 1.73±0.02ms 70.7±0.4μs 0.04 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'f') - 1.73±0.01ms 66.7±0.3μs 0.04 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 1, 'f') - 1.72±0.02ms 65.8±0.2μs 0.04 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 1, 'f') - 1.75±0.03ms 58.5±0.2μs 0.03 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 1, 'd') - 1.72±0.02ms 33.7±0.03μs 0.02 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 1, 'f')AArch64
CPU
OS
Linux ip-172-31-44-172 5.11.0-1020-aws #21~20.04.2-Ubuntu SMP Fri Oct 1 13:01:34 UTC 2021 aarch64 aarch64 aarch64 GNU/Linux gcc (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0Benchmark
baseline(ASIMD)
python runtests.py --bench-compare parent/main "rint|floor|trunc" -- --sort ratiobefore after ratio [8e1c0c8f] [ca6f7772] <replace_rest_unary> + 97.6±0.5μs 108±0.7μs 1.11 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 4, 'f') + 97.6±0.8μs 108±0.7μs 1.11 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 4, 'f') + 97.6±0.6μs 107±0.9μs 1.10 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 4, 'f') - 89.5±0.4μs 83.7±0.2μs 0.93 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 1, 'f') - 89.1±0.4μs 82.0±0.7μs 0.92 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 4, 'f') - 89.1±0.4μs 81.9±0.5μs 0.92 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 4, 'f') - 89.0±0.4μs 81.7±0.6μs 0.92 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 4, 'f') - 88.8±1μs 80.3±0.7μs 0.90 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'd') - 88.7±1μs 80.0±0.8μs 0.90 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'd') - 88.7±1μs 79.9±0.8μs 0.90 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'd') - 90.8±0.6μs 81.3±0.8μs 0.90 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 1, 'd') - 91.2±0.5μs 81.4±1μs 0.89 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 1, 'd') - 90.7±0.7μs 81.0±0.9μs 0.89 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 1, 'd') - 161±0.7μs 142±2μs 0.88 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 4, 1, 'd') - 253±5μs 219±0.1μs 0.87 bench_ufunc.UFunc.time_ufunc_types('floor') - 162±0.6μs 140±2μs 0.87 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 4, 1, 'd') - 163±1μs 141±3μs 0.86 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 4, 1, 'd') - 243±7μs 209±0.4μs 0.86 bench_ufunc.UFunc.time_ufunc_types('trunc') - 89.1±1μs 75.1±1μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 4, 'f') - 89.2±1μs 75.0±0.8μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 4, 'f') - 89.3±1μs 74.8±1μs 0.84 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 4, 'f') - 83.5±0.5μs 68.8±0.2μs 0.82 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 2, 'f') - 83.4±0.5μs 68.6±0.2μs 0.82 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 2, 'f') - 83.8±0.3μs 68.5±0.2μs 0.82 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 2, 'f') - 82.7±0.3μs 55.3±0.3μs 0.67 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 2, 'f') - 82.7±0.09μs 55.2±0.2μs 0.67 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 2, 'f') - 82.6±0.3μs 55.0±0.3μs 0.67 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 2, 'f') - 85.1±0.7μs 40.4±0.7μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 1, 'd') - 85.2±0.4μs 40.3±0.6μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 1, 'd') - 85.2±0.4μs 40.0±0.5μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 2, 1, 'f') - 85.0±0.4μs 39.8±0.6μs 0.47 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 2, 1, 'f') - 85.3±0.3μs 39.6±0.3μs 0.46 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 2, 1, 'f') - 85.4±0.7μs 39.4±0.6μs 0.46 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 1, 'd') - 82.5±0.2μs 24.1±0.8μs 0.29 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'rint'>, 1, 1, 'f') - 82.5±0.3μs 24.0±0.4μs 0.29 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'trunc'>, 1, 1, 'f') - 82.4±0.3μs 23.9±0.4μs 0.29 bench_ufunc_strides.Unary.time_ufunc(<ufunc 'floor'>, 1, 1, 'f')Binary size(striped)