SIMD---AVX系列

lgxZJ 2018-04-01 原文

AVX全称Advanced Vcetor Extension，是对SSE的后续扩展，主要分为AVX、AVX2、AVX512三种。在目前常见的机器上，大多只支持到AVX系列，因此其他SIMD扩展指令我们就先不学习了。

1. AVX系列

1.1 AVX

AVX使用了16个YMM寄存器，主要针对的是浮点数计算优化，支持32位单精度和64位双精度。AVX将打包长度由SSE的128位扩展为256位。

AVX主要有两个改进：

256位浮点打包数据长度。
三位操作数：计算形式可以由先前的A = A + B改为A = B + C。

AVX使用了SSE的128的寄存器，YMM寄存器的低位部分是XMM寄存器：

avx-register

1.2 AVX2

AVX2是AVX指令的扩展，主要在整形数据方面做了完善：

256位整形打包数据。
算数运算支持完善。

1.3 AVX-512

AVX-512指令扩展主要把256位数据扩展到512位，在数据级并行又迈进了一步。AVX-512扩展包含好几个部分：

AVX-512 Foundation
AVX-512 Conflict Detection Instructions (CD)
AVX-512 Exponential and Reciprocal Instructions (ER)
AVX-512 Prefetch Instructions (PF)
AVX-512 Vector Length Extensions (VL)
AVX-512 Byte and Word Instructions (BW)
AVX-512 Doubleword and Quadword Instructions (DQ)
AVX-512 Integer Fused Multiply Add (IFMA)
AVX-512 Vector Byte Manipulation Instructions (VBMI)
AVX-512 Vector Neural Network Instructions Word variable precision (4VNNIW)
AVX-512 Fused Multiply Accumulation Packed Single precision (4FMAPS)
AVX-512 Vector Neural Network Instructions (VNNI)
AVX-512 Galois Field New Instructions(GFNI)
AVX-512 Vector AES instructions (VAES)
AVX-512 Vector Byte Manipulation Instructions 2 (VBMI2)
AVX-512 Bit Algorithms (BITALG)

但是只有Foundation部分是各实现保证支持的。

2. AVX功能支持检测

不是所有机型都通用的指令集需要调用cpuid指令来检测：

    push ecx

    mov eax, 0
    cpuid
    cmp ecx, 1
    jb notSupported //  check if supports EAX=1 when using CPUID

    mov eax, 1
    cpuid
    and ecx, 0x18000000 //  clear non-related bits
    cmp ecx, 0x18000000 //  check OSXSAVE and avx
    jne notSupported

    mov ecx, 0
    XGETBV              //  get XCR0 register value
    and eax, 0x6
    cmp eax, 0x6        //  check XMM and YMM state
    jne notSupported

    mov eax, 1
    jmp done

notSupported:
    mov eax, 0

done:
    pop ecx

根据Intel开发者指南，我们需要检测OSXSAVE、AVX、XMM state、YMM state这四个功能。cpuid隐式使用eax寄存器作为指令参数执行：当eax位0时，cpuid返回eax可传入最大值；传入1时，返回功能标记为，这时候我们通过检查ecx寄存器的第28、29位就可以判断是否分别支持OSXSAVE和AVX功能；之后我们要给ecx赋值0来作为参数调用XGETBV指令，这个指令返回结果的第2、3位表明XMM、YMM状态是否开启。

3. AVX优化使用

与之前的随笔一样，我们对10000000个单精度浮点数进行加操作，但是我电脑机型不支持AVX2，因此无法演示AVX系列的整数优化操作：

__m256 step = _mm256_set_ps(10.0, 10.0, 10.0, 10.0, 
                            10.0, 10.0, 10.0, 10.0);
__m256* dst = reinterpret_cast<__m256*>(data);
for (unsigned i = 0; i < count; i += 8)
{
    __m256 sum = _mm256_add_ps(*dst, step);
    *dst++ = sum;
}