雷神之錘III》裡求平方根倒數的函數（快速平方根(倒數)算法）

在3D圖形程式設計中，經常要求平方根或平方根的倒數，例如：求向量的長度或将向量歸一化。C數學函數庫中的sqrt具有理想的精度，但對于3D遊戲程式來說速度太慢。我們希望能夠在保證足夠的精度的同時，進一步提高速度。

Carmack在QUAKE3中使用了下面的算法，它第一次在公衆場合出現的時候，幾乎震住了所有的人。據說該算法其實并不是Carmack發明的，它真正的作者是Nvidia的Gary Tarolli（未經證明）。

[code]

//

// 計算參數x的平方根的倒數

//

float InvSqrt (float x)

{

float xhalf = 0.5f*x;

int i = *(int*)&x;

i = 0x5f3759df - (i >> 1); // 計算第一個近似根

x = *(float*)&i;

x = x*(1.5f - xhalf*x*x); // 牛頓疊代法

return x;

} [/code]

該算法的本質其實就是牛頓疊代法（Newton-Raphson Method，簡稱NR），而NR的基礎則是泰勒級數（Taylor Series）。NR是一種求方程的近似根的方法。首先要估計一個與方程的根比較靠近的數值，然後根據公式推算下一個更加近似的數值，不斷重複直到可以獲得滿意的精度。其公式如下：

函數：y=f(x)

其一階導數為：y'=f'(x)

則方程：f(x)=0 的第n+1個近似根為

x[n+1] = x[n] - f(x[n]) / f'(x[n])

NR最關鍵的地方在于估計第一個近似根。如果該近似根與真根足夠靠近的話，那麼隻需要少數幾次疊代，就可以得到滿意的解。

現在回過頭來看看如何利用牛頓法來解決我們的問題。求平方根的倒數，實際就是求方程1/(x^2)-a=0的解。将該方程按牛頓疊代法的公式展開為：

x[n+1]=1/2*x[n]*(3-a*x[n]*x[n])

将1/2放到括号裡面，就得到了上面那個函數的倒數第二行。

接着，我們要設法估計第一個近似根。這也是上面的函數最神奇的地方。它通過某種方法算出了一個與真根非常接近的近似根，是以它隻需要使用一次疊代過程就獲得了較滿意的解。它是怎樣做到的呢？所有的奧妙就在于這一行：

i = 0x5f3759df - (i >> 1); // 計算第一個近似根

超級莫名其妙的語句，不是嗎？但仔細想一下的話，還是可以了解的。我們知道，IEEE标準下，float類型的資料在32位系統上是這樣表示的（大體來說就是這樣，但省略了很多細節，有興趣可以GOOGLE）。

bits：31 30 ... 0

31：符号位

30-23：共8位，儲存指數（E）

22-0：共23位，儲存尾數（M）

是以，32位的浮點數用十進制實數表示就是：M*2^E。開根然後倒數就是：M^(-1/2)*2^(-E/2)。現在就十厘清晰了。語句i>>1其工作就是将指數除以2，實作2^(E/2)的部分。而前面用一個常數減去它，目的就是得到M^(1/2)同時反轉所有指數的符号。

至于那個0x5f3759df，呃，我隻能說，的确是一個超級的Magic Number。

那個Magic Number是可以推導出來的，但我并不打算在這裡讨論，因為實在太繁瑣了。簡單來說，其原理如下：因為IEEE的浮點數中，尾數M省略了最前面的1，是以實際的尾數是1+M。如果你在大學上數學課沒有打瞌睡的話，那麼當你看到(1+M)^(-1/2)這樣的形式時，應該會馬上聯想的到它的泰勒級數展開，而該展開式的第一項就是常數。下面給出簡單的推導過程：

對于實數R>0，假設其在IEEE的浮點表示中，

指數為E，尾數為M，則：

R^(-1/2)

= (1+M)^(-1/2) * 2^(-E/2)

将(1+M)^(-1/2)按泰勒級數展開，取第一項，得：

原式

= (1-M/2) * 2^(-E/2)

= 2^(-E/2) - (M/2) * 2^(-E/2)

如果不考慮指數的符号的話，

(M/2)*2^(E/2)正是(R>>1)，

而在IEEE表示中，指數的符号隻需簡單地加上一個偏移即可，

而式子的前半部分剛好是個常數，是以原式可以轉化為：

原式 = C - (M/2)*2^(E/2) = C - (R>>1)，其中C為常數

是以隻需要解方程：

R^(-1/2)

= (1+M)^(-1/2) * 2^(-E/2)

= C - (R>>1)

求出令到相對誤差最小的C值就可以了

上面的推導過程隻是我個人的了解，并未得到證明。而Chris Lomont則在他的論文中詳細讨論了最後那個方程的解法，并嘗試在實際的機器上尋找最佳的常數C。

是以，所謂的Magic Number，并不是從N元宇宙的某個星系由于時空扭曲而掉到地球上的，而是幾百年前就有的數學理論。隻要熟悉NR和泰勒級數，你我同樣有能力作出類似的優化。

在GameDev.net上有人做過測試，該函數的相對誤差約為0.177585%，速度比C标準庫的sqrt提高超過20%。如果增加一次疊代過程，相對誤差可以降低到e-004的級數，但速度也會降到和sqrt差不多。據說在DOOM3中，Carmack通過查找表進一步優化了該算法，精度近乎完美，而且速度也比原版提高了一截。

值得注意的是，在Chris Lomont的演算中，理論上最優秀的常數（精度最高）是0x5f37642f，并且在實際測試中，如果隻使用一次疊代的話，其效果也是最好的。但奇怪的是，經過兩次NR後，在該常數下解的精度将降低得非常厲害（天知道是怎麼回事！）。經過實際的測試，Chris Lomont認為，最優秀的常數是0x5f375a86。如果換成64位的double版本的話，算法還是一樣的，而最優常數則為0x5fe6ec85e7de30da（又一個令人冒汗的Magic Number - -b）。

這個算法依賴于浮點數的内部表示和位元組順序，是以是不具移植性的。如果放到Mac上跑就會挂掉。如果想具備可移植性，還是乖乖用sqrt好了。但算法思想是通用的。大家可以嘗試推算一下相應的平方根算法。

下面給出Carmack在QUAKE3中使用的平方根算法。Carmack已經将QUAKE3的所有源代碼捐給開源了，是以大家可以放心使用，不用擔心會收到律師信。

[code]

//

// Carmack在QUAKE3中使用的計算平方根的函數

//

float CarmSqrt(float x){

union{

int intPart;

float floatPart;

} convertor;

union{

int intPart;

float floatPart;

} convertor2;

convertor.floatPart = x;

convertor2.floatPart = x;

convertor.intPart = 0x1FBCF800 + (convertor.intPart >> 1);

convertor2.intPart = 0x5f3759df - (convertor2.intPart >> 1);

return 0.5f*(convertor.floatPart + (x * convertor2.floatPart));

} [/code]

另一個基于同樣算法的更高速度的sqrt實作如下。其隻是簡單地将指數除以2，并沒有考慮尾數的方根。要看懂該代碼的話必須知道，在IEEE浮點數的格式中，E是由實際的指數加127得到的。例如，如果實數是0.1234*2^10，在浮點表示中，E（第23-30位）的值其實為10+127=137。是以下面的代碼中，要處理127偏移，這就是常數0x3f800000的作用。我沒實際測試過該函數，是以對其優劣無從評論，但估計其精度應該會降低很多。

[code]

float Faster_Sqrtf(float f)

{

float result;

_asm

{

mov eax, f

sub eax, 0x3f800000

sar eax, 1

add eax, 0x3f800000

mov result, eax

}

return result;

} [/code]

除了基于NR的方法外，其他常見的快速算法還有多項式逼近。下面的函數取自《3D遊戲程式設計大師技巧》，它使用一個多項式來近似替代原來的長度方程，但我搞不清楚作者使用的公式是怎麼推導出來的（如果你知道的話請告訴我，謝謝）。

[code]

//

// 這個函數計算從(0,0)到(x,y)的距離，相對誤差為3.5%

//

int FastDistance2D(int x, int y)

{

x = abs(x);

y = abs(y);

int mn = MIN(x,y);

return(x+y-(mn>>1)-(mn>>2)+(mn>>4));

}

//

// 該函數計算(0,0,0)到(x,y,z)的距離，相對誤差為8%

//

float FastDistance3D(float fx, float fy, float fz)

{

int temp;

int x,y,z;

// 確定所有的值為正

x = int(fabs(fx) * 1024);

y = int(fabs(fy) * 1024);

z = int(fabs(fz) * 1024);

// 排序

if (y < x) SWAP(x,y,temp)

if (z < y) SWAP(y,z,temp)

if (y < x) SWAP(x,y,temp)

int dist = (z + 11 * (y >> 5) + (x >> 2) );

return((float)(dist >> 10));

} [/code]

還有一種方法稱為Distance Estimates（距離評估？），如下圖所示：

紅線所描繪的正八邊形上的點為：

octagon(x,y) = min((1/√2) * (|x|+|y|), max(|x|,|y|))

求出向量v1和v2的長度，則： √(x^2+y^2) = (|v1|+|v2|)/2 * octagon(x,y)

到目前為止我們都在讨論浮點數的方根算法，接下來輪到整數的方根算法。也許有人認為對整型資料求方根無任何意義，因為會得到類似99^(1/2)=9的結果。通常情況下确實是這樣，但當我們使用定點數的時候（定點數仍然被應用在很多系統上面，例如任天堂的GBA之類的手持裝置），整數的方根算法就顯得非常重要。對整數開平方的算法如下。我并不打算在這讨論它（事實是我也沒有仔細考究，因為在短期内都不會用到- -b），但你可以在文末James Ulery的論文中找到非常詳細的推導過程。

[code]

//

// 為了閱讀的需要，我在下面的宏定義中添加了換行符

//

#define step(shift)

if((0x40000000l >> shift) + sqrtVal <= val)

{

val -= (0x40000000l >> shift) + sqrtVal;

sqrtVal = (sqrtVal >> 1) | (0x40000000l >> shift);

}

else

{

sqrtVal = sqrtVal >> 1;

}

//

// 計算32位整數的平方根

//

int32 xxgluSqrtFx(int32 val)

{

// Note: This fast square root function

// only works with an even Q_FACTOR

int32 sqrtVal = 0;

step(0);

step(2);

step(4);

step(6);

step(8);

step(10);

step(12);

step(14);

step(16);

step(18);

step(20);

step(22);

step(24);

step(26);

step(28);

step(30);

if(sqrtVal < val)

{

++sqrtVal;

}

sqrtVal <<= (Q_FACTOR)/2;

return(sqrtVal);

} [/code]

關于sqrt的話題早在2003年便已在 GameDev.net上得到了廣泛的讨論（可見我實在非常火星了，當然不排除還有其他尚在冥王星的人，嘿嘿）。而嘗試探究該話題則完全是出于本人的興趣和好奇心（換句話說就是無知）。其實作在随着FPU的提升和對向量運算的硬體支援，大部分系統上都提供了快速的sqrt實作。如果是處理大批量的向量的話，據說最快的方法是使用SIMD（據說而已，我壓根不懂），可同步計算4個向量。

--------------------------------------------------------------------------------

卡馬克算法牛X的地方就是他選了一個常數作為起始值。而這個起始值讓他隻用一次疊代就夠了。

從這裡看來的。QuakeIII自然就是傳奇高手卡馬克的傑作之一了。在有的CPU上，這個函數比普通的(float)(1.0/sqrt(x)快4倍！快的原因之一是用了一個神秘常數，0x5f3759df。普渡大學的Chris Lomont在這篇論文裡讨論了這個常數的意義，嘗試用嚴格的方法推導出這個常數（他還提到有人認為這個函數是在NVidia工作過的Gary Tarolli寫的）。Chris推出的常數是0x5f37642f)，和Q_rsqrt裡的稍有不同，而且實際表現也稍有不如。卡馬克到底怎麼推出這個常數的就是謎了。這種高手不寫書，實在可惜。

[code]

float Q_rsqrt( float number )

{

long i;

float x2, y;

const float threehalfs = 1.5F;

x2 = number * 0.5F;

y = number;

i = * ( long * ) &y; // evil floating point bit level hacking

i = 0x5f3759df - ( i >> 1 ); // what the fuck?

y = * ( float * ) &i;

y = y * ( threehalfs - ( x2 * y * y ) ); // 1st iteration

// y = y * ( threehalfs - ( x2 * y * y ) ); // 2nd iteration, this can be removed

#ifndef Q3_VM

#ifdef __linux__

assert( !isnan(y) ); // bk010122 - FPE?

#endif

#endif

return y;

}

[/code]