在处理最优化问题时，我们常常通过分析导函数来寻找极值点，因此往往希望目标函数是可导的；但在很多实际问题中，目标函数里经常带有取最大值函数，它的存在将破坏函数的可导性。一个有趣的问题由此产生：能否设计一个平滑的二元函数 f(x,y) ，它的效果近似于 max(x,y) ，足以用来代替最大值函数？在设计这样的函数时，下面这些条件需要尽可能满足：

   · 函数简洁而美观
   · 可以调整函数的“平滑度”
   · 可以很方便地扩展到多个变量

查看更多 »

    在今天晚上的微观经济学课上，我又听到了一个比较有意思的东西。试着找找各种类型的连续函数f(x)，画出f'(x)和f(x)/x的函数图像，你会发现一个奇怪的现象：f'(x)与f(x)/x相交的地方都是f(x)/x取到极值的地方。简单地算一算，我们不难证实这个结论。f(x)/x的导数等于f'(x)/x - f(x)/x^2。将f'(x)=f(x)/x代入上式，可得f'(x)/x - f(x)/x^2 = f(x)/x^2 - f(x)/x^2 = 0。这就是说，当f'(x)与f(x)/x相等的时候，f(x)/x的导数一定等于0。有意思的是，这个结论还有一个非常直观的解释，你能想到吗？

查看更多 »

    我对各种违背直觉的函数构造特别有兴趣，看看这里你就知道我对这些特殊函数有多痴迷了。因此，当我发现竟然有专门收集各种特殊函数的数学书时，可以想象我的心情有多激动。我试着以“反例”为关键字在图书馆进行检索，借了一大堆实分析数学书。这些书都已经很老了，封皮烂了又烂，已经修修补补重装了两三次封皮。翻翻这些老书，不由得对老一辈的学者和作家表示由衷的崇敬；虽然文字、排版都不出彩，但书的容量极大，内容也很实在。
    废话不多说了，让我们来欣赏一下书里的一些精彩篇章吧。

查看更多 »

    Proofs from THE BOOK的第六章相当精彩，这一章循序渐进地介绍了多个无理性证明。先证明e是无理数，证明方法和高数课本上的基本相同；试图用类似的办法证明e^2也是无理数时，这一章的内容开始牛B了起来，一些巧妙的变换就让原来的办法继续适用于e^2的证明；加上一些更有趣的技巧，我们还能继续证明e^4也是无理数；当证明对除0外的所有有理数r，e^r都是无理数时，全章达到了高潮。
    这一章还提到了pi^2是无理数的证明方法。这个证明建立在Ivan Niven于1947年提出的“pi是无理数”的经典证明的基础上：仅仅是在原证明过程中加了一些微妙的变化就得到了pi^2也是无理数的结论。注意到，“pi^2是无理数”是一个比“pi是无理数”更强的结论。由于有理数的平方还是有理数，因此证到了pi^2是无理数也就说明了pi必然是无理数；但反过来却不行，因为无理数的平方不一定也是无理数，比如根号2的平方就不是无理数。

    证明过程用到了一个函数，其中n是一个任取的大于等于1的常数。可以想像，这个函数的分子部分展开后是一个关于x的整系数多项式，最低次数为n，最高次数为2n。我们将用到这个函数的两个性质：首先，当0<x<1时，显然有0 < f(x) < 1/n!；其次，函数f及其任意阶导数在x=0和x=1处都是整数。为了证明后一个结论，首先注意到当x=0时，不管是多少阶的导数，除了常数项以外其余项都是0；常数项只可能在n<=k<=2n时出现（k表示k阶导数），但此时它等于一个整系数乘以k!/n!，显然也是个整数。另外，由于f(x)=f(1-x)，根据复合函数的微分法我们立即得到对任意x都成立，当然也就有。

查看更多 »

    《数学与猜想》里引用了一段欧拉的这篇经典的研究报告，写的非常精彩。你可以从中看到一个数学家是如何进行发现、归纳、猜想和论证的。你可以看到两个完全不同的数学模型里出现了惊人的巧合，通过挖掘它们之间的内在联系，最终完成了伟大的统一。
    没扫描仪，拿相机拍的，效果非常不好，见谅了！
    另外，拜托大家不要盗链下面的图片。

  
  
  
  
  

    Quake III公开源码后，有人在game/code/q_math.c里发现了这样一段代码。它的作用是将一个数开平方并取倒，经测试这段代码比(float)(1.0/sqrt(x))快4倍：
float Q_rsqrt( float number )
{
  long i;
  float x2, y;
  const float threehalfs = 1.5F;

  x2 = number * 0.5F;
  y  = number;
  i  = * ( long * ) &y;  // evil floating point bit level hacking
  i  = 0x5f3759df - ( i >> 1 ); // what the fuck?
  y  = * ( float * ) &i;
  y  = y * ( threehalfs - ( x2 * y * y ) ); // 1st iteration
  // y  = y * ( threehalfs - ( x2 * y * y ) ); // 2nd iteration, this can be removed

  #ifndef Q3_VM
  #ifdef __linux__
    assert( !isnan(y) ); // bk010122 - FPE?
  #endif
  #endif
  return y;
}

    code/common/cm_trace.c中也出现了这样一段解释sqrt(x)的函数，与上面的代码唯一不同的就是这个函数返回的是number*y：
/*
================
SquareRootFloat
================
*/
float SquareRootFloat(float number) {
    long i;
    float x, y;
    const float f = 1.5F;

    x = number * 0.5F;
    y  = number;
    i  = * ( long * ) &y;
    i  = 0x5f3759df - ( i >> 1 );
    y  = * ( float * ) &i;
    y  = y * ( f - ( x * y * y ) );
    y  = y * ( f - ( x * y * y ) );
    return number * y;
}

    这样的代码速度肯定飞快，我就不用多说了；但算法的原理是什么呢？其实说穿了也不是很神，程序首先猜测了一个接近1/sqrt(number)的值，然后两次使用牛顿迭代法进行迭代。根号a的倒数实际上就是方程1/x^2 - a = 0的一个正实根，它的导数是-2/x^3。运用牛顿迭代公式x' = x - f(x)/f'(x)，式子化简为x' = x * (1.5 - 0.5a * x^2)。迭代几次后，x的值将趋于1/sqrt(a)。
    但这段代码真正牛B的是那个神秘的0x5f3759df，因为0x5f3759df - (i >> 1)出人意料地接近根号y的倒数。人们都不知道这个神秘的常数是怎么来的，只能把它当作神来膜拜。这个富有传奇色彩的常数到底咋回事，很少有人说得清楚。这篇论文比较科学地解释了这个常数。

    下面这种方法可以很有效地求出根号a的近似值：首先随便猜一个近似值x，然后不断令x等于x和a/x的平均数，迭代个六七次后x的值就已经相当精确了。
    例如，我想求根号2等于多少。假如我猜测的结果为4，虽然错的离谱，但你可以看到使用牛顿迭代法后这个值很快就趋近于根号2了：

(       4  + 2/   4     ) / 2 = 2.25
(    2.25  + 2/   2.25  ) / 2 = 1.56944..
( 1.56944..+ 2/1.56944..) / 2 = 1.42189..
( 1.42189..+ 2/1.42189..) / 2 = 1.41423..
....

      
    这种算法的原理很简单，我们仅仅是不断用(x,f(x))的切线来逼近方程x^2-a=0的根。根号a实际上就是x^2-a=0的一个正实根，这个函数的导数是2x。也就是说，函数上任一点(x,f(x))处的切线斜率是2x。那么，x-f(x)/(2x)就是一个比x更接近的近似值。代入f(x)=x^2-a得到x-(x^2-a)/(2x)，也就是(x+a/x)/2。
    同样的方法可以用在其它的近似值计算中。Quake III的源码中有一段非常牛B的开方取倒函数。

    给出一个连续函数，某一点上的导数为正说明函数在这一点是上升的，换句话说函数从左边充分靠近该点时函数值总小于这个点，从右边靠近该点时函数值总大于这个点。但这并不等于说这一点左右是一个单增区间，也就是说该点左右任意小的邻域内函数都不是单调递增的。你能找出这样的函数来吗？

    昨天数学课上，我学到了一个比较牛B的东西：函数上某一点导数为正，该点邻域不一定形成单增区间。虽然左边的点都比该点低，右边的点都比该点高，但这并不能说明左边和右边各自都是单增的。这样的函数确实存在，而且并不是那种很怪的函数，仅仅是一个简单的初等函数：f(x) = x + 2x^2*sin(1/x)。由于x=0时函数没有定义，我们规定f(0)=0。按照导数的定义，函数在x=0时的导数值为
   Limit[ (f(0+Δx)-f(0))/(Δx-0), Δx->0 ]
= Limit[ f(Δx)/Δx, Δx->0 ]
= Limit[ 1 + 2Δx*sin(1/Δx) , Δx->0 ]
= 1

    这说明函数在x=0处的导数确实是正的。当x≠0时，按照求导法则可以求出f'(x) = 1 - 2*cos(1/x) + 4x*sin(1/x)。当|x|充分小时，最后一项可以忽略不计；此时只要1/x恰好等于2πn (n为整数)，那么f'(x)保证是负的。这就告诉我们，x=0左右任意近的位置都存在导数为负的情况，这样不管邻域范围多小总能找到一个函数值在减小的地方。
    其实，看一下f(x)的函数图象，你会立即明白这是怎么回事。这个函数越接近原点抖动频率越快（到原点时“周期”无限小），同时振幅也越小（到原点时振幅为0，这样可以保证导数存在）；但这个函数总的来说呈上升趋势。因此，这个函数才有我们前面提到的奇怪性质。