在数学界中，有一道很经典的难题叫“传奇的第6题”（The Legend of Question Six）。它是国际数学奥林匹亚其中，公认史上最困难的题目。
这道题目是这样的：
假设正整数a、b，满足ab + 1可以整除a^2 + b^2，证明(a^2 + b^2) / (ab + 1) 是某个整数的平方。
Let a and b be positive integers such that ab + 1 divides a^2 + b^2. Show that (a^2 + b^2) / (ab + 1) is the square of an integer.
假设正整数a、b，满足ab + 1可以整除a^2 + b^2，证明(a^2 + b^2) / (ab + 1)是某个整数的平方。
Let a and b be positive integers such that ab + 1 divides a^2 + b^2. Show that (a^2 + b^2) / (ab + 1) is the square of an integer.
这道题目，当年的奥林匹亚数学议题委员会，以及4位数论专家都解不开，被认为“不适合放到竞赛题目中”。最后它还是变成了比赛题目，而且还被参赛者解开。
传奇的第6题，当年的理论数学家也解不出来
首先，我们来认识国际数学奥林匹亚竞赛。
国际数学奥林匹亚（International Mathematical Olympiad，IMO，下文简称数奥）是全球性的数学竞赛，参赛对象为全球的中学生，可说是数学界的奥运，从1959年开始举办，至今已有60年的历史，是国际科学奥林匹亚其中历史最长的赛事。数奥竞赛共有6道题目，基本上都是证明题，分为简单、中等与困难3个等级，第1与第4题属于简单题，第2与第5题属于中等题，第3与第6则是困难题。每题满分为7分，总分42分。
数奥每年都由不同的国家主办（台湾曾担任1998年的主办国），题目由主办海外的其他参赛国提供，主办国会组织拟题委员会，从题目其中选出候选题目，再由参赛各国一同商议出最终竞赛题目与官方解答。
而“传奇的第6题”是1988年的题目，是由西德数学家提供的。西德曾获1982和1983年的数奥冠军，后来被美国、苏联、罗马尼亚等国夺去冠军头衔，西德数学家就在1988年，精心设计超难的“传奇的第6题”。
当年主办国是澳洲，结果拟题委员会的6个成员都无法解开这道难题，他们向最强的4位数论专家求助，他们也无法解题。但是拟题委员会仍然把这道题目列为候选题，结果各国商议过后，竟然真的采用这道题目，成为第29届数奥的第6题。
更惊人的是，竟然有参赛选手解开这道题目。虽然268位选手的平均得分只有0.6，是数奥29年来分数最低的一题，却有11名选手取得满分。要特别强调的是，数奥是办给“中学生”的数学竞赛，那些中学生能够解开理论数学家解不开的题目，真的非常惊人。
他们是怎么破解“传奇的第6题”的？
数奥选手用高中程度的“韦达跳跃”，破解传奇的第6题
其实他们用的并不是微积分、离散数学、线性代数等高等数学技术，而是高中数学程度的“韦达跳跃”（Vieta jumping）。韦达跳跃包含两个部分：韦达定理（Vieta’s theorem）、无穷递降法（method of infinite descent）。
韦达定理描述二次方程式其中，两根的和、积与项数之间的关系，这是台湾高一数学课的内容。韦达定理是这样的：
假设一元二次方程式ax^2 + bx + c = 0有两根α、β，则α + β = -b/a，αβ = c/a。
假设一元二次方程式ax^2 + bx + c = 0有两根α、β，则α + β = -b/a，αβ = c/a。
无穷递降法则是一种反证法，台湾高中数学不特别教无穷递降法，因此对高中生来说，这的确是一种艰深的数学技术；但高一数学的“数学归纳法”会提到反证法，可能还是会有些“神人”懂无穷递降法。无穷递降法是这样的：
先假设方程式有解，并假设X为最小解；接着再从X出发，尝试推导出另一个更小的解Y。若能推导成功，代表与前题假设“X为最小解”矛盾，因此能证明此方程式无解。
先假设方程式有解，并假设X为最小解；接着再从X出发，尝试推导出另一个更小的解Y。若能推导成功，代表与前题假设“X为最小解”矛盾，因此能证明此方程式无解。
使用上述方法，解答“传奇的第6题”的思维会是：
1. 根据题目叙述，ab + 1可以整除a^2 + b^2，所以(a^2 + b^2) / (ab + 1) 是正整数；假设该正整数为k。
2. 接着，假设有正整数a、b满足 (a^2 + b^2) / (ab + 1) = k，而k不是平方数。
3. 最后，假设在所有满足条件的正整数中，有一组是a1、b1，它们拥有最小的和；假设a1 = b1。
解题时，就可以制造一个矛盾，证明还有比a1、b1小的值，因此前一个假设“k不是平方数”也不成立。最后就可以证明“k是平方数”，(a^2 + b^2) / (ab + 1) 的值必定是某个数字的平方数。
我们可以开始解题了：
根据(1)，由于k、b1、a1皆为整数，因此a2必为整数。
根据 (2)，由于k不是平方数，(b1)^2- k不可能是0，因此a2不可能是0。
根据 (a2^2 + b1^2) / (a2b1 + 1) = k，由于k、b1是正整数，因此a2不可能是负数。
也就是说，a2是个正整数。
前面，我们假设过a1 = b1，因此根据(2)，a2一定小于a1，因此a2 + b1为更小值，与“a1 + b1为最小整数解”的假设矛盾，也因此“k不是平方数”是错误的假设。可以证明，(a^2 + b^2) / (ab + 1) 的值必定是某个数字的平方数。
虽然高中生不会记得“韦达定理”这个名称，但它是高中数学很基本的解题技巧，是小考、段考考到烂掉，学测、指考也会出现的概念。“无穷递降法”的难度较高，但背后的原则“反证法”也是高中证明题常用到的技术。然而就是会有厉害的人，能够用这些基本的技术，搭配巧思，解答理论数学家无法解答的难题。
看到这么干净的思维与解题流程，真的是佩服那些奥数的参赛选手（跪了）。