맛있는 해석학 4판 참고 2.5.5에 양수의 \(n\)제곱근의 존재성이 증명되어 있다(56쪽). 증명을 이해하는 데에 도움이 되도록 이곳에 더 상세한 설명을 남긴다.
정리. 양수의 \(n\)제곱근의 존재성.
임의의 양수 \(x\)와 자연수 \(n\)에 대하여 \(y^n = x\)를 만족시키는 양수 \(y\)가 유일하게 존재한다.
증명.\(n=1\)인 경우는 자명하므로 \(n \ge 2\)인 경우만 증명하자.
\(E = \left\{ t\in \mathbb{R}^{+} \,\vert\, t^n < x \right\}\)라고 하자. 명백히 \(E\)는 \(x+2\)에 의하여 위로 유계이고 \(x/(1+x)\)를 원소로 가지므로 실수계의 완비성(상한 공리)에 의하여 \(E\)의 상한 \(y\)가 존재한다. 이제 \(y^n = x\)임을 증명하자. 결론에 반하여 \(y^n \ne x\)라고 가정하고 모순을 유도하자. 즉 \(y^n < x\) 또는 \(y^n > x\)라고 가정하고 모순을 유도하자.
(ⅰ) 먼저 \(y^n < x\)인 경우를 살펴보자. \(y\)보다 크면서 \(E\)에 속하는 실수가 존재함을 보이면 모순이 유도된다. 이것을 위하여 \(y+h \in E\)가 되도록 하는 양수 \(h\)가 존재함을 보이면 된다. \(y+h\)가 \(E\)에 속하려면 \[(y+h)^n < x\tag{1}\] 가 성립해야 한다. 이 식은 \[(y+h)^n - y^n < x-y^n\tag{2}\] 과 같다. 그런데 인수분해 공식 \[a^n - b^n = (a-b)(a^{n-1} + a^{n-2} b + a^{n-3} b^2 + \cdots + b^{n-1} )\tag{3}\] 에 \(a = (y+h),\) \(b = y\)를 대입하면 (2)의 좌변은 다음과 같이 쓸 수 있다. \[ \begin{align} (y+h)^n - y^n &= h \left\{ (y+h)^{n-1} + (y+h)^{n-2} y + \cdots + y^{n-1} \right\}\\[6pt] & < h \left\{ (y+h)^{n-1} + (y+h)^{n-2} (y+h) + \cdots + (y+h)^{n-1} \right\} \\[6pt] & = h n (y+h)^{n-1}.\tag{4} \end{align}\] 그러므로 \[hn(y+h)^{n-1} < x-y^n\tag{5}\] 이 성립하도록 \(h\)를 잡으면 (2)가 성립한다. 즉 \[h < \frac{x-y^n}{n(y+h)^{n-1}}\tag{6}\] 인 양수 \(h\)를 택해야 한다. 여기서 문제는 (6)의 우변의 분모에 \(h\)가 있다는 점이다. 만약 \(h \le 1\)이라는 조건이 추가되면 (4)의 마지막 식으로부터 부등식 \[ h n (y+h)^{n-1} \le hn(y+1)^{n-1}\tag{7} \] 을 얻는다. 그러므로 (5) 대신 \[hn(y+1)^{n-1} < x-y^n\tag{8}\] 이 성립하도록 \(h\)를 잡으면 (2)가 성립한다. 즉 \[h < \frac{x-y^n}{n(y+1)^{n-1}}\tag{9}\] 인 양수 \(h\)를 택해야 한다. 실수의 조밀성에 의하여 \[0 < h < \mathrm{min} \left\{ 1,\, \frac{x-y^n}{n(y+1)^{n-1}}\right\}\] 을 만족시키는 실수 \(h\)가 존재한다. 이때 (4), (7), (8)로부터 \[(y+h)^n - y^n < x-y^n\] 이 성립하므로 (2)와 (1)이 성립한다. 즉 \(y+h \in E\)이다. 그런데 \(y+h\)는 \(y\)보다 큰 실수이므로 \(y\)가 \(E\)의 상한이라는 데에 모순이다.
(ⅱ) 다음으로 \(y^n > x\)인 경우를 살펴보자. 이번에는 \(y\)보다 작은 \(E\)의 상계가 존재함을 보임으로써 모순을 유도할 것이다. 이것을 위하여 \(y-k\)가 \(E\)의 상계가 되도록 하는 양수 \(k\)의 존재성을 보이면 된다. \(y-k\)가 \(E\)의 상계가 되려면 \[(y-k)^n > x\tag{10}\] 가 성립해야 한다. 일단 이 식이 성립하고나면 \(z > y-k\)인 임의의 \(z\)에 대하여 \(z^n > (y-k)^n > x\)이므로 \(z\) 또한 \(E\)에 속하지 않아 \(y-k\)가 \(E\)의 상계가 된다. 부등식 (10)은 \[ y^n - (y-k)^n < y^n - x \tag{11}\] 와 같다. (3)을 이용하여 (11)의 좌변을 변형하면 다음과 같다. \[ \begin{align} y^n - (y-k)^n &= k ( y^{n-1} + y^{n-2} (y-k) + \cdots + (y-k)^{n-1}) \\[6pt] & < k \left\{ y^{n-1} + y^{n-2} y + \cdots + y^{n-1} \right\} \\[6pt] & = k n y^{n-1}.\tag{12} \end{align} \] 그러므로 \[kny^{n-1} \le y^n-x\tag{13}\] 가 성립하도록 \(k\)를 잡으면 (11)이 성립한다. 이것은 크게 고민할 필요 없이 \[k = \frac{y^n - x}{ny^{n-1}}\tag{14}\] 로 두면 된다. 그러면 (12), (13)에 의하여 (11), (10)이 성립하고 \(y-k\)는 \(E\)의 상계가 된다. 그런데 이것은 \(y\)가 \(E\)의 상한이라는 데에 모순이다.
이로써 \(y^n > x\)인 경우와 \(y^n < x\)인 경우 모두 모순이 발생하므로 \(y^n = x\)가 성립한다.
이제 \(y^n = x\)를 만족시키는 양수 \(y\)가 유일함을 보이자. 결론에 반하여 그러한 실수가 또 존재한다고 가정하자. 즉 \(z^n = x\)이지만 \(y \ne z\)인 양수 \(z\)가 존재한다고 가정하자. 그러면 \(y < z\) 또는 \(y > z\)이다. 만약 \(y < z\)이면 \(y^n < z^n\)이므로 \(z^n \neq x\)이며, \(y > z\)이면 \(y^n > z^n\)이므로 \(z^n \neq x\)이다. 이것은 모순이므로 \(y^n = x\)를 만족시키는 양수 \(y\)는 유일하다.
연속함수의 성질을 이용하면 증명을 더 간단하게 쓸 수 있다.
연속함수의 성질을 이용한 증명. \(f(t)=t^n\)이라고 하자. 그러면 \(f\)는 \(\mathbb{R}^{+}\)로부터 \(\mathbb{R}^{+}\)로의 일대일인 연속함수이다. 그러므로 그 역함수가 존재한다. 즉 \(x\)가 양수일 때 \(f(y)=x\)인 양수 \(y\)가 존재한다. \(f(y)=x\)은 곧 \(y^n = x\)와 같다.
그런데 이 증명을 채택하려면 연속함수의 성질을 모두 밝힐 때까지 제곱근을 사용하지 않아야 한다.