측도와 적분 – 역사적 배경

19세기까지 적분은 기하학적 직관에 의존하여 다루어져 왔었다. 즉 \(f\)가 실함수이고 \([a,~b]\)에서 \(f\ge 0\)일 때 \(f\)의 적분은 두 직선 \(x=a,\) \(x=b\)와 \(x\)축 그리고 \(y=f(x)\)의 그래프로 둘러싸인 부분의 넓이로 여겨졌으며, 적분과 관련된 이론들은 이와 같은 직관적 개념에서 크게 벗어나지 못하고 있었다.

리만(Riemann)은 1854년 독일대학의 강사 자격시험 논문에서 그때까지의 적분 개념을 논리적으로 정제한 리만 적분을 소개하였고 리만 적분은 수학계에서 대단히 중요한 위치에 놓이게 되었다.

그 후 많은 수학자들이 함수가 리만 적분 가능하기 위한 필요충분조건을 찾기 위하여 노력하였다. 명백히 유한 개의 불연속점을 가진 함수는 리만 적분 가능하다. 그러나 불연속점이 무한히 많은 함수는 경우에 따라서 리만 적분 가능할 수도 있고 그렇지 않을 수도 있다.

예를 들어 \[E = \left\{ \left . \frac{1}{n} ~\right| ~ n\in \mathbb{N} \right\}\] 일 때 \[f(x) = \begin{cases} 1 \quad & \text{if} ~~ x \in E \\[10pt] 0 \quad & \text{if} ~~ x \notin E \end{cases} \] 로 정의된 함수 \(f : [0,~1] \to \mathbb{R}\)는 \([0,~1]\)에서 리만 적분 가능하다. 그러나 \[\chi _{\mathbb{Q}} (x) = \begin{cases} 1 \quad & \text{if} ~~ x \in [0,~1] \cap \mathbb{Q} \\[10pt] 0 \quad & \text{if} ~~ x \in [0,~1] \backslash \mathbb{Q} \end{cases} \] 로 정의된 특성함수 \(\chi_{\mathbb{Q}} : [0,~1] \to \mathbb{R}\)는 \([0,~1]\)에서 리만 적분 불가능하다. 두 함수 모두 \([0,~1]\)에서 무한히 많은 불연속점을 갖지만 \(f\)는 리만 적분 가능하고 \(\chi_{\mathbb{Q}}\)는 리만 적분 불가능하다.

수학자들은 다음 문제의 빈칸을 채우기를 갈망하였다.

이것을 위하여 핸켈(Hankel)은 조밀성을 이용하여 집합을 분류하기도 하였고, 배어(Baire)는 집합의 범주(category)를 도입하기도 하였으나 리만 적분 가능성에 대한 완전한 답을 얻지는 못하였다.

그러던 와중 1902년 소보론 대학의 대학원생이었던 르베그(Lebesgue)는 그의 박사학위 논문에서 리만 적분과는 다른 방법으로 적분하는 방법인 르베그 적분을 소개하였다. 리만 적분이 피적분함수의 정의역을 분할하는 것과는 달리 르베그 적분은 피적분함수의 치역을 분할한다.

단순한 함수를 이용하여 이 두 적분의 차이를 비교해보자. \(I=[0,~8]\)에서 함수 \(f\)가 다음과 같이 주어졌다고 하자. \[f(x) = \begin{cases} 7 \quad & \text{if} ~~ 0 \le x < 1 \\[8pt] 11 \quad & \text{if} ~~ 1 \le x < 3 \\[8pt] 13 \quad & \text{if} ~~ 3 \le x \le 6 \\[8pt] 11 \quad & \text{if} ~~ 6 < x \le 8 \end{cases} \] 리만의 방법대로 \(I\)에서 \(f\)의 적분을 계산하면

\(7 \times ([0,\,1)\)의 길이\() + 11 \times ([1,\,3)\)의 길이\() + 13 \times ([3,\, 6]\)의 길이\() + 11 \times ((6, \,8]\)의 길이\()\)

이다. 이것을 실제로 계산하면 \(7 \times 1 + 11 \times 2 + 13 \times 3 + 11 \times 2 = 90\)이다.

이제 \(I\)를 다음과 같은 세 개의 집합으로 분할하자. \[ A = [0,~1) ,~~B=[1,~3)\cup (6,~8] ,~~ C =[3,~6]\] 그러면 \[ f(x) = \begin{cases} 7 \quad & \text{if} ~~ x \in A \\[10pt] 11 \quad & \text{if} ~~ x \in B \\[10pt] 13 \quad & \text{if} ~~ x \in C \end{cases} \] 이므로 르베그의 방법대로 \(I\)에서 \(f\)의 적분을 계산하면 다음과 같다.

\(7 \times\)(\(f^{-1}(\left\{ 7\right\})\)의 길이 \()+ 11 \times f^{-1}(\left\{ 11\right\})\)의 길이\() + 13 \times f^{-1}(\left\{13\right\})\)의 길이\()\)

이것을 실제로 계산하면 \(7 \times 1 + 11 \times 4 + 13 \times 3 = 90 \)으로서 리만의 방법대로 계산한 것과 동일한 결과를 얻는다.

이번에는 특성함수 \(\chi _{\mathbb{Q}} : [0,~1] \to \mathbb{R}\)의 경우를 살펴보자. 이 함수의 치역은 \(\left\{0,~1\right\}\)이다. 따라서 르베그의 방법대로 \([0,~1]\)에서 \(f\)의 적분을 계산하면 다음과 같다.

\(0 \times ( \chi_{\mathbb{Q}} ^{-1} (\left\{ 0\right\})\)의 길이 \() + 1 \times ( \chi_{\mathbb{Q}}^{-1} (\left\{ 1\right\})\)의 길이\()=([0,~1]\cap \mathbb{Q}\)의 길이\()\)

이로써 함수 \(\chi_{\mathbb{Q}}\)의 적분을 구하는 문제는 집합 \([0,~1]\cap \mathbb{Q}\)의 길이를 구하는 문제로 환원되었다. 사실 유리수 집합의 길이는 \(0\)이므로 \([0,~1]\)에서 \(\chi_{\mathbb{Q}}\)의 르베그 적분 값은 \(0\)이다.

이와 같이 르베그 적분에서는 집합의 체적을 구하는 것이 대단히 중요한 부분을 차지한다. 때문에 르베그 적분을 정의하기 위해서는 집합의 체적을 정확하게 정의해야 한다. 집합의 체적을 재는 함수를 측도(measure)라고 부르며, 측도를 이용하여 체적을 잴 수 있는 집합을 가측집합(measurable set)이라고 부른다. 르베그 적분에서는 피적분함수의 역상(inverse image)의 체적을 이용하여 적분을 정의하기 때문에 함수의 역상이 가측집합인지 여부가 중요하다. 이러한 이유로 가측집합의 역상이 가측집합이 되는 함수를 가측함수(measurable function)라고 부른다.

리만 적분 가능한 함수는 모두 르베그 적분 가능하고 두 적분 값은 일치한다. 즉 르베그 적분은 리만 적분을 일반화한 것이다. 뿐만 아니라 르베그는 함수가 리만 적분 가능할 필요충분조건에 대한 다음과 같은 답을 내놓았다.

측도가 \(0\)인 집합이란 직관적으로 길이가 \(0\)인 집합을 의미한다. 즉 집합 \(E\)의 측도가 \(0\)이라는 것은 임의의 양수 \(\epsilon\)에 대하여 가산개의 열린구간들의 모임 \(\left\{V_i ~|~ i \in I \right\}\)가 존재하여 \(V_i\)들의 합집합이 \(E\)를 덮으면서 \(V_i\)들의 길이의 합이 \(\epsilon\)보다 작은 것을 의미한다.

르베그 적분이 가지는 또다른 이점을 살펴보자.

\([a,~b]\)에서 리만 적분 가능한 함수들의 모임을 \(\mathcal{R} [a,~b]\)로 나타내자. 또한 \(\mathcal{R} [a,~b]\)의 함수 \(f,\) \(g\)에 대하여 \[\rho(f,~g) = \int_{a}^{b} |f(x)-g(x)| ~dx \tag{1}\] 라고 하자. 만약 \([a,~b]\)에서 차의 절댓값의 리만 적분값이 \(0\)인 두 함수를 같은 함수로 간주하면 \(\mathcal{R} [a,~b]\)는 벡터공간이 되며 (1)은 \(\mathcal{R} [a,~b]\)의 거리함수가 된다. 그러나 \(\mathcal{R} [a,~b]\)는 완비거리공간(complete metric space)이 아니다.

예를 들어 \(\left\{ x_n \right\}\)이 \([a,~b]\)의 모든 유리수를 값으로 갖는 수열이라고 하고 \[f_n (x) = \begin{cases} 1 \quad & \text{if} ~~ x \in \left\{ x_1 ,~ x_2 ,~ \cdots ,~ x_n \right\} \\[10pt] 0 \quad & \text{otherwise} \end{cases}\] 라고 하면 임의의 \(n\)에 대하여 \(f_n\)은 많아야 \(n\)개의 불연속점을 갖는 함수이므로 \([a,~b]\)에서 리만 적분 가능하다. 또한 \(\left\{f_n \right\}\)은 거리함수 (1)에 의하여 코시 수열이다. 그러나 \(\left\{ f_n \right\}\)의 극한함수는 \(\chi_{\mathbb{Q}}\)이므로 리만 적분 불가능하다. 따라서 \(\mathcal{R} [a,~b]\)는 완비거리공간이 아니다. 거리공간의 완비성은 그 안에서 극한을 다룰 수 있게 해주는 중요한 성질이므로 \(\mathcal{R} [a,~b]\)가 완비가 아니라는 점은 치명적인 단점이 된다.

거리공간의 완비화(completion) 정리에 의하여 \(\mathcal{R} [a,~b]\)의 완비화가 존재한다. 르베그 적분은 \(\mathcal{R} [a,~b]\)의 완비화에 대한 답을 제공한다. 즉 \([a,~b]\)에서 르베그 적분 가능한 실함수들의 모임을 \(L[a,~b]\)라고 하자. 그리고 \(L[a,~b]\)에서 서로 다른 점들의 모임의 측도가 0인 두 함수는 서로 같은 것으로 간주하자. 또한 \(L[a,~b]\)의 함수 \(f,\) \(g\)에 대하여 \[\rho (f,~g) = \int_{[a,~b]} |f-g| ~ d \mu \] 로 정의하자. (단, 위 적분은 유클리드 공간의 르베그 측도 \(\mu\)에 관한 르베그 적분이다.) 그러면 \(L[a,~b]\)는 완비거리공간이 되며 \(\mathcal{R} [a,~b]\)를 조밀한 부분집합으로 가진다.

이와 같이 르베그 적분은 리만 적분이 가진 단점을 훌륭하게 보완한 적분이다.