[mathematics] 해석학의 역사적 발달 배경 수학 이야기

 해석학의 역사적 발달 배경 수학 이야기 

 수학자들과 과학자들은 오래 전부터 도형의 넓이나 선의 길이를 구하는 문제에 관심을 가졌다. 기원전 4세기 그리스의 에우독소스(Eudoxus)나 히포크라테스(Hippocrates) 등이 오늘날의 구분구적법에 가까운 ‘착출법’을 처음 사용하였다. 착출법이란 다음과 같다.

임의의 어떤 양에서 반 이상을 없애고, 그 나머지에서 그 반 이상을 없애고, 이런 과정을 계속하면 결국에는 주어진 양에서 어떠한 작은 양보다도 더 작은 어떤 양이 남을 것이다.

이것을 오늘날의 표현으로 바꾸면 어떤 양 M이 주어져 있고 또 임의의 양 ε이 있다면 1/2≤r<1인 r일 때 적당한 자연수 N이 존재하여 그보다 큰 자연수 n에 대하여 M(1-r)^n < ε이 된다는 것이다. 곧 착출법은 이라는 극한에 해당한다. 에우독소스는 이러한 논리를 이용하여 원뿔의 부피가 원기둥 부피의 3분의 1이라는 것을 밝혀냈으며 기원전 3세기에 아르키메데스(Archimedes)는 원주율의 근사값을 소수점 이하 둘째 자리까지 구해냈다.

오늘날의 구분구적법과 같은 방법을 처음 발전시킨 사람은 16세기 말 독일의 케플러(Kepler)이다. 비록 그 전의 사람들이 구분구적법을 생각하지 않은 것은 아니지만 케플러는 ‘무한소 해석’의 방법으로 그것을 더욱 정교화하였다. 이전에는 아무리 작은 값이라도 양을 갖는 것은 무시될 수 없다는 것이 주된 생각이었음에 반해 케플러는 무한번의 계산 과정에서 점점 작아지는 아주 작은 양은 무시될 수 있다고 생각하였다.


미적분학의 탄생과 해석학

얼마 지나지 않아 17세기 초 프랑스의 데카르트(Descartes)에 의하여 수학의 모든 문제를 대수적 문제로 환원시키는 생각이 널리 퍼졌다. 이때부터 기하의 문제도 대수적인 문제로서 다루는 ‘해석기하’가 발전하게 되었다. 따라서 적분의 여러 가지 문제도 대수적인 문제로 환원되었다.

17세기 말 영국의 뉴턴(Newton)과 독일의 라이프니츠(Leibniz)는 오늘날의 것에 가까운 미적분학을 창시하였다. 그들은 이전의 수학자들이 적분을 기하학적 문제로서 다룬 것과는 달리 그것을 산술적으로 다루었다. 이러한 과정에서 미분과 적분의 관계를 밝혀내었고 미분과 적분의 관계를 밝혀냈다.

뉴턴은 그의 이론을 전개하는 과정에서 무한급수도 유한 다항식과 거의 마찬가지로 다룰 수 있다는 것을 발견하였다. 즉 무한급수에 의한 해석에는 동일한 내적 일관성이 있고 유한량의 대수학과 같은 일반법칙을 따른다는 점이다. 따라서 무한급수는 함수의 근사일 뿐만 아니라 함수와 동치라고 간주하게 되었다. 뉴턴은 자신의 논문에서 다음과 같이 말하고 있다(1711).

항의 개수가 유한개인 방정식을 이용하여 일반적인 해석(곧, 대수)이 할 수 있는 어떠한 계산도 이 새로운 방법으로 무한 방정식을 써서 할 수 있다. 따라서 나는 이 방법에도 ‘해석(analysis)’이라는 이름을 붙이는 것에 아무런 망설임도 없을 것이다. 왜냐하면 이것에 포함되어 있는 논리는 다른 어떤 논리에 비해서 결코 불확실한 것이 아니고, 무한방정식도 부정확한 것이 아니기 때문이다. 비록 아주 한정된 논증 능력밖에 없는, 수명이 짧은 우리 인간에게는 그런 방정식의 모든 항을 쓰거나 구하는 양을 상상해서 정확하게 알 수 없으나...(중략)... 결론을 내리면 이 새로운 방법은 이른바 ‘해석술(analytic art)’에 속한다고 할 수 있다. 게다가 이 방법으로 도형의 넓이나 곡선의 길이 같은 것들을 정확하게 계산할 수 있고 기하학적으로 결정할 수 있다.

미분법의 역연산으로 적분을 구할 수 있다는 것은 이전에 배로(Barrow)나 그레고리(James Gregory)도 알고 있었다. 그러나 뉴턴이야말로 본인이 발견한 새로운 무한해석으로 곡선의 기울기와 넓이 사이의 역관계를 해명할 수 있었기 때문에 미적분법의 실질적인 창시자가 된 것이다. 뉴턴은 미적분뿐만 아니라 수학의 여러 분야에 업적을 남겼는데, 라이프니츠는 태초부터 뉴턴 시대까지의 수학시대에서 뉴턴이 이룩한 것은 수학사의 반, 그것도 훨씬 훌륭한 반쪽에 해당한다고 격찬하였다.

라이프니츠는 뉴턴보다는 약간 늦게, 그러나 개별적으로 미적분을 발명하였다. 라이프니츠는 항상 적절한 기호의 사용은 사고를 돕는다는 것을 통감했고, 미적분 기호의 경우그가 선택한 기호는 특히 적절한 것이었다. 몇 번의 시행착오를 거듭한 뒤 비록 처음에는 차의 정도를 낮춘다는 의미로 x/d와 y/d를 사용했지만 x와 y에 대하여 생각할 수있는 최소의 차(미분)를 각각 dx와 dy로 나타내기로 하였다. 또 곡선 아래의 모든 세로선의 합에 대해서 처음에는 단지 omn.y(모든 y)를 섰으나 뒤에 ∫y로 바꾸고 나중에는 ∫ y dx로 바꿔 썼다. 여기서 적분의 기호로 사용되는 ∫ 는 sum의 첫 글자를길게 늘인 것이다. 그런데 접선을 구하는 데에는 calculus differentials(미소한 차의 계산)가 필요했고 구적에는 calculus summatorius(합의 계산) 또는 calculus integralis(통합하는 계산)가 필요했다. 그래서 이 용어로부터 differential calculus(미분법)와 integral calculus(적분법)라는 이름이 생겼다.

영국의 테일러(Tayler.B)는 18세기 초 미분법을 이용하여 함수를 무한 멱급수로 표현하는 방법을 소개하였다. 이것이 오늘날의 테일러 급수이다. 그 당시 사람들은 멱급수로 표현된 함수의 미적분은 급수를 항별로 미분하거나 적분함으로써 가능하다고 생각하였다. 그러나 항상 그러한 것은 아니며 급수의 항별 미적분을 자유롭게 하기 위해서는 ‘평등수렴’이라는 조건이 필요함이 후에 19세기 초에 프랑스의 코시(Cauchy)에 의하여 밝혀졌다.


해석학의 논리적 명료화

코시 이전의 많은 수학자들은 무한소를 아주 작은 고정된 ‘수’로서 생각하였다. 그러나 코시는 무한소를 ‘변수’로서 명확히 정의하였다. 또한 오늘날의 것과 같은 극한 개념을 생각해냈으며 이를 이용하여 미적분학의 이론을 논리적으로 다시 세웠다. 또한 급수의 수렴에 대해서도 연구하여 여러 가지 급수 판정법을 발명했다. 코시는 연구 과정에서 발견한 내용을 알리기를 좋아했다. 오늘날 여러 가지 정리에 그의 이름이 붙는 것은 이 때문이다. 반면에 동시대 사람이었던 독일의 가우스(Gauss)는 완벽하게 확신이 서는 것만 발표하였다.

코시보다 조금 앞서 태어난 프랑스의 푸리에(Fourier)는 18세기 말 미분 가능하지 않더라도 급수를 전개할 수 있는 푸리에 급수를 발명하였다. 푸리에는 자신의 이론을 발표한 초기에 다른 수학자들로부터 논리의 빈약성에 대한 비판을 받았지만 굴하지 않고 그의 이론을 논리적으로 명확하게 하여 다시 발표하였다. 또한 19세기 초 같은 나라의 디리끌레(Dirichlet)는 적절한 조건 아래에서는 푸리에 급수가 테일러 급수보다 훨씬 유용하게 사용될 수 있음을 밝혔다.

디리끌레는 처음으로 함수를 대응으로서 정의하였다. 이러한 관점에서 이전까지 직관적인 관점에서는 미분이나 적분을 생각할 수 없는 다양한 함수의 예를 들었다. 그의 이름이 새겨진 대표적인 함수는 유리수인 점에서 불연속이고 무리수인 점에서 연속인 함수이다. 이는 동시대에 수학자들이 미적분을 더욱 논리적으로 다듬은 일에 의미를 부여하였다. 이때부터 미적분학은 단순히 도형의 면적을 구하거나 그래프의 접선을 구하는 것이 아닌 함수의 특성을 분석하는 해석학으로서 발전하기 시작하였다.

디리끌레 이후로 영국의 해밀턴(Hamilton)은 벡터해석을 창시하였으며 독일의 바이에르슈트라스(Weierstrass)는 수학의 엄밀성을 강조하고 해석함수론의 기초를 확립하였다. 또한 스토크스(Stokes)와 하이네(Heine)도 해석학의 발전에 기여했다.

한편 19세기 중엽에 독일의 리만(Riemann)은 어떤 구간의 무한히 많은 점에서 불연속이면서 적분이 존재하는 그리고 해당 구간의 무한개의 점에서 도함수를 갖지 않는 연속함수 F를 정의하는 f를 제시하였다. 이 함수의 적분에 대해서는 곡선의 아래쪽 넓이에 대하여 주로 기하학적 감각에 의해 유도되었던 코시의 정의보다도 더욱 주의 깊은 정의가 필요하다는 것을 분명히 하였다. 이러한 까닭으로 어떤 구간에서 상합과 하합으로 정의하는 오늘날의 정적분을 유계함수가 적분가능하기 위한 필요충분 조건을 제시한 리만을 기리어 리만 적분으로 부른다.


실수의 정의와 무한의 산술화

19세기 말 해석학을 기하학으로부터 탈피시켜 산술적 논리로서 명료하게 하는 과정에서 몇 가지 문제점이 발견되었다. 그것은 실수의 정의였다. 즉 먼저 수열의 극한을 어떤 실수로 정의하고 나서 실수를 유리수열의 극한으로 정의하는 것은 ‘해결되지 않은 전제에 기초를 두고 논점을 세우는 오류(petitio principii)’였다. 메레이(Méray)는 그의 저작 ‘무한소해석의 새 이론(Nouveau précis d'analyse infinitésimale)’에서 수렴이나 실수의 외적 조건에 호소하지 않음으로써 이 문제를 해결하였다.

이 무렵 데데킨트(Dedekind)는 실수가 선분 위의 점과 일대일 대응된다는 것에 관심을 가졌다. 선분은 그 위에 있는 한 점에 의해 두 부분으로 분할되며 역으로 선분이 두 부분으로 분할되면 그 사이의 점은 반드시 하나만이 존재하게 된다. 유리수 집합을 둘로 나누면 그 사이에는 반드시 한 점만이 존재하게 되는데 유리수 집합은 조밀하기 때문에 그 사이의 점은 유리수가 될 수도 있고 무리수가 될 수도 있다. 여기에서 유리수의 분할된 한 집합은 다른 한 집합을 유일하게 결정하므로 결국 유리수의 한 부분집합만으로도 유리수와 무리수를 정의할 수 있다. 이것이 오늘날 실수의 완비성 공리이다.

실수의 정의 외에 또 다른 문제점은 무한의 산술화이다. 그때까지 많은 수학자들이 무한을 언급하고 사용하였지만 그것은 단지 양이 매우 커지는 상태, 또는 임의의 수보다 더 큰 수 정도로 인식되었을 뿐 정확히 정의되지는 않았다. 데데킨트의 친구이자 후배였던 칸토르(Cantor)는 유한집합에서 사용하던 산술을 무한집합에도 그대로 적용할 수 있는 새로운 집합론을 창시하였다. 그때까지 무한집합은 자기 자신의 진부분집합과 일대일 대응되기 때문에 무한집합의 존재는 모순이라고 여겨졌다. 그러나 칸토르는 이것을 모순이 아닌 무한집합의 한 성질로 보고 그것을 무한집합의 정의로 삼았다. 이러한 이유 때문에 칸토르의 집합론을 무한론이라고 부르기도 한다. 칸토르가 집합론에서 미적분과 무한급수에 대하여 직접적으로 언급한 것은 아니지만 무한에 대한 그의 접근 방법은 해석학에 큰 영향을 미쳤다. 또한 해석학에서 다루는 수의 집합이 무한집합이기 때문에 칸토르의 집합론은 해석학의 이론을 다듬는 데에 중요한 이론적 기저가 되었다.

물론 칸토르의 집합론이 수학자들에게 곧바로 받아들여진 것은 아니다. 특히 그 당시 권위 있는 수학자였던 크로네커(Kronecker)는 칸토르를 심하게 비난하였고 실재하지 않는 무한을 다룬 칸토르의 집합론은 아무런 가치가 없다고 하였다. 그러나 칸토르의 절친한 데데킨트는 그의 이론을 적극 지지하였으며 뒤늦게 20세기 초에야 칸토르 이론은 수학자들에게 인정받게 되었다. 특히 힐베르트(Hilbert)는 ‘그 누구도 칸토르가 만든 이 낙원에서 우리를 추방할 수 없다’며 그를 칭찬하였다. 칸토르에 의하여 무한이 산술화되자 수학은 매우 빠르게 발전하기 시작하였다. 이러한 이유로 칸토르가 집합론을 발표한 때를 현대 수학의 시점으로 본다.


추상화된 공간에서의 해석

실수를 적절히 정의하는 문제와 무한의 산술화 문제가 해결되자 수학자들은 더욱 추상적인 공간에 해석적 방법을 적용하기 시작하였다. 20세기 초 프랑스의 르벡(Lebesgue)은 실수 집합이 아닌 일반적인 집합에서의 측도(measure)를 정의하고 이것을 이용한 적분을 생각하였다. 특히 실수집합 위에서의 측도는 일반적인 구간의 길이나 구간들의 합집합으로 표현되는 집합의 크기를 일반화한 것이 된다. 이렇게 집합에 측도가 주어진 공간을 해석적으로 다루는 수학의 분야를 측도론이라고 한다.

힐베르트는 무한수열의 공간에서 각 수열을 하나의 원소로 하는 ‘힐베르트 공간’을 생각하였다. 그는 이 공간에 적절한 연산과 거리를 정의함으로써 실수집합 위에서 해석을 할 때처럼 힐베르트 공간 위에서 해석을 할 수 있었다.

이후 수학자들은 해석학의 이론을 추상화하는 과정에서 거리공간의 개념을 만들었다. 거리공간은 임의의 집합에 적절한 거리함수를 정의한 것인데 여기서 거리함수란 실수의 절대값과 비슷한 개념이다. 힐베르트 공간뿐만 아니라 많은 함수공간에 거리가 정의될 수 있다. 또한 함수공간을 정의역으로 하는 함수를 정의할 수 있는데 이러한 함수를 범함수(functional)라고 한다. 그리고 함수공간을 해석적으로 다루는 수학의 분야를 함수해석학이라고 한다.디자이너엘리스 닷컴

수학자들은 여기서 멈추지 않고 거리공간을 더욱 추상화하여 위상공간이라는 개념을 만들었다. 위상공간에 거리는 정의되지 않고 단지 개집합과 폐집합, 그리고 집합 사이의 함수만 존재할 뿐이다. 거리공간에서는 거리함수와 부등호에 의하여 개집합이 정의되지만 위상공간에서는 처음부터 개집합의 개념을 가지고 시작하는 것이다.