감마함수란 무엇인가? ~ 오일러, 또 당신이에요? ~

감마함수란 무엇인가? ~ 오일러, 또 당신이에요? ~

 

0. 서론

이 블로그의 이전 포스팅들에서 아주 심심치 않게 등장하던 특수함수(special function)가 있습니다.

• 감마함수로 팩토리얼 증명
• 대학교 2학년의 꿈(x^x 적분)

바로 감마함수(gamma function)인데요.

사실 그동안 감마함수가 무엇인지 정확히 모르고 일단 하나의 도구로 썼었는데, 오늘은 이게 무엇인지 낱낱이 밝혀보도록 하겠습니다.

 

 

1. 감마함수의 정의

$ \Gamma(n+1) = n! = \int_0^\infty t^{n}e^{-t} dt $

로 정의되는 감마함수는 한마디로 말해서 팩토리얼 함수입니다.(정확히는 '정수에서의 팩토리얼과 일치하며, 이를 실수와 복소수 영역까지 확장한 특수함수 즉, 팩토리얼을 일반화한 함수'라는게 맞겠지요)

그런데 이미 팩토리얼을 정의하는 다른 방법들($ \Pi $라던가 !라던가..)이 있는데도, 왜 이런 특수함수가 필요하냐 하면..

!로 정의되는 팩토리얼 연산은 정수에서만 정의가 되어있고, $ \Pi $로 쓰는 형태는 조작이 쉽지 않아서 랍니다.

더 자세한 내용을 따라가 볼까요?

 

 

2. 팩토리얼 확장의 시작: 오일러의 탐구

1729년, 수학계의 오랜 질문 중 하나는 정수 n에 대해서만 정의되던 팩토리얼(n!)을 어떻게 실수와 복소수 영역까지 연속적(analytic)으로 확장할 수 있을까 하는 문제였습니다. 다니엘 베르누이(Daniel Bernoulli), 크리스티안 골드바흐와(Christian Goldbach) 같은 당대의 수학자들이 이 주제를 놓고 활발히 서신을 주고받았죠.

이 문제에 뛰어든 레온하르트 오일러는 먼저 팩토리얼을 다른 방식으로 표현하는 것에서 출발했습니다. 그는 1729년 골드바흐에게 보낸 편지에서 다음과 같은 무한 곱 형태를 제안하며 팩토리얼을 일반화할 실마리를 찾았습니다.

$ n! = \lim \limits _{m \rightarrow \infty} \frac{(m+1)^n m!}{(n+1)(n+2) \cdots (n+m)} $

하지만 무한 곱은 다루기 까다로웠고, 오일러는 더 우아하고 실용적인 형태를 찾고자 했습니다.

 

여기서 그는 새로운 함수 $ f(x) $가 만족해야 할 세 가지 핵심 조건을 설정했습니다.

1. 초기값과 재귀성질: f(1)=1, f(x+1)=xf(x)
2. 정수 팩토리얼 값과 일치: f(n) = n!
3. 해석적 성질: 함수가 연속적이고 미분 가능하며, 적분 등으로 표현 가능해야 한다.

 

그리고 이제 이 함수를 찾기 위한 여정을 떠납니다.

 

 

3. 영감의 원천: 오일러의 제1종 적분(베타 함수)

오일러는 이 문제를 고민하기 전, 훗날 베타 함수(Beta function)라 불리는 '오일러의 제1종 적분(Euler's integral of the first kind)'을 연구한 경험이 있었습니다.

베타 함수는 이항 계수를 실수 범위로 일반화한 것으로, 다음과 같이 정의됩니다.

$ B (x, y) = \int_0^1 t^{x-1}(1-t)^{y-1} dt $

그리고 이 함수를 부분적분하면

$ B(x, y) = \frac{y-1}{x} B(x+1, y-1) $라는 재귀 관계가 나타납니다.

위에서 정한 조건 중 가장 핵심인 '재귀성질'을 찾아낸 것입니다.


또한 이 구조는 오일러에게 결정적인 영감을 주었습니다.

1. 두 함수의 곱을 적분하는 과정(특히 부분적분)이 재귀적인 성질을 만들어낼 수 있다.
2. 재귀 관계를 단순하게 만들기 위해 변수는 한가지로 통일
3. 한 함수는 미분/적분해도 형태가 유지되는 지수 함수($ e^t $) 꼴을 가져야 한다.
4. 다른 함수는 재귀적 성질을 반영해야하므로 미적분시 차수가 변하는 $ t^n $ 꼴을 가져야 한다.

 

 

4. 감마 함수의 탄생: 오일러의 제2종 적분(Euler's integral of the second kind)

이러한 통찰을 바탕으로 오일러는 1730년 1월 8일, 마침내 팩토리얼을 일반화하는(즉, 위의 세가지 조건을 모두 만족하는) 아름다운 적분 형식을 찾아냈습니다.

이는 '오일러의 제2종 적분(Euler's integral of the second kind)'이라 불리며, 훗날 감마 함수라고 불리게 됩니다.
(이 결과는 나중에 논문(De progressionibus transcendentibus, E19 등)에 정리되어 발표됩니다.)

$ n! = \int_0^\infty t^{n}e^{-t} dt $

여기서 몇 가지 요소는 오일러의 영감과 함께 치밀한 수학적 계산의 결과입니다.

 

1) 왜 $ e^t $가 아닌 $ e^{−t} $인가?

이는 '균형' 때문입니다.

부분적분
$ \int u dv = uv - \int v du $
을 하면 원시함수의 곱이 나오게 되는데 이 항을 경계항(Boundary term)이라고 합니다.
적분구간의 아래끝과 위끝의 값으로 최종 적분값이 결정되기 때문이죠.

그리고 여기서 재귀 관계가 깔끔하게 나오려면 경계항(boundary term)이 0이 되어 사라져야 합니다.

$t^n$은 $ t \rightarrow \infty $ 일 때 발산하므로, 이 값을 0으로 수렴시키기 위해 더 강력하게 감소하는 함수인 $ e^{−t} $가 곱해져야만 했습니다.

 

2) 왜 적분 구간이 0부터 $ \infty $인가?

만약 임의의 유한구간 T를 상한으로 놓고 유한한 구간에서 적분하면 경계항이 0이 되지 않아 재귀 관계가 복잡해집니다.
따라서 적분 구간을 0부터 $ \infty $까지로 설정함으로써, 경계항은 구간의 양 끝점(t=0, t→∞)에서 모두 0이 되어 깔끔하게 사라지고 원하는 재귀 관계만 남게 됩니다.

 

 

5. 감마함수: 이름의 유래와 정의

시간이 흘러 1809년, 프랑스 수학자 아드리앵마리 르장드르(Adrien-Marie Legendre)가 이 함수에 감마 함수(Gamma function)라는 이름을 붙이고 대문자 감마(Γ) 기호를 도입했습니다.

그런데 왜 하필 '감마'를 도입했을까요?
여러가지 설이 있습니다만.. 안타깝게도 정확하게 명시된 내용은 없답니다.
그래도 흥미돋는 썰들을 살펴보자면

• 당시 특수 함수에 그리스 문자를 붙이는 유행이 있었다
• 이 오일러의 제2종 적분이 팩토리얼을 일반화(Generalization)시켰다는 뜻에서 G의 Gamma를 선택했다.
• 대문자 감마(Γ) 기호가 '계단'이나 '각(angle)'의 형태를 띠고 있어, 팩토리얼의 이산적인(discrete) 성질과 연속적인 확장을 연결하는 시각적 상징으로 선택했을 수도 있다

정도가 가장 대표적이라고 볼 수 있겠습니다.

또한 르장드르는 감마 함수를 다음과 같이 정의했는데, 이로 인해 한 가지 독특한 관습이 생겼습니다.

$ \Gamma(n) = \int_0^\infty e^{-x}x^{n-1} = (n-1)! $

왜 $\Gamma(n)$이 $n!$이 아닌 $(n-1)!$이 되도록 정의했는지에 대한 명확한 이유는 없습니다.
그냥 르장드르가 제일 처음에 이렇게 정의를 해서 썼고, 이 최초 정의가 그대로 학계의 관습으로 굳어져 내려온다고 알려져 있습니다.

그러나 이렇게 내린 정의 덕분에 베타 함수와의 관계식($ B(x, y) = \frac{\Gamma(x)\Gamma(y)}{\Gamma(x+y)}$) 등 다른 여러 공식이 더 깔끔한 형태로 표현되니, '그냥'이라기 보다는 꽤나 많은 고민 끝에 내린 결론 같죠?

참고로, 베타함수라는 이름은 1839년 자크 비네(Jacques P. M. Binet)가 명명합니다.
명명의 이유는 정확히 알려져 있지 않지만, 감마함수가 제2종 적분이니 제1종 적분은 베타함수라고 그리스알파벳 순서에 따라 명명하지 않았나 추측합니다.

 

 

6. 마무리

수학사에서 뭔가 괴짜같다(=대단하다) 싶은 결과는 오일러, 가우스, 라그랑주 세 명 중 한 명을 찍으면 대충 맞습니다.
오일러는
오일러 방정식을 통해 복소평면에서 지수함수와 삼각함수와의 관계를 정립한 것처럼
오일러의 적분을 통해 이산적인 연산을 연속적인 연산으로 확장해냅니다.(이항 계수가 그러하며, 팩토리얼이 그러하죠)