리만 가설은 리만 제타 함수 ζ(s)의 모든 비자명 영점이 복소평면의 세로선 Re(s)=1/2 위에 있다는 주장입니다. 여기서 s는 실수부 σ와 허수부 t를 가진 복소수 s=σ+it입니다. ‘영점’은 ζ(s)=0이 되는 s를 뜻하고, Re(s)는 s의 실수부입니다.
이 문장은 짧지만 아직 증명되지 않았습니다. 많은 영점이 임계선 위에 있음이 이론과 계산으로 확인되었지만, 무한히 많은 모든 비자명 영점이 그 선 위에 있다는 일반 증명은 없습니다. 리만 가설은 클레이 수학연구소의 밀레니엄 문제 가운데 하나이며 현재도 미해결로 분류됩니다.
리만 제타 함수는 어떤 함수인가
복소수 s의 실수부가 1보다 클 때 리만 제타 함수는 ζ(s)=Σ(n=1부터 ∞까지)1/n^s로 정의됩니다. 실수 s=2에서는 ζ(2)=1+1/2²+1/3²+…=π²/6입니다. s=3에서는 1+1/2³+1/3³+…처럼 항이 더 빠르게 작아져 수렴합니다.
ζ(s)=1+1/2^s+1/3^s+… (Re(s)>1에서 급수로 수렴)
이 급수는 Re(s)>1에서만 그대로 수렴합니다. 예를 들어 s=1이면 조화급수 1+1/2+1/3+…가 되어 발산합니다. 하지만 복소해석의 해석적 연속을 사용하면 s=1을 제외한 복소평면 전체로 같은 함수의 의미를 일관되게 확장할 수 있습니다. s=1에는 단순극이 있습니다.
해석적 연속은 발산급수를 그대로 더하는 일이 아닙니다
ζ(s)를 Re(s)≤1로 확장한다는 말은 발산하는 원래 급수의 항을 보통 방식으로 끝없이 더해 유한값을 얻는다는 뜻이 아닙니다. 먼저 수렴 영역에서 정의된 해석함수와 일치하고 더 넓은 영역에서 해석적인 유일한 함수를 다른 식으로 이어 붙이는 과정입니다. 함수방정식이나 교대급수 형태 등이 이 확장을 표현하는 데 쓰입니다.
따라서 ζ(−1)=−1/12라는 식도 1+2+3+…의 통상적인 부분합이 −1/12로 수렴한다는 뜻이 아닙니다. 부분합은 무한대로 발산합니다. −1/12는 제타 함수를 해석적 연속한 뒤 s=−1에서 얻는 함수값입니다. 정의와 계산 규칙을 구분해야 합니다.
오일러 곱이 소수와 제타 함수를 연결합니다
Re(s)>1에서 제타 함수는 모든 소수 p에 대한 곱 ζ(s)=∏p(1−p^(−s))^(−1)로도 표현됩니다. 이를 오일러 곱이라고 합니다. 각 인수를 1+p^(−s)+p^(−2s)+…로 펼치고 곱하면 산술의 기본정리에 따라 모든 자연수의 소인수분해가 정확히 한 번씩 나타납니다.
ζ(s)=∏(p는 소수)(1−p^(−s))^(−1)
자연수 합으로 정의한 함수 안에 소수 전체의 곱 구조가 들어 있으므로 제타 함수의 성질은 소수 분포와 연결됩니다. 이 연결은 막연한 비유가 아니라 수렴 영역에서 증명되는 항등식입니다. 이후 해석적 연속과 함수방정식을 사용하면 영점의 위치가 소수 개수의 오차와 어떻게 연결되는지 연구할 수 있습니다.
자명 영점과 비자명 영점
제타 함수는 −2, −4, −6,…과 같은 음의 짝수에서 0이 됩니다. 이들을 자명 영점이라고 부릅니다. 함수방정식에 포함된 사인 또는 감마 함수의 구조를 통해 위치가 드러나기 때문입니다. 리만 가설은 이 자명 영점에 관한 명제가 아닙니다.
나머지 비자명 영점은 0<Re(s)<1인 임계띠 안에 있습니다. 제타 함수의 함수방정식과 켤레대칭 때문에 영점은 임계선과 실수축에 관해 대칭 구조를 가집니다. s=σ+it가 비자명 영점이면 1−σ+it, σ−it, 1−σ−it와 연결되는 영점도 생깁니다. Re(s)=1/2는 이 대칭의 중심선입니다.
| 구분 | 위치 | 상태 |
|---|---|---|
| s=1 | 단순극 | 영점이 아님 |
| 자명 영점 | −2, −4, −6, … | 증명된 정확한 영점 |
| 비자명 영점 | 0<Re(s)<1인 임계띠 | 모두 임계띠 안에 있음이 증명됨 |
| 리만 가설의 주장 | 모든 비자명 영점에서 Re(s)=1/2 | 아직 미해결 |
임계띠와 임계선을 혼동하면 안 됩니다
임계띠는 0<Re(s)<1인 폭이 있는 영역이고, 임계선은 그 한가운데인 Re(s)=1/2라는 선입니다. 비자명 영점이 임계띠 안에 있다는 사실은 알려져 있습니다. 리만 가설은 여기서 한 단계 더 나아가 그 영점이 모두 가운데 선에 정확히 놓인다고 주장합니다.
‘많은 영점이 임계선 위에 있다’는 정리와 ‘모든 영점이 임계선 위에 있다’는 가설도 다릅니다. 하디는 임계선 위에 비자명 영점이 무한히 많음을 증명했습니다. 이후 임계선 위에 놓이는 영점의 양의 비율에 관한 더 강한 결과들이 나왔습니다. 그래도 임계띠의 다른 위치에 영점이 하나도 없다는 결론에는 이르지 못했습니다.
첫 번째 비자명 영점은 어떻게 적나
양의 허수부를 가진 첫 비자명 영점은 대략 s=1/2+14.134725i입니다. 다음 영점들의 허수부는 약 21.022040, 25.010858로 이어집니다. 켤레복소수도 영점이므로 음의 허수부 쪽에도 대응하는 점이 있습니다. 이 숫자는 방정식의 닫힌꼴 해라기보다 고정밀 수치 계산으로 구합니다.
클레이 수학연구소의 안내는 처음 10조 개의 비자명 영점이 임계선 위에 있는 것으로 확인됐다고 설명합니다. 이 계산은 매우 큰 규모의 증거지만 유한한 개수입니다. 영점은 무한히 많으므로 그다음 어딘가에 임계선을 벗어난 영점이 없음을 계산만으로 확정할 수는 없습니다.
소수 정리와 리만 가설의 역할
π(x)를 x 이하의 소수 개수라고 하겠습니다. 소수 정리는 x가 커질 때 π(x)가 x/log x 또는 로그적분 li(x)에 가까워진다고 말합니다. 이는 소수의 평균적인 밀도를 알려 주지만, 실제 개수는 근삿값 주변에서 흔들립니다. 리만 가설은 이 오차가 얼마나 크게 흔들릴 수 있는지 강하게 제한하는 명제와 동치입니다.
적절한 정식화를 쓰면 리만 가설은 π(x)와 li(x)의 차이에 제곱근 규모의 경계를 주는 결과와 연결됩니다. 세부 로그 인자는 사용하는 소수 계수 함수와 표현 방식에 따라 달라집니다. 핵심은 평균 분포만 알려 주는 소수 정리보다 훨씬 정밀한 오차 통제를 제공한다는 점입니다.
리만의 1859년 논문
베른하르트 리만은 1859년 ‘주어진 크기보다 작은 소수의 개수에 관하여’라는 논문에서 제타 함수를 복소변수로 다루고 소수 개수와 영점의 관계를 전개했습니다. 그는 관련 영점의 실수부가 모두 1/2일 가능성을 적은 뒤 엄밀한 증명이 필요하다고 밝혔습니다.
이 논문은 짧지만 소수 분포를 복소함수의 영점으로 연구하는 길을 열었습니다. 1896년 아다마르와 드라발레푸생은 제타 함수가 Re(s)=1인 선에서 영점을 갖지 않는다는 사실을 이용해 소수 정리를 각각 증명했습니다. 이는 리만 가설 전체보다 약한 결과지만 영점 정보가 소수 분포로 이어지는 대표적인 사례입니다.
가설이 참이면 무엇이 달라질까
리만 가설이 참이면 소수가 평균적 예측에서 벗어나는 정도에 강한 상한을 줄 수 있습니다. 소수 사이의 간격, 산술함수의 합, 소수 판정과 여러 수론 알고리즘의 복잡도에 걸쳐 조건부 결과가 무조건적 정리가 됩니다. 여기서 조건부 결과란 ‘리만 가설이 참이라고 가정하면’ 증명되는 정리입니다.
가설이 거짓이라면 임계선 밖의 비자명 영점 하나가 반례가 됩니다. 그 경우에도 소수 정리 자체가 무너지는 것은 아닙니다. 이미 무조건 증명된 정리는 그대로 유지되지만, 리만 가설을 전제로 얻은 정밀한 오차 경계와 파생 결과를 다시 검토해야 합니다.
리만 가설과 암호는 어떤 관계인가
리만 가설이 증명되거나 반증된다고 RSA 암호가 즉시 해독되는 것은 아닙니다. RSA의 실용 보안은 큰 합성수의 인수분해 난이도와 안전한 패딩·키 관리에 의존합니다. 리만 가설은 소수 분포와 알고리즘 분석에 영향을 주지만, 그것만으로 효율적인 인수분해 알고리즘이 자동으로 생기지는 않습니다.
다만 일반화 리만 가설을 가정하면 결정적 소수 판정, 수론 알고리즘의 실행 시간과 작은 생성원 탐색 등에 더 좋은 경계를 얻는 경우가 있습니다. RSA 공개키 암호에서 소수와 모듈러 연산이 쓰이는 방식을 함께 보면 ‘소수가 중요하다’는 공통점과 ‘같은 문제다’라는 오해를 구분할 수 있습니다.
계산 검증에서 필요한 주의
영점을 확인할 때는 단순히 ζ(1/2+it)의 절댓값이 작아지는 지점을 찾는 것만으로 충분하지 않습니다. 수치 오차 때문에 영점을 빠뜨리거나 같은 영점을 중복 계산할 수 있습니다. 리만–지겔 공식, 영점 개수를 세는 공식을 비롯한 도구를 이용해 구간 안의 영점을 모두 찾았는지 검증합니다.
고정밀 계산으로 수많은 영점이 선 위에 있음을 확인한 결과는 명백한 수학적 성과입니다. 그러나 ‘확인한 모든 영점’이라는 유한 문장과 ‘존재하는 모든 영점’이라는 무한 문장은 다릅니다. 골드바흐 추측의 대규모 계산 검증과 마찬가지로 검산 범위와 일반 증명의 경계를 표시해야 합니다.
자주 생기는 오해
- 리만 가설은 모든 제타 함수 영점이 Re(s)=1/2에 있다는 말이 아닙니다. 음의 짝수에 있는 자명 영점은 제외합니다.
- 비자명 영점이 임계띠 안에 있다는 사실은 증명됐지만 모두 임계선 위에 있다는 주장은 미해결입니다.
- 처음 10조 개 영점의 계산 확인은 일반 증명이 아닙니다.
- ζ(−1)=−1/12는 1+2+3+…의 통상적인 합이 아니라 해석적 연속으로 얻은 값입니다.
- 리만 가설이 참이면 소수의 위치를 하나씩 알려 주는 간단한 공식이 생긴다는 뜻은 아닙니다.
- 리만 가설의 해결이 곧바로 RSA 인수분해 문제를 해결하는 것은 아닙니다.
증명된 사실과 미해결 주장을 한눈에 구분하기
- 증명됨: ζ(s)의 급수는 Re(s)>1에서 수렴하고 오일러 곱과 같습니다.
- 증명됨: 해석적 연속 후 s=1을 제외한 복소평면에서 제타 함수를 다룰 수 있습니다.
- 증명됨: 음의 짝수는 자명 영점이고 비자명 영점은 0<Re(s)<1에 있습니다.
- 증명됨: 임계선 위에는 비자명 영점이 무한히 많습니다.
- 계산 확인: 매우 많은 초기 영점이 임계선 위에 있습니다.
- 미해결: 모든 비자명 영점의 실수부가 정확히 1/2입니다.
핵심 정리
리만 제타 함수는 Re(s)>1에서 자연수 역거듭제곱의 무한합으로 시작하고, 해석적 연속을 통해 s=1을 제외한 복소평면으로 확장됩니다. 오일러 곱은 이 함수와 소수를 연결합니다. 음의 짝수에 있는 자명 영점과 달리 비자명 영점은 임계띠 0<Re(s)<1에 있습니다.
리만 가설은 그 비자명 영점이 모두 임계선 Re(s)=1/2에 있다는 주장입니다. 수많은 계산 결과와 여러 부분 정리가 이를 지지하지만 아직 완전한 증명이나 반례는 없습니다. 소수의 평균 분포를 넘어 오차의 크기를 정밀하게 통제한다는 점이 이 가설의 핵심적인 의미입니다.