케플러의 추측 - 과일 장수면 누구나 아는 상식

동일한 크기의 공을 어떻게 하면 가장 빽빽하게 밀집시킬 수 있을까?오렌지나 사과를 팔아본 과일장수라면 누구도 경험적으로 대답을 할 것이다. 하지만 수학자라면 정색하며 고민을 할 것이다. 독일의 천재 수학자이자 천문학자인 요하네스 케플러(1571~1630)도 두 손을 들었던 문제이기 때문이다.

1590년대 말, 영국의 항해가인 월터 랠리 경은 자신의 조수였던 토머스 해리엇에게 배에 쌓여 있는 포탄 무더기의 모양만 보고 그 개수를 알 수 있는 방법을 찾아내라고 요청한다. 수학자였던 해리엇은 수레에 쌓여 있는 포탄의 개수를 알 수 있는 방법으로 간단한 표를 만들었다. 하지만 그런 그도 배에 포탄을 최대한 많이 실을 수 있는 방법을 찾아내지는 못했다. 결국 그는 당시 최고의 수학자이자 천문학자인 요하네스 케플러에게 도움을 요청하는 편지를 쓴다.

케플러는 당시 관측의 대가인 티코 브라헤의 자료를 이용해 코페르니쿠스의 지동설을 지지하고 행성의 움직임을 완벽하게 분석해 내 명성을 얻고 있었던 인물이다. 그는 그리스시대부터 전해져 내려온 모든 물질이 더 이상 쪼갤 수 없는 원자로 이뤄져 있다는 원자론에 관심을 갖고 있었다. 그는 물질을 구성하는 작은 입자들의 배열 상태를 연구하던 중에 부피를 최소화하려면 입자가 어떻게 배열해야 하는지 생각했다. 모든 입자가 공과 같은 구형이라고 한다면 어떻게 쌓는다 해도 사이사이에 빈틈이 생긴다. 문제는 이 빈틈을 최소한으로 줄여서 쌓인 공이 차지하는 부피를 최소화하는 것이다. 이 문제를 해결하기 위해, 케플러는 다양한 방법에 대하여 그 효율성을 일일이 계산해 보았다.

우선 인접한 공 4개의 중심을 이었을 때 빈 공간이 정사각형이 되도록 하는 방법이 있다. 이 방법을 ‘단순 입방격자’라고 한다. 이 경우 주어진 공간의 52%만을 공으로 채울 수 있다. 공이 채울 공간과 공 사이의 공간이 거의 반반인 셈이다. 여러 가지 경우의 수를 생각하던 케플러는 ‘면 중심 입방격자’일 때가 주어진 공간에 74%를 채울 수 있다는 사실을 실험적으로 알게 됐다. 즉 인접하는 공 4개의 중심을 이었을 때 빈 공간이 정육각형이 되도록 채워 넣는 것이다. 이것이 케플러의 가설이다.

사실 이것은 과일장사가 과일을 쌓아올리는 방법이기도 했다. 과일 장사들은 경험적으로 먼저 과일을 가로 세로로 나란히 줄 맞춰 바닥을 채운 뒤, 과일 사이의 패인 홈에 과일을 올렸다. 이 방법으로 계속 과일을 쌓아올리면 과일 1개의 위, 아래에는 각각 4개의 과일이 위치한다.

이와는 조금 다른 방법도 있다. 먼저 과일을 한 줄 늘어놓은 뒤 그 옆에 과일을 배열할 때는 수직방향으로 나란히 배열하지 않고 과일 2개 사이의 오목한 사이에 놓는다. 이렇게 서로 어긋나게 과일을 배열해 바닥을 채운 뒤, 그 윗줄에는 과일 3개가 만드는 홈에 과일을 올려놓는 식으로 쌓는다. 이렇게 하면 과일 1개 주변에는 12개의 과일이 위치한다. 케플러는 사실상 이 두 가지 방법은 같은 배열방식이라고 보았다.

아이러니하게도 뛰어난 수학자인 케플러조차 자신의 가설을 수학적으로 입증하지 못했다. 경험적으로는 당연한 이야기지만 수학적으로 증명을 해내지 못한 것이다. 후대 수학자들은 이 케플러의 가설을 증명하고 싶어 했다. 뉴턴, 라그랑주, 수학의 황제로 불리는 가우스, 악셀 튜에, 라슬로 페에스토트, 다비트 힐베르트, 우이 시앙… 그리고 추측을 최종적으로 증명해 낸 토머스 헤일스에 이르기까지 이 시도는 계속됐다. 이 과정에서 케플러의 가설은 라그랑주, 가우스 등 수학 천재들에 의해 증명의 발판이 마련됐으나, 완전히 증명된 것은 아니었다.

그런데 1998년 미시건대 수학자인 토머스 헤일스와 그 제자인 숀 팩러플린은 마침내 ‘증명’이라는 마침표를 찍었다. 시대를 잘 타고난 덕택에 대용량 컴퓨터를 활용할 수 있었기 때문이다. 그럼에도 케플러의 가설을 수학적으로 증명하는데 꼬박 10년이나 걸렸다. 증명의 증거로 내놓은 것은 복잡한 수식으로 채워진 2백50쪽에 달하는 논문을 담은 컴퓨터 파일이었다. 케플러의 가설을 수학으로 증명하기 위해 1백50개의 변수를 지닌 방정식을 풀어야 했다. 이 변수들은 채우는 방식이 바뀔 때마다 변하기 때문에 아주 복잡했다. 만일 연필과 종이 등의 재래식 방법을 이용하려고 한다면 실패했을 것이다. 헤일스도 처음에는 일반 컴퓨터를 동원했는데, 방정식을 풀면서 혼동상태가 돼버리고 말았다. 결국 대학원생인 새뮤얼 퍼거슨이 대용량 컴퓨터를 동원하고 나서야 문제 해결의 지름길을 찾아냈다.

수학의 세계는 복잡하고 미묘하다. 동네에서 사과나 감귤을 파는 상인들이면 누구나 알고 있을 법한 경험적인 사실을 수많은 천재들이 무려 387년이라는 세월을 투자하고, 대용량 컴퓨터까지 동원하고 있으니 말이다. 하지만 어쩌면 이것이 수학의 순수한 매력일지도 모른다.


글 : 유상연 과학칼럼니스트
출처 : 한국과학기술정보연구원(KISTI)