행성과 혜성이 태양 주위를 돌면서 움직이는 궤도는 타원이다. 위성이 지구를 도는 궤도 또한 타원이다.

발사된 어떤 인공위성의 원거리가 2,368km, 근거리가 441km이고 지구를 한 바퀴 도는 시간이 114분이라고 할 때, 그 원거리와 근거리에 근거해 우리는 이 인공위성의 타원궤도 방정식을 유도해낼 수 있다. 최근 몇 년 동안 우주 산업은 비약적으로 발전해 인공위성의 수는 갈수록 증가하고 있다.

인간의 위성에 대한 인식은 비교적 이르지만, 혜성에 대한 인식은 훨씬 늦었다. 중국 고대에서는 혜성을 ‘빗자루별’이라 불렀는데, 이는 사람에게 재난을 가져다줄 별로 여겼기 때문이다. 1680년의 대혜성이 출현한 후, 뉴턴은 『자연철학의 수학적 원리』라는 책을 출간했다. 그는 자신이 얻은 만유인력의 법칙에 근거해 대혜성의 타원 궤도를 계산해냈으며, 500~600년마다 한 번씩 태양 부근으로 돌아올 것이라고 예측했다.

원래 혜성의 궤도는 타원이지만 이 타원은 매우 납작해, 때로는 지구에서 멀리 떠나기도 한다.

뉴턴의 친구인 핼리는 뉴턴의 아이디어에 힌트를 얻어 1531년과 1607년에 출현한 혜성의 궤도가 매우 유사하고 자신이 관측한 1682년에 출현한 혜성의 궤도와도 매우 유사하다는 것을 발견했다. 그는 이미 나타난 세 번의 혜성이 아마도 같은 혜성일 것이라고 추측했는데 만약 이 추측이 성립한다면, 이 혜성의 주기는 76년이라고 계산했다. 그래서 그는 1758년에 이 혜성이 다시 나타날 것이라고 예언했다. 하지만 혜성이 다시 찾아오는 순간까지 생존할 수 있는 사람이 주변에 많지 않기 때문에 핼리가 허풍을 떤다고 비웃었다.

1743년 프랑스 수학자 클레로는 이 혜성이 1758년이 아닌 1759년에 다시 출현할 것으로 내다봤다. 1759년이 되자, 하늘에 정말 긴 꼬리를 끌며 혜성이 나타났다. 이 일은 과학계에 센세이션을 일으켰는데, 그것은 핼리의 예언이 적중한 것으로 과학의 승리라는 것을 실증했기 때문이다. 핼리의 공적을 기념하기 위해서 사람들은 이 혜성을 ‘핼리혜성’이라고 부르게 되었다.

고대 사람들이 혜성을 ‘빗자루별’로 여겨 재앙을 몰고 온다고 여긴 것처럼 각국에 비슷한 설이 있다. 1910년, 핼리혜성의 등장으로 역사가 극적으로 전개된 적이 있었다.

어느 천문학자가 계산 착오로 1910년에 핼리혜성이 다시 출현할 것이며 지구와 충돌할 것이라고 예언했다. 그러자 ‘세계의 종말’이 임박했다는 소문이 돌았다. 한순간 세상은 공포로 가득했고, 사람들은 절망하며 두려움에 떨었다. 하지만 문제는 그렇게 심각하지 않았다. 천문학자들이 다시 계산해 보니 지구와 충돌하지 않고 단지 그것의 꼬리가 지구를 쓸고 갈 뿐이라는 것을 확인하였다. 이에 사람들의 절망적인 정서는 가라앉았지만, 그래도 공포는 여전히 남아 있었다. 비록 핼리혜성이 지구와 충돌하지는 않을지라도 그것의 ‘꼬리’는 맹독성 물질로 이루어져 있기 때문에 사람들은 혜성에 치여 죽지 않더라도 그 꼬리에 의해 독살당할 것이라며 두려워했다.

이날을 조마조마하게 기다린 사람들의 결과는 어땠을까? 당연히 모두 무사하였고 단지 하늘에 아름답게 펼쳐진 광경을 볼 뿐이었다.

천문 현상은 사람들을 때때로 기우에 빠지게 만들기도 하고 어떤 이들은 목적을 가지고 이를 이용해 우매한 사람들을 선동하며 사회를 어지럽히기도 한다.

1555년 프랑스의 예언자 노스트라다무스는 1999년 7월 인류에게 큰 재난이 닥칠 것이라고 예언했다. 또한 1970년대에 이르러 한 일본인은 이 예언을 아시아에 전파하면서 아주 그럴듯하게 ‘인류 대재앙’은 1999년 8월 18일에 발생한다고 주장했다. 그는 “그날 태양계의 10개 별들이 십(+)자로 배열돼 ‘공포의 대십자’로 불릴 것”이라고 했다.

이 재난 예언에 대한 언론의 조사에서 약 30%의 응답자가 ‘발생 가능성이 있다’고 여겼고, 47%는 ‘발생 가능성이 없다’, ‘일어날 수 없는 일이다’라고 응답했다. 11%의 사람들은 ‘어떤 일이 일어나더라도 큰 영향은 없다’라고 하였으나 1%는 ‘상당히 걱정하고 있다’고 답했다.

최근 핼리혜성이 지구에 출현한 것은 1985년이다. 사람들은 당황하지 않았고, 더 이상 놀라지도 않았으며 불운을 느끼지도 않았다. 오히려 핼리혜성의 진행과정에 대해 이야기하고 천문대에 올라가 실황을 관찰하거나, 텔레비전 앞에 삼삼오오 모여 앉아 생생한 장면을 시청했다.

예측에 의하면 핼리혜성의 다음 회귀는 대략 2061년 혹은 2062년이다. 일반적으로 공전 주기가 200년보다 짧은 혜성은 단주기 혜성이라고 한다. 가장 짧은 혜성은 ‘앵케 혜성(Encke""s comet)’으로 3년 106일에 한 번씩 지구에서 목격할 수 있다.

공전 주기가 200년이 넘는 혜성은 장주기 혜성이라고 한다. 궤도가 납작하기 때문에 태양으로부터 멀어질 때 9대 행성의 운행 범위 밖까지 뻗어나갈 수 있다. 왕왕 몇백 년, 몇천 년, 심지어는 더 오랜 시간이 지나야만 태양 부근에 한 번 돌아올 수 있다.

그렇다면 우주에는 몇 개의 혜성이 있을까? 어떤 사람은 태양계의 혜성의 총수가 약 1,000억 개나 될 것으로 추측한다.

솜씨가 뛰어나고 영리해 두뇌 회전이 빠른 목수가 있었다. 어린 시절, 그는 우연히 『이솝우화』를 읽게 되었다.

“병 안의 물이 너무 낮게 담겨 있어 까마귀는 물을 마실 수 없었다. 그래서 까마귀는 작은 돌을 하나씩 병 속에 넣었는데, 물 높이가 서서히 높아지자 물을 마실 수 있었다.”

목수는 까마귀의 지혜에 깨달음을 얻어 이야기의 숨은 원리에 근거해 관개용으로 물을 빼는 기계를 발명했다. 그리고 토지 면적 등을 계산하는 각종 도구도 발명했다. 그중에서도 가장 유명한 것은 다용도의 계산자다. 그는 이 계산자를 만들 때 ‘로그(logarithm)’의 지식을 이용했다. 그러나 당시 초급 수학 수준에 불과하였던 그는 매우 힘든 환경 속에서 홀로 방법을 모색하다가 결국 계산자를 발명해낸 것이다. 그가 바로 중국의 ‘우진선’이라는 인물로 이후 수학을 전공하게 되었다고 한다.

우진선은 풍부한 수학적 아이디어를 가지고 있었는데, 그중에서도 탁상공론을 압도하는 아이디어 중 하나가 바로 ‘면적 재기’이다. 어떤 물체의 무게를 잴 때는 저울을 이용하는데 도형의 면적은 공식에 대입해 계산해낸다. 만약 모양이 아주 불규칙해 면적 공식이 없는 도형이라면 어떻게 면적을 잴 수 있을까?

그의 고향인 칭위안현의 현장은 어느 현의 토지 일부분을 하사받았다. 현장은 이 토지의 면적이 얼마나 되는지 알고 싶었다. 당시 많은 사람에게 가르침을 청했지만, 누구도 면적을 측정할 좋은 방법이 없었다. 학식이 좀 있는 사람도 난처해하며 “땅의 모양이 네모반듯하거나 둥글다면 면적 공식을 쓰면 되니 구하기 쉬울 텐데요.”라고 말할 뿐이었다. 실제 토지의 형상은 사방이 꼬불꼬불한 매우 불규칙한 모양이어서 그 면적을 정확하게 측정해내기란 무척 어려운 일이었다. 현장은 결국 우진선에게 가르침을 청할 수밖에 없었다.

우진선은 이 문제를 구체적으로 고민한 후에 두말없이 현장의 요구를 승낙했다. 그는 먼저 재질이 균일한 나무판자를 구해와 나무판자 양면을 반들반들하게 대패질한 후 네모반듯하게 톱질했다. 그리고 나무판자를 재어 축척으로 계산해 그 면적을 1,000평방킬로미터로 설정했다. 또 나무판자를 저울에 달아 그 중량을 10냥이라고 했다. 그런 후에, 그는 칭위안현의 지형도를 이 목판 위에 복사했다. 그림의 윤곽선에 따라 톱질해 ‘나무지도’를 만들었다. ‘나무지도’를 저울에 달아보니 그 중량이 7냥 5전 3분 정도였다. 이를 다시 비율로 계산해 나무지도의 면적은 753평방킬로미터임을 확인했다. 이렇게 해 우진선은 물리적인 방법으로 칭위안현의 면적을 산출해낼 수 있었다.

이탈리아의 유명한 물리학자 갈릴레오는 나선 문제를 연구할 때 두 가지 중요한 사실을 발견했다. 첫째, 나선의 길이는 상응하는 원둘레의 4배이다. 둘째, 나선의 아랫부분의 면적은 상응하는 원 면적의 3배이다. 첫 번째는 갈릴레오가 밧줄로 직접 재었고 두 번째는 갈릴레오도 우진선과 마찬가지로 무게를 달아 그 사실을 확인했다.

에디슨의 실험실에 명문대 수학과 졸업생인 압톤이라는 새로운 조수가 들어왔다. 어느 날 에디슨은 그에게 배 모양의 전구 부피를 계산하는 임무를 맡겼다.“이 전구는 무슨 도형이죠? 구도 아니고 원기둥도 아니니 정말 쉽지 않네요.”압톤은 자를 꺼내 전구 밖에서 위아래로 쟨 다음 밑그림을 그리고 식을 만들어 계산에 몰두했다.

한 시간쯤 지나 에디슨은 그에게 다가가 관심있게 물었다.

“잘 되고 있나요?”

“아직이에요. 이제 겨우 반 정도 계산한 걸요.”압톤은 땀을 닦으며 대꾸했다.

에디슨은 수학 기호와 계산식이 빼곡히 적혀 있는 몇 장의 종이를 전혀 이해할 수 없었다. 그러다 결국 웃음을 참지 못하고 이렇게 말했다.

“그냥 방법을 바꿔요!”

에디슨은 배 모양의 전구 안에 물을 가득 채우고 이렇게 말했다.

“당신이 물을 잔에 부어 물의 부피를 재면 그게 전구의 부피 아닌가요?”

압톤은 순간 얼굴이 붉어졌다. 왜 이런 생각을 진작에 하지 못했을까?

에디슨의 해법과 앞에서 언급한 우진선의 ‘면적 재기’는 방법은 다르나 효과는 같다. 이런 문제는 처음엔 어려워 보이지만 생각을 전환하면, 예를 들어 물리적으로 수학 문제를 해결하는 등 다른 각도로 생각하다 보면 교묘하고 간단한 해법을 얻기도 한다.

비슷한 경우로 작은 마을 기업에 ‘오일 탱크’가 있다. 그것은 마치 누워 있는 타원 기둥 같기도 하고 탱크 같기도 하다. 가솔린 등 액체를 담을 수 있어 ‘오일 탱크’로 불린다. 이 업체 관계자는 오일 탱크에 오일이 얼마나 들어 있는지 알고 싶어 작업자에게 측정자를 만들게 했는데, 이 측정자를 오일 탱크 위쪽 주유구에서 한 번 집어넣으면 오일의 깊이에 따라 오일의 부피를 알 수 있다.

실제로 이 문제는 함수 관계 즉, 액체의 깊이와 부피 사이의 함수 관계를 요구한다. 순수 수학적 방법으로 문제를 해결하려면 반드시 고등수학이 필요하다. 직원들은 속수무책이었지만 이때 똑똑한 중학생이 먼저 방법을 생각해냈다.

오일 탱크에 오일 10ℓl를 붓고 측정자를 넣어 액체의 깊이를 쟨 후 측정자를 끄집어내어 표시한다. 그런 후에 다시 오일 탱크에 오일 10ℓ를 부어 측정자를 넣은 후 끄집어내어 다시 표시하는 과정을 반복한다. 오일이 가득 차면 측정자가 완성된다.

영국의 월터 롤리(Walter Raleigh) 경은 16세기 말, 동일한 크기의 포탄을 쌓아 두는 문제에 봉착했다. 그는 수학자 해리엇에게 편지를 보내 수레에 쌓인 포탄의 개수를 어떻게 하면 빨리 계산할 수 있는지 물었다. 해리엇은 행성운동 3대 법칙의 발견자인 독일의 저명한 천문학자, 수학자인 케플러에게도 가르침을 청했다. 케플러는 ‘쌓기’ 문제에 워낙 관심이 많아 이 문제를 깊이 연구하기 시작했다. 이것이 ‘공을 상자에 가장 많이 담는 문제’의 시초이다.

공을 상자에 담는 가장 간단한 방법은 ‘큐브법’으로 네 개의 구의 중심을 연결해 정사각형을 이루게 한 다음, 그 위에 네 개의 구의 중심을 더 두어 여덟 개의 중심이 정육면체를 이루게 하는 것이다. 그런데 이렇게 쌓으면 상자 안에 빈 공간이 많이 남아서 상자 전체 부피의 약 48%가 빈 공간이 된다. 이는 박스의 절반가량의 공간이 활용되지 않는 것을 의미하므로 이런 방법은 분명히 비경제적이다.

따라서 케플러는 ‘면 중심 입방법(면의 중심을 연결해 정육면체를 만드는 방법)’ 즉, 윗부분의 공을 아랫부분의 패인 곳에 놓았다. 이와 같은 방법으로 쌓으면 빈 공간이 전체 공간의 약 26%를 차지하게 된다. 케플러는 이것이 공을 상자에 가장 많이 담는 방법일 것이라고 생각했다. 이론적으로 증명하지는 않았지만 과일 상인들이 진작부터 이렇게 과일을 담았으므로 틀린 생각은 아닐 것 같다.

이것은 하나의 추측으로 수학계에서는 이 추측을 ‘케플러 추측’이라고 부르는데, 이 문제가 쉬워 보여 도전했다가 적지 않은 사람들이 다들 번번이 실패하고 말았다. 19세기의 대수학자 가우스조차 2차원적인 상황만 증명했을 뿐 3차원적인 상황에는 속수무책이었다.

이 문제는 1900년 힐베르트가 제기한 23개 질문 중 하나로 채택되었다. 힐베르트의 23개 문제는 20세기 수학 발전의 큰 줄기가 될 만큼 수학자들은 ‘공을 상자에 가장 많이 담는 문제’에 큰 관심을 보였다.

1998년 8월 25일 미국 뉴욕타임즈에 “미시간대학교의 헤일즈 교수가 십수 년의 노력 끝에 대용량 컴퓨터의 힘을 빌려 ‘케플러 추측’이 옳다는 것을 증명했다.”라는 기사가 실렸다. 그의 논문은 250쪽에 달했는데 증명이 너무 길어서 10여 명의 심사위원이 장시간의 심사에도 불구하고 포기하고 말았다. 2003년에 이르러서야 심사위원단이 ‘99% 확정’이라는 결론을 내려 추측의 증명을 인정했다.

비로소 약 400년에 걸친 현안이 막을 내리게 된 것이다. 오늘날, 정보론에서 코딩 이론과 ‘케플러의 추측’이 사실 밀접하게 연관되어 있다는 점에서 더 큰 유용성을 찾을 수 있다.

‘4색 문제’는 수학 역사상 유명한 난제로, 이를 해결하는 데 100여 년이 걸려 많은 수학자들이 골머리를 앓았다.1852년 프랜시스 거스리(Francis Guthrie)라는 영국 청년이 지도를 만들던 중 지도마다 4가지 색으로 채색하면 이웃 국가를 구별할 수 있다는 사실을 알게 되었다. 그러나 거스리는 그 원리를 찾아낼 수 없었다. 그는 자신의 형 프레드릭 거스리에게 물어봤지만 형도 적지 않은 실험을 했는데 그 원리를 발견하진 못했다. 그는 너무 놀라 스승인 드 모르간을 찾아가 가르침을 청했다. 드 모르간도 이 결론을 증명할 수 없었고, 지도를 색칠하는 데 필요한 색이 4가지보다 더 많이 필요한 경우가 반드시 존재한다는 반례도 찾을 수 없었다. 그래서 또 유명한 기하학자 해밀턴 경을 찾아가 함께 연구했다. 해밀턴 경이 13년에 걸쳐 노력했지만 그는 1865년 세상을 떠났고 여전히 결말이 나지 않았다.

그러다 1878년 영국의 수학자 케일리는 런던에서 열린 수학 총회에서 흥미로운 ‘4색 문제’를 제기하면서 전 세계 수학자들에게 희망을 걸었다. 그렇게 ‘4색 문제’가 탄생했다.

여러분은 이 문제가 ‘뭐가 어려울까’라고 생각할 수도 있다. 단지 몇백 장의 지도를 그려보면서 다섯 번째 색이 꼭 필요한지 아닌지 확인하면 되지 않을까, 생각할 수도 있다. 만약 모든 지도가 4가지 색만으로 충분하다면 우리는 결론을 내릴 수 있다. 하지만 이런 생각은 틀렸다. 수학적 결론은 모두 이론적 증명을 거쳐야 성립된다.

수학자들은 ‘4색 문제’를 해결하기 위해 머리를 맞대었다. 흥미롭게도 수학자 헤르만 민코프스키(아인슈타인의 스승)가 엄밀하게 연구하였고 이 문제의 판을 뒤집게 되었다.

어느 날, 그가 대학 강의 중이었는데 한 학생이 4색 문제를 질문했다. 민코프스키는 “4색 문제가 좀처럼 해결되지 않고 있는데, 그건 단지 오늘날 세계 일류 수학자들이 그것을 연구하지 않기 때문일 뿐이다.”라고 대답했다.

잠시 후, 민코프스키가 갑자기 분필을 집어 들고 학생들에게 4색 문제를 추론하려고 했다. 하지만 생각과 다르게 그는 제대로 설명하지 못했다. 다음 시간에 그는 또 시도했지만 실패하였고 몇 주째 진전이 없었다. 결국 어느 날 민코프스키가 지칠 대로 지쳐 강의실에 들어섰을 때, 천둥번개가 치고 폭우가 쏟아졌다. 이에 그는 이렇게 말했다.

“하늘이 오만방자하다고 꾸짖는다. 나는 4색 문제를 해결할 수 없다.”이후 1879년 영국의 수학자 겸 변호사 알프레드 캠프(Kempe)가 이 문제의 증명을 제시하였고 수학자 퍼시 히우드(Percy Hewood)는 이 증명이 틀렸다는 것을 밝혀내었다. 그 후 적지 않은 수학자들이 증명을 하였지만 이후 이런 증명들에 다소 문제가 있는 것으로 드러났다.

100여 년 동안 이 추측은 수학자들을 곤경에 빠뜨렸으며, 이 문제가 성립됨을 증명할 수 있는 사람은 아무도 없었다. 4색 문제는 증명이 어려워 수학적 난제로 유명세를 떨쳤다. 하지만 이런 의외의 난해함은 수학자들에게는 놀라움에 그치지 않고 호기심을 자극해 이를 정복하겠다는 결심을 하게 만들었다.1975년 4월 1일, 유명한 취미 수학 작가 마틴 가드너는 <사이언티픽 아메리칸>지에 4색 문제를 해결한 사람에게 수상을 하겠다고 발표했다. 그런데 사실 이는 만우절 농담으로 서양에서는 이날의 농담은 금기가 없다.

그런데 누구도 진지하게 듣지 않았을 줄 알았던 가드너는 1,000여 통의 독자 편지를 받는다. 수학 애호자들이 이토록 관심을 보이며 달려들 정도니 4색 문제가 얼마나 매력적이었는지 알 수 있다. 여러 해 동안 수학자들은 이 문제를 해결하지는 못했지만 적지 않은 연구가 계속 이어졌다. 예를 들어 누군가가 5색 정리를 증명했다면 어떤 지도라도 5가지 색으로 채색하면 충분하다는 얘기다. 특히 누군가가 4색 문제를 증명하는 아이디어를 찾았지만 아쉽게도 작업량이 방대해 한 사람이 계산하면 수십만 년이 걸리는 정도였다.

1970년대 초반의 컴퓨터 수준으로 따지면 10만 시간을 가동해야 결론을 낼 수 있을 정도로 엄청난 작업량이었다. 컴퓨터의 성능이 계속 향상됨에 따라 수학자가 4색 문제를 증명하는 방안에 대한 개선을 원하자 컴퓨터로 4색 문제를 증명하려는 시도가 있었다.1976년 미국 수학자 아펠과 하켄이 컴퓨터로 1,200시간을 들여 4색 문제의 증명을 완성했다. 20세기 가장 큰 수학적 성과 중 하나인 4색 문제를 증명하면서 수학계는 물론 국제사회 전체가 들썩였다. 컴퓨터를 기반으로 한 인공지능이 수학의 발전에 헤아릴 수 없는 의미를 지닌다는 증거이다. 오죽하면 이 점이 4색 문제 자체보다 더 중요하다고 여겨지겠는가.

하지만 컴퓨터를 이용해 정리를 증명하는 데 회의적인 학자도 있다. 컴퓨터가 문제를 증명할 때 약간의 오류를 일으켰다가 또 정확한 결과를 얻었다면 증명된 결과가 어떻게 납득될 수 있겠느냐는 것이다. 그래서 4색 문제가 해결된 것으로 보이지만 논란은 가라앉지 않고 있는 것이다.