수학의 아름다움은 어디에서 오고 패턴은 어떻게 변화 하는가?

이 종 완 지도교사(강릉 문성고4-H회)

많은 학생들은 수학이 무엇이고 왜 수학은 끊임없이 새로운 현상을 설명하고 앞으로도 발전을 계속해 나가는가 하는 원론적인 물음을 갖고 있다. 이에 대한 답을 찾고자 ‘수학의 언어’를 선택하게 되었다. 우리는 안다고 하는 것을 정말 알고 있는지에 대하여 증명하고, 모르는 것을 정말 모르고 있는지에 대하여 증명하는 것에 어떤 질서가 필요한지 진지하게 생각해볼 필요가 있다. 수학이라는 언어는 보이지 않는 것을 볼 수 있게 수와 식으로 표현하고 느낄 수 없는 현상들을 느낄 수 있게 예를 보여 주는 즐거운 상상의 산물들이라는 것을 알게 되면, 늘 딱딱하고 재미없게 느껴졌던 수학의 새로운 매력에 빠져들게 될 것이다. 수학은 어떤 경로로 발전하고 수학이 가지고 있는 성질들은 어떤 패턴을 갖고 있는가 하는 물음에 대한 설명이 이 책에 충실하게 기록 되어 있다.
수학이 측정과 셈과 계산의 기법에 머물지 않고 지적인 연구 분야가 된 것은 순전히 그리스인들 덕분으로, 탈레스는 명료하게 진술된 수학의 주장들이 형식적인 논증에 의해 논리적인 증명이 될 수 있다는 생각을 도입해 수학적 정의의 탄생을 알리게 되었다. 17세기 중반 뉴턴과 라이프니츠가 미적분학을 발명할 때 까지 수학의 중요한 발전은 없었다. 18세기 중반 이후부터 수학의 응용과 수학 자체에 대한 관심이 증가하고 19세기 말에 이르러 수학은 수와 모양과 운동의 변화, 공간의 연구 뿐 아니라 이들을 연구하기 위한 수학적 도구에 대한 연구가 되었다. 20세기 수학의 폭발은 가히 극적인데 복잡성 이론이나 역동 체계 이론 등의 새로운 개념의 이론들이 탄생하게 된다. 수학은 패턴(pattern)의 과학으로, 수학자는 패턴을 탐구하는 사람들이다. 수의 패턴, 모양의 패턴, 운동의 패턴, 행동의 패턴, 유권자의 패턴, 반복되는 우연적 사건의 패턴 등을 탐구하는데 실재일 수도 있고 가상일 수도 있다. 또한 시각적일 수도 있으며 정신적 , 순수 실용적, 흥밋거리일 수도 있다. ‘자연의 커다란 책은 그 책에 씌어 있는 언어를 아는 사람만이 읽을 수 있고 그 언어는 수학이다’고 한 갈릴레오의 말은 사유와 의사소통과 컴퓨터와 사회와 생명자체의 본질이 수학적 패턴임을 알기에 크든 작든 우리의 삶은 수학의 영향을 모든 면에서 받고 있다고 할 수 있다.
현대의 추상적 수학을 처음 접하는 사람은 그 수학이 당돌한 게임과 같다는 느낌을 받을 것이다. 추상적 수준이 높아지면서 추상적 집합 개념에 점점 더 의존하게 되었다. 군, 정수 영역, 위상공간, 벡터공간 등 새로운 개념들이 도입되고 연구되며 이 개념들 중 많은 부분이 특정한 연산들이 수행될 수 있는 대상들의 집합으로 정의 되었다. 수가 무엇인가 하는 물음에 답하기 위하여 실수는, 유리수로 이루어진 어떤 무한집합을 두 개로 정의할 수 있다. 유리수는 정수 쌍으로 이루어진 무한집합으로 정의 될 수 있다. 정수는 자연수 쌍으로 정의될 수 있다. 집합론은 인간 지성이 만들어낸 최종적인 순수 창조물이고 추상화의 본질일 수 있다. 집합 개념은 독자적 주체이며 자신의 속성을 드러내고 있는 중이다. 운동 속의 수학에서는 17세기 중반에 이루어진 미적분학의 발명으로 무한 개념(무한대와 무한소)의 패턴들을 기술하고 다루고 있다. 운동의 변화와 본성을 이해하기 위해서는 무한을 길들여야 하는데 역설적으로 무한은 비록 우리가 사는 세계에 속한 일부는 아니지만, 인간의 정신은 세계 속의 운동과 변화를 분석하기 위해 무한을 이해해야만 하는 것 같다. 모양 속으로 들어간 수학에서는 유클리드기하와 르네상스 시대 화가들인 레오나르도 다빈치와 뒤러의 기하학인 사영기하학의 연구와 3차원을 넘어서는 도형들의 탐구는 실제 세계에서는 전혀 적용되지 않는 지적인 훈련이 아니라 컴퓨터 프로그램에서 사용되고 있다. 수학자들은 가능성을 어떻게 계산하는 가하는 문제는 도박사들이 승률과 관련하여 의문을 보내와 프랑스 수학자인 파스칼과 페르마가 서신을 왕래한 것으로 확률론이 탄생하게 된다. 우주의 숨겨진 패턴은 코페르니쿠스의 태양 중심 모형과 케플러의 타원형 궤도를 돈다는 결론에 도달할 수 있었던 것은 티코브라헤의 정밀하고 방대한 관측 자료에 의지해 가능했다. 중력의 패턴과 물질은 무엇인가 하는 양자이론에 대하여 입자를 비롯한 모든 물리적 대상을 확률분포로 기술하는데, 확률분포는 주어진 상태에서 입자나 대상이 가지는 경향성을 나타낸다. 수학은 우주와 그 안에 있는 생명의 숨겨진 패턴들에 관한 지식을 찾아 끝없는 여행을 계속해 나갈 것이다.
 〈케이스 데블린 지음 / 전대호 옮김 / 해나무 펴냄 / 2만원〉