공간의 위상적 성질을 연구하는 기하학. 점 상호간의 연속적 위치관계를 바꾸지 않고 서로 변형하여 맞추어 포갤 수 있는 두 도형은 같은 도형으로 볼 수 있어 서로 동상 또는 위상동형(位相同型)이라고 한다.

위상기하학은 도형 자체의 연속적 형상을 문제로 하지만 평면이나 공간에 대한 도형의 위치관계도 중요한 연구대상으로 한다.

평면 위의 원은 평면을 둘로 나눈다.

이러한 성질은 원과 동상인 평면 위의 어떠한 도형에 대해서도 성립된다.

「평면 위에서 원과 동상인 도형은 평면을 두 영역으로 나눈다(조르당의 곡선정리)」는 것은 평면위상기하학의 기본정리이다.

공간에서 원과 동상인 도형은 공간을 둘로 나눈다.

조르당의 곡선정리는 원과 그것을 포함하는 평면의 위치 관계를 나타내는 정리이다.

평면 위에서 신축변형만으로 서로 겹쳐 맞출 수 있는 도형은 그 평면 위에서 동위(同位)인 도형이라고 한다.

공간에 있어서도 신축변형만으로 서로 이동될 수 있는 도형은 공간내에서 동위인 도형이라고 한다.

〔토폴로지〕위상기하학을 토폴로지라고도 하는데, 이것은 그리스어의 topos(場所)와 logia(學)에 유래하며 J. B. 리스팅의 저서 《토폴로지에 대한 시론 Vorstudien zur Topologie)》(1847)에서 처음으로 사용되었다.

리스팅은 토폴로지를 「공간내의 점·선·면 및 위치에 대해서 양이나 크기와는 달리 형상·위치를 나타내는 법칙을 연구하는 학문」이라고 정의했다.

〔오일러의 표수〕정다면체는 5종류가 있으며 모두 서로 동상이다.

어느 다면체에 대해서도 그 꼭지점의 수를 , 변의 수를 b, 면의 수를 c라하면 -b+c=2가 성립한다.

이 식은 정다면체뿐만 아니라 구면과 동상인 어느 다면체에 대해서도 성립한다.

다면체의 연구는 그리스시대부터 시작되었지만 이러한 사실은 1640년 R. 데카르트에 의해 처음으로 발견되었으며 1752년 L. 오일러에 의해 재발견되었다.

일반적으로 다면체의 꼭지점의 수 와 면수 c의 합에서 변의 수 b를 뺀 수 a-b+c를 그 다면체의 오일러표수(Euler’s characteristic)라고 한다.

동상인 다면체의 오일러 표수는 같다.

이와 같이 동상인 도형에 공통된 성질을 도형의 위상적 성질이라고 하며 오일러 표수와 같은 양을 위상불변량(位相不變量)이라고 한다.

물체의 표면은 곡면이다.

무한히 펼쳐지는 평면도 곡면이며 원판과 같이 가장자리가 있는 곡면도 있지만 물체의 표면은 무한히 넓어지지 않고 가장자리도 없다.

이와 같은 곡면을 폐곡면(閉曲面)이라고 한다.

폐곡면은 다면체와 동상이라고 알려져 있다.

따라서 폐곡면의 오일러 표수가 그 곡면과 동상인 다면체의 오일러 표수로 정의된다.

물체의 표면인 폐곡면의 위상적 성질은 그 오일러 표수로 결정된다.

물체의 표면인 폐곡면이 갖는 오일러 표수는 2, 0, -2, -4, -2n, …(n은 자연수)이며, 주어진 오일러 표수를 가지는 폐곡면은 쉽게 만들 수 있다.

구(球)에 g개의 손잡이를 붙인 입체의 표면인 폐곡면의 오일러 표수는 2(1-g)이다.

g개의 구멍이 뚫린 비스켓의 표면이라 해도 좋다.

g를 폐곡면의 종수(種數 ; genus)라고 한다.

곡면의 종수= 1-1/2(오일러 표수)이며 따라서 종수도 곡면의 위상불변량이다.

물체의 모양은 한없이 다양하지만 어떤 물체의 표면도 몇 개의 구멍이 뚫린 비스켓의 표면과 동상이 된다.

곡면은 물체의 표면에 한정되지 않고 원판과 같이 가장자리가 있는 곡면도 있다.

폐곡면에서 그 위에 있는 몇 개의 원판의 내부를 제거하면 가장 자리가 있는 곡면을 만들 수 있으며 이와 같은 곡면과 위상적 성질을 다르게 하는 가장자리가 있는 곡면이 1858년 A. F. 뫼비우스에 의해 발견되었다.

이 곡면은 테이프를 180°  비튼 다음 양끝을 붙여서 만든 곡면으로 뫼비우스의 띠(Mbius strip)라고 한다.

뫼비우스 띠의 가장자리는 원과 동상이다.

이 곡면의 중심선 c 위의 한 점 P를 출발하여 중심선 c를 따라 한 바퀴 돌면 반대쪽으로 나오게 된다.

이와 같이 곡면 내부의 한 점에서 출발하여 가장자리와 만나지 않고 반대쪽면으로 돌아나오게 되는 곡면을 단측곡면(單側曲面)이 라고 한다.

단측곡면은 말하자면 표리(表裏)가 없는 곡면이며 그 가장자리를 경계로 하여 표리를 구분하기가 불가능한 곡면이다.

이에 비해 원판과 같이 가장자리를 경계로 표리를 구분할 수 있는 곡면, 혹은 가장자리를 지나지 않고는 표면에서 안쪽 면으로 돌아나올 수 없는 곡면을 양측곡면(兩側曲面)이라고 한다.

단측성(單側性)은 위상적 성질이다.

뫼비우스 띠의 중심선 위의 한 점 P에 작은 원을 그리고 그 원 위에 좌회전의 화살표를 해둔다.

이 작은 원을 중심선에 따라 한 바퀴 돌게 한 다음 점 P로 되돌아오게 하변 화살표가 우회전이 된다.

이러한 사실로 뫼비우스의 띠는 방향설정이 불가능한 곡면이라고 한다.

〔위상기하학의 현상〕 20세기의 수학은 위상성과 대수성(代數性)을 기초로 하여 공리적(公理的)으로 구성되어 있다.

연속성이 논의되는 공간은 위상공간이라 하며, 도형도 일종의 위상공간이다.

위상을 정하는 기본적인 여러 개념은 근방·개집합(開集合)·폐포(閉包) 등이다.

이러한 개념을 기초로 하여 집합론적 방법으로 위상공간 및 그 부분집합의 위상적 성질을 연구하는 분야를 집합론적(集合論的) 위상기하학 또는 일반위상기하학(general topology)이라고 한다.

이 분야는 칸토어에 의한 점집합론의 흐름을 함께하는 분야이며 차원(次元)문제는 이 분야에 속한다.

위상불변량으로서 차원의 개념을 설정하는 문제와 방법은 금세기초에 푸앵카레에 의해 제시되었으며 L. E. 브로우베르 등에 의해 수학적 정식화(定式化)를 거치게 되었고 오늘날 거의 완성된 단계에 이르고 있다.

호모토프·호볼로그의 개념은 금세기 전반(前半)을 통해 위상적·대수적으로 정비되었으며 대수적(代數的) 위상기하학으로서 한 분야를 형성하고 있다.

대수적 위상기하학은 위상공간에 대수적 구조를 대응시켜 공간의 위상적 구조를 대수적 구조로 표현한다.

도형 위의 폐곡선의 전체는 호모토프의 개념으로 분류하게 되면 군(群)이 되며 이 군을 기본군이라고 한다.

또 호몰로그의 개념으로 분류한 폐곡선 전체도 군이 되면 1차원 호몰로지군이라고 한다.

구면의 1차원 호몰로지군은 단위원(單位元)만으로 이루어지는 군이지만 토러스의 1차원 호몰로지군은 정수(整數) 전체가 만드는 덧셈군(加法群) Z의 두 직합(直合) Z+Z와 동형이 된다.

이들의 군구조(群構造)가 다른 것은 구면과 토러스의 위상 구조가 다르다는 것을 표현하고 있다.

기본군· 1차원 호몰로지군은 고차(高次)의 호모토프군·호몰로지군으로 확장되지만 20세기후반에는 공간에 대응시키는 대수적 구조는 점점 다양화되고 정밀화되어 대수적 위상기하학은 위상기하학에서 기본적 분야로 간주되고 있다.