4편. 종이를 오리다 발견한 타일
연재 「당신도 모르는 수학 이야기 ― 수학이란 무엇인가」 · 4편
1619년, 요하네스 케플러가 책 한 권을 냈습니다. 우주의 조화라는 제목이었고, 그 안에 도형을 짜 맞춘 그림이 여럿 실려 있습니다.
그중에 정오각형으로 평면을 덮어 보려 한 그림이 있습니다. 케플러는 정오각형을 이리저리 붙여 나갔고, 그때마다 틈이 남았습니다. 그는 틈을 다른 도형으로 메워 가며 계속했지만 끝내 정오각형만으로는 덮지 못했습니다.
케플러가 왜 실패했는지 우리는 앞 편에서 확인했지요. 되풀이되는 무늬에는 5차 회전 대칭이 있을 수 없습니다. 물론 케플러는 그 정리를 몰랐어요. 페도로프가 증명한 것은 그로부터 272년 뒤거든요.
그런데 이 실패한 그림이 350년 뒤에 다시 등장합니다. 어떻게 그런 일이 있었을까요?
왕 하오의 추측
1961년 논리학자 왕 하오가 이런 추측을 내놓았습니다. 어떤 타일 집합으로 평면을 덮을 수 있다면, 그것으로 되풀이되게 덮는 방법도 반드시 있으리라는 것이었습니다. 자연스러운 생각이지요. 덮을 수 있다면 규칙적으로도 덮을 수 있을 것 같잖아요.
그런데 1966년에 로버트 버거가 반례를 찾았습니다. 그는 어떻게 놓아도 되풀이가 나오지 않는 타일 집합을 만들어 냈어요. 필요한 타일의 종류가 20,426가지였습니다.
버거가 다룬 것은 왕 타일이라 부르는 색칠한 정사각형입니다. 돌리거나 뒤집을 수 없고 맞닿는 변의 색이 같아야 한다는 규칙 아래 놓입니다. 이 갈래는 2015년에 열한 가지가 최소라는 것이 증명되면서 끝났고요.
우리 이야기는 다른 갈래입니다. 모양이 자유롭고 돌리거나 뒤집을 수 있는 타일 쪽이지요.
여섯에서 둘로
1971년 라파엘 로빈슨이 타일 여섯 가지를 내놓았습니다. 혹과 홈이 달린 정사각형이었고, 돌리거나 뒤집어 쓸 수 있습니다.
규칙은 하나뿐입니다. 불쑥 나온 곳이 혹이고 파인 곳이 홈인데, 혹은 반드시 홈에 들어가야 합니다. 혹끼리 만나면 서로 파고들고 홈끼리 만나면 틈이 생기니까요.
그런데 이 규칙 하나가 놀라운 일을 합니다. 타일을 늘어놓다 보면 점점 큰 정사각형이 겹겹이 나타나는데, 그 정사각형이 아무리 커져도 무늬는 되풀이되지 않습니다.
직접 깔아 보시죠.
혹과 홈에서 겹겹의 정사각형까지
1971년 라파엘 로빈슨이 만든 타일입니다. 규칙은 둘뿐인데, 그 둘이 끝없이 커지는 정사각형을 만들어 냅니다.
맞출 때 지킬 것은 하나뿐이에요. 혹은 홈에 들어가야 합니다. 혹끼리 만나면 겹치고, 홈끼리 만나면 틈이 생기니까요.
cross는 네 변이 모두 혹입니다. 그러니 cross 곁에는 홈이 있는 타일만 올 수 있어요.
arm은 혹이 하나, 홈이 셋입니다. 혹이 있는 쪽으로 뻗어 나간다고 보시면 됩니다.
혹은 홈에 들어가야 한다는 규칙 하나만 지키면서 cross와 arm을 늘어놓으면, 놓을 자리가 저절로 정해집니다. 아래가 그렇게 깔린 한 판입니다. 칸을 눌러 보세요.
3년 뒤 로저 펜로즈가 타일 두 가지로 줄였습니다. 어떻게 이렇게 뚝 떨어졌을까요?
그는 로빈슨의 타일 여섯 가지를 손봐서 가짓수를 줄인 것이 아닙니다. 아예 다른 방법으로 갔습니다.
버거와 로빈슨은 정사각형 격자 위에 계층 구조를 새겼습니다. 펜로즈는 정사각형을 버리고 정오각형과 황금비로 갔습니다. 앞 편에서 나온 그 황금비입니다. 5차 대칭을 금지하는 계산에서 1/φ²이 나왔던 그 수입니다.
되풀이를 포기하는 대신 5차 대칭을 얻은 셈이고, 그 대가로 타일이 두 가지 필요했던 겁니다.
케플러의 책장
2023년 7월 옥스퍼드에서 모자 타일 발견을 기념하는 모임이 열렸습니다. 그 자리에서 펜로즈가 강연을 했습니다.
그는 자기 타일을 어떻게 만들었는지 설명하면서, 부모님 책장에 있던 케플러의 책에서 간접적으로 영향을 받았을지도 모르겠다고 말했습니다. 그리고 강연 도중에 자기 타일을 케플러가 그린 그림 위에 겹쳐 보였습니다. 두 그림이 거의 정확히 들어맞았습니다.
케플러가 정오각형으로 평면을 덮으려다 실패한 그림. 350년 뒤 펜로즈가 바로 그 실패에서 실마리를 얻은 셈이네요.
그리고 50년
펜로즈의 두 가지는 기록으로 남았습니다. 그리고 50년 동안 아무도 깨지 못했어요.
물음은 분명했습니다. 한 가지로 줄일 수 있는가? 이름도 붙었습니다. 아인슈타인 문제입니다. 여기서 아인슈타인은 물리학자가 아니라 독일어로 돌 하나(ein Stein)를 뜻합니다.
수학자들이 매달렸습니다. 풀리지 않았고요.
2022년 11월, 영국 요크셔에 사는 데이비드 스미스가 종이를 오리다가 13각형 하나를 찾아냈습니다. 그는 은퇴한 인쇄 기술자이고 수학자가 아니에요. 취미로 도형을 오려 맞추던 사람입니다.
그는 이 도형을 종이로 오려 손으로 맞춰 보았습니다. 아무리 넓혀도 무늬가 되풀이되지 않았습니다. 자기가 무엇을 찾았는지 짐작은 했지만 증명할 방법이 없었죠. 그래서 전에 도형 이야기를 나눈 적 있는 조지프 마이어스에게 연락합니다. 여기에 크레이그 캐플런과 하임 굿맨스트라우스가 합류해 넷이 증명을 완성했고, 2023년 3월에 논문이 나왔습니다.
여섯에서 둘로 가는 데 3년이 걸렸습니다. 그리고 둘에서 하나로 가는 데 49년이 걸렸습니다. 마지막 한 걸음이 가장 길었고, 그 걸음을 뗀 사람은 수학자가 아니었습니다.
그 도형

스미스는 이 도형을 모자(hat)라고 불렀습니다.
이 도형 하나만으로 평면을 빈틈없이 덮을 수 있습니다. 그런데 그렇게 만들어진 무늬는 아무리 넓게 펼쳐도 결코 자기 자신을 되풀이하지 않습니다.
그런데 이 도형은 아무렇게나 생긴 게 아닙니다. 뜯어보면 규칙이 있거든요.
조각 하나에서 시작합니다
그림에 옅은 선으로 그려 둔 것이 이 도형을 이루는 조각입니다. 조각은 여덟 개입니다.
이 조각은 정육각형을 중심에서 각 변의 가운데로 그어 여섯으로 나눈 것 중 하나입니다. 모양이 연을 닮아 케이트라고 부르고, 케이트를 여러 개 이어 붙여 만든 도형을 폴리케이트라고 합니다. 모자 타일은 케이트 여덟 개짜리 폴리케이트인 셈이죠.
케이트 하나의 네 각은 60도, 90도, 90도, 120도이고 그 합은 360도입니다. 앞으로 나올 모든 성질이 이 네 숫자에서 나옵니다.
각은 섞이지 않습니다
옅은 선을 따라가 보시면 조각들이 서로 만나는 점이 보이실 겁니다. 그 점들은 몇 종류나 될까요?
세 종류뿐입니다.
| 만나는 자리 | 모이는 각 | 합 |
|---|---|---|
| 육각형의 중심 | 케이트 여섯 개가 60도씩 | 360도 |
| 변의 가운데 | 케이트 네 개가 90도씩 | 360도 |
| 육각형의 꼭짓점 | 케이트 세 개가 120도씩 | 360도 |
직접 확인해 보시죠. 60도짜리 각과 90도짜리 각이 한자리에서 만나는 곳은 이 격자에 없습니다. 한 점에는 언제나 같은 종류의 각만 모입니다. 각의 종류는 섞이지 않습니다.
이 제약이 결과를 낳습니다. 모자 타일의 내각으로 나올 수 있는 값이 미리 정해져 버립니다.
중심에서는 60, 120, 180, 240, 300 중 하나
가운데에서는 90, 180, 270 중 하나
꼭짓점에서는 120, 240 중 하나
실제로 모자 타일의 열세 내각은 90도가 4개, 120도가 5개, 240도가 2개, 270도가 2개입니다. 열세 개 모두가 위 목록 안에 들어 있습니다.
내각의 합은 아무것도 알려 주지 않습니다
이 열세 각을 모두 더하면 1980도가 나옵니다. 그런데 이 값은 놀랄 일이 아닙니다. 어떤 13각형이든 내각의 합은 반드시 (13 − 2) × 180 = 1980도입니다. 삼각형의 내각 합이 180도인 것과 같은 이야기고요. 이 값은 검산에는 쓸모가 있지만 이 도형에 대해 알려 주는 건 없어요.
정보는 합이 아니라 배분에 있습니다. 90도 4개, 120도 5개, 240도 2개, 270도 2개. 이 배분이 이 도형의 정체이고, 배분이 다르면 다른 도형입니다.
각의 총량은 보존됩니다
케이트 여덟 개의 각을 전부 더하면 8 × 360 = 2880도입니다. 이 각들이 어디로 갔는지 우리가 따라가 볼 수 있습니다.
| 어디로 갔나 | 각도 |
|---|---|
| 바깥 꼭짓점 13곳의 내각 합 | 1980도 |
| 변 위 직선 자리 1곳 × 180도 | 180도 |
| 안쪽에서 꽉 찬 점 2곳 × 360도 | 720도 |
| 합계 | 2880도 |
합계가 정확히 맞아떨어지죠. 조각 수를 정하면 각의 총량이 정해지고, 그 총량이 바깥과 안쪽으로 나뉘어 들어갑니다.
넓이도 같은 방식으로 정해집니다. 케이트 하나의 넓이가 √3이므로 여덟 개의 넓이는 8√3입니다. 우리가 넓이를 재서 조각 수를 아는 것이 아니라, 조각 수가 넓이를 정합니다.
실제로 깔아 보면

같은 도형 182장이 빈틈없이 맞물립니다. 주황색은 뒤집어 놓은 것입니다.
주황색 타일이 섞여 있습니다.
모자 타일은 뒤집은 복사본을 함께 써야 평면을 덮을 수 있습니다. 그대로 놓은 것만으로는 안 됩니다. 위 그림에서는 182장 중 26장이 뒤집힌 것입니다.
이것이 마음에 걸리신다면 그럴 만합니다. 도형은 한 가지인데 뒤집은 것과 아닌 것을 구별해야 한다면, 정말 한 가지라고 할 수 있을까요? 스미스도 같은 생각을 했던 모양이에요. 그는 그해 5월에 개선판을 내놓았습니다. 스펙터라고 이름 붙인 그 도형은 뒤집지 않고도 평면을 되풀이 없이 덮습니다.
여기까지로는 설명되지 않는 것
지금까지의 이야기는 이 도형이 격자 위에 정확히 놓인다는 것, 그래서 틈 없이 맞물린다는 것을 설명합니다. 맞물림은 가까이서 보면 알 수 있습니다. 어느 한 자리 근처(국소적)만 들여다보아도 확인되니까요.
그런데 결코 되풀이하지 않는다는 성질은 각으로 설명되지 않습니다. 아무리 넓게 펼쳐도 같은 무늬가 다시 나오지 않는다는 말인데, 이것은 어느 한 자리 근처를 아무리 들여다보아도 알 수 없습니다. 멀리 물러나 전체를 봐야 하는데(전역적), 그 전체는 끝이 없고요.
이 차이가 이 편에서 우리가 얻을 것이라고 저는 생각합니다. 맞물리느냐는 국소적으로 정해지고, 되풀이하느냐는 전역적으로 정해집니다. 네 사람의 논문이 어려운 까닭도 여기 있습니다. 앞의 것은 종이와 가위로 확인되지만 뒤의 것은 그렇지 않습니다. 그들은 타일을 점점 큰 덩어리로 묶어 올리는 방법으로 이 문제를 풀었습니다.
앞 편과 이어서 읽으면 이 발견의 무게가 달라집니다. 단청은 되풀이를 택하는 대신 5차 대칭을 포기했습니다. 케플러는 5차 대칭을 고집하다 되풀이를 얻지 못했고요. 모자 타일은 되풀이를 포기하는 대신 그 제약에서 풀려났습니다. 평면을 덮으려는 사람은 둘 중 하나를 반드시 내놓아야 합니다.

표범거북의 등껍질입니다. 판의 크기와 모양이 제각각인데도 빈틈이 없습니다.
단청의 격자와 달리 이 등껍질은 완벽한 반복이 아닙니다. 벌집의 육각형도, 잠자리 날개의 맥도, 마른 논바닥의 갈라진 무늬도 마찬가지고요. 재료를 아끼면서 면을 다 덮어야 한다는 조건이 걸리면, 사람이 찾아낸 답과 자연에 남은 모양이 대체로 비슷해집니다.
여기까지 두 편에 걸쳐 우리는 규칙을 배웠고, 그 규칙을 버리면 어떻게 되는지도 봤습니다.
그러면 이제 그 규칙으로 직접 만들어 볼 차례가 아닐까요. 정사각형 하나를 파고 붙이는 것만으로 새가 되고 물고기가 됩니다. 에셔가 쓴 방법이 정확히 그것이었고요. 다음 편의 주제입니다.
참고한 것
R. M. Robinson, Undecidability and Nonperiodicity for Tilings of the Plane, Inventiones Mathematicae 12 (1971), 177–209.
R. Penrose, The rôle of aesthetics in pure and applied mathematical research, Bulletin of the Institute of Mathematics and its Applications 10 (1974), 266–271.
D. Smith, J. S. Myers, C. S. Kaplan, C. Goodman-Strauss, An aperiodic monotile, arXiv:2303.10798 (2023).