> 이 문서에는 수즐 채널에서 운영중인 "직장인과 문과생을 위한 수학교실"의 '이발사 역설' 문제 풀이부터 시작하여 수학의 근본적인 한계에 대한 고민을 정리했습니다. <br> # 문제: 이발사 마을에는 몇 명이 살 수 있을까? 어느 마을에는 "자기 수염을 깎지 않는 사람의 수염만 깎는 이발사"가 존재한다. - 이발사를 포함하여 $n$명이 마을에 산다고 가정하자. - 이발사 외의 $n-1$명 중, 각 사람은 스스로 깎거나 이발사에게 맡긴다. (1) 가능한 경우의 수를 구하시오. (힌트: 각 사람마다 두 가지 선택) (2) 이 마을의 논리에 모순이 발생하지 않도록 하려면 어떤 사람의 존재를 허용하지 않아야 하는가? (3) 집합의 정의만으로 이 문제를 해결할 수 없는 이유는? <br> ## (1) 가능한 경우의 수를 구하시오. ![[math_russell_1.png|center|w50]] 이발사를 제외한 마을 사람 $n-1$명은 수염을 깎는 방식에 대해 - 스스로 깎는다 - 이발사에게 맡긴다 이 두 가지 선택지를 가진다. 각 $n-1$명의 사람이 독립적으로 두 가지 선택을 할 수 있으므로, 전체 경우의 수는 ${경우의 수} = 2\times2\times2\times\dots {n-1}=2^{n-1}$ <br> ## (2) 이 마을의 논리에 모순이 발생하지 않도록 하려면 어떤 사람의 존재를 허용하지 않아야 하는가? ![[math_russell_2.png|center|w25]] 모순은 이발사에게서 발생한다. - **가정 1. 이발사가 자신의 수염을 직접 깎는다.** - 이발사는 '자신의 수염을 깎는 사람'이다. - 하지만 규칙에 따르면 이발사는 '자신의 수염을 깎지 않는 사람'의 수염만 깎는다. - 따라서 이발사는 자신의 수염을 깎을 수 없다. 이는 가정 1과 모순된다. - **가정 2. 이발사는 자신의 수염을 스스로 깎지 않는다.** - 이발사는 '자신의 수염을 깎지 않는 사람'이다. - 규칙에 따르면 이발사는 '자신의 수염을 깎지 않는 사람'의 수염을 깎아줘야 한다. - 따라서 이발사는 자신의 수염을 깎아야만 한다. 이는 가정 2와 모순된다. 두 가지 가정 모두 모순으로 이어지기 때문에, 이러한 규칙을 따르는 이발사는 논리적으로 존재할 수 없다. <br> ## (3) 집합의 정리만으로 이 문제를 해결할 수 없는 이유는? 이 문제는 20세기 초 수학의 기초를 흔들었던 **러셀의 역설(Russell's Paradox)** 과 구조가 같다. 1. 마을 사람들을 두 집합으로 나눌 수 있다. - A: 스스로 수염을 깎는 사람들의 집합 - B: 스스로 수염을 깎지 않는 사람들의 집합 2. 이발사의 규칙은 "집합 B에 속한 사람들의 수염을 깎아준다"는 의미를 가진다. 3. 그럼 이때 이발사는 A와 B 중 어디에 속해야 하는가 - 만약 이발사가 A에 속하면 (스스로 깎으면), 규칙 위반이다. - 만약 이발사가 B에 속하면 (스스로 안 깎으면), 규칙에 따라 자신을 깎아야 하므로 A에 속해야 한다. 이처럼 이발사는 A에도, B에도 속할 수 없는 모순적인 존재가 된다. 즉, 이발사라는 캐릭터 설정 자체가 말이 안 돼서, 이 이야기는 시작부터 고장난 게임과 같다. <br> ![[math_russell_4.png|center|w45]] <br><br> # 소박한 집합론(Navie Set Theory) ## (1) 옛날 수학의 단순한 규칙 (소박한 집합론) 옛날 수학에는 아주 단순하고 자유로운 규칙을 뒀다. > **"어떤 조건이든 말만 되면, 그걸로 집합을 만들 수 있다."** 예를 들어, '빨간색 과일 집합'이나, '우리 반에서 안경 쓴 사람 집합'처럼 아주 상식적이고 아무 문제가 없는 규칙처럼 보인다. ## (2) 자기 참조 모순 그런데 이 규칙이 너무 자유롭다 보니, '자기 자신' 또한 규칙에 넣을 수 있다는 점을 발견하게 됐다. 그게 바로 이발사 이야기의 핵심인 "자기 수염 안 깎는 사람만 깎아준다"는 규칙이다. 이 규칙은 이발사 '자기 자신'에게 적용되는 순간, 시스템이 고장난다. 깎아도 규칙 위반, 안 깎아도 규칙 위반인 상황이 만들어지는데 이런 걸 '자기 참조 모순'이라고 한다. 컴퓨터로 치면 무한 루프에 걸려서 컴퓨터가 다운되는 것과 같다. ## (3) 모순의 원인 여기서 수학자들이 깊은 고민에 빠진다. 집합이라는 개념 자체가 잘못된 건가? 수학의 기초가 흔들리는 건가? 많은 고민 끝에 내린 결론은 '집합'이라는 아이디어 자체는 죄가 없다는 것이다. 진짜 문제는, 그런 말도 안 되는 규칙을 가진 이발사가 '존재한다'고 맨 처음에 가정한 것, 그 자체가 잘못이라고 판단내린다. 더 쉬운 비유를 들자면, "세상의 모든 것을 녹여버리는 용액이 있다. 이 용액은 어떤 통에 담아야 할까?"라는 질문에 답하는 것과 같다. 이 질문에 답할 수 없지만, 그렇다고 해서 '용액'이나 '통'이라는 개념 자체가 잘못된 것이 아니다. 문제는 "모든 것을 녹이는 용액"이라는 처음 전제가 현실과 논리에서 불가능하다는 점이다. 이발사 역설도 마찬가지로 '집합'이라는 개념이 틀린 게 아니라, 그런 모순적인 규칙을 가진 이발사가 존재한다는 설정 자체가 논리적으로 불가능했던 것이다. 그래서 수학자들은 앞으로 그런 모순적인 설정(집합)은 아예 만들 수 없도록 규칙을 더 깐깐하게 업데이트해서 '자기 자신'을 건드리는 식의 집합은 애초에 만들 수 없도록 금지했는데, 이것이 **공리적 집합론**이다. <br><br> # 궁금증 1. 왜 저런 예외적인 케이스를 막는 쪽으로 발전했는가? 그걸 허용하도록 더 정교한 정의를 만들 수도 있지 않았을까? ![[math_russell_3.png|center|w30]] 수학은 '논리'라는 단단한 기초 위에 세워진 거대한 건물과도 같다. 모든 증명, 모든 공식은 이 '논리'라는 시멘트로 벽돌 하나하나를 쌓아 올린 결과물이다. 그런데 러셀의 역설이 발견되기 전까지, 수학자들은 '집합론'이 그 논리를 담는 가장 완벽하고 튼튼한 기초 시멘트라고 믿고 있었다. 모든 수학적 개념은 '집합'이라는 언어로 표현할 수 있었기 때문이다. 러셀의 역설은 이런 단단한 기반에 'A는 B다'와 'A는 B가 아니다'가 동시에 참이 되는 치명적인 균열을 찾아낸 것과 같다. 만약 어떤 시스템 안에서 '모순'이 단 하나라도 허용되면, 그 시스템은 전체가 붕괴된다. 왜냐하면 논리학에는 **폭발 원리(Principle of Explosion)** 라는 게 있기 때문이다. 즉, 모순이 하나라도 있으면 그걸 이용해서 세상의 모든 명제(참이든 거짓이든)를 전부 '참'이라고 증명할 수 있게 된다. 이는 수학이라는 건물 자체가 의미를 잃고 무너져 내리는 것과 같다. 그렇다면 왜 이런 모순을 막았을까? 바로 결론부터 말하자면, 그 모순을 허용하는 순간, '논리'라는 것 자체가 성립하지 않기 때문이다. ![[math_russell_5.png|center|w35]] '이발사는 자기 수염을 깎는다'와 '이발사는 자기 수염을 깎지 않는다'는 동시에 참일 수 없다. 이건 우리가 세상을 이해하는 가장 근본적인 약속인 '비모순율(Law of Non-contradiction)'에 위배된다. A는 동시에 A가 아닐 수 없다는 의미이다. "모순적인 케이스까지 고려하는 더 정교한 정의"를 만들려는 시도는, 비유하자면 다음과 같다. > **어떤 숫자든 0으로 나누는 것을 허용하도록, 나눗셈의 정의를 새로 만들자!** 0으로 나누는 것을 허용하면 '$1=2라는 모순이 발생하고 수 체계 전체가 붕괴되기 때문에 수학에서는 0으로 나누는 것을 금지한다. 이발사 역설도 마찬가지이다. '자기 자신을 포함하지 않는 모든 집합들의 집합'이라는 개념을 허용하는 것은, 마치 0으로 나누는 것을 허용하는 것과 같다. 해당 개념이 존재하는 순간, 논리 시스템 전체가 무너지게 된다. 그래서 수학자들은 '이런 위험한 집합은 만들 수 없다'는 안전 규칙(공리)을 추가해서 논리라는 건물의 기초를 보수 공사했다고 보면 된다. <br><br> # 궁금증 2. 그럼 수학으로는 현실 세계의 모든 것을 설명할 수 없는건가 > 그럼 사실 수학으로는 현실 세계의 모든 것을 설명할 수 없는걸까? 해당 문제를 공부하며 느낀 점은 수학은 '우리 논리에서는 말이 안 되니까 0으로 나누기 이런 건 배제하고 논리를 계속해서 확장해나가자' 이런 관점인 것 같음 이 '찝찝함'과 '한계'에 대한 직관이 20세기 수학과 철학을 관통하는 가장 중요한 질문 중 하나이다. 결론부터 말하자면, 수학은 현실 세계의 모든 것을 설명할 수 없다. 수학은 현실을 '발견'하는 도구가 아니라, '모순 없는 논리 체계'를 만드는 인간의 발명품에 가까운 학문이다. 좀 더 구체적으로 설명하자면, 수학은 '게임의 규칙'을 만드는 것과 같다. 축구 경기를 생각해보자. ![[math_russell_6.png|center|w40]] - **공리(Axiom)**: "공은 손으로 잡으면 안 된다", "골대에 공이 들어가면 1점이다" 와 같이 증명 없이 그냥 받아들이기로 약속한 기본 규칙. - **정리(Theorem)**: 이 기본 규칙들을 이용해서 만들어낼 수 있는 다양한 전략이나 상황들 (e.g. 오프사이드 규칙을 이용하면 상대 공격을 막기 유리하다) 수학도 똑같이 '공리적 집합론'에서 "이런 집합은 만들 수 없다"라고 정한 건, 축구에서 "공은 손으로 잡으면 안 된다"라고 정한 것과 같다. 그 규칙을 허용하면 '수학'이라는 게임 자체가 성립하지 않으니까@ <br><br> ## 괴델의 '불완정성 정리' 쿠르트 괴델이라는 수학자가 비슷한 질문에 대해 답변을 증명해낸다. 이게 바로 '불완정성 정리(Incompleteness Theorems)'이다. 쉽게 요약하자면 다음과 같다. 1. **제1 불완정성 정리**: 모순이 없는 충분히 강력한 수학 체계 안에는, 그 규칙만으로는 참인지 거짓인지 절대로 증명할 수 없는 명제가 반드시 존재한다. 2. **제2 불완정성 정리**: 그리고 그 수학 체계는, 자기 자신이 '모순이 없다'는 사실을 스스로 증명할 수 없다. (축구 규칙책 안에 '이 규칙책은 완벽하다'는 문장을 스스로 증명해서 넣을 수 없다는 뜻) 이것이 의미하는 바은 다음과 같다. - **수학은 완벽하지 않다**: 수학자들이 아무리 규칙을 정교하게 만들어도, 그 안에는 풀 수 없는 문제가 반드시 존재한다. - **수학은 '믿음'의 체계다**: 우리는 수학이 모순이 없다고 '믿고' 사용할 뿐, 그 사실 자체를 수학적으로 완벽하게 증명할 방법은 없다. <br> ## 현실 세계와 수학의 관계 현실 세계는 복잡하고, 모순처럼 보이는 일들(e.g. 양자역학의 입자-파동 이중성)도 가득하다. 수학은 이 현실을 그대로 복사하는 도구가 아니라, 현실의 특정한 측면을 설명하기에 아주 유용한 '논리적 모델'을 만드는 도구이다. - 사과 2개와 2개를 더하면 4개가 되는 현실을 설명하기 위해 '덧셈'이라는 게임 규칙을 만들었다. - 행성의 움직임을 설명하기 위해 '미적분'이라는 게임 규칙을 만들었다. 하지만 이발사 역설처럼 우리의 논리 체계와 충돌하는 현실 혹은 개념이 나타나면 수학은 그것을 설명하기를 포기한다. 수학의 최우선 목표는 현실을 모두 설명하는 것이 아니라, **'만들어놓은 논리 체계'가 모순으로 붕괴되지 않도록 지키는 것이기 때문이다.** 이는 수학의 패배나 한계라기보다는, 자신의 정체성 그러니까 모순이 없다는 것을 지키기 위한 수학의 본능적인 자기방어에 가까운 것 같다. 그리고 그 덕분에 우리는 수학을 강력하고 신뢰할 수 있는 도구로 오늘날까지 사용하고 있다. <br><br><br> **참고 자료** - [Math's Fundamental Flaw - Veritasium](https://youtu.be/HeQX2HjkcNo?si=owWzmShaldNzahYi) - [Russell's Paradox - a simple explanation of a profound problem - Jeffrey Kaplan](https://youtu.be/ymGt7I4Yn3k?si=RS0WZlGQd2BsOqTN) - [The paradox at the heart of mathematics: Gödel's Incompleteness Theorem - Marcus du Sautoy](https://youtu.be/I4pQbo5MQOs?si=lVZRs_mhxmF4xPE3) > 수학과 가깝고도 먼 사이입니다.. 내용에 오류가 있다면 피드백 부탁드립니다. <br><br><br><br>