실수계 공리에서 사용하는 등호 개념의 문제점과 개선 방안
The Concept of Equality:
Ambiguity and Its Improvement
in The Axiom of The Real Number System
아녜시(Maria Agnesi)
http://www.maria-agnesi.com
December 1, 2009.
ABSTRACT. The main purpose of this study is to point out ambiguity of concept of equality in the axiom of the real number system, especially in the textbooks on analysis, and to suggest a resolution. There are two methods to define the real number system. The first method is to define each natural number as a set and expand the natural number system into the real number system. The second method is to define the real number system by a set of axioms. The real number system is being defined by axiom in the textbooks on mathematical analysis. Investigating such textbooks on analysis, it was found that the equality was not defined properly. However it is necessity to define the equality properly, for if equality is not defined properly there can be logical errors, cf. ununiqueness of the real number system. In this study, it is suggested to introduce the concept of 'set theoric uniqueness' to solve the ambiguity.
오늘날 대수학과 해석학은 페아노의 공리를 기초로 하여 쌓아올린 엄밀한 구조 위에 세워져 있다(C. Boyer, 1991:969). 한편 D. Hilbert는 “언제든지 ‘점, 선, 면’을 ‘탁자, 의자, 맥주 컵’으로 대체할 수 있어야 한다”라고 말하며 수학에서 다루는 개념을 추상화하여 논리적으로 엄밀하게 다루어야 한다고 주장하였다. 이와 같은 경향은 오늘날 초등학교의 수학 교과서에서도 무정의 용어가 사용되고 있을 만큼(박교식, 임재훈, 2005) 모든 수준의 수학에 영향을 끼쳤다.
이처럼 오늘날의 수학에서 수학적 개념을 공리적으로 정의하고 엄밀하게 다루는 것이 중요하게 생각되고 있음에도 불구하고 대학의 해석학 교재에서 실수계의 공리를 도입할 때 등호의 개념이 엄밀하게 다루어지지 않고 있다.
실수계를 정의하는 방법은 크게 두 가지로 나누어 생각할 수 있다. 하나는 자연수로부터 실수까지 확장하는 방법이고 다른 하나는 공리를 이용하여 실수계를 정의하는 방법이다(남진우, 2000). 대수학에서는 수체계의 구조뿐만 아니라 수를 구성하는 방법 자체에도 관심을 갖는 반면 해석학에서는 수를 구성하는 방법보다는 수의 성질을 이용하여 여러 이론을 전개하는 것에 관심을 가지므로, 해석학 교재에서는 주로 공리를 이용하여 실수계를 정의한다. 그러나 공리를 이용하여 실수계를 정의하는 경우 모든 용어를 세심하게 정의해야 함에도 불구하고 해석학 교재에서 실수계의 공리를 제시할 때 등호를 논리적으로 정의하지 않는 경우가 많다.
본 연구의 목적은 다음과 같다.
- 실수계의 공리에서 등호가 명확하게 정의되지 않을 때 발생하는 문제를 살펴봄으로써 등호를 명확하게 정의해야 하는 필요성을 고찰하고,
- 등호를 명확하게 정의하여 실수계의 공리를 개선하는 방안을 제시한다.
본 연구는 해석학의 교재에서 제시하는 실수계의 공리의 문제점을 제시하였는데, 선정한 해석학 교재는 다음과 같다.
- H.L. Royden(1988), Real Analysis 3rd Ed, Prentice-Hall, Inc
- R. Johnsonbaugh & W.E. Pfaffenberger(2002), 조열제 외 3인 공역, Foundations of Mathematical Analysis, Dover Publications
- W. Fulks(1981), Advanced Calculus 3rd Ed, JOHN WILEY and SONS, Inc
- W. Rudin(1976), Principles of Mathematical Analysis, McGraw-Hill
실수계를 정의하는 방법에는 여러 가지가 있지만 본질적으로 두 가지 방법으로 나누어 생각할 수 있다(남진우, 2000). 하나는 자연수로부터 정수, 유리수로 확장하고, 이를 다시 실수로 확장하는 방법이고, 다른 하나는 공리를 이용하여 실수계를 정의하는 방법이다. 특히 자연수는 무한의 공리(axiom of infinity)와 후자 집합(successor set)을 이용하여 집합으로서 정의할 수 있으므로 전자의 방법은 집합으로부터 실수계를 구성하는 것이 된다(C.C.Pinter, 1971:137).
1) 집합으로부터 실수계를 구성하는 방법
집합을 이용하여 자연수계를 구성하고 이를 확장하여 차례로 정수계, 유리수계, 실수계를 정의할 수 있다.
먼저 0을 공집합으로 정의한다. 그리고 집합 A에 대하여 A의 후자(successor)를 A'=A∪{A}로 정의한다. 집합 X에 대하여 0∈X이고 A∈X ⇒ A'∈X가 성립할 때 X를 귀납적 집합(inductive set)이라고 부른다. 모든 귀납적 집합들의 교집합을 자연수 집합 N으로 정의한다. 이렇게 정의된 자연수 집합 N은 페아노 공리를 만족시킨다(C.C.Pinter, 1971:127).
N 위에서 이항연산 +와 ×은 다음과 같이 귀납적으로 정의한다;
m+0 = m, m+n' = (m+n)',
m×0 = m, mn' = mn + m.
또한 순서관계는 m ≤ n일 필요충분조건을 m∈n ∨ m = n인 것으로 정의한다.
카르테시안 곱 N×N의 두 원소 (m,n), (m', n')에 대하여 m+n' = n+m'일 때 두 원소가 관계가 있는 것으로 하면 이 관계는 동치관계가 된다. 이 동치관계에 의한 N×N의 상집합을 정수 집합 Z로 정의한다. Z 위에서의 덧셈은
[(m,n)]+[(m',n')] = [(m+m',n+n')],
곱셈은
[(m,n)][(m',n')] = [(mm'+nn',m'n+mn')],
순서관계는
[(m,n)] ≤ [(m',n')] ⇔ m+n' ≤ m'+n
으로 정의한다. 또한 0=[(1,1)], 1=[(2,1)]로 정의한다.
카르테시안 곱 Z×(Z＼{0})의 두 원소 (p, q), (p', q')에 대하여 pq'=p'q일 때 두 원소가 관계가 있는 것으로 하면 이 관계는 동치관계가 된다. 이 동치관계에 의한 Z×(Z＼{0})의 상집합을 유리수 집합 Q로 정의한다. Q 위에서의 덧셈은
[(p,q)]+[(p',q')] = [(pq'+p'q,qq')],
곱셈은
[(p,q)][(p',q')] = [(pp',qq')],
순서관계는
[(p,q)] ≤ [(p',q')] ⇔ sgn(q)sgn(q')pq' ≤ sgn(q)sgn(q')p'q
로 정의한다. 또한 1=[(1,1)], 0=[(0,1)]로 정의한다.
유리수계 Q 위에서 Dedekind 왼쪽 절단들의 모임을 R로 정의한다. 순서관계를
α<β ⇔ α⊊β, α≤β ⇔ α<β ∨ α=β
로 정의한다. 덧셈은
α+β = {r+s|r∈α∧s∈β}
로 정의한다. 두 양수의 곱셈을
αβ = {p∈Q|∃r∈α∃s∈β:p≤rs,r>0,s>0}
으로 정의한다. 0과의 곱은 0인 것으로 정의한다. 다른 부호에 대해서는 통상적인 방법으로 정의한다.
2) 공리를 이용하여 실수계를 정의하는 방법
자연수계를 정의하고 이를 확장하여 실수계를 정의하는 방법 대신 공리를 이용하여 곧바로 실수계를 정의할 수 있다. 실수계의 공리는 다음과 같다(R.Johnsonbaugh & W.E.Pfaffenberger, 2002:11,15,18).
공리 (실수계) 다음 공리 R1-13을 만족하는 대상의 집합을 R이라고 하고 R의 원소를 실수(real number)라 한다.
R1. +는 R 위에서의 이항연산이다.
R2. ∀x,y,z∈R: (x+y)+z = x+(y+z).
R3. ∀x,y∈R: x+y = y+x.
R4. ∃0∈R∀x∈R: x+0 = 0+x = x.
R5. ∀x∈R∃y∈R: x+y = 0.
R6. ×은 R 위에서의 이항연산이다.
R7. ∀x,y,z∈R: (xy)z = x(yz).
R8. ∀x,y∈R: xy = yx.
R9. ∃1∈R∀x∈R: x1 = 1x = x.
R10. ∀x∈R∃y∈R: xy = 1.
R11. ∀x,y,z∈R: x(y+z) = xy+xz.
R12. 양수집합 P가 존재한다.
R13. R는 완비이다.
집합으로부터 실수계를 구성한 경우 각 실수는 하나의 집합이다. 따라서 등호 관계 ‘=’가 명확하게 정의된다. 즉 두 류(class) A, B에 대하여 A=B일 필요충분조건은 A⊆B∧B⊆A이므로 두 실수 a, b에 대하여 a=b일 필요충분조건은 두 집합 a와 b가 같은 것으로 정의된다. 그러나 공리를 이용하여 실수계를 정의한 경우 각 실수는 무정의 용어이므로 등호로 표현되는 관계 ‘=’는 명확하게 정의되지 않는다.
일반적으로 등호는 실수 집합 R위의 관계로서 ‘양변이 같다’는 의미로 사용된다. 우리는 초등학교에서부터 등호를 사용하여 왔으므로 등호의 사용에 너무 익숙해져 있다. 때문에 엄밀한 논리가 필요한 해석학에서조차 등호의 명확한 의미를 묻지 않고 사용하고 있다.
많은 해석학 교재에서 등호를 명확히 정의하지 않은 채 사용하고 있다. 대표적인 예로 W. Rudin의 저서 《Principles of Mathematical Analysis》에서는 완비순서체(complete ordered field)를 정의하기에 앞서 등호에 관하여
If A⊂B and B⊂A, we write A=B. Otherwise A≠B.
라고 언급하고 있지만(W. Rudin, 1976:3) 그것은 완비순서체의 두 원소에 관한 것이 아니라 두 집합에 관한 것이다.
H.L.Royden의 저서 《Real Analysis》에서는 실수계의 공리를 제시하기에 앞서 다음과 같이 설명하고 있다(H.L.Royden, 1988:31).
One approach to the subject of real numbers is to define them as Dedekind cuts of rational numbers, the rational numbers in turn being defined in terms of the natural numbers. Such a program gives an elegant construction of the real numbers out of more primitive concepts and set theory. We shall not concern ourselves here with the construction of the real numbers but will think of them as already given, and list a set of axioms for them. All the properties we need are consequences of these axioms, and in fact these axioms completely characterize the real numbers.
We thus assume as given the set R of real numbers, the set of positive real numbers, and the functions ‘+’ and ‘∙’ on R×R to R and assume that these satisfy the following axioms, which we list in three groups. …
여기서는 실수 공리에서 언급되는 두 연산 ‘+’와 ‘∙’에 대해서는 이항연산으로서 설명하고 있지만 등호 ‘=’에 대해서는 어떠한 설명도 하고 있지 않다.
공리를 이용하여 실수계를 정의한다는 것은 각 실수를 집합으로 정의하는 긴 과정을 생략하고 그러한 공리를 만족하는 계가 존재함을 가정하는 것이다. 따라서 이 경우 등호 관계는 별다른 언급 없이는 집합의 동치와 동일하게 정의되었다고 보기 어려우며 덧셈 연산이나 곱셈 연산과 대등한 정도로 설명되어야 한다.
R. Johnsonbaugh와 W.E. Pfaffenberger의 공동 저서 《Foundations of Mathematical Analysis》에서는 실수계의 공리를 제시하기에 앞서
적당한 집합이론을 사용하여 이러한 공리를 만족하는 수계를 만들 수 있다
라고 언급하고 있다(R.Johnsonbaugh & W.E.Pfaffenberger, 2002:11). 이러한 언급을 통하여 각 실수가 하나의 집합이며 등호 관계는 집합의 동치와 동일하게 정의됨을 암묵적으로 전달할 수 있다. 그러나 이 책에서 실수계의 공리를 제시하기에 앞서 이항연산을 정의하고 실수계의 공리에 덧셈과 곱셈을 이항연산으로서 분명히 정의하고 있는 것에 비하면 등호 관계에 대한 설명이 없는 것은 엄밀성이 떨어진다고 할 수 있다.
한편 W. Fulks의 저서 《Advanced Calculus》에서는 실수계를 도입하기에 앞서 페아노의 공리를 언급하며 등호에 관하여 다음과 같이 조심스럽게 설명한다(W.Fulks, 1981:4).
Here equality is used in the sense of numercial identity; that is, m=n means that m and n are symbols standing for the sam number. Thus we take (ⅰ) m=m (ⅱ) m=n implies that n=m (ⅲ) m=n, n=k implies m=k as part of the underlying logic and do not list these as part of our set of numercial axioms.
위 인용문에서 (ⅰ)은 등호의 반사성(reflexive), (ⅱ)는 등호의 대칭성(symmetric), (ⅲ)은 추이성(transitive) 의미한다. 즉 위 인용문에서는 등호를 대상 수 집합 위에서의 동치관계로서 정의하고 있는 것이다. 등호 관계에 대한 이와 같은 설명은 다른 해석학 교재에 비해 더 자세하고 엄밀한 편이다.
그러나 동치관계로서 등호를 정의하는 것은 충분하지 않다. 등호를 동치관계로서 정의하더라도 공리 R1-R13을 만족하면서 집합으로부터 구성된 실수계와 동형이 아닌 또 다른 실수계를 다음과 같이 구성할 수 있다.
정리. R가 집합으로부터 구성된 실수계라고 하자. 이때 다음 조건을 만족하는 계 R'이 존재한다.
(ⅰ) ='은 R' 위에서 동치관계이다.
(ⅱ) R'은 실수공리를 만족시킨다.
(ⅲ) R와 R'은 동형이 아니다.
증명은 다음과 같다. P(R)이 R의 멱집합이고 R'=R∪P(R)이라고 하자. R' 위에서의 동치관계 ='을 다음과 같이 정의한다.
(ⅰ) 임의의 x∈R에 대하여 x='x이다.
(ⅱ) 임의의 S∈P(R)에 대하여 0='S이고 S='0이다.
(ⅲ) 임의의 S,T∈P(R)에 대하여 S='T이고 T='S이다.
임의의 x∈R'에 대하여 [x]='x인 [x]∈R가 유일하게 존재한다. 이때 [x]를 x의 코어라고 정의한다. 사실 임의의 x∈R의 코어는 x이며, 임의의 S∈P(R)의 코어는 0이 된다.
명백히 임의의 x,y∈R'에 대하여, x=y ⇒ x='y이다. 따라서 x=y ∧ x='z ⇒ x='z 가 성립한다. 정리의 증명이 끝날 때까지 이 성질을 계속 사용할 것이다.
집합 R' 위에서의 두 이항연산 +'와 ∙', 그리고 관계 ≤'은 자연스럽게 정의된다. 즉 임의의 x,y∈R'에 대하여
(ⅰ) x+'y = [x]+[y],
(ⅱ) x∙'y = [x]∙[y],
(ⅲ) x≤'y ⇔ [x]≤[y]
인 것으로 정의한다. 이제 R', =', +', ∙', 0, 1, ≤'이 공리 R1~R13을 만족시킴을 보이자. 명백히 +'와 ∙'은 R' 위에서 잘 정의된 이항연산이므로 R1, R6이 성립한다. 그리고 임의의 x,y,z∈R'에 대하여 [x], [y], [z]는 R의 원소이므로
R2. (x+'y)+'z =' ([x]+[y])+[z] = [x]+([y]+[z]) =' x+'(y+'z),
R3. x+'y =' [x]+[y] = [y]+[x] =' y+'x,
R4. x+'0 =' [x]+[0] = [x]+0 = [x] =' x
가 성립하며, 위 식에서 +를 ∙로, 0을 1로 바꾸면 R7, R8, R9가 성립함도 증명된다. 한편 임의의 x∈R'에 대하여 [x]∈R이고, 적당한 y∈R가 존재하여 [x]+y=0을 만족시킨다. 이때 y∈R'이고 [y]='y이므로 x+'y =' [x]+[y] =' 0이다. 즉 R5가 성립한다. 같은 방법으로 R10이 성립함을 확인할 수 있다.
임의의 x,y,z∈R'에 대하여 x∙'(y+'z) =' [x]∙([y]+[z]) = [x]∙[y]+[x]∙[z] =' x∙'y+∙x∙'z 이므로 R11이 성립한다.
P' = {x∈R' | 0<[x]}라고 하면 명백히 P'은 공리 R12에서 P의 역학을 하는 집합이 된다. 따라서 R12가 성립한다.
이제 S'이 R'의 부분집합이고 공집합이 아니며 위로 유계라고 하자. 그러면 S'의 상계 λ'∈R'이 존재한다. S = {[x] | x∈S'}이라고 하면 [λ']은 S의 상계가 된다. 또한 S는 공집합이 아니다. 따라서 S는 상한 μ를 가진다. 이때 μ는 또한 S'의 상한이 된다. 따라서 S13이 성립한다.
Cantor의 정리에 의하면 임의의 집합 S에 대하여 P(S)의 기수는 S보다 크다. 따라서 R'의 기수는 R보다 크다. 즉 R로부터 R'에로의 일대일 대응이 존재하지 않으므로 두 계(system)는 동형이 아니다. 이로써 정리가 증명되었다.
등호를 동치관계로서 정의했을 때의 문제는 동형이 아닌 다른 실수계가 존재하는 것뿐만이 아니다. 실수계를 집합으로서 구성한 경우 집합론의 정리에 의하면 자연수 집합 N의 멱집합 P(N)의 기수는 R과 같다. 그러나 앞의 정리에서 구성한 실수 집합 R'은 P(N)의 기수와 같지 않게 된다.
이처럼 실수계의 공리에서 등호를 명확하게 정의하지 않는 경우 논리적으로 심각한 문제가 발생한다. 그러한 문제가 발생한 이유는, 실수계의 공리에서는 등호를 집합에서의 등호의 의미와 같은 것으로 정의한다는 명확한 언급이 없는 반면 계의 동형성은 일대일 대응이라는 조건을 요구하며, 일대일 대응이라는 조건은 집합에서의 등호가 집합론적 유일성을 보장한다는 성질을 이용하기 때문이다. 따라서 그 개선 방안으로 다음과 같은 몇 가지를 생각해볼 수 있다.
1) 각 실수가 집합임을 언급하는 방법
2장에서 살펴본 바와 같이 집합을 이용하여 실수를 구성하는 경우 집합론 위에서 등호가 명확히 정의된다. 따라서 실수계의 공리를 제시할 때 각 실수가 집합이 되며 실수계의 공리를 모두 만족하는 계를 집합으로 구성할 수 있음을 언급하고 실수 집합 위에서의 등호 관계를 두 집합이 서로 동치인 것과 동일한 의미로서 설명할 수 있다.
그러나 이와 같은 방법은 실수계를 집합으로 구성하는 길고 복잡한 절차 없이 실수계를 정의하기 위한 실수계 공리의 목적에 부합하지 않는다(김락중 외 3인, 2004:6).
2) 집합론적 유일성 개념을 도입하는 방법
실수계의 공리에서 등호가 명확하게 정의되지 않았음에도 불구하고 여러 해석학 교재에서 그것을 문제없이 사용할 수 있었던 것은 우리가 등호의 사용에 너무 익숙해져 있기 때문이다. 따라서 우리가 암묵적으로 인정하고 사용하던 등호의 성질을 명확하게 정의하고 또 다른 약속으로 제시함으로써 실수계의 공리에서 발생하는 문제를 해결할 수 있다.
즉 집합론적 유일성은 원소 x, y가 관계 R에 의하여 관계될 때 x와 y가 완전히 동일함을 보장하는 성질이다. 따라서 실수계의 공리에서 등호가 집합론적 유일성을 보장하면 2장 2절에서와 같은 문제는 발생하지 않는다.
이제 실수계 공리에서 등호가 집합론적 유일성을 보장함을 제시하는 두 가지 방법을 생각해볼 수 있다. 먼저 실수계의 첫 번째 공리로서 제시하는 방법이다. 이 경우 2장 1절의 실수계의 공리에서 모든 공리는 뒤로 밀려나게 되고 실수계 공리의 개수는 하나 늘어나게 된다.
또 다른 방법으로는 실수계의 공리에서 등호가 집합론적 유일성을 보장함을 공리의 번호를 부여하지 않은 채 제시하는 방법이다. 이 경우 덧셈과 곱셈이 실수 집합 위에서의 이항연산이라는 사실도 번호를 부여하지 않은 채 제시해야 한다. 즉 실수계의 공리를 다음과 같이 수정한다.
개선된 실수계. 집합 R에 집합론적 유일성을 보장하는 동치관계 =, 덧셈이라고 불리는 이항연산 +, 곱셈이라고 불리는 이항연산 ×가 주어져 있으며 이들은 다음을 만족시킨다.
R1. ∀x,y,z∈R: (x+y)+z = x+(y+z).
R2. ∀x,y∈R: x+y = y+x.
R3. ∃0∈R∀x∈R: x+0 = 0+x = x.
R4. ∀x∈R∃y∈R: x+y = 0.
R5. ∀x,y,z∈R: (xy)z = x(yz).
R6. ∀x,y∈R: xy = yx.
R7. ∃1∈R∀x∈R: x1 = 1x = x.
R8. ∀x∈R∃y∈R: xy = 1.
R9. ∀x,y,z∈R: x(y+z) = xy+xz
R10. 양수집합 P가 존재한다
R11. R는 완비이다
물론 해석학 교재에서 위의 공리로 실수계를 정의하기에 앞서 동치관계, 이항연산, 집합론적 유일성을 정의해야 할 것이다.
해석학 교재에서 실수계의 공리를 도입하면서 등호 관계를 명확히 정의하지 않음을 지적하고 그로 인하여 발생할 수 있는 문제점을 살펴보았다. 그리고 그러한 문제점을 개선하기 위하여 집합론적 유일성의 개념을 도입하는 방법을 제시하였다.
이러한 문제는 실수계의 공리에서뿐만 아니라 군(group), 환(ring)과 같이 등호를 사용하는 명제가 포함된 공리에 의하여 정의되는 어떠한 계에서도 발생할 수 있다. 따라서 현재 대학에서 사용하는 다양한 분야의 전공 수학 교재에서 등호 관계를 명확하게 정의하는지 여부를 점검할 필요가 있다.
참고문헌
- 김락중 외 3인(2004), 해석학 입문, 경문사
- 남진우(2000), 실수계의 구조에 대한 연구, 연세대학교 석사학위논문
- 박교식, 임재훈(2005), 초등학교 수학 교과서에서 사용되는 무정의 용어 연구, 수학교육학연구 제15권 제2호, 대한수학교육학회
- 박찬운(1983), 고등학교 과정에서의 실수의 연속성과 그 지도에 대한 연구, 단국대학교 석사학위논문
- 우정호(2005), 수학 학습-지도 원리와 방법, 서울대학교출판부
- 이정미(1994), 수의 체계에 관한 연구, 경희대학교 석사학위논문
- 장미림(1985), 수의 개념에 대한 수학교육학적 고찰, 이화여자대학교 석사학위논문
- 최정열, 최종철(1992), Uniqueness of the Complete Archimedean Ordered Field, 원광대학교 석사학위논문
- C. Boyer & Y.C. Merzbach(1991), 양영오, 조윤동 역, 수학의 역사, 경문사
- C.C. Pinter(1971), Set Theory, Addison-Wesley Publishing Company
- H.L. Royden(1988), Real Analysis 3rd Ed, Prentice-Hall, Inc
- R. Johnsonbaugh & W.E. Pfaffenberger(2002), 조열제 외 3인 공역, Foundations of Mathematical Analysis, Dover Publications
- W. Fulks(1981), Advanced Calculus 3rd Ed, JOHN WILEY and SONS, Inc
- W. Rudin(1976), Principles of Mathematical Analysis, McGraw-Hill
Posted by Maria Agnesi
