Home > 사이언스 피디아 > 과학콘텐츠센터

400

수학의 맛 이야기 ⑦ 근의 공식: 확 풀어주마

|이한기 기자

 

가만히 있어도 땀이 쏟아지는 더운 여름에는 좀처럼 입맛을 찾기가 힘들다. 이럴 때면 뭔가 시원한 게 떠오른다. 여름철 시원한 먹거리라고 하면 또 냉면만 한 게 없다. 냉면 중에서도 평양냉면은 특히 마니아가 많다. 밍밍한 듯하지만 먹다 보면 이상하게 계속 생각나는 매력이 있다. 요즘에는 평양냉면을 즐겨야 어디 가서 미식가라고 할 수 있는 분위기다.

근의공식_img1
출처 GIB

그렇게 말하니 떠오르는 수학 공식이 있다. 바로 ‘근의 공식’이다. 평양냉면이 답답한 속을 시원하게 풀어준다면, 근의 공식은 어려운 방정식을 시원하게 풀어준다. 또한 오늘날 미식가의 조건이 평양냉면의 맛을 아는 것이라면, 과거 수학자의 조건은 근의 공식을 아는 것이었다.

수학 대결을 위한 비장의 무기

16세기 유럽의 수학자는 승부사였다. 마치 격투기처럼 수학 문제로 결투를 벌였다. 얼마 나 치열했던지 ‘수학승부’가 진짜 몸싸움으로 번지는 일도 잦았다. 승자는 부와 명예를 거머쥐었지만, 패자는 야유 속에 살아가야 했다. 타르탈리아(말더듬이)라고 불린, 이탈리아의 수학자 니콜로 폰타나는 영광과 야유 모두 겪은 경우다.

타르탈리아의 어린 시절은 불행했다. 고향에 침입한 프랑스군의 손에 아버지를 잃고 자신도 턱이 쪼개지는 큰 부상을 입었다. 극적으로 살아남았지만, 평생 말을 더듬는 장애를 안고 살아야 했다. 종이를 살 돈이 없어 묘지 비석을 공책 삼아 공부했다는 이야기가 있을 정도로 가난에 시달기도 했다. 하지만 장애와 가난이 타르탈리아의 수학적 재능을 꺾지는 못했다. 타르탈리아는 번역된 고대 그리스 수학책의 오류를 잡아내고, 최고 수준의 산술서를 쓸 만큼 훌륭한 수학자로 성장했다.

근의공식_img3
타르탈리아(니콜로 폰타나)의 초상. 출처 위키미디어

1535년 어느 날, 타르탈리아에게 베네치아의 젊은 수학자 안토니오 피오르가 도전장을 내밀었다. 피오르가 제시한 대결 종목은 3차방정식 풀기. 피오르는 이길 자신이 있었다. 자신의 스승인 델 페로가 남겨준 ‘비장의 무기’가 있었기 때문이다.

1500년대 초 페로는 이미 2차항이 없는 삼차방정식을 푸는 ‘근의 공식’을 알아냈다. 하지만 페로는 이 발견을 비밀로 간직했다. 수학 대결에서 상대를 제압할 비장의 무기로 쓸 생각이었다. 결국 페로는 죽기 직전에야 피오르에게 자신의 비밀공식을 전해 주었다.

그런데 한 수학자가 삼차방정식을 풀 수 있다고 떠들고 다닌다는 소문이 피오르의 귀에 들려왔다. 바로 타르탈리아였다. 스승이 유언으로 남긴 ‘비밀의 공식’을 떠돌이 수학자가 알고 있다니, 피오르 입장에선 기가 찼을 것이다.

피오르는 자신만이 알고 있던 3차방정식 서른 문제로 승부를 걸었다. 그러나 타르탈리아는 너무 쉽게 모든 문제를 풀어버렸고, 승부는 타르탈리아의 압승으로 끝났다. 사실 타르탈리아는 2차항이 없는 삼차방정식은 물론, 1차항이 없는 삼차방정식의 근의 공식까지 밝혀낸 상황이었다.

승리의 비밀을 도둑맞다

승리의 비법을 알려 달라는 요청이 줄을 이었지만 타르탈리아는 결코 입을 열지 않았다. 타르탈리아에게 근의 공식이란 누구에게도 줄 수 없는 자신만의 비법이었다. 하지만 한 번의 실수가 그를 파멸로 이끌었다.

1539년 의사이자 수학자였던 지롤라모 카르다노가 근의 공식을 배우고자 타르탈리아를 찾아왔다. 타르탈리아는 당연히 거절했지만, 카르다노는 끈질기게 설득했다. 달콤한 말은 물론, 비밀을 지키겠다고 신 앞에서 맹세하기까지 했다. 결국 타르탈리아는 ‘절대 입 밖에 내지 말라’는 거듭된 당부와 함께 자신의 비밀을 알려주었다.

근의공식_img2
지롤라모 카드다노의 초상.
출처 위키미디어

그러나 맹세는 깨졌다. 1545년 카르다노는 3차방정식의 풀이법을 담은 책 <아르스 마그나(위대한 계산법)>를 발표했다. 분노한 타르탈리아는 카르다노를 표절혐의로 고소했지만, 이미 늦은 뒤였다. 카르다노는 자기 대신 제자 로도비코 페라리를 앞 세웠다. 페라리는 카르다노가 페로의 다른 제자 나베에게서 근의 공식을 배웠다고 주장하며, 오히려 타르탈리아가 페로의 아이디어를 훔쳤다고 비난했다.

마침내 1548년 8월 10일 이탈리아 밀라노에서 타르탈리아와 페라리의 결투가 벌어졌다. 결과는 타르탈리아의 참패였다. 사실 페라리는 4차방정식 근의 공식을 밝혀낼 정도로 스승을 뛰어넘는 실력자였다. 타르탈리아는 갖은 수모를 겪고, 학교에서도 쫓겨나는 신세가 됐다. 그는 끝내 명예를 되찾지 못하고, 카르다노를 저주하며 쓸쓸히 삶을 마감했다. 세월이 흘러 카르다노의 비겁한 행동이 드러났지만, 근의 공식은 이미 ‘카르다노의 공식’으로 불리고 있었다. 페로, 타르탈리아, 페라리의 이름은 그 후로도 들어가지 않았다.

카르다노가 아이디어를 훔치기만 한 건 아니다. 카르다노와 페라리는 페로와 타르탈리아의 공식을 발전시켜 일반적인 3차방정식근의공식_img4을 푸는 근의 공식을 최초로 구했다. 특히 카르다노는 근호(‘√’)를 이용해 우리에게 익숙한 모습의 근의 공식을 만들어 냈다. 이전까지의 근의 공식은 한 편의 시처럼 쓰여 있었다.

허수 근도 문제없어

카르다노의 공식은 단순한 풀이법을 넘어선다. 예를 들어 ‘더하면, 4가 되고 곱하면 8이 되는 두 수’라는 문장을 떠올려 보자. 카르다노 이전까지는 정육면체를 그려가며 문제를 풀었다. 하지만 어떤 그림으로도 이 문제는 풀 수가 없다. 답이 실제로는 만지거나 볼 수 없는 허수이기 때문이다.

근호로 이뤄진 근의 공식을 쓰면 이야기가 달라진다. 예제를 기호로 나타내면 근의공식_img5 이라는, 우리에게 익숙한 2차방정식이 나온다. 이제 근의 공식을 적용하면 근의공식_img6라는 답이 나온다. 곱해서 음수가 되는 숫자근의공식_img7가 드디어 모습을 드러낸 것이다. 허수를 사용하면 어떤 2차방정식도 문제없다.

수학을 가르치는 사람들은 과정을 중시하고 단순히 공식에 대입해서 답만 얻어내서는 안 된다고 누누이 말한다. 맞는 말이지만, 솔직히 말해 간단한 공식으로 어려운 문제를 척척 풀어내면 속이 시원한 것도 사실이다. 매일 밥만 먹고 살 수는 없듯이 가끔은 이렇게 속 시원한 기분을 느껴보자.