[주말N수학] 세상을 바꾸는 '인공지능' 뒤에 '함수'가 있다

김진화 기자 2023. 8. 26. 08:00
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

인문학자 이은수 서울대 철학과 교수 (왼쪽), 수학자 이승재 서울대 박사후연구원 (오른쪽). 수학동아 제공

함수는 어떤 값이 주어지면 그에 대응하는 다른 값이 주어지는 관계다. 함수라는 도구가 생기면서 복잡한 문제를 간단히 표현하고 심지어는 앞으로 벌어질 현상을 예측할 수 있게 됐다. 함수가 어떻게 발전했고 좋은 함수란 어떤 것인지 알아보면 함수가 얼마나 일상생활에서도 중요한지를 알 수 있게 된다. 

○ 첫 번째 질문. 함수는 언제 처음 등장했는가.

Q(수학자). 함수는 어떤 역사가 있나요.

A(인문학자). "대응 관계와 함수를 구분해서 답해볼게요. 정해지지 않은 두 양, 즉 두 변수의 대응 관계는 오래전부터 연구됐어요. 고대 천문학에 남아있는 자료 중에는 특정 각도의 사인, 코사인 값 등을 계산해 놓은 표가 있어요. 이 표에는 각도와 계산 값 사이의 대응 관계도 담겨 있지요.

하지만 대응 관계라는 설익은 아이디어가 아니라 함수가 하나의 독립적인 수학적 탐구 대상이 된 건 17, 18세기예요. 프랑스 수학자 르네 데카르트(1596~1650)는 자신의 저서 '기하학'에서 임의의 두 양이 어떤 식에 의해서 상호 관계를 맺는 상황을 설명했어요. 말하자면 두 변수의 관계를 생각한 것이지요.

이후에 영국의 물리학자이자 수학자인 아이작 뉴턴(1643~1727)은 저서 '유율법'에서 서로 관계를 주고받는 여러 운동학적 변수 중에 다른 변수에 영향을 주는 변수를 ‘독립 변수(quantitas correlata)’, 그에 따라 바뀌는 변수를 ‘종속 변수(quantitas relata)’라는 라틴어로 구분해서 표현했어요."

Q(수학자). 하지만 아직도 함수라는 단어가 나오지 않았어요. 언제 처음 함수라는 단어가 정의됐나요.

A(인문학자).  "좋은 질문이에요. 보통 아이디어는 단어를 정의하기 전부터 존재하지만 특정한 단어로 쓰여야 그 뒤에 본격적인 발전이 일어나요. 17세기 말 독일 수학자 고트프리트  라이프니츠(1646~1716)가 남긴 원고를 보면 라틴어 동사 ‘fungor’에서 파생한 명사 funtio를 써서 대응 관계를 나타냈어요.

fungor는 영어로 말하면 perform으로, 한국어로는 ‘기능하다’라는 의미가 있어요. 그리고 이것의 명사 형태가 functio, 복수가 functiones예요. 영어로 바꾸면 함수를 뜻하는 단어인 function이 되지요.

이후 기하학적인 양 사이의 관계뿐 아니라 일반적인 양 사이에서도 함수 개념이 정립돼요. 대표적으로 1718년  '과학아카데미 회고록'에 스위스 수학자 요한 베르누이(1667~1748)가 함수를 새로운 수학적 대상으로서 정의한 구절이 다음과 같이 남아있습니다."

어떤 양(y)이 특정한 방식(a)에 따라 변하는 양(x)과 변하지 않는 양(b)에 의해 구성되는 것( y = ax + b)을 변화하는 크기의 함수라고 부른다. Memoires de l Academie des Sciences 제공

○ 두번째 질문. 어떤 함수가 좋은 함수인가.

Q(인문학자). 수학에서는 모순이 없고 명확한 것을 가리켜 ‘well-defined(잘 정의됐다)’라고 해요. 함수 중에서도 잘 정의된 함수 소위 말해 좋은 함수가 있을 것 같아요. 좋은 함수가 되기 위한 조건이 있나요.

A(수학자).  "함수는 우리가 이해하고 싶은 현상을 얼마나 잘 표현하고 얼마나 잘 예측하는지가 중요해요. 그러니까 기본적으로 예측이 틀린 함수가 나쁜 함수겠지요. 그렇지만 원하는 현상을 함수가 제대로 설명한다고 좋은 함수라고 단정 짓기는 어려워요. 함수 자체가 얼마나 변수들의 관계를 잘 표현하는지를 보여줄 수 있어야 좋은 함수지요.

아주 쉬운 예를 들어볼게요. 독자에게 '수학동아'를 한 권씩 나눠준다고 생각해볼게요. 독자가 1명이라면 1권, 10명이라면 당연히 10권을 나눠주면 될 거예요. n명의 독자가 있다면  n권이 필요하겠지요. 이를 함수로 표현하면 f(n) = n이에요.

단순하다고 생각할 수 있지만 여러 가지 의미로 정말 좋은 함수예요. 일단 n에 독자 수를 대입하면 우리가 원하는 값을 얻을 수 있고 식을 봤을 때 ‘이 식은 일대일대응이구나’, ‘우리는 독자 수만큼 책을 준비하면 되는구나’라고 문제를 온전히 이해할 수 있지요."

Q(인문학자).  결국 우리가 관심 있는 현상을 표현할 수 있고 식을 이해하는 데에도 문제가 없으면 좋은 함수군요. 그런 좋은 함수를 찾는 게 어렵나요.

A(수학자).  "정말 어려운 일이에요. 예를 들어 분할 함수는 자연수  n이 있을 때 이 자연수를 다른 자연수의 합으로 표현하는 방법의 가짓수를 찾는 거예요. n이 1, 2, 3일 땐 다음과 같지요.

수학동아 제공

앞의 규칙을 봤을 때 n = 4이면 4가지라고 예측하기 쉬워요. 그런데 n이 4일 때는 4가지가 아니라 5가지가 나와요. 1 + 1 + 1 + 1, 1 + 1 + 2, 1 + 3, 4를 비롯해 2 + 2가 하나 더 있습니다.

문제 자체는 이해하기 쉽지만 어떤 자연수  n을 집어넣었을 때 정확한 결과값을 내놓는 함수를 아직 찾지 못했습니다. 인도 수학자 스리니바사 라마누잔(1887~1920)이 최대한 근삿값을 찾을 수 있는 함수를 발견했지만 너무 복잡해요.

과학 혹은 일상생활에서 쓰는 함수는 많은 경우에 관측을 통해 입력값과 결과값을 보며 둘 사이의 관계를 유추한 것인데요. 이런 추론을 위해선 많은 관측값이 필요하고 아무리 관측값이 많아도 절대 정확성을 보장하지 못한다는 단점이 있어요.

예를 들어 1, 2, 4, 8, 16이라는 수열의 다음 값을 한번 예측해보세요. 아마 많은 사람이 32라고 대답하겠지요. x값이 차례로 1, 2, 3, 4, 5일 때 함수가 2의 거듭제곱인 형태, 즉 f(x) = 2x - 1이라고 생각한 결과예요.

그렇지만 ‘원 위에 x개의 점을 놓고 그 점들 사이에 선을 그었을 때 원을 나눌 수 있는 가장 많은 영역의 수’를 표현한 함수 f(x) =  (x3 - 6 x2 + 23x - 18) + 1 역시 x = 1, 2, 3, 4, 5일 때 1, 2, 4, 8, 16이지만 x = 6일 때는 32 대신 31이라는 값을 내놓아요.

그러니 단순히 관측값만 가지고 ‘이 함수가 정말 우리 문제를 잘 표현하는 좋은 함수인가?’를 알기란 쉽지 않습니다. 그래서 많은 연구자가 지금까지도 어떤 현상을 정확히 표현하는 좋은 함수, 정확한 함수를 찾는 일을 하고 있지요."

수학자 이승재 서울대 박사후연구원 (왼쪽), 인문학자 이은수 서울대 철학과 교수 (오른쪽). 수학동아 제공

Q(인문학자).  좋은 함수를 찾는 게 만만치 않은 일이라면 수학자는 한정된 시간 안에서 더 중요한 일에 집중해야 할 텐데요. 그러면 어떤 함수가 중요한 함수일까요. 

A(수학자). "‘중요한 함수’를 정의하는 건 ‘좋은 함수’를 정의하는 것보다 더 어려운 문제예요. 굉장히 주관적일 수 있거든요. 그래도 보편적인 기준을 정하자면 역사적인 의미가 있는 함수, 수학뿐만 아니라 인류 문명의 발전에 기여한 함수, 범용적이고 보편적으로 활용할 수 있는 함수가 중요한 함수이지 않을까 싶습니다.

중고등학교 때 배우는 일차, 이차, 삼차 함수는 결국 직선, 포물선 등과 관련있기 때문에 중요하다고 말할 수 있어요. 삼각함수, 로그함수, 지수함수는 실제 물리적인 현상을 기술하고 우리 생활에서 떼려야 뗄 수 없을 만큼 다양한 곳에서 쓰이기 때문에 너무나 중요하지요.

물리학에도 함수가 중요하게 쓰여요. 대표적으로 뉴턴의 운동 제2법칙인 F = ma는 ‘이동하는 물체의 힘(F)은 그 물체의 질량(m)과 가속도(a)에 비례한다’는 물리 법칙을 표현하는 함수예요. 이 함수를 통해 단순히 가속도가 증가함에 따라 힘이 증가하는 것이 아니라 가속도에 비례한다고 정확히 표현할 수 있게 됐지요.

이런 여러 가지 함수의 중요성과 역사에 관심을 가질 분에게 추천하는 책이 있는데요. 이안 스튜어트 영국 워릭대 수학과 교수가 쓴 '세상을 바꾼 17가지 방정식'이라는 책입니다. 중요한 함수들에 대한 수학자들, 혹은 과학자들의 생각을 잘 살펴볼 수 있는 좋은 책 중 하나입니다."

수학자 이승재 서울대 박사후연구원 (왼쪽), 인문학자 이은수 서울대 철학과 교수 (오른쪽). 수학동아 제공

○ 세번째 질문. 함수는 세상을 어떻게 바꿨는가.

Q(인문학자). 흔히 사칙연산만 하면 사는 데 아무 지장이 없는데 수학을 왜 이렇게 많이 배우냐고 묻는 사람이 있어요. 하지만 함수는 사칙연산 다음으로 도움되는 개념이에요. 곳곳에서 대응 관계를 파악하려는 노력을 많이 볼 수 있거든요. 

예를 들어 사람들이 주식에 투자할 때 과거의 데이터로 이익률을 높이는 특정한 함수를 찾아서 막대한 수익을 얻고자 하지요. 이처럼 수학의 많은 개념 중에서는 우리 생활에서 함수가 차지하는 역할이 상당히 커요.

인문학적 관점에서 함수가 남긴 의미를 이야기해볼게요. 함수를 도입하고 난 뒤 사람들은 특정한 개체 및 단독 개념만 탐구하기보다는 두 개체 및 두 개념 사이의 관계를 본격적으로 탐구하기 시작했어요. 그러면서 지식의 확장이 일어났지요. 전혀 관계가 없어 보이는 것 사이에도 우리가 아직 알지 못하고 규명하지 못한 관계가 있다고 생각하게 된 거예요.

최근 실질적인 가치를 창출하는 스마트 데이터와 관련해 다시 주목받는 지식 그래프(개념, 사물, 사건 등의 개체의 관계를 나타내는 그래프로 정보와 지식을 구조화해 표현하는 방법)는 지식과 지식 사이를 연결한  관계망이에요. 기존에 따로따로 떨어뜨려 놓고 생각했던 지식 사이에서 관계를 찾아 연결하는 말하자면 함수적인 사고를 한 것이지요.

사회가 복잡해질수록 특정 개체에 대한 1차원적인 접근으로는 해결할 수 없는 문제가 너무나 많아요. 그래서 고도화된 관계를 이해할 수 있는 능력 자체가 훨씬 중요해졌지요. 그런 의미에서 함수가 우리의 사유하는 방식 자체에 미친 영향이 크다고 생각해요. 연구원님이 생각하기에 수학, 과학에서 함수는 또 어떤 의미에서 중요한가요.

A(수학자). "함수는 세상을 정말 많이 바꿨고 지금도 계속해서 바꾸고 있어요. 과학에서는 먼저 현상을 관측하고 이를 통해 가설을 세우고 그 가설이 사실인지 검증해요. 이때 함수는 관측, 가설, 결과, 예측 모든 것을 연결해요.

기존에 있었던 값으로부터 어떤 관계가 있을지 예상하기 위해서는 그 관계를 표현할 수 있는 함수가 필요하고 예측이 맞는지 확인하기 위해서는 예측값과 결과값이 모두 있어야 하니까요. 

인공지능도 수많은 입력값, 결과값을 함께 학습시키고 그렇게 학습된 인공지능이 정말로 우리가 원하는 예측을 할 수 있는지 보는 게 본질이잖아요. 결국 입력값과 결과값을 연결할 수 있는 함수가 무엇이고 그 함수를 우리가 잘 예측하고 학습할 수 있는지가 중요하지요. 인공지능이 지금 세상을 어떻게 바꾸고 있는지 보는 입장이라면 함수가 세상을 바꿨다고도 얘기할 수 있을 것 같아요.

과학 관점에서 추가로 이야기를 드리면 뉴턴은 F = ma와 같은 함수를 이용해서 고전역학이라는 하나의 물리계를 완성했어요. 특히 뉴턴은 고전역학을 정립한 사람으로도 유명하지만 미분이 처음 등장한 '프린키피아'라는 책을 쓴 사람으로도 유명하잖아요.

미적분이 함수와 만나면서부터 실제 물리적인 현상을 기술할 수 있는 엄청난 도구들을 손에 쥐게 됐지요. 그다음부터 정말 새로운 세상을 만들어 갈 수 있었습니다. 이밖에도 다양한 함수가 우리가 알고 싶은 세상을 이해할 수 있게 했지요."

※관련기사
수학동아 8월, [Rethnking] 함수는 왜 중요한가?

[김진화 기자 evolution@donga.com]

Copyright © 동아사이언스. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?