'파스칼의 삼각형', AI의 열쇠가 되다 [AI가 바꾸는 세상]

편집자주
인공지능(AI) 혁명이 근미래도 아닌 지금 당장 시작됐다. AI 혁명에 뒤지지 않기 위해 알아야 할 관련 상식과 AI기술의 100% 활용법을 매주 연재한다.

앞면이 나올 확률이 2분의 1인 동전 던지기에서 시행 횟수가 늘어날수록 이항분포가 정규분포에 가까워진다.

인류문명이 인공지능(AI) 기술 발전에 이르기까지의 과정에서 가장 중요한 발견 중 하나는 정규분포의 발견이다. 유로화 통합 이전에 사용되던 독일의 10마르크 지폐에는 수학자 가우스의 초상과 함께 정규분포가 그려져 있다. 그러나 인류 최초로 정규분포를 만난 사람은 가우스가 아니고, 영국에서 활동한 프랑스의 수학자 아브라함 드무아브르다. 드무아브르는 이항분포의 극한분포를 구하는 방법으로 정규분포를 발견하였다.

중학교 수학시간에 배우는 3차 이항전개식은 (p+q)³=p³+3p²q+3pq²+q³이다. 이때 전개식 각 항의 계수인 1, 3, 3, 1이 이항계수이고, 조합기호로 표현하면 3C0, 3C1, 3C2, 3C3에 해당한다. 이항계수의 성질에 따라 3차 이항계수를 알면 4차 이항계수를 쉽게 구할 수 있다. 양쪽 끝값인 4C0과 4C4는 1로 두고, 3C0과 3C1을 합하여 4C1을 구하고, 3C1과 3C2를 합하여 4C2를 구한다. 이런 방법으로 차수를 올려 가면서 삼각형 모양을 확장하는 형태로 이항계수를 구하는 방법이 파스칼의 삼각형이다.

이항분포는 이항전개식에서 곧바로 도출되는 분포다. 던질 때마다 앞면이 나올 확률이 p인 동전이 있다고 하자. 이때 앞면이 나올 확률을 p, 뒷면이 나올 확률을 q라고 하자. 이 동전을 3번 반복하여 던져서 앞면이 나오는 횟수를 센다면 0, 1, 2, 3 중 하나가 될 것이다. 그 각 경우에 대한 확률은 각각 q³, 3pq², 3p²q, p³이 된다. (p+q)³에 대한 이항전개식의 각 항과 같다. 이를 시행횟수가 3이고 성공확률이 p인 이항분포라고 말한다. 이때 시행횟수를 3으로 고정하지 않고 아주 크게 하는 경우, 즉 동전을 아주 여러 번 던지는 경우, 그 분포의 형태가 정규분포로 수렴하게 된다. 드무아브르는 시행횟수가 매우 커지는 경우 이항분포에서의 확률값에 대한 극한값을 구하는 방법으로 정규분포 식을 얻었고 이를 1738년 자신의 저서 확률론(The Doctrine of Chances)에 발표하였다.

인간이 관측하여 얻게 되는 값에는 항상 오차가 포함되고, 오차라는 현상을 가장 잘 설명하는 분포가 정규분포이다. 특히 정규분포는 덧셈과 매우 잘 어울리는 분포로 인간이 덧셈을 가장 중요한 기본연산으로 사용하는 만큼 정규분포 또한 매우 중요한 역할을 하게 된다. 인류는 이항계수와 이항분포에 대한 연구 과정에서 정규분포를 발견하였고, 이를 통하여 오차를 통제하면서 데이터를 해석할 수 있는 기본 틀을 만들 수 있었다. 오늘날의 다양한 인공지능 기술들은 이를 기반으로 발전한 것이다.

이윤동 서강대 경영학부 교수(통계학)