[대덕포럼] 달콤 살벌한 인공지능의 성장을 바라보며

김성민 한국전자통신연구원(ETRI) 기술경영연구실장

'인공지능의 대부'로 알려진 제프리 힌턴(75) 박사가 지난 5월 1일 구글을 그만두며 인공지능의 발전으로 인한 위험성이 증가하고 있다고 경고했다. 힌턴 박사는 뉴욕 타임즈와 BBC 인터뷰 등에서 인공지능의 발전속도가 너무 빠르고, 악의적인 의도로 사용되는 것을 막을 수 없어서 위험하다며 자신의 업적을 후회한다고 밝혔다고 한다.

인공지능이 인류에게 유토피아를 가져다줄지 디스토피아를 가져다줄지 다양한 전망이 있는 상황에서 인공지능에 대해 가장 잘 아는 힌턴 박사의 이러한 행동은 꽤 충격적이었다. 인공지능의 대부로 존경받아온 그가, 평생을 바쳐 연구해온 업적에 대해 후회한다고 공식적으로 밝히기까지 그의 심경은 어떠했을까?

인공지능이 그렇게 위험해지는 것일까? 위험을 인지한 인류가 이를 극복할 수 있을까?

인공지능이 위험하게 인식되는 이유에 대해 필자는 다음의 세 가지로 정리해보고자 한다.

첫째, 챗GPT 같은 생성 AI가 만들어낸 산출물들이 꽤 많은 경우 신뢰성이 낮은데도 불구하고 매우 그럴싸하게 보이기 때문이다. 사용자의 질문에 그럴싸하게 매우 빠른 속도로 응답하지만 사실이 아닌 경우도 많다. 필자가 챗GPT에게 세종시 나성동에서 역삼역 가는 방법을 알려달라고 하니, 세종시청역에서 지하철을 타고 가라고 설명한다. 세종시에 대해 알지 못하면 있지도 않은 지하철역을 찾아다니는 고생을 할 것이다.

둘째, 이런 거짓된 정보가 다시 AI 학습 데이터가 될 수 있다는 것이다. 선한 마음의 개발자라도 이런 거짓된 인공지능의 성장을 막는 데에 한계가 있을 수 있다.

셋째, 인공지능은 악한 의도에 의해 활용되기도 쉽다. 살상용 로봇이나 드론에 탑재될 수도 있고, 전 세계 이용자들에게 순식간에 거짓 정보를 퍼트릴 수도 있다.

이렇게 위험한 인공지능이 어떻게 빠른 속도로 성장하고 있으며 규제 당국들은 왜 적극적으로 막지 않고 있는 것일까. 우선 인공지능이 가치 중립적이라서 나쁜 용도로 사용될 수도 있지만 인류가 직면한 문제들을 해결해주고 개인과 기업의 경쟁력을 향상시킬 수 있기 때문이다. 누군가는 계속 개발한다면 오히려 개발하지 않는 기업이나 국가의 경쟁력이 뒤처지게 되므로, 서로 앞다투어 개발해야 하는 일종의 죄수의 딜레마에 빠지게 된다.

인공지능이 빠른 속도로 성장하는 다른 중요한 이유는 세계 수십억 명이 이용하는 구글과 마이크로소프트라는 빅테크 기업들이 보유한 어마어마한 데이터를 기반으로 인공지능을 개발하고, 자사의 서비스에 탑재시키고 있기 때문이다. 즉, 인공지능 서비스를 개발한 후 가입자를 새로 모집하는 것이 아니라 이미 수십억 명이 사용하고 있는 빅테크 기업들의 기존 플랫폼 서비스에 무료 또는 낮은 가격으로 탑재하여 서비스가 출시되자마자 수십억 명이 사용하게 된다.

빅테크 기업들의 플랫폼 서비스는 양면시장 서비스로 이용자 수가 아무리 늘어나도, 가격을 0원으로 낮춰도 규제를 받지 않는다. 플랫폼 사업자의 독점적 시장에 면죄부를 주게 된 계기는 2014년 노벨경제학상을 받은 장 티롤 교수의 연구에 기반한다. 티롤 교수는 양면시장 이론을 통해 독점적 플랫폼 사업자가 한계비용보다 낮은 가격으로 시장을 독점하더라도 사회 전체의 후생이 높아지므로 규제 당국이 이를 함부로 규제하면 후생이 더 악화될 수 있다고 했다. 시장에 잠재적 경쟁자가 진입해 성장할 수 있는 상황이 되면 독점적 지위를 함부로 남용하기 어려울 것이라고 했다.

그런데, 티롤 교수의 이론이 인공지능 서비스 플랫폼에도 적용될 수 있을까? 인공지능의 성장이 막대한 컴퓨팅 파워와 데이터를 기반으로 하므로 인공지능 개발 자원 자체가 진입장벽이 될 수 있음을 고려한다면 글로벌 빅테크 플랫폼 사업자들에 대한 규제 기준을 좀 더 엄격해져야 하지 않을까 하는 생각이 든다.

검색엔진이 등장한 1994년부터 2000년대 초반까지는 야후, 라이코스, 알타비스타 등의 서비스들이 경쟁하다가 2006년부터 구글이 점유율을 높이더니 지금까지 10년여 년 동안 세계 90% 이상을 독식하고 있다. 인공지능 서비스 시장도 초기에는 다양한 사업자들이 경쟁하지만 어느 정도 지나면 1등 사업자에 의해 독식될 수 있다. 그때도 네이버 카카오 같은 국내 사업자가 생존할 수 있을지, 우리가 사용하게 될 빅테크 기업이 제공하는 인공지능의 위험을 어떻게 컨트롤 할지 고민해야 한다.