[세상읽기] 게임에 규칙이 필요하듯 AI에도 규제가 필요하다

오철환 소설가·전 대구시의원

오철환 소설가·전 대구시의원

인공지능(AI) 규제를 둘러싼 논의에 불이 붙었다. AI가 차세대 AI를 개발하는 '재귀적 자기개선'으로 기술 발전의 속도가 급격히 빨라졌다는 진단이 불씨를 제공했다면, AI가 주어진 과제와 무관한 대상을 공격하고 평가 시스템까지 해킹했다는 사실과 일론 머스크, 샘 올트먼 등 유명인의 AI 규제 언급이 불을 붙였다.

AI 규제는 어려운 문제다. 미래의 먹거리와 주도권이 걸려 있어 국가와 기업이 치열하게 경쟁하는 분야이기 때문이다. AI 경쟁을 설명하면서 '죄수의 딜레마'가 거론되는 것만 보아도 해결이 쉽지 않음을 알 수 있다. 그렇다고 뾰족한 방법이 없다고 단정하는 것은 성급하다. AI 개발을 중단하는 것이 아니라, 속도를 조절하는 게 핵심이다. 외부 평가팀에 기업 직원과 비슷한 수준의 접근 권한을 부여해 내부의 연구 과정과 안전체계를 점검하게 하는 방안이 거론되고 있다.

죄수의 딜레마를 해결하는 열쇠는 상대방의 선의를 믿는 데 있지 않고, 약속의 파기와 배신을 확인할 수 있는 장치를 마련하는 데 있다. 그런 점에서 AI 규제는 자율적인 윤리 규범보단 독립적인 검증과 사찰이 더 실효성 있어 보인다. AI는 최첨단 반도체와 대규모 데이터센터가 공급되지 않으면 개발이 불가하다. 최첨단 반도체는 극소수 기업만 생산할 수 있고, 대규모 데이터센터는 엄청난 전력을 소비한다. 첨단 반도체 칩의 생산과 유통, 대형 데이터센터의 구축을 관리하는 방식이 유력한 규제 수단으로 동원되는 이유다.

미국과 중국의 패권 경쟁은 문제를 더욱 복잡하게 만든다. 트럼프 대통령은 AI 위험에 관한 경고가 과장됐다고 말하는가 하면, 중국의 기술적 우위를 견제하는 수단으로 첨단 반도체 칩의 대중국 수출을 금지해야 한다는 목소리도 들린다. 중국 정부는 미국의 움직임을 공포 조장이라고 반발하고 있다. 이처럼 강대국의 안보 문제와 패권 경쟁이 얽힌 상황에서 신뢰성과 실효성이 담보되는 규제 체계를 찾아내기란 정말 쉽지 않다.

그 결과를 되돌릴 수 없는, 비가역적 문제라면 막연한 낙관보다 최악의 가능성에 더 무게를 두어야 한다. 선두 기업이 규제를 요구할 경우, 후발 기업은 경쟁자의 손발을 묶으려는 술수라고 의심할 수 있다. 따라서 규제의 정당성은 그것을 주장하는 사람이나 기업의 선의에서 나올 수 없다. 누구에게나 동일하게 적용되는 객관적인 기준과 독립적인 검증 절차가 뒷받침돼야 한다는 결론이 나온다.

인류는 위기 때마다 그 대응책을 성공적으로 찾아냈다. 그렇다고 이번에도 무난히 해결할 수 있다는 안이한 낙관론은 금물이다. AI 문제는 다른 사안과 달라 과거와 동일하게 다룰 수 없다. 과거의 대응체계는 대부분 큰 사고를 겪은 후에 마련됐다. 그러나 AI가 초래할 수 있는 최악의 사고는 비가역적이다. 한 번 발생하면 되돌릴 기회조차 주어지지 않을 수 있다. 사고가 터지기 전에 실효성 있는 대응책을 찾아야 한다는 의미다.

AI 개발 속도를 몇 년 늦춘다고 해도 인류의 긴 역사에서 보면 그 시간은 그다지 길지 않다. 그 몇 년 동안이나마 안전장치를 마련한다면 치명적인 위험을 줄일 가능성이 없진 않다. 하지만 AI 안전 문제가 정쟁이나 패권 경쟁의 도구로만 소비된다면 그 소중한 시간마저 허비하게 될 뿐이다. 게임에 규칙이 필요하듯 AI 개발에도 규칙이 꼭 필요하다. 기술 진보를 가로막는 것이 아니라, 그 진보를 감당할 수 있는 맷집을 키우는 것이 AI 규제의 목적이다. AI 규제가 아무리 어렵더라도 인류의 생존과 직결된 문제라면 너나 할 것 없이 경쟁을 잠시 접고, 그 해법을 찾기 위해 머리를 맞대야 하지 않겠는가.

오철환 소설가 전 대구시의원