[필동정담] 위험한 AI와 철학적 빈곤

유럽연합(EU)이 범용 인공지능(AI)에 '철퇴'를 내리치면서 AI 기업에 비상이 걸렸다. EU가 처음으로 AI법을 제정하면서 AI가 법규를 위반했을 경우 글로벌 매출의 최대 7%에 해당하는 벌금을 부과하기로 했기 때문이다.

EU는 범용 AI를 개발하는 빅테크 기업을 정조준했다. 저작권법을 반드시 준수해야 하고, AI 학습 과정에 사용된 콘텐츠를 공개할 것을 명령했다. 특히 개발한 AI가 '강력한 AI 시스템'으로 규정될 경우 시스템에 대한 위험 평가를 받아야 하고 별도의 위험 완화 대책을 마련하도록 지시했다.

문제는 AI의 어떤 답변이 위험한 것인지에 대한 명쾌한 합의가 전혀 없다는 점이다.

일론 머스크 테슬라 최고경영자(CEO)는 이를 에둘러 비판했다. 그는 24일 프랑스 파리에서 열린 '비바테크'에서 "정치적 올바름은 사실이 아닌 경우가 많다"면서 "이는 곧 AI가 거짓말을 하도록 프로그래밍하는 것을 뜻하며 역효과를 가져올 것"이라고 지적했다. 누군가에게 매우 위험해 보이는 AI의 답변이 또 누군가에게는 그렇지 않을 수 있다는 것이다. 정치적 올바름이란 사용하는 단어에서 인종·민족·언어·종교·성차별 등 편견이 포함되지 않도록 하는 것을 가리킨다. 샘 올트먼 오픈AI CEO는 '불편함'을 감내하기로 작정했다. 그는 앞서 "만약 어떤 지역 주민들이 모든 동성애자를 살해해야 한다고 믿고 있다면, 그것은 명백히 경계를 넘는 것"이라면서도 "하지만 일부 다른 문화에서는 그럴 수 있다"고 말했다. 그러면서 그는 "미래 AI 제품은 '상당히 많은 개인 맞춤화'를 허용할 것"이라며 "많은 사람을 불편하게 만들겠지만, 우리는 도구 제작자로서 다소 불편해져야 한다"고 말했다.

많은 정부가 AI 서울 정상회의를 통해 "AI 안전연구소를 세워 기준을 마련하겠다"고 발표한 것은 구체적 잣대가 빈약한 것을 시사한 것이다. 기술적 시선으로만 AI를 바라보면 결코 해답을 찾을 수 없다. 철학적 담론이 함께 필요하다.

[이상덕 기자]