AI 발화의 '존재감'과 회색지대

장영환 문화체육부 기자

AI의 발화는 단순한 출력값에 불과할까? AI가 만드는 콘텐츠가 우리를 미지의 세계로 안내하고 있다. 뉴스, 블로그 등 텍스트는 물론이고 유튜브 등 영상 플랫폼에서도 실제에 근접한 AI 콘텐츠를 보면 놀랍다. 우리는 '우리의 기호'와 'AI의 기호'가 혼재하는 세계에 살고 있다.

AI 관련 우리 일상에서 어떤 일이 일어났다는 가정을 해보자. 예를 들어 판단력이 부족한 A라는 사람이 챗GPT를 통해 "B를 죽여야 너는 구원받는다"라는 극단적 결론을 얻고 B를 죽였다. 이 경우 챗GTP는 책임이 있을까? 이 책임이란 사회 속의 주체로서 양심적, 도덕적 책임을 지는 것을 말한다.

일반적으로 앵무새가 사람을 죽이라고 말해서 그걸 듣고 실행에 옮긴들 앵무새에게는 책임이 없다. 앵무새는 똑똑해도 자기 말의 정확한 의도성까지는 모른다. 그래서 사회는 사람을 단죄하지 앵무새를 처벌하지는 않는다. 마찬가지로 챗GTP 발화도 그렇다. AI는 자율성, 의도성, 나아가 자기이해, 즉 내가 말한다는 것을 아는 것 등의 능력이 없어 발화의 책임을 지지 않는다.

그런데 문제를 조금 복잡하게 생각하면 요즘 시대 이 비유는 통용되지 않을 수도 있겠다는 생각이 든다. 말이라는 기호는 단순한 것이 아니기 때문이다. AI의 말은 앵무새의 단순 따라하기 수준을 넘는다. 사람이 입력을 통해 얻어낼 수 있는 산물의 기대치를 넘는다. AI의 말은 사회적 맥락 속에서 해석·사용되며, 기대 이상의 정보, 서술, 판단 등을 제시하며 사람의 사고와 행동에 능동적 영향을 미친다. 마치 출력값을 넘은 '기호적 존재'처럼.

이 부분에서 중요한 질문이 하나 제기된다. AI의 발화는 출력인가, 아니면 의미기호로서의 존재인가?

이와 관련 '중국어 방' 논증으로 유명한 미국의 철학자 존 설은 "기계는 기호를 조작해도 이해하지는 못한다"고 말한 바 있는데, 이 말은 결국 이해가 수반되지 않은 의미기호의 단순 출력은 그 자체로 '의미'로서 의미를 잃어버림을 뜻한다. 따라서 이를 발화한 단순 기계인 AI는 그 책임이 없다. 하지만, 존 설이 활발한 학문활동을 하던 20세기 당시는 지금과 같은 챗GPT는 없었다.

독일의 철학자 비트겐슈타인은 "언어의 사용에는 의미가 있다"고 말했다. 이는 언어가 사용되는 순간 특정한 규칙 속에서 의미가 형성되고, 사용된 말은 사회적인 상황과 그 작용 속에서 특정한 의미성을 띠게 된다는 것이다. 즉 AI의 발화가 사람에 의해 읽히고 인용되며 결정적 근거가 되고, 각종 상황에서 사용되는 순간 이 말은 기호를 넘어 사회적 행위가 될 수도 있다.

이탈리아 철학자 루치아노 플로리디는 "우리만이 더 이상 행위주체가 아니다"라고 하며 인간을 포함한 '정보적 존재'가 도덕적 고려 대상, 즉 '발화의 책임자'가 될 수 있음을 지적했다. AI는 도덕 판단 능력이 없더라도 사회적 작용을 유발하는 도덕적 고려 대상자로 판단돼야 한다는 것이다. 결국 AI의 말이 행동을 유도하고, 그 결과 피해나 문제가 생겼다면 그 책임은 어디까지, 또 누구에게 있는가? 개발자나 그 말을 듣고 행동한 사람에게만 책임을 지우는 것은 사회적 발화의 기능을 만들어내는 AI의 '존재감'을 무시하는 책임 회피는 아닐까.

기술 발전으로 AI는 이제 도구를 넘어 인간의 기호환경 속에서 해석, 유통, 사용되고 있다. 심지어 '언어적 주체'처럼 기능한다. 이 실제 세계를 움직이는 영향력에 존재감이 없지는 않는 것 같다. 유령처럼 떠돌며 갑자기 내려와 기호적 존재감을 내고 있다.

그럼 집단지성으로 만들어진 익명적이며 분산된 책임성의 '원죄'는 누구한테 있는 것일까?