[로터리] 인공지능 데이터에 대한 규율

고학수 개인정보보호위원장

[서울경제]

지난 연말 챗GPT가 출시돼 전 세계적인 주목을 받게 되면서 인공지능(AI)이 가져오는 변화에 대해 사회적 관심이 집중되고 있다. AI가 어떤 편리함을 가져올지 큰 기대가 형성됨과 동시에 부작용을 둘러싼 우려의 시각도 적지 않다. 사회적 관심이 높아지면서 AI에 대한 규율 체계를 어떻게 마련할지를 둘러싼 논의도 늘고 있다. 유럽연합(EU)에서는 이미 2021년에 AI법 초안을 마련해 입법을 위한 논의를 시작했는데 챗GPT 출시 이후로 초안을 대폭 개정해 추가적인 논의를 이어가고 있다. 국내에서도 관련 법안이 발의돼 국회에서 논의가 이뤄지고 있다.

AI를 바라보는 시각은 다양하다. 그리고 어떤 규율 체계가 필요할지에 대한 시각도 다양하다. AI가 더욱 고도화되면서 장차 큰 부작용이 발생할 가능성에 주목하는 입장에서는 적극적인 규제를 강조하게 된다. 외국에서는 AI 기술 개발을 일시적으로 중지하자는 제언까지 등장한 바 있고, 강력한 국제 규범 마련을 위한 논의의 시급함을 지적하는 시각도 있다. 물론 그와 반대되는 시각도 있고, 그와 별도로 투자와 기술 개발을 강조하는 시각도 있다.

AI 중에서도 최근 많은 주목을 받는 챗GPT 유형의 생성형 AI는 그 결과물이 진실을 반영하지 않을 가능성이 높다는 중요한 특징이 있다. 생성형 AI를 통해 그릇된 정보가 거의 무제한으로 생산되고 손쉽게 전파되면서 사회적 문제가 크게 나타날 가능성은 생성형 AI의 중요한 부작용으로 지적되는 사항이기도 하다. 그런 부작용을 고려할 때 법이나 의료 등 흔히 전문가의 도움을 필요로 하는 영역에서는 생성형 AI의 도입과 이용에 더욱 주의가 필요하다는 주장도 있다.

최근 미국에서는 변호인이 법원 제출용 서면의 작성 과정에서 생성형 AI를 활용했다가 문제가 생긴 사례도 나타났다. 변호인 서면에 여러 판례가 언급됐는데, 언급된 판례는 대부분 생성형 AI가 가짜로 만들어낸 것이었다. 변호인이 별도의 확인 과정을 거치지 않은 채 해당 판례들을 서면에 인용하고 이를 법원에 제출하면서 문제가 불거졌다.

이러한 문제 상황에 대응하는 정책적 방향은 크게 두 갈래다. 하나는 법률 서면을 준비하는 등의 과정에서 AI를 아예 이용하지 않도록 하거나 이용에 큰 제한을 두는 것이다. 두 번째는, 이와 달리 AI의 활용 가능성을 인정하고 그와 함께 AI 모형의 정확도와 신뢰도를 높일 방법을 모색하는 것이다. 좋건 싫건 시대의 흐름은 후자의 방향이다. 외국 몇몇 나라에서는 판례를 찾고 이를 서면에 반영하는 과정에서 판례 데이터베이스 및 AI 기술을 이용해 편의성을 높이는 서비스가 이미 제공되고 있기도 하다.

미국에서의 변호인 서면 사례는 황당하기는 하지만 사실 필터링 기법의 고도화 등 AI 기술의 발전과 함께 향후 어렵지 않게 해결될 수 있는 유형의 문제다. AI를 활용한 판례의 추천 과정 또는 서면의 검토 과정에서 진실성을 확인하는 기능을 개발해 반영하면 되기 때문이다. 다만 이런 기능이 개발되고 작동하기 위해서는 판례의 진실성을 담보해주는 판례 데이터의 적절한 개방이 전제돼야 한다. AI가 우리 사회에 유용한 것이 되도록 하는 과정은 AI 데이터에 관한 규율 체계를 정비해가는 과정이기도 하다.

강도림 기자 dorimi@sedaily.com