오픈AI 제이슨 권 CSO “AI 신뢰의 핵심은 프라이버시…AI 대화도 법적 보호 필요”[제47차 GPA 총회]

제이슨 권 오픈AI CSO가 17일 서울 용산구 그랜드 하얏트 서울에서 개최된 '글로벌 프라이버시 총회(GPA)'에서 기조강연을 하고 있다.

[파이낸셜뉴스] “프라이버시는 단순한 기술적 과제나 규제 준수의 문제가 아니라 존엄성과 자율성, 개인에 대한 존중의 미래다”.

제이슨 권 오픈AI 최고전략책임자(CSO)는 17일 서울 용산구 그랜드 하얏트 서울에서 개최된 '글로벌 프라이버시 총회(GPA)' 기조강연을 통해 "오픈AI는 수억 명의 사람들에게 AI 기반 서비스를 제공하면서 데이터에서 비롯되는 힘과 책임을 깨달았다"라며 이같이 말했다.

제이슨 권 CSO는 "최고전략책임자로서 AI의 미래와 AI가 사회에 어떤 의미를 미칠 것인가에 많은 시간 고민한다"면서 프라이버시가 보장되는 신뢰 기반 구축에 대한 중요성을 강조했다.

AI가 스스로 판단하고 인간의 다양한 작업을 대신 처리하는 단계, 즉 AI 에이전트 시대로 진화하고 있는 상황에서 오픈AI가 그리는 미래는 인간의 자율성 강화로 이어지는 것이라고도 했다. 그는 "사람들이 개인으로서의 인간성을 더 많이 탐구할 수 있도록 시간, 역량, 자유를 주는 것이다. 이를 위해서는 사람들이 자신들의 결정을 존중하고 정보를 보호한다는 점에서 AI를 신뢰할 수 있어야 한다"고 지적했다.

그러면서 "프라이버시는 바로 그 신뢰의 핵심"이라며 "오픈AI에게 이는 사용자가 통제할 수 있도록 안전장치를 설계하고, 데이터를 보호하며, 보안과 책임을 근본적으로 구축하는 것을 의미한다"고 강조했다.

특히 권 CSO는 AI 대화를 법적·제도적으로 보호해야 할 필요성을 강조했다. 그는 “의사, 변호사, 종교 지도자와의 대화가 법적으로 기밀로 보호되듯, AI와의 개인적 대화 역시 소송이나 사기 등으로부터 쉽게 노출되지 않도록 법과 기준을 업데이트해야 한다”며 ‘인공지능 특권(AI privilege)’ 개념을 제안했다.

권 CSO는 "제약, 과학 연구, 기후 및 환경 등 사회의 가장 중요한 분야에서 AI의 변혁적 잠재력이 드러났고, 이 기회를 넓어져야 한다"면서 "AI는 투명성과 데이터 가치를 높이고, 더 많은 규제기관과 정책 입안자들이 이러한 기술을 사용해 시민들에게 더 효율적이고 유용한 서비스를 제공할 수 있다"고 말했다.

그는 챗GPT 출시 이후 오픈AI가 추진해온 글로벌 개인정보 보호 노력도 공유했다. 사용자가 대화를 데이터로 남기지 않고 AI와 상호작용할 수 있는 ‘임시 채팅’ 기능, 학습용 데이터로의 활용을 거부(opt-out)할 수 있는 개발자·엔터프라이즈용 옵션, 웹 게시자가 자신의 사이트와 콘텐츠가 AI 학습에 쓰이지 않도록 제어하는 기능 등이 대표적이다. 그는 “이러한 조치들은 단순히 고객을 위한 것이 아니라 신뢰를 쌓기 위한 것”이라고 설명했다.

오픈AI가 개발한 ‘프라이버시 필터'(Privacy Filter)도 소개했다. 이 필터는 인공지능 모델이 개인 데이터를 학습 과정에서 처리·저장하는 비율을 대폭 줄이는 기술이다. 오픈AI는 내년 중 전 세계 개발자 커뮤니티가 활용할 수 있도록 소스코드를 공개하고 피드백을 반영해나갈 계획이다.

AI가 민주 사회의 성장동력으로 기여하는 사례도 언급됐다. 그는 영국 정부가 공공서비스 교육에 챗GPT를 도입하고, 미국·에스토니아·그리스 등 각국이 AI로 행정 효율성을 높이고 있는 점을 소개하며, “AI는 정부와 기관이 국민을 더 잘 섬기도록 돕는 촉진제가 될 것”이라고 전망했다. 최근 서울대와 맺은 한국 첫 AI 집약 캠퍼스 설립 협약도 그 일환이라고 설명했다.

권 CSO는 “우리는 혼자 이 일을 할 수 없으며, 규제기관·시민사회·학계·산업계가 함께 AI 시대의 개인정보 보호와 신뢰를 구축해야 한다”며 “AI가 일상에 깊숙이 스며드는 만큼 사람들의 권리를 보호하고 사회를 강화하는 방향으로 나아가야 한다”고 말했다.

yjjoe@fnnews.com 조윤주 기자