'챗GPT 아버지'도 두려워하는 AI의 괴력..."정부가 규제해야"

챗GPT 개발자 "차기 대선에 AI가 영향 줄까 걱정"
AI 규제 논의 이제 시작..."전담기관 신설" 건의도

샘 올트먼 오픈AI 최고경영자(CEO)가 16일 미국 상원 법사위가 워싱턴 국회의사당에서 주최한 청문회에서 인공지능(AI) 규제의 필요성에 동의하고 있다. 워싱턴=AP 연합뉴스

“인공지능(AI)이 세상에 심각한 피해를 입히지 않도록 노력해야 한다.”

16일(현지시간) 미국 의회 청문회에서 샘 올트먼 오픈AI 최고경영자(CEO)가 한 말이다. 챗GPT를 개발해 AI 열풍을 일으킨 장본인이 AI의 위험성을 경고한 것이다. 미국 상원 법제사법위원회 사생활·기술·법소위가 개최한 청문회의 주제는 'AI 규제'였다. AI의 능력에 겁을 먹은 인류가 AI의 윤리를 본격적으로 따지기 시작한 것이다.

---

미국 첫 'AI 규제' 청문회 열렸다...챗GPT 개발자 "위험, 억제해야"

미국 CNN방송 등에 따르면, 청문회는 시작부터 파격이었다. 리처드 블루먼솔 소위원장이 개회사를 했는데, 회의장 스피커에서 그의 목소리가 흘러나오는 동안 그의 입은 굳게 닫혀 있었다. 개회사를 한 건 AI였다.

블루먼솔 위원장은 “개회사는 챗GPT가 작성했고, 나의 과거 연설을 학습한 AI 음성 복제 소프트웨어가 대신 읽었다”고 했다. AI가 특정인으로 감쪽같이 위장할 수 있음을 보여 준 장면이었다. 그는 “AI는 내 목소리를 꾸며내 우크라이나에 항복을 요구할 수도 있다"고 했다.

AI 규제가 필요하다는 것에 민주당과 공화당 의원들은 초당적으로 공감했다. 내년 11월 미국 대선을 앞둔 만큼 AI가 가짜 뉴스를 그럴듯하게 퍼뜨려 선거 결과를 왜곡할 가능성에 대한 걱정이 특히 컸다. 올트먼은 “대선에 AI가 미칠 영향을 가장 우려하고 있다”며 "사회관계망서비스(SNS)의 영향과 (차원이) 다를 것"이라고 말했다. 챗GPT가 접속한 사용자와 일대일 대화를 주고받는 과정에서 허위 정보를 쏟아내도 책임을 따지기 어렵다. 챗GPT가 인터넷 정보 등을 기반으로 '스스로' 판단해서 답변하기 때문이다.

인공지능(AI) 챗봇인 챗GPT가 생성한 텍스트 위로 개발사 '오픈AI'의 로고가 겹쳐져 있다. 로이터 연합뉴스

---

규제 논의 이제 막 시작했는데...인공지능은 '독창성' 획득

청문회에는 올트먼과 게리 마커스 뉴욕대 신경학과 교수와 크리스티나 몽고메리 IBM 최고개인정보보호책임자 등 3명이 전문가 자격으로 참석했다. 규제 폭과 속도에 대해선 3명의 의견이 엇갈렸다. 학계를 대표한 마커스 교수는 AI가 학습한 데이터를 기업들이 투명하게 공개하고 급속도로 진화 중인 생성 AI의 가동을 잠시 멈추자고 제안했다. 업계를 대변하는 올트먼과 몽고메리는 반대했다.

다만 올트먼은 기업들의 AI 서비스 출시 과정에서 정부가 보다 적극적 역할을 할 것을 주문했다. "AI가 잘못되면 모든 것이 잘못될 수 있다"면서다. 이에 △AI 서비스 허가권을 가진 연방정부기관 신설 △AI 서비스가 정확한 정보를 생성하는지 여부를 사전에 검증 △전문가로 구성된 비정부 감독조직 구성 등을 제시했다.

뒤늦게 시작한 규제가 AI의 잠재력을 따라잡을 수 있을지는 미지수다. AI는 창의적으로 똑똑해지고 있다. 미 뉴욕타임스에 따르면, 지난해 마이크로소프트에서 개발한 AI는 고도의 사고 단계인 '추론'을 하기 시작했다. '계란 9개와 노트북, 책, 병, 못을 안정적으로 쌓아 올리는 방법'을 물었더니, AI는 각 사물의 특성(깨지기 쉬움, 평평함, 날카로움)을 근거로 들며 최적의 해법을 내놓아 연구진을 놀라게 했다.

이유진 기자 iyz@hankookilbo.com