[국민논단] 인공지능 시대, 그 거짓말과 아이들

박선숙 전 국회의원

챗GPT 개발사인 오픈AI는 이달 초 ‘AI 안전에 대한 우리의 접근방식’이라는 제목의 인공지능(AI) 안전대책을 공지했다. 사용자의 오남용 방지를 위한 지속적인 업데이트나 보안기술 업데이트 같은 내용도 있지만, 눈에 띄는 것은 미성년자 보호를 위해 AI 도구는 18세 이상 또는 부모의 승인을 받은 13세 이상만 사용할 수 있도록 하고 이를 인증하는 방법을 검토하겠다는 대목이었다.

오픈AI의 공지는 지난달 ‘삶의미래연구소(FLI)’가 발표한 공개서한에 대한 답이었다. 일론 머스크 스페이스X 최고경영자와 유발 하라리 교수, 스티브 워즈니악 애플 공동창업자 등 각계 전문가 1200여명은 FLI 공개서한에서 “안전규약이 만들어질 때까지 최소 6개월간 AI 기술개발을 중단하자”고 제안했다. 이탈리아는 이달 1일 챗GPT 접근을 차단하고 개인정보보호법 위반 여부 조사에 착수했다. 미국도 규제를 검토 중이고, 유럽연합(EU)은 AI 규제법안 논의를 마무리할 예정이다. 하지만 오픈AI 측은 멈출 생각이 없음을 분명히 한 것이다.

한 번 구르기 시작한 돌은 멈추기 어려워 보인다. 두 달 전 페이스북의 메타(Meta)는 챗GPT4가 소스를 공개하지 않아 편향되고 잘못된 정보 생성 가능성을 줄이려는 노력을 막고 있다며, AI 라마(LLaMA)를 오픈소스로 공개했다. 지난달에는 스스로 학습과 훈련이 가능한 ‘오토(Auto)GPT’가 등장했다. “AI는 잘못된 항공기 설계나 나쁜 자동차 생산보다 위험하다”고 강조하며 ‘AI 실험 중단’을 주장했던 머스크도 트루스(Truth)GPT라는 이름의 ‘선한 AI’ 개발을 내세워 AI 전쟁에 참전을 선언했다.

지난해 윤석열정부는 ‘AI 3대 강국’ 도약을 목표로 5년간 원천기술 개발에 3018억원, AI 반도체 핵심기술 개발에 1조200억원을 투입할 계획이라고 발표했다. 최근에는 올해에만 3901억원을 투입하겠다고 속도를 냈다. 그것으로 충분한가. AI가 만들어내는 그럴듯한 거짓말(hallucination)을 어떻게 걸러낼 것인가, 나아가 인권과 프라이버시 등 윤리적 기준을 어떻게 지킬 수 있을 것인가는 경쟁력 못지않게 중요한 당면과제다.

다른 나라들보다는 늦었지만 우리 정부도 2020년 인간 존엄성과 사회 공공선, 기술 합목적성이라는 AI 3대 원칙과 인권 보장, 프라이버시 보호, 다양성 존중 등 10가지 AI 윤리기준을 마련했다. 20대 국회에서 진행된 AI 관련 논의 끝에 나온 결과다. 정보통신망법 44조에는 정보통신서비스 제공자는 만 14세 미만의 아동에게 AI 스피커나 챗GPT 같은 대화형 서비스 시 부적절한 내용의 정보가 제공되지 않도록 노력해야 한다는 법적 의무가 신설되기도 했다. 하지만 후속 논의는 아직 제대로 이뤄지지 않고 있다.

오픈AI는 “AI의 안전성을 강화하기 위해 노력하지만 한계가 있다”고 인정한다. 그러면서도 사용자의 피드백을 통해 정확성이 개선된 챗GPT4는 기존 3.5버전보다 사실적 콘텐츠를 생산할 가능성이 40% 이상 크다고 주장한다. 그 말은 뒤집어 보면 3.5버전은 상당히 많은 오류 또는 거짓말을 내놓았다는 의미이고, 챗GPT4 역시 마찬가지일 것이다. 오픈AI가 개발을 멈추지 않으면서도 18세 이상 사용, 13세 이상의 조건부 사용을 공지한 것은 아직 불안정한 AI가 아이들에겐 위험할 수 있다는 ‘고백’으로 들리는 이유다. 이탈리아의 13세 미만 사용금지 요구를 반영한 것이긴 하지만.

디지털 기기가 자라나는 아이들의 뇌 발달에 어떤 영향을 미치는가에 관해 오랫동안 연구가 진행됐다. 스티브 잡스는 10여년 전 한 인터뷰에서 “내 아이들은 아이패드를 사용하지 않는다”고 말했다. 다른 IT기업 최고경영자들도 자녀들에게 디지털 기기를 멀리하도록 한다고 언론은 전한다. 그들은 디지털미디어의 강한 자극이 아이들에게 부정적 영향을 미치고 더 큰 자극에만 반응하는 ‘팝콘 브레인’을 만들 수 있음을 누구보다 잘 알기 때문이다.

이제 문제는 뇌 발달만이 아니다. 요즘 아이들은 휴대전화 동영상, AI 스피커와 함께 자라난다. 거기에 챗GPT라는 센 것이 등장했다. 대화형 AI의 잘못된 정보가 아이들의 생각을 지배할 수 있는 것이다. 지금 우리는 AI의 오류와 거짓말로부터 우리 아이들을 어떻게 보호하느냐 하는 큰 숙제를 안고 있다.

박선숙 전 국회의원

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지