[인공지능의 두 얼굴] 챗GPT는 미성년자가 혼자 이용해선 안 된다

[인공지능의 두 얼굴 (13-2)] 생성형AI 활용을 위한 리터러시 가이드라인

[미디어오늘 금준경, 박서연 기자]

챗GPT를 비롯한 생성형 인공지능 사용이 본격화되면서 어린이 청소년들의 이용도 늘고 있다. 일부 학교에선 챗GPT를 활용한 시범교육도 실시하고 있다. 그러나 챗GPT를 비롯한 생성형 인공지능을 이용할 때는 유의해야 할 점이 적지 않다. 새롭게 주목 받는 생성형 인공지능 서비스의 '설명서' 역할을 할 수 있는 가이드라인은 다음과 같다.

▲ 챗GPT, 오픈AI 관련 이미지. ⓒUnsplash

1. 챗GPT·바드 미성년자 단독 사용 금지
영화에 연령 등급이 있는 것처럼 생성형 인공지능 서비스도 연령 제한을 두고 있다. 챗GPT는 13세 미만 이용자의 사용을 금지하고, 18세 미만의 경우 부모나 보호자의 감독 하에서만 사용하도록 규정하고 있다. 구글의 생성형 인공지능인 바드 역시 18세 이상 이용자만 사용할 수 있다. 어린 나이에 생성형 인공지능을 사용하게 되면 논리력과 생각하는 힘을 키우는 데 방해가 될 수 있고, 어린이 청소년들에게 해가 될 수 있는 콘텐츠를 만들어낼 수도 있다.

2. 정보를 검색할 땐 믿을 수 있는 출처를 함께 찾아보기
챗GPT를 비롯한 생성형 인공지능에게 질문을 했을 때 사실과 다른 답이 나올 수 있다. 생성형 인공지능은 방대한 데이터를 바탕으로 확률적으로 높은 답을 내놓는 원리로 사실을 검증해 전달하는 인공지능이 아니다. 챗GPT3.5버전은 '세종대왕 맥북 던짐 사건' 같은 실제 존재하지 않는 황당한 사건을 언급했다. 구글 바드의 경우에도 경복궁을 검색하면 실제 존재하지 않는 '세종전'이라는 전각이 있다고 하거나, 경복궁은 세계문화유산이 아님에도 세계문화유산으로 지정됐다고 답한다. 생성형 인공지능 기술이 발전하면서 사실과 다른 답을 내놓는 비율을 줄이고 있지만 여전히 위험성은 남아 있다. 정보를 얻을 목적으로 이용할 때는 사전이나 공식 기관의 홈페이지 등 믿을 만한 출처를 함께 찾아 교차 검증할 필요가 있다.

3. 개인정보는 입력하지 않기
생성형 인공지능 서비스를 사용할 때 질문을 하는 과정에서 개인의 신상이나 가족, 학교 정보 등을 입력하는 행동을 지양해야 한다. 물론 챗GPT나 구글 바드 등 주요 서비스들이 개인정보를 일일이 수집해 악용할 가능성은 낮지만 유출 우려를 완전히 배제할 수는 없다. 실제 국내외 기업과 공공기관에서는 챗GPT 등 생성형 인공지능 서비스에 회사 관련 정보나 개인정보를 입력하지 못하도록 하는 경우가 많다. 새로운 생성형 인공지능 서비스를 이용할 때는 해당 서비스가 개인정보를 어떻게 처리하고 있는지 방침을 세부적으로 살펴볼 필요가 있다.

▲사진=GettyImagesBank

4. 인공지능 도움을 만든 콘텐츠는 투명하게 명시하기
생성형 인공지능의 도움을 받아 만든 글이나 그림, 영상 등을 만들 때는 투명하게 표기하는 것이 좋다. 특히 숙제나 과제물을 작성하는 과정에서는 어떤 정보를 생성형 인공지능을 통해 얻었는지를 표기할 필요가 있다. 이미지 생성 인공지능의 경우 서비스에 따라 활용 방식과 범위에 제한이 있을 수 있으니 이 역시 확인해야 한다.

5. 허위정보 생성하거나 공유하지 않기
사실과 다른 정보를 지어내 인터넷에 공유하는 행위는 의도치 않은 허위조작정보 유포로 이어질 수 있다. 특히 악의를 갖지 않았다 해도 허위정보 유포로 사회적 혼란이 야기되는 경우가 있다. 디지털 자료 분석단체 '벨링캣'의 창립자 엘리엇 히긴스는 이미지 생성 AI '미드저니'를 통해 도널드 트럼프 전 대통령이 체포되는 장면을 만들어 소셜미디어에 올렸다. 허위정보 유포 목적이 아니었지만, 이 정보가 소셜미디어에 확산되는 과정에서 허위정보를 믿는 이들이 생겨나 사회적 혼란으로 이어졌다. 빙이미지크리에이터, 미드저니 등 주요 이미지 생성 서비스는 도널드 트럼프 등 인물과 관련한 이미지 제작을 요청할 경우 거부하고 있다. 한국에선 허위사실을 유포할 경우 허위사실에 의한 명예훼손죄가 적용돼 형사처벌을 받을 수도 있다.

6. 콘텐츠에 혐오, 차별, 폭력 야기 문제는 없는지 확인하기
생성형 인공지능은 특정한 데이터를 학습하는데 이 과정에서 편향이 발생할 우려를 배제할 수 없다. 영어권 데이터를 수집해서 작동하는 인공지능이 한국과 같은 아시아 국가에 대한 설명글을 쓰거나 관련 이미지를 만들 때 서양의 관점이 지나치게 개입될 수 있다. 이 외에도 성별이나 인종, 민족 등에 대한 편견이나 혐오를 담을 가능성도 배제할 수 없다. 챗GPT 제작사 오픈AI는 “증오, 괴롭힘, 폭력, 성인용 콘텐츠 생성에 우리의 기술이 사용되는 것을 허용하지 않는다”고 명시하고 있다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]