베낀 유튜브 콘텐츠·가짜사진 버젓이… AI 뒤에 숨은 '윤리' [생성AI 시대의 명암 (上)]
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
생성 인공지능(AI) 기술이 고도화되면서 기술 악용사례가 수면으로 떠오르고 있다.
이미지 생성 AI 프로그램을 통해 가짜뉴스를 생산하는가 하면 저작권이 있는 원본 콘텐츠를 순식간에 베껴가는 일이 빈번하게 발생하면서다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
생성AI가 만든 사진으로 밝혀져
인기 유튜브 '카피캣' 채널도 논란
EU 등 각국 규제 마련 나섰지만
기술 발전 너무 빨라 못따라가
정부·기업들 '윤리' 확립 논의중
■인기 유튜브 콘셉트 베껴…저작권 침해 논란
2일 업계에 따르면 생성 AI 기술 발전과 함께 가짜뉴스로 인한 위험성도 높아지고 있다.
이미지 생성 AI 서비스를 활용하면 사실 같은 이미지를 만들어낼 수 있어 가짜뉴스 영향력도 높아질 것이라는 우려다. 실제로 최근 프란치스코 교황이 흰색 롱패딩을 입고 바티칸시국의 성베드로광장을 산책하는 모습을 담은 사진이 SNS에 공개돼 화제가 됐다. 하지만 미국 CNBC 등 외신에 따르면 해당 사진은 이미지 생성 AI '미드저니'를 이용해 만들어진 것으로 밝혀졌다.
생성 AI를 활용한 유튜브 콘텐츠 '카피캣(모방)'도 문제가 되고 있다.
최근 국내에서도 인기 유튜브 콘셉트를 AI 프로그램을 통해 똑같이 베낀 한 카피캣 채널 사례가 이슈가 됐다. 해당 채널은 '노아AI'라는 AI 프로그램을 활용해 유튜브에서 조회수가 높거나 화제를 끄는 영상을 추천받았다. 이후 네이버 AI 음성기록 서비스 '클로바노트'를 이용해 영상 대본을 추출, 글쓰기 관련 생성 AI인 '뤼튼'을 통해 시나리오를 작성한 것으로 알려졌다.
조원희 법무법인 디라이트 대표변호사는 "콘텐츠를 만들어낸 AI 기술이나 생성AI 프로그램 자체는 문제가 되지 않는다"면서도 "원본 이미지나 동영상, 콘셉트에서 상당한 유사성이 있어 저작권 침해가 분명해 보이고, 향후 생성 AI 저작권 문제는 더욱 복잡해질 것"이라고 진단했다.
■규제만으론 해결 안 돼…정부·기업 대책 마련
생성 AI 사용법을 두고 각국의 고민이 깊어지고 있다. 규제 움직임도 활발하다.
유럽연합(EU)은 지난 2021년 세계 최초로 'AI 법안(AI Act)'을 제안했다. 고위험AI를 중심으로 공급자 의무 부과, 적합성 평가 및 인증 등 규제를 선도하겠다는 목표다. 영국 정부도 최근 AI백서를 발간하고, AI 활용방식에 맞춘 상황별 접근방식을 마련하라고 규제당국에 촉구했다.
하지만 규제 등 법만으로는 문제를 해결할 수 없다는 회의적인 시각도 나온다. 기술발전 속도가 매우 빨라 모든 케이스를 다 포함할 수 없을 뿐 아니라 자칫하다간 AI 기술패권에서 자국 기업들이 뒤처질 수 있기 때문이다.
이에 AI를 개발하고 사용하는 데 있어 필요한 윤리인 'AI윤리'를 확립하기 위한 움직임도 빨라지고 있다. 국내에서도 AI 신뢰성을 확보하기 위한 노력이 진행되고 있다. 과학기술정보통신부는 지난해 AI 인공지능 윤리정책 포럼을 출범시켰다. 이는 AI의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 AI, 윤리, 교육, 법제도, 공공 등 다양한 분야의 각계 전문가가 참여한 포럼으로, AI 윤리 문제에 대해 논의하고 있다.
기업 차원의 AI윤리 확립을 위한 시도도 있다. 대표적으로 초대규모 AI '하이퍼클로바'를 개발 중인 네이버는 2021년 AI윤리준칙을 발표한 바 있다. AI윤리준칙은 네이버의 모든 구성원이 AI 개발과 이용에 있어 준수해야 하는 원칙으로 △사람을 위한 AI 개발 △다양성의 존중 △합리적인 설명과 편리성의 조화 △안전을 고려한 서비스 설계 △프라이버시 보호와 정보 보안의 총 5개 조항으로 구성돼 있다.
Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.
- 명태균 "김 여사, '남편이 젊은 여자와' 꿈…'대통령 당선' 감축 해몽"
- '자발적 미혼모' 사유리 "아빠·오빠 모두 바람피워…집안 내력"
- ‘칩거’ 2년 3개월 만에 모습 드러낸 안희정…“오랜만에 환하게 웃으셨다”
- "719만원이던 월급이 66만원"…현대트랜시스 직원들의 고충
- 대전시의회 부의장, 고향 논산서 숨진 채 발견
- "엄마 10대 박았어"..무면허 '강남 8중 추돌' 20대女, 사고 당시 CCTV '경악' [영상]
- '억'소리 나는 AI 인재 경쟁, "박사급 연구원 연봉이 11억"[AI 빅뱅 2.0시대 下]
- 청주 하천변서 60대 불에 타 숨진 채 발견…경찰 수사
- 엉덩이 '여기'에 매력을 느낀다?…어떤 부위길래 [헬스톡]
- "XX 환장하겠네" 대기업 퇴직 후 폭언 일삼는 남편…아내 '오열'