논문 대필 눈감은 챗GPT·AI로 편지 쓰라는 구글

수익성 신경쓰느라 AI 윤리 뒷전
‘부정 사용’ 감지 기술 공개 미뤄
실적 압박에 유해한 콘텐츠 제작도

인공지능(AI) 기술에 막대한 투자를 한 빅테크 기업들이 수익성만 신경 쓸 뿐 AI 윤리는 뒷전에 두고 있다는 지적이 끊이지 않고 있다. 오픈AI는 챗GPT를 활용해 논문을 쓰면 적발할 수 있는 기술을 개발했는데도 공개하지 않고 있는 것으로 알려졌다. 구글은 생성형 AI 모델인 제미나이로 어린이에게 편지를 쓰라는 광고를 냈다가 비판에 휩싸이자 송출을 중단했다.

월스트리트저널(WSJ)은 4일(현지시간) 오픈AI가 과제나 논문 등에 학생들이 챗GPT를 사용했는지 확인할 수 있는 기술을 개발했지만 이를 공개하지 않고 있다고 보도했다. 이 기술은 99.9%의 정확도로 과제나 논문에 사용된 콘텐츠가 챗GPT가 생성한 것인지를 식별해낸다.

해당 기술은 1년 전부터 출시 준비를 마쳤지만, 챗GPT 이용자를 늘리는 데 걸림돌이 될 것으로 판단한 오픈AI가 공개를 미루고 있는 것으로 보인다. 자체 설문조사 결과 챗GPT 충성 사용자 중 3분의 1은 해당 기술이 도입된다면 챗GPT를 사용하지 않을 것이라고 답했다.

구글은 올림픽을 겨냥해 내보낸 광고를 중단했다. 광고에는 한 남성이 자신의 딸을 위해 운동선수에게 편지 쓰는 것을 도와달라고 제미나이에게 요청하자 제미나이가 곧바로 편지를 써 내려가는 내용이 담겼다. 이 광고는 생성형 AI의 기능을 홍보하기 위해 제작됐지만, 어린이가 스스로 배우도록 돕지 않는다는 비판에 직면했다. 진정성 있게 의사소통하도록 가르치는 대신 AI에 의존하게 한다는 지적이 잇따르자 광고를 철회했다.

빅테크 기업들의 AI 윤리 논란은 반복되는 이슈다. 제미나이는 백인인 역사적 위인을 유색인종으로 생성하는 등 오류가 잇따르자 이미지 생성 기능을 중단했다. 샘 올트먼 오픈AI 최고경영자(CEO)가 사내 세력에 의해 축출됐다가 복귀한 배경에도 AI 기술과 윤리를 둘러싼 갈등이 있었다. 오픈AI는 챗GPT-4o에 유명 배우 스칼렛 요한슨과 비슷한 목소리를 사용했다가 소송에 휘말렸다. 마이크로소프트(MS)의 AI 이미지 생성 도구가 미성년자 음주, 성적으로 대상화된 여성 등 유해한 콘텐츠를 만들고 있다는 내부 폭로가 나오기도 했다.

빅테크 기업들의 시행착오는 AI에 막대한 투자를 한 만큼 성과가 나오지 않는 현실과도 연결돼 있다. 실적이 시장 기대에 미치지 않자 수익성과 직접적으로 관련이 없는 AI 윤리를 일단 외면하고 있는 것이다. 블룸버그통신은 주요 빅테크 기업인 M7(매그니피센트 7)의 2분기 실적을 분석한 결과 수익 증가율이 전년 대비 29.9%로 내림세에 놓였다고 밝혔다. M7의 수익 증가율은 지난해 4분기 56.8%, 올해 1분기 50.7%를 기록했지만 하반기에는 10%대로 크게 떨어질 전망이다.

주요 기관투자자는 빅테크 기업들의 AI 기술 투자가 수익으로 직결돼야 한다고 요구하고 있다. 애덤 사르한 50 파크 인베스트먼트 최고경영자(CEO)는 “투자자들은 AI가 수익과 생산성에 미치는 영향에 대한 구체적인 증거를 찾고 있다”며 “기업들에 성과를 내놓으라고 압박할 것”이라고 말했다.

심희정 기자 simcity@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지