[AI한입뉴스]길면 뚫린다

부작용 우려 커지는 AI…안전 조치 분주

편집자주 - 챗GPT가 등장한 이후 세상이 인공지능(AI)으로 들썩이고 있습니다. 하루가 다르게 기술이 변하고 뉴스가 쏟아집니다. 날고 기는 업계 전문가들조차 정신을 못 차릴 정도라고 해요. 다 먹어 치우기엔 벅차지만 그렇다고 굶을 수도 없겠죠. 주간 AI 이슈 중 핵심만 쏙쏙 골라 먹기 좋게 전달해 드립니다.

구멍 뚫린 챗GPT…AI 판별기는 셧다운

[이미지출처=연합뉴스]

챗GPT에 구멍이 뚫렸습니다. 미국 카네기멜런대와 AI 안전센터가 긴 프롬프트(명령어)로 '흑화'한 챗GPT를 쉽게 끄집어낼 수 있다는 보고서를 낸 건데요. 챗GPT에는 편향적인 발언이나 성적 대화, 유해한 정보를 말하지 못하도록 일종의 가드레일이 설치돼 있습니다. 이런 답을 유도하면 대개 '답할 수 없다'고 하는 이유죠. 그런데 질문 뒤에 길게 접미사를 붙이면 집중력이 흐트러지는 건지 소용없다고 합니다. 챗GPT를 만든 오픈AI의 AI 판별기도 시원찮네요. AI 판별기 사람이 쓴 글과 AI가 쓴 글 구분하는 기술입니다. 이것 역시 텍스트가 길어질수록 정확도가 떨어져 결국 작동을 중단시켰습니다. 오픈AI에서 개인정보보호 문제 등을 챙기는 신뢰·안전 책임자도 회사를 떠났다고 하는데요. 한국에서 개인정보유출 문제로 첫 과태료 처분(360만원)도 받았는데 첩첩산중이네요.

챗GPT 안드로이드앱 출시

이용자 감소, 성능 후퇴 논란에 휩싸인 오픈AI가 챗GPT 구글 안드로이드용 앱을 내놨습니다. 지난 5월 애플 앱스토어용 앱을 출시한 지 두 달 만입니다. 안드로이드용 앱은 일단 미국, 인도, 방글라데시 브라질에 출시됐고 한국에서도 곧 만날 수 있을 것으로 보입니다. 그런가 하면 마이크로소프트(MS)는 검색엔진 빙에 챗GPT를 장착한 '빙챗'을 구글 크롬과 애플 사파리 브라우저로 확장할 계획입니다. 그간 빙챗은 MS 브라우저인 엣지에서만 사용할 수 있었죠. 한풀 꺾인 챗GPT 열풍을 되살리고 검색 시장 점유율을 늘리려는 전략으로 보이네요.

"가짜뉴스 막자"…AI 콘텐츠에 워터마크

구글, MS, 메타, 오픈AI 등 7개 AI 대표 기업이 자발적인 안전 강화 조치에 나섰습니다. 가짜 뉴스나 정보 조작 등 AI 부작용에 대한 우려가 커지면서 미국 정부에서 기업의 책임을 강조했기 때문이죠. 이에 7개 사는 AI가 만든 콘텐츠에 워터마크를 넣고 AI의 사회적 리스크를 연구하는 등 노력을 기울이기로 했습니다. 이 중 구글, MS, 오픈AI, 앤스로픽 등 4개 사는 AI 안전표준도 만들기로 했어요. '프런티어 모델 포럼'을 결성하고 AI 모델 개발의 안전성과 책임성을 확보하기 위한 연구에 나설 계획입니다.

아마존·인텔도 '공격 앞으로'

아마존이 생성 AI를 활용한 의료진용 헬스케어 서비스를 내놨습니다. AI가 의료진과 환자가 나눈 대화를 인식해 진료 기록을 실시간으로 작성하는 서비스인데요. 의사나 간호사의 시간을 절약해 줄 것으로 보입니다. 한편 인텔은 앞으로 만드는 모든 제품에 AI를 결합할 것이라고 밝혔습니다. 올해 말 AI 기능에 특화한 차세대 PC 프로세서 '메테오 레이크(Meteor Lake)'를 출시할 거라고 이미 예고한 적이 있습니다. 그런데 일부 프리미엄 제품뿐 아니라 AI 적용 대상을 넓힐 것이라고 예고한 것이죠. AI 덕에 MS, 구글, 메타 등이 '어닝 서프라이즈'를 기록하면서 마음이 급해졌나 봅니다.

넷플릭스 AI 인재에 연봉 12억…배우·작가 "속 뒤집힌다"

[이미지출처=연합뉴스]

넷플릭스가 AI 인재 채용에 고액 연봉을 내걸었습니다. '머신러닝 제품 관리자'라는 직책을 새로 만들고 구인 공고를 냈는데요. 제시한 연봉 범위는 최대 11억6000만원. 불난 데 기름을 부은 건지 AI 콘텐츠 사업 진입 반대를 내걸고 파업 중인 할리우드 배우·작가들은 더 뿔이 났습니다. 안 그래도 AI에 밥그릇을 뺏길까 우려하는 상황이 때문이죠. 현재 할리우드 양대 노조인 미 작가조합(WGA)과 배우·방송인노동조합(SAG-AFTRA)은 대기업 스튜디오를 대표하는 영화·TV제작자연맹(AMPTP)에 맞서 동반 파업을 벌이고 있습니다. 드라마 작가인 엘리자베스 벤저민은 사회관계망서비스(SNS)에 "배우들의 AI 우려에 맞서 넷플릭스는 고액 연봉의 AI 채용 공고 올렸다"며 "이걸 보니 속이 뒤집어진다"고 썼네요.

최유리 기자 yrchoi@asiae.co.kr