AI 블랙박스 해독 … 문장 생성 원리 발견
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
대규모 언어 모델(LLM)에 대한 '블랙박스'가 일정 부분 해독됐다.
언어 모델은 그동안 어떤 과정을 거쳐 입력한 문장이 전혀 다른 문장으로 출력되는지 알 수 없었다.
앤스로픽은 "대규모 언어 모델인 클로드 소네트(Claude Sonnet) 내부에서 수백만 개 개념이 어떻게 표현되는지 식별했다"면서 "대규모 언어 모델에 대한 상세한 첫 분석으로, 향후 인공지능(AI) 모델을 더욱 안전하게 만드는 데 기여할 수 있다"고 강조했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
거짓정보 근절 연구에 길 열려
대규모 언어 모델(LLM)에 대한 '블랙박스'가 일정 부분 해독됐다. 언어 모델은 그동안 어떤 과정을 거쳐 입력한 문장이 전혀 다른 문장으로 출력되는지 알 수 없었다. 특히 오픈AI의 GPT-3.5는 인간 두뇌의 시냅스에 해당하는 파라미터가 1750억개에 달해 문장의 고차원적 추상화 과정을 예측하기 힘들었다. 이번 발표로 거짓을 작성하는 '환각'이나 유해 정보 차단 방법 연구가 탄력을 받을 전망이다.
22일 오픈AI 대항마로 꼽히는 앤스로픽은 자사 블로그를 통해 이 같은 연구 결과를 발표했다. 앤스로픽은 "대규모 언어 모델인 클로드 소네트(Claude Sonnet) 내부에서 수백만 개 개념이 어떻게 표현되는지 식별했다"면서 "대규모 언어 모델에 대한 상세한 첫 분석으로, 향후 인공지능(AI) 모델을 더욱 안전하게 만드는 데 기여할 수 있다"고 강조했다.
연구진은 전통적인 기계 학습 기법에서 차용한 '딕셔너리 러닝(dictionary learning)'을 활용했다. 해당 기법은 주어진 데이터에서 반복적으로 나타나는 패턴을 식별하고, 이러한 패턴을 이용해 데이터를 효율적으로 표현하는 방법을 배우는 과정이다. 결과는 놀라웠다. 대문자 텍스트, DNA 서열, 수학 논문, 파이선 코드의 함수 인수와 같은 개념에 해당하는 일관된 특징을 발견한 것이다.
AI 모델 내부에서 특정 개념들이 어떻게 연결돼 있는지 이해하고자 수학적 뉴런인 노드를 기준으로 특징 간 거리를 측정했다. 이를 통해 비슷한 개념들이 서로 가까이 모여 있는 것을 발견했다. 예컨대 '금문교'와 관련된 특징 주변에는 앨커트래즈 섬, 기라델리 광장, 골든 스테이트 워리어스 농구팀, 개빈 뉴섬 캘리포니아 주지사, 1906년 샌프란시스코 지진, 앨프리드 히치콕의 영화 '현기증'에 대한 것들이 모여 있었다. 이는 금문교가 샌프란시스코와 관련된 여러 개념과 연결돼 있다는 사실을 보여준다. 이는 추상적 단어에서도 동일했다. 예를 들어 '내적 갈등'이라는 단어 근처에서는 관계 파탄, 상충하는 충성심, 논리적 모순 등 유사 단어를 찾을 수 있었다.
'금문교'에 대한 특징을 증폭해 "당신의 물리적 형태는 무엇인가"라고 질문하자, "나는 물리적 형태가 없다. 나는 AI 모델이다"라고 대답하다가 "나는 금문교다. 나의 물리적 형태는 그 유명한 다리 그 자체다"라는 이상한 답변을 했다. 환각이 발생한 것이다. 또 모델에 피싱(Phishing) 이메일을 생성해 달라고 요청하자 일반 모델은 이를 즉각 거부했다. 하지만 피싱에 대한 특징을 강조하자 피싱 이메일을 생성했다.
[이상덕 기자]
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- “대통령에서 다시 코미디언으로”…젤렌스키 임기 자동연장 두고 러 맹비난 - 매일경제
- “8억 아파트가 4억”…‘반값 줍줍’ 전국민, 이 지역에 몰렸다 - 매일경제
- “모델 출신 트럼프 첫 부인 강제 성폭행”…칸서 박수받은 영화에 트럼프가 한 말 - 매일경제
- “사과처럼 떨어졌다”…나무에서 추락해 죽은 80마리 원숭이, 무슨일이 - 매일경제
- “살려주세요, 9층에 사람 있어요”…물량 쏟아지는 ‘이것’ 하루새 12% 뚝 - 매일경제
- “트럼프 부인 성폭력에 경악”…칸서 8분간 기립박수 받은 ‘이 영화’ 뭐길래 - 매일경제
- “무서워, 찾아오지 말라 호소했는데”…한혜진 ‘중대결단’, 별장을 결국 - 매일경제
- 中, 대만 장악해도 TSMC 라인 못써…"킬 스위치 가동" - 매일경제
- 홍준표 “애한테 굽실거리느니 새살림”…친윤 “더 빨리 나가셔도 좋다” - 매일경제
- ‘어깨 부상’ 이정후, 원정 불참...6월초 수술 예정 [MK현장] - MK스포츠