"AI 모델 개발 과정서 '위험의 임계치' 찾아야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
메세롤 의장은 오늘(12일) 서울 강남구 코엑스(COEX)에서 열린 글로벌 AI 안전 콘퍼런스에 기조연설자로 나서 "(고도의 능력을 갖춘 AI인) 프론티어 AI를 설계하는 방법은 알지만, AI가 어떤 능력을 갖출지는 모른다"며 이같이 밝혔습니다.
일론 머스크 테슬라 최고경영자(CEO)가 오픈AI의 대항마로 설립한 AI 업체 'xAI'의 안전담당 고문을 맡고 있는 그는 "AI 모델이 특정 위험 정보를 보유하고 있을 때 (의도적으로) 학습하지 않는 방법을 연구하고 있다"고 소개했습니다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
크리스 메세롤 프론티어모델포럼 의장은 인공지능(AI) 모델을 개발하는 과정에서 '위험의 임계치'를 찾아야 한다고 조언했습니다.
메세롤 의장은 오늘(12일) 서울 강남구 코엑스(COEX)에서 열린 글로벌 AI 안전 콘퍼런스에 기조연설자로 나서 "(고도의 능력을 갖춘 AI인) 프론티어 AI를 설계하는 방법은 알지만, AI가 어떤 능력을 갖출지는 모른다"며 이같이 밝혔습니다.
그는 "AI가 에이전트 형태로 변해갈수록, 여기에 따르는 문제를 해결하기는 어려워지고, 중요함은 더 도드라진다"면서 위험 경감 정책, 위험 책임에 대한 공시, 레드라인 설정 등을 방법론으로 제시했습니다.
프론티어모델포럼은 구글과 마이크로소프트(MS), 오픈AI, 앤트로픽 등이 AI 모델의 안전 표준 개발을 위해 결성한 포럼입니다.
화상으로 참여한 비영리기구 'AI 안전센터'의 댄 헨드릭스 디렉터도 AI 모델을 개발하는 과정에서 정보 제약의 중요성을 역설했습니다.
일론 머스크 테슬라 최고경영자(CEO)가 오픈AI의 대항마로 설립한 AI 업체 'xAI'의 안전담당 고문을 맡고 있는 그는 "AI 모델이 특정 위험 정보를 보유하고 있을 때 (의도적으로) 학습하지 않는 방법을 연구하고 있다"고 소개했습니다.
모델에 레이어를 추가해 전문 지식이 없는 '초보자'와 전문가가 질문했을 때의 답변을 다르게 하는 방식이라고 헨드릭스 디렉터는 설명했습니다.
이미지 생성 AI '스테이블 디퓨전'을 만든 스태빌리티AI의 에마드 모스타크 설립자(전 CEO)는 '탈중앙화된 AI'을 대안으로 제시했습니다.
그는 "하나의 인공범용지능(AGI)을 구축하기보다는 여러 개의 작은 모델이 협업하는 것이 (인류에게) 더 안전하다고 생각한다"라면서 각 문화의 특성을 반영한 데이터세트가 다양하게 등장해야 한다고 주장했습니다.
과학기술정보통신부와 한국정보통신기술협회(TTA)는 11∼12일 거대언어모델(LLM)의 잠재적 위험 및 취약점을 찾는 '생성형 AI 레드팀 챌린지'를 열었습니다.
11일에는 네이버와 SK텔레콤, 업스테이지 등이 참여하는 레드팀 챌린지가, 오늘(12일)에는 국내·외 전문가들이 AI의 신뢰와 안전성을 논의하는 글로벌 AI 안전 콘퍼런스가 진행됐습니다.
(사진=연합뉴스)
한지연 기자 jyh@sbs.co.kr
Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
- 30분 새 1km 내 여성 2명 폭행…2차 피해자는 차 밑에서 발견
- 12년 전 소원 이룬 치킨집 사장에…누리꾼들 "돈쭐 나야"
- 횡단보도 건너다 차에 치여 날아갔는데…피해 보상 논란
- [정치쇼] 고민정 "후임 비서실장에 이동관? 아직 정신 못 차렸구나"
- '슈퍼스타K2' 출신 가수 박보람, 갑작스럽게 사망…향년 30세
- 국민의힘 차기 대표의 조건은…수도권-영남? 친윤-비윤?
- 이재명-조국, 특검법은 협력…대권가도는 긴장 관계
- "유명 맘카페 믿었는데…" 회원 속인 운영자의 최후는?
- [뉴스딱] 앞구르기만 하던 모습 어디로…"푸바오가 달라졌어요"
- 이혼하자는 남편에 빙초산 뿌려 살인미수…아내 구속기소