오픈AI, AI 장기리스크 대비 안전팀 해체…경영진 갈등 후폭풍?
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
챗GPT 개발사 오픈AI가 인공지능(AI)의 장기적인 위험에 대해 연구하는 안전(safety)팀을 사실상 해체했다고 블룸버그 통신 등이 17일(현지시간) 소식통을 인용해 보도했다.
소식통은 오픈AI의 슈퍼얼라이먼트(superalignment) 팀 일부가 다른 팀으로 재배치되고 있다고 전했다.
이에 대해 오픈AI는 "우리는 이 팀을 독립체로 유지하기보다 안전이라는 목표를 달성하도록 돕기 위해 연구 전반에 걸쳐 통합하고 있다"고 설명했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
(샌프란시스코=연합뉴스) 김태종 특파원 = 챗GPT 개발사 오픈AI가 인공지능(AI)의 장기적인 위험에 대해 연구하는 안전(safety)팀을 사실상 해체했다고 블룸버그 통신 등이 17일(현지시간) 소식통을 인용해 보도했다.
소식통은 오픈AI의 슈퍼얼라이먼트(superalignment) 팀 일부가 다른 팀으로 재배치되고 있다고 전했다.
이 팀은 미래 다가올 초지능 AI를 제어함으로써 인간에게 유용하고 해롭지 않은 방식으로 행동하도록 연구하는 안전팀이다.
작년 7월 설치된 이 팀은 "우리보다 훨씬 더 똑똑한 AI 시스템을 조종하고 제어하기 위한 과학적이고 기술적인 연구에 초점을 맞추고 있다"고 밝힌 바 있다.
특히, 이 팀의 해체는 오픈AI의 공동 창립자 일리야 수츠케버 등 팀을 이끈 인력이 잇따라 회사를 떠난 지 며칠 만에 나왔다.
오픈AI의 수석과학자로 일해 온 수츠케버는 지난 14일 "오픈AI를 떠나기로 결정했다"고 밝혔다. 수츠케버는 지난해 11월 올트먼 축축 사태를 주도한 바 있다.
수츠케버에 이어 또다른 임원인 얀 레이케도 회사를 떠났다. 수츠케버와 레이케는 슈퍼얼라이먼트 팀을 이끌어왔다.
이들이 연이어 사임하면서 올트먼 등 다른 경영진과 갈등에 따른 것이라는 관측이 제기되기도 했다.
수츠케버는 지난해 올트먼 축출 당시 AI의 위험성에 대해 충분한 주의를 기울이지 않은 채 오픈AI의 사업을 구축하는 데만 집중한다고 우려했던 것으로 전해졌다.
그는 회사를 떠나면서 "나는 오픈AI가 올트먼 등의 리더십 아래 안전하고 유익한 AIG(범용 인공지능)를 구축할 것으로 확신한다"고 밝혔다.
레이케는 "나는 오픈AI가 이 연구(초정렬)를 하기 가장 좋은 장소가 될 것으로 생각했었다"며 "그러나 오랫동안 회사의 핵심 우선순위에 대해 경영진과 의견이 달랐다"고 토로했다.
이어 "인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력"이라며 "오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다"고 지적했다.
이들 외에 앞서 다른 팀원들도 회사를 떠난 것으로 전해졌다.
이에 대해 오픈AI는 "우리는 이 팀을 독립체로 유지하기보다 안전이라는 목표를 달성하도록 돕기 위해 연구 전반에 걸쳐 통합하고 있다"고 설명했다.
또 오픈AI 공동 창업자 중 한 명인 존 슐먼이 AI 정렬 연구(사람이 의도한 목표와 윤리적 원칙에 맞게 AI 시스템을 조정)를 위한 리더가 될 것이라고 덧붙였다.
taejong75@yna.co.kr
▶제보는 카톡 okjebo
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- "사람 죽였다" 경찰에 자수한 뒤 숨진 30대 남성 | 연합뉴스
- 캐나다 최악 부녀자 연쇄살인마, 종신형 복역중 피습 사망 | 연합뉴스
- '1.3조원대 재산분할' 최태원, 확정되면 하루 이자 1.9억원 | 연합뉴스
- [OK!제보] "여자애라 머리 때려"…유명 고깃집 사장의 폭행과 협박 | 연합뉴스
- 놀이터 미끄럼틀에 가위 꽂은 10대 검거…"장난삼아"(종합2보) | 연합뉴스
- '개인파산' 홍록기 소유 오피스텔 이어 아파트도 경매 나와 | 연합뉴스
- '좋아요' 잘못 눌렀다가…독일 대학총장 해임 위기 | 연합뉴스
- 美 배우, 헤어진 여자친구 찾아가 흉기로 찌른 혐의로 기소 | 연합뉴스
- "졸리-피트 딸, 성인 되자 개명 신청…성 '피트' 빼달라" | 연합뉴스
- '파경설' 제니퍼 로페즈, 북미 콘서트 전면 취소…"가족과 휴식" | 연합뉴스