“AI, 모든 정보와 결합해 자율성 제한 우려” [뉴스 투데이]
홉필드 교수 “AI 대한 이해 필수”
소설 ‘1984’ ‘고양이 요람’에 비유
통제사회·잠재적 위협 야기 경고
힌턴 교수 “생존 위협 초래 측면서
우리는 역사적 분기점 놓여 있어”
‘기업 AI 통제 연구 강화’ 한목소리
“인공지능(AI)이 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다.”(제프리 힌턴 캐나다 토론토대 명예교수)
AP통신 등에 따르면 홉필드 교수는 8일(현지시간) 수상 소감 온라인 회견에서 “물리학자로서 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”고 말했다. 그는 “신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌턴 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”고 언급했다.
홉필드 교수의 우려는 AI 기술이 세상의 모든 정보와 결합해 개인의 자율성을 제한할 수 있다는 것이다. 그는 “내가 걱정하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상”이라며 “그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상”이라고 설명했다.
그는 AI를 재난 위험성을 키운 기후변화에 비유하며 AI 기술이 가져올 수 있는 변화는 기후변화와 다르다고 역설했다. 힌턴 교수는 “기후변화는 모든 사람이 무엇을 해야 하는지 알고 있다”며 “단지 정치적 의지의 문제일 뿐이다“라고 말했다. 그러면서 “AI는 지금 무슨 일이 일어날지, 어떻게 해야 할지에 대해 잘 모르는 상황을 다루고 있다. 모든 것이 괜찮아질 것이라는 일종의 간단한 비법이 있었으면 좋겠다”고 토로했다.
이어 “(AI가) 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”며 “(AI)는 인간의 체력을 뛰어넘는 수준을 넘어 지적 능력까지 넘어서게 될 것“이라고 경고했다.
힌턴 교수는 지난해 7월 세계일보와의 서면 인터뷰에서 “‘AI의 겨울’은 오지 않을 것”이라며 AI의 발전이 폭발적일 것으로 전망한 바 있다. AI의 겨울은 AI 연구에 대한 자금·관심 등이 감소하는 일종의 ‘불황기’를 말한다.
사람들의 관심이 시들해질 수밖에 없던 ‘겨울’과 달리 지금의 AI 발전 상황은 오히려 사람들의 예측과 기대를 뛰어넘을 만한 수준이라는 것이다.
두 물리학자는 모두 기업이 AI 통제 연구에 더 많은 연구자원을 쏟아부어야 한다고 입을 모았다. 홉필드 교수는 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 말했다.
힌턴 교수 또한 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 밝혔다.
이민경·이지안 기자
Copyright © 세계일보. 무단전재 및 재배포 금지.
- “그만하십시오, 딸과 3살 차이밖에 안납니다”…공군서 또 성폭력 의혹
- “효림아, 집 줄테니까 힘들면 이혼해”…김수미 며느리 사랑 ‘먹먹’
- “북한과 전쟁 나면 참전하겠습니까?”…국민 대답은? [수민이가 궁금해요]
- 박지윤 최동석 향한 이혼변호사의 일침…"정신 차리세요"
- “이 나이에 부끄럽지만” 중년 배우, 언론에 편지…내용 보니 ‘뭉클’
- “송지은이 간병인이냐”…박위 동생 “형수가 ○○해줬다” 축사에 갑론을박
- “식대 8만원이래서 축의금 10만원 냈는데 뭐가 잘못됐나요?” [일상톡톡 플러스]
- “홍기야, 제발 가만 있어”…성매매 의혹 최민환 옹호에 팬들 ‘원성’
- 사랑 나눈 후 바로 이불 빨래…여친 결벽증 때문에 고민이라는 남성의 사연
- "오피스 남편이 어때서"…男동료와 술·영화 즐긴 아내 '당당'