“AI, 모든 정보와 결합해 자율성 제한 우려” [뉴스 투데이]
홉필드 교수 “AI 대한 이해 필수”
소설 ‘1984’ ‘고양이 요람’에 비유
통제사회·잠재적 위협 야기 경고
힌턴 교수 “생존 위협 초래 측면서
우리는 역사적 분기점 놓여 있어”
‘기업 AI 통제 연구 강화’ 한목소리
“인공지능(AI)이 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다.”(제프리 힌턴 캐나다 토론토대 명예교수)
AP통신 등에 따르면 홉필드 교수는 8일(현지시간) 수상 소감 온라인 회견에서 “물리학자로서 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”고 말했다. 그는 “신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌턴 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”고 언급했다.
홉필드 교수의 우려는 AI 기술이 세상의 모든 정보와 결합해 개인의 자율성을 제한할 수 있다는 것이다. 그는 “내가 걱정하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상”이라며 “그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상”이라고 설명했다.
그는 AI를 재난 위험성을 키운 기후변화에 비유하며 AI 기술이 가져올 수 있는 변화는 기후변화와 다르다고 역설했다. 힌턴 교수는 “기후변화는 모든 사람이 무엇을 해야 하는지 알고 있다”며 “단지 정치적 의지의 문제일 뿐이다“라고 말했다. 그러면서 “AI는 지금 무슨 일이 일어날지, 어떻게 해야 할지에 대해 잘 모르는 상황을 다루고 있다. 모든 것이 괜찮아질 것이라는 일종의 간단한 비법이 있었으면 좋겠다”고 토로했다.
이어 “(AI가) 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”며 “(AI)는 인간의 체력을 뛰어넘는 수준을 넘어 지적 능력까지 넘어서게 될 것“이라고 경고했다.
힌턴 교수는 지난해 7월 세계일보와의 서면 인터뷰에서 “‘AI의 겨울’은 오지 않을 것”이라며 AI의 발전이 폭발적일 것으로 전망한 바 있다. AI의 겨울은 AI 연구에 대한 자금·관심 등이 감소하는 일종의 ‘불황기’를 말한다.
사람들의 관심이 시들해질 수밖에 없던 ‘겨울’과 달리 지금의 AI 발전 상황은 오히려 사람들의 예측과 기대를 뛰어넘을 만한 수준이라는 것이다.
두 물리학자는 모두 기업이 AI 통제 연구에 더 많은 연구자원을 쏟아부어야 한다고 입을 모았다. 홉필드 교수는 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 말했다.
힌턴 교수 또한 “연구자들이 AI 안전을 위해 연구해야 하며, 정부는 대기업이 연구를 위해 필요로 하는 컴퓨팅 시설을 제공하도록 강제해야 한다”고 밝혔다.
이민경·이지안 기자
Copyright © 세계일보. 무단전재 및 재배포 금지.
- 한덕수 탄핵 때 ‘씨익’ 웃은 이재명…“소름 끼쳐, 해명하라” 與 반발
- "경찰차 막아라!" “대통령 지켜라”… 영장 발부 후 아수라장 된 尹 관저 앞 [밀착취재]
- 선우은숙 “녹취 듣고 혼절”…‘처형 추행’ 유영재 징역 5년 구형
- “아내가 술 먹인 뒤 야한 짓…부부관계 힘들다” 알코올중독 남편 폭로
- 이세영, 얼굴·가슴 성형수술로 달라진 분위기 “회사에서 예쁘다고...”
- “남친이 술 취해 자는 내 가슴 찍어…원래는 좋은 사람“ 용서해줘도 될까
- 황정음, 이혼 고통에 수면제 복용 "연예계 생활 20년만 처음, 미치겠더라"
- 은지원, 뼈만 남은 고지용 근황에 충격 "병 걸린 거냐…말라서 걱정"
- 사랑 나눈 후 바로 이불 빨래…여친 결벽증 때문에 고민이라는 남성의 사연
- "오피스 남편이 어때서"…男동료와 술·영화 즐긴 아내 '당당'