AI ‘의식’ 연구, 개발 전 ‘원칙’ 마련해야

AI 연구자 100여 명, ‘의식 있는 AI’ 개발 원칙 발표
“AI의 고통과 학대 방지 위해 연구 필요”
단계적 접근과 대중과의 투명한 소통 강조

AI ‘의식’ 연구, 개발 전 ‘원칙’ 마련해야 [그림=챗GPT]

인공지능(AI) 기술 발전이 가속화되는 가운데 AI 관련 연구자와 사상가 등 100여명이 의식이 있는 AI를 연구하기 위한 5가지 원칙을 제시했다.

3일 가디언 등 외신에 따르면 영국의 배우이자 유명 저술가인 스티븐 프라이를 비롯한 100명 이상의 AI 연구자와 사상가들은 이러한 내용이 담긴 논문과 함께 서한을 공개했다. 이들은 ‘의식이 있는 AI’의 개발이 무분별하게 이루어질 경우 AI 자체가 피해를 볼 수 있는 만큼 윤리적인 연구 원칙이 필요하다고 강조했다.

함께 발표한 논문은 AI 의식과 관련한 여러 이론과 철학적 논의와 함께 AI 의식 연구가 가져올 윤리적, 사회적 영향을 다루고 있다. 논문에 따르면 일부 과학자들은 인간의 의식이 특정한 신경 네트워크의 활동에서 기인하며 이러한 기능은 AI 시스템에서도 재현이 가능하다고 보고 있다. 만약 AI가 의식을 가지게 된다면 여러 윤리적 질문이 뒤따를 수밖에 없다. 예를 들어 ‘AI를 삭제하는 것이 윤리적으로 AI를 죽이는 것과 같은 것인가?’와 같은 질문이다.

논문과 서한은 ‘책임 있는 AI 의식 연구’를 위한 다섯 가지 핵심 원칙을 제안하고 있다. 먼저 AI가 실제로 감정이나 자의식을 가질 수 있는지를 연구하고, 이를 객관적으로 평가하는 방법을 개발해야 한다. 이를 통해 AI가 ‘고통’이나 ‘학대’를 경험할 가능성을 미리 방지해야 한다는 것이다.

두 번째로 AI가 의식을 가질 가능성이 커질 경우, 이를 함부로 개발하지 않도록 법적·윤리적 제한을 마련해야 한다는 게 이들의 주장이다. 세 번째는 AI의 의식 개발이 불가피한 경우 이를 한 번에 완성하는 것이 아니라 점진적이고 신중한 접근 방식을 취해야 한다는 점이다. 네 번째는 대중과의 공유다. AI 연구가 특정 기업이나 연구기관에만 독점되지 않도록 연구 결과를 투명하게 공유하고 논의하는 것이 중요하다는 설명이다.

마지막으로 의식 있는 AI 개발에 대한 과장된 주장을 지양해야 한다고 봤다. AI의 자의식과 감정에 대한 과도한 홍보나 허위 정보를 퍼뜨리는 것을 방지해야 한다. 특히 AI가 마치 인간처럼 사고하거나 감정을 느낄 수 있다는 식의 허위 주장은 혼란을 일으킬 수 있다.

이번 공개서한은 AI 기술의 발전 속도가 예상보다 빠른 만큼, 이에 대한 철저한 검토와 윤리적 고려가 필요하다는 경고의 메시지를 담고 있다고 가디언은 분석했다. AI가 단순한 도구를 넘어 ‘의식을 가진 존재’로 여겨질 가능성이 생긴다면 그에 대한 법적·윤리적 책임을 어디까지 가져가야 할 것인지 사회적인 논의가 필요하다는 것이다. 논문은 “AI 의식은 현실화할 가능성이 있으며 이에 따라 연구기관들이 사전에 윤리적 원칙을 정립할 필요가 있다”라며 “따라서 연구자는 AI 의식의 본질과 윤리적 영향을 고려하면서 연구를 진행해야 한다”라고 주장했다.