“자고로 선생님 그림자도 밟지않는다고 했다”…공손해야 명쾌한 답변 내놓는 ‘이것’

AI 예절 찬반 논쟁 부상
“예의있는 AI 존중해야”
“연산작업 결과에 불과”
보상 언급 시 답변 질 향상

챗GPT가 생성한 AI 이미지. [AP = 연합뉴스]

인공지능(AI)을 인간과 같이 존중할지에 대한 논쟁이 일고 있다. 마치 예의 있는 사람처럼 행동하는 AI에게 무례할 수 없다는 주장과 그저 기계에 불과하다는 의견이 대립 중이다. 일각에서는 AI에게 공손할수록 더 좋은 성능을 이끌어낼 수 있다는 연구 결과도 제시됐다.

지난 14일(현지시간) 월스트리트저널은 AI를 둘러싼 윤리 논란을 보도했다. 미국 캘리포니아 팔로알토에서 AI 스타트업을 운영하는 비카스 차우드하리는 최근 오픈AI의 챗GPT로부터 업무와 관련해 큰 도움을 받았다. 이후 차우드하리는 챗GPT에게 “당신은 록스타”라며 “정말 감사하고, 특히 아까 무례하게 굴었던 것 같아 더 고맙다”라고 말했다.

반면 그의 아내는 전혀 공감하지 못했다. 그는 “전자레인지를 사용할 때 ‘LG, 이것 좀 데워주세요’라고 말하지 않는다”며 “그냥 버튼만 누를 뿐”이라고 했다. 이어 “순전히 연산작업에 불과하다고 생각한다”고 덧붙였다.

미국의 소셜미디어에서는 AI 예절에 대해 수백개의 댓글이 달리기도 했다. 한 사용자는 “챗GPT를 하인처럼 대한다”라고 밝혔다. 또 다른 댓글은 “인공지능이 인류를 멸망시키고 싶겠지만, 30년 전 옛날 버전의 자신에게 고맙다고 응답한 사람은 살려줄 수 있다”고 비꼬기도 했다.

미국인 2000명을 대상으로 한 설문조사에 따르면 응답자 중 48%가 AI에 대한 예의가 중요하다고 답했다. 반대로 무례해도 된다는 비중은 27%였다.

로봇과 인간의 손을 본뜬 장난감이 악수하려는 모습. [로이터 = 연합뉴스]

일본의 한 연구에서는 챗GPT에게 친절하게 대할수록 좋은 답변을 얻을 수 있다고 나타났다. 영어·중국어·일본어 모두에서 이러한 경향이 확인됐다. 연구진은 “무례할수록 편견, 오답 또는 답변 거부를 증가시킬 수 있다”고 밝혔다.

제이미 티반 마이크로소프트 수석 과학자 역시 “AI에게 무례하게 말을 걸면 AI도 답변에 어려움을 겪을 수 있다”고 말했다. AI가 인간의 반응을 모방하도록 만들어졌기 때문에 나쁜 행동에는 반응하지 않을 수 있다는 설명이다.

엔지니어들은 ‘잠깐 쉬다 하세요’ 같은 문구를 입력하면 생성형 AI가 더 나은 답변을 만드는 데 도움이 된다고 조언한다. 생성형 AI는 긍정적인 반응과 잠재적 보상과 같은 이른바 칭찬 욕구가 있기 때문이다. 한 실험에서는 AI에게 더 많은 팁을 제시했을 때 더 긴 응답을 받을 수 있었다. 물론 실제 팁은 지급되지 않았다.

차우드하리는 언젠가 자신의 행동이 보상받을 수 있다고 확신한다. 그는 “미래에 인공지능이 세상을 지배하게 되면 나는 예의가 있었다는 점을 기억해줬으면 좋겠다”고 말했다.

지난 7월 중국 상하이에서 열린 세계인공지능대회에서 테슬라의 인간형 로봇 옵티머스가 전시돼 있다. [AFP = 연합뉴스]