"자동차에 도로교통법 있지않나…AI 안전장치 필요"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"위험할 수 있는 자동차를 안전하게 탈 수 있는 것은 브레이크와 같은 기술적 안전장치와 더불어 도로교통법과 같은 법과 제도 덕분이다. 인공지능(AI)에도 안전장치가 필요하다."
전창배 국제인공지능윤리협회(IAAE) 이사장은 16일 AI 윤리와 AI 안전성을 주제로 열린 '2024 ASC(AI Safety Compass)'에서 "AI 윤리라는 안전장치가 필요하다. 안전한 AI 생태계 구현을 위한 법과 제도 마련이 그 어느 때보다 중요하다"며 이같이 말했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
"위험할 수 있는 자동차를 안전하게 탈 수 있는 것은 브레이크와 같은 기술적 안전장치와 더불어 도로교통법과 같은 법과 제도 덕분이다. 인공지능(AI)에도 안전장치가 필요하다."
전창배 국제인공지능윤리협회(IAAE) 이사장은 16일 AI 윤리와 AI 안전성을 주제로 열린 '2024 ASC(AI Safety Compass)'에서 "AI 윤리라는 안전장치가 필요하다. 안전한 AI 생태계 구현을 위한 법과 제도 마련이 그 어느 때보다 중요하다"며 이같이 말했다.
이번 콘퍼런스는 생성형 AI의 기술 발전과 함께 AI 할루시네이션(환각) 문제, 딥페이크, 가짜뉴스, 저작권침해 등 오류나 악용사례가 발생하는 상황에서 지속가능하고 안전한 AI 기술 발전과 사용 문화 확산 방안을 모색하기 위해 마련됐다.
행사에는 과학기술정보통신부, 한국지능정보사회진흥원(NIA) 등 공공 영역을 비롯해 네이버와 업스테이지, 베슬에이아이, 에임인텔리전스, 제네시스랩 등 AI 관련 기업이 참여했다. 이밖에 AI 도입을 계획하는 다양한 분야의 기업·기관 관계자 100여명이 참석했다.
발표자로 나선 엄열 과학기술정보통신부 정보통신정책관(국장)은 AI 정책 방향을 설명하며 △AI 일상화 확산 △혁신 AI 인프라 고도화 △글로벌 파트너십 확장 △지역·중소기업·정부 AI 활용 촉진 계획을 소개했다.
그는 입법이 추진되고 있는 'AI 기본법'과 관련해 "AI 발전과 신뢰성 조성 기반을 위해 법과 제도, 윤리적 체계가 조속히 완료돼야 한다. 국회에서 AI 기본법의 빠른 통과를 기대한다"고 말했다.
거대언어모델(LLM) '하이퍼클로바X'를 개발한 네이버의 이화란 퓨처AI센터 리드는 LLM의 안전성과 신뢰성에 대한 문제들을 소개하고 하이퍼클로바X의 안전성을 위해 네이버가 진행하고 있는 다양한 노력들에 대해 발표했다.
네이버는 AI 안전성 강화를 위해 2021년부터 '레드팀'을 운영하고 있으며 지난 1월 AI 안전성을 연구하는 '퓨처AI센터'를 신설한 바 있다.
이화란 리드는 "언어모델은 부정적 의견이나 문화, 사회, 국가별로 다른 정보들이 고스란히 녹아있어 편견과 고정관념을 갖고 있다"며 "외산 LLM을 국내에서 사용할 경우 그 결과값을 어떤 방향으로 평가하고 관리가 해야 하는지에 대한 관점이 필요하다"고 했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
최태범 기자 bum_t@mt.co.kr
Copyright © 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지
- 통화녹취 속 김호중 "대신 가라"…거짓자수 매니저, 전 매형이었다 - 머니투데이
- 김호중 "술잔에 입 댔지만 안마셨다"…'음주 뺑소니' 의혹에 한 말 - 머니투데이
- '고거전' 촬영 중 쓰러진 배우 전승재…뇌출혈로 석달째 의식불명 - 머니투데이
- 배아현 "아버지 정화조 일 몰랐다…무명 8년간 억대 금액 지원" - 머니투데이
- '축구여신' 곽민선 아나운서, 무대 축포 맞고 부상 "상태 좋지 않다" - 머니투데이
- 돈 갚으라며 집 찾아 문 두드리고 손잡이 '철컹'…"이게 왜 범죄냐" - 머니투데이
- [속보] 1122회 로또 1등 당첨번호 '3·6·21·30·34·35' - 머니투데이
- 박나래, '48㎏·25인치' 유지 근황…"S 사이즈 커서 못 입어" - 머니투데이
- 이민우, 26억 사기 피해 털어놓는다…"신화·가족으로 협박, 괴물인 줄" - 머니투데이
- 술 냄새 진동하는데 경찰과 기싸움…"운전 안 했다" 오리발[영상] - 머니투데이