왜 AI의 윤리를 이야기할까?
CHEIL WORLDWIDE 기사입력 2023.05.23 12:00 조회 1016
 이상욱_한양대 과학기술철학 교수


최근 챗GPT 덕분에 많은 사람이 인공지능을 본격적으로 체험하고 있다. 낯선 유럽 도시 몇 개를 지정해 일주일 여행 계획을 부탁하면 순식간에 날짜별로 깔끔하게 정리된 일정표를 제시하는 챗GPT의 편리함에 감탄하다가도, 23+18이 41이 아니라 40이라고 우기면 금방 자기가 잘못했다고 사과하는 과잉 겸손함(?)에 당혹감을 느끼기도 한다. 학자들이라면 자신이 쓰지도 않은 논문을 대표업적이라고 자신 있게 소개하는 챗GPT의 뻔뻔함에 기가 막혀 하기도 한다. 이처럼 인공지능은 이미 우리 삶 속에 깊숙이 침투해 있다. 우리는 인공지능이 유용하기도 하지만, 문제를 일으킬 수 있다는 사실에도 점점 익숙해지고 있다.




국제적으로 주목받는 AI 윤리
그래서인지 최근 AI 윤리에 대한 사회적 관심이 국제적으로 높아지고 있다. OECD와 EU, 미국 백악관까지 잇달아 AI 윤리 원칙을 내놓고 있고, 우리 정부도 추상적인 윤리 원칙만이 아니라 AI 서비스를 제공하는 기업이 구체적으로 활용할 수 있는 자율점검표를 발표했다. 유엔기구 중 과학, 문화, 교육을 담당하는 유네스코는 현재까지 발표된 AI 윤리 관련 문건 중 가장 포괄적인 내용을 담은 <AI 윤리 권고>를 2021년 회원국 만장일치로 채택하기도 했다.

이런 일련의 상황이 대부분의 사람에게는 조금 의아할 수도 있다. 신기술은 부작용이 있기 마련인데, 모든 신기술에 대해 이렇게까지 윤리를 강조한 적은 별로 없었기 때문이다. 물론 우리 모두 2020년 <이루다 사태>를 겪으며 인공지능이 편견을 가질 수 있고, 혐오 표현을 남발할 수도 있다는 점을 알게 되었다. 하지만 부작용은 기술이 발전하며 그때그때 해결하면 될 일이지, 거창한 느낌이 드는 ‘윤리’라는 단어까지 사용할 일은 아닌 것 같다는 생각이 들 수 있다.


톺아보는 윤리의 의미

이 지점에서 우리말 ‘윤리’와 영어 ‘ethics’의 차이에 주목할 필요가 있다. 표준국어대사전에 따르면 윤리는 ‘사람으로서 마땅히 행하거나 지켜야 할 도리’로 정의된다. 여기서 중요한 부분은 ‘마땅히’라는 수식어다. 우리말의 윤리는 그 의미상 누구나 논란의 여지 없이 수긍할 수 있는, ‘마땅한 도리’에 한정된다. 살인은 나쁘다거나 거짓말을 해서는 안 된다는 판단처럼 누구나 고개를 끄덕일 수밖에 없는 내용만 윤리에 해당한다.




그에 비해 영어 ‘ethics’의 어원은 고대 그리스어에서 사회적 인격(character)을 뜻하는 단어 ethos와 라틴어의 관습(customs)을 뜻하는 단어 mores에 있다. 그렇기에 ethics는 사람과 사람이 사회적으로 상호작용하는 모든 상황에서 바람직한 행동이나 가치 판단과 관련된다. 간단히 말하자면 ethics는 우리말에서 ‘사회적(social)’이라고 부를 수 있는 모든 상황과 관련된다. 단, 차이점은 ethics는 규범적 판단, 즉 바람직한 것과 그렇지 않은 것에 대한 평가를 필수적으로 요구한다는 것이다. 이 규범적 평가는 사람이라면 누구나 동의해야 하는 명명백백한 내용에만 한정되지 않는다. ethics가 ‘관습’과 관련된다는 점에서 알 수 있듯이 ethics는 개인 혹은 집단에 따라 각기 다른 도덕적 판단을 할 수 있는 여지를 허용한다.

여기에는 역사적 이유가 있다. 고대 그리스 도시국가 중에서도 자유주의적이었던 아테네와 전체주의적이던 스파르타는 각각의 도시 내에서 바람직하게 여겨지는 ethos와 mores가 달랐다. 그리스 도시국가들은 페르시아가 침입한 총체적 위기 상황에서 이런 차이를 관용하거나 필요에 따라 조정하면서 협력할 필요가 있었다. 이처럼 ethics는 막연한 공자님 말씀이 아니라 사람 사이의 관계, 사회적, 제도적 행동에 있어 다양한 규범적 판단 사이의 차이를 이해하고 이를 공정하게 조정하면서 보다 바람직한 사회를 만들어 가는 실천의 기반이다.


윤리적 판단이 필요한 지금

개념은 정의하기 나름이므로 우리말의 윤리와 영어의 ethics 중 어떤 개념이 맞는지 따지는 것은 의미가 없다. 중요한 점은 현재 국제적으로 AI 윤리가 논의될 때 윤리의 의미는 ethics라는 사실이다. 생성형 AI가 산출한 이미지에 저작권이 부여될 수 있는지에 대한 논쟁은 ‘윤리적(ethical)’ 주제가 되는 것이다. 현재는 인간에게만 부여되는 저작권이 인공지능 프로그램을 사서 프롬프트를 잘 집어넣은 사람에게도 확장되는 것이 ‘바람직한지’, 특히 똑똑한 기계를 활용한 인간의 창작물을 우리 사회가 어떻게 평가하는 것이 ‘바람직한지’에 대해서는 여러 의견이 있을 수 있고, 이는 ‘윤리적’ 판단이다.




이제 현시점에서 인공지능 윤리(ethics)가 왜 필요한지 쉽게 이해할 수 있다. 인공지능은 아직 미완의 ‘열려 있는’ 기술이다. 이는 현존하는 인공지능의 놀라운 기능을 평가절하하는 말이 아니다. 인공지능 기술의 미래는 우리가 어떤 인공지능을 어떤 방식으로 만들지에 의해 결정될 것이라는 뜻이다. 당연히 인공지능이 인류에게 가져다줄 잠재적 혜택을 온전히 실현할 수 있는 방식이어야겠지만, 동시에 우리가 현재 소중하게 여기는 기본권을 비롯한 사회적 가치를 존중하는 방식이어야 할 것이다.

올바른 방식을 찾기가 쉽지는 않을 것이다. 인공지능 챗봇이 혐오 발언을 하는 것은 당연히 막아야 하지만, 그렇다고 해서 초등생에게 예의범절 가르치듯 대화하는 챗봇과 내밀한 생각까지 공유할 수 있는 ‘진정한 친구’가 되긴 어려울 것이다. 광고에 허위 정보와 딥페이크로 만든 가짜 영상을 활용하는 것은 막아야겠지만, ‘진실’만을 정확하게 전달하도록 강제한다면 감성과 창의성이 톡톡 튀는, 그 자체로 예술작품인 광고의 매력은 사라질 것이다. 그렇기에 우리는 인공지능에 대해 ‘윤리적’ 고민을 시작해야 한다. 다양한 가치를 동시에 존중하는 우리 사회의 특성상 ‘좋은’ 가치들 사이에 적절한 조정이 필요한 지점이 있고, 이에 대해 윤리적으로 현명한 판단을 해야만 그 내용을 공학적으로 구현할 수 있을 것이다. 결론은? AI 윤리는 나도 이런 것쯤은 안다고 젠체할 수 있는 유행이 아니라 적극적으로 실천되어야 할 지향이다. 당신이 살고 싶은 미래를 만들기 위해서.



이상욱

어린 시절 다큐멘터리 <코스모스>에서 그려지는 물리학이 너무나 멋있어 보여 서울대학교 물리학과에 입학했다. 물리학 공부는 예상보다 더 재미있었지만 유난히 호기심이 많던 학부 시절 생물학, 철학, 사회학, 경제학, 심리학 등 다른 학문도 각기 다른 방식으로 무척 흥미롭다는 점을 깨닫게 되었다. 응집물질(condensed matter) 물리학으로 석사를 받은 후 현대 과학기술의 다양한 인문학적 쟁점에 대해 가르치고 연구하는 과학기술철학자가 되었다. 현재 유네스코 과학기술윤리위원회(COMEST) 부의장으로 활동 중이며, 최근에는 인공지능의 윤리적 주제에 연구를 집중하고 있다.
#AI가이드 ·  #AI윤리 ·  #AI윤리가이드 ·  #AI윤리기준 ·  #AI윤리문제 ·  #AI윤리원칙 ·  #AI윤리적문제 ·  #생성형AI ·  #유네스코AI윤리권고 ·  #인공지능윤리 ·  #제일기획 ·  #챗GPT윤리 ·  #트렌드 · 
이 기사에 대한 의견 ( 총 0개 )
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
[Media Insight 1] TV 장르 헤게모니는 이동 중
필자의 어린 시절인 지금으로부터 30여 년 전, 당시 국민들 대다수의 문화적 행복권 추구에 절대적인 조건 중 하나는 단연 ‘지상파TV 본방 사수’였다. 정해진 시간에 많은 사람들이 보는 그 프로그램을 나도 시청했느냐의 여부는 더불어 사는 사회에서 타인과의 원활한 소통을 위한 필수 조건이었고, 여유로운 삶을 즐길 줄 아는 문화 시민의 대열에 낄 수 있느냐 마느냐를 결정짓는 중요한 요소였다. 필자와 함께 어린 시절을 보낸 20
[캠페인 하이라이트] MCC 고베식당을 이야기하다
크리에이티브 컨설팅, 실행을 담보로 할 수 있을 것인가? ‘MCC 고베식당’ 프로젝트는 둘로 나뉘어진다. 바로 컨설팅과 실행이다. 그 둘이 함께 붙어 있기에 힘을 발휘한 프로젝트였고, 또한 둘로 나뉘어 있기에 어려운 프로젝트기도 했다. 2010년 4월 27일 매일유업에서 날아든 굵직한 숙제 하나. “우유하던 우리가 카레를 하려고 하는데, 어떻게 하면 잘 할지… 총체적으로 해봐!” 그렇게 시작된 숙제는 제일기획으로서는 새로운 ‘제품 컨설팅’ 의 영역이었다. 지금 이 시점, ‘ 크리에이티브 컨설팅’이라 명명된 우리만의 USP(Unique Selling Point)가 되어가고 있지만 초기만해도 가뜩이나 압도적 독점브랜드가 있는 시장 상황 속에 제품개발도 완결되지 않은, 유통도 가격도 결정되지 않은 실로 막막한 프로젝트였다.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
[월간 2024밈] 6월 편 - 선배 탕후루 사주실 수수수수퍼노바
  이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다?‍♀? 수 수 수 수퍼노바? 구라같은데 탕탕후루후루 마라탕후루? 권력있는 점심   이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다    그룹 라이즈의 일본팬이 X에 작성한 트윗이 화제예요. 'この映像は無料で見れてコンビニのビニ?ル袋は有料なの意味が分からない' 번역하자면 '이 영상은 무
[캠페인 하이라이트] MCC 고베식당을 이야기하다
크리에이티브 컨설팅, 실행을 담보로 할 수 있을 것인가? ‘MCC 고베식당’ 프로젝트는 둘로 나뉘어진다. 바로 컨설팅과 실행이다. 그 둘이 함께 붙어 있기에 힘을 발휘한 프로젝트였고, 또한 둘로 나뉘어 있기에 어려운 프로젝트기도 했다. 2010년 4월 27일 매일유업에서 날아든 굵직한 숙제 하나. “우유하던 우리가 카레를 하려고 하는데, 어떻게 하면 잘 할지… 총체적으로 해봐!” 그렇게 시작된 숙제는 제일기획으로서는 새로운 ‘제품 컨설팅’ 의 영역이었다. 지금 이 시점, ‘ 크리에이티브 컨설팅’이라 명명된 우리만의 USP(Unique Selling Point)가 되어가고 있지만 초기만해도 가뜩이나 압도적 독점브랜드가 있는 시장 상황 속에 제품개발도 완결되지 않은, 유통도 가격도 결정되지 않은 실로 막막한 프로젝트였다.
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
리테일 매장, 테크와 만나다
 최원석 프로젝트 렌트 대표 매장(store)이란 말 그대로 ‘물건의 판매’와 ‘재화의 교환’을 위한 장소다. 통화(돈)가 탄생하고, 시장(market)이 생기며 매장이란 자본주의 사회의 기본이 되었다. 하지만 이런 상식이 조금씩 변해가고 있다. 온라인 커머스의 성장과 팬데믹 사태를 겪으며 물건을 사고 판다는 전통적인 오프라인 매장의 가치가 변화를 겪고 있는 것이다. 눈에 띄는 변화
58만명의 초능력자가 함께 하는 초록빛 미래
‘초능력자’라는 단어를 들으면 여러 영상 속 캐릭터들이 떠오를 것이다. 엑스맨 시리즈의 슈퍼 히어로들, 지난해 한국을 들썩이게 한 드라마 무빙 속 초능력자들. 그런데 이런 판타지 히어로만큼 유명하진 않지만, 우리나라에도 58만명의 초능력자가 숨어 있다는 사실 알고 있는지. 초자연적인 능력은 없지만 그보다 더 놀라운 일을 해내는 이들, 바로 초록우산을 후원하는 초능력자들의 이야기다.
[캠페인 하이라이트] MCC 고베식당을 이야기하다
크리에이티브 컨설팅, 실행을 담보로 할 수 있을 것인가? ‘MCC 고베식당’ 프로젝트는 둘로 나뉘어진다. 바로 컨설팅과 실행이다. 그 둘이 함께 붙어 있기에 힘을 발휘한 프로젝트였고, 또한 둘로 나뉘어 있기에 어려운 프로젝트기도 했다. 2010년 4월 27일 매일유업에서 날아든 굵직한 숙제 하나. “우유하던 우리가 카레를 하려고 하는데, 어떻게 하면 잘 할지… 총체적으로 해봐!” 그렇게 시작된 숙제는 제일기획으로서는 새로운 ‘제품 컨설팅’ 의 영역이었다. 지금 이 시점, ‘ 크리에이티브 컨설팅’이라 명명된 우리만의 USP(Unique Selling Point)가 되어가고 있지만 초기만해도 가뜩이나 압도적 독점브랜드가 있는 시장 상황 속에 제품개발도 완결되지 않은, 유통도 가격도 결정되지 않은 실로 막막한 프로젝트였다.
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
리테일 매장, 테크와 만나다
 최원석 프로젝트 렌트 대표 매장(store)이란 말 그대로 ‘물건의 판매’와 ‘재화의 교환’을 위한 장소다. 통화(돈)가 탄생하고, 시장(market)이 생기며 매장이란 자본주의 사회의 기본이 되었다. 하지만 이런 상식이 조금씩 변해가고 있다. 온라인 커머스의 성장과 팬데믹 사태를 겪으며 물건을 사고 판다는 전통적인 오프라인 매장의 가치가 변화를 겪고 있는 것이다. 눈에 띄는 변화
58만명의 초능력자가 함께 하는 초록빛 미래
‘초능력자’라는 단어를 들으면 여러 영상 속 캐릭터들이 떠오를 것이다. 엑스맨 시리즈의 슈퍼 히어로들, 지난해 한국을 들썩이게 한 드라마 무빙 속 초능력자들. 그런데 이런 판타지 히어로만큼 유명하진 않지만, 우리나라에도 58만명의 초능력자가 숨어 있다는 사실 알고 있는지. 초자연적인 능력은 없지만 그보다 더 놀라운 일을 해내는 이들, 바로 초록우산을 후원하는 초능력자들의 이야기다.
[캠페인 하이라이트] MCC 고베식당을 이야기하다
크리에이티브 컨설팅, 실행을 담보로 할 수 있을 것인가? ‘MCC 고베식당’ 프로젝트는 둘로 나뉘어진다. 바로 컨설팅과 실행이다. 그 둘이 함께 붙어 있기에 힘을 발휘한 프로젝트였고, 또한 둘로 나뉘어 있기에 어려운 프로젝트기도 했다. 2010년 4월 27일 매일유업에서 날아든 굵직한 숙제 하나. “우유하던 우리가 카레를 하려고 하는데, 어떻게 하면 잘 할지… 총체적으로 해봐!” 그렇게 시작된 숙제는 제일기획으로서는 새로운 ‘제품 컨설팅’ 의 영역이었다. 지금 이 시점, ‘ 크리에이티브 컨설팅’이라 명명된 우리만의 USP(Unique Selling Point)가 되어가고 있지만 초기만해도 가뜩이나 압도적 독점브랜드가 있는 시장 상황 속에 제품개발도 완결되지 않은, 유통도 가격도 결정되지 않은 실로 막막한 프로젝트였다.
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
리테일 매장, 테크와 만나다
 최원석 프로젝트 렌트 대표 매장(store)이란 말 그대로 ‘물건의 판매’와 ‘재화의 교환’을 위한 장소다. 통화(돈)가 탄생하고, 시장(market)이 생기며 매장이란 자본주의 사회의 기본이 되었다. 하지만 이런 상식이 조금씩 변해가고 있다. 온라인 커머스의 성장과 팬데믹 사태를 겪으며 물건을 사고 판다는 전통적인 오프라인 매장의 가치가 변화를 겪고 있는 것이다. 눈에 띄는 변화
58만명의 초능력자가 함께 하는 초록빛 미래
‘초능력자’라는 단어를 들으면 여러 영상 속 캐릭터들이 떠오를 것이다. 엑스맨 시리즈의 슈퍼 히어로들, 지난해 한국을 들썩이게 한 드라마 무빙 속 초능력자들. 그런데 이런 판타지 히어로만큼 유명하진 않지만, 우리나라에도 58만명의 초능력자가 숨어 있다는 사실 알고 있는지. 초자연적인 능력은 없지만 그보다 더 놀라운 일을 해내는 이들, 바로 초록우산을 후원하는 초능력자들의 이야기다.