인간의 창조물, 인공지능과의 동행을 위한 철학적 성찰. 9인의 연구자들이 포스트 휴먼의 관점에서 인공지능과의 공존의 윤리학을 새롭게 규명한다. ‘포스트휴먼 시대의 인공지능 철학’ 시리즈 제1권 『인공지능의 존재론』(2018)의 연구성과를 바탕으로 하는 후속 연구작 『인공지능의 윤리학』이 출간되었다.
이번 권에서는 왜 인공지능의 윤리학을 논했는가? 전통적으로 윤리학이라 하면 인간의 윤리학, 엄밀히 말해 도덕적 사고와 행위의 유일한 주체인 인간의 윤리학이었다. 인간 외의 타자들은 도덕적 주체로서가 아니라 도덕적 대상으로만 간주되었다. 인간만이 도덕성과 자율성 그리고 자유의지를 지니고 있고 따라서 인간만이 행위에 대해 책임질 수 있다고 보았기 때문이다. 하지만 자기 스스로 학습을 통해 자율적으로 사고하고 행동할 줄 아는 인공지능(로봇)의 등장은 새로운 질문들을 쏟아내고 있다.
1부 인공지능의 윤리적 쟁점들
1장 자율주행자동차를 어떻게 규율할 것인가 _고인석
2장 섹스로봇의 윤리 _이영의
3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제 _천현득
2부 윤리적 인공지능 로봇 만들기
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침 _목광수
5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서 _박충식
6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제 _이상욱
3부 인공지능과의 공존의 윤리학
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근 _이중원
8장 인공지능, 또 다른 타자 _신상규
9장 인공지능 시대와 동아시아의 관계론 _정재현
이 책을 추천한 다른 분들 :
경향신문 - 경향신문 2019년 12월 6일자 '새책'
최근작 :<포스트휴먼과 융합> ,<과학과 가치> ,<인공지능 시대의 인간학 (반양장)> … 총 42종 (모두보기) 소개 :서울시립대학교 철학과 교수. 주요 연구 분야는 과학철학과 기술철학이다. 서울대학교에서 물리학 학사·석사학위를 받았고, 동대학원 과학사 및 과학철학 협동 과정에서 과학철학으로 박사학위를 취득했다. 한국과학철학회 회장과 한국철학회 회장을 역임했다.
주요 저서로는 ≪인공지능 시대의 인간학≫(공저), ≪인공지능의 존재론≫(공저), ≪포스트휴먼과 융합≫(공저) 등이 있고, 옮긴 책으로는 ≪시간은 흐르지 않는다≫가 있다. ≪모든 순간의 물리학≫, ≪나 없이는 존재하지 않는 세상≫을 감수했다.
최근작 :<체화된 마음과 뇌> ,<초연결시대 관계의 상전이 연구> ,<인공지능 시대의 인간학 (반양장)> … 총 43종 (모두보기) 소개 :고려대학교 철학과를 졸업하고 뉴욕주립대학교에서 철학박사 학위를 받았다. 강원대학교에서 정년 후 고려대학교 철학과 객원교수로 있다. 한국과학철학회, 한국인문치료학회장을 역임하고 현
재 한국체화인지학회장으로 있다. 확률추리, 신경과학철학, 체화인지, 정신치료를 연구하고 있다. 저서로 《신경과학철학》(2021), 《베이즈주의》(2020), 《체화된 마음과 몸》(2022, 공저), 《설명》(2022, 공저), 《인공지능의 인간학》(2021, 공저), 《초연결의 철학》(2021, 공저), 《현대과학과 철학의 대화》(2021, 공저), 《... 고려대학교 철학과를 졸업하고 뉴욕주립대학교에서 철학박사 학위를 받았다. 강원대학교에서 정년 후 고려대학교 철학과 객원교수로 있다. 한국과학철학회, 한국인문치료학회장을 역임하고 현
재 한국체화인지학회장으로 있다. 확률추리, 신경과학철학, 체화인지, 정신치료를 연구하고 있다. 저서로 《신경과학철학》(2021), 《베이즈주의》(2020), 《체화된 마음과 몸》(2022, 공저), 《설명》(2022, 공저), 《인공지능의 인간학》(2021, 공저), 《초연결의 철학》(2021, 공저), 《현대과학과 철학의 대화》(2021, 공저), 《포스트휴먼이 몰려온다》(2020, 공저) 등이 있다.
최근작 :<과학과 가치> ,<인공지능 시대의 인간학 (반양장)> ,<토머스 쿤, 미완의 혁명> … 총 19종 (모두보기) 소개 :학원 과학사 및 과학철학 협동과정 석사와 박사학위를 받았고, 이화여대 인문과학원 교수, 피츠버그대 과학철학센터 객원 펠로우를 역임했다. 『과학이란 무엇인가』(공저), 『인공지능의 존재론』(공저), 『인공지능의 윤리학』(공저) 등의 저서를 냈고, 최근 토머스 쿤의 후기 철학을 다룬 저서 『토머스 쿤, 미완의 혁명』을 출간했다.
최근작 :<일상의 평화를 일구는 공동체> ,<철학과 현실, 현실과 철학 4 : 현대 문명의 향도> ,<정의와 공정 1> … 총 19종 (모두보기) 소개 :서울시립대학교 철학과 교수. 서울대학교 철학과를 졸업하고, 동 대학원에서 석사학위를, 미시간주립대학교에서 박사학위를 받았다. 한국윤리학회와 한국생명윤리학회의 부회장으로 활동하고 있다. 윤리학과 정치철학 관련 연구를 해오고 있으며, 최근에는 인공지능과 빅데이터의 윤리와 생명의료윤리를 연구하고 있다. 주요 저서로는 『정의론과 대화하기』(2021), 『루치아노 플로리디, 정보 윤리학』(2023), 『인공지능 시대의 인간학』(공저, 2021), 『인공지능의 윤리학』(공저, 2019), 『인공지능의 존재론』(공저, 2018) 등이 있다. 주... 서울시립대학교 철학과 교수. 서울대학교 철학과를 졸업하고, 동 대학원에서 석사학위를, 미시간주립대학교에서 박사학위를 받았다. 한국윤리학회와 한국생명윤리학회의 부회장으로 활동하고 있다. 윤리학과 정치철학 관련 연구를 해오고 있으며, 최근에는 인공지능과 빅데이터의 윤리와 생명의료윤리를 연구하고 있다. 주요 저서로는 『정의론과 대화하기』(2021), 『루치아노 플로리디, 정보 윤리학』(2023), 『인공지능 시대의 인간학』(공저, 2021), 『인공지능의 윤리학』(공저, 2019), 『인공지능의 존재론』(공저, 2018) 등이 있다. 주요 논문으로는 「롤즈 정의론에 대한 토마시의 시장민주주의적 해석 검토」(2023), 「생명의료 영역에서의 넛지 전략과 관계적 자율성」(2022), 「롤즈의 넓은 반성적 평형과 자존감」(2021), 「인공지능 개발자 윤리」(2020), 「도덕의 구조」(2019), 「인공지능 시대에 적합한 인격 개념」(2017), 「역량 중심 접근법에 입각한 의료 정의론 연구」(2014), 「장애(인)와 정의의 철학적 기초」(2012) 등이 있다.
최근작 :<철학과 현실, 현실과 철학 1 : 인간의 자각과 개명> ,<인공지능 시대의 철학자들> ,<인공지능 시대의 인간학 (반양장)> … 총 12종 (모두보기) 소개 :유원대학교(아산캠퍼스) 인공지능소프트웨어학과 석좌교수. 한양대학교 전자공학과를 졸업하고, 연세대학교 전자공학과(인공지능 전공)에서 석사학위와 박사학위를 받았다. 1994년부터 2022년까지 유원대학교(구 영동대학교) 교수로 재직하였고 현재 석좌교수로 있다. 구성주의적 관점의 인공지능을 연구하고 있으며, 인문사회학과 인공지능의 학제적 연구에 관심을 가지고 있다. 『인공지능의 존재론』, 『인공지능의 윤리학』, 『내가 만난 루만』, 『정보철학의 모든 것』(근간), 『인문코딩』(근간), 등을 공저하였고, 「인공지능은 인문학이다」, 「정보기계로서의 생명」, 「From Data to Agents」, 등의 논문이 있다. 그리고 ‘박충식의 인공지능으로 보는 세상’의 제목으로 50여 건의 칼럼을 연재하였다.
최근작 :<인공지능 시대의 철학자들> ,<포스트휴먼으로 살아가기> ,<포스트휴먼과 융합> … 총 29종 (모두보기) 소개 :이화여대 이화인문과학원 교수. 포스트휴먼 융합인문학 협동과정 주임교수. 서강대에서 경영학과 철학을 전공하고 미국 텍사스대학교(오스틴)에서 철학 박사 학위를 받았다. 주요 관심 분야는 심리철학, 인공지능의 철학, 정보철학, 트랜스휴머니즘, 포스트휴머니즘 등이다. 저서로 『호모사피엔스의 미래: 포스트휴먼과 트랜스휴머니즘』 『푸른 요정을 찾아서: 인공지능과 미래 인간의 조건』 『포스트휴먼이 몰려온다』(공저) 『포스트휴먼으로 살아가기』(공저) 등이 있다.
‘포스트휴먼 시대의 인공지능 철학’ 시리즈 제1권 『인공지능의 존재론』(2018)의 연구성과를 바탕으로 하는 후속 연구작 『인공지능의 윤리학』이 출간되었다. 이번 권에서는 왜 인공지능의 윤리학을 논했는가? 전통적으로 윤리학이라 하면 인간의 윤리학, 엄밀히 말해 도덕적 사고와 행위의 유일한 주체인 인간의 윤리학이었다. 인간 외의 타자들은 도덕적 주체로서가 아니라 도덕적 대상으로만 간주되었다. 인간만이 도덕성과 자율성 그리고 자유의지를 지니고 있고 따라서 인간만이 행위에 대해 책임질 수 있다고 보았기 때문이다. 하지만 자기 스스로 학습을 통해 자율적으로 사고하고 행동할 줄 아는 새로운 존재자인 인공지능(로봇)의 등장은 다음과 같은 질문들을 계속해서 던져주고 있다. 인공지능(로봇)은 전통적으로 인간에게만 귀속되었던 윤리적 행위자의 지위를 가질 수 있는가, 행위자가 되기 위한 전통적 요건은 이성, 의식, 지향성, 자유의지 등인데 인공지능은 전통적인 의미의 행위자가 갖는 이러한 요건들을 충족하는가, 아니면 이제 인공지능과 같은 새로운 기술적 존재자를 포괄할 수 있는 새로운 행위자 개념이 필요한가, 인공지능과 공존하는 세상을 상상한다면 전통적인 의미의 행위자/피동자 구분을 넘어서는 새로운 도덕적 존재자에 대한 논의가 필요하지 않을까 등등. 이러한 문제들은 인공지능의 윤리학에 매우 중요한 화두들이다.
이 책은 이러한 문제의식 아래 총 3부로 구성되며, 각 부별로 내용을 간략히 소개하면 다음과 같다.
1부 인공지능의 윤리적 쟁점들에서는 일상의 중요한 몇 가지 구체적인 사례를 통해 인공지능이 제기하는 윤리적 도전이 무엇인지를 확인하고 그에 답하고자 했다. 현재 또는 가까운 미래에 윤리적으로 가장 민감한 문제를 던질 사례로 인공지능을 갖춘 자율주행자동차와 섹스로봇 그리고 자율형 군사(킬러)로봇을 선택했다. 이것들은 몸체를 지닌 로봇이지만 인공지능이 실제로 조정하고 있고, 또한 다양하면서도 일반적인 그렇지만 매우 심각한 윤리적 문제들을 제기하고 있다. 그 윤리적 문제들이 무엇인지 구체적으로 분석하고자 했다.
1장 자율주행자동차를 어떻게 규율할 것인가(고인석)는 자율주행자동차가 현실화되기 위해 선결되어야 할 규범적 문제들을 다루었다. 2장 섹스로봇의 윤리(이영의)는 인간과 섹스로봇 간의 관계를 바탕으로 섹스로봇의 정체성과 함께 섹스로봇 자체의 윤리적 정당성에 관한 문제를 다루었다. 3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제(천현득)는 KAIST의 보이콧 사태로 우리에게 잘 알려진 자율형 군사(킬러)로봇의 윤리적 문제들을 다루었다.
2부 윤리적 인공지능 로봇 만들기에서는 1부에서 제기된 윤리적 문제들에 대응하기 위해 윤리적으로 사고하고 행동하는 윤리적 인공지능 로봇을 만들 방안을 모색했다. 이를 위해 먼저 윤리적인 인공지능 로봇을 만들기 위해 고려해야 할 가치 또는 규범들이 무엇인지를 확인하고, 이렇게 확인되고 검토된 규범들을 갖춘 윤리적인 인공지능 로봇을 만들 방안으로 성찰의 계산 모델을 제시했다. 나아가 이러한 능력의 구현이 인공지능을 진정한 의미의 도덕적 행위자로 만들 수 있는지, 그것이 얼마나 어려운 문제인지에 대해 숙고하고자 했다.
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침(목광수)은 인공지능과 관련된 도덕 논의 중 현재 가장 많은 연구가 진행되고 있는 영역 가운데 하나인 인공적 도덕 행위자(artificial moral agent: AMA) 설계를 위해서 고려해야 할 것들이 무엇인지를 다루었다. 5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서(박충식)는 윤리적 인공지능 로봇을 위한 핵심적인 아이디어로 성찰의 계산적 모델을 다루고 있다. 6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제(이상욱)는 인공지능과 관련된 윤리적 쟁점을 해결하는 실천적 방안이 어떤 방식으로 추구될 때 가장 효과적인지를 탐색했다. ‘쉬운 문제’와 ‘어려운 문제’를 구별하고 두 종류의 문제를 순차적으로 (적어도 개념적으로라도) 다루는 방식이다.
3부 인공지능과의 공존의 윤리학에서는 인공지능의 도덕적 지위에 대한 고찰과 함께 인공지능과의 공존을 상상하기 위한 새로운 윤리학의 가능성을 검토했다. 이를 위해 전통적인 인간 중심의 책임 개념에 바탕을 둔 서구 근대 윤리학의 한계를 지적하고, 인공지능에게 책임은 아니지만 어떤 행위에 대한 설명의 책무를 부여할 수 있는 가능성을 검토했다. 또한 전통적인 의미의 행위자나 피동자 개념을 재검토하여 인공지능을 또 하나의 타자로서 볼 수 있는 가능성을 살펴보았다. 서구와는 다른 지적 전통을 발전시켜온 동양적 사유에서 새로운 가능성을 찾아보고자 했다.
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근(이중원)은 인공지능에게도 결과에 대한 책임을 물을 수 있는 방안으로 인간 중심의 책임 개념 대신 행위자 중심의 책무 개념에 대해 탐색했다. 8장 인공지능, 또 다른 타자(신상규)는 인공지능 로봇을 중심으로 인간-기계 사이의 정서적 상호작용 및 감정적 관계의 가능성을 탐색하고 그러한 경험을 해석하고 의미화할 수 있는 한 가지 접근 방법을 모색하고 있다. 9장 인공지능 시대와 동아시아의 관계론(정재현)은 인공지능의 오작동 내지 잘못된 행위에 대한 책임이 어디에 있는가의 문제를 다룸에 있어서 동아시아의 관계론이 새로운 접근 방식을 제공함을 강조하고 있다.
인공지능이 우리와 함께 생활하는 경우 발생할 수 있는 다양한 윤리적인 문제들에 대한 인지는 이에 대한 제도적인 차원의 대응책을 선제적으로 마련하는 데 충분히 기여할 수 있다. 또한 단순히 알아서 척척 잘하는 똑똑하기만 한 인공지능의 연구·개발이 아니라, 시작부터 윤리적인 가치 규범에 의해 판단과 행동이 통제받는 도덕적 인공지능을 연구·개발하는 것은 인공지능으로 인한 사회 윤리적 문제를 최소화하는 좋은 대안이 될 수 있다. 궁극적으로 인간 개체 중심의 윤리학에 머물지 않고 관계론적 관점에서 인간과 인공지능의 긴밀한 관계에 바탕한 윤리학이 등장한다면, 이는 바로 공존의 윤리학으로서 인공지능 시대에 필요한 미래의 윤리학이라는 시대적 의의를 지닐 것이다. 하지만 이 책은 아직까지 인공지능의 ‘윤리학’이라 할 만큼 완성된 것은 아니다. 엄밀히 말한다면 ‘윤리학의 기초’에 해당한다고 말할 수 있다. 윤리학을 구성하는 데 필수적인 (인간이든 인공지능이든) 행위자의 도덕적 지위 혹은 본성에 관한 논의와 이를 지지해줄 수 있는 기존의 윤리 이론들에 대한 고찰은 어느 정도 이루어졌지만, 관계론적 관점에서 새로운 윤리학 이론을 체계적으로 구성한 것은 아니기 때문이다. 이 책의 출판을 계기로 새로운 인공지능의 윤리학에 관한 더 풍요로운 논의들이 지속적으로 이루어지길 기대해본다.