“왜 인공지능에서 ‘윤리’가 중요할까?”

“인공지능이 내린 결정을 믿을 수 있을까?”

“우리가 생각하는 인공지능의 모습은 어떤 것이어야 할까?”

인공지능(AI) 세상이다. AI는 우리 현재와 미래를 어떻게 바꿀까? AI를 칭하는 말이 많이 있다. 대표적인게 인공지능 세계 4대 천왕 중 한명인 앤드류 응 전 스탠포드 교수이자 VC 투자자가 한 말이다. 그는 AI는 새로운 전기라고 했다. 그만큼 필수불가결하다는 말이다. AI에 대한 부정적인 말도 있다. AI가 핵무기만큼 인류를 위협한다는 말이다. 맞다. AI는 새로운 전기만큼 필수불가결하고 또 핵무기 만큼 '위험한 물건'이기에 우리가 잘 다뤄여 한다.

이와 같은 특성을 가진 인공지능이 가져올 미래의 세상을 우리는 어떻게 준비하며, 또 어떤 가치와 철학을 중심으로 삼아야 할까? 이 책은 그 답을 찾기 위한 가이드 역할을 제시한다.

저자는 국내 최고 수준 AI윤리교육 전문가다. 현재 서울교육대학교 윤리교육과 교수로 활동하고 있다. 책에서 저자는 인공지능 시대의 주역으로 성장할 청소년이라면 반드시 알아야 할 인공지능의 윤리적 문제와 가치관을 다룬다. 특히 누구나 공감할 만한 스물한 편의 흥미진진한 에피스드를 제시, 흥미를 돋운다. 이 에피소드에서 저자는 자율주행차 딜레마, 딥페이크, 인공지능과 일자리, 인공지능 책임과 투명성, 창의성과 저작권, 인공지능과 인간의 공존 등 인공지능이 초래하는 다양한 윤리적 문제 와 사회적 영향을 다뤘다.

인공지능 시스템의 저항에도 불구하고 인간처럼 느끼고 경험하기 위해 애쓰는 피노키오, 몸과 뇌를 기계로 대체한 후 자신의 정체성에 대해 고민하는 테세우스, 기계화로 인해 일자리를 잃을 위기에 처하는 네드 같은 '에피소드' 속 인물들의 이야기들을 하나하나 따라가다 보면, 어렵고 복잡하게만 보이던 인공지능 기술 및 윤리 문제에 대해 '나름 대로의 해법'을 찾을 수 있다.

또 각 '에피소드' 뒤에는 '탐구 질문'을 제시, 독자 스스로 생각하고 토론할 수 있는 기회도 제공, 윤리적 판단력과 비판적 사고력을 키우도록 돕는다. 교사와 학생이 교육 현장에서 직접 활용할 수 있도록 구체적이고 실용적인 가이드를 제시하는 것은 물론, 가정에서 부모와 자녀가 함께 인공지능 윤리에 대해 깊은 논의를 진행하도록 돕는 실용적인 자료로도 좋다.

저자인 박형빈 서울교육대학교는 교육학 박사다. 서울교육대학교 교육전문대학원에듀테크전공및인공지능인문융합전공교수이기도 하다. 서울교육대학교신경윤리융합교육연구센터및가치윤리AI허브센터센터장을 맡고 있다. 도덕윤리교육, 인격교육, AI윤리교육, 신경윤리학 등에 관심을 갖고 연구하며 가르치고 있다. 미국UCLA교육학과(DepartmentofEducation)에서 방문 학자로도 있었다.

저자는 이미 여러 책을 냈다. ▲BCI와 AI 윤리(커뮤니케이션북스, 2025) ▲AI윤리와 뇌신경과학 그리고 교육(어문학사, 2024) ▲인공지능윤리와 도덕교육(씨아이알, 2022)을 출간했다. 또 ▲AI 시대 대한민국 교육 변혁(한국학술정보, 2024) ▲도덕교육학: 그 이론과 실제』(한국학술정보, 2021) ▲뇌 신경과학과 도덕교육(울력, 2019, 2020 세종우수학술도서) ▲통일교육학: 그 이론과 실제(한국학술정보, 2020) 등의 글을 썼다.

한언 펴냄/150x210mm 256쪽/2만1000원.

책 차례

프롤로그_ 철학적 좀비? 디지털 좀비?

제1부 우리는 지금 어디에 있으며, 어디를 향해가고 있을까?

에피소드 1. 우리는 지금 어디쯤 왔을까?

에피소드 2. 인공지능에도 윤리가 필요하다고?

에피소드 3. 인공지능과 함께하는 우리의 미래, 어떤 모습이어야 할까?

제2부 인간과 인공지능의 사이에서

에피소드 4. 인간이 된다는 건 어떤 걸까?

에피소드 5. 오늘의 나는 어제의 나와 같은 존재일까?

에피소드 6. 피노키오의 감정은 진짜일까, 흉내 내기에 불과할까?

에피소드 7. 피노키오도 인간처럼 경험하고 배우며 성장할 수 있을까?

에피소드 8. ‘나’를 복제한 인공지능은 또 다른 ‘나’가 될 수 있을까?

에피소드 9. 인공지능이 인간과 진짜 가족이 될 수 있을까?

에피소드 10. 인간과 인공지능의 경계는 어디일까?

제3부 인공지능이 드리운 그늘

에피소드 11. 인공지능이 인간의 일자리를 대신하게 된다면?

에피소드 12. 딥페이크 문제를 어떻게 다룰까?

에피소드 13. 인공지능으로 인한 사회적 갈등, 예방 및 해결책은?

에피소드 14. 인공지능이 도덕적으로 판단하고 윤리적으로 행동할 수 있을까?

에피소드 15. 인공지능 로봇의 권리를 보장해야 할까?

제4부 인공지능의 윤리와 책임

에피소드 16. 인공지능이 축구 국가대표팀 감독을 뽑는다면?

에피소드 17. 인공지능끼리의 충돌은 어떻게 해결할까?

에피소드 18. 인공지능 학생 관리 시스템은 또 하나의 판옵티콘이 될까?

에피소드 19. 캡차의 역설, 인공지능이 더 인간답다?

에피소드 20. 인공지능이 ‘인간 자격증’을 갖는다면?

에피소드 21. 인공지능이 인간의 통제를 벗어날 때

에필로그_ 인공지능 시대, 인간다움을 지키기 위한 윤리적 성찰