『박태웅의 AI 강의』를 읽어보았습니다.

『눈 떠보니 선진국』을 읽고 나서 같은 작가가 쓴 『박태웅의 AI 강의』도 꼭 읽어보고 싶었습니다. 생성형 AI가 모든 것을 집어삼키고 있습니다. 이럴 줄 알았으면, 대학원에서 신경망 배울 때 좀 더 관심을 가지고 팠어야 하는 생각이 듭니다. 그 때는 소위 인공지능의 겨울이었던 시기여서, 인공지능이 이렇게 느닷없이 성능이 좋아지고, 능력을 갖추게 되리라고 예상을 하는 사람이 별로 없었습니다.

박태웅의 AI 강의

서점에 가보아도, 챗GPT에 대한 책들이 넘쳐납니다. 많은 책들이 이것을 어떻게 잘 활용하여, 나의 업무 생산성을 극적으로 높일 것인가에 초점이 맞추어져 있습니다. 좀 더 부정적으로 표현하면, 그럴듯한 콘텐츠를 빠르게 만들어서 인터넷 세상을 오염시키는 방법에 대한 글과 영상들은 이미 넘쳐납니다. 

그런 와중에 생성형 인공지능(Generative AI), 더 나아가 인공일반지능(AGI)이 우리 사회에 미치는 거시적인 영향과 파급 효과에 대해 진지하게 성찰해보고, 이면에 숨어있는 위험을 인류는 어떻게 대처해야 하는지에 대해 고민해보는 책은 생각보다 많지 않은 것 같습니다. 그런 면에서 『박태웅의 AI 강의』는 이해하기 쉽게 쓰여져 있지만, 진지하게 생각할 거리를 던져줍니다.

전체 다섯 개의 장(1강~5강)으로 구성되어 있는데, 가장 핵심적인 것은 저는 3강, 열려버린 판도라의 상자였다고 느꼈습니다. 오픈AI의 샘 알트먼은 "인공일반지능이 만약에 고장나면 무엇인가 다른 조치가 필요할 수도 있습니다. 이 때문에 특정 회사가 이런 AI를 소유해서는 안 됩니다."라고 말했지만, 정작 요즘 오픈AI의 행보는 갈수록 "클로즈드" AI로 향하고 있습니다. 왜 그런 결과가 나오는지 설명할 수 없는 요즘의 AI는 원하지 않는 결과(편향되었거나, 차별적이거나, 허위이거나, 개인 정보를 침해하거나 등)가 나왔을 때, 그것을 고치는 방법도 근본적으로는 알 수가 없습니다.

극단적으로 영화 터미네이터에서 스카이넷이 인간을 공격하게 되는 상황까지는 상상하지 않더라도, 현재의 생성형 인공지능으로 인해 판도라의 상자가 이미 열렸고, 이것에 대해 전사회적으로 대응책을 마련하지 않으면, 어떤 미래가 올 지 알 수가 없습니다. 

소셜 미디어(인스타그램)를 사용하는 정도와 미국 소녀들의 자살률 증가가 높은 상관 관계가 있다는 사실을 메타의 과학자들은 알고 있었다고 합니다. 페이스북의 알고리즘에 의해 우리는 필터 버블(filter bubble)과 에코 체임버(echo chamber)에 빠져 있을 뿐 아니라, 전세계적으로 정치적인 극단주의가 더욱 심화되고 있습니다. 이렇게 거대 기업에 의해 움직이는 소셜 미디어의 부작용에도 우리는 효과적으로 대응하지 못했습니다. 그런데, 생성형 인공지능의 부작용에 대해 지금부터 고민하고 대처하지 않으면, 어떻게 될까요?

2020년 구글에서 인공지능 윤리를 연구하다 해고당한 팀닛 게브루(Timnit Gebru)가 쓴 논문, <확률적 앵무새의 위험에 대하여: 언어 모델은 너무 커져도 좋을까?>에서 지적한 네 가지 위험성이 있습니다. 심리학자 개리 마커스도 비슷한 위험성을 경고하고 있습니다. 

첫째, 거대 언어 모델을 운영하기 위해 천문학적인 재정적 비용과, 매우 많은 양의 전기, 탄소, 물이 소비됩니다. 그리고 지구상에서 가난하고 소외된 지역에 가장 크게 타격을 줍니다.

둘째, 이 언어 모델 안에 어떤 편견과 왜곡이 들어있는지 알 수가 없습니다. 이 모델에는 인터넷에서 영향력이 작은 국가와 민족의 내용은 누락되고, 부유한 국가의 관행은 더 많이 반영되어 모델이 생성한 답이 동질화될 수 있습니다. 

셋째, 연구의 기회 비용입니다. 그럴 듯한 답을 내놓는 거대 언어 모델에 대부분의 연구비가 집중되어, 더 필수적이고 중요한 과제에 자원과 예산이 배분되지 않고 있다는 것입니다. 

네 번째는 잘 알려진 환각(hallucination)의 문제입니다. 인공지능이 생성하는 허위 정보, 가짜 뉴스, 딥 페이크를 구분하고, 방지하기 위한 장치가 뚜렷이 보이지 않고 있습니다. 

다섯 번째, 책에서는 오리지널의 실종을 경고하고 있습니다. 텍스트를 기반으로 그럴듯하게 생성된 이미지들이 인터넷 세상을 도배하고, 인공지능이 생성한 그럴듯한 글들이 꽉차게 되면, 이제 인공지능은 더 이상 학습할 오리지널 데이터가 부족해지게 됩니다. 그렇게 했을 때, 인공지능의 성능은 점점 더 나빠진다고 합니다. 인터넷 세상은 새로운 아이디어와 콘텐츠가 넘쳐나는 열린 세상이 아니라, 유사한 이미지와 자가 복사된 글들로 채워지는 닫힌 세계, 근친 교배로 다양성이 상실되는 세계가 될지도 모릅니다. 

여섯 번째, 차별의 재생산입니다. 논란이 되어 폐기되었던 아마존의 인공지능 채용 시스템, 골드만 삭스의 인공지능 신용평가 시스템, 컴퓨터 비전의 발전에 혁혁한 기여를 하고 있는 이미지넷 등이 예로 언급되었습니다. 이런 시스템에 내재한 성차별, 인종차별, 기타 정치적으로 올바르지 않은 차별적 패턴을 인공지능이 학습하여 차별은 확산되고 재생산될 가능성이 높습니다. 

유럽 연합은 2019년 「신뢰할 수 있는 인공지능 가이드라인」을 만들었고, 미국은 「알고리듬 책무법안 2022」, 우리 나라는 「AI(인공지능)산업 육성 및 신뢰 기반 조성에 관한 법률」 제정을 추진하고 있다고 합니다. 신뢰할 수 있고, 위험하지 않은 인공지능을 위해 여러 분야의 전문가들이 지혜를 모아서 사회적인 합의와 대책을 잘 만들어갔으면 좋겠습니다.

Read more "『박태웅의 AI 강의』를 읽어보았습니다."

Think Again을 읽으면서 다시 생각해본 것들

와튼 스쿨의 조직심리학 교수인 애덤 그랜트(Adam Grant)는 내가 매우 좋아하는 저자이다. 그의 책 『오리지널스』를 읽고 느꼈던 충격과 감동을 생생하게 기억하고 있다.  그래서 그가 쓴 다른 책들도 모두 읽어보아야 겠다고 마음을 먹은 것은 오래되었다. 최근에 나온 『기브앤테이크』나 『히든 포텐셜』을  읽어보기 전에, 먼저 나왔던 『싱크 어게인』을 읽어보았다. 

싱크 어게인: 다시 생각하기의 힘. 애덤 그랜트 지음. 이경식 번역

역시 풍부한 생각할 거리들을 제공해주었고, 내가 기존에 가지고 있던 믿음, 선입견에 대해 "다시 생각해"보고, 무엇이 실수였을까 회상해보게 되었다. 

네 가지 마인드셋이 나온다. 

앞으로 내 믿음이 위험해질 때 과도한 설교에 의존하는 '①전도사'나, 남의 잘못만 따지고 드는 '②검사', 상대를 설득해서 내 편으로 만들기 위해 정치 공작에 뛰어드는 '③정치인'의 방식으로는 내 자신의 업데이트와 상대방이 있는 설득, 협상, 토론, 논쟁의 현장에서도 잘 작동하지 않을 수 있다. 내가 잘 모른다는 것을 인정하고, 기존에 알고 있었던 것을 다시 의심해보며, 새로운 사실과 데이터를 접할 때마다 기존의 믿음을 수정하고 업데이트하는 것을 기쁘게 받아들이는 '④과학자'의 마인드를 갖추어야 한다. 

책을 읽으면서 기존에 내가 가지고 있던 믿음 체계 또는 행동 양식을 다시 생각해보게 된 것들이 있다. 그 중에는 후회스러운 지나간 일들도 있고, 앞으로는 다르게 행동하기로 마음먹은 것들도 있다.

첫째, 나의 전공과 나의 적성, 흥미를 한 곳에 가두고, 다시 생각하기에 실패했다. 나는 대학에서 심리학을 공부했고, 대학원에서 인지심리학(조금 좁혀서 말하면, 지각심리학)을 공부했다. 그런 선택을 한 배후에는, 인간을 과도하게 "자연 과학"의 연구 대상으로 바라본 나의 편협함이 자리잡고 있었다. 그래서 좀 더 "부드러운" 과학이랄 수 있는 인문학, 사회학, 상담 심리학, 사회 심리학에 대해서마저 눈과 귀를 상당히 닫아버렸다. 옳고 그름이 흑백 논리로 규정되지 않는 인문학적 사고의 깊이와 그 즐거움을 조금이나마 깨닫게 된 것은 한참 나이가 든 이후였다. 

둘째, 첫 번째 언급했던 전공의 연장선에서, 나의 커리어를 발전시켜 나감에 있어서, 다시 생각하기를 통한 확산과 수렴을 적절하게 하지 못했던 것 같다. 내가 직장 생활 초창기에 흥미를 가지고 더 발전시켜나가고 싶은 나의 전문성은 "온라인 교육", 소위 말하는 "이러닝"이었다. 그런데, 나의 정체성을 그것과 동일시한 나머지 일종의 몰입의 상승 효과(escalation of commitment)를 통한 터널 시야(tunnel vision)에 빠졌던 것 같다. 회사에서 나의 커리어를 수평 확장할 기회(예를 들면, 회사의 중장기 경영 전략 수립, 변화 관리 에이전트 등)에 소극적으로, 또는 자신감 없이 임하게 되었다. "이러닝"은 나중에 "디지털 러닝", "소셜 러닝", 관련된 "웹 접근성 기술" 등으로 조금씩 변형되어 갔지만, 큰 틀에서 나는 다시 생각하기를 통한 변화를 이루지 못했다. 

커리어와 관련되어 아이에게 "너는 커서 무엇이 되고 싶니?"라는 어리석은 질문도 이제 하지 않으려고 한다. 아이는 아직 무한한 가능성을 열어 놓고, 시시각각 변해가는 사회와, 또 본인의 흥미, 관심, 목표가 계속 바뀔 것이고, 서서히 발견해나갈 것이다. 인공지능이 직업의 세계를 앞으로 어떻게 변화시킬 것인지 알지 못하는 우리가, 어떻게 벌써부터 "나는 무엇이 될거야"라고 단정하며, 다른 가능성의 세계를 닫아버릴 수 있겠는가. 그리고, 무엇이 "되는 것"은 궁극의 목표가 아니다. 변화에 적응하며, 끊임없이 다시 생각하고, 다시 업데이트하며 행동하는 것이 훨씬 더 중요하니까.

세 번째로 꼽을 수 있는 것은 직장에서 다른 사람을 대하는 나의 태도이다. 초급 리더가 되었을 때, 나는 그동안 봐왔던 선배 리더들의 잘못을 답습하지 않으려고 신경을 과도하게 쏟았다. 그런데 그것이 "착한" 리더가 되는 것과 동의어는 아니었다는 것을 나중에 알게 되었다. 또, 나의 생각에 대해 비판적으로 조언을 해주는 사람들을 적절한 도전 네트워크(challenge network)로 온전히 활용하지 못했던 것 같다. 의식적으로는 열린 마음과 겸손함을 갖추려고 계속 다짐했지만 쉽지 않았다. 나의 행동과 결정에 대해 비판적이었던 것을 나의 정체성에 대한 비난으로 판단하고, 더 마음을 닫아버렸던 것은 아닌가 하고 후회한다.

네 번째, 사회 문제를 바라보는 나의 시각이다. 나는 정치적인 성향은 비교적 뚜렷했다. 그런 시각으로 다른 한 쪽 정치 집단을 바라보면 상대방은 "바보 멍청이" 아니면, "악마" 둘 중의 하나로 보인다. 어떤 한 사람을 "악마"로 규정하면, 그 사람의 모든 행동은 악한 행동이 되고, 좋아 보이는 행동의 기저에도 "저의"나 다른 "음모"가 있을 것이라고 생각하게 된다. 일말의 협상과 타협과 토론의 가능성도 닫혀 버린다. 물론 이런 시각을 나의 일상에서 적극적으로 드러내지는 않았다. 하지만, 나의 내면 깊숙한 곳에 있는 편향이 일상에서도 조금씩 베어나왔고, 그런 이유로 주변 사람들을 정상적인 "대화"의 상대로 잘 인정하지 않았던 속내가 있었음을 부정할 수 없다. 

책에서는 협상과 설득에 대해서도 상당히 많은 내용이 할애되어 있다. 유연한 사고를 가진 사람은 협상과 설득에서도 상대방을 다시 생각하게 만들 수 있는 가능성이 더 크다고 한다. 최근, 점점 더 물러설 수 없는 전면전으로 가고 있는 의사 집단과 정부의 갈등을 바라보며 참 안타까운 마음이 든다. 양쪽 모두 상대방을 협상 가능한 파트너로 바라보고 있기나 한 것인지 의문이 든다. 노선의 선명성과 극단성이 상대방을 포기하게 하고, 문제 해결에 도움이 될 것이라는 믿음은 잘못된 것이다. 노련하고, 유연한 파트너라면, 사안을 단선적으로 보지 말고, "복잡성"을 인정하고, 파고들며, 그 안에서 솔루션을 함께 찾아야 한다. 

최근에 어떤 필요에 의해서, 내가 과거에 끔찍하게 싫어했던, 회계학과 법률 관련 책을 보고 있다. 자격증을 따기 위해서 공부해야 하는 과목인데, 내가 좋아하는 과목보다, 이 두 개의 과목에 더 많은 노력과 시간을 투자하고 있다. 그럼으로써 그렇게 싫어하던 영역에도, 깊이있는 "논리"가 있고, 인간 삶을 반영한 "복잡한" 체계가 있으며, 그것을 발견해가는 "즐거움"이 있다는 것을 조금씩 느끼고 있다. 물론 "더닝 크루거 효과(Dunning-Kruger effect)"에서 말하듯이 이제 출발점에서 쪼~끔 맛을 본 무식한 사람이 많이 아는 것처럼 착각하게 되는 것을 경계하려고 의식적으로 신경을 쓴다. 

독서는 두 가지 측면에서 즐거움을 준다. 하나는, 내가 기존에 가지고 있던 믿음 체계를 더 강화해주고, "그럼 그렇지"하는 확증 편향(confirmation bias)을 강화해주는 즐거움이 있음을 부정할 수 없다. 그러나, 내 생각이 좁았거나, 틀렸거나, 대폭 수정이 필요하다는 것을 깨닫게 해주는 즐거움이 없다면, 독서를 할 필요가 없다. 이제 50이 넘어서 결코 적은 나이는 아니지만, 앞으로 기존의 믿음을 계속 업데이트할 수 있는 두 번째 즐거움을 주는 독서를 계속 해나가고 싶다.

Read more "Think Again을 읽으면서 다시 생각해본 것들"