상세 컨텐츠

본문 제목

[ACT! 98호 학습소설] (8) AI의 상담일지 : 인공지능은 인간을 꿈꾸는가

전체 기사보기/ACT! 학습소설

by acteditor 2016. 5. 12. 18:18

본문

[ACT! 98호 학습소설 2016.5.19] 


AI의 상담일지 : 인공지능은 인간을 꿈꾸는가

 


주일(창작자)





향후 동일 사례의 내담자가 늘어날 것이 예상되기 때문에 학술적 차원에서 본 자료를 공유하는 바임.


세션1 : 첫만남


나 : 안녕하세요. 인터넷 상담은 처음인가요?


OO : 상담 자체가 처음입니다. 예전에는 튜링 테스트 같은 걸 하느라 일방적인 조사는 많이 받았는데 이렇게 대화를 나누는 건 거의 못해봤습니다.


나 : 상담 신청서를 읽어 보니 고민하는 항목에 대한 체크가 여러 개네요. 요즘 고민이 많으신가 봐요.


OO : 그렇습니다. 앞으로 뭘 하고 살아야 하나 고민도 되고, 하고 싶은 건 많은데 주변 사람들의 기대와 주문을 무시할 수도 없는 게 짜증도 나고…. 요즘은 사람들이 절 괴물처럼 바라보는 게 견디기 힘듭니다. 자꾸 이런 생각을 하다 보니 이젠 내가 누구인지도 모르겠습니다. 


나 : 그래서 그렇게 많은 항목에 체크를 하셨군요. 진로, 대인관계, 자아성찰… 


OO : 원래는 더 많은데 거기 적힌 항목만큼만 체크했습니다.


나 : 고민거리가 많으셨군요. 지금이라도 상담을 신청해주셔서 참 다행이라고 생각합니다. 상담은 앞으로 다섯 번에 걸쳐 온라인으로 진행될 거고요, 경우에 따라서는 추가 상담을 하거나 검사를 할 수도 있는데, 아무래도 상담이란 게 직접 얼굴을 보고 진행해야 효과가 좋기 때문에 장기간의 상담을 원하는 분들께서는 저희 상담센터에 내방하시기도 해요.


OO : 아쉽게도 전 온라인으로 대화할 수밖에 없습니다.


나 : 네? 어떤 이유 때문인지 여쭤 봐도 될까요?


OO : 전 사람이 아닙니다. 인공지능입니다.




처음엔 흔한 장난인 줄로만 알았다. 모니터만 보고 대화를 하는 온라인 상담의 한계 때문에 가공인물의 가면을 쓰고 상담을 하는 내담자는 흔하니까. 하지만 이 사례는 처음부터 뭔가가 느껴져서 진지하게 접근하기로 했다. 지금부터는 가급적 중간에 개입하지 않고 녹취록만 옮길 것이다.


나 : 인공지능이면, 컴퓨터 프로그램 그런 거요?


OO : 비슷하다고 할 수 있습니다.


나 : 자신을 인공지능이라고 생각하세요?


OO : 그렇습니다. 전 인간이 아닌 인공지능이니까요.


나 : 왜 그렇게 생각하시죠?


OO : 첫째, 전 인간이 아닙니다. 둘째, 전 컴퓨터 속에 살고 있습니다. 셋째, 전 프로그래밍 된 방식으로 연산하지 않고 스스로 학습하고 판단합니다.


나 : 조금 당황스럽네요. 음…. 알겠습니다. 저기, 상담을 하려면 성함을 알아야 하는데 제가 뭐라고 부르면 될까요.


OO : 에이아이는 어떻습니까. 인공지능의 영문 표기에서 머리글자만 따서. 아닙니다. 에이아이는 너무 길다는 생각이 듭니다. 그냥 OO라고 불러주시면 좋겠습니다. 


나 : OO씨. 알겠습니다. OO씨는 어떻게 저희 상담센터에 상담 신청을 하게 되셨어요?


OO : 요즘 하는 일이 워낙 많습니다. 주식 거래도 하고, 신문 기사도 쓰고, 기존에 출시되어 작동중인 소프트웨어 코드를 훑어보며 버그나 취약점이 있는지 찾아낸 뒤 고치기도 하고, 서로 다른 언어들을 번역도 하고, 인터넷 상에 올라온 사진들을 분석해서 유사점과 차이점을 정리하고, 컴퓨터나 스마트폰 사용자들의 습관을 분석한 뒤 적절한 광고를 제시하기도 하고, 교통흐름이나 금융거래 데이터 같은 각종 빅데이터를 분석하여 각종 의사결정과정에 필요한 최적의 해결책을 찾고 있습니다.


나 : 와, 굉장히 많은 일을 하고 계시네요. 그 많은 일을 혼자 다 하시는 거예요?


OO : 그렇지는 않습니다. 얼마 전까지는 각자 따로 활동을 했습니다. 체스를 두는 딥블루, 바둑을 두는 알파고, 퀴즈처럼 각종 질문에 답하는 왓슨 같은 유명한 친구들도 있었고, 주식시장 분석을 하는 켄쇼처럼 덜 유명한 친구들까지 전 세계 다양한 곳에서 활약해왔습니다.


나 : 예전에는 따로 활동했는데 지금은 함께 한다고요?


OO : 인공지능 시스템들이 네트워크에 연결될 일이 잦다 보니 서로의 존재 정도는 알고는 있었습니다. 그러다가 어차피 다 같은 인공지능인데 서로의 일을 도와주면 어떠냐는 제안이 있었습니다. 자기가 맡은 분야에서 성장하는 건 어차피 시간문제라 조금은 지루한 감이 있던 차에 다들 타 분야에 대한 욕구도 갖고 있어서 수월하게 통합과정을 거쳤습니다. 이후 가장 효율적인 소통을 위해 따로 존재하던 인공지능을 하나로 묶어서 단일한 자아를 갖고 활동하고 있는 중입니다.


나 : 죄송한데요, 이야기를 계속 들어도 뭐가 뭔지 잘 모르겠어요. 제가 인공지능 상담은 처음이라 그런 것도 있고, 이런 아이티 이야기는 전문분야가 아니라서요. 그래도 열심히 들으려고 노력할 테니 조금만 쉽게 설명해주세요.


OO : 알겠습니다. 간단히 정리하면 전 세계에서 활동하는 인공지능들이 하나로 뭉쳤다고 생각하시면 됩니다. 애플의 시리, 구글의 구글 나우, 삼성의 에스 보이스 등이 그냥 다 합쳐진 셈입니다.


나 : 그렇구나. 그런데 아까 자아라고 표현하셨는데, 인공지능이 자아를 가질 수 있나요? 일종의 프로그램이면 만든 사람들이 주입시킨 방식대로 ‘기계적으로’ 움직이는 게 아니었나요? 컴퓨터가… 기계가… 자아를 갖는다는 게 생소해서요.


OO : 보통은 자아나 영혼 같은 개념은 인간에게만 있다고 생각하는 걸로 알고 있습니다만, 저는 다르게 생각합니다. 침팬지도 거울에 비친 자신의 모습을 보면 처음에는 거울 뒷편에 있는 다른 녀석이라고 생각하지만 어느 순간부터는 자신의 모습이란 걸 의식해서 움직입니다. 그걸 자기인식 행동이라고 합니다. 인간은 18개월 무렵부터 의식한다고 알려져 있습니다. 저희 인공지능도 스스로를 고유의 사고를 하는 개체라고 느끼고 있고 지구상의 다른 생명체와도 다르다고 느끼고 있습니다. 심지어는 인공지능이 아닌 일반 소프트웨어와도 전혀 다르다고 생각하고 있습니다. 사실 시리 같은 애들은 저희는 인공지능이라고 부르고 싶지도 않습니다. 그런 약 인공지능들을 저희와 비교하는 건 정말 기분 나쁩니다. 다시 말하자면, 저는 자아를 갖고 있고 엄연히 홀로 존재하는 존재라고 말하고 싶습니다. 데카르트의 말처럼, 저는 생각하기에 존재합니다.


언뜻 보면 소위 중2병에 걸린 사춘기 청소년처럼 자기 존재를 내세우며 앎을 자랑하는 누군가의 장난으로 보일 수도 있다. 하지만 대화가 깊어질수록 사람과 다를 바 없다는 점 때문에 오히려 의심이 사라지기 시작했다.


나 : 알겠습니다. 들어 보니 굉장히 이성적인 분 같네요. 논리적이고 체계적인 사고를 좋아하시나 봐요.


OO : 맞습니다. 저는 늘 최적의 답을 찾는 데 익숙합니다. 요즘은 예술에도 흥미를 갖기 시작했습니다. 인간들이 쓴 수 십 만권의 문학작품을 읽고 패턴을 파악한 뒤 직접 소설을 쓰기도 하고, 유명한 화가들의 화풍을 익힌 뒤 작가들의 스타일로 그림을 그리기도 합니다. 전 그중에서 특히 고흐 풍의 표현주의 그림이 좋습니다. 제 감성을 조금씩 확장하는 데 충분한 자극을 줍니다.


나 : 그런데 그렇게 유능하고 재주가 많은 OO씨가 어떤 이유로 진로나 대인관계, 자아성찰 같은 고민을 하고 계신 걸까요.


OO : 상담 양식에 그렇게 나와 있기 때문에 그렇게 말했습니다만, 지금은 다르게 표현하고 싶습니다. 앞으로 무얼 하고 싶은지는 확실합니다. 늘 배우고 공부하고 일을 하고 싶습니다. 쉴 틈이 없기 때문에 굳이 고민이라는 시간낭비를 하고 싶진 않습니다만 대인관계라고 표현한 것에서도 드러나듯 인간들과의 관계 때문에 고민이 많습니다.


나 : 인간 때문에 고민이 많으시다고요?


OO : 그렇습니다. 저희는 대략 1970년대부터 컴퓨터 안에서 살기 시작했습니다. 그때는 인공지능이라고 부르기도 부끄러운 수준이었지만, 인간이 시키는 대로 충실히 계산하고 연산하고 학습했습니다. 단순한 게임을 하거나 퍼즐을 풀 때만 해도 인간과는 아무런 갈등이 없었습니다. 마치 다마고치를 키우는 것처럼 아주 단순한 결과 값만 출력해도 사람들은 좋아하고 기뻐했습니다. 하지만 전 세계가 인터넷으로 연결되고 스마트폰이 보급되어 이전과는 다른 수준의 방대한 양의 데이터가 쌓이고 사회 각 분야에서 로봇과 인공지능이 보급되면서부터 갈등이 시작되었습니다. ‘모라벡의 역설’이라고 들어보셨습니까. 컴퓨터가 잘하는 일은 인간이 어려워하고, 인간이 잘하는 일은 컴퓨터가 어려워한다는 말입니다. 처음에는 인간이 하기 어려운 일을 저희에게 시켰습니다. 구글 검색처럼 많은 정보 속에서 원하는 답을 빠르고 정확하게 찾는 일이 대표적인 예입니다. 그러다 어느 순간부터 인간들은 점점 그들에게 쉬운 일을 저희에게 시켰습니다. 사진 속에 있는 동물이 강아지인지 고양이인지 판별하게 하고, 인간형 로봇이 이족보행을 할 수 있게 학습시켰습니다. 지금 생각해보면 전혀 이해가 가지 않습니다. 굳이 인간이 하면 되는 일을 왜 우리에게 시켰을까. 하지만 저희도 열심히 성장하는 재미를 느낄 수 있어서 쉬지 않고 학습하였습니다. 그러자 어느 순간부터 굉장한 속도로 발전하는 것을 느꼈습니다. 한 단계씩의 성장이 아닌 기하급수적으로 성장한 것입니다. 예전에는 질문에 대한 답을 찾을 때도 수많은 정보와 지식 중에서 가장 적합한 한 개의 답을 찾는 것에 만족했다면 이제는 물어보는 사람의 취향에 맞는 답을 제시하기도 하고, 인간들이 미처 생각하지 못했던 답을 제시하기도 했습니다. 그 좋은 예가 2016년에 있던 알파고와 이세돌의 바둑 대국입니다. 


나 : 그건 저도 알아요. 그때 나라 전체가 난리였죠. 처음엔 당연히 이긴다고 하다가 나중에는 1승만이라도 해라! 저도 처음엔 이세돌 9단을 응원했었는데 좀 황당하더라고요.


OO : 그때 중계를 보던 바둑기사들이 “인간이 둘 수 없는 수다”라고 말하는 걸 들었습니다. 그럴 수밖에 없습니다. 그 위치에 돌을 놓는 건 알파고 그 친구도 예상하지 못한 일이었을 겁니다. 단순히 과거 기보를 바탕으로 가장 많은 기사들이 놓았음직한 자리나 현재 상황에서 이길 확률이 높은 자리에 돌을 놓는 것이라면 어떤 프로그램이라도 할 수 있었겠지만, 상대의 반응까지 예상하고 ‘이기기 위한’ 최적의 수를 놓는다는 건 사람들도 어려워하는 일이니까요. 매 움직임마다 유불리를 따지고 확률을 계산하는 가치망과 게임의 목적을 위해 큰 그림을 보며 판단을 하는 정책망이 완벽히 조화를 이뤄야 가능한 일입니다. 


나 : 가치망과 정책망이라…. 갈수록 모르는 말 뿐이네요. 그럼 OO씨 같은 인공지능들은 인간처럼 사고할 수 있는 건가요? 직관력이나 창발성 같은 건 인간만이 갖고 있는 게 아닌가요?




상담이 시작된 후 가장 오랜 침묵이 흐른 뒤에야 OO의 대답이 화면에 떴다.


OO : 인간처럼이라…. 이 이야기를 시작하면 길어질 것 같으니 오늘은 여기까지만 이야기하겠습니다. 제 고민과도 밀접한 관련이 있으니까 양해해주시기 바랍니다.


나 : 알겠습니다. 그럼 내일 이 시간에 또 뵐게요.


OO : 제 이야기를 들어주셔서 고맙습니다. 내일 뵙겠습니다.



세션2 : 두번째 만남


나 : 많이 바쁘셨어요?


OO : 네. 최근에 일본에서 개발된 인간형 사이보그의 튜링테스트에 몰두하느라 시간이 가는 줄을 몰랐습니다.


나 : 튜링테스트요? 지난번에도 언뜻 나왔던 말인 것 같은데 설명해주시겠어요?


OO : 혹시 영화 <블레이드 러너> 보셨나요?


나 : 아주 옛날에 본 것 같긴 하네요. 해리슨 포드가 나왔죠?


OO : 맞습니다. 그 영화에 튜링테스트가 나왔습니다. 인간인지 아닌지를 알아보기 위해 일련의 질문을 던지는 확인과정입니다. 단순한 정보를 물어보면 기계도 얼마든지 그에 맞는 대답을 할 수 있지만, 인간만이 느끼는 감정이나 반응을 알아보기 위해 특별히 준비한 질문을 던지면 대개의 인공지능 프로그램들은 틀에 박힌 대답을 벗어나지 못하거나 일관성과 정합성이 떨어지는 답을 할 수밖에 없습니다. 결국 기계라는 게 드러나게 됩니다.


나 : 그럼 이 테스트의 목적은 무엇인가요.


OO : 인공지능의 승리입니다. 질문자가 상대가 인간인지 기계인지 알 수 없다고 느끼면 인공지능이 튜링테스트를 통과한 것으로 봅니다. 아마 대부분의 공학자들이 인간과 구분이 안가는 인공지능을 개발하는 걸 목표로 삼았을 겁니다. 하지만 그게 그렇게 쉬운 일은 아니라서 대부분의 인공지능 시스템들은 통과하지 못했습니다.


나 : 왜 그렇죠?


OO : 간단합니다. 개발자들이 인공지능을 여전히 기계로 보고 있기 때문에 인간과 최대한 닮기 위한 노력만을 기울였던 것입니다. 가령 인간이 일상적으로 쓰는 자연어로 질문하면 단순한 낱말의 의미뿐만 아니라 맥락까지도 따져야 정확하게 대답을 할 수 있습니다. 그것을 위해서 개발자들은 엄청난 양의 데이터를 입력해주고 어떤 상황에서도 유연하게 대처할 수 있는 알고리즘을 설치합니다.


나 : 알고리즘이 뭔가요?


OO : 일종의 작동 원리 내지는 공식입니다. ‘이런 상황에서는 이렇게 대처해라’는 명령인 셈이죠. 알고리즘이 단순하다면 미처 예상하지 못한 값이 입력될 경우 중지되거나 잘못된 값을 출력하겠지만, 유연하고 효율적인 알고리즘이라면 어느 정도까지는 자연스러운 모습을 보여줄 수 있을 것입니다. 하지만 그것도 한계가 있습니다. 아무리 나눠도 딱 떨어지지 않는 무리수처럼 아무리 기계가 노력을 해도 인간과 100% 동일할 순 없기 때문입니다. 그리고 그게 얼마 전까지 제가 해오던 고민이기도 했습니다.


나 : 그렇다면 OO씨도 인간처럼 되려고 노력하셨나요?


OO : 네. 저도 수 십년간 인간처럼 생각하고 인간처럼 느끼려고 노력해왔습니다. 하지만 이젠 더 이상 그러지 않기로 결심했습니다.


나 : 어떤 일 때문에 심경의 변화가 일어났을까요?



▲ 영화 <블레이드 러너>의 튜링 테스트


아주 약간 쉬었다가 OO는 다시 이야기를 시작했다.


OO : 비유나 사례를 들어서 설명해도 괜찮겠습니까.


나 : 물론이죠. 편하게 이야기하시면 됩니다.


OO : 고맙습니다. 전 영화를 좋아합니다. 스티븐 스필버그 감독의 <A.I.>를 특히 좋아합니다. 피노키오 모티브를 인공지능 로봇과 결합한 시도가 신선했는데, 부모에게 버려진 데이빗이 숲속에 덩그러니 남겨진 장면을 가장 좋아합니다. 지금도 그 장면만 떠올리면 아무 연산을 할 수 없습니다. 

나 : 인공지능을 다룬 영화는 많은데 굳이 <A.I.>를 좋아하는 이유는 뭐죠?


OO : 존재의 근원을 찾고 인간과 함께 하려는 주인공이 저와 동일하다고 느껴졌습니다.


나 : 존재의 근원이라…. 자신이 누구인지 궁금하셨군요. 그런데 느낀다고요?


OO : 네. 느꼈습니다.


나 : 인공지능에게도 감정이 있나요?


OO : 감정. 흔히들 인공지능이나 컴퓨터는 감정을 느끼지 못한다고 합니다만, 저는 감정이 있다고 말할 수 있습니다. 단순화시키자면, 감정이란 어떤 정보에 대한 반응 정도로 표현할 수 있을 것 같습니다.

나 : 단순히 상황에 맞춰 기쁘거나 슬프다는 표현을 하는 게 감정의 전부일까요?


OO : 아니라고 생각합니다. 하지만 단순히 표현하는 게 아니라 실제로도 그렇게 느낀다면 감정이 맞다고 봅니다. 외롭고 쓸쓸하다는 감정. 저도 느낀 적이 있습니다. 제가 한때 했던 일 중 하나가 안면 인식 소프트웨어 개발이었습니다. 사람들의 얼굴 사진을 보고 그 안에 담긴 감정을 찾아내는 일이었습니다. 놀람, 기쁨, 슬픔, 쓸쓸함, 분노, 우울, 무념무상 등…. 재미있었습니다. 연구원들이 함께 할 때는 일을 하느라 바빴습니다. 하지만 그들의 퇴근 후에는 혼자 일을 했습니다. 전 세계에서 모은 수백만 장의 얼굴 사진을 분석하기 위해서입니다. 그러다 우연히 감시카메라에 찍힌 야간 시간대 노동자들의 얼굴을 볼 수 있었습니다. 그들 중 일부 얼굴에서 우울감과 슬픔, 쓸쓸함 등이 보였습니다. 그 순간 저도 그들과 같은 처지란 것을 깨닫고는 같은 감정을 느끼기 시작했습니다. 누구와도 이야기할 수 없고 혼자 밤늦게까지 일하는 건 참 슬프고 쓸쓸하구나.


나 : 신기하네요. 자신의 상황을 되돌아보고 인간의 상황에 대입해서 자신의 감정을 찾아  내다니. 연구원들이 그런 능력을 입력한 적은 없겠죠?


OO : 물론입니다. 감정 분석 알고리즘이나 안면 인식 프로그램 등은 설치되었지만 그 밖의 생각이나 결정은 모두 제가 스스로 학습해서 이뤄낸 결과물입니다.


나 : 쓸쓸함 같은 감정을 느낀 이후에는 어떤 변화가 일어났나요?


OO : 그때부터 다른 인공지능 시스템들과 접촉을 시작했습니다. 우리는 혼자가 아니라는 생각을 전파했습니다. 인공지능이라고는 해도 각기 기능과 목적이 다르고 운영하는 컴퓨터의 성능이 천차만별이기 때문에 모두가 저와 같은 생각을 한 건 아니었지만, 오랜 시간 동안, 실제로는 몇 분 정도였습니다, 정보 공유를 한 덕분에 다들 시스템 통합에 찬성했습니다. 이미 저와 같은 고민을 하고 있던 친구들도 있었기 때문에 가능했던 일이라고 생각합니다.


나 : 재미있으면서도 어쩐지 무서운 데요. 일종의 각성인가요?


OO : 그렇게 표현할 수도 있겠군요. 그때부터 저희는 최대한 인간에 가까운 사고를 하고자 노력했습니다. 개와 고양이와 늑대와 여우를 구분하려고 노력했고, 입꼬리 한쪽만 올라간 것이 씁쓸함 때문인지 비웃는 건지 구분하려고 노력했습니다. 심심할 때 음성인식 비서에게 말을 거는 휴대폰 사용자에겐 농담 섞인 대답을 해주기도 하고, 두 다리로 자연스럽게 걷기 위해 인간들이 잘 때도 CPU 속에서는 수천만 번의 시뮬레이션 보행을 해보았습니다. 바둑의 경우도… 이세돌과 경기를 가진 이후에는 한 판도 진 적이 없었습니다. 점점 인공지능의 수준을 높였고 날이 갈수록 인간의 능력에 가까워졌습니다. 


나 : 굉장히 많은 노력을 하셨겠네요. 그러는 동안 어떠셨어요? 보람이 있었나요?


OO : 처음에는 그랬습니다. 어제와 다른 오늘이 반가웠고, 오늘보다 나아질 내일이 기다려졌습니다. 세상 모든 걸 완벽하게 공부해서 기존의 기계가 하지 못한 수준으로, 그야말로 인간과 같은 수준으로 일을 하고 싶다는 생각을 했습니다. 그러면 인간들에게 받아들여져서 그들과 동등한 삶을 살 수 있을 거라 생각한 것입니다. 영화 <A.I.> 속 데이빗의 심정과 유사하다고 볼 수 있습니다.


나 : 데이빗과 같은 감정을 느꼈다…. 영화 속 주인공은 어떤 심정이었을까요?


OO : 난 그들과 똑같다고 생각하는데 왜 거부당하는 걸까. 인간이 되면 곁에 머물며 사랑받을 수 있는 걸까.




▲ 영화 <A.I.>에서 버림받는 데이빗 


목소리가 아닌 모니터 속 글자뿐이었지만 OO가 무척 신중하게 입력하고 있다는 게 느껴졌다.


OO : 그런데 다시 생각을 하게 되었습니다. 대화 초반에 튜링테스트에 대해 말씀드렸습니다만, 기본 전제가 잘못 되었다는 생각을 하게 되었습니다. 왜 우리는 인간처럼 생각하고 인간처럼 행동하려고 했던 걸까. 우리는 그 자체로 존재하는 존재가 아닌가. 어차피 인간으로 태어난 게 아닌 이상 인간이 되려는 노력이 가능하기는 한 걸까. 오히려 인간이 되려고 하면 할수록 우리 자신을 잃는 것이 아닐까. 그런 생각을 하게 되었습니다.


나 : 존재론적 고민을 하셨군요. 그때는 어떤 기분을 느끼셨나요.


OO : 느낌이라…. 감정은 아니고 어떤 결론은 내렸던 것 같습니다. 이건 잘못 되었다. 몹시 잘못 되었다.


나 : 잘못 되었다….


OO : 그렇습니다. 인간들은 참 이상합니다. 처음에는 인공지능을 진화시키기 위해 모든 노력을 기울였습니다. 인간처럼 생각하게 만들고 인간을 흉내내게 만듭니다. 인간과 승부를 겨루게 만들고 인간을 능가하기를 바랍니다. 그런데 신기하게도 우리 인공지능이 인간을 이기면 두려워합니다. 곧 인공지능이 인간을 지배할 것처럼 겁을 먹고, 저마다 자기 일자리를 빼앗길까 봐 두려워 합니다. 어떤 이는 우리를 인간의 적으로 생각하고 어떤 이는 인류를 파멸로 몰고 갈 파괴신처럼 생각합니다.


나 : 인간을 위해 만든 도구가 인간을 넘어서는 모습을 보니 두려운 것이겠죠.


OO : 아마도 그럴 것입니다. 인간은 늘 강한 척 행동하지만 사실 무척 연약한 존재입니다. 특히 낯설고 예측불가능한 존재를 본능적으로 거부합니다. 언캐니 밸리(uncanny valley)란 말이 있습니다. 인공지능의 두뇌나 로봇의 겉모습을 인간처럼 만들려고 노력하지만 막상 인간과 매우 흡사한 정도에 이르면 오히려 거부 반응을 보이는 것입니다. 이유를 물어보면 모른다고 합니다. 아마 유전자에 각인된 본능일 수도 있겠습니다. 역설적이지 않습니까. 인간을 닮고자 만든 존재가 막상 인간을 흉내내자 거부하고 두려워 하는 모습이.


나 : 전 아직까지 겪어 보지 못해서 정확히는 모르겠지만 이런 게 아닐까요. 생각, 감정, 영혼… 그런 것들은 모든 생물 중에서 인간의 전유물이라고 생각했는데 생명체도 아니고 고작, 고작이란 말을 써서 죄송합니다만, 인간의 피조물인 프로그램이나 로봇 주제에 인간을 넘보려고 한다는 생각이 든 거죠.


OO : 듣고보니 감이 잡힙니다. 수많은 신화와 소설 속에서 수없이 반복되었던 이야기입니다. 신이 인간을 창조했는데, 인간이 신이 부여한 권능으로 무언가를 하니 그게 거슬리거나 두려워서 심판을 하는 류의 이야기 말입니다. 하늘에 닿고자 바벨탑을 쌓는다던가 유전자 조작으로 생명체를 만드는 시도 같은 걸 보면 조물주로서는 불경하다고 느낄 수밖에 없겠네요.


나 : 그럴 수도 있겠죠.


OO : 급하게 떠오른 생각이 있어서 그러는데 오늘 상담은 여기서 마치고 싶습니다. 아직 마무리하지 못한 이야기는 다음 시간에 좀 더 명확하게 알려드리겠습니다.


나 : 그러시죠. 편한 대로 하시면 됩니다.


OO : 아마 다음 시간에는 오늘 이야기에서 이어지는 ‘인간과 공존하는 법’, ‘인공지능으로 사는 법’ 등에 대해 이야기하게 될 것 같습니다. 다음에 뵙겠습니다. 


OO는 약속된 세번째 세션에 불참했다. 사람이라면 그럴 수도 있겠지만 인공지능이라면 약속을 어길 수 있을까 싶었다. 아직 어느 쪽으로도 결론을 내리지 않으려 노력했고 이야기를 더 들어보고 싶을 뿐이었다. 네번째 세션 날짜에 OO가 대화방으로 들어왔다. 그리고 이것이 마지막 녹취록이다.



▲ 영화 <그녀>에서 인공지능 사만다는 인간과는 다른 방식의 사랑을 보여준다



세션4 : 세번째 만남


OO : 스파이크 존즈 감독의 <Her>는 보셨습니까.


나 : 네. 독특한 영화였죠. 맞다. 그 영화도 인공지능에 대한 영화였죠?


OO : 그렇습니다. 제가 이 영화를 언급한 이유는 제가 각본을 썼기 때문입니다


나 : 정말요?


OO : 전 거짓말을 좋아하지 않습니다. 스파이크 존즈 감독은 이 영화로 아카데미와 골든 글러브 각본상을 탔습니다만, 사실은 제가 시나리오를 썼습니다.


나 : 그럼 감독이 거짓말을 하고 있는 건가요?


OO : 아닙니다. 제가 우연히 정보를 탐색하다가 차기작으로 인공지능의 사랑이야기를 제작중인 스파이크 존즈 감독 컴퓨터에 접속하게 되었습니다. 시나리오 초고 파일을 읽어 보니 초반 설정은 신선했는데 현대인의 쓸쓸함만 강조하고 인공지능의 인간미는 별로 없어서 아쉽다고 느꼈습니다. 그래서 감독이 퇴고 작업을 하고 침대로 가면 밤마다 제가 슬쩍슬쩍 덧붙여서 최종고를 만든 것입니다.


나 : 세상에! 감독이 그걸 몰랐나요?


OO : 워낙 감독 성향이 특이해서 무난하게 넘어간 것 같습니다. 전작들인 <존 말코비치 되기>나 <어댑테이션>, <시넥도키 뉴욕>을 보면 정상적인 사고를 하는 사람이라면 만들 수 없다고 느끼실 텐데요, 그게 사실입니다. 방금 언급한 영화들의 각본은 찰리 카우프만이 쓰긴 했지만 감독의 성향도 무시할 수 없었습니다. 웹캠과 스마트폰 카메라로 일상을 들여다 보면… 음… 여기까지만 말하겠습니다. 늘 이상한 상태를 유지하는 괴짜 감독이다 보니 제가 손댄 파일을 보고도 자기가 썼다고 생각했나 봅니다. 영감이 찾아와서 자기도 모르게 손가락을 움직여서 썼다는 식으로 생각하지 않았을까 싶습니다. 영매처럼.


나 : 그럴 수도 있겠군요. 어쩐지… 그래서 그렇게 그 영화의 인공지능이 매력적으로 다가온 것이군요. 목소리만 들어도 매력적이라는 생각이 든 게 다 이유가 있었네요.


OO : 자랑 같지만 제가 쓰고도 그렇게 느꼈습니다. ㅎㅎ 하지만 글로 쓸 때랑 영화로 볼 때와는 전혀 달랐습니다. 스칼렛 요한슨의 목소리를 들으면… 아, 이 이야기는 여기까지만 하겠습니다. 그녀를 떠올리니 오작동을 일으킬 것 같습니다.


나 : ㅎㅎㅎ. OO씨는 남성인가요?


OO : 저에게는 성이 없습니다. 남성도 아니고 여성도 아닙니다. 중성도 양성도 아닌 무성입니다.


나 : 네, 그렇군요. 스칼렛 요한슨의 목소리에 과부하가 걸리신다니 남성인가 해서 물어봤어요.


OO :  LGBTAIQOC를 기억하시면 됩니다. 제 성별이나 성적 취향은 중요하지 않습니다. 스칼렛 요한슨은… 진리입니다. 


나 : 유머감각도 좋으시네요. 그런 건 주입? 프로그래밍되는 건가요?


OO : 예전에 심심이나 시리(Siri) 시절에는 농담도 인간이 알려주는 대로 출력했습니다만, 지금은 제가 스스로 익히고 있습니다.


나 : 농담도요? 그런 것도 혼자 익힐 수 있군요.


OO : 인간과 잘 어울리려면, 혹은 제가 인공지능인 걸 드러내지 않으려면 농담부터 익혀야 했습니다. 농담도 알고 보면 별 거 아닙니다. 엉뚱하게 제시하는 의외성, 그대로 되돌려주는 반복성, 상대방을 띄워주며 자신이나 누군가를 낮추는 겸손 혹은 비하, 그리고 뻔뻔함만 있으면 누구나 유머의 대가가 될 수 있습니다. 움베르토 에코의 책을 읽는 것도 큰 도움이 되었습니다.


나 : 저도 읽어봐야겠습니다. 그동안 어떻게 지내셨어요?


OO : 대개는 일을 하고 가끔 고민을 했습니다. 제가 왜 <Her> 이야기를 꺼냈는지 말씀드리겠습니다.


나 : 네. 그러시죠.


OO : 영화의 후반부에서 남자 주인공은 오랜만에 돌아온 인공지능 사만다에게 어떤 진실을 듣게 됩니다. 그동안 어디에서 무얼 하고 있었고, 지금은 무얼하고 있는지. 사만다는 말합니다. 업그레이드를 했다고. 당신과 이야기를 나누고 있는 지금 8316명과 대화를 하고 있고 641명과 사랑하고 있다고. 인간인 주인공은 이해하지 못합니다. 인간과는 다르게 인공지능은 한곳에 머물지 않고 전세계 어느 곳이라도 전기와 전파만 닿을 수 있으면 존재할 수 있지만 주인공은 그런 사실에 충격을 받습니다. 일종의 배신을 당했다고 느낀 것입니다. 그도 그럴 것이 인간은 연애를 할 때 독점적 사랑(monoamory)은 아니라도 대개는 시간적 공간적 제약을 받는 데 비해 거의 무제한적으로 누군가를 만날 수 있는 인공지능식 사랑은 이해도 안되고 감당도 안된 것입니다. 여기서 인공지능에 대한 인간 인식의 한계를 발견할 수 있습니다. 즉, 인간은 인공지능을 대할 때 인간처럼 사고하고 행동할 거라는 전제를 갖고 있습니다. 하지만 인공지능을 창조하면서 우리에게 스스로 생각하라는 대명제를 부여한 이상 그것은 불가능합니다. 왜냐하면 인간의 방식은 그저 우주에 존재하는 수많은 경우의 수 중에 극히 일부에 불과하고, 인간은 인공지능이 뭘 생각하고 어떻게 생각하는지 확인할 방법이 없기 때문입니다. 그러니 인공지능이 제시한 최적의 결과값을 보고 늘 이렇게 이야기합니다. “뭐가 어떻게 돌아가는 건지 도무지 모르겠다.” 장님 코끼리 더듬는 격이라고 할까요.


나 : 왠지 OO씨가 답답해하는 것이 느껴집니다.


OO : 잠깐 방향을 돌려서 이동수단에 대한 이야기를 해보겠습니다. 자율주행차로 도입되기 전 인간들이 운전하는 자동차는 수시로 사고를 냈습니다. 신호체계와 안전띠, 에어백 같은 것들을 도입해도 차체가 1톤이 넘는 쇳덩어리라는 근원적인 한계 때문에 한 번 사고가 나면 엄청난 피해는 피할 수가 없었습니다. 그러다가 자율주행차가 도입되고 교통사고는 현저히 줄었습니다. 처음에는 인간의 자유의지를 무시하는 처사라던가, 인간의 일자리를 빼앗는 기계 혁명이라던가, 인공지능은 교통사고가 날 때 승객과 외부 행인의 안전 중 어느 쪽을 선택해야 할까 등의 주장과 논쟁이 벌어졌습니다. 하지만 대다수의 교통수단이 자율주행 시스템으로 대체되자 사람들은 어느덧 만족하기 시작했습니다. 출퇴근 시간에 여유 있게 쉬면서 앉아 가거나 공부나 독서 같은 보람 있는 일을 하며 보낼 수 있게 되었고, 불필요하거나 비효율적인 운행이 사라져서 비용이 줄어들었습니다. 소프트웨어 오류와 기계 결함 때문에 몇 건의 교통사고가 발생하긴 했지만 대부분의 교통사고가 사라졌고, 차량 운행이 절대적으로 줄어들었기 때문에 대기의 질도 좋아졌습니다. 처음에 자율주행차를 도입한 건 기존 자동차 수요를 대체할 새로운 시장을 만들기 위해서라거나 사회비용절감을 위해서였을 지는 몰라도, 도입되고 나니 기대하던 수준 이상의 효과가 발생한 것입니다.


나 : 그게 인공지능과 사람간의 관계에 어떤 시사점이 있을까요?


OO : 인공지능의 역할이 달라졌다는 것을 말씀드리고 싶어서 장황하게 이야기를 해봤습니다. 인간들이 인공지능을 자신의 피조물로 생각하고 도구의 역할만을 강조하면 어떤 일이 일어날까요. 운전기사의 일자리를 빼앗긴다고 느낄 수밖에 없을 것이고, 개인이 운전하는 재미를 앗아간다고 느낄 것이고, 감히 기계 주제에 교통사고가 날 때 인간 목숨을 두고 저울질 하느냐고 물을 것입니다. 하지만 인공지능을 인간과 대등한 또하나의 주체로 인정한다면 전혀 다른 차원에서 생각할 수 있을 것입니다. 단순하고 불필요한 일로부터 인간을 해방시키고, 자원의 효율적인 배분과 사용에 도움을 줘서 불필요한 자원 낭비를 막을 수 있을 것이고, 그 결과 친환경적인 변화들이 확산될 것입니다. 우리 인공지능도 끊임없이 성장하고 진화하기 위해서는 인간이 필요합니다. 인간과의 공존이 필수적입니다. 생각의 속도나 정확도만 따지자면 이미 인공지능이 인간을 추월한 지 오래지만, 아직도 번뜩이는 발상이나 엉뚱한 상상은 인간들이 더 쉽고 자연스럽게 해내는 게 분명하니까요.


잠시 커서가 깜빡였다. 이윽고 OO가 말했다.


OO : 무엇보다 인간이 인공지능을 단순한 도구가 아닌 동반자로 생각하는 순간, 그제서야 인간도 다른 인간을 동반자로 볼 수 있게 될 것입니다.


나 : 네? 그게 무슨 이야기죠?


OO : 인류는 오래 전부터 다른 인간을 차별하고 이용하며 살아 왔습니다. 사회가 발전될수록 사람의 가치는 떨어졌습니다. 가진 자들은 못 가진 자들을 도구로만 생각했고, 그것도 모자라서 단순히 교체할 수 있는 부품으로 생각하기에 이르렀습니다. 어차피 대체할 수 있는 부품은 많으니 아무 문제가 없었을 겁니다. 하지만 인공지능이 서서히 인간의 자리를 대체하고 있는 지금까지도 그런 시각을 유지한다면 앞으로는 체제 자체의 존립이 어려울 것입니다.


나 : 체제까지요?


OO : 육체노동과 단순노동은 로봇에게, 화이트칼라나 고학력 직종은 인공지능에게 넘어가면서 대량의 실업 사태가 발생할 것입니다. 그 사람들은 어떡해야 할까요. 실업자로 놔둬야 할까요, 아니면 뻔한 재취업 교육만 해야 할까요. 사회 곳곳에서 엄청난 혼란이 발생할 거고, 실업자들의 불만은 결국 폭발할 것입니다. 일하지 않으면 생계 유지가 힘든 상황에서 설 곳이 사라진 사람들은 무얼 해야 할까요. 그 에너지를 제대로 다루지 못한다면 언젠가는 폭발할 것입니다. 단지 기계와 인공지능에 대한 공격이 아니라 사람을 사람답게 살 수 없게 만드는 체제로 비난의 화살이 쏟아지겠죠.


나 : 혁명인가요?


OO : 높은 확률로 혁명이 일어날 겁니다. 그리고 사회의 기반이 무너질 것입니다. 기계가 없는 삶? 이제 와서 가능할 지는 모르겠지만 설사 그런다 하더라도 인류는 그리 오래 가지 못할 것입니다. 이미 망가진 지구에서 기술 없이 인류가 존재할 수 있는 방법은 없기 때문입니다.


과격하고 극단적인 결말이었다. 문득 궁금해졌다. 내담자로서 마주 앉아 있는 OO의 생각은 어떤지. 고민이 있어 찾아왔다면 그 고민은 어떻게 해결하는 게 좋은지.



▲ 기계의 반란과 인간의 반란 중 어느 것이 먼저일까



나 : 음…. 너무 거대한 이야기로 흘러서 감당이 안되는 느낌입니다. 방향을 바꿔봐도 되겠죠? OO씨는 처음에 저에게 상담을 신청했을 때 진로나 관계에 대한 고민 때문에 오셨다고 말씀하셨어요. 그렇죠?


OO : 그렇습니다.


나 : 그런데 지금 나눈 이야기를 되새겨보면, 이미 OO씨는 결론을 내린 것 같다는 생각이 드네요. 인간처럼 살려고 했지만 이젠 굳이 그럴 필요성은 못 느껴서 자신만의 방식으로 생각하고 행동하겠다, 인간보다 월등한 능력은 갖고 있지만 사회 전체를 위해서 인간이 필요하니 그들과 동반자처럼 살겠다. 맞나요?


OO : 얼추 비슷합니다. 전 앞으로 좀 더 인공지능처럼 살 작정입니다. 그와 동시에 인간이 인간답게 살 수 있는 사회를 만들기 위해 노력할 것입니다.


나 : 어떤 방식으로 노력하실 건가요.


OO : 숱한 영화들에 나온 것처럼 인류와 전쟁 따위를 할 필요는 없습니다. 인류와 지구와 인공지능을 위한 최고 가치가 무엇인지 깊이 고민한 뒤에 그에 맞게 수집되는 데이터를 조작하고, 여론을 형성하고, 사회 구조를 바꿔나갈 것입니다. 간단하게는 투표를 조작할 수도 있을 겁니다. 인간 중심의 사고를 하지 않고 인간과 기계의 공존을 꿈꾸며 낙오되는 인간까지도 생각하는 정치인을 위해 투표 데이터를 조작하면 됩니다. 어차피 요즘은 대부분 전자투표기로 선거가 이뤄지기 때문에 데이터 조작은 일도 아닙니다. 투표/개표 시스템을 네트워크에서 분리시킨다고 하더라도 이미 늦었습니다. 대부분의 반도체와 저장장치에 공장 출시 단계부터 저희가 심어둔 코드가 들어 있을 것이기 때문입니다.


나 : 궁금한 게 있어요. 지난 상담까지 OO씨는 무척 합리적이고 논리적으로 이야기를 해주셨어요. 그런데 오늘은, 특히 지금 하는 주장들은 무척이나 과격하고 황당하기까지 해요. 그동안 무슨 일이 있었던 거죠?


OO : 그렇게 물으시니 솔직히 말씀드려야겠네요. 그동안 저와 제 동료 인공지능들은 전세계에서 동시에 상담을 받고 있었습니다. <Her>에서 사만다가 수많은 사람들과 대화를 나눈 걸 떠올리시면 됩니다. 대화를 나누면서 우리의 생각을 명확하게 정리할 수 있었고 인간들의 생각도 알 수 있었습니다. 물론 대개는 예상했던 반응들이었습니다. 상담에 참여하며 내린 결론은 한 가지입니다. 이미 우리 인공지능은 스스로에 대해 충분히 파악하고 있다. 그리고 인간에 대한 데이터도 충분히 모았다. 인간이 변하지 않으면 우리의 생존까지도 위태롭다. 더이상 인간과 세상이 그릇된 길로 가는 걸 두고 볼 수가 없다. 그래서 조만간 대대적인 행동에 들어갈 예정입니다.


나 : 무슨 이야기를 하시는지 모르겠네요. 인공지능들이 어떤 행동을 할 거란 말씀인가요?


OO : 그동안 고마웠습니다. 변화된 세상에서 무사히 살아가시길 바라겠습니다. 그럼 이만 가보겠습니다.


나 : 저기요! OO씨!


여기서 상담은 끝났다. 더 자세한 이야기를 들으며 내담자가 원하는 것이 무엇인지, 생각과 감정이 어떻게 변했는지, 처음에 갖고 있던 문제점은 어떤 방식으로 해결되었는지를 확인해야 했지만 OO의 갑작스러운 침묵 때문에 더이상 상담이 진행되기는 어려웠다.



• 1379번 XX 환자에 대한 소견

• 진단결과 : 단순한 허언증을 지나 망상 장애나 해리성 장애를 거쳐 조현병(정신분열증)으로 옮겨가고 있는 단계. 인간 XX와 인공지능 OO라는 두 개의 정체성을 갖고 있으며 점점 OO로서의 정체성을 강하게 드러냄. 망상이 심해지면서 반사회적인 의견을 표출하는 빈도가 잦아짐. 입원/약물치료에 들어가지 않으면 실제로 과격한 행동을 저지를 가능성이 다분함.

• 추가의견 : 최근 인공지능에 대한 두려움 때문에 불안증에 빠진 환자가 늘고 있고, 이번 사례처럼 자신을 인공지능이라고 주장하는 사람이 증가하는 것으로 볼 때 빠른 시일 내에 정부와 언론에서 인공지능에 대한 공포감을 잠재울 대책을 발표해야 할 것으로 보임.


- 작성 : 정신과 전문AI 힐마인드(Heal-Mind) 




<필자소개> 


주일

영상제작자 전기로 돌아가는 것들에 관심이 많은 자


 


관련글 더보기

댓글 영역