AI이후의 세계 - 헨리 키신저 x 에릭 슈밋 x 대니얼 허튼로커 공저

인간이 아닌 다른 지적 존재가 우리 세계를 이끌어 나갈 수 있다는 '상상'에 의외로 익숙한 편이다. 솔직히 인류가 경험한 역사에서는 인간만이 유일한 지성적 존재로서 지금까지의 혁명과 역사를 이끌어 왔었지만, 우리는 '영혼'이나 '신', '운명'이나 '어머니 대자연'과 같은 인간 외의 지성적 존재가 있을 수 있다는 상상을 유지해 왔으며, 이 분야를 상상으로 치부하지 않고 아주 진지하게 탐구해 오기도 했다.
 
그러나 이제, 인류는 자기의 손으로 창조한 지능, 즉 인공지능(人工知能, Artificial Inteligence, 즉, AI)에 의해서 인간이 아닌 다른 지적 존재가 인간 생활의 모든 부분과 역사에 영향을 미치게 될 가능성을 만들어 냈다.
 
이미 AI는 빠른 속도로 우리 인생에 관여하기 시작했다. 아직 실감이 없는 사람들도 있겠지만, 몇 가지 예를 들어 보자면 자동차나 길찾기 네비게이션, 상품 추천, 유튜브 / 넷플릭스 등의 콘텐츠 추천, ChatGPT 같은 생성형 AI, 인공지능 번역 서비스 등등 점차 빠르게 실생활로 들어와서 어느새 당연히 우리 삶에 영향을 주기 시작했다.
 
이제 어딘가 새로운 길을 갈 때, 구글맵이나 네이버 맵, 카카오 맵 같은 네비게이션이 가라는 대로 의존하지 않는 생활을 상상할 수 있는가? 특히 자동차를 이용한다고 할 때, 이들 서비스의 사용자가 많아질수록 AI가 사실상 교통 흐름 전체를 통제하고 원하는 대로 차량 통행량을 몰아 넣을 수 있다는 것에 대해서 생각해 본 적 있는가?
 
온라인 쇼핑몰이나 유튜브, 넷플릭스 등을 보면서 AI가 당신에게 맞춤형 추천 서비스를 제공하는 것을 경험하면서, 점점 무서움을 느끼지 않는가? 사람들이 예전보다 훨씬 양극화 되어 있고, 고립되어 가면서도 타인과 연결하려 하지 않는 것에서는 이러한 AI 추천에 의해 계속 한 쪽으로 편향화 되고, 그럼에도 불구하고 외롭지 않게 계속 시간 낭비하면서 일단 살아갈 수 있게 된 것이 원인이라고 생각하지 않는가?
 
헨리 키신저, 에릭 슈밋, 대니얼 허튼로커 3인이 쓴 'AI 이후의 세계'는 이 문제를 생각하는 데 있어서 아주 중요한 단초를 제공해 준다. 

AI 이후의 세계

(쿠팡파트너스 링크. 이 책은 사서 한 번 읽어 보기 바란다. 위 링크로 사면 작성자에게도 소정의 수수료-몇백원-이 지급됨)
 
단순히 인간 활동을 보조하는 것을 넘어서, AI가 훨씬 월등한 성능과 계산능력, 그리고 지치지 않는 체력 (기계는 잘 필요도, 지치는 것도 없다.)과 감정의 필터가 없는 특징 등을 활용하여 인간의 의사결정에 중대한 영향을 미치게 되는 세계를 진지하게 생각해 보는 것이 이 책의 목적이다.
 
AI가 정치, 외교, 나아가 군사작전의 의사결정과 실행 방식에 영향을 미치게 될 것이 불 보듯 뻔한데 이러한 세상에서 인류는 무엇을 어떻게 준비하고, 어떠한 규제를 마련해야 하는가를 생각해 보자는 것이다.
 
AI가 이제 모든 언어를 완벽하게 번역해 주고 통역해 주는 세계가 도래했다고 생각해 보자. 이제 그 누구도 사실상 외국어를 배울 필요가 없는 그런 세상이 왔다고 보자. 이렇게 생각해 보면, "잘 됐네! 이제 외국어 공부 안해도 되고 좋네!" 라고 간단히 기뻐할 수도 있지만, 그것이 전부가 아니다. 이렇게 해서 모두가 외국어를 공부하지 않게 되어 모국어 외의 외국어를 제대로 할 수 있는 전문적인 통번역가가 극히 드물게 되는 세상이 왔을 때, 우리는 과연 AI가 통역하는 말이 진정 옳은지 그른지를 어떻게 판단할 수 있을 것인가?
 
극히 드문 전문적인 통번역가가 아주 중요한 몇가지 회의 (외교나 전쟁 협상 등)는 검증한다 하더라도, 나머지는? 그냥 믿고 가야 하나? 그리고 이 책에서 지적한 대로, 외국어를 공부하면서 익히는 외국의 문화와 감정에 대한 이해가 완전히 빠져버리게 된 상태에서 과연 부작용이 없을 수 있을까? 문제가 발생하는 경우의 책임 소재는 어디에 있을까? 그리고 그 문제가 기계번역에서 나왔다는 것을 제대로 증명할 능력이 있는 인간이 없는 상황에서 문제의 원인을 제대로 밝히는 것이 가능할까?
 
조금만 생각해 봐도 여러가지 문제들을 쉽게 생각해 볼 수 있다. 물론 이것이 AI를 멈추어야 한다는 논거는 될 수 없다. 이 작업을 인간이 종래처럼 한다고 하더라도 완벽히 이런 문제가 해결되는 것은 결코 아니고, 인간은 인간의 한계로 또 그 나름의 여러 문제를 만들어 내기 때문이다.
 
나아가 이 책에서 진짜 두려워 하듯, AI에 의한 초한전 (超限戰 - 즉, 한계를 뛰어넘은 전쟁)의 발생으로 민간과 군사 목적이 혼용된 공격에 대해서는 어떻게 대비할 것인가. AI가 단순히 군대와 무기체계를 지휘하고 AI가 무기와 전술을 개발하는 것은 분명한 군사목적, 군사행동이기에 오히려 그나마 통제 가능할지도 모른다. 하지만 AI가 초한전을 수행하는 데 쓰인다면? 즉 공격대상 국가 사람들에게 알게 모르게 전쟁을 두려워하는 마음, 전쟁을 피하는 마음, 그리고 상대방 국가를 두려워하거나 아니면 너무 좋아하게 만들어서 알아서 복속하고자 하는 마음을 심기 위한 컨텐츠 추천, 유해한 약물을 긍정하는  컨텐츠의 범람 등을 동시에 가능하게 한다면? 즉, AI가 그런 컨텐츠를 무한 생성하고, 상대방 국가의 AI를 해킹하여 이를 무한 추천하게 한다는 등의 상황을 가정해 보면 이건 어떻게 막을 것인가.
 
또한 AI가 수행하는 군대와 무기체계의 지휘 및 무기/전술의 개발, 발전에 있어서도 거의 자동적, 즉각적으로 AI가 알아서 판단하는 시대가 온다면 그것도 그 자체로 무서울 것이다.
아마 우리 인간은 아무 특이 정황도 제대로 파악하지 못한 상황에서, AI가 대한민국의 대통령과 국방부 장관에게
"36시간 내에 북한의 대규모 도발 발생 가능성 높음. 선제 타격 수행 필요" 라는 조언을 던졌다면, 이를 믿고 허락해야 할 것인가?
아니면 아예 AI에게 자동 대응 태세를 맡긴 경우, AI가 알아서 먼저 공격해 버렸다면 어떻게 할 것인가?
 
이 책에서 던지는 더 무서운 문제는, AI는 지금도 그렇고, 앞으로는 더더욱 정말 "왜 그렇게 판단하고 그런 결론을 내렸는가"라는 질문에 대한 답을 알 수 없어질 가능성이 크다는 것이다.
즉, AI는 정말로 인간이 만들기는 했어도 인간과는 또 다른 '지적 존재'로서 지적활동을 영위해 나갈 가능성이 높고, 이들이 왜 그렇게 작동하는지, 어떤 원리와 사고 방식이 작동하고 있는지는 블랙박스로 존재한 채 알기 어려울 것이라는 것이다.
 
그러나 이미 시대는 시작되었다. AI 는 이미 태어나 버렸고, 이제 돌이킬 수 없다. 마치 비트코인처럼...
일단 우리는 최대한 AI를 사용해 보고, 활용해 보려고 노력하는 것 외에는 사실 딱히 대안도 없다. 할 수 있을 때 조금이라도 적극적으로 AI가 지금 당신에게 도움이 될수 있게 활용하려고 노력하는 것은 이제 생존의 문제가 될 것이다.
 
하지만 한 편으로, AI에게 불가능한  것 - 적어도 AI가 흥미를 느끼지 못하는 부분에 대해서도 관심을 기울일 필요가 있다고 본다. 역사적으로 늘 역발상은 큰 가치를 가져다 준 전략이었다.
 
2020년 이후의 시대를 이해하기 위해서는 개인적으로 꼭 AI와 비트코인에 대한 깊은 관심과 이해가 필요하다고 믿는다. 그런 관점에서도 AI에 관해 재미있는 질문을 던지는 이 책을 꼭 읽어 보길 권한다.

ChatGPT로 생성한 이미지