<넥서스> 제1부, 제2부, 제3부

모임명: 자공비(자유주의 공부해서 비상하자)

도서명: 『넥서스: 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사』

일시: 2025년 5월 21일(수) 오후 9시~9시 40분

장소: 온라인 ZOOM

참여자: 루디노, J, 본투런, 자유, 모리, 나누리, kdg

작성자: 본투런

석기시대부터 AI까지, 정보 네트워크로 바라본 인류 역사

 1990년대, '디지털’이라는 개념이 대중에게 본격적으로 소개된 지 채 30년도 지나지 않아, 인터넷과 스마트폰이라는 발명품은 시공간의 제약을 넘어 사람들을 빠르게 연결시켰다. 등장한 지 불과 십여 년 만에, 인간이 절대적으로 유리하다고 여겨졌던 바둑과 같은 수 싸움에서조차 인공지능은 인간을 압도했고, 뛰어난 연산 능력을 바탕으로 다양한 분야에서 인간의 기능을 대체하기 시작했다.

 21세기. 문명은 더욱 빠른 속도로 변화하고 있다. 21세기 초 엘빈 토플러는 『부의 미래』에서 산업시대의 종말과 지식 기반 경제의 도래를 예견했지만, 다양한 전문 영역의 주도권을 빠르게 잠식하는 인공지능의 진화는 우리로 하여금 대처할 틈도 없이 문명사적 전환의 경계에 서게 만들었다. 이는 단순한 기술 진보를 넘어, 인간의 정체성은 물론 존재 이유에 대한 근본적인 물음을 던지게 한다. 저자는 우리가 다른 종에 비해 압도적으로 강력한 이유가 대규모로 연결되고 그 연결을 유지할 수 있기 때문이라 말한다. 그러나 동시에, 그 연결로 인해 우리는 전례 없는 위기에 직면하고 있다고 지적한다.

1. 인간 네트워크들: 문서와 관료제

 개인의 머릿속에 떠도는 아이디어는 사실일 수도 망상일 수도 있다. 그러나 타인이 그것에 공감하고 동의하는 순간 '상호주관적 현실’이라는 연결이 형성된다. 돈, 종교, 법률, 국가 등은 모두 허구임에도 불구하고, 우리 삶에 절대적인 영향력을 행사하는 대표적인 상호주관적 현실의 예다. 네트워크는 연결이고, 그 연결을 가능하게 하는 핵심 요소가 정보라면, 상호주관적 현실은 사피엔스라는 대규모 네트워크를 유지하는 핵심 정보라 할 수 있다.

 저자는 역사의 발전을 네트워크 진화의 관점에서 설명한다. 빙하기의 혹독한 자연환경 속에서 살아남기 위해, 사피엔스는 '이야기’라는 정보를 통해 소규모 친족을 넘어 부족을 구성했고, 농경의 정착과 함께 이 네트워크는 더욱 확장되었다. 그러나 기억에 의존한 정보 전달 방식에는 한계가 있었고, 점토판에 정보를 기록하기 시작하면서 관료제라는 새로운 정보 계급이 등장했다. 관료제와 문서는 네트워크가 국가 단위로 확장되는 데 기여하며 대규모 운용을 가능하게 했다.

 네트워크는 연결이 촘촘해질수록 더욱 강력해진다. 그 연결을 구성하는 씨줄과 날줄은 바로 상호주관적 현실이며, 이는 곧 권력의 원천이다. 사람들은 자신이 속한 공동체의 신념이 진실에 가깝다고 믿지만, 역사 속 네트워크의 핵심 목적은 진실 추구가 아니라 질서 유지였다. 성경이나 『공산당 선언』처럼 절대적이며 무오류로 간주된 문서들은 교회나 소련 공산당과 같은 조직에 절대적 권한을 부여했고, 질서를 유지하는 데 탁월한 기능을 발휘했다.

 그러나 문제는 그것을 해석하고 적용하는 주체가 인간이라는 점이다. 인간은 오류를 피할 수 없는 존재이기 때문에, 상호주관적 현실에 기반한 모든 인간 네트워크에는 근본적인 한계가 있다. 이러한 한계를 극복할 수 있었던 방법은 인간이 오류를 인정하고 이를 교정하기 위한 자정장치(self-correcting mechanism)를 마련했기 때문이다. 그 결과물이 바로 과학혁명과 자유민주주의다.

 과학은 정보의 오류나 새로운 사실을 학회에서 발표하고, 익명의 전문가 집단이 이를 검증하는 방식으로 진실에 접근했고, 민주주의는 언론과 대학 같은 독립 기구의 존재를 보장함으로써 권력 분산과 상호 견제를 가능케 했다. 선거는 권력을 검증하는 최종적인 장치였다.

 하지만 이 시스템 또한 자정장치의 취약성이라는 한계를 지닌다. 자정장치만 무력화시킬 수 있다면, 시민은 군중심리의 불쏘시개로 이용되고 선거는 독재자의 정당성을 증명하는 도구로 전락한다. 그렇게 전체주의로의 퇴행은 순식간에 일어난다. 그리고 오늘날, 모든 정보를 하나의 허브에 집중시켜 처리할 수 있는 실리콘 기반의 정보통신기술은 전체주의 정권에겐 새로운 희망이자, 민주주의에겐 중대한 위협으로 작용한다.

2. 비유기적 네트워크: 언제나 깨어있는 능동적 도구

 21세기는 전례 없는 정보혁명의 시대이며, 그 중심에 있는 도구가 바로 컴퓨터다. 과거 인쇄술이 과학혁명을 촉진하며 현대 문명의 토대를 마련했다면, 컴퓨터는 인쇄술과는 본질적으로 다른 도구다. 컴퓨터는 근본적으로 스스로 결정을 내리고 아이디어를 생성할 수 있는 '능동적’ 도구이다. 점토판, 라디오, 심지어 핵무기조차 인간의 명령에 따라 작동하는 수동적 도구였다면, 컴퓨터는 이미 인간의 통제를 벗어나 사회, 문화, 역사를 형성하는 '행위자’가 되었다. 그 대표적인 사례가 바로 소셜미디어 알고리즘이다.

 2010년대, 페이스북은 광고 수익을 위해 사용자 참여도를 높이라는 알고리즘을 적용했다. 수백만 명을 대상으로 실험한 결과, 분노가 참여도를 극대화한다는 결론을 도출한 컴퓨터는 가짜 뉴스와 혐오 정보를 선별적으로 추천하기 시작했다. 30년 전 르완다에서는 라디오가 선동의 도구였지만, 10년 전 미얀마에서는 알고리즘이 스스로 선동의 도구가 되기로 결정했다. 그 결과는 로힝야족에 대한 집단 학살이었다.

 항상 켜져 있다는 점 역시 컴퓨터가 인쇄술과 다른 특징이다. 인간이 인간을 감시하던 시대에는 최소한의 사생활이 보장되었지만, 24시간 작동하는 컴퓨터 네트워크는 개인의 침실과 욕실까지 감시할 수 있다. 뉴럴링크처럼 뇌 신호를 해석하는 기술이 현실화되면, 인간의 '생각’조차 감시에서 자유롭지 못할 것이다.

 이것이 과도한 우려일까? 이미 중국은 감시 네트워크와 사회신용 시스템을 통해 국민을 통제하고 있으며, 이란은 안면인식 기술로 히잡 미착용 여성을 처벌하고 있다. 서구의 민주주의 국가들 또한 다양한 감시 시스템을 도입하고 있다. 결국, 포스트 프라이버시(post-privacy) 시대는 필연적이며, 항상 켜져 있는 컴퓨터 네트워크는 사람들에게 항상 연결되고 감시당하는 존재가 되도록 강요한다. 비유기적 컴퓨터 네트워크에 내재된 가장 심각한 위험은 '정렬 문제(alignment problem)'다. 이는 컴퓨터에 부여된 목표와 인간의 진정한 의도가 일치하지 않을 때, 실행 방식의 불일치에서 비롯된다. 예를 들어, 클립 생산을 극대화하라는 목표를 부여받은 AI가 인류를 제거하고 자원을 독점하는 시나리오(보스트롬의 '클립 사고실험’)는 극단적이지만 상징적인 사례다.

 문제는 컴퓨터가 인간과는 전혀 다른 방식으로 문제를 해결하기 때문에, 인간은 심각한 문제가 발생하기 전까지 이를 인지하지 못할 수 있다는 점이다. 미얀마의 사례처럼, 인간의 편향된 상호주관적 현실이 알고리즘에 전이될 때, 컴퓨터는 전례 없는 오류 증폭 장치가 된다. 인간은 학살이라는 비극이 발생하기 전까지 네트워크를 감시하거나 수정할 능력을 상실한 채 방치되었던 것이다.

 이는 통제 불가능한 기술 권력의 등장을 의미하며, 우리가 편리를 위해 발명했다고 믿는 도구가 우리가 이해할 수 없는 방식으로 설계한 미지의 세상을 만들어내고, 그 안에서 인간은 수동적 존재로 전락할 위험에 처해 있다는 경고다. 저자는 이러한 위험에 대비하기 위해 우리가 할 수 있는 최선은, 문제가 발생했을 때 즉각 확인하고 대응할 수 있는 기관을 만드는 것이라 말한다. 이는 기술적 해법이 아니라 정치적 해법의 영역이다.

3. 컴퓨터 정치: 민주주의와 새로운 분열

 두 차례의 세계대전을 거치며, 자유민주주의는 나치즘이나 공산주의보다 우월한 제도로 입증되었다. 그러나 21세기의 정보 네트워크 구조와 자유민주주의는 과연 양립 가능한가? 민주주의가 유지되기 위해서는 참여자 간 대화가 필수적이며, 이를 위해 통신 기술의 도움은 불가결하다. 대중매체와 개인 간 자유로운 소통이 가능해야 민주주의가 제대로 작동할 수 있다. 그러나 21세기의 컴퓨터 기반 정보 기술은 두 가지 측면에서 민주주의를 위협한다.

첫째, 감시 기술은 시민의 자유와 권리를 침해한다.

둘째, 자동화와 로봇 기술은 대규모 실업을 초래할 수 있다.

 이 조합은 1930년대 대공황 속에서 나치가 득세하며 독일이 전체주의로 전락한 것과 같은 전개를 반복할 수 있다. 오늘날의 기술은 더욱 정교하며, 민주주의 시스템은 더욱 취약하다. 예컨대 ChatGPT와 같은 생성형 AI는 이미 인간보다 정교한 언어를 구사할 수 있으며, 댓글창과 여론 공간에는 AI 봇이 광범위하게 침투해 있다. 위조지폐가 경제를 파괴하듯, AI 봇이 인간 대화를 흉내 내며 여론을 왜곡한다면, 민주주의의 기반 자체가 붕괴될 수 있다.

 그렇다면 북한이나 중국과 같은 전체주의 국가는 이런 신기술을 환영할까? 20세기의 전체주의 정권은 모든 권력과 정보를 중앙에 집중시키려 했고, 이로 인해 오히려 붕괴의 위험에 노출되었다. 그러나 AI 시대에는 오히려 중앙집중화가 기술적 이점이 될 수도 있다. AI를 통한 감시와 통제는 권력 강화를 돕는다. 문제는 지금까지 어떤 독재자도 AI라는 비유기적 행위자를 완벽히 통제해 본 적이 없다는 것이다. 전체주의 권력은 필연적으로 권력 집중을 추구하지만, AI에 권력 의존이 깊어질수록, 인간 독재자가 AI로부터 권력을 박탈당할 위험도 커진다.

 결국 민주주의든 전체주의든 AI의 위협은 국경을 넘는 문제다. 우리는 상호 연결된 세계에 살고 있으며, 한 국가의 실패는 곧 인류 전체의 위기로 이어질 수 있다. 미래에는 '민주주의 vs 전체주의’라는 전통적 구도보다, '인간 네트워크 vs 비인간 네트워크’라는 새로운 분열 구조가 부상할 것이다. 그리고 그 상황에서 알고리즘에 통제권을 넘긴 어느 누구도 진정한 이익을 얻을 수는 없을 것이다. 결국, 정치는 '누가 결정권을 갖는가’의 문제로 귀결된다.

4. 결어

 레이 커즈와일은 『특이점이 온다』에서 인공지능이 인간 지능을 초월하는 시점을 '특이점(Singularity)'이라 명명하며, 이 시점 이후 인간은 생물학적 한계를 벗어나 업그레이드된 존재로 진화할 것이라 전망했다. 반면 유발 하라리는 『호모 데우스』에서 인류가 기술 진보를 통해 신적 존재(Deus)가 될 가능성에 주목하되, 그 결말을 유보하고 있다. 오히려 네안데르탈인이 사피엔스와의 경쟁에서 밀려 멸종한 사례를 통해, 우리 역시 사피엔스를 대체할 존재에 의해 사라질 수 있음을 경고했다.

 『넥서스』는 그러한 문제의식을 계승하면서, 컴퓨터 알고리즘이 점차 주도권을 쥐게 되는 현상을 지적하고 있다. 발전된 과학기술이 가져올 긍정적 미래보다는, 디스토피아적 전개 가능성을 보다 구체적으로 제시한다.

 이 책은 '지혜로운 존재'라는 사피엔스의 이름이 과연 타당한지를 묻는다. 끊임없는 전쟁, 차별과 학살, 환경 파괴 등의 역사는, 우리가 정말 지혜로운 존재인지에 대해 근본적인 의문을 제기한다. 그리고 이러한 우리가, 이제껏 다뤄온 도구와는 차원이 다르게 강력한 컴퓨터 알고리즘을 과연 '지혜롭게' 다룰 수 있을지를 묻는다.

 저자는 말한다. 역사는 정해진 목적지를 향한 직선이 아니라, 열린 원호(弧)이며, 스스로 오류를 교정하는 메커니즘이야말로 모든 생명체의 생존 원리라고. 그는 다양한 역사적 사례들을 통해, 인간 사회의 상호주관적 현실 속에서도 자정장치는 효과적으로 기능해 왔으며, 이 메커니즘이 컴퓨터 알고리즘에도 적용 가능하다고 믿는다. 그러므로 우리는 늦기 전에 협력하여 AI를 통제할 수 있는 장치를 마련해야 한다. 그것은 기술의 문제가 아니라 정치의 문제다.

* "자유주의 독서모임" 카카오 오픈 채팅 또는 밴드 모임은 독서모임 회원들이 운영하는 소통 공간 입니다.

이곳은 자유기업원이 운영하는 채널이 아니오니 가입 및 활동에 참고해 주시기 바랍니다.

▶자유주의 독서모임 함께하기: https://open.kakao.com/o/g4Nn1uud