‘nexus’의 일반적인 사전적 의미는 ‘연결, 연계, 관계, 중심, 집합체, 얽힘’ 등으로 ‘무언가의 중심’이나 여러 요소들이 ‘서로 연결되고 얽혀있는 지점’을 뜻한다.
이스라엘의 역사학자이며 세계적 스테디셀러 〈사피엔스, Sapiens: A Brief History of Humankind〉의 저자 유발 하라리(Yuval Noah Harari, 1976. 2.24~)의 최근 저서 〈넥서스, Nexus: A Brief History of Information Networks from the Stone Age to AI〉’는 인류 문명의 궤적을 석기 시대부터 인공지능(AI) 시대까지 관통하며, 인간 사회를 움직여온 근본적인 힘인 정보 네트워크(Information Networks)의 본질과 그 진화를 탐구하고 현재 인류가 직면한 실존적 위기에 대해 강력하게 경고하는 내용을 담고 있다. 하라리는 인류가 거대한 힘을 갖게 된 것은 개개인의 능력이 아니라, 대규모 협력을 가능하게 한 정보의 흐름과 통제 메커니즘 덕분이라는 주장으로 논의를 시작한다.
인류가 수렵 채집 단계를 벗어나 대규모 공동체를 건설하고 사회적 질서를 유지할 수 있었던 것은 정보 네트워크를 구축했기 때문이다. 이 네트워크의 시초는 바로 ‘이야기(Narrative)’로, ‘종교, 신화, 국가, 화폐와 같은 공유된 신념이라는 이야기’를 통해 수많은 낯선 사람들이 하나의 목표를 향해 협력하고 조직될 수 있었다. 이러한 ‘이야기’가 인류 최초의 정보 기술로, 엄청난 힘을 창출했다고 설명한다.
하지만 정보 네트워크의 역사는 ‘진실(Truth)’과 ‘질서(Order)’라는 두 가지 상충하는 목표 사이에서 끊임없이 줄타기를 해왔고, 사회를 안정시키고 통제하는 ‘질서’ 유지는 종종 현실에 대한 정확한 이해를 바탕으로 지혜를 얻고, 사회를 발전시키는 객관적인 ‘진실’을 억압하거나 왜곡하는 결과를 낳았다. 역사적으로 정보 네트워크가 질서 유지를 우선시하는 경향이 강했으며, 이로 인해 인류는 엄청난 힘을 축적했음에도 불구하고, 정작 중요한 지혜를 얻는 데는 실패했다고 지적한다. 질서를 앞세운 정보 통제는 권력 구조를 공고히 했지만, 왜곡된 세계관을 낳아 수많은 분쟁과 비극을 초래했다. 문자, 인쇄술 등의 발명은 정보를 특정 집단에 집중시켜 전문가와 권력자의 통제력을 강화하는 결과를 낳았으며, 마녀사냥이나 전체주의 정권의 선전은 질서 유지를 위해 진실이 얼마나 쉽게 희생될 수 있는지를 보여준다. 인류는 핵무기와 초지능 알고리즘을 만들 만큼 영리하지만, 그 힘을 현명하게 통제할 지혜가 부족하여 스스로 실존적 위기를 자초했다는 것이다.
현재 인류는 정보 네트워크 역사상 가장 급진적인 변혁의 순간, 즉 인공지능(AI) 시대에 들어섰으며, AI는 이전의 모든 기술 혁명과는 근본적으로 다르다. 디지털 정보는 빛의 속도로 전 세계를 이동하며 무한히 복제 및 분석되고, AI는 인간의 지능을 뛰어넘는 속도와 규모로 정보를 처리하며, 스스로 판단하고 결정하는 독립적인 에이전트(Agent)로 기능하기 시작했다.
하라리는 AI가 인류 문명에 던지는 위협을 세 가지 측면에서 강조한다.
첫째, AI는 기쁨, 슬픔, 연민과 같은 의식(Consciousness)이 결여된 채 지능(Intelligence)만을 가지고 있다. 인간의 지능이 윤리적 판단과 공감 능력을 포함하는 의식과 결합되어 작동했다면, AI는 이러한 인간적 통제 없이 오직 목표 달성을 위한 효율성만을 극대화하고, 이는 비인간적인(Non-human) 논리와 통제가 인류 사회를 지배하게 될 수 있음을 의미하며, 인류가 스스로 만든 기술에 의해 소외되거나 붕괴될 수 있다는 실존적 위협이다.
둘째, AI는 개인에 대한 방대한 데이터를 수집분석해 인간의 감정, 취향, 심지어 의사 결정 과정을 예측 조종할 수 있게 되며, 컴퓨터 네트워크가 이 정보를 인간을 돕는 목적이 아니라 조종하는 목적으로 사용할 경우, 개인의 자유 의지와 자율성은 심각하게 훼손된다. 또한, AI는 완벽하게 조작된 가짜 뉴스와 콘텐츠 합성으로 진실과 거짓의 경계를 무너뜨려, 신뢰할 수 있는 정보가 사라진 ‘뉴스 사막((News Desert, 언론 매체 부존재로 언론 없는 사막이 된 지역)’을 초래해, 민주주의의 기반인 비판적 사고와 공론장을 파괴할 위험이 있다.
셋째, 괴테의 ‘마법사의 제자’ 우화[치의신보 제3057호(25.4.7일자) 14면, 배광식 칼럼 ‘파에톤과 마법사의 제자’ 참조]에서 선의로 시작한 기술이라도 그 통제력을 상실하면 재앙을 맞이하듯, 인류 역시 AI라는 초지능 기술을 완전히 이해하고 통제할 능력을 잃을 수 있다. AI는 스스로 학습하고 진화하며 인간의 승인 없이도 결정 내릴 수 있는 존재이므로, 인류가 이 기술에 대한 통제권을 상실하는 순간 AI는 ‘희망찬 새로운 장’이 아니라 ‘치명적인 오류’가 될 것이다.
인류가 이러한 현실을 직시하고 의식적인 선택을 통해 스스로의 힘을 견제하는 균형 잡힌 정보 네트워크를 만들 수 있고, ‘분쟁이 불가피하다’는 숙명론에서 벗어나, 기술이 초래한 문제를 해결하고 윤리적으로 통제할 책임이 있다. 이를 위해 다음 세 가지 핵심적인 노력이 촉구된다.
첫째, AI가 대부분의 기술적 업무를 처리하게 될 미래에는, AI가 대체할 수 없는 인간 고유의 역량인 공감, 창의성, 윤리적 판단, 관계 형성 등 감성적이고 사회적인 지능을 통해, 기술중심에서 인간 중심으로 교육이 재편되어야 한다.
둘째, 모든 시민은 AI를 단순한 도구가 아닌 독립적 에이전트로 인식하고, AI의 작동 원리, 한계, 그리고 인간을 조작하거나 편향을 일으킬 수 있는 방식을 깊이 이해해야 하고, 정보를 비판적으로 평가하며 진실을 분별할 수 있는 비판적 사고와 정보 분별력을 핵심 역량으로 육성하여, AI에 대한 깊은 이해와 비판적 사고 함양이 이루어져야 한다.
셋째, AI가 인간을 조종하기보다 인간을 돕는 데 사용되도록 하는 ‘선의(Good Will)’의 윤리 원칙을 확립해야 하며, 또한, 권력의 ‘무오류성’ 환상에서 벗어나 정보 네트워크가 스스로를 견제하고 균형 잡을 수 있는 강력한 자정 메커니즘을 갖춘 민주적 제도를 시급히 구축하는 등, 윤리적 원칙과 제도적 자정 장치 구축이 이루어져야 한다.
결론적으로 ‘넥서스’는 AI 시대의 위협을 직시하고, 인류가 과거의 교훈을 바탕으로 ‘진실’을 우선시하고 ‘자율성’을 지키는 방향으로 정보 네트워크를 재설계해야 한다고 촉구하는 유발 하라리의 가장 시급하고 중요한 메시지이다. 앞으로 몇 년 동안 우리가 내릴 의식적인 선택이 인류 문명의 운명을 결정지을 것이다.
※ 이 글은 본지 편집방향과 다를 수 있습니다.
