이선희 /공유서점 사서고생 대표

AI를 사용할 때마다 놀라움과 두려움을 함께 느낀다. 
평생을 연습해도 불가능할 그림을 척척 그려내고, 모르는 것을 물어보면 박사 논문 수준의 대답을 초 단위로 쏟아낸다. 
월 몇 만 원의 비용으로 모니터에 띄워주는 결과물들을 보면 혁명적이라는 단어가 저절로 떠오른다. 
효율의 정점을 찍는 것 같은 AI를 매일 사용하다 보면, 숨 쉬는 공기처럼 당연하게 여겨온 '민주주의'라는 익숙한 제도가 점점 낯설어질 것 같다는 생각이 든다.

# AI의 효율과 민주주의의 비효율

전광석화의 속도로 가성비 있는 결과물을 24시간 내놓는 AI와 비교하면, 민주주의는 고비용 저효율인 제도라는 것을 깨닫게 된다. 
도로 하나를 놓는 데에도 이해관계가 첨예하게 대립하여 몇 년씩 지연되고, 범죄 재판에서는 공정성을 의심받는 판결이 종종 내려진다. 

상황이 이렇다 보니 AI에게 판사와 국회의원을 시키자는 말이 자연스럽게 나온다. 
인간과 달리 이해관계가 없고 속도가 빠른 AI가 불공정하고 느린 민주주의보다 훨씬 공정하고 효율적으로 일 처리를 해낼 것이라는 믿음 때문이다.

도대체 이토록 불공정하고 비효율적인 민주주의가 어떻게 전 세계적인 질서로 자리를 잡을 수 있었을까. 
민주주의가 지구의 질서가 된 시간은 1970년대 남유럽과 중남미의 민주화, 그리고 1991년 소련 해체를 전후로 이어진 최근 40년 가량의 한 순간에 불과하다. 

우리는 전 인류 역사에서 예외적인 순간에 존재하는 예외적인 인류다. 
인류 역사 대부분의 기본값은 전제군주정이나 과두정이었다. 
로마가 공화정에서 전제군주정으로 체제를 바꾼 근본 원인도 팽창한 제국을 감당하기 위해 비효율을 효율로 바꾸어야 했기 때문이다.

이처럼 민주주의는 어차피 역사의 한 점이었으니, 이를 추억으로 남기고 자유를 가성비와 맞바꾼 채 살아가는 편이 낫다는 유혹이 생긴다. 
그러나 지금 우리가 시민의 권한을 양도한다면, 대상은 아우구스투스가 아니라, 인류 문명의 운영체제인 언어를 능숙하게 구사하며 스스로 규칙을 만들어내는 '비인간 행위자(Agent AI)'와 이를 만드는 극소수 빅테크 기업이다.

# 메가머신과 통제 사회: 알고리즘의 노예가 된 개인

루이스 멈퍼드(Lewis Mumford)가 진단한 '메가머신(Megamachine)'의 관점에서 보면, 빅테크와 AI가 결합한 현대 사회는 거대 권력이 인간 조직을 기계의 부품처럼 정교하게 통합하여 운영하는 상태다. 
지금의 사회는 개인이 수행하는 미시적 해결책조차 거대 기계의 논리 안에서 허용된 안전한 변수에 불과하며, 시스템은 이 개인의 도덕적 실천마저 데이터화하여 효율성을 높이는 연료로 사용한다. 

예를 들어 내가 이 AI의 시스템을 비판하는 영상을 만들어서 인스타나 유튜브같은 플랫폼에 올린다 해도 알고리즘은 전혀 개의치 않는다. 
빅테크의 알고리즘은 내용이 어떠하든 사람들을 플랫폼에 오래 잡아둘 수만 있다면 다수에게 추천하고 그사이에 광고를 띄워 수익을 창출할 뿐이다. 
이 체제 아래서 인간이 판단을 AI에게 외주화하는 순간, 인간은 존재 자체로 존엄하다는 당위를 상실하고 전체 시스템의 효율성을 극대화하기 위한 기능적 단위로 전락하고 만다. 

더욱 치명적인 것은 빅테크와 AI가 개인을 통제하는 방식이다. 
질 들뢰즈(Gilles Deleuze)의 지적처럼, 현대는 폐쇄적인 규율 사회가 종언을 고하고 끊임없이 변화하는 수치와 알고리즘을 통해 인간을 변조(Modulation)하는 '통제 사회(Societies of Control)'로 진입했다. 

오늘날 개인의 영향력이 인류 역사상 가장 커진 것처럼 보이지만, 실상은 플랫폼 알고리즘에 저당 잡힌 허상일 뿐이다. 
알고리즘의 추천 시스템을 통해 실시간으로 추적되고 유도되는 환경에서는 개인의 모든 행동이 예측된다. 
영향력이 있던 개인이라 할지라도 알고리즘이 간택의 코드를 거두는 순간 그 영향력은 증발한다. 영향력을 원하는 개인일수록 알고리즘의 노예가 된다. 

# 초연결의 이면은 초취약성

그뿐이 아니다. 이미 우리는 전지구적인 투자와 쇼핑이 가능한 사회에 살고 있다. 
이 말은 인류 문명이 초연결된 상태라는 것이다. 

이런 상황에서 효율을 명목으로 세계의 통제 코드를 소수 빅테크와 알고리즘에 맡기는 것은 문명의 붕괴를 담보로 하는 위험한 행위이고, 효율성을 위해 독재의 권력을 주는 것이 된다. 
민주주의가 비효율적인 이유는, '누가 책임을 질 것인가'를 규명하고 합의하는 과정에 막대한 시간과 비용을 쓰도록 설계되어 있기 때문이다. 
이 비효율을 제거하면 바로 독재가 된다.

따라서 AI 시대에 민주주의는 그 어느 때보다 절실하게 수호해야 할 생존의 가치가 된다. 
거대 기계와 통제 사회의 거시적 위협과 개인의 미시적 대응 사이의 간극을 극복하려면, 시스템이 요구하는 '최적화'나 ‘효율성’을 의도적으로 피해야 한다. 

인간을 인간답게 만드는 희생, 사랑, 신념, 그리고 민주주의는 모두 비효율적이다. 
애초에 민주주의는 효율적이기 위해 태어난 제도가 아니라, 독재를 막기 위해 고안된 '제도화된 지체(Delay)'이자 마찰이다. 
AI 지배의 핵심인 예측 가능성과 효율성에 맞서는 가장 강력한 방어 기제는 바로 ‘인간다운 비효율성’이다. 
인간다운 비효율성은 낭만이 아니다. 그것은 권력의 집중을 견제하고 시스템의 오류를 바로잡을 수 있는 인류의 방파제이다. 

함께 만드는 도서관&서점으로 출발한 공유서점인 사서고생(私書庫生) 회원들이 대전환기의 시대에 인문정신을 놓치지 않기 위해 다양한 활동을 하고 있다 /사진제공=공유서점 사서고생

# AI시대와 민주주의의 공존을 위하여 

AI로 인해 지능은 값싼 공산품이 되었다. 
지능이 흔해진 시대에 가장 소중한 자원은 '책임'이다. 
AI는 노벨상을 받을 논리에도, 쓰레기통에 버려질 의견에도 결코 책임을 지지 않는다. 
책임은 지능을 사용하는 인간의 몫이다. 궁극의 효율은 책임을 삭제함으로써 달성된다. 
그러므로 민주주의 수호는 생활 전반에서 스스로가 판단하고 책임지는 존재라는 것을 자각하고 실천하는 것에서 시작한다. 

AI시대에 민주주의는 위태로운 처지에 내몰리고 있다. 
미국처럼 자본이 주도하는 AI도, 중국처럼 국가가 주도하는 AI도 제국화의 경향은 어느 때보다도 높다. 
사회가 ‘민주주의는 비효율적’이라는 딱지를 붙이는 순간 AI제국화는 본격화될 것이며, 그때부터 우리 문명은 스스로 무덤을 파게 될 것이다. 

따라서 AI시대에 무엇보다 필요한 것이 시민들이 민주주의자로 성장할 수 있도록 제도적으로 지원을 해야 한다. 
인간 문명의 기본은 민주주의임을 기본값으로 내장시키고, 체화시켜 효율성을 내세우는 AI독재와 제국화를 막을 수 있도록 해야 한다. 
그리고 이를 헌법에 명시해 시민들이 민주주의자로 성장할 수 있도록 해야 하는 것이 바로 인류 문명을 지키는 길이다. 

올 초 필자가 창업한 공유서점 사서고생도 이런 맥락의 연장선상에 있었다. 
지역을 중심으로 시민들이 지성과 지혜를 큐레이션함으로 AI시대 아나로그의 연대를 도모하고자 하는 신념으로 함께 한 개인들이 모여 있다.  

우리는 거대한 전환기에 살고 있다. 
이미 AI가 인류문명을 파괴시킬 수도 있을 것이라는 AI전문가들의 경고가 잇달아 나오고 있다. 
AI와 인류문명이 파괴적으로 갈지, 동반자적으로 갈 지는 거대환 전환기에 살고 있는 개인들의 민주주의 감각과 연대의식에 달려 있다.

시사코리아저널  webmaster@koreajn.co.kr

<저작권자 © e시사코리아저널, 무단 전재 및 재배포 금지>