차별과 부당함은 외부에서 오는 것이 아니다. 그들은 ‘그 안에’ 있다. 왜냐하면 기술적 디폴트는 문화적, 사회적 편견에 내재되어 있기 때문이다.

우리가 정치적.경제적.문화적.과학적 위력으로서의 AI와 맞서야 하는 것은 이 때문이다. 얼론드라 넬슨, 투이 린 투, 얼리샤 헤들럼 하인스가 말하듯이 '기술을 둘러싼 투쟁은 경제적 계층 이동성, 정치적 운신의 폭, 지역사회 건설을 위한 더 큰 투쟁과 언제나 연결되어 있다'.

고대 그리스 신화에서 지구 위를 걸은 최초의 ‘로봇’은 청동 거인 탈로스(Talos)이다.

철학의 의무는 오해에서 생긴 환영(幻影)을 제거하는 일이다.

수학자들이 도박과 우연성에 기반을 둔 게임, 특히 장기적인 결과의 가능성을 신중하게 고려하기 시작하면서 최초의 진정한 확률 이론이 등장했다. 확률 이론의 선구자들은 인류가 우연한 사건을 다루는 방법이던 직관, 미신, 적당한 추측이라는 혼란스러운 잡동사니에서 합리적인 수학의 원리를 추출해야 했다. 복잡할 대로 복잡한 사회, 과학 문제에 대한 대처부터 시작하는 것은 좋은 생각이라 할 수 없었다.

세계가 창조된 이래 가장 현명했던 자들이 연구하고 꿈꾸어 온 것이 이제 내 손안에 있었다.

안드로이드도 꿈을 꾸나? 릭은 속으로 물었다. 그건 분명해. 그들이 때때로 주인을 죽이고 이곳으로 도망치는 이유도 그것이니까. 더 나은 삶, 노예 신세가 아니라. 루바 루프트처럼 말이야. '돈 조반니'와 '피가로의 결혼'을 노래하는 거지. 황량하고 바위투성이인 지표면을 힘들게 오가는 것 대신에 말이야. 근본적으로 거주가 불가능한 식민 세계에 사는 것 대신에 말이야.

생각의 전체 과정은 여전히 우리에게 매우 신비롭지만 생각하는 기계를 만들려는 시도는 우리 자신이 어떻게 생각하는지 이해하는 데 큰 도움이 될 것이라 믿습니다.

우리에게 어떤 의미를 갖는 논리는 인간의 마음―따라서 인간의 신경계―에 거두어들이지 못하는 것은 어느 것도 포함할 수 없다. 인간이 논리적 사고라고 하는 활동을 하는 한 모든 논리는 인간 마음의 한계에 따라 제한된다.

생존의 인간 : 생존의 인간은 위계화된 권력의 메커니즘 안에서, 조합된 간섭들 안에서, 프로그램된 사상가들의 참을성 있는 프로그래밍만을 통해 정돈될 수 있는 억압적 기술의 혼돈 안에서 잘게 부서진 인간이다.

컴퓨터에 대한 접근은 물론이고 세상이 돌아가는 방식을 가르치는 무엇이든, 그에 대한 접근은 무제한적이고 전적이어야 한다. 직접 해보라는 강령(Hands-On Imperative)을 언제나 지켜라! 모든 정보는 공짜라야 한다. 권위를 불신하라! 분권을 촉진하라! 해커들은 학위, 나이, 인종, 직위 등과 같은 엉터리 기준이 아니라 해킹 능력으로 판단한다. 컴퓨터로 예술과 미를 창조할 수 있다. 컴퓨터가 우리 삶을 더 낫게 바꿔 줄 것이다.

“애플의 많은 사람들은 웬만큼 돈을 만지기 시작하자 이전과는 다른 삶을 살기 시작했습니다. 고급 롤스로이스 자동차를 몰기 시작하고 집도 여러 채 장만하더군요. 각각의 집에 지배인도 두고, 나중에는 그 지배인을 관리할 또 다른 누군가를 고용하고요. (...) 나는 그런 삶을 원하지 않았습니다. 그건 정신 나간 짓이에요. 나는 돈이 내 인생을 망치게 만드는 일은 없을 거라고 다짐했습니다.”

'이상적인 사무실'이라는 인공 세트장이 이 책의 배경이다. 나는 브랜딩의 언어를 빌려, 자기계발 산업과 경영학 용어로 분장한 기업가적 클리셰들을 비틀어 무대 위 앙트레프레카리아트를 소개할 것이다. 앙트레프레카리아트 - 이제 우리 모두 기업가. 하지만 아무도 안전하지 않다.

지금 우리에게는 이 새로운 자본주의 형태의 정체를 그들의 용어, 그들의 언어로 파악하는 것이 중요하다. 그러려면 실리콘밸리로 다시 눈을 돌려야 한다. 그곳에서는 모든 일이 너무나 빠르게 일어나므로, 방금 무슨 일이 일어났는지 아는 사람이 거의 없다. 실리콘밸리는 어느 구글 엔지니어가 생생하게 묘사했듯이, “꿈의 속도”로 진보가 일어나는 곳이다. 여기서 나는 실리콘밸리에서 일어나는 일을 느린 속도로 재생함으로써 그러한 논쟁을 위한 공간을 넓히고 이 창조물들의 가면을 벗겨 불평등을 증폭시키고 사회적 위계를 강화하고, 배제를 심화하고, 권리를 강탈하고, 개인의 삶에서 누구를 위한 것과 상관없이 사적인 모든 요소를 제거하는 그들의 경향을 드러내려고 한다.

디지털 기술과 매체는 자유만이 아니라 평등과 정의에도 영향을 미친다. 반 다이크에 따르면, 네트워크 기술은 생산과 분배를 보다 효과적이고 효율적으로 만들지만 동시에 불평등을 증가시킨다, “네트워크 기술은 전 세계적으로는 국가들의 결속과 함께 불균등한 발전을 촉진시키는 경향이 있으며, 지역적으로는 전 세계의 정보 인프라에 직접적으로 연결되는 지역과 그렇지 않은 지역으로 나눠 이중 경제를 형성하게 돕는다.”(336) 경제발전의 이러한 차이는 발전 ‘속도’가 서로 다른 사회를 만든다. 어떤 사람은, 또 어떤 국가는 다른 사람보다, 그리고 다른 국가보다 기술과 매체로부터 더 많은 혜택을 받는다.

˝직업이 사라진다는 것은 생계 수단이 사라지는 것만이 아니라, 그 노동을 통해 성장하고 완성되어 가던 특정한 종류의 인간 역시 사라지는 것을 뜻한다˝

알고리즘의 자동 관리라는 비즈니스는 그 자체로 카프카적이다. 머신러닝 알고리즘은 우리의 미래를 수학적으로 정확히 예측해 사회경제 질서를 정교하게 조정해 준다고 약속하지만 정작 거기서 나오는 강령은 강압적인 데다 종잡을 수 없다.

독서는 일론에게 심리적 안식처가 되었다. 때때로 그는 오후부터 밤늦은 시간까지 9시간 내내 독서에 몰두하기도 했다. 가족 전체가 누군가의 집에 저녁 초대를 받기라도 하면 일론은 그 집의 서재로 사라지곤 했다. 시내에 나간 날에는 거리를 배회하다 결국에는 서점에 들어가서 바닥에 앉아 자기만의 세계로 빠져들곤 했다. 그는 만화책도 깊이 탐닉했다. 하나의 목적에 매진하는 슈퍼히어로들의 열정이 특히 그를 매료시켰다. “다들 항상 세계를 구하려고 하잖아요. 생각해보면 속바지를 겉에 입거나 몸에 딱 붙는 철제 수트를 입은 게 이상하지만, 어쨌든 세상을 구하려고 애쓰잖아요.” 일론의 말이다.

올트먼은 사실 코드를 작성하지 않았다. 대신에 그는 선지자이자 복음 전도사, 거래의 해결사였다. 19세기라면 아마 〈흥행사〉라고 불렸을 것이다. 수년간 일류 스타트업 액셀러레이터 Y 콤비네이터에 조언을 해주고 이후 직접 운영하면서 갈고닦은 그의 전문 분야는, 거의 불가능한 일을 붙잡고 다른 사람들에게 실은 가능하다고 설득한 다음, 많은 돈을 모아서 실제로 가능하게 만드는 것이었다.

나는 2045년을 특이점의 시기로 예상한다. 인간 역량이 심오하게, 돌이킬 수 없는 변환을 맞는 때일 것이다. 2040년 중반이 되면 비생물학적 지능이 세상을 지배하고 있겠지만 그래도 그건 여전히 인류 문명일 것이다. 인간은 생물학을 초월하는 것이지, 인간성을 초월하는 게 아니다.

만약 거시 구조의 발전 속도를 마음대로 바꿀 수 있는 마법적인 제어기를 가지게 된다면 어떻게 하겠는가? 가속할 것인가, 감속할 것인가, 그도 아니면 그대로 둘 것인가?

21세기 전쟁터의 풍경은 이전 시대와 사뭇 달라졌다. 가장 두드러진 변화는 바로 드론의 등장이다. 드론, 즉 무인항공기는 말 그대로 조종사가 타지 않고 원격으로 조정되는 비행 물체를 뜻한다. 원래는 정찰용으로 개발되어 먼 거리에서 카메라로 정보를 수집하는데 주로 쓰였지만, 기술의 발전으로 이제는 미사일이나 폭탄을 탑재한 자율무기가 되었다.

한 자율무기 전문가는 이렇게 말했다. “인간보다 빠르게 반응하며 서로 적대시하는 알고리듬이 상황을 감시하는 장면을 상상하기란 어렵지 않습니다. … 인간으로서 우리가 더 이상 통제할 수 없는 속도로 전쟁이 진행된다면, 그것이야말로 정말 끔찍한 일입니다.” 기존의 자율 드론이나 탱크 사이에서 통제를 벗어난 ‘AI-AI 전투’가 벌어진다면 심란하지 않을 수가 없다.

데이터 센터는 세계 최대의 전기 소비처 중 하나다. 이 다층적인 기계에 동력을 공급하려면 석탄, 가스, 원자력, 재생에너지 등의 전력이 필요하다. 일부 기업은 대규모 연산의 에너지 소비에 대해 점차 적극적으로 대응하고 있는데, 애플과 구글은 탄소 중립(탄소배출권을 구입하여 자사의 탄소 배출을 상쇄한다는 뜻)을 공언하고 있으며 마이크로소프트는 2030년까지 탄소 네거티브를 실현하겠다고 약속했다. 하지만 사내 직원들은 환경 죄책감을 덜기 위해 면죄부를 살 것이 아니라 총 배출량을 감축하라고 요구했다. 게다가 마이크로소프트, 구글, 아마존은 모두 화석연료 기업들이 땅속에서 연료를 찾아내고 채굴하는 일을 지원하기 위해 자사의 AI 플랫폼, 엔지니어링 인력, 인프라에 대한 이용 권한을 부여함으로써 인류발 기후변화에 가장 큰 책임이 있는 산업을 더욱 육성하고 있다.

“사실 저는 AI가 인건비보다 더 비싸도 AI를 쓸 겁니다. 요즘 사람 쓰기가 얼마나 힘든 줄 아십니까? ‘워라밸’이니 뭐니 하면서 야근도 잘 안 하려 하고, 아무리 급하다고 해도 자기 일이 아니면 쏙 빠지고. 이게 뭡니까? 도대체가 회사를 생각하는 마음이 없지 않습니까? 오히려 AI가 애사심이 더 큽니다. 걔는 군말 없이 24시간 내내 쉬지 않고 일한다고요. 어떤 멍청이가 AI가 아닌 인간을 쓰겠습니까?”

경험은 최상의 교사일 뿐만 아니라 유일한 교사이기도 하다. 잭스를 키우면서 애나가 얻은 교훈이 하나 있다면 지름길 따위는 존재하지 않는다는 사실이었다. 이 세상에서 이십 년 동안 존재하면서 습득하는 상식을 얻고 싶다면 그 일에 이십 년을 들여야 한다. 이에 상응하는 자기 발견적 방법론을 그보다 더 짧은 시간에 조립할 방도는 없다. 경험은 알고리즘적으로 압축할 수 없기 때문이다.
설령 그런 경험 전체를 스냅샷으로 찍어서 무한대로 복제할 수 있다고 해도, 또 그 복제들을 싸게 팔거나 공짜로 배포할 수 있다고 해도, 그 과정을 통해 태어난 디지언트들은 모두 각자의 인생을 살아왔다는 얘기가 된다. 각자가 과거에 세계를 새로운 눈을 바라보았고, 소망을 이루거나 이루지 못했고, 거짓말을 하거나 거짓말을 듣는 것이 어떤 기분인지 터득했다는 뜻이다.

저자 없는 글이 창궐할 때 저자성은 어떻게 정의되어야 할까요?

즉, 제약업계와 건설업계에서는 기업들의 이익에 반해 어느 정도 공적 관리 체제가 마련되어 있고, 많은 사람이 이를 당연하게 여긴다. 이게 ‘정상’ 아닐까? 청소년 수백만 명이 매일 몇 시간씩 사용하는 인터넷 사이트에 대해서도 이런 일을 해야 하지 않을까?

우리는 늘 인간이었다거나 단지 인간일 뿐이라고 누구나 확실하게 말할 수 있는 것은 아니다. 서양의 사회적, 정치적, 과학적 역사에서 과거뿐 아니라 지금도 어떤 이들은 충분히 인간으로 인정받지 못하고 있다.

근대인의 이상형은 전진을 멈출 수 없는 “근대화 전선”을 통해 과거에서 미래로 향해 가는 사람이다. 그러한 개척 전선, 그러한 프론티어 덕분에 근대인은 자신에게서 떨쳐내야 하는 모든 것을 “비합리적인” 것으로, 진보하기 위해 지향해야 하는 모든 것을 “합리적인” 것으로 규정할 수 있게 된 것이다. 이처럼 근대인은 자유를 향해 나아가기 위해 과거에 대한 애착에서 벗어나고 있던 사람이었다. 요컨대 어둠에서 빛으로, 계몽으로 향해 가고 있던 사람들이었다. 내가 이 특이한 좌표계를 정의하기 위한 시금석으로 ‘과학’을 사용한 것은 과학에 대해 생각하는 방식의 혼란이 근대화의 장치 전체를 위협했기 때문이다. 사람들이 사실과 가치를 다시 뒤섞기 시작한다면, 시간의 화살은 비행을 중단하고 주저하며 사방으로 꼬여서 마치 스파게티 한 접시처럼 보이게 될 것이다.