Source: Could a Second SVB Crisis Emerge? High-Risk AI Trading Standardizing Investor Strategies Puts Regulators Worldwide on Alert | The Economy
13세기에 남은 기록들을 보면, 옥스퍼드 대학에서 법학 교육을 공식적으로 시작한지 50년, 100년이 지나서야 인권이라는 개념이 막연하게 정착되었고, 다시 500년이 더 지나 미국 독립전쟁, 프랑스 대혁명이 일어났던 1700년대에 들어서 겨우 인류가 인권이라는 개념을 법학 안에서 활용하게 됐음을 확인할 수 있다.
법조인도 아니고, 관련 연구를 깊게 한 사람은 아니지만, 그 사이 기간에 남은 저술들을 보면서 막연히 짐작해 본 당시 시대 상황상, 계급 사회에서 노예와 일반인, 귀족 계급 간의 사회적 시스템 속에서 인권이라는 개념이 생긴다는 것 자체가 기적이지 않았을까는 생각도 든다.
그렇게 인류가 개개인의 의지와 역량을 인정해주는 열린 사회, 민주주의 사회가 된지 길어봐야 100년에서 200년 남짓 밖에 되지 않았는데, 그간 정치적인 민주주의를 자본주의 시장에도 도입하려던 수 많은 사회 실험들은 대부분 실패했고, 살아남은 시스템 속에서 품삯을 받던 노예 대신 월급 노비로 대체된 삶을 살고 있는 정도가 1700년대부터 시작된 인권 투쟁에서 현재까지 얻어낸 성과다.
유명한 대학을 나왔는지, 유명한 직장을 다니는지 아닌지로 사람을 평가하는 한국식의 유명을 잣대로 삼는 왜곡된 Wisdom of Crowds가 결합된 부분을 분리시켜보면, 결국은 자본가 계급으로 대체된 귀족 밑에서 학력, 대학이라는 신호 효과로 얻은 직장에서 받는 품삯으로 생존을 모색하고 있는 것은 크게 달라지지 않았다고 볼 수 있다.
굳이 차이가 있다면, 지난 1000년동안 발전한 법 시스템이 노동법이라는 걸로 인권을 보호해주는 것인데, 한국에서 지난 몇 년간 해봤던 사회 실험을 통해서 최저임금x2를 통해 최저 생계를 보장해야된다던 인권주의자들의 주장은 기업들의 탈한국 및 사업 포기 현상, 해외 시장 경쟁 도태 등에서 보는 것처럼 결국은 자본의 논리를 벗어날 수 없다는 것도 확인하게 됐다.
기계처럼 일하던 인간
저 시스템 속에서 자본을 갖지 않은 노동자가 살아남는 방법은 노동을 판매하는 방법 밖에 없었는데, 사실 대부분의 업무는 기계 같은 반복적인 작업이었다.
한 시간 급여가 얼마라는 서구식 계산법, 한 달 급여가 얼마라는 한국식 계산법도 결국엔 1시간, 1일에 처리할 수 있는 물량이 얼마나 되느냐는 근거 위에서 출발한 것이다.
보통 푸념처럼 기계처럼 일했다는 식으로 이야기를 하는데, 정말 기계처럼 일을 하는 것이 산업 혁명을 거치면서 인류가 만들어낸 노동 임금 계산 방식이었다.
그 이전에 농경 사회에서 하루 품삯을 계산하던 것까지 거슬러 올라갈 수도 있겠지만, 18세가 프랑스 대혁명 무렵부터 20세기 초까지 만들어진 인권 관련 법안들은 공장 노동자를 기준으로 만들어졌기 때문에 이렇게 정리해봤다.
이렇게 정착된 시스템 속에서 직업의 귀천(?)을 가르는 기준이
- 급여를 얼마나 많이 받을 수 있는가
- 기술적으로 남들이 쫓아갈 수 있는 내용인가
- 깔끔한 정장을 입고 일하나 vs. 더러워진 옷을 입고 일하나
로 구분되는 시대가 온 것도 같은 맥락의 연장 선장에 있을 것이다.
그렇게 만들어진 시스템이 100년을 더 버텼는데, 이제 AI 도입이 확산되면서 다음 100년, 아니 50년 안에 저 시스템이 없어지겠구나는 생각이 든다.
인간처럼 일하는 기계
배달업체에서 건 당 알바로 일을 하는 분들이나 물류 창고에서 물건을 분류하고 옮기는 업무하시는 분들이 힘들다면서 불평하는 글들을 많이 본다.
그런데, 자본가 계급이 가장 먼저 대체하고 싶은 인력 집단이 바로 그런 기계처럼 일하는 집단이다.
기계처럼 일하는 집단
왜? 간단하다. 기계로 대체하면 더 저렴하고, 개발 난이도가 낮기 때문이다.
일단 반복 가능해서 계속 쓸 수 있는 기계라 평균 단가가 매우 저렴해진다.
거기다 알고리즘 개발 작업이 100개 국에서 사업하면서 국가 별 조세 협약을 다 따져가며 절세 방식을 고민해야하는 법무, 세무 전문가들의 업무를 대체하는 것보다 훨씬 더 쉽다.
아직까지 우리가 기계로 완전히 대체된 시장을 못 보고 있는 가장 큰 이유는 기계의 완성도가 인간의 완성도를 완전히 따라오지 못했기 때문이고, 기계 도입 비용이 비싸기 때문이다.
그런데, 이건 시간의 문제라는 걸 매일 같이 쏟아지는 기술로 막연하게나마 짐작할 수 있을 것이다.
기계가 어디까지 인간을 대체할 수 있을까를 따져보다보면, 기계에 어떻게 인간을 대체하는 지식을 입력했는지를 확인해봐야 하는데, 최근 AI 알고리즘이 돌아가는 방식을 따져보면 금방 결론을 내릴 수 있다.
평균 인간을 학습한 기계
기계가 인간을 따라하도록 만드는 최근의 알고리즘들은
- 반복 데이터를 통한 평균적인 정보의 재생산
- 유사 데이터를 통한 근사치 정보에 대한 대응력
을 위주로 만들어져 있다.
좀 더 쉽게 표현하면, IQ 100인 사람들이 할 수 있는 일 증에 반복이 가능한 일은 기계가 다 할 수 있다는 이야기다.
사실 IQ 100이 아니라, IQ 150인 사람들이 하는 작업도 반복이 가능한 일이면 모두 기계가 다 할 수 있다는 이야기라고 표현하는 것이 좀 더 적절할 것 같다.
핵심 키워드는 반복이 가능한 일이다. (IQ 150이 아니다)
위로 다시 돌아가면 그간은
기계처럼 일했다
가 직장에 대한 불만의 표현이었는데, 바로 그 지점이 기계가 인류의 노동을 대체하는 지점이 된 것이다.
이제는
기계처럼 일하면 곧 대체된다
라고 표현하는 것이 맞는 시장이 됐고, 좀 더 냉정하게 말하면
기계가 할 수 있는 일이면 다 대체된다
로 표현하는 것이 더 맞을 것이다.
반복 가능하지 않은 작업 - 추상화가 되는 작업
반복 가능하지 않으면 무조건 안전한 직업일까?
사실은 추상화가 가능하냐 여부, 그렇게 추상화된 상태에서 반복 가능하냐 여부가 더 핵심을 짚는 표현이다.
예를 들면,
- A군은 기존 글에 관련된 새로운 자료를 추가하는 Wikipedia 같은 업무를 하고 있고
- B양은 기존 글을 다른 언어로 번역하는 작업을 하고 있다
라고 해보자.
A군은 검색 능력, 글을 추가 작성하면서 기존 글과 동화되도록 만드는 능력이 중요하고, B양은 여러 언어를 쓸 줄 알고, 해당 언어적인 표현을 잘 살릴 수 있느냐가 핵심적인 능력이다.
여기에 검색 자동화 기술과 번역 자동화 기술이 추가로 도입된다고 해보자.
둘 모두 디지털 자료가 방대해지고, 방대한 데이터를 비교하는 알고리즘의 시대가 오면서 모두 현실화된 기술들이다.
위의 기술들이 추가되면 A군과 B군의 업무 역량은 아래와 같은 공통 업무로 정리될 수 있다.
- 기존 글에 XXX, YYY 기술을 추가해서 콘텐츠를 변형한다.
이렇게 기술적인 변화가 하나 더 추가되면서 둘은 공통 업무가 됐고, 기술력을 갖춘 회사들은 A군, B양을 해고하고 알고리즘만으로 회사를 운영할 것이다.
굳이 따지자면 검색 자동화 기술과 번역 자동화 기술을 더 고급 수준으로 끌어올릴 수 있는 고급 기술력 1명을 채용하려고 하지 않을까?
반복 가능하지 않은 작업 - 추상화를 해도 반복 적용이 안 되는 작업
그럼 위의 고급 기술력 1명의 업무도 추상화가 되면 기계로 대체되는 것이 아니냐는 반문이 나올 수 있다.
일단, 한국 기업들이 AI 기술 개발을 포기하고 해외의 LLM 서비스들에 API를 연동하거나, 그들이 만들어서 공유한 공짜 모델들을 가져다가 붙여쓰고 있는데, 당연하겠지만 이런 업무는 1명이 수십, 수백, 수천 개의 회사들에 대응할 수 있는 서비스들이다. 당연히 쉽게 대체가 된다. 한국보다 인건비가 저렴한 동남아, 인도로 이미 넘어간 경우들이 많고, 경쟁이 더 심해질수록 단가는 더 내려갈 수밖에 없는 작업이 된다.
반면, 저 LLM을 직접 개발하고 알고리즘을 뜯어고치는 업무는 어떻게 될까?
이미 LLM 관련해서 수많은 논문이 나와있고, LLM이 근간으로 삼고 있는 Dynamic Optimization이라는 수학은 1800년대 중반부터 인류가 알고 있던 수학(Hamiltonian)을 쓴다.
그렇지만 핵심 지식이라고 할 수 있는 Hamiltonian을 잘 아는 수학자라고 해서 모두 LLM을 잘 하기는 어렵다. LLM 나름대로 언어 처리와 관련된 데이터 베이스 구조, 데이터 변형 방식 등등의 컴퓨터 과학 지식도 필요하고, 계산 비용을 줄이면서 계산 정확도 손실을 최소화하는 계산 과학 지식도 필요하다.
관련된 수많은 지식들이 수학이라는 추상화된 근간을 공통적으로 갖고 있지만, 정작 쓰임새가 다르니 새로운 지식들을 다 배워야하고, 주어진 데이터마다 대응 방법이 달라지니 어쩔 수 없이 새로운 고민, 새로운 추론을 투입하면서 시행착오를 겪어야 한다.
기계처럼 일하지 않는 인간, 인간처럼 일할 수 없는 기계
사실 인류가 오래전부터 원했던 것은 기계에게 반복 작업, 단순한 작업을 맡기고, 좀 더 도전적인 작업, 창의적인 작업을 하는 것이었다.
그런데 그런 서비스들은 IQ 100±10, 넓게잡아 ±20인 사람들에게 광범위하게 소비되기 어렵다. 결국 큰 돈이 되지 않는 사업에 만족하는 경우가 아니면 다른 방향을 찾게 되고, ±10 미만의 사람들이 소비하는 상품들 위주로 시장이 구성될 수밖에 없었다.
이런 시스템이 그간 유지될 수 있었던 가장 큰 이유는 ±10, 혹은 ±20인 사람들이 노동 소득을 갖고 있었기 때문이다. 그들이 구매라는 행동으로 상품에 시장성을 부여하고, 시장성이 한국식으로 치면 그거 유명함? 이라는 Wisdom of Crowds라는 권위로 바뀔 수 있었던 것이다.
조금 더 역사적인 맥락을 동원하면, 귀족 중심 사회에서 일반 대중 중심 사회로 권력이 넘어갔음을 보여주는 가장 강력한 증거가 바로 Wisdom of Crowds가 권위로 바뀌는 대중소비 시스템이 작동했던 것이었다. 대중이 임금으로 (작게나마) 자본을 축적했기 때문이다. (참고로, 모차르트, 베토벤 등의 천재 음악가들은 도쿄 스타디움을 가득 채우는 5만 명의 티켓 구매가 아니라, 신성로마제국 황제 및 귀족들, 성직자들 등의 일부 권력 집단들의 문화 권력 욕심으로 선택해 준 덕분에 먹고 살 수 있었다.)
그런데 요즘 실업률이 30%, 심하게는 50%가 넘는다는 2030 세대의 소비 패턴에서 확인할 수 있는 것처럼, 노동 소득이 없어진 그룹은 구매라는 행동 패턴으로 권위를 부여하지 못하게 됐다. 그 그룹이 구매 대신에 보여주는 행동은 SNS에 글 올리기 같은, 속칭 입으로만 구매 같은 행동인데, 이건 서비스 제공자들이 장기 존속 가능한 모델이 아니다.
결국 큰 돈이 되지 않는 사업에 만족하는 경우가 아니면 다른 방향을 찾게 되고…
향후 10년, 20년간 이런 현상은 더 심해질 것이다.
왜? 알고리즘이 만들어낸 반복 결과물이 ±20인 사람들의 노동의 결과물보다 더 퀄리티가 높아지고 있기 때문이다.
당신이 집 앞의 20,000원 짜리 갓 튀켜낸 치킨을 구매하는 대신 5,000원짜리 냉동 포장 치킨을 구매하는 선택을 하는 것과 마찬가지로, 자본가들도 이미 인간 노동력보다 알고리즘을 택하고 있고, 반복 업무는 알고리즘으로도 충분히 좋은 결과물을 뽑을 수 있는데, 그 결과물의 품질이 계속 더 업그레이드 되고 있기 때문이다.
조만간 노동 비용이 삭제된 많은 상품들의 생산 단가 하락과 더불어 50년이 지나지 않아 인류에게 남은 노동은 인류가 인류 역사 내내 원했던 노동 밖에 없을 것이다.
- 기계 같지 않은 노동
그런 노동을 해야 기계가 인간을 대체할 수 없다.
이미 LLM에 빠르게 잠식 당하고 있는 변호사 업무를 봐도, 단순 기술적인 법리 판단 위에 있는 복잡한 법률 고민을 할 수 있는 인력들이 아니면 그 수명은 곧 끝날 거라는 것을 짐작할 수 있는데, 언어 처리를 넘어선 수 많은 다른 데이터들에 기반한 인류의 다른 일자리도 사정은 크게 다르지 않을 것이다.
남들이 하는 거니까 좋은 거겠지? - 남들이 하는 건 AI도 다 한다
한국 사회를 월급 노비 틀 밖에서 바라본 지난 10년 남짓의 세월을 돌이켜보면, 한국은 굉장히 심하게 Wisdom of Crowds에 의존하는 사회라는 결론을 얻을 수 있다.
남들이 쓰고 있으면, 많은 사람들이 쓰고 있으면, 알고 있으면, 그건 좋은 상품
이라고 생각한다.
자기에게 좋은지를 판단하는 역량이 매우 부족하다보니 자신의 선택이 맞는지를 가늠하는 잣대로 남들의 선택을 쓰는 것이다. 다음 기사의 홍보가 돌아가는 사례가 좋은 예시가 될 것 같다: 바이든도 속였던 ‘테라노스’ 전CEO 엘리자베스 홈즈, 135개월 징역형 - 유니콘팩토리
품질의 완성도, 품질의 전문성을 홍보하는 것이 아니라, 포장지를 잘 씌우는 마케팅 위주로 돌아갈 수밖에 없는 시장은 사기꾼을 제외하면 모두가 손해를 보는 시장인데, 아이러니하게도 그런 시장을 Wisdom of Crowds에 의존하는 소비자들 스스로가 만든 것이다.
그런데, 위의 인간처럼 일하는 기계 논리를 따르면, 평균 인간이 하고 있는 행동들은 기계가 다 대체할 수 있고, 결국 Wisdom of Crowds 기반의 논리만 따라가고 있는 사람들이면 모두 대체가 될 것이라는 추론도 가능하다.
이것이 추론에서 결론으로 넘어가는 증거가 나오는데 앞으로 10년이 남지 않았다고 생각하고, 결론이 아니라 과거 사실에 대한 해석으로 넘어가는데는 길어봐야 50년이 안 남았다고 본다.
오늘은 AI 연구자가 할 이야기지만, 내일은 언론사가 받아 쓸 이야기고, 모레는 역사학자가 기록할 이야기에 불과하다는 뜻이다.
어느 나라, 어느 문화권, 어느 인종 사회를 가건 Wisdom of Crowds에 의존하는 그룹들은 존재한다. 단지 좀 더 심한 사회가 있고, 덜 심한 사회가 있을 뿐이다. 어느 쪽이 됐건 Wisdom of Crowds에 의존하는 인생을 사는 분들은 더더욱 자본 시장에서 구매라는 권위 부여 행동을 하기 힘들어질 가능성이 높다.
왜? 기계처럼 일하던 인간은 인간처럼 일하는 기계에게 단가 경쟁에서 밀리고 있기 때문이다.
자본주의 시장에서 구매를 통한 권위 부여가 작동하지 않는 사회는 어떻게 될까?
섣부른 짐작으로는, 앞으로 인류 사회는 자본자/노동자에서 3단계로 구분된 사회로 이전될 거라고 생각한다.
- 자본가
- 노동 시장에 살아남은 인력 - AI 대체 불가능한 인력
- 노동 시장에서 퇴출된 인력 - AI로 대체되는 인력
한편에서는 인구 감소를 걱정하지만, 감소되는 부분이 2번이냐 3번이냐에 따라 그 나라의 운명이 바뀔 거라고 생각한다.