https://intelligence-curse.ai/

 

지능의 저주

루크 드라고(Luke Drago)·루돌프 라이네(Rudolf Laine) 지음

 

우리는 곧 지능의 시대에 살게 될 것입니다. 이 정보를 어떻게 활용하느냐에 따라 당신의 역사가 달라질 것입니다.

 

범용 인공지능(AGI)의 임박한 도래는 많은 이들을 가능한 한 빨리 권력의 지렛대를 움켜쥐려는 경쟁으로 내몰고 있습니다. 성공 시 모든 업무를 포괄적으로 자동화할 수 있는 프로젝트에 뛰어드는 셈이죠. 누가 먼저 이 능력을 손에 넣느냐를 놓고 수조 달러 규모의 군비 경쟁이 벌어지고 있으며, 그것을 확보하면 또 수조 달러의 이익이 따라올 것입니다.

 

맞습니다, 당신은 일자리를 잃을 겁니다. 하지만 그것만이 아닙니다. 이로 인해 경제에서 일반 사람들의 필요성이 사라지게 됩니다. 국가나 기업 같은 강력한 주체들은 더 이상 일반 사람들에게 신경 쓸 동기가 없게 됩니다. 우리는 이를 지능의 저주라고 부릅니다.

 

아무것도 하지 않으면, 지능의 저주는 이렇게 작동할 것입니다.

 

1. 강력한 AI가 조직의 하부부터 상부로 자동화를 밀어붙일 것이다.

 

 

2. AI는 뛰어난 소수 인재마저 대체하여 사회 이동성이 멈추고, 그것이 촉진하던 사회적 역동성과 진보가 사라질 것이다.

 

 

3. 자본, 자원, AI 통제권 같은 인간 외 생산 요소가 인간보다 훨씬 더 중요한 요인이 될 것이다.

 

 

4. 이는 전 세계 강력한 주체들이 현대 사회 계약을 무너뜨리는 방향으로 동기부여되도록 할 것이다.

 

 

5. 그 결과 대다수 인류가 점진적이거나 갑작스럽게 권한을 잃게 될 수 있다.

 

 

 

하지만 이 예언이 아직 완성된 것은 아닙니다. 우리는 이런 길이 불가피하다는 견해를 거부합니다. 다른 미래가 우리 앞에 보이지만, 그것을 이루려면 의도적이고 결연한 노력이 필요합니다.

 

우리는 지능의 저주를 이끄는 인센티브 구조를 바꾸어, 인간의 경제적 중요성을 유지하고 민주적 제도를 강화하여 아마도 역사상 최대의 사회적 격변을 견디게 하려 합니다.

 

 

---

 

지능의 저주를 깨기 위한 기술 경로

 

AI 재앙 방지: 그 자체로 가치가 있을 뿐만 아니라 중앙집중화를 요구하는 안보 위협을 제거하기 위해, 세상을 튼튼히 만드는 기술을 개발한다.

 

AI 확산: 단기적으로는 인간 역량을 보조하는 AI를, 장기적으로는 각 개인에게 직접 정렬된 AI를 구축하여 모든 사람이 AI 경제에서 통제권을 갖게 한다.

 

제도 민주화: AGI 전환기의 변화무쌍한 인센티브 환경과 속도에 맞서, 제도가 인간의 필요에 더욱 밀착되도록 개혁한다.

 

 

이 에세이 시리즈에서는 인간의 무의미화 위기를 살펴보고, 사람들이 여전히 자신의 운명의 주인이 되는 미래로 나아가기 위한 지도를 제시합니다.

 

 

---

 

목차

 

1. 서론 (이 페이지)

우리는 곧 지능의 시대에 살게 됩니다. 이 정보를 어떻게 활용하느냐가 당신의 역사를 결정할 것입니다.

 

 

2. 피라미드 대체

점점 더 강력해지는 AI가 ‘피라미드 대체’ 현상을 일으킵니다. 이는 신입 채용 동결에서 시작해 수차례의 정리해고를 거치며 조직 구조를 체계적으로 허문다는 뜻입니다.

 

 

3. 자본, AGI, 그리고 인간의 야망

AI는 인간보다 비인간적 생산 요소를 더 중요하게 만듭니다. 그 결과 오늘날의 권력 구조가 영구화·경직화되어 사회 이동성이나 진보의 길이 사라질 수 있습니다.

 

 

4. 지능의 저주 정의하기

AGI 시대에 강력한 주체들은 일반 사람들에게 투자할 동기를 잃습니다. 이는 자연자원이 부의 원천인 자원 부국들이 세금을 통한 복지로부터 시민을 소외시키는 것과 유사합니다. 이것이 바로 지능의 저주입니다.

 

 

5. 사회 계약의 재형성

지능의 저주는 현대 사회 계약의 핵심을 무너뜨립니다. 그러나 경제적 인센티브가 사회를 재편하는 과정을 이해하면, 인간의 가치를 지속시키는 기술을 의도적으로 개발할 해법이 보입니다.

 

 

6. 지능의 저주 깨기

중앙집중적 통제 없이 안전 및 강화 기술로 AI 재앙을 방지하고, 인간을 자동화가 아닌 증강하는 방식으로 AI를 확산시키며, 힘을 분산시키는 제도 민주화를 실현합니다.

 

 

7. 역사는 당신의 손에

당신에겐 지능의 저주를 깨는 로드맵이 있습니다. 이제, 당신은 무엇을 할 것인가요?