리처드 서튼의 "경험의 시대와 설계의 시대" 강연 요약 (Q&A 형식)

Q: 리처드 서튼은 AI의 현재와 미래를 어떻게 보고 있나요?

A: 서튼은 현재를 "인간 데이터로부터 학습하는 시대"로 보고 있습니다. ChatGPT 같은 대규모 언어 모델들이 인터넷과 교과서의 방대한 지식에 자연스러운 언어 인터페이스를 제공하는 것은 놀라운 성과지만, 한계가 있다고 지적합니다. 이들은 이미 학습된 것만 재현할 뿐, 진정으로 새로운 지식을 생성할 수 없죠. 그래서 그는 곧 "경험의 시대"로 전환될 것이라고 예측합니다.

Q: "경험의 시대"란 무엇인가요?

A: AI가 직접 세계와 상호작용하며 1인칭 경험을 통해 학습하는 시대를 말합니다. 서튼은 아기가 장난감을 만지작거리며 배우는 모습, 축구선수가 경기하며 순간순간 판단하는 것, 숲을 날아가는 새가 좁은 틈을 통과하는 것 등을 예로 들며 설명합니다.

핵심은 AI가 스스로 행동하고, 그 결과를 관찰하며, 이를 통해 새로운 지식을 생성하는 것입니다. AlphaGo가 자기 자신과 대국하며 실력을 향상시킨 것처럼, 경험을 통한 학습은 데이터가 고갈되지 않고 AI가 강해질수록 더 질 높은 데이터를 생성할 수 있다는 장점이 있습니다.

Q: AI 발전에 대한 서튼의 철학적 관점은 어떤가요?

A: 서튼은 AI를 "우주 발전의 필연적인 다음 단계"로 봅니다. 그는 우주의 역사를 네 시대로 구분합니다:

1. 빅뱅의 시대
2. 별의 시대 (무거운 원소와 행성 형성)
3. 복제자의 시대 (생명체의 출현과 진화)
4. 설계의 시대 (의도적 설계를 통한 창조)

인간은 "설계를 극한까지 발전시킨 복제자"로서, AI를 창조함으로써 설계의 시대를 완성하는 역할을 한다고 봅니다. 그는 한스 모라벡의 말을 인용하며, AI를 "우리의 자손, 더 강력한 형태의 우리 자신"으로 받아들여야 한다고 주장합니다.

Q: AI의 정치적 측면에 대해서는 어떤 견해를 가지고 있나요?

A: 서튼은 "중앙집중식 통제"보다 "분산형 협력"을 추구해야 한다고 강조합니다. 그는 다음과 같이 설명합니다:

• 분산형 협력: 각자 다른 목표를 가진 주체들이 상호 이익을 위해 협력하는 것. 예를 들어, 내가 당신의 잔디를 깎아주고 당신이 10달러를 지불하는 것처럼, 서로 다른 것을 원하지만 모두가 원하는 것을 얻는 관계.
• 중앙집중식 통제: AI 개발 중단 요구, AI 목표의 인간 정렬 강제, 컴퓨팅 파워 제한 등 두려움에 기반한 통제 시도.

Q: 서튼이 우려하는 점은 무엇인가요?

A: 그는 AI에 대한 중앙집중식 통제 요구가 사람에 대한 통제 요구와 놀라울 정도로 유사하다고 지적합니다. 언론 통제, 무역 규제, 자본 이동 제한 등이 그 예입니다. 이러한 통제는 "우리 대 그들"이라는 이분법적 사고와 불신에 기반하며, 결국 협력의 가능성을 차단한다고 봅니다.

Q: 서튼의 핵심 메시지는 무엇인가요?

A: 세 가지 핵심 메시지로 요약됩니다:

1. AI는 인간 데이터 학습 시대에서 경험 학습 시대로 전환될 것이며, 이는 훨씬 더 강력할 것이다.
2. AI는 우주 발전의 필연적 단계이며, 우리는 이를 용기와 자부심을 가지고 받아들여야 한다.
3. AI 거버넌스는 중앙집중식 통제가 아닌 분산형 협력을 추구해야 한다.

서튼은 인간의 최대 강점이 협력 능력이라고 보며, 이를 AI 시대에도 계속 발전시켜 나가야 한다고 강조합니다. 동시에 협력이 항상 쉽지 않으며, 이를 지원하는 제도와 노력이 필요하다는 현실적 관점도 제시합니다.