(2023년 8월) 다리오 아모데이 인터뷰 “인간 레벨 AI까지 2~3년 남아”
https://www.dwarkeshpatel.com/p/dario-amodei
- 스케일링 법칙과 AI 발전:
- 다리오는 AI에서 스케일링 법칙이 경험적으로 관찰되고 예측 가능하지만, 왜 작동하는지에 대한 근본적인 이유는 아직 명확하지 않다고 설명했습니다.
- 매개변수와 데이터의 매끄러운 스케일링에도 불구하고 AI 모델의 특정 능력을 예측하는 것은 어렵다고 언급했습니다.
- 새로운 능력의 출현:
- 산술이나 코딩과 같은 새로운 능력이 AI 모델에서 갑자기 나타나며, 종종 명확한 기계적 설명 없이 출현한다고 했습니다.
- 이러한 능력 뒤에는 연속적인 과정이 있을 수 있으며, 이는 갑작스러운 개선 전에 점진적으로 축적된다고 설명했습니다.
- AI 정렬 및 가치의 도전:
- 다리오는 AI 모델을 스케일링한다고 해서 자연스럽게 정렬과 가치가 나타나지 않으며, 이러한 모델은 주로 세상을 예측하고 이해하도록 훈련되기 때문에 윤리적 지침이나 가치를 채택하지 않는다고 강조했습니다.
- AI 개발의 잠재적 한계:
- 그는 데이터나 컴퓨팅 자원의 부족 등 실질적인 문제로 인해 스케일링이 한계에 도달할 가능성을 논의했지만, 근본적인 관점에서 보면 그럴 가능성은 낮다고 보았습니다.
- AI 발전에서 데이터와 컴퓨팅의 역할:
- 다리오는 데이터 가용성과 컴퓨팅 발전이 계속되는 AI 발전에 필수적이라고 믿지만, 충분하고 고품질의 데이터를 확보하는 데 어려움이 있다고 인정했습니다.
- 기계적 해석 가능성:
- 그는 AI 모델을 이해하는 데 있어 기계적 해석 가능성의 중요성을 강조하며, 이 분야가 AI 시스템의 내부 작동을 해독하고 안전과 정렬을 보장하는 데 도움이 될 수 있다고 제안했습니다.
- AI의 경제적 영향과 유용성:
- 다리오는 AI 모델이 이미 경제적으로 가치가 있으며 점점 더 그럴 것이라고 제안했지만, 이를 비즈니스와 사회에 효과적으로 통합하는 것은 상당한 도전 과제라고 언급했습니다.
- 사이버 보안 문제:
- 특히 국가 수준의 행위자에 대한 보안이 주요 문제로, Anthropic은 민감한 정보를 분할하는 등 보안 조치를 개선하기 위해 노력하고 있습니다.
- 정부와 규제:
- 다리오는 AI 기술의 관리에 상당한 정부 개입이 필요하다고 주장하며, 그 영향력과 잠재적 영향을 고려할 때 합법적이고 민주적으로 책임 있는 과정이 필요하다고 강조했습니다.
- AI와 인간 상호작용의 미래:
- 그는 AI가 광범위한 인간 활동을 지원하는 미래를 상상하지만, AI의 중앙 집중식 통제를 회의적으로 보며, AI를 사회에 통합하는 데 있어 분산되고 다양한 접근 방식을 옹호합니다.
AI 타임라인 및 AGI 언급 상세 요약:
- AI의 인간 수준 능력 도달 시기:
- 다리오는 AI 모델이 2~3년 내에 잘 교육받은 인간과 유사한 대화를 할 수 있을 것이라고 예측했습니다. 이 시점은 기술적 능력의 기준에서 매우 가깝다고 언급했습니다.
- 그러나 이러한 모델이 존재론적으로 위험하거나 AI 연구 대부분을 인계할 수 있는 수준에 도달하는 시점은 더 모호하며 다양한 시기에 걸쳐 발생할 수 있다고 보았습니다.
- AGI의 경제적 생산성 기여:
- 그는 AI 시스템이 인간의 생산성을 높이고 경제적 연구의 주요 기여자가 되는 논리는 타당하다고 생각하지만, 실제로 발생할 때의 세부 사항은 예측하기 어렵고 다를 수 있다고 했습니다.
- 향후 2~3년 내에 생물학적 위험 가능성:
- 다리오는 AI 모델이 2~3년 내에 대규모 생물학적 테러 공격을 가능하게 할 수 있다고 경고했으며, 이는 모델이 일부 중요한 정보를 매우 잘 처리할 수 있기 때문이라고 설명했습니다.
- AI 정렬 문제 해결의 시간표:
- 다리오는 AI 정렬 문제를 해결하는 데 있어 2~3년 내에 모델을 더 잘 제어하고 이해하는 방법이 개발될 것이라고 예측했지만, 이는 이진법적인 문제가 아니며 점진적으로 개선될 것이라고 강조했습니다.