질문: “마지막 질문으로, AGI(Artificial General Intelligence, 인공지능의 일반지능)가 언제 도달할 것으로 예상하시나요?”
제러드: “여기서 AGI라는 말은 전 세계에서 가장 뛰어난 인간들과 유사한 전반적인 지능을 가진 AI 시스템을 의미한다고 보시면 됩니다. 또 다른 정의로는 경제 성장률이 연간 10%에 도달하는 시기를 의미하기도 합니다. 개인적으로 첫 번째 정의에 대해 말하자면, 제가 약 6년 전 AI 분야에 뛰어들었을 때만 해도 AI의 발전이 그렇게 극적으로 바뀔까 의심했었습니다. 그런데 지금은 그 의심이 점점 사라지고 있습니다. 제 현재 추측으로는 앞으로 2~3년 안에 AI가 ‘최고의 인간 수준’의 인지 능력을 갖추게 될 것으로 생각합니다. 물론 이건 매우 도전적인 예측이지만, 몇 년 전만 해도 이 정도의 예측은 상상하기 어려웠습니다.”

 

다음은 허츠 재단 행사에서 진행된 앤트로픽 공동창업자 재러드 캐플런의 인터뷰 영상 요약입니다.

1. 소개: 인터뷰는 허츠 재단(Hertz Foundation) 행사에서 진행되었으며, 앤트로픽(Anthropic)의 공동창업자이자 최고과학책임자(CSO)인 재러드 캐플런(Jared Kaplan)을 메건 블레윗(Megan Blewett, 허츠 펠로우, Iris Medicine 공동창업자/대표)이 인터뷰합니다.

2. 앤트로픽 소개: 앤트로픽은 현재 AI 혁명의 중심에 있으며, 특히 AI 안전(AI Safety)을 최우선 가치로 두고 연구 개발하는 것으로 알려져 있습니다. 회사는 공익 기업(Public Benefit Corporation) 형태로 설립되었습니다.

3. 재러드 캐플런 배경: 캐플런 자신도 허츠 펠로우 출신이며, 하버드에서 물리학 박사 학위를 받고 존스 홉킨스 대학 교수를 지냈습니다. AI 스케일링에 대한 기초 연구를 수행했고, OpenAI에서 GPT-3 개발에도 참여했습니다.

4. 허츠 재단과의 인연: 캐플런은 허츠 펠로우십을 통해 앤트로픽의 다른 공동창업자인 다리오 아무데이(Dario Amodei)를 만났습니다. 이들은 프린스턴에서 열린 허츠 행사에서 처음 만나 자선 활동(GiveWell) 등에 대해 이야기하며 친분을 쌓았습니다.

5. AI 분야로의 전환: 처음에는 물리학에 집중했고 AI에 대해 회의적이었으나, 동료들과의 교류, 특히 다리오의 영향과 AI의 잠재력 및 안전 문제에 대한 인식이 커지면서 2018-2020년 사이에 AI 분야에 본격적으로 뛰어들게 되었습니다.

6. 앤트로픽의 AI 안전 접근법:

   
   

   • 앤트로픽은 초기부터 안전 연구를 핵심으로 통합했습니다.

   • '헌법적 AI(Constitutional AI)' 개념을 도입하여 AI가 특정 원칙(예: 유해하지 않음)을 따르도록 훈련합니다.

   • '책임감 있는 스케일링 정책(Responsible Scaling Policy)'과 생물안전등급(BSL)에 비견되는 'AI 안전 등급(ASL)'을 설정하여 AI 모델의 능력 수준에 따라 비례적인 안전 조치를 취합니다.

   • 궁극적으로 안전하면서도 유용한 AI 시스템 개발을 목표로 합니다.

7. AGI(범용인공지능) 타임라인 예측: 캐플런은 개인적인 예측으로, 약 2-3년 안에 AI가 광범위한 지적 작업에서 인간 최고 수준의 능력을 갖추게 될 가능성이 있다고 봅니다.

8. AI 시대 대비:

   
   

   • 개인: AI 기술을 배우고 이해하는 것이 중요하며, 생각보다 접근하기 쉽다고 말합니다. (3-6개월이면 핵심 시스템 이해 가능)

   • 기업: AI 통합 기회를 적극적으로 모색하고, 현재 완벽하지 않더라도 미래를 대비해 기술을 활용할 방법을 찾아야 합니다.

9. 허츠 펠로우십 인터뷰: 최종 인터뷰는 톰 위버(Tom Weaver)가 진행했으며, 매우 긴장했던 경험(뉴트리노 관련 질문)을 공유합니다.

10. 기타: 인터뷰 준비 중 팀원에게 "어떻게 그렇게 쿨하냐?" (서핑, 주짓수, CSO 역할 언급)는 질문을 받기도 했다는 재미있는 일화를 소개합니다.

요약하자면, 인터뷰는 재러드 캐플런의 배경, 앤트로픽 설립 계기(허츠 펠로우십 인연 포함), AI 안전에 대한 앤트로픽의 철학과 구체적인 접근 방식, AGI 도달 시점에 대한 예측, 그리고 개인과 기업이 AI 시대를 어떻게 준비해야 하는지에 대한 조언을 다루고 있습니다.