싱귤래리티와 이벤트 호라이즌 관련

질문: "당신이 최근에 쓴 에세이에서 '순한 싱귤래리티'를 언급했고 '우리는 이벤트 호라이즌을 넘었고, 이륙이 시작되었다'고 썼습니다. 사람들이 이걸 읽고 '이 사람들이 지하실에 슈퍼인텔리전스를 숨겨놓고 있는 건 아닐까?'라고 생각한 것 같은데요. 그게 아니라고 가정하고, 왜 그 에세이를 썼는지, 언제 돌이킬 수 없는 지점에 도달했다고 생각하는지 말해주세요."

Sam: "우리는 지하실에 슈퍼인텔리전스는 없지만, 여러분 누구든 사용할 수 있고 사용하길 바라는 모델을 출시했습니다. 이 모델은 5년 전에 여러분이 AI 세상에 대해 기대했던 것에 비해 꽤 똑똑합니다. 그리고 우리 모두 이것에 적응했어요. 우리는 그냥 '오, 이게 새로운 세상이구나. 주머니에 PhD 수준의 지능이 있고, 사용할 수 있고, 하루 종일 대화할 수 있고, 우리를 위해 온갖 일을 할 수 있구나'라고 말했습니다."

Sam: "하지만 이런 일이 일어났다는 것은 꽤 놀라운 일이고, 이것이 지금의 세상입니다. 그리고 움직이는 역사를 살아가고 있을 때는 너무 빨리 적응해서 '와, 5년 전에는 대부분의 전문가들이 AI AGI가 가능한 일이라고 말하는 사람들을 비웃었는데, 지금 여기서 이렇게 먼 길을 온 이것과 함께 있고, 온갖 방식으로 사용할 수 있다'는 관점을 갖기 어렵다고 생각합니다."

Sam: "그리고 우리는 항상... 우리는 그냥 '헤이, 이 AGI가 오고 있어, 정말 큰 일이 될 수도 있어, 정말 중요할 수도 있어, 모두 주목해야 해'라고 말하려고 했습니다. 아무도 신경 쓰지 않았어요. 그리고 우리가 제품을 출시하자 사람들이 신경 쓰기 시작했습니다. 우리가 계속 배운 것은 그것에 대해 이야기하는 것은 돌파구가 되지 않는 것 같지만, 사람들이 그것을 사용하고 느끼고 어디가 좋고 어디가 나쁜지 보고 그들의 삶에 통합하면 그들이 하게 된다는 것입니다."

Sam: "그래서 이제 우리는 극한의 진보가 있을 앞으로의 여러 해를 보고 있고, 그것은 거의 확실하다고 느낍니다. 의미 있는 과학, 의미 있는 AI 연구를 할 수 있는 지점에 도달할 모델들 말이에요. 그리고 우리는 세상에 그것에 대해 말할 책임을 계속 느낍니다. 대부분의 사람들은 듣지 않을 것입니다. 아마 이번에는 더 많은 사람들이 들을 것입니다. 하지만 우리는 우리가 구축할 이러한 더 높은 수준의 지능을 노출하는 제품들을 출시할 것이고, 그것이 사람들이 정말로 무슨 일이 일어나고 있는지 이해하게 되는 방식이라고 생각합니다."

Brad의 비즈니스 관점

변화의 점진성

질문: "Brad, OpenAI의 비즈니스를 관리하는 것이 당신의 일인데, 슈퍼인텔리전스를 향한 이벤트 호라이즌을 넘었다는 것이 회사로서 OpenAI에게 무엇을 의미하나요? 많은 다른 종류의 결정들을 다르게 만들 것 같은데, Sam이 묘사하는 것 같은 세상을 비즈니스를 운영하는 사람으로서 어떻게 계획하나요?"

Brad: "네, 그게 우리가 하는 일의 재미있는 부분입니다. 우리는 내부적으로 이것에 대해 많이 토론합니다. 우리가 어느 날 깨어나면 이 엄청나게 강력한 것을 갖게 될 텐데, 그날 세상이 달라질까요? 그리고 우리가 모두 동의한 것은 아마 그렇지 않을 것이라는 점입니다. Sam의 말처럼, 이런 것들은 정말로 사람들의 삶에 통합되어야 하고, 느껴져야 하고, 그 변화는 더 점진적입니다."

슈퍼인텔리전스 시대의 비즈니스

Brad: "그래서 우리는 사용자들과 마찬가지로 회사들과도 매우 밀접하게 협력해서 그 과정이 어떻게 보일지 알아내려고 합니다. 미래에는 비즈니스가 매우 달라 보일 것이라고 생각합니다. 슈퍼인텔리전스 시대의 비즈니스가 무엇을 의미하는지에 대한 제 개인적인 지표는, 많은 의지력과 의욕을 가진 한 사람이 수십억 달러 수익을 낼 수 있는 회사를 시작할 수 있는 능력입니다. 지금은 상상하기 어려워요. '영업 사람이 필요하고, 제품 사람이 필요하고, 엔지니어와 회계사 등등이 필요하다'고 생각하지만, 그 모든 것들이 이제는 관리될 수 있고, 시스템에 내장될 수 있습니다. 그리고 그것은 개인들에게 엄청난 권한을 줍니다."

에이전트 시스템의 미래

현재 vs 미래 사용 패턴

질문: "이 미래를 구축하는 세부사항으로 들어가 보죠. 지금 당신들이 코딩용으로 만든 에이전트들은 정말 극도로 좋습니다. 사람들이 그것들로 많은 놀라운 것들을 만들 수 있어요. 하지만 그 도메인 외부에서는 더 적은 진보를 봤습니다. 다음 해에 무슨 일이 일어나서 이 다른 도메인들 중 하나 이상을 정복할 수 있다고 느끼게 하는지 말해주세요."

Sam: "우선, 코딩은 꽤 범용적입니다. 코드를 쓸 수 있다면... 코드를 쓸 수 있는 사람처럼 코드를 쓸 수 있는 시스템은 코드를 쓸 수 있는 사람처럼 많은 다른 일들을 일어나게 할 수 있습니다. 하지만 우리는 과학자들이 이것으로 훨씬 더 생산적이 되기 시작하는 것을 보고 있고, 회사들이 정말로 많은 워크플로우를 바꾸고 있습니다."

백그라운드 에이전트 비전

Sam: "하지만 제가 가장 기대하는 것은... 오늘날 사람들이 AI를 사용하는 방식은 요청을 보내고 응답을 받는 것과 같습니다. ChatGPT에 요청을 보내면, 잠깐 생각할 수도 있고 아닐 수도 있고, 뭔가를 돌려줍니다. 그런 바이브 코딩 같은 것에서 뭔가를 하면 뭔가를 돌려받죠. 저는 각자가 o3의 복사본이나 여러 개의 o3 복사본을 가지고, 그것들이 계속 실행되고, 계속 시도하는 세상에 대해 매우 기대합니다. '어, 지금 이런 일이 일어나고 있네, 이것과 Slack을 읽고 있고, 이메일을 읽고 있고, 이것저것을 보고 있는데, 어제 이것에 대해 물어봤지, 여기 새로운 아이디어가 있어'라고 말하기 시작하죠. 그래서 우리는 에이전트든, 어시스턴트든, 동반자든, 뭐라고 부르든 상관없이 백그라운드에서 항상 일을 하는 이런 팀을 갖게 됩니다. 그리고 그것이 정말로 사람들이 할 수 있는 것과 우리가 일하는 방식, 그리고 어느 정도는 우리가 살아가는 방식을 변화시킬 것이라고 생각합니다."

이상적인 아침 루틴

Casey: "저는 o3를 항상 사용하고, 저널리스트로서 도움이 됩니다. 팩트체크도 해주고 편집도 해주죠. 언제쯤 제가 하는 일을 알고 아침에 제가 말하지 않아도 그런 일들을 시작하게 될까요?"

Sam: "음, 그게 제가 말하는 것과 비슷하지만, 당신이 말하지 않고도 해야 한다고는 생각하지 않습니다. 하지만 매일 아침 일어나면 밤사이 온 모든 이메일에 대한 초안 답변이 있었으면 좋겠어요. 그래서 클릭해서 '이건 보내고 싶다, 이건 편집하고 싶다, 저건 보내고 싶다'고 말할 수 있다면요. ChatGPT를 열어서 '어제 끝내지 못한 할 일 목록에서 작업하던 것들이 여기 있어요. 내가 시도해본 것들이에요. 이 액션을 취하길 원하세요? 저 액션은 어때요?' 그리고 '어, 고객이나 세상에서 밤사이 일어난 다른 일들이 여기 있고, 당신을 위해 내가 할 수 있는 일들이 여기 준비되어 있어요'라고 말할 수 있다면... 그리고 저는 이 모든 것이 준비되어 있어서 그냥 훑어보면서 '좋아, 저건 해, 저건 하지 마, 여기서는 이런 게 달랐어야 해'라고 말할 수 있다면 매우 기대됩니다. 하지만 잠들어서 o3가 그냥 나를 위해 행동을 취하기 시작하는 것은 원하지 않아요."

하드웨어 혁신

새로운 컴퓨터 비전

질문: "올해 Johnny Ive의 LoveFrom과 함께 가장 큰 인수를 했는데, 지금까지 나온 첫 번째 AI 하드웨어들은 별로 성공적이지 못했습니다. Brad와 Sam, 여기서 다른 것을 할 수 있다고 느끼게 하는 것을 보고 있나요?"

Brad: "기술을 재플랫폼할 때마다 그 기술과 상호작용하는 방식을 바꾸는 해당하는 것들이 만들어지는 경향이 있습니다. 그래서 여기서 질문은 그런 일이 다시 일어날 것인가입니다. 갑자기 PC를 소형화해서 모바일폰을 갖게 되고, PC 자체도 메인프레임의 소형화였고 등등... 이번 것은 다른 방향이라고 생각합니다. 이번 것은 정말로 매우 인식하는, 매우 맥락적인, 거의 동반자 같은 시스템에 관한 것이 될 것이고, 스크린에 대한 의존성이 덜할 것입니다. 그 세상에서 스크린의 자리는 있다고 생각하지만, 주변 환경에 대한 인식, 무슨 일이 일어나고 있는지에 대한 것이 될 것입니다... Sam이 언급한 이메일을 보는 것 같은 사소한 예시... 오늘도 그런 걸 하는 정말 나쁜 것을 만들 수 있지만, 초월적으로 좋은 버전을 만들려면 정확히 올바른 응답을 만들어내는 데 도움이 되는 각 상황적 요소가 무엇인지에 대한 엄청난 맥락과 인식이 있어야 합니다. 그리고 이제 어떤 임의의 상황에서든 그것을 상상해보고, 그것을 항상 가지고 있고 싶어할 것입니다. 그래서 이런 종류의 하드웨어에 대한 매우 매력적인 방향이라고 생각합니다."

질문: "Alexa와 많이 비슷하게 들리는데, Alexa와는 많이 다르게 느껴질까요?"

Sam: "그냥 기다려서 놀라고 기쁨을 얻고 싶지 않나요? 세상이 근본적으로 새로운 종류의 컴퓨터를 얻은 지 오래되었어요. 우리를 믿어보세요. 만약 Alexa라면 우리는 정말 화날 거예요. 지금 바로 그렇게 말하고 있고, 저도 그럴 것이고 이 사람들도 기억할 거예요. Sam, 저는 우리가 할 수 있다고 생각해요. 정말 위대한 것을 할 기회가 있다고 생각하지만, 하드웨어는 정말 어렵고 시간이 걸립니다. 그리고 저는 항상 새로운 종류의 컴퓨터를 만들어보고 싶었지만, 대부분의 경우 성공하지 못했어요. 그래서 우리는 정말로 시간을 들여서 제대로 하려고 합니다."

일자리 관련

Dario Amodei의 예측에 대한 질문과 답변

질문: "Anthropic의 Dario Amodei가 최근에 AI로 인해 초급 화이트칼라 직업의 50%가 앞으로 1-5년 내에 사라질 수 있다고 말했는데 동의하시나요?"

Sam: "아니요, 아니요. 동의하지 않습니다. 그냥 아니요."

질문: "왜 아닌가요?"

Brad: "우리는 이에 대한 증거가 없습니다. 그리고 Dario는 과학자이고, 그가 이런 종류의 것들에 대해 증거 기반 접근법을 취하길 바랍니다. 하지만 우리는 태양 아래 모든 비즈니스와 함께 일합니다. 지구상 모든 회사에 AI를 배포하는 문제와 기회를 살펴봅니다. 하지만 우리는 아직 사람들이 초급 직업을 대규모로 대체한다는 어떤 증거도 보지 못했습니다."

직업 시장 변화에 대한 역사적 관점

Brad: "직업 시장에 어떤 변화가 있을 것이라고 생각합니다. 그것은 불가피하다고 생각해요. 플랫폼 변화가 있을 때마다 직업 시장의 변화가 있습니다. 1900년에 40%의 사람들이 농업에 종사했는데 오늘날은 2%입니다. Microsoft Excel이 아마 20세기 최대의 일자리 대체였을 것이고, 만약 우리가 Microsoft Excel이 온다는 것을 미리 알고 모든 사람이 그것에 대해 걱정하고 있었다면, 돌이켜보면 그것이 바보같았다고 생각했을 것입니다."

Brad: "그래서 물론 변화가 있을 것이라고 생각하지만, 오늘날 그에 대한 증거는 없고, 우리가 그것을 관리해 나갈 것이라고 생각합니다. 우리는 이 문제에 대해 많은 공감을 가지고 있습니다. 우리는 매일 비즈니스와 함께 일해서 사람들이 회사에 들어와서 조직의 다른 누구보다도 훨씬 뛰어난 유창함의 수준으로 이 도구들을 사용하는 20대들의 수준에서 이 도구들을 사용할 수 있도록 돕고 있습니다. 하지만 우리는 사람들이 이러한 도구들을 사용하는 방법을 알고 사람들을 앞으로 나아가게 하는 것을 우리의 사명으로 봅니다."

주니어 코더 문제에 대한 구체적 질문

Casey: "우리 청취자들 중 일부가 쇼에 편지를 보내서 '헤이, 저는 주니어 코더인데 방금 해고당했고 여기서 제 전망에 대해 정말 좋지 않은 기분을 느끼고 있어요'라고 말했습니다. 그것은 경제의 꽤 작은 부분이지만, 당신이 o3로 하고 싶어하는 것에 대해 이야기하는 것을 들으면, 만약 그것이 당신이 말하는 만큼 좋아진다면 영향을 받을 것은 주니어 코더들만이 아닐 거라고 생각합니다. 그래서 제가 말하고 싶은 것은 지금 그것의 조각들을 보고 있다고 느끼고, 그것들에 대해 어떻게 생각하는지 궁금합니다."

Sam의 현실적이면서도 낙관적인 관점

Sam: "일부 직업이 사라지거나 아마도 사라지는 직업의 전체 카테고리가 있을 것이라고 생각합니다. 그리고 사라지는 어떤 직업이든, 사회와 경제 전체에 좋은 것일지라도 그 순간에는 매우 고통스럽고 극도로 고통스럽습니다. 그래서 불안뿐만 아니라 여기에 실제 고통이 있을 것이라는 것을 완전히 이해합니다."

Sam: "하지만 많은 경우에서, 훨씬 더 많은 경우에서 우리는 세상이 상당히 고용부족 상태라는 것을 발견할 것이라고 생각합니다. 세상은 지금 쓸 수 있는 것보다 훨씬 더 많은 코드를 원합니다. 우리는 이미 '오, 코더가 덜 필요할 것이다'라고 말했던 회사들이 이제 역설적으로 '더 많은 코더가 필요하다'고 말하는 것을 보고 있습니다. 그들은 다르게 일할 것이지만, 100배 많은 코드, 100배 많은 제품을 10배 많은 사람들과 만들 것이고, 가격이 내려가더라도 여전히 30배 많은 돈을 벌 것입니다."

인간의 무한한 욕구에 대한 철학적 관점

Sam: "모든 인간 역사는 사람들에게 더 나은 도구를 주고 기술이 계속 발전한다면, 항상 '우리는 하루에 3시간 일하고 해변에 앉아있을 것이고 할 일이 떨어질 것이다'라고 말하는 사람들이 있지만, 인간의 욕구는 무한해 보입니다. 서로를 위해 새로운 일을 상상하는 우리의 능력은 무한해 보입니다. 우리는 항상 더 많은 것을 원하는 것 같고 점점 더 바보같은 지위 게임을 하고 싶어하는 것 같습니다."

Sam: "우리의 직업들은 그리 멀지 않은 과거의 사람들에게는 진짜 직업으로 보이지 않았을 것입니다. 당신은 앉아서 무대에서 이야기하고 있고, 소프트웨어를 만들려고 하고, 팟캐스트를 하려고 하고, 사람들을 웃게 만들려고 하고 있어요. 그건 좋지만 그것은 놀이같은 거예요, 직업이 아니라. 당신은 먹을 음식이 충분하고 할 일들이 모두 있고 이 상상할 수 없는 사치를 누리고 있어요. 그리고 인간의 상상력과 욕구, 요구, 뭐라고 부르든 그것이 무한하다고 생각하기 때문에 우리는 할 놀라운 새로운 일들을 찾을 것입니다."

사회와 경제에 대한 예측

Sam: "사회는 훨씬 더 부유해질 것이고, 일반적으로 사회가 부유해질수록 실업률은 올라가는 것이 아니라 내려간다고 생각합니다. 그리고 사람들이 그것에 대해 많이 이야기하지 않지만 그것을 계속 보게 될 것으로 예상합니다."

Sam: "그리고 초급 인력들이 여기서 가장 잘할 사람들이라고 생각합니다. 그들이 도구에 가장 유창하고, 매우 새로운 방식으로 생각할 수 있는 가장 많은 능력을 가지고 있고, 이런 종류의 가장 큰 캔버스를 가지고 있습니다."

기술 변화의 속도에 대한 우려

Sam: "여기에 실제 부정적 영향이 있을 것이고, 실제 부정적 영향이 있을 것입니다. 그리고 다시, 잃어버린 어떤 단일 직업이든 그 사람에게는 정말 중요합니다. 그리고 이것의 어려운 부분은 이전 기술적 변화들보다 더 빨리 일어날 것이라고 생각한다는 것입니다. 하지만 새로운 직업들이 더 좋을 것이고 사람들이 더 좋은 것들을 가질 것이라고 생각합니다."

Sam: "그리고 '절반의 직업이 1년이나 2년이나 5년 내에 사라질 것이다'라는 식의 주장은... 기술이 그것을 위해 준비되었을지라도 사회는 정말로 그런 식으로 작동하지 않는다고 생각합니다. 사회의 관성은 이 경우에 도움이 될 것이고, 거기에는 많은 질량이 있습니다."

Brad의 실증적 관찰

Brad: "만약 우리가 관찰하는 것에 대해 이야기하고 싶다면, 실제로 우리가 보는 것은 Sam이 묘사하는 것과 어느 정도 비슷합니다. 실제로는 더 숙련되고 루틴과 특정한 일을 하는 특정한 방식과 특정한 역할에 더 지향된 근로자 계층이 있는데, 실제로는 이러한 도구들을 사용하는 데 정교하지 않습니다. 그들은 그것들을 채택하지 않습니다. 그들은 그것이 자신들의 시간을 쓸 가치가 없다고 생각하거나 그런 식입니다. 그리고 거기에는 많은 두려움이 있다고 생각합니다."

Brad: "그리고 그 두려움을 이끄는 많은 것은 수년 동안 이러한 도구들을 사용해왔고 다른 직업들을 보면서 '왜 그런 일을 하는 데 시간을 낭비하지? 내가 그것을 훨씬 더 빨리 할 수 있는데'라고 말하는 방식으로 그것들을 마스터한 실제로 노동력에 들어오고 있는 20대들입니다."

Brad: "그래서 회사들이 실제로 깊이 걱정하는 것은 초급 직업이 아닙니다. 정말로 30년 동안 회사에 있으면서 매우 정형화되고 루틴한 방식으로 무언가를 해온 사람의 직업입니다. 그리고 관리 측에서는 도구 세트를 정말로 현대화하고 싶어하는 충동이 있습니다. 그리고 그것으로 무엇을 할 것인가? 그리고 그것이 실제로 우리에게 해결 가능한 문제라고 생각합니다."

---

이 대화에서 흥미로운 점은 Sam과 Brad가 "일자리 대체"보다는 "일자리 변화"에 초점을 맞추고 있고, 특히 젊은 세대가 AI 도구에 더 유창하여 오히려 기존 중간 관리층이나 숙련된 근로자들이 더 위험할 수 있다는 관점을 제시한다는 것입니다.