프로그래머 대체 관련 (10:24-10:31):

"We believe, as an industry, that in the next one year, the vast majority of programmers will be replaced by AI programmers."

번역: "우리는 업계로서, 앞으로 1년 안에 대다수의 프로그래머가 AI 프로그래머로 대체될 것이라고 믿습니다."

수학 능력 관련 (10:32-10:40):

"We also believe that within one year, you will have graduate-level mathematicians that are at the tippy top of graduate math programs."

번역: "우리는 또한 1년 안에 대학원 수학 프로그램의 최상위 수준에 있는 대학원 수준의 수학자들이 (AI를 통해) 나올 것이라고 믿습니다."

기타 언급:

1. (스케일링 문제): "바이오테크 분야 사람들이 스케일링 문제를 해결했을 거라고 생각했었습니다... 결국 이것들은 거대한 시장이니까요. 저는 스케일링의 세계에 살고 있습니다. 하지만 실제로는 엄청난 '죽음의 계곡'이 존재합니다... 이 분야에 계신다면, 정말로 이것에 대해 생각해 보시길 권합니다." (1:52-2:09)

2. (AI 오용 위험): "새로운 모델들이 제약 없이 사용될 경우, 나쁜 병원균, 특히 바이러스를 생성할 수 있다는 증거가 많습니다. 기존 바이러스를 가져다가 약간 수정하는 것만으로도 가능하죠." (3:13-3:21)

3. (중국과의 경쟁): "중국이 이 수조 달러 규모의 산업을 지배하기 위해 막대한 자금을 투입하고 있다는 증거가 많습니다. 그들은 많은 기술을 가지고 있고, 훔친 기술도 많습니다. 늘 그렇듯이요." (3:42-3:54)

4. (AI와 로봇 실험실 융합 예시): "제가 주로 자금을 지원하는 특정 그룹이 있는데... 화학을 학습하는 기초 모델을 만들었고, 로봇 실험실에 연결되어 있습니다. 이 모델은 약물 가설을 생성하고, 로봇 실험실이 밤새 이를 테스트하고 보고서를 제공합니다. 그리고 다시 시작하죠. 이것이 AI와 바이오 융합의 미래 모델입니다... 그들의 목표는... 2년 안에 모든 인간 약물 표적(druggable targets)을 식별하는 것입니다." (4:26-5:33)

5. (대학 연구에서의 AI 활용): "이 분야의 대학원생이라면... 모든 박사 과정 프로젝트는 이제 제가 설명한 방식의 AI를 어떤 형태로든 사용합니다. 말하자면 AI 담당자로서, 우리는 이긴 거죠. 완전한 확산이 이루어졌습니다." (6:34-6:48)

6. (AI는 과소평가되었다): "저의 전반적인 견해는 AI가 과대평가된 것이 아니라 과소평가되었다는 것입니다... 사람들은 우리가 가진 지능이 이 수준이고, 대체로 무료라는 것이 어떤 의미인지 이해하지 못합니다." (6:58-7:02, 15:44-15:52)

7. (AGI 및 ASI 예측): "샌프란시스코 컨센서스...는 3년에서 5년 내에 우리가 소위 '범용 인공지능'(AGI)을 갖게 될 것이라고 합니다... 이는 스마트한 인간만큼 똑똑한 시스템으로 정의될 수 있습니다... 그리고 6년 안에... 인간 전체의 합계보다 더 똑똑한 컴퓨터, 즉 '초지능'(ASI)이 있을 것이라는 이론이 있습니다." (7:26-7:39, 14:44-14:54)

8. (데이터 출처의 중요성 및 위험): "(공개 데이터베이스에 누구나 기여할 수 있다는) 출처 문제는 근본적입니다... 데이터가 의도적으로 변경되었다면... 그것은 새로운 종류의 국가 안보 위험이 될 것입니다." (41:18-41:37)

9. (공격 우위의 위험): "공격 우위(offense-dominant)라는 용어가 있습니다... 공격이 방어와 같은 수준으로 대응될 수 없는 상황입니다. 즉, 피해는 이미 발생한 후라는 거죠... 모델이 이를 방어하도록 훈련될 수는 있지만, 공격으로 인한 피해는 방어 능력보다 훨씬 큽니다. 이것이 우리가 이 문제를 걱정하는 이유입니다." (45:33-46:02)

10. (미국 연구 생태계에 대한 우려): "현재 교수진들은 연구 자금을 얻을 수 없기 때문에... 종신 재직권을 얻지 못할 가능성이 높고, 그들의 경력은 파괴될 것입니다... 이것은 미친 짓입니다... 우리는 우리의 미래를 발명할 핵심 인력들의 자금 지원을 망치고 있습니다." (22:32-23:03)

11. (경쟁과 협력의 필요성): "(미국과 중국의 경쟁에서) 선두 주자가 지능 분야에서 90% 이상의 점유율을 차지하는 경향이 있습니다... 이는 끔찍할 것입니다... 제가 시작할 첫 번째 일은 당신의 지적 재산과 인력을 훔치려 하는 것입니다... 다음 단계는 당신의 시스템을 수정하기 위해 당신의 AI에 침투하는 것입니다... (중국과 경쟁하는 유일한 방법은) 파트너가 있는 것입니다. 최고의 파트너는 캐나다, 유럽 연합, 이스라엘... 한국, 일본 등입니다... 우리는 함께 더 잘 작동합니다." (26:50-27:40, 29:31-29:45, 30:22-30:23)

(바이오 위험 임계점):

• AI 모델이 위험한 병원균을 생성할 수 있는 능력에 대해 "우리는 이 문제가 현실화될 임계점 바로 아래에 있다" (we're right below the threshold where this is an issue)고 말하며, "한두 번 더 기술 발전이 이루어지면(a crank is turned every 18 months or so), 약 3년 안에" 이 문제가 현실화될 수 있다는 컨센서스를 전했습니다. (45:00-45:20