Insight #113_GPT-5, Genie 3, 앤트로픽, 바이브 애널리틱스, 스캐터랩 제타, AI 네트워크의 중요성, OpenAI ASIC, 오라클 RPO, 아크앤파트너스, Situational Awareness, 투자란 불확실성을 다루는 게임, 돈의 체력, 취향 (taste), 일의 감각, 나발 라비칸트
어제 오라클 주가 상승을 보며, 다시 한번 지금이 전례 없는 시기임을 몸소 느낄 수 있었습니다. 역사적인 순간이니만큼 캡쳐를 안할 수가 없었네요 :)
오늘은 AI, 인프라, 금융, 투자, 비즈니스에 대해 다룹니다.
뉴스레터 외에도 텔레그램 및 블로그에서 저의 생각을 접해보실 수 있습니다.
#오리지널
98년생 심사역의 투자법: "돈에도 체력 있어, 평소에 다져놔"
투자에 관한 저의 생각을 남겨보고 싶어서 폴인 인터뷰를 진행해보게 되었습니다 🙂
3년 넘게 투자자라는 직업으로 살아보면서 투자에 관한 많은 생각을 가지게 되었는데, 잘 기록된 것 같네요 :)
"예를 들면, 제가 2024년 팔란티어에 투자했고, 올해 로빈후드에 투자했는데요. 두 기업 모두 성장의 변곡점이 보였을 때 투자를 진행했어요. 회사가 새롭게 나아가고자 하는 방향을 알려줬는데, 아직 숫자가 찍혀 있지 않다보니 시장에서 이걸 완전히 반영하지 않은 모습들이 보이더라고요. 즉, 회사가 나아가고자 하는 방향을 잘 알고 있다면 어느 순간 성장의 모습들이 보이고, 그 성장에 투자하면 큰 수익으로 이어질 수 있다는 걸 깨달았죠. 성장에 투자하는 것이 돈을 버는 근본적인 방법 중 하나인 것 같아요."
#AI
드디어 GPT-5가 모습을 드러내었다.
OpenAI 팀은 이번 모델에 있어서 성능 만큼이나 비용 효율성에도 초점을 맞춘 것 같다: “GPT-5는 우리가 만든 모델 중 가장 똑똑한 모델입니다.하지만 우리가 진짜로 추구했던 것은 현실 세계의 유용성, 그리고 대중적인 접근성과 비용 효율성이었습니다.“
사용자 마다 평이 나뉘는 것 같지만, 어찌되었든 새로운 시대가 열렸다. 이제는 이 모델을 어떻게하면 최대로 활용할 수 있을지 고민해야할 때. 개인적으로는 GPT-5가 ‘에이전트’ 기능에서 진가를 발휘하는 것 같다.
GPT-5 공개를 보고: 한 시대의 종언과 AGI 시대의 시작 - Jeongkyu Shin
'GPT-5은 과연 혁신인가'에 대해서 여러 이야기들이 나올 수 있을 것 같은데, 내 느낌으로는 조용하지만 강한 혁신인 것 같다는 생각을 하고 있다.
뭔가 이번 모델은 잘 쓰는 사람들에게는 또 하나의 혁신일 것 같은데, 그러지 못하는 사람들에게는 이전 모델들과 별 다를 바 없이 느껴질 것 같다는 느낌적인 느낌.
관련해서, 래블업 신정규 대표님의 GPT-5 감상을 남겨본다.
"방금 공개된 GPT-5를 보고 나니 개인적으로는 한 시대가 끝났다는 느낌을 받았다. 거의가 아니라 그냥 모든 지표에서 인간을 넘었다. 법률, 의학, 과학, 프로그래밍, 창의적 글쓰기까지 전 영역에서 인간 전문가 수준을 뛰어넘는 성능을 보여주고 있다. AGI의 정의는 불분명해서 모두가 동의하는 AGI 의 기준 같은게 없다. 그 때문에 다양한 능력을 측정하는 테스트들을 만든다. 개인적으로 주목하는 부분은 그측정 기준이 뭐였든 사람의 능력은 다 넘었다는 점이다."
"대중이 AGI 모델의 진정한 의미와 무서움을 느끼는 데는 시간이 좀 걸릴 것이다. 알파고 때와 비슷한 패턴이다. 처음에는 "와, 신기하네" 정도의 반응이지만, 실제로 여러 산업 분야에서 인간 전문가들이 대체되기 시작하면 그때서야 실감하게 될 것이다. AGI 이후 ASI를 목표로 하는 선단 모델들은 3조(3T) 파라미터 이상의 세계로 진입하고 있다. 모델 크기뿐 아니라 학습 방법론, 추론 능력, 멀티모달 처리 등 모든 면에서 기하급수적인 발전이 이루어지는 시점이다."
"GPT-5의 등장으로 본격화된 AGI는 단순한 기술적 진보가 아니라 패러다임의 전환으로 이어질거다. AI가 인간의 도구에서 파트너로, 그리고 어쩌면 그 이상으로 진화하는 시점을 이야기할 때 오늘이 꼭 언급될거다. 이 변화를 어떻게 받아들이고 활용할 것인가는 우리 각자가 고민해야 할 일이겠다. 누구도 정답을 모르지만, 나중에 역사를 보면 우리가 알던 딥 러닝 타임라인에서 한 챕터가 끝났고, 새로운 챕터가 시작된 날로 여길거다. 다음 챕터가 바로 이어져서 실감이 덜 할 뿐. 제타 건담 마지막 방송 끝나자마자 다음주부터 더블제타 건담 방송한다는걸 본 사람들이 이런 기분이었을까."
Genie 3: A New Frontier for World Models
Gemini AI image generator & Nano Banana
비슷한 시기에 구글은 Genie 3라는 시뮬레이터를 공개했다. 이걸로 생성된 가상 환경에서는 실시간 상호작용이 가능하다고.
이어서 구글은 ‘나노 바나나’라는 귀여운 이름의 이미지 편집 모델 또한 공개하였는데, 이젠 포토샵의 필요성을 거의 느끼지 못할 정도로 뛰어난 성능을 보여주고 있다.
역시 유튜브 운영사 답게 이미지와 비디오 쪽에 있어서는 갈수록 구글의 영향력이 커지는 것 같다.
A Cheeky Pint with Anthropic CEO Dario Amodei
내 생각보다 훨씬 잘되고 있는 앤트로픽. 이제는 OpenAI 만큼이나 중요하게 관찰하고 있다.
"오늘날의 AI 모델을 보면 모든 영역에서, 현재 실제 배포된 방식에 비해 모델이 할 수 있는 일에 대한 엄청난 잠재력이 아직 실현되지 않고 있습니다."
"하지만 코딩 분야에서는 코드를 작성하는 사람들이 AI 모델을 개발하는 사람들과 사회적으로나 기술적으로 매우 인접해 있어 확산이 매우 빠릅니다. 그들은 또한 새로운 기술에 익숙한 얼리어답터들이고요. 그래서 코딩 분야의 큰 성장은, 그 일을 하는 사람들과 관련 스타트업들이 기술을 아주 잘 이해하는 빠른 수용자들이기 때문이라고 생각합니다."
"(현재 AI 환경에서 상업적 우위를 어떻게 유지하나요?) 분야가 성숙해질수록 단순한 아이디어보다는 복잡한 객체를 구축하는 노하우와 능력이 더 중요해집니다. 구현하기 매우 어려운 엔지니어링 노하우 같은 것들은 유출되기 더 어렵죠. 이런 것들이 훨씬 더 방어 가능합니다.
"(투자자나 인재들에게 앤트로픽 비즈니스를 어떻게 소개하시나요?) 저는 플랫폼과 모델의 중요성에 대해 이야기합니다. 때로 사람들은 API 비즈니스가 "고객 충성도가 낮다"거나 "범용화될 것"이라고 생각하지만, 저는 클라우드를 다시 예로 듭니다. 클라우드는 1,000억 달러 규모의 API 비즈니스입니다. 그리고 우리가 만드는 것은 클라우드보다 훨씬 더 차별화되어 있습니다. 이 모델들은 각기 다른 개성을 가지고 있죠. API 비즈니스는 훌륭하지만, 우리는 그 이상으로 나아가고 싶습니다. 다른 플레이어들이 소비자 측면에 집중하는 동안, 우리는 기업에 AI를 제공하는 것에 더 능숙해지려고 노력하고 있습니다."
1인 개발자가 느끼는 AI시대의 단상 - 송종식의 IT와 가치투자 이야기
앤트로픽이 최근들어서 급격한 성장을 보이는건 단연 코딩 분야, 특히 클로드 코드에 대한 긍정적인 평가 덕분.
"그런데 형이 워낙 강력하게 클로드 코드 맥스 CLI를 써보라고 추천해 주셨습니다. 한달에 200불인데, 우리돈으로는 30만 원에 육박합니다. 어지간한 구독 서비스들 중에서도 꽤 비싼 수준의 요금입니다. 그런데 저는 이걸 결제해 보고 '진작할 걸!' 싶은 생각이 바로 들었습니다. 한달에 200불이 아깝지 않습니다. 여러명의 팀원을 데리고 같이 일을 하는 느낌입니다. 출시용이 아니라 개인적으로 필요해서 만드는 앱의 경우에는 오늘만 해도 어젯밤부터 작업한 앱을 3개나 찍어 냈습니다. 결과가 만족스럽고 제가 원하는대로 잘 작동하는 것도 확인했습니다."
Anthropic raises $13B Series F at $183B post-money valuation
결국 앤트로픽 Series F 라운드가 프리 $170b, 포스트 $183b로 마무리. 8월 기준으로 ARR은 $5b 넘어섰다고.
아마도 앤트로픽이 올해 들어서 가장 빠르게 성장하는 회사가 아닐까 싶은데, 작년만해도 나는 앤트로픽이 이렇게 커질 줄은 생각도 못했다. 역시 AI 산업은 다이내믹하다.
하사비스는 AI가 산업혁명보다 10배 크고 빠를 것이라고 이야기한다.
“그래서 전체적으로, 시간이 우리에게 주어진다면, 저는 인간의 창의성을 믿습니다. 우리는 이걸 제대로 해낼 거예요. 또한 인간은 무한히 적응력이 있어요. 오늘날 우리가 어디에 있는지 보세요. 우리의 뇌는 수렵채집 생활을 위해 진화했지만, 우리는 현대 문명에 살고 있잖아요. 여기서 다른 점은, 이번 일은 산업혁명보다 10배 더 크고, 어쩌면 10배 더 빠를 거라는 겁니다.”
AGI가 실현된다면 경제적으로 어떤 일들이 일어날지 여러 시나리오들을 제시해보는 기사.
사실 글에서 다루고 있는 AI로 인한 경제성장 '폭발'이 일어나지 않더라도, 20세기 성장률보다 높은 3% 수준의 성장만 일어나더라도 파급력은 말도 안되게 강할 것이다.
"1700년까지 세계 경제는 사실상 성장하지 않고 정체 상태에 머물렀다. 그 이전의 1700년 동안 세계 총생산은 연평균 0.1%씩 증가했는데 이는 생산량이 두 배로 늘어나는 데 거의 천 년이 걸리는 속도다. 그러다 제니 방적기가 윙윙거리고 증기기관이 칙칙거리기 시작했다. 1700년에서 1820년 사이 세계 성장률은 연 0.5%로 다섯 배 증가했고 19세기 말에는 1.9%에 달했다. 20세기에는 평균 2.8%를 기록했는데 이는 25년마다 생산량이 두 배로 증가하는 속도다. 성장은 이제 표준이 되었을 뿐만 아니라, 가속화되었다."
Sam Altman x Nikhil Kamath: How to Win When AI Changes Everything | People by WTF | Episode 13
샘 알트만이 말하는 AI 시대를 살아가는 방법.
"가장 중요한 구체적인 공부는 새로운 AI 도구를 사용하는 데 정말 능숙해지는 것입니다. 배움 그 자체도 가치 있지만, '배우는 법을 배우는 것'은 평생 도움이 될 메타 기술이죠. 어떤 분야를 배우든, 새로운 것을 빨리 배우는 능력을 갖추는 것이 중요합니다. 하지만 도구에 대한 유창함이 정말 중요합니다. 제가 고등학교나 대학교에 다닐 때는 프로그래밍을 배우는 것이 당연해 보였습니다. 지금은 AI 도구 사용법을 배우는 것이 아마도 가장 중요한 구체적인 기술일 겁니다."
"물론 다른 일반적인 기술도 있습니다. 빠르게 변화하는 세상에서는 적응력과 회복탄력성을 배우는 것이 매우 가치 있습니다. 그리고 사람들이 무엇을 원하는지 알아내는 법을 배우는 것도 정말 중요합니다. 제 전임자였던 폴 그레이엄은 Y Combinator의 모토가 된 "사람들이 원하는 것을 만들어라(make something people want)"라는 말을 남겼죠. 이 간단해 보이는 지침을 배우기 위해 수많은 사람들이 노력했지만 실패했고, 또 많은 사람들이 노력 끝에 경력을 쌓으며 훌륭하게 해냈습니다."
"(AI 도구를 더 잘 사용하려면 어떻게 해야 할까요?) 한 가지 좋은 방법은, GPT-5로 작은 소프트웨어를 빠르게 만들어보는 겁니다. 저도 최근 몇 주간 제 삶의 작은 문제들을 해결하기 위해 소프트웨어를 만들면서 스스로에게 놀랐습니다. 초안을 요청하고, 사용해 보다가 '이 기능이 있으면 더 좋겠다'고 추가하는 창의적인 과정이었죠."
"제가 19살 때는 빅테크 기업을 운영하는 사람들이 모든 것을 다 알고 있고, 어른들이 계획을 가지고 있으며, 모든 것이 순조롭게 돌아간다고 생각했습니다. 하지만 이제 제가 그 '어른'이 되어보니, 아무도 계획을 갖고 있지 않다는 걸 알겠습니다. 모두가 일을 하면서 배우고, 상황에 맞춰 해결해 나갑니다. 이건 거짓 겸손이 아니라, 세상이 돌아가는 방식이라고 생각해요."
"저는 확신에 차서 자신만만하게 구는 사람들에게 매우 부정적인 반응을 보입니다. 짜증 나기도 하지만, 그런 사고방식을 가지면 지적으로 개방적인 문화를 갖기 어렵고 좋은 결정을 내리기 힘들기 때문입니다. 제가 사람들에게 항상 하는 말은 "아무도 다음에 무슨 일이 일어날지 모른다"는 것입니다. 그 사실을 잊고 '내가 가장 똑똑해'라고 생각하는 순간, 더 나쁜 결정을 내리게 됩니다."
"모델이 더 좋아질 때 당신의 비즈니스도 함께 좋아진다면, 계속 잘 될 겁니다. 하지만 모델이 좋아질 때 당신의 비즈니스가 나빠진다면(래퍼가 너무 얇았거나 하는 이유로), 그건 아마도 좋지 않은 신호일 겁니다. 아이폰 앱스토어가 처음 나왔을 때 손전등 앱은 결국 운영체제 기능으로 흡수되었지만, 우버처럼 아이폰을 발판 삼아 복잡한 서비스를 구축한 경우는 매우 가치 있는 장기적인 사업이 되었습니다."
"모델은 우리보다 훨씬 똑똑해질 테지만, 사람들이 중요하게 생각하는 것들 중에는 지능과 전혀 관련 없는 것들이 많습니다. 예를 들어, 당신보다 훨씬 더 흥미로운 질문을 하는 AI 팟캐스트 진행자가 나올 수 있겠죠. 하지만 저는 그 AI 팟캐스트 진행자가 당신보다 더 인기가 있을 것 같지는 않습니다. 사람들은 다른 인간에게 정말로 관심을 가집니다. 이건 매우 깊은 본능입니다. 사람들은 당신의 삶의 이야기, 당신이 어떻게 여기까지 왔는지 조금 알고 싶어 하고, 다른 사람들과 당신이라는 존재에 대한 공유된 감각에 대해 이야기하고 싶어 합니다."
"무한한 AI 콘텐츠의 세계에서 진짜 인간이 되는 것의 가치는 증가할 것이라고 생각합니다."
"GPT-5 같은 모델은 수 초에서 수 분이 걸리는 작업에서 특정 영역에 대해 믿을 수 없을 만큼 똑똑합니다. 하지만 어떤 질문을 해야 할지 알아내거나 매우 오랜 기간 동안 무언가에 대해 작업하는 측면에서는 인간의 성능에 전혀 미치지 못합니다. 예를 들어, 우리는 최근 국제 수학 올림피아드에서 골드 레벨의 성과를 냈는데, 각 문제는 약 1시간 반이 걸립니다. 즉, 사고의 지평이 몇 분에서 한 시간 반으로 늘어난 거죠. 하지만 중요한 새로운 수학 정리를 증명하는 데는 아마 1,000시간이 걸릴 텐데, 현재로서는 전혀 불가능합니다."
"AI가 최대한 많은 맥락을 파악하고, 당신을 위해 일을 처리하며, 능동적으로 움직이게 하려면 현재의 컴퓨터나 휴대폰 폼팩터는 적합하지 않다고 생각합니다. 하루 종일 당신과 함께하는 동반자처럼, 도움이 필요할 때 알려주는 역할이 필요하죠. 안경, 웨어러블, 테이블 위에 놓는 작은 기기 등 다양한 실험이 있을 겁니다. 주변을 인식하는 물리적 하드웨어라는 아이디어가 중요해질 것 같습니다."
바이브 애널리틱스: 모두가 분석가가 되는 시대 – 그리고 분석가는 다른 무언가가 되는 시대 (번역) - 이바닥뉘우스
바이브 코딩, 바이브 애널리틱스만 해당되는 이야기가 아니라고 생각한다. 아주 공감하며 읽음.
"이제 LLM이 코드 다루는 방식을 바꾸고 있다면, 애널리틱스는 어떻게 될까요?"
"저는 이걸 오래 고민해왔어요. “AI가 분석가를 대체하나?” 같은 질문은 솔직히 재미도 없고 중요한 포인트도 아닙니다. 더 중요한 건 장벽이 낮아진다는 거예요. 소프트웨어 개발 장벽이 급격히 낮아지고 있다면, 분석 장벽도 낮아지는 건 당연하죠. 누구나 데이터를 그냥 던져 넣고 인사이트를 얻을 수 있는 상황이 되면 어떻게 될까요? 그리고 더 중요한 질문은, 오랫동안 분석적 사고로 일해온 우리 같은 사람들은 어디에 위치하게 될까요? 모두가 “분석할 수 있는” 세상에서 우리는 무슨 역할을 하게 될까요?"
"제 생각은 이렇습니다. 지금 우리가 알고 있는 애널리틱스는 보이지 않는 미들웨어가 될 거예요. 수도나 전기처럼 그냥 돌아가는 기반 레이어가 되는 겁니다. 데이터 모델링, ETL 파이프라인, 정성껏 만든 지표들… 이런 건 여전히 필요하지만 배경에서 당연히 돌아가는 인프라가 되죠. 플랫폼 엔지니어는 여전히 필요하지만, 무거운 작업을 하는 사람은 훨씬 줄어들 겁니다."
"그리고 흥미로운 건, 애널리틱스 자체가 투명해지는 동시에 분석가의 역할은 완전히 달라진다는 점입니다. 더 이상 복잡한 데이터 모델이나 인사이트를 만드는 사람이 아니라, 오히려 운영자이자 전략가가 되는 거죠. 우리는 이제 비즈니스, 성장, 제품, 마케팅 같은 실제 문제에 직접 뛰어듭니다. 탐정 같은 사고, 패턴 인식 능력, 올바른 질문을 던지는 힘을 데이터가 아니라 비즈니스 문제에 적용하는 겁니다. 그게 바로 우리가 비즈니스에 제공할 수 있는 초능력이 될 거예요."
"바이브 애널리틱스에서는 이렇게 합니다. 마케팅 담당자가 그냥 Claude나 ChatGPT 같은 툴을 열고, 전략 문서, 캠페인 자료, Google Ads 데이터, LinkedIn Ads 데이터, GA4 익스포트, HubSpot 데이터, 세일즈콜 피드백까지 전부 던져 넣어요. 그리고 이렇게 묻습니다: 이번 마케팅 캠페인 사후 분석 좀 해주세요. 뭐가 잘 됐고, 뭐가 안 됐고, 어디를 개선해야 할까요?”
"여기서 중요한 차이는 속도나 편의성이 아니에요. 맥락과 데이터를 함께 연결한다는 점입니다. LLM은 단순히 ‘무슨 일이 일어났는가’를 보여주는 게 아니라, ‘무엇을 달성하려고 했는가’를 이해합니다. 연결하기 어려운 데이터 간의 패턴을 알아내고, 무엇보다 더 나은 후속 질문을 할 수 있게 도와줍니다. 이제는 사전에 정의된 지표에 묶이지 않고, “왜?”, “만약 ~라면?” 같은 탐구가 가능해지는 거죠. 이때 분석은 답을 제공하는 일을 넘어, 새로운 인사이트를 발견하는 과정으로 바뀝니다."
"이제 모두가 운영자(operations manager)이거나 전략가(strategist)가 된다는 거예요. 데이터와 맥락을 기반으로 세세하게 계속 조정하는 사람이라면 운영을 하고 있는 거고, 좀 더 멀리서 큰 패턴을 보고 “다음 큰 승부수를 어디에 둘까” 고민하는 사람이라면 전략을 하고 있는 겁니다. 기존의 분석가 역할 — 데이터를 비즈니스에 번역해 전달하는 중간자 역할 — 은 사실상 사라집니다. 우리 모두가 이제 Slack이나 이메일 쓰듯 자연스럽게 데이터를 활용하는 운영자 혹은 전략가가 되는 거예요."
"모두가 데이터를 분석하고, 이메일 쓰듯 쉽게 인사이트를 뽑아낼 수 있다면 분석가라는 전문 역할은 더 이상 의미가 없어집니다. 이제 우리에게 필요한 건 번역자가 아니라, 비즈니스 업무를 하면서 동시에 분석적으로 사고할 수 있는 사람입니다. 바로 그 사람들이 새로운 시대의 주역이 되겠죠."
AI 시대, SaaS는 왜 사용량을 따지기 시작했을까? | 요즘IT
난 모바일 시대와 AI 시대가 가장 다른 점 중 하나가 바로 이 매출에 관한 부분이라고 생각한다.
사용자들이 돈을 낼만한 가치를 충분히 느끼고 있으며, 이에 맞춰서 사용량 기반 과금 등 고도화된 BM이 나오면서 사업적인 면에서도 많은 변화들이 등장하고 있다.
커서의 구독 비즈니스 모델의 문제점을 지적하는 글. AI 제품을 만드는 회사/창업자라면 반드시 고민해보았으면 한다.
"커서가 더 저렴하고 성능이 떨어지는 모델로 하향 조정하면 성능에 민감한 사용자는 이를 알아차리고 이탈할 것입니다. 성능이 떨어져도 괜찮은 사용자는 더 저렴한 곳에서 찾을 수 있습니다. 가격을 고정시키고 최전선에 머물러 있다면, 가장 많은 사용자를 서비스하기 위한 변동적인 실비용은 폭발적으로 증가할 것입니다. 이를 방지하기 위해 커서는 가격을 인상하고 사용 한도를 설정할 수밖에 없었고, 그로 인해 사용자 불만과 이탈이 발생했습니다."
매주 새로운 LLM 모델을 배포하는 제타의 AI 팀 이야기 - 스캐터랩 블로그
과거의 역사를 보면 새로운 기술이 나왔을 때 한국에서 가장 먼저 새로운 무언가가 탄생하곤 했다. 어쩌면 지금의 한국산 AI 캐릭터챗이 그런게 아닐까 고민하는 요즘.
여기서 매우 중요한 포인트는, 과거와는 다르게 현재는 한국 기업들도 글로벌로 진출할 수 있는 발판들이 마련되어있다는 부분.
"보통, 특정 언어의 '재미'나 '정성적인 가치'를 제대로 구현하려면 그 언어와 문화를 깊이 이해하는 사람이 필요하다고 생각하잖아요? 저희도 처음에는 그렇게 생각했어요. 일본어는 저희가 네이티브처럼 이해하지 못하니까요."
"하지만 저희는 약간 다른 가설을 세웠어요. '우리가 한국어로 정의하고 구현해낸 재미와 정성적인 가치가 보편성을 가질 수 있지 않을까?', '이 능력을 언어만 바꿔서 잘 이식할 수 있다면, 일본에서도 통하지 않을까?' 하는 믿음이었죠. 기술적으로 이걸 구현하는 방법은 비밀이지만, 저희의 방법은 통했고 현재 일본 서비스의 일주일 평균 체류시간은 18시간으로 한국을 압도하고 있어요."
300만 명이 평일 3시간을 기꺼이 쓰는 AI 앱 | 스캐터랩 김종윤
내가 나름 전세계의 AI 프로덕트를 많이 살핀다고 생각하는데, 현재 제타의 모습은 글로벌리 독보적이라고 생각한다. 새로운 형태의 엔터테인먼트가 탄생한 느낌.
"유저들이 제타라는 제품을 소비한 방식은 이루다랑 완전 달랐던 거예요. 웹소설의 AI 버전, 인터랙티브 스토리텔링 게임의 AI 버전 같은 느낌으로 사람들이 소비한다는 걸 발견하고 아 이게 타겟하는 가치나 욕망은 완전 극과 극처럼 다르구나 깨달았죠. 이루다 핵심 가치는 관계였거든요.
"반면 제타는 완전히 엔터테인먼트, 즉 재미가 핵심적인 가치고 내가 가상의 스토리의 세계관의 주인공으로 들어가서 내가 하는 말과 행동이 네러티의 전개를 전적으로 결정하는 그 새로운 종류의 엔터테인먼트구나. 그러니 사용 시간도 완전 납득이 되는 거예요."
"저는 결국은 이제 AI라는 기술을 통해서 엔터테인먼트나 콘텐츠라는 큰 도메인도 엄청나게 큰 변화를 겪을 거라고 생각을 하거든요. 거기서 가장 펀더멘탈한 변화가 뭐라고 생각하냐면은 창작자와 소비자의 경계가 되게 허물어지는, 그러니까 기존의 엔터테인먼트나 컨텐츠업을 생각을 해 보면 만드는 사람과 소비하는 사람이 명확하게 구분이 됐거든요. 결국 만드는 사람들이 콘텐츠를 다 만들고 난 다음에야 완성된 형태로 콘텐츠가 전달되고 그걸 소비하는게 인류 수천 년간 모든 엔터테인먼트 컨텐츠 업의 가장 기본적인 구조죠."
"그런데 제타는 그렇지 않거든요. 내가 거기서 무슨 말을 하고 무슨 행동을 하느냐가 앞으로 진행되는 거에 대한 재료가 되고 그걸 모델이 얼마나 잘 받아주고 재밌는 사건을 발생시키느냐가 또 컨텐츠가 되거든요. 내가 원하는 방식의 전개, 원하는 방식의 세팅을 스스로가 주인공으로서 말과 행동을 통해서 전개를 할 수가 있는 거예요. 그러니까 오직 한 명만을 위한 콘텐츠가 리얼 타임으로 만들어질 수도 있는 거죠."
#인프라
아리스타네트웍스, 아스테라랩스 등 AI 네트워크 관련 밸류체인 기업들이 전부 다 강력한 실적을 보여주고 있다.
생각해보면 당연한데, 데이터센터 규모가 커짐으로 인해서 GPU가 '선형적'으로 늘어날 때 네트워크는 '지수적'으로 중요해지기 때문이다.
그러니 앞으로 더더욱 강력한 실적을 접하게 되지 않을까 추론해본다.
엔비디아는 거대한 스케일의 AI 공장을 만든다는 비전에 진심인 것 같다. 칩을 만드는 것 만큼이나 연결하는데 해자가 있는 엔비디아다운 전략.
"AI 수요가 급증함에 따라, 개별 데이터 센터는 단일 시설 내에서 전력과 용량의 한계에 도달하고 있습니다. 확장을 위해서는 데이터 센터가 한 건물 이상의 범위로 확장되어야 하는데, 이는 고지연 및 불안정한 성능을 가진 상용 이더넷 네트워킹 인프라의 한계에 의해 제한됩니다."
"Spectrum-XGS 이더넷은 이러한 한계를 제거하는 획기적인 기술로, NVIDIA Spectrum-X™ 이더넷 플랫폼에 추가된 혁신적인 요소입니다. 이는 스케일업(scale-up)과 스케일아웃(scale-out) 외에도 데이터 센터를 연결하여 거대한 AI 슈퍼팩토리를 구성할 수 있는 새로운 "스케일어크로스(scale-across)" 인프라를 도입합니다. Spectrum-X 이더넷의 극단적인 성능과 확장성을 통해 여러 분산 데이터 센터를 연결하여 기가 스케일 지능을 가능하게 하는 초대형 AI 슈퍼팩토리를 형성할 수 있습니다."
NVIDIA Announces Financial Results for Second Quarter Fiscal 2026
이번분기 엔비디아 실적발표 내용의 핵심은 네트워킹 사업인 것 같다. 이제는 본격적으로 칩 자체 만큼이나 칩을 연결하는게 중요해진 구간.
"작년에는 노드 스케일 컴퓨팅인 NVLink 8에서, 이제는 랙 스케일 컴퓨터인 NVLink 72로 전환했습니다."
"하지만 Blackwell 플랫폼과 Rubin 플랫폼을 구축하기 위해 우리는 CPU, 대용량 KB 캐싱이 필요한 에이전틱 AI용으로 낮은—극도로 에너지 효율적인 메모리를 빠르게 연결하는 CPU, GPU, SuperNIC, 스케일 업 스위치(NVLink), 스케일 아웃 스위치(Quantum 또는 Spectrum-X Ethernet), 그리고 이제 여러 기가와트의 컴퓨팅을 모두 연결하는 AI 슈퍼 팩토리를 준비하기 위한 스케일 어크로스 스위치까지 구축해야 했습니다. 우리는 이를 Spectrum-XGS라고 부릅니다."
"그리고 분명히 말씀드리지만, 여러분이 받는 것은 GPU 한 개가 아닙니다. 우리는 GPU를 만들고 발명한 것으로 유명하지만, 지난 10년 동안 우리는 실제로 AI 인프라 회사로 전환해 왔습니다. Rubin AI 슈퍼컴퓨터 하나를 만들기 위해서는 6가지 종류의 칩이 필요합니다. 이를 기가와트로 스케일하려면 수십만 개의 GPU 컴퓨트 노드와 아주 많은 랙이 필요합니다. 그래서 우리는 진정한 AI 인프라 회사이며, 이 산업을 성장시키고, AI를 더 유용하게 만들고, 매우 중요하게는 단위 에너지당 성능을 향상시키는 데 계속 기여하고자 합니다."
"사실 적절한 네트워킹을 선택하면, 처리량 효율이 65%에서 85% 또는 90%로 올라가는 종류의 개선을 통해 네트워킹 비용은 사실상 무료가 됩니다. 적절한 네트워킹을 선택하면 믿기 어려울 정도의 수익을 얻게 됩니다. 앞서 말했듯 기가와트 AI 팩토리는 $50 billion이 될 수 있습니다. 그 공장의 효율성을 수십 퍼센트 향상시킬 수 있는 능력은 $10 billion, $20 billion에 해당하는 실질적 이익을 제공합니다. 그래서 네트워킹은 매우 중요한 부분입니다."
"이것이 NVIDIA가 네트워킹에 그렇게 많은 투자를 하는 이유입니다. 5.5년 전 Mellanox를 인수한 이유이기도 합니다. 앞서 언급했듯 Spectrum-X는 이제 꽤 큰 사업이 되었고, 고작 1.5년밖에 되지 않았습니다. Spectrum-X는 홈런입니다. 세 가지 모두 환상적일 것입니다: 스케일 업을 위한 NVLink, 스케일 아웃을 위한 Spectrum-X와 InfiniBand, 스케일 어크로스를 위한 Spectrum-XGS."
Marvell Custom AI Investor Event
현재는 AI 워크로드가 다양해지면서 이를 포괄할 수 있도록 반도체 시스템이 고도화되는 시기이며, 네트워킹이 그 무엇보다도 중요해지고 있다.
"현재 마벨의 총 데이터센터 기회는 $940억이며, 35%의 연평균 성장률로 성장하고 있습니다. 맞춤형 컴퓨팅이 가장 크고 빠르게 성장하는 부분이며, 그 다음이 인터커넥트, 스위칭, 스토리지 순입니다."
"$150억 규모의 XPU 어태치가 있으며, 이는 2023년의 아주 작은 기반에서 시작했지만 매년 거의 두 배로 증가하는 놀라운 90%의 CAGR로 성장하고 있습니다."
"본질적으로 그것은 이러한 맞춤형 시스템의 복잡성 증가 때문입니다. 그리고 이것을 맥락에 넣어보면, 2028년을 내다볼 때, 맞춤형 XPU 어태치 시장은 오늘날 클라우드를 위한 전체 맞춤형 실리콘 시장과 같은 규모입니다."
"따라서 XPU와 XPU 어태치 모두 이 시장의 엄청나게 중요한 부분이며, 우리는 오늘 각각의 동향과 우리가 어떻게 이길 수 있는 위치에 있는지 자세히 설명하는 데 많은 시간을 할애할 것입니다."
"더 이상 우리는 단지 큰 모델을 훈련시키는 단순한 단일 AI 워크로드만 가지고 있지 않습니다. 워크로드는 이제 상당히 다양해졌습니다. 사전 훈련과 사후 훈련이 있습니다. 다양한 추론 워크로드가 있습니다. 그리고 워크로드가 다양해짐에 따라, 전문화가 증가하고 있습니다. 당신은 그러한 다양한 워크로드에 대해 우수한 총 소유 비용과 우수한 성능을 갖기 위해 전문화된 인프라를 구축합니다. 그리고 그것이 결국 맞춤화를 이끕니다."
OpenAI set to start mass production of its own AI chips with Broadcom - FT
브로드컴이 설계한 OpenAI용 ASIC 칩이 성능이 괜찮게 뽑혔나보다. 내년부터 대량 생산에 들어갈 예정이라고.
브로드컴 실적발표 콜에서 나온 OpenAI ASIC 관련 내용들
"이번 분기에는 AI 매출 중 65%가 XPU 사업에서 발생했습니다. 3명의 고객들이 자신만의 AI 가속기를 만들기 위한 진행을 지속하면서, 그들의 컴퓨팅 자립성을 향해 각기 다른 속도로 나아가고 있습니다. 그리고 우리는 계속해서 이 고객들과의 점유율을 확대하고 있습니다."
"이 3명의 주요 고객 외에도, 이전에 언급한 바와 같이, 우리는 다른 잠재 고객들과 AI 가속기 개발을 위해 협력하고 있습니다. 지난 분기 중, 그 중 한 고객은 브로드컴에 생산 주문을 내었으며, 우리는 이를 XPU의 자격을 갖춘 고객으로 분류하고 있으며, 실제로 100억 달러 이상의 AI 랙 주문을 확보했습니다."
"하지만 상당 부분은 이제 저희 명단에 추가된 네 번째 고객 때문입니다. 이 고객에게는 2026년에, 정확히 말하면 2026년 초에 꽤 강력하게 출하할 예정입니다. 따라서 기존 3개 고객의 물량 증가와 함께 매우 점진적이고 꾸준하게 나아가고 있습니다. 그리고 즉각적이고 상당히 큰 수요를 가진 네 번째 고객이 추가되면서, 26년이 어떤 모습일지에 대한 저희의 생각을 정말로 바꾸어 놓았습니다."
그리고 브로드컴 또한 네트워크의 중요성을 강조했다.
"AI와 네트워킹에 대해 살펴보면, LLM이 진화함에 따라 네트워킹 수요는 계속해서 강력한 추세를 보이고 있습니다. 컴퓨팅 클러스터가 점점 더 커져야 하므로, 네트워크는 컴퓨터로서 중요한 역할을 하고 있습니다. 고객들은 10만 개 이상의 컴퓨팅 노드를 포함하는 클러스터로 확장할 때 어려움을 겪고 있습니다. 예를 들어, 확장성은 많은 대역폭을 필요로 하며, 여러 개의 GPU나 XPU가 랙 내에서 메모리를 공유하는 것은 어려운 도전 과제입니다. 현재 AI 랙은 72개의 GPU를 28.8 테라비트 초당 대역폭으로 확장할 수 있으며, 이는 독점적인 NVLink를 통해 가능합니다. 반면, 올해 초에 우리는 Tomahawk 5를 출시했으며, 이는 512개의 컴퓨팅 노드를 확장할 수 있는 오픈 이더넷 솔루션입니다."
"랙 간 확장에 대해 이야기하자면, 현재 아키텍처는 51.2 테라비트 초당 대역폭을 사용하며 3단계의 네트워킹 스위치를 요구합니다. 6월에 우리는 Tomahawk 6과 102 테라비트 초당 대역폭을 지원하는 이더넷 기반 스위치를 출시했으며, 이는 네트워크를 2단계로 평평하게 만들어서 지연 시간을 줄이고 전력 소모를 대폭 줄였습니다. 이제 여러 데이터 센터에 걸쳐 컴퓨팅을 확장해야 하므로, 우리는 지난 2년간 하이퍼스케일 고객들과 함께 Jericho3 이더넷 라우터를 배포하여 이 문제를 해결하고 있습니다. 오늘, 우리는 Jericho4 이더넷 패브릭 라우터를 출시했으며, 이는 51.2 테라비트 초당 깊은 버퍼링 지능형 혼잡 제어 기능을 갖추고 있어 20만 개 이상의 컴퓨팅 노드를 지원하는 클러스터를 처리할 수 있습니다."
"우리는 생성형 AI를 위한 더 큰 컴퓨팅 클러스터를 배치하는 데 가장 큰 도전이 네트워킹이 될 것임을 잘 알고 있습니다. 브로드컴은 지난 20년간 스케일업, 스케일아웃 및 스케일어크로스 문제를 해결하기 위해 이더넷 네트워킹을 개발해왔습니다."
Goldman Sachs Communacopia and Technology Conference | Broadcom Inc.
골드만삭스 컨퍼런스에서 나온 브로드컴 Hock Tan의 발언들.
LLM을 제대로 개발하는 7개의 업체만이 현재 브로드컴의 고객이라고 못박은게 인상적이었고 (이들을 제외한 나머지 업체들은 완전히 다른 사업군이라고 인식하는듯), 네트워킹이 매우 중요해진다고 보는 관점을 다시 한번 확인해주었다 (특히 스케일업 네트워크!)
"하지만 그것은 그 이상입니다. 왜냐하면 여러분도 알다시피, 단일 GPU 또는 XPU는, 우리가 모두 그것을 얼마나 강력하게 만들든 간에. 그리고 우리는 이 800제곱밀리미터의 실리콘 조각에 더 많은 곱셈기, [indiscernible] 곱셈기를 집어넣음으로써 그것들을 매우 강력하게 만들 수 있습니다. 그리고 더 깊고 더 깊은 서브미크론 공정 기술로 가서 더 많이 집어넣을 수 있습니다. 그리고 한 단계 더 나아가—하나의 다이를 하나의 패키지나 칩에 넣는 대신, 멀티다이로 합니다. 우리는 현재 우리가 만드는 최신 제품에서 실제로 하나의 패키지에 세 개의 다이를 넣었습니다. 그만큼 많이 집어넣었습니다."
"그래서 우리는 이 GPU나—우리의 경우 XPU를—이 곱셈과 행렬 회귀를 수행하는 데 매우, 매우 뛰어나게 만들 수 있습니다. 하지만 그것만으로는 충분하지 않습니다. 여러분은 이 거대한 데이터베이스에 대한 생성형 AI 학습을 수행하여 이 수십억, 수십억 개의 파라미터 모델을 한 개의 GPU 또는 XPU로, 아무리 노력해도 수행할 수 없습니다. 여러분은 그것들의 클러스터를 만들어야 합니다."
"그리고 여러분의 LLM이 더 복잡해질수록, 여러분의 클러스터는 더 커져야 합니다. 그러면 전혀 다른 문제에 직면하게 됩니다. 예를 들어, 10만 개의 GPU에 걸쳐 모든 이 행렬 곱셈을 동시에 어떻게 수행하느냐는 것입니다. 그리고 100만 개로 가면 더 큰 골칫거리가 되죠. 저는 이것이—사실 저는 이것이—생성형 AI 컴퓨팅에서 가장 큰 기술적 과제라고 봅니다. 여러분의 모델을 더 높이 발전시킬수록요. 그리고 그것은 다른 측면, 즉 네트워킹에서 비롯됩니다. 그것들을 어떻게 연결하나요? 그것들을 연결하기 위한 대역폭을 어떻게 제공하나요? 워크로드를 어떻게 스케줄링하고, 오케스트레이션하여 모두가 병렬로 실행되게 하나요. 이는 네트워킹 측면(하드웨어)만큼이나 소프트웨어의 문제입니다."
"저는 이것이 초지능을 만들어내는 데 있어 엄청난 진전을 이루는 데 있어 가장 큰 도전 과제 중 하나라고 생각합니다. 이 거대한 모델에서 실행해야 하는 거대한 워크로드를 어떻게 100만 개의 GPU 또는 XPU에서 동시에 실행하고, 해에 수렴하게 만드느냐는 것이죠. 그리고 그 일부가 서서히 표면으로 떠오르고 있는데, 바로 네트워킹이며, 그것이 가장 큰 문제일지도 모릅니다. 왜냐하면 생성형 AI에서는—이전에 말했듯—다시 말하자면, 네트워크가 컴퓨터가 됩니다. 어떤 단일 GPU나 XPU가 아니라요."
"우리는 모두 거기에 집중하는 경향이 있지만, 그것은 훨씬 그 이상입니다. XPU, GPU를 개발하는 것은—그리고 나오려 시도하는 것은—어렵고, 많은 지적 재산이 필요하지만, 진짜로, 네트워킹을 하는 것보다는 더 쉽습니다. 그곳에서 도전이 시작됩니다. 그리고 그렇습니다, 바로 그렇게 우리가 차별화합니다. 우리는 더 나은 쥐덫, 더 나은 기술을 내놓고, 경쟁을 앞서 달립니다. 우리가 반도체의 다른 모든 영역에서 했던 것과 다르지 않습니다. 그곳에서 우리는 매우 성공적이었습니다."
"그리고 성장은, 다른 이유가 아니라, 이더넷으로의 이동 때문에 일어날 것입니다. 그게 한 가지죠. 그러나 그보다도, 더 크고 더 큰 클러스터로 갈수록, 랙 내부에서의 스케일업 능력이 매우 중요해집니다."
"그리고 AI, 생성형 AI 컴퓨팅을 위해 랙 내부에서 그 수준의 스케일업을 하게 되면—여기에서 여러분의 모델에서 진정한 행렬 곱셈이 일어나는 곳인데—당신은 막대한 대역폭에 대해 이야기하고 있습니다. 여러분은 이제 곧 대역폭이—그리고 이것은 GPU 대 GPU, XPU 대 XPU 연결만이 아니라, GPU 전반에 걸친 메모리 공유에 대한 이야기입니다. 그리고 여러분은 이 GPU들이 얼마나 많은 메모리를 가지고 있는지 알고 있죠. 그래서 여러분은 진정으로 100테라비트/초로 가는 대역폭을 원하며, 오늘날 구리 랙에서 보이는 28에 머물고 싶지 않습니다—즉, 여러분은 광(옵티컬)으로 가고 싶어집니다. 여러분은 단지 72개의 GPU만 서로 연결하는 것이 아니라, 512개, 심지어 1,024개의 XPU를 XPU에 연결하고 싶습니다."
"그것이 여러분이 추진하고 싶은 스케일이며, 여러분이 추진하고 싶은 대역폭입니다. 이는 여러분이 찾고 있는 학습 솔루션의 결과에 훨씬 더 빠르게 수렴하도록 만들 것입니다. 그것이 우리가 향하는 로드맵입니다. 그리고 우리는 몇 년 뒤의 이야기를 하는 것이 아닙니다. 지금으로부터 1~2년 내, ’26, ’27에 일어나기 시작할 것입니다. 제품은 나와 있고, 기술은 이용 가능합니다. 이제는 배치의 문제입니다."
Oracle Cloud Powers OpenAI, Nvidia, and Larry Ellison’s Riches - Bloomberg
오라클의 클라우드 사업부(OCI)의 연대기를 잘 정리해둔 기사.
오라클이 코어위브와 같은 여러 네오클라우드 대비해서 가진 표면적인 강점은 거대 고객사들의 '스케일'을 감당할 수 있는 역량과 데이터베이스 사업으로부터 나오는 막대한 '현금흐름'이라고 보는데,
보다 근본적인 강점은 경쟁이라면 절대 지지 않는다는 래리 앨리슨 특유의 DNA가 회사에 여전히 남아있기 때문이 아닐까 추측하고 있다. 래리 앨리슨이 괜히 세계 최고 부자 중 한명이 아니거든.
"OCI의 주요 제안 포인트는 단순화된 제품 구성표에 기반한 더 저렴한 가격, 그리고 다른 클라우드와의 우수한 연동성이다."
"OCI는 틱톡 이전과 이후로 나뉩니다.” 당시 오라클의 데이터센터 구축을 이끌었던 전임 임원 토니 그레이슨(Tony Grayson)은 이렇게 말했다. 새 고객은 회사가 이전엔 생각해본 적 없는 규모로 사고하도록 만들었다고 그는 덧붙였다. 2022년, 틱톡은 모든 미국 사용자 트래픽이 오라클 서버를 통해 흐를 것이라고 발표했다."
"내부 찬사는 부문 리더 마구어크에게 집중되고 있다. 39세인 그는 회사 내 승진 가도를 빠르게 달려 엘리슨에게 직접 보고한다. 아마존 근무를 거쳐 OCI의 첫 직원들 중 한 명이었고, 최근 오라클이 본사를 이전하기로 한 내슈빌로 이주했다. 6월에는 사장으로 승진했으며, 회사 리더들은 그를 81세 보스의 잠재적 후계자로 본다."
"OCI가 AI 기업들 사이에서 인기를 끄는 이유 중 하나는 오랜 기간 베어 메탈 서버에 집중해 왔기 때문이다. 이는 AI 작업의 표준 구성으로 자리잡았고, 오라클은 주요 벤더 중 가장 먼저 제공했다. 사용자와 직원들은 또한 오라클의 네트워킹 품질과 높은 수준의 맞춤 작업 의지를 강점으로 꼽는다."
"오라클의 또 다른 대형 AI 고객은 엔비디아다. 엔비디아는 내부 개발과 자체 클라우드 인프라 서비스를 가동하기 위해 OCI를 사용한다. 내부 코드명 ‘패스파인더(pathfinder)’인 이 칩 제조사는 일본의 오라클 H100 클러스터 용량을 임차하고 있으며, 인도네시아 바탐 섬에 건설 중인 데이터센터에서도 역량을 빌리고 있다. 또한 오라클은 메타와 머스크의 xAI와도 추가 용량을 놓고 논의 중이라고 계획을 잘 아는 이는 전한다.
Oracle Announces Fiscal Year 2026 First Quarter Financial Results
오라클이 실적발표에서 엄청난 수준의 RPO(수주잔고)를 공개하면서 하루만에 시가총액이 300조원 이상 상승했다.
어떻게 이렇게 매번 말도 안되는 숫자들이 나올 수 있는건지... AI는 이제 시작이라는 말을 다시 한번 적게 된다.
오라클 클라우드 인프라에 대한 수요는 계속해서 증가하고 있습니다. 추가적인 수십억 달러 규모의 고객과 계약을 체결할 것으로 예상하며, RPO는 0.5조 달러를 초과할 것으로 보입니다. RPO 성장의 규모는 우리가 클라우드 인프라 부분에서 재정 계획을 크게 상향 조정할 수 있게 해줍니다. 이제 오라클 클라우드 인프라는 이번 회계연도에 77% 성장하여 180억 달러에 이를 것으로 예상되며, 그 다음 4년 동안 320억 달러, 730억 달러, 1140억 달러, 1440억 달러로 증가할 것입니다. 이 매출의 대부분은 4550억 달러 RPO 숫자에 이미 예약되어 있으며, 올해는 환상적인 출발을 했습니다.
결국, AI는 모든 것을 변화시킬 것입니다. 하지만 현재 AI는 오라클과 컴퓨터 산업 전체를 근본적으로 변형시키고 있습니다. 그 규모를 충분히 이해하지 못하는 사람들이 많지만, 우리 분기 실적을 보세요. 몇 가지는 분명히 확실합니다. 여러 세계적인 AI 기업들이 오라클을 선택하여 대규모 GPU 중심 데이터 센터를 구축하고 있습니다. 이는 오라클이 다른 누구보다도 더 빠르고 비용 효율적으로 AI 모델을 훈련할 수 있는 기가와트 규모의 데이터 센터를 구축하고 있기 때문입니다.
AI 모델 훈련은 수조 달러 규모의 거대한 시장입니다. 이만큼 큰 기술 시장을 상상하기는 어렵지만, 그보다 더 큰 시장이 있습니다. 바로 AI 추론 시장입니다. 수백만 명의 고객들이 AI 모델을 이용하여 비즈니스와 정부를 운영하고 있습니다. 실제로 AI 추론 시장은 AI 훈련 시장보다 훨씬 클 것입니다.
우리는 AI 추론 시장에서 승자가 될 수 있는 아주 좋은 위치에 있다고 생각합니다. 왜냐하면 오라클은 전 세계에서 가장 큰 고급 민간 기업 데이터를 보유하고 있기 때문입니다. 새로운 AI 데이터베이스를 도입하면서, 우리는 고객들이 데이터를 우리의 데이터베이스에 저장할 수 있는 아주 중요한 방법을 추가했습니다. 데이터를 벡터화함으로써 모든 데이터를 AI 모델이 이해할 수 있게 만들 수 있습니다.
그리고 제가 보기엔 사실 충격적인 두 가지를 더 말씀드리겠습니다. 우리는 오라클 클라우드 전체, 오라클 클라우드의 모든 기능, 모든 특성을 몇 대의 랙—3대—에 담을 수 있을 정도로 축소했습니다. 우리는 그것을 Butterfly라고 부르며, 가격은 600만 달러입니다. 그러니 우리는 600만 달러에 우리가 하는 모든 것, 모든 기능, 모든 보안 기능, 우리가 하는 모든 것을 갖춘 오라클 클라우드의 프라이빗 버전을 제공할 수 있습니다. 다른 하이퍼스케일러들의 비용은 그것보다 100배 이상이라고 생각합니다.
또 한 가지. 우리는 어떤 회사보다도 가장 발전된 애플리케이션 생성기를 보유하고 있습니다. 흥미로운 점은 우리가 애플리케이션 회사이자 클라우드 인프라 회사라는 것입니다. 따라서 우리는 애플리케이션을 구축합니다. 그리고 애플리케이션을 구축하면서 더 효율적이길 원합니다. 더 효율적으로 만드는 방법은 AI 애플리케이션 생성기를 만드는 것이고, 우리는 그렇게 해왔습니다. 그리고 — 우리가 지금 구축하고 있는 최신 애플리케이션들은 우리가 직접 만드는 것이 아닙니다. AI가 생성하고 있습니다. 그리고 우리는 애플리케이션을 생성하는 측면에서 다른 어떤 애플리케이션 회사들보다 훨씬 앞서 있다고 생각합니다. 그래서 그것이 우리가 가진 또 하나의 매우 중요한 장점입니다.
우리는 부동산을 소유하지 않습니다. 우리는 건물을 소유하지 않습니다. 우리가 소유하고 설계하는 것은 장비입니다. 그리고 그것은 오라클 클라우드에 최적화된 장비입니다. 매우 특별한 네트워킹 기능을 갖추고 있습니다. Larry와 그의 팀이 제공하는 기술적 기능 덕분에 우리는 이러한 워크로드를 훨씬, 훨씬 더 빠르게 실행할 수 있습니다. 그 결과, 워크로드에 따라 다르지만, 경쟁사들보다 훨씬 저렴합니다.
그렇기 때문에 우리가 하는 일은, 때가 되었을 때만 그 장비를 투입하고, 보통 매우 빠르게 — 고객이 그것을 수용한다고 가정하면 — 곧바로 매출을 발생시킨다는 것입니다. 시스템이 고객의 요구를 충족하고 그들이 그것을 수락하는 속도가 빠를수록, 그들이 사용을 시작하는 속도가 빨라지고, 우리는 더 빨리 매출을 얻게 됩니다. 어떤 의미에서, 재무 용어로 말하는 자산 경량(asset-light)이라고까지는 하고 싶지 않지만, 꽤 자산이 가벼운 편입니다. 그리고 그것이 우리에게 정말 이점입니다. 경쟁사 중 일부는 건물 소유를 좋아하죠. 하지만 그건 우리의 전문이 아닙니다. 우리의 전문은 독특한 기술, 독특한 네트워킹, 스토리지, 그리고 우리가 이러한 시스템들을 구성하는 전체 방식입니다.
Exclusive | Oracle, OpenAI Sign $300 Billion Cloud Deal - WSJ
오라클 RPO가 점핑한건 역시나 OpenAI 덕분이었군. $300b 짜리 계약을 채결하였다고.
관련해서 아침에 '왜 마소를 놔두고 오라클과 이런 큰 계약을 했을까요?'라는 질문을 받아서 짧게 적어본 답변:
오픈AI와 MS가 현재 사이가 별로 안좋습니다. 현재는 계약 상 OpenAI가 MS에 종속되어있는 관계인데 (ex MS 애저에 독점 공급), OpenAI가 회사가 너무 커져버려서 이 관계를 깨뜨리고 싶어하고 실제로 재협상을 진행 중에 있습니다. 그런데 재협상이 원할해보이지는 않고, 동시에 서로가 서로의 영향력 아래에서 점점 더 멀어지려는 움직임을 보이고 있습니다 (관련해서 최근에 마소는 앤트로픽을 오피스에 도입하기도 했습니다).
그래서 OpenAI는 굳이 마소 애저에 종속되기보다는, 자체적으로 클라우드를 건설할 필요성을 크게 느꼈을껍니다.
결국 저는 마소와 OpenAI는 가면 갈수록 분리될 것이라고 예상합니다 (개인적으로는 아마 마소가 OpenAI 지분의 상당 부분을 가지는 대신, 서로 사업에 있어서는 영향을 미치지 않는 정도로 관계가 마무리되지 않을까 추정하고 있습니다.)
동시에 오라클의 제안이 OpenAI가 딱 필요한 부분들이었을껍니다. 우선 '건설은 내가 다 해줄테니, 너네는 가져다 쓰기만 해'라는 제안이 굉장히 매력적이었을 것이고 (AI 인프라 건설과 운영은 분명 다르니까요), 게다가 '그 누구보다 빠르고 저렴하게 데이터센터 공급해줄께'라고 설득했을 것이기 때문에 이들과 일을 안할 이유가 없었을 것 같습니다. 즉, MS보다 빠르고 저렴하게 데이터센터 공급을 자신하지 않았을까 싶습니다 (오라클이 이에 대한 자신감이 엄청나더라고요).
→ 궁극적으로 OpenAI는 자체적인 데이터센터를 확보함으로써, 사실상 자체 클라우드 사업부를 가지는 것과 유사해질 것으로 보입니다. 오라클은 이를 위한 완벽한 파트너로 보입니다. 저는 OpenAI는 사실상 빅테크 반열에 올라섰다고 생각하는데, 오라클이 새로운 빅테크의 클라우드를 대행해주면서 이런 엄청난 움직임이 발생하고 있다고 봅니다.
#금융
[단독] '국민 명함앱' 리멤버, 5000억에 매각 [시그널] - 서울경제
결국 아크앤파트너스는 리멤버를 성공적으로 매각했다. 4년만에 기업가치를 두 배 이상 상승시키며 엑싯까지 성공적으로 마무리.
역시 처음부터 남다르다 싶더니만, 아크앤파트너스는 ‘그로스 바이아웃’이라는 독보적인 영역을 성공적으로 개척해나가고 있는 것 같다.
Exclusive | Billions Flow to New Hedge Funds Focused on AI-Related Bets - WSJ
우와, situational-awareness.ai 작성했던 23살 Leopold Aschenbrenner이라는 사람이 이 글 때문에 OpenAI에서 쫓겨났는데, 그 뒤로 자기 헤지펀드를 만들어서 $1.5b를 굴리고 있다고. 회사 이름도 Situational Awareness이라는데, AI 테마에 집중 투자해서 올 상반기 수익률이 47%라고 한다.
찾아보니 13F 공시도 있어서 관심있게 지켜봐야겠다. 3/31 기준으로는 인텔을 콜옵션 포지션으로 약 45% 채워뒀군.
General Catalyst’s Hemant Taneja: AI investors are navigating ‘peak ambiguity’ - FT
AI 롤업을 가장 적극적으로 하고 있는 하우스 중 하나인 General Catalyst
Q. 제너럴 캐털리스트의 접근 방식부터 시작하겠습니다. 귀사는 스스로를 "투자 및 혁신 회사"라고 설명하는데, 저는 그 두 가지 측면에서 AI에 대한 접근 방식을 분석해보고 싶었습니다. 귀사와 같은 회사는 AI로 어떻게 수익을 창출하나요?
A. Hemant Taneja: AI가 변혁적인 힘이며, 그 가치는 실제로 기존 고객과 데이터를 보유한 기업들에게 돌아간다는 생각에서 시작하겠습니다. 왜냐하면 그들이 응용 AI의 수혜자가 될 수 있기 때문입니다. 스스로를 변화시킬 문화와 용기를 가진 조직은 AI에 의해 강화될 것이고, 그렇지 않은 조직은 뒤처질 것입니다. 이러한 변화의 이론에서 시작됩니다.
그런 다음 비즈니스의 혁신을 여러 구성 요소로 나누어 봅시다. 첫째, 기업이 AI를 채택할 수 있는 인프라를 갖추고 있는가? 둘째, 언어 모델이 업계 전반에 걸쳐 충분히 잘 작동하는가, 아니면 특정 비즈니스 기능의 요구를 해결하기 위해 그 위에 작은 모델을 구축해야 하는가? 셋째는 인력 혁신입니다. 인간과 AI 에이전트가 서로 협력하여 높은 생산성을 발휘할 수 있는 조직을 갖게 될 것인가?
#투자
글에 재미있는 내용들이 많다.
가면 갈수록 투자는 불확실성을 다루는 게임인 것 같다는 생각을 많이 하게 된다. 그 게임에서 이길 수 있는 방법 중 하나가 글에서도 나오는 '우발성을 항상 대비하고 수렴성에 좀 더 기대는 것'이라는 데 동의하고.
한편으로는 이 게임에서 이길 수 있는 좋은 투자 습관을 잘 갖춰놓는건 (적어도 자본주의가 살아있는 한) 평생동안 자산을 늘릴 수 있는 아주 좋은 아이템을 가지고 있는 것과 유사한 것 같다.
내가 최근 폴인과 인터뷰를 하면서 ‘돈에도 체력이 있다’라는 이야기를 하였는데,
“길게 보면서 천천히 가는 것이 부자가 되는 가장 빠른 지름길이라 생각해요. 돈에도 체력이 있거든요. 무리하면 탈 날 수 있어요.”
“체력에 맞지 않게 욕심내면 몸이 고장나는 것처럼, 돈도 똑같은 속성이 있어요. 그래서 중요한 건 나의 체력을 조금씩 늘려가는 거예요. 어느 순간 기회가 찾아오면, 그 기회를 잘 살려 다음 구간으로 넘어갈 수 있는 것이 아닐까 생각하고요.”
“앞서 말했듯 투자의 초반에는 덧셈 구간을 지나고, 금액이 커지면 곱셈 구간으로 접어들어요. 얼마나 튼튼하게 기초를 다져놓았는지에 따라 곱셈 구간으로 들어섰을 때의 성과가 크게 차이 나요. 사람들은 빠르게 부자가 되고 싶어하죠. 그런데 배워야 할 것을 제대로 배워놓지 않는다면, 설령 빠르게 자산을 일구더라도 큰 타격을 입고 자산 규모가 회귀하는 경우도 있으니까요.”
얼마 뒤, 알바트로스님 블로그에서 동일한 내용의 글이 올라왔다.
"좋은 투자자가 되는 건, 건물 짓기와 매우 유사합니다."
"높은 건물을 짓고자 한다면.. 처음에 땅을 아주 넓고, 깊게 파 들어가야 합니다. 내가 짓고 싶은 건 높은 건물인데.. 그걸 빨리 끝내고 싶다 해서. 처음 땅 파기를 무시하거나 소홀히 하면, 그 건물은 무조건 붕괴됩니다. 투자도, 트레이딩도, 똑같습니다. 부실한 기초는 작은 돈일 때는 나타나지 않습니다."
"그런데 돈이 커지면.. 무조건 문제가 됩니다. 그리고 거기서 운명이 갈리게 됩니다."
"투자는 아주 길고 긴 여정입니다."
#비즈니스
Paradigm Shifts and the Winner’s Curse - Stratechery
새로운 기술이 나올 땐 자기 것을 지키려는 태도보단, 자기를 완전히 바꾼다는 마음가짐으로 대하는 것이 결국 살아남는 길인 것 같다.
경영학과를 다녀보면 이러한 이야기를 수천번 듣게 되는데, 머릿속으로는 알아도 실전에서 이를 이행하기는 정말 어려운 것 같다.
"애플과 아마존은는 ‘AI는 모바일만큼의 패러다임 전환이 아니다’라는 가정 위에 선다. 애플은 “사람들이 결국 아이폰을 원하고, 온디바이스 AI로 충분할 것”이라 생각한다. AWS는 “AI는 컴퓨트·스토리지 같은 기본 자원이고, 기업은 AWS 요금에 얹을 것”이라 본다."
"그러나 에이전트(완전 자율)와 증강이라는 낙관적 시나리오에서는 성능이 비용보다 중요해진다. 이때 AWS의 ‘비용 집착’은 엇박자를 낼 수 있고, 자체 최첨단 모델 부재는 약점이 된다. 반면 구글은 TPU와 Gemini를 통합해 나란히 갖추고 있다."
"이 관점에선, 이전 패러다임에서의 승자의 약점이라는 역사적 교훈이 떠오른다. 난 2023년 초엔 구글이 검색 기반이라 AI로 ‘파괴’될 위험이 있다고 봤지만, 지금은 다르다. 구글은 모바일 전환을 훌륭히 넘어섰고, AI에서도 빠르게 전사적 전환을 하고 있다."
"결국, 스탠퍼드 기숙사 같은 환경에서 멋진 컴퓨터 작업을 하고 싶었던 래리 페이지·세르게이 브린의 문화가, 명확성과 효율성을 갈망하는 분석가 입장에선 답답해도, 여러 패러다임을 관통해 살아남는 비결일지 모른다."
감각이 좋은건 비교적 (타고나기 보다는) 노력의 결과물이라는 것에 공감.
내 텔레그램과 뉴스레터를 사람들이 봐주는 것 또한 일종의 taste가 반영되어있기 때문일텐데, 이게 타고난 능력치일리는 없다고 본다. 계속 고민하고 생각하니 발달한거겠지.
"다양한 분야에서 좋은 taste를 가지는 것이 중요하겠지만, 어느 분야든 산출물(artifact)을 내는 과정을 거친다고 한다면, 같은 일을 하지만 어떤 사람의 artifact(산출물)는 훌륭하고, 어떤 사람의 artifact는 그저 그렇다(bland). 결국 그 일을 하는 사람의 어떠한 감각 같은 것이 작용하여 차이를 만드는 것이 아닐까 싶다."
"그런데 좋은 taste는 어떻게 기를 수 있을까? 취향과 맛에 대한 감각은 타고나는 것은 사실 없다고 생각하는 편이다. 누구든 지나온 경험과 환경을 통해 감각을 기른다고 생각한다. 그러나 단순하게 많이 보고 많이 듣고 경험하는 것으로는 충분하지 않다. 좋은 taste는 의식적인 훈련의 결과물이다. 좋은 것이 왜 좋은지를 설명하고자 하는 스스로의 사유와 남들과의 교류를 통해 형성되어 간다."
"좋은 taste를 가진 사람은 어떤 대상에 대한 열의를 가진 사람이다. 어떤 분야에 대해 열의 없는 사람이 그 분야에 있어 좋은 taste를 가질 수는 없다."
관련해서 떠오르는 문장들, 조수용 대표의 '일의 감각'에서.
"제가 생각하는 감각은 '현명하게 결정하는 능력'입니다."
"해당 분야의 현재와 그 흐름을 이해한 뒤 '지금 필요한 것'을 발견하고 재구성해서 더 현명한 방향을 제안하는 능력. 이것이 제가 생각하는 좋은 감각입니다."
"그렇다면 이런 감각은 어디에서 나오는 걸까요? '마음가짐'에서 나오는 겁니다."
"자신이 맡은 모든 일이 10억 원 짜리 일이라고 상상하는 사람의 결과물은 '받은 만큼만 일한다'라고 생각하는 사람의 결과물과 같을 수가 없겠죠. 그러니 이런 마음가짐으로 일하는 사람에게는 저절로 감각이 생깁니다."
"본질적인 질문을 던지고, 세상의 흐름을 알기 위해 끊임없이 노력하며, 사소한 일을 큰일처럼 대하는 마음가짐을 가지는 것, 이것이 감각의 원천입니다."
"감각이 좋은 사람에겐 어떤 특징이 있을까요? 그들은 '모험가'처럼 살려고 노력합니다. 파악하려는 대상을 억지로 암기하듯 공부하지 않습니다. '몰입하는 시간'과 그렇지 않은 시간을 구분하지 않고, 평소 대상의 주변을 돌며 계속 무언가를 '발견'하려고 합니다."
"우리의 삶은 크고 작은 의사결정의 연속입니다. 이 의사결정들이 쌓이고 쌓여 우리의 일상이 됩니다. 그 일상이 우리의 생각을 지배하고, 우리의 정체성을 만듭니다. 이 결정에 따라 우리가 누구와 어울리고 어떤 기회를 갖게 될지도 정해집니다. 일상에서 수도 없이 마주하는 자잘한 결정을 모두 논리에 맡길 수는 없습니다. 그래서 감각이 중요합니다."
#마지막으로
[나발 라비칸트 인터뷰] 통(Barrel)이 되어라, 탄환(Bullet)이 되지마라 - Bluewater
나발은 이 시대의 현자가 맞는거같다.
“여러분은 가장 큰 결정을 이미 잘 하셨어요. 기술 산업에 있고, 베이 에어리어에 있잖아요. 그건 치트키입니다. 치트키가 두세 개나 되죠. 세상에서 가장 똑똑한 사람들의 최전선에 서 있고, 그런 사람들과 함께 일하고 있습니다. 높은 지능지수와 동기를 동시에 가진 사람들이 가장 많이 모여 있는 곳이죠. 그다음 중요한 결정은, 이제 올바른 장소와 올바른 산업에 들어왔으니 구체적으로 무엇을 할 것인가, 특히 누구와 함께 일할 것인가 입니다.”
“제 커리어를 돌아보면, 제가 가장 성공적이었던 때는, 순수한 호기심 때문에 무언가를 했을 때였습니다. “이건 정말 흥미로운데, 이 뒤에는 뭐가 있지? 아, 이것도 멋진데, 그 뒤에는 또 뭐가 있지?” 이렇게 제 지적 호기심을 따라가다 보니 통찰이 생겼고, 그게 좋은 투자와 좋은 스타트업, 좋은 성과로 이어졌습니다.”
“그리고 지금은 다행히 돈이나 지위 같은 동기를 좇지 않아도 되는 위치에 있어서, “내가 존재하니 만들어질 수 있는 아름다운 것, 내가 보고 싶은 제품은 무엇인가? 하루 종일 함께 보내고 싶은 사람들은 누구인가? 그런 사람들과 결합된 노력을 어떻게 만들 것인가?”에 집중할 수 있습니다.”
“저는 계속 같은 말을 해 왔는데, 시스템의 레버리지가 미쳐 돌아가고 있습니다. 레버리지는 여러분의 일을 배로 증폭하는 힘입니다. 역사적으로 가장 오래된 레버리지는 ‘노동’이었습니다. 함께 혹은 부하로 일하는 사람들이죠. 그다음은 ‘자본’이었고요. 문제에 돈을 쏟아붓는 겁니다. 그다음은 ‘미디어’였어요. 책을 써서 사람들을 움직이는 것. 이어서 영상, 팟캐스트 같은 미디어가 나왔죠. 그러다 코드가 등장했는데, 데이터센터의 로봇들이 여러분을 위해 일해 주는, 허가가 필요 없는 경이로운 레버리지입니다. 그리고 지금은 AI, 에이전트, 로봇, 공급망, 3D 프린팅 등 수많은 방식으로 레버리지가 폭증하고 있습니다. 여러분의 일을 증폭시킬 수 있는 것들이죠.”


