Insight #119_OpenAI vs 앤트로픽, 클로드 코드 유출, AI = OS, 조직의 변화, 컴퓨팅 타이밍 게임, GTC 2026, 에이전트와 CPU, 파운드리 쇼티지, Coefficient Bio, Tempo와 에이전트 결제 MPP, 초격차
세상이 이란 전쟁으로 정신 없는 시기를 보내고 있는 와중에도, AI는 에이전트 시대를 맞이하여 아주 많은 변화를 일으키고 있습니다. 정말이지 모든 측면에서 급격한 변화를 경험하고 있네요.
오늘은 AI, 인프라, 반도체, 핀테크에 대해 다룹니다.
뉴스레터 외에도 텔레그램 및 블로그에서 저의 생각을 접해보실 수 있습니다.
#포트폴리오
35세 이상 남성 패션 플랫폼 애슬러, 100억 원 시리즈B 투자 유치 - 플래텀
35세 이상 남성 패션 커머스 ‘애슬러’를 운영하는 바인드가 100억원의 투자를 받았습니다.
정량적인 지표 측면에서도 빠르게 성장 중이지만, 사내에서의 AI 도입 등을 보면 정성적인 부분에서도 아주 훌륭하게 성장하고 있는 팀입니다.
현재 훌륭한 인재를 모시고 있으니 기회를 놓치지 마세요! (채용 공고 바로가기)
“바인드의 2025년 기준 매출은 전년 대비 407% 성장했고, 월간 활성 사용자(MAU)는 웹·앱 합산 303만 명을 돌파했다. 온라인 패션 시장이 전반적으로 정체 국면에 접어든 상황에서 거둔 성과라는 점에서 주목된다. 품질과 디자인 역량은 갖췄으나 판로 확보가 어려웠던 입점 브랜드들과의 동반 성장을 이끌며 35세 이상 남성 패션 시장에서 입지를 넓히고 있다.”
#AI
Agents Over Bubbles - Stratechery
맞다, AI 버블 논쟁은 올해를 기점으로 사실상 끝났다. AI가 버블이라고 말하는 사람은 올해 무슨 일이 일어나고 있는지 아직 체감 못한 사람들이다.
ChatGPT가 출시하고 3년 조금 넘게 흘렀는데, 지금까지는 예고편에 불과했다. 에이전트의 시대가 본격화된 지금, 앞으로의 3년이 AI가 사회에 끼치는 영향력이 훨씬 클 것이라고 생각한다.
“하지만 에이전트 패러다임이야말로 capex 지출이 투기적 투자가 아니라, 공급을 훨씬 초과하는 수요를 충족시키기 위한 절실한 투자라는 쪽으로 저울을 완전히 기울여버렸다. 첫째, 답을 생성하는 과정은 종종 추론 모델을 여러 번 호출하는 것을 수반한다. 둘째, 에이전트 자체도 컴퓨트를 필요로 하며, 그 컴퓨트와 에이전트가 사용하는 도구들은 GPU보다 CPU에서 처리하는 것이 더 낫다. 셋째, 에이전트는 유용성 측면에서 또 하나의 계단식 도약을 의미하고, 이는 챗봇형 추론 모델보다 훨씬 더 많이 사용되리라는 뜻이다.”
“내가 보기에 충분히 평가받지 못하고 있는 것은 바로 이 세 번째 포인트(=에이전트 패러다임)가 어떻게 현실화될 것인가 하는 점이다. 결국 에이전트를 사용하는 사람보다 챗봇을 사용하는 사람이 훨씬 많고, 나는 대부분의 사람들이 챗봇조차도 마땅히 그래야 하는 만큼 많이 사용하지 않고 있다고 주장하고 싶다. 문제는 주체성(agency)의 문제였다. AI에서 최대한의 가치를 얻으려면 실제로 AI를 쓰기 위한 주도성을 가져야 한다.”
“하지만 가장 심오한 것은 주체성에 대한 함의다. 물론 에이전트를 쓰기 위해서는 여전히 주체성이 필요하고, 그 주체성을 가질 사람의 수는 챗봇을 사용할 사람보다 훨씬 적을 가능성이 높다. 물론 챗봇이 결국 자기 자신이 에이전트 매니저가 될 것이라는 — 거의 틀림없이 정확한 — 주장을 할 수도 있다. 하지만 더 중요한 관찰은, 인간을 직접적인 모델 관리에서 추상화해버림으로써 한 사람이 여러 에이전트를 통제할 수 있게 된다는 점이다.”
“이것이 컴퓨트 측면에서 — 그리고 나아가 경제적 영향 측면에서 — 의미하는 바는, 의미 있는 경제적 임팩트를 지닌 제품을 만들어내기 위해 적극적으로 활용되는 컴퓨트의 양이 극적으로 증가하는 데, 사실 그렇게 많은 수의 주체성을 가진 사람이 필요하지 않다는 것이다. 다시 말해, 에이전트의 등장은 단지 컴퓨트 수요의 극적인 증가만을 의미하는 것이 아니라, 그 수요가 나타나기 위해 인간에게 필요한 광범위한 채택의 필요성을 줄인다는 뜻이기도 하다. 그렇다, AI는 여전히 주체성을 필요로 한다. 다만 그 영향이 심대해지기 위해 그렇게 많은 사람들의 에이전시를 필요로 하지는 않는다.“
→
“Anthropic이 전적으로 엔터프라이즈 시장에 집중한 것은 옳았다. 기업은 직원들을 더 생산적으로 만들어주는 소프트웨어에 돈을 지불할 의사가 있다는 것이 이미 입증되어 있고, AI는 그 기준에 분명히 부합한다. 하지만 엔터프라이즈 경영진을 진정으로 침을 흘리게 만드는 것은, AI가 단순히 일자리를 없애는 것이 아니라, 그렇게 함으로써 회사 전체를 더 생산적으로 만들 수 있다는 전망이다.”
“대기업에서도 늘 그랬지만, 실제로 회사를 의미 있게 전진시키고 변화를 만드는 사람은 상대적으로 소수에 불과하다. 다만 그 추진력은 방대한 장치(apparatus)를 통과해야 했고, 그 장치는 인간들로 가득 차 있어 어떤 방향에서는 노력을 가속하고, 다른 방향에서는 지연시킨다. 그 장치는 광범위한 영향력을 가능하게 해주지만, 막대한 조정 비용을 수반한다.”
“하지만 에이전트는 훨씬 더 순수한 가속 쪽으로 기울 것이고, 그 가치 창출의 동인들을 훨씬 더 강력하게 만들 것이다. 최고의 기업은 AI를 사용해 단순히 비용을 아끼는 것이 아니라 더 많은 일을 하길 원할 것이라는 주장에 나는 공감한다. 하지만 대규모 조직의 현실은, AI의 긍정적 효과가 단지 일자리를 없애는 데 있는 것이 아니라, 조직이라는 기계 속에서 관리하기 어렵고 동기부여하기 어려운 인간 톱니바퀴를, 시키는 일을 할 뿐 아니라 지치지 않고 계속해서 끝낼 때까지 수행하는 에이전트로 대체하는 데 있다는 점이다.”
The Power and Responsibility of Sam Altman
최근 OpenAI의 최우선순위는 자동화된 과학 연구였는데, 어느새 여기에 자동화된 회사가 추가되었네.
“슈퍼 앱과 관련해서는, 역사적으로 우리는 두 가지 주요 우선순위를 향해 나아갈 것이라 이야기해 왔습니다. 하나는 자동화된 연구원(automated researcher)입니다. 스스로 과학 연구(AI 연구 포함)를 수행할 수 있는 시스템이죠. 다른 하나는 이런 스타트업 이야기와도 맞닿아 있는 자동화된 회사(automated companies)입니다. 완전히 자동화된 회사는 아니지만, AI가 코딩 작업뿐만 아니라 회사를 운영하고 유지하는 데 필요한 엄청난 양의 일을 처리해 주어 회사를 엄청나게 가속화할 수 있는 곳을 말합니다. 세상은 훨씬 더 많은 것들을 가질 수 있고, 우리는 훨씬 더 나은 제품과 서비스를 만들 수 있으며, 더 많은 사람들이 그렇게 할 수 있는 접근성을 갖게 될 것입니다.”
“우리가 구축하고 있는 이 결합된 개인 비서(combined personal agent)에 대해 제가 가진 꿈은 이런 겁니다. 시스템에 대한 충분한 확신과 신뢰에 도달해서, 제가 그저 “이봐, 내 컴퓨터 좀 둘러봐. 날 위해 웹 검색 좀 하고, 메시지도 읽어 줘. 내 회의 내용도 좀 듣고, 상호작용을 알아서 처리하면서 나한테 유용한 일들을 시작해 줘. 난 생각하고 싶지 않아. 너에게 질문하기도 싫어. 사이드 프로젝트 목록도 다 떨어졌어. 하지만 넌 내 삶의 모든 걸 알 수 있잖아. 내가 만들어야 할 것들을 더 제안해 주고 그걸 할 수 있게 도와줘”라고 말할 수 있는 거요. 저는 정말 그걸 기대하고 있습니다.”
“차세대 모델들과 그것들이 구동할 수 있는 에이전트들을 통해 뭔가 아주 크고 중요한 일이 또다시 일어나려 하고 있습니다. 저는 소라를 정말 좋아하고 디즈니와의 파트너십도 사랑합니다. 우리는 그들이 놀라운 무언가를 해낼 수 있고 우리가 도움을 줄 수 있는 지점을 찾기 위해 계속 협력하고 있습니다. 하지만 지금 우리는 컴퓨팅 자원과 제품 생산 능력을 이 차세대 ‘자동화된 연구원’과 ‘회사’에 집중해야만 합니다.”
OpenAI Is Shutting Down Sora, Its A.I. Video Generator - NYT
OpenAI가 Sora 서비스 종료를 결정. ChatGPT가 B2C로 성공했기 때문에 소라 또한 성공할 가능성이 있지 않을까 싶었는데, 역시 B2C는 어렵구나.
여러 부분에서 엔터프라이즈의 우선순위를 높이고 있는 OpenAI
앤트로픽 ARR이 $30b 까지 올라왔다. 25년 말에 비해 3배 이상 증가한 수치인데, 주변 모두가 클로드 코드 사용하는게 바로 숫자로 이어지고 있다.
그리고 폭증하는 수요에 발맞춰 수 기가와트 규모의 TPU 계약을 채결했다고 발표. 아무리 봐도 컴퓨팅은 아직 한참 쇼티지인 것 같다.
“2026년 들어 클로드 고객의 수요가 가속화되었습니다. 현재 당사의 연간 환산 매출(run-rate revenue)은 2025년 말 약 90억 달러에서 증가하여 300억 달러를 돌파했습니다. 지난 2월 시리즈 G 투자 유치를 발표했을 당시, 연간 100만 달러 이상을 지출하는 기업 고객이 500곳 이상이라고 밝힌 바 있습니다. 현재 그 수치는 두 달도 채 되지 않아 두 배로 늘어나 1,000곳을 넘어섰습니다.”
“당사는 2027년부터 가동될 것으로 예상되는 수 기가와트 규모의 차세대 TPU 용량 확보를 위해 구글 및 브로드컴과 새로운 계약을 체결했습니다. 이러한 컴퓨팅 인프라의 대규모 확장은 당사의 최첨단 클로드모델에 동력을 제공하고 전 세계 고객의 엄청난 수요를 충족하는 데 도움이 될 것입니다.”
“신규 컴퓨팅 시설의 대부분은 미국에 구축될 예정이며, 이번 파트너십은 2025년 11월에 발표했던 미국 컴퓨팅 인프라 강화에 500억 달러를 투자하겠다는 당사 약속의 대대적인 확장이 될 것입니다.”
Anthropic’s New TPU Deal, Anthropic’s Computing Crunch, The Anthropic-Google Alliance - Stratechery
참 재미난 경쟁 다이내믹스란 말이지. 과연 곧 펼쳐질 Mythos & Spud 시대는 어떻게 전개될까?
“주목할 만한 점은 성장 곡선이 본격적으로 가파르게 상승하는 시점이 Anthropic과 미국 정부 간의 대립이 대중에 공개된 시점과 거의 정확히 일치한다는 것입니다. 이 분쟁이 결국 어떻게 끝나든 간에, 이것이 최소한 역사상 가장 위대한 마케팅 대성공 중 하나였음은 분명해 보입니다.”
“또한 명확해지고 있는 사실은 Anthropic이 심각한 컴퓨팅 자원 부족에 직면해 있으며, 상황이 갈수록 악화되고 있다는 점입니다. 이는 AI 업계 전반에 적용되는 이야기지만, Anthropic의 경우 회사 특유의 보수적인 성향 때문에 특히 더 심각합니다.”
“그렇다면 왜 TPU일까요? Anthropic 입장에서는 그것이 지금 당장 구할 수 있는 자원이기 때문일 가능성이 거의 확실합니다. Epoch AI의 그래프에 따르면 구글이 가장 많은 AI 컴퓨팅 자원을 보유하고 있으며, 그중 대부분이 TPU입니다.”
“분명해 보이는 것은 구글이 자사의 자체 서비스나 (더 중요하게는) 제미나이 기업용 서비스만으로는 이 모든 용량을 활용할 명확한 경로를 찾지 못하고 있다는 점입니다. 하지만 괜찮습니다. 구글 입장에서 구글 클라우드가 가진 진정한 매력은 컴퓨팅이 구글 클라우드에서 이루어지는 한, AI 성장의 과실을 광범위하게 수확할 수 있다는 점입니다. 그런 의미에서 구글이 기업용 시장을 직접 장악하는 것을 더 선호하겠지만, 자신이 이기지 못한다면 최소한 OpenAI보다는 Anthropic이 이기는 것을 기꺼이 환영할 것입니다. 그렇게 하면 시장을 독식할 때보다 이윤 폭은 다소 낮아지겠지만, 자신들의 설비 투자가 확실히 결실을 맺을 수 있기 때문입니다.”
“게다가 어쨌든 구글에게 더 자연스럽게 맞는 영역은 소비자 시장입니다. 이 검색 거인이 Anthropic의 성공을 기뻐하며 그들의 성장을 계속 촉진하고자 하는 또 다른 이유가 바로 여기에 있습니다. Anthropic이 B2B 시장에서 OpenAI를 이기는 세상은 소비자 시장에서 구글의 주요 경쟁자인 OpenAI를 약화시키는 동시에, 구글이 막대한 자본력으로 OpenAI가 자금난에 빠질 때까지 계속 지출 경쟁을 이어갈 수 있는 자금과 미래의 확실성을 제공합니다.”
유출된 클로드 코드의 코드를 통해 인사이트를 얻어보자 - 전종현 wGPT
클로드 코드의 소스 코드가 유출되었다. 덕분에 AI에 이거 넣고 티키타카 해보면서 앤트로픽의 디테일을 파볼 수 있었다. 그렇게 도출한 인사이트:
Anthropic의 진짜 제품은 모델이 아니라 ‘권한이 붙은 에이전트 런타임’이다.
Claude Code의 본질은 “대화형 코파일럿”보다 “백그라운드 워커”에 가깝다.
Anthropic은 “더 큰 컨텍스트 창”보다 “에이전트 조직 설계”에 더 강하게 베팅하고 있다.
모바일과 웹은 보조 채널이 아니라 ‘컨트롤 플레인’이다.
개발자는 비치헤드일 뿐이고, Anthropic의 더 큰 목표는 ‘범용 지식노동 런타임’일 가능성이 높다.
확장 전략이 code-first가 아니라 content-first라는 점도 숨은 통찰이다.
메모리는 보조 기능이 아니라 ‘세션을 넘어서는 협업성’을 만드는 핵심 부품이다.
안전성은 제약이 아니라 go-to-market의 핵심 상품이다.
마지막으로, 유출본의 internal-only 흔적은 Anthropic의 제품 개발 방식 자체를 보여준다.
Axios Supply Chain Attack, Claude Code Code Leaked, AI and Security - Stratechery
이미 누군가는 유출된 코드로부터 힌트를 얻어서 서비스로 구현해보고 있을 것.
“이번 유출에는 실제 모델의 가중치(weights)는 포함되지 않았습니다. 오히려 이것은 로컬에서 실행되며 Anthropic 모델을 활용하는 하네스(harness)입니다.”
“여기에는 분명 Claude의 경쟁사들에게 특히 가치 있는 IP가 포함되어 있습니다. 누구도 합법적으로 코드의 어떤 부분도 복사할 수 없습니다(저작권이 있으므로). 하지만 Claude Code가 하네스 측면에서 Anthropic의 비법을 담고 있는 한, 이는 매우 치명적입니다. 그럼에도 불구하고, 저는 가장 중요한 차별화 요소가 단순한 하네스가 아니라 ‘하네스와 모델의 통합’일 것이라고 계속해서 의심합니다.”
“다시 말해, 이를 통해 가장 큰 이익을 얻을 주체는 반드시 OpenAI가 아니라, Claude를 위한 자체 하네스를 구축하려는 Cursor나 Microsoft 같은 회사들일 것입니다.”
Claude Managed Agents: get to production 10x faster - Claude
클로드 Managed Agents 출시. 에이전트가 자율주행처럼 돌아가는건 올해 내로 완성된다고 보는게 합리적일듯.
“오늘 저희는 Claude Managed Agents를 출시합니다. 이는 클라우드에서 호스팅되는 에이전트를 대규모로 구축하고 배포하기 위한, 조합 가능한 API 제품군입니다.”
“지금까지 에이전트를 만든다는 것은 보안 인프라, 상태 관리, 권한 설정, 그리고 모델이 업그레이드될 때마다 에이전트 루프를 다시 손보는 데 개발 리소스를 투입해야 한다는 뜻이었습니다. Managed Agents는 성능에 맞춰 최적화된 에이전트 하네스와 프로덕션 인프라를 결합해, 프로토타입에서 출시까지 걸리는 시간을 몇 달이 아니라 며칠로 줄여줍니다.”
“프로덕션용 에이전트를 출시하려면 샌드박스 환경의 코드 실행, 체크포인팅, 자격 증명 관리, 범위가 제한된 권한, 엔드투엔드 트레이싱이 필요합니다. 즉, 사용자가 실제로 보게 될 무언가를 출시하기도 전에 몇 달치 인프라 작업이 선행되어야 한다는 뜻입니다.”
“Managed Agents는 이런 복잡성을 처리해줍니다. 여러분은 에이전트의 작업, 도구, 가드레일을 정의하면 되고, 저희는 이를 저희 인프라에서 실행합니다. 내장된 오케스트레이션 하니스는 언제 도구를 호출할지, 문맥을 어떻게 관리할지, 오류에서 어떻게 복구할지를 결정합니다.”
아마존의 톤이 굉장히 강해졌네.
대규모의 물리적 인프라를 설치하고 운영하는 것이 아마존의 본질이란걸 다시 한번 생각해보자.
“불균형적인 변곡점을 확인하면, 크게 베팅하십시오. 어떤 변곡점이 진정으로 중대한 것인지 아니면 “단지 흥미로운 것”에 불과한지를 선택하는 데는 판단력이 필요합니다. 합리적인 사람들도 의견이 다를 수 있습니다. 하지만 이러한 불균형적인 변화 중 하나를 발견했다고 믿는다면, 책임질 수 있는 한도 내에서 최대한 공격적으로 투자해야 합니다. 이는 정밀 조사를 불러일으킬 투자 급증을 초래할 것이지만, 판도를 바꾸는 것들은 일반적으로 평탄한 투자 지평선을 수용하지 않습니다.”
“이러한 중대한 변화 중 하나는 AI입니다. 모든 고객 경험이 AI에 의해 재창조될 것이며, AI 덕분에만 가능한 수많은 새로운 경험이 생겨날 것입니다. 저는 이 기술이 과대 포장되었는지, 우리가 “거품” 속에 있는지, 마진과 ROIC가 매력적일지에 대한 대중의 논쟁을 지켜봐 왔습니다. 적어도 아마존에 있어서 저의 강한 확신은 그 답이 아니오, 아니오, 그리고 예라는 것입니다.”
“우리는 실질적인 중장기 FCF 잉여를 위해 대규모 자본 지출 투자를 기꺼이 단행하고 단기적인 FCF 역풍을 견뎌낼 것입니다. AI는 현재의 성장이 전례가 없고 미래의 성장이 훨씬 더 큰 일생일대의 기회입니다. AWS는 가장 넓은 기능, 가장 강력한 보안 및 운영 성능, 가장 큰 고객 및 수익 점유율, AWS에서 AI를 실행하려는 고객의 강한 욕구, 그리고 아마존의 칩 분야에서 새로운 기둥이 될 수 있는 것을 구축할 기회를 통해 중대한 리더십 위치를 차지하고 있습니다. 우리는 이것을 다루는 방식에 있어 보수적이지 않을 것입니다. 우리는 의미 있는 리더가 되기 위해 투자하고 있으며, 우리의 미래 사업, 영업 이익 및 FCF는 이로 인해 훨씬 더 커질 것입니다.”
우리는 AI보다 더 빨리 채택된 기술을 본 적이 없습니다.
아마존은 이 랜드 러시의 한가운데에 정확히 서 있으며, 기업들은 AI를 위해 AWS를 선택하고 있습니다.
AWS는 훨씬 더 빠르게 성장할 수 있습니다.
우리의 칩 사업은 불타오르고 있으며, AWS의 경제성을 바꾸고, 대부분이 생각하는 것보다 훨씬 더 커질 것입니다.
AWS의 현금 주기가 작동하는 방식은 AWS가 더 빠르게 성장할수록 더 많은 단기 자본 지출을 지출하게 된다는 것입니다.
우리에게는 자본 지출 투자를 예측 가능하게 만드는 고객 약정이 있습니다.
Palantir Demos Show How the Military Could Use AI Chatbots to Generate War Plans - Wired
이번 이란 전쟁에서의 팔란티어를 보면, AI는 이미 OS의 중심으로 들어오고 있다.
“군이 발표한 메이븐의 공개 평가에 따르면, 이 도구는 위성과 같은 “우주 기반 자산”이 촬영한 이미지에 “컴퓨터 비전 알고리즘”을 적용할 수 있을 뿐만 아니라, “적 시스템”일 가능성이 높은 물체를 자동으로 감지할 수 있습니다. 스탠리의 콘퍼런스 프레젠테이션 중에 공개된 메이븐 데모는 사람과 자동차를 구별하는 도구의 모습을 보여줍니다.”
“메이븐의 다른 기능들은 잠재적인 표적을 시각화하고 지상 또는 공중 폭격을 위해 이들을 “지정(nominate)”하는 것을 돕습니다. 스탠리의 데모에 따르면 ‘AI 자산 임무 할당 추천기(AI Asset Tasking Recommender)’라는 도구는 어떤 폭격기와 탄약을 어떤 표적에 할당해야 하는지 제안할 수 있습니다. 메이븐은 또한 군 관계자들 간의 “표적 정보 데이터 및 적 상황 보고서” 전달을 용이하게 합니다.”
“2022년부터 팔란티어는 미 육군에 육군 정보 데이터 플랫폼(Army Intelligence Data Platform, AIDP)이라는 또 다른 정보 플랫폼을 판매해 왔습니다. 회사는 AIDP가 메이븐과 최소 4개의 다른 정부 시스템의 데이터를 “통합”한다고 밝혔습니다. AIDP에 대해 공개적으로 이용 가능한 세부 정보는 부족하지만, 군의 평가는 이 도구가 군사 작전에 앞서 정보를 준비하고 부대 및 무기의 위치를 “그래픽적으로” 묘사할 수 있다고 설명합니다. 또한 여기에는 최종 정보 요약에 앞서 자주 업데이트되는 전장 정보 모음인 “정보 실행 추정치(intelligence running estimate)”를 개발하는 데 사용되는 것으로 알려진 ‘도시에(Dossier)’라는 도구도 있습니다.”
→
“2023년에 공개된 팔란티어의 한 데모는 AIP 어시스턴트가 챗봇과 상호 작용하는 것만으로 “동유럽 내의 활동을 모니터링할 책임이 있는 군사 작전원”이 여러 대의 탱크에 대한 지상 공격을 계획하고 명령하도록 돕는 방법을 보여줍니다.”
“이 과정은 레이더 이미지의 “AI 처리”를 통해 감지된 “비정상적인 적 활동 가능성”에 대해 AIP 어시스턴트가 자동 경고를 보내면서 시작됩니다.”
“이 경우 비정상적인 활동을 감지한 것은 대규모 언어 모델이 아니라 컴퓨터 비전 알고리즘이었을 것입니다. 그런 다음 AIP 어시스턴트는 분석가가 해당 발견을 해석하고 다음에 무엇을 할지 결정하도록 돕습니다. 챗봇이 직접 표적을 제안하지는 않지만, 분석가가 해당 정보에 기반해 조치를 취하도록 도움으로써 잠재적으로 의심스러운 관측 대상을 실제 표적으로 전환하는 데 여전히 역할을 할 수 있습니다.”
“사용자가 “이 지역에 어떤 적군 부대가 있습니까?”라고 묻자, AIP 어시스턴트는 “장비의 패턴으로 보아 기갑 공격 대대일 가능성이 높습니다”라고 추측합니다. 이에 분석가는 현장을 정찰하기 위해 MQ-9 리퍼 드론을 요청하게 됩니다. 그런 다음 분석가가 AIP 어시스턴트에게 “이 적 장비를 표적으로 삼을 세 가지 행동 방침을 생성하라”고 지시하면, 곧바로 어시스턴트는 “공중 자산”, “장거리 포병”, 또는 “전술팀”을 이용해 부대를 공격하라는 방안을 제안합니다. 사용자가 어시스턴트에게 이 옵션들을 가상의 지휘관에게 보내라고 지시하면, 지휘관은 최종적으로 전술팀을 선택합니다.”
“마지막 단계는 빠르게 전개됩니다. 분석가는 AIP 어시스턴트에게 “전장을 분석”하도록 한 다음, 병력이 적에게 도달할 “경로를 생성”하고, 마지막으로 적의 통신 장비를 마비시킬 “전파 방해 장치(jammer)를 할당”하도록 요청합니다. 몇 초 내에 분석가는 전투 계획을 최종적으로 검토하고 병력 동원 명령을 내립니다.”
기업의 내부 OS를 차지하기 위한 도전들은 선단 모델사들 말고도 스타트업 단에서도 다수 발생하고 있다.
어제 투자 유치 소식이 들린 Applied Compute는 OpenAI의 RL 인프라와 Scale AI의 데이터 기반을 만든 인력들이 모여서 이 문제를 풀고 있다.
“모델은 계속 더 똑똑해지고 있지만, 그 순수한 지능과 기업 내부의 구체적인 업무에서 실제로 발휘되는 생산성 사이에는 여전히 거대한 간극이 존재합니다. 진짜 가치를 만들어내려면, 그 업무를 올바른 맥락과 기준, 워크플로, 그리고 판단 아래에서 어떻게 수행해야 하는지를 알아야 합니다.”
“프런티어 모델은 마치 아주 똑똑한 낯선 사람과도 같습니다. 그것들은 당신의 데이터로 만들어진 것이 아니고, 당신의 비즈니스가 어떻게 돌아가는지도 이해하지 못하며, 가장 중요한 문제들에 대해 스스로 자동으로 개선될 수도 없습니다.”
“우리는 기업의 지능은 그 기업에 특화되어 있어야 하며, 또한 그 기업이 직접 소유해야 한다는 믿음으로 Applied Compute를 시작했습니다.”
“우리의 미션은 ‘특정화된 지능(Specific Intelligence)’을 통해, 똑똑함과 유용함 사이의 간극을 메우는 것입니다. 즉, 회사가 실제로 운영되는 현실을 바탕으로 학습되고, 지속적으로 개선되도록 설계된 독자적 에이전트를 만드는 것입니다.”
“우리는 기업이 자신들의 조직적 맥락을 끌어내고, 각자의 고유한 워크플로와 성과 기준에 맞춰 에이전트를 학습시키며, 이를 인간 전문가들과 함께 다시 실제 운영 환경에 배치할 수 있도록 돕습니다. 그 이후에는 모든 의사결정이 다시 학습으로 되먹임되어, 에이전트의 판단력을 계속 정교하게 다듬어 나갑니다. 그렇게 해서 결국에는 신뢰할 수 있고, 자율적으로 운영될 만큼 충분한 역량을 갖추게 됩니다. 이 모든 것은 회사가 직접 통제하는, 자사 고유의 안전한 환경 안에서 이루어집니다.”
“오늘 우리는 Kleiner Perkins가 주도하고 Elad Gil, Lux, Greenoaks, Neo, Hanabi 등 기존 투자자들이 계속 참여한 가운데, 포스트머니 기업가치 13억 달러 기준으로 신규 8천만 달러의 투자를 유치했음을 발표합니다. 이로써 우리의 누적 투자 유치액은 총 1억 6천만 달러가 되었습니다.”
위계가 아닌 인텔리전스 (번역) - 이바닥뉘우스, 원글 잭 도시
AI가 기업의 OS 중심으로 들어오면서, 조직의 모습 또한 지금과는 완전히 달라질 것으로 보인다.
이와 관련해서 서술한, 미래를 먼저 내다보곤 했던 잭 도시의 글.
“우리 블록(Block)에서는 근본적인 전제, 즉 ‘조직은 인간을 조율 메커니즘으로 삼아 위계적으로 구성되어야 한다’는 가정 자체에 의문을 제기하고 있습니다. 대신, 우리는 위계 조직이 수행하는 역할을 대체하고자 합니다.”
오늘날 AI를 사용하는 대부분의 기업은 모든 직원에게 ‘보조 도구’를 쥐여주고는 기존 구조를 바꾸지 않은 채 시스템이 약간 더 잘 작동하도록 만들 뿐입니다. 하지만 우리가 추구하는 것은 완전히 다릅니다. 우리는 인텔리전스로 구축된 조직을 지향합니다.
역사상 처음으로, 하나의 시스템이 기업 전체의 지속적으로 업데이트되는 모델을 유지하고, 과거에는 관리의 계층을 통해 인간이 정보를 중계해야만 했던 방식으로 업무를 조율하는 데 이를 활용할 수 있게 되었습니다.
이것이 작동하기 위해 기업에는 두 가지가 필요합니다: 하나는 자체 운영에 대한 일종의 “월드 모델(World model)”이고, 다른 하나는 이 모델을 유용하게 만들 만큼 풍부한 고객 시그널(Customer signal)입니다.
→
조직 구조가 이렇게 된다면, 다음과 같은 질문이 나올 수 있습니다. 그렇다면 사람들은 무슨 일을 하는가?
조직 구조는 이를 따르며, 전통적인 그림을 완전히 뒤집어 놓습니다. 기존 기업에서는 인텔리전스가 사람들 사이에 분산되어 있고 위계 조직이 이를 라우팅(전달)했습니다.
이제 새로운 모델에서는 인텔리전스 레이어가 시스템 안에 존재합니다. 사람들은 ‘엣지(The edge, 접점/최전선)’에 위치합니다. 엣지는 행동이 일어나는 곳입니다.
엣지는 인텔리전스가 현실과 맞닿는 접점입니다. 사람들은 모델이 아직 도달할 수 없는 곳으로 손을 뻗습니다. 직관, 주관이 담긴 방향성, 문화적 맥락, 신뢰의 역학, 방 안의 분위기 등 모델이 인지할 수 없는 것들을 감지합니다.
특히 윤리적 결정, 새롭고 낯선 상황, 틀렸을 때의 비용이 조직의 존립을 위협할 만큼 중대한 어떤 포인트에서는, 월드 모델이 스스로 판단하지 말아야 합니다. 그 판단은 사람이 내립니다. 세상과 접촉할 수 없는 월드 모델은 그저 데이터베이스에 불과합니다.
→
우리는 위계 구조가 아닌 인텔리전스로서 조직된 기업이라는 이 패턴이, 향후 수년 내에 모든 종류의 기업이 운영되는 방식을 재편할 만큼 중대한 의미를 지닌다고 믿습니다.
기업이 움직이는 속도는 사람이 아니라 정보의 흐름에 좌우됩니다. 위계구조와 중간 관리는 정보의 흐름을 저해합니다.
로마 군단의 분대 단위에서부터 오늘날의 글로벌 기업에 이르기까지 2천 년 동안, 우리에게는 실질적인 대안이 없었습니다. 한 막사에 사는 병사들에게는 십인대장가 필요했습니다. 80명의 남자에게는 백인대장이 필요했고, 5천 명에게는 군단장이 필요했습니다.
쟁점은 ‘지휘 체계와 중간 관리, 정렬이 필요한가’가 아닙니다. 쟁점은 ‘그 체계가 수행해온/수행하는 일이 있는데, 과연 인간만이 유일한 옵션인가’ 하는 것입니다.
이제 인간이 유일한 옵션이 아닙니다. 그 다음에 올 미래를, 블록은 준비하고 있습니다.
AI는 변호사를 없애는 것이 아니라, 누가 진짜 좋은 변호사인가를 훨씬 더 잔인하게 드러내는 장치로 작용할 것이다.
그리고 이는 변호사에만 그치지 않을 것이다. 모든 일에서 AI를 레버리지 삼아 최상의 판단을 내리는 능력이 가장 중요한 역량이 될테다.
그리고 더 무서운건 이러한 역량은 복리를 일으킬 것이라는 점이다. 오늘 한 번 더 많이 해본 사람이 내일 더 좋은 프롬프트를 쓰고, 더 좋은 검증 기준을 만들고, 더 좋은 워크플로를 만들고, 그것이 다시 더 많은 실전 경험을 불러오고, 그 경험이 다시 판단력을 강화시킬테니...
“AI와 함께 일하는 시니어 변호사는 더 이상 생산의 선형적 역학에 제약받지 않는다. 주니어 어소시에이트가 이틀 걸리던 선례 검토는 이제 시니어 변호사가 몇 분 안에 해낼 수 있다. 그 일에 드는 노력은 주니어 변호사에게 그 업무를 설명하는 데 들었을 노력과 비슷하거나(어쩌면 더 적을 수도 있다. 시니어 변호사가 맞춤형 “스킬”이나 “플러그인”을 쓰고 있다면 말이다). 주말 내내 걸리던 초안 작성은 몇 시간 안에 생성되고, 검토되고, 다듬어진다. 예전에는 주니어의 세심한 주의가 필요한 일이었던 200페이지 딜 룸 전체에서의 정의된 용어 상호참조도, 이제는 전체 문서 세트를 동시에 담는 컨텍스트 윈도 안에서 일어날 수 있다.”
“이것은 법률 직역 역사상 처음으로 10배 변호사가 등장할 조건을 만들어낸다. 더 빨리 타이핑하는 변호사가 아니다. AI를 통해 적용된 그들의 판단이 결과물의 질과 속도에서 한 자릿수 배수 차이를 만들어내는 변호사들이다. AI를 쓰는 최고의 변호사는 AI를 쓰는 평균적인 변호사보다 조금 더 나은 수준이 아니다. 그들은 범주적으로 더 낫다. AI는 뛰어난 판단력과 평범한 판단력 사이의 격차를, 수작업 생산으로는 절대 할 수 없었던 방식으로 증폭시키기 때문이다.”
“그 시니어 변호사가 한 단락짜리 프롬프트로 과거 네 명의 어소시에이트 팀이 하던 일을 해낼 수 있게 되는 순간, 레버리지 계산은 뒤집힌다. 어소시에이트는 더 이상 필수적인 수익 창출 자산이 아니라, 고객이 보조금을 대주는 로펌의 비용이 된다.”
The White Collar Revolution is Here - Ryan Daniels
AI 하이브리드 로펌을 지향하는 Crosby 창업자가 작성한 글인데, 저쪽 세계에서는 이런 형태의 회사를 네오펌이라고 부르는구만?
기본적으로 조직의 인센티브 구조를 바꾸는 것이고, 훨씬 더 합리적인 구조를 만들어낼 수 있다고 보기에, 나는 장기적으로 이러한 형태가 주류로 될 가능성을 관찰하고 있다.
“컴퓨터는 과거 숙련된 변호사, 컨설턴트, 회계사의 전유물이었던 복잡한 지식 노동을 수행할 수 있습니다. 살아남기 위해 전문 서비스 기업들은 조직 구조와 운영 방식을 바꿔야 합니다. 이 개념은 샌프란시스코의 제 친구들 사이에서 이미 널리 퍼져 있어, 그들은 이를 ‘네오펌(Neofirm)’이라고 부릅니다.”
“전통적인 기업들은 많은 현금을 창출하지만, 장기적인 투자를 하도록 설계되지 않았습니다. 전통적인 기업들은 매년 수익을 배당금으로 지급하는 파트너십 구조로 되어 있습니다. 법적으로 외부인에게 지분을 팔 수 없어 미래에 투자할 유인이 거의 없습니다.”
“네오펌은 주식회사 형태로서 벤처 캐피탈을 유치하고 장기적인 보상을 위한 위험을 감수할 수 있습니다. 이들은 인간의 노동력을 파는 것이 아니라, 더 나은 작업 방식에서 나오는 가치를 판매합니다.”
“제가 일하는 Crosby에서는, 이것이 ‘내일의 이익을 위해 오늘의 수익을 희생하는 것’을 의미합니다. 이는 가상적인 절충안이 아닙니다. 변호사가 엔지니어와 함께 실험하며 보내는 매 시간은 새로운 고객의 요청을 처리하는 데 쓸 수 있었던 시간입니다. 즉, 손실된 수익이며 우리는 변호사의 시간을 어떻게 할당할지에 대해 끊임없이 논쟁합니다.”
“하지만 우리의 목표는 장기적인 가치를 높이는 것이지, 파트너당 연간 수익을 높이는 것이 아닙니다. 게다가 우리는 시간당이 아니라 문서 단위로 비용을 청구합니다. 따라서 Crosby의 변호사가 오후 시간을 할애하여 에이전트 벤치마크를 작성할 때, 우리는 이것이 내년에 그녀의 시간 20일을 절약해 주고, 우리가 재투자할 수 있는 미래의 마진을 창출한다는 것을 알고 있습니다. 이는 명확한 사실입니다.”
“네오펌과 일하는 것은 단지 일 처리가 빠른 은행가와 일하는 느낌이 아닐 것입니다. 완전히 다른 경험이 될 것입니다. 시간이 지남에 따라 소프트웨어 회사와 서비스 회사 간의 구분은 사라질 것입니다.”
Harvey Raises at $11 Billion Valuation to Scale Agents Across Law Firms and Enterprises
관련해서 법무 영역의 OS를 타겟하고 있는 AI 스타트업 Harvey는 어느새 데카콘이 되어버렸다. $11b 가치로 $200m 투자 유치에 성공. ARR은 올해 초 $190m 수준.
“하비는 법무 워크플로우가 실행되는 곳입니다. 2만 5천 개 이상의 맞춤형 에이전트가 하비에서 작동하며 M&A, 실사, 계약서 초안 작성 및 문서 검토 전반에 걸친 업무를 수행하고 있습니다. 고객들은 펀드 결성과 같은 복잡한 사용 사례를 위해 장기간에 걸쳐 다단계 워크플로우를 처리하는 장기(long-horizon) 에이전트의 도입을 늘려가고 있습니다. 또한, 법무팀과 외부 파트너 간의 업무를 안전하게 조율하기 위해 공유 공간(Shared Spaces) 내에 에이전트를 배치하고 있습니다. 하비의 법률 엔지니어들은 고객과 협력하여 업무를 실행하는 에이전트를 구축하고 지속적으로 개선합니다.”
“이번 투자는 하비가 급격한 성장기를 거친 후 이루어졌습니다. 현재 하비는 미국 100대 로펌(AmLaw 100)의 과반수, 500개 이상의 사내 법무팀, 60개국 50개의 자산 운용사와 파트너십을 맺고 있습니다. 최근 확보한 주요 고객 및 서비스 확장 사례로는 NBC유니버설(NBCUniversal), HSBC, 코어스 챔버스 웨스트가스(Corrs Chambers Westgarth), 하비와의 업무를 확장한 DLA 파이퍼 인터내셔널(DLA Piper International), 그리고 전사적으로 하비를 도입한 맥캔 피츠제럴드(McCann Fitzgerald) 등이 있습니다.”
GPT 가지고 정리한 Harvey의 의미:
“결국 내가 Harvey에서 읽는 메시지는 이것이다. AI는 단순히 더 좋은 소프트웨어를 만드는 기술이 아니다. 기존 회사의 백엔드를 기계화하고, 전문직 노동을 더 작은 단위로 분해하고, 그 위에 데이터 플라이휠을 얹어 복리로 격차를 벌리는 기술**이다. 그리고 이런 회사가 하나의 버티컬에서 검증되기 시작하면, 그 방법론은 다른 버티컬로 전이된다.”
“그래서 Harvey는 법률 AI 회사라기보다, AI 시대에 어떤 종류의 기업이 가장 크게 탄생할 수 있는지 보여주는 선행 사례처럼 느껴진다. 한마디로 말하면 이렇다. 과거에는 소프트웨어가 회사를 도왔다. 이제는 AI가 회사를 다시 설계한다. Harvey는 그 설계가 처음으로 아주 큰 돈과 아주 큰 신뢰를 얻기 시작한 사례 중 하나다.
How Autonomous Agents Will Transform Legal | Harvey
아래는 이번에 데카콘이 된 Harvey 공동 창업자의 글.
앞단의 비저너리들이 다 비슷한 무언가를 보고 있다.
“저는 초기 로펌 및 사내 변호사 고객들에게 에이전트로 현재 가능한 일, 즉 팀 단위의 어소시에이트 변호사들처럼 전체 고객 사건을 처리하거나 상당한 자율성을 가지고 계약 협상을 처리할 수 있는 시스템을 보여줄 때마다 비슷한 반응을 봅니다. 반응은 대개 불신에 가깝습니다. 마지막으로 인식의 격차가 이토록 크게 느껴졌던 것은 GPT-3에서 GPT-4로 넘어갈 때였습니다. 당시의 놀라움은 모델이 한 개인이 할 수 있는 일을 바꿀 만큼 충분히 훌륭해졌다는 것이었습니다. 이번에는 그 결과로 조직 자체가 변하기 시작했다는 점이 다릅니다.”
“대규모 조직은 항상 정보 라우팅 계층 구조로 구축되어 왔습니다. 역사적으로 정보는 사람을 통해 이동해야 했기 때문에 관리자는 컨텍스트를 통합하고, 결정을 전달하고, 업무 차단 요소(blocker)를 추적하고, 팀을 정렬시켰습니다. 자율 에이전트는 이제 그 조정 기능의 일부를 직접 맡기 시작했습니다. 그들은 단순히 작업을 실행하는 것이 아닙니다. 시스템을 모니터링하고, 팀 간에 컨텍스트를 전달하고, 작업을 촉발하고, 결정을 수면 위로 끌어올립니다. 이것이 바로 이 변화가 단순한 생산성 향상보다 더 큰 이유입니다. 조직이 운영되는 조정 계층(coordination layer) 자체를 변경합니다.”
“우리는 Spectre(Dota 2 캐릭터의 이름을 땀)라는 내부 에이전트 시스템을 구축했으며, 이 시스템은 점점 더 많은 엔지니어링 업무를 자율적으로 처리하기 시작했고 점차 비엔지니어링 업무로도 영역을 확장하고 있습니다. 이 시스템이 하는 일의 대부분은 더 이상 인간의 프롬프트에 의해 촉발되지 않습니다. 그것은 시스템이 회사를 모니터링하고 사건(incident), 버그 리포트, 고객 피드백, Slack 메시지를 기반으로 결정을 내림으로써 자동으로 작동합니다. 실제로 Spectre는 회사 세계 모델(company world model), 즉 Harvey 내부에서 무슨 일이 일어나고 있으며 다음에 무슨 일이 일어나야 하는지에 대한 생생한 그림의 시작입니다.”
“엔지니어링에서 일어나고 있는 일은 곧 모든 곳에서 일어날 것입니다. 무한한 AI 직원을 고용할 수 있는 능력을 갖추게 되면, 기업은 더 이상 처리량에 의해 제약을 받지 않게 될 것입니다. 그리고 직원들이 혼자 나아갈 수 있는 속도가 한계에 도달함에 따라, 기관들은 함께 멀리 가는 방법을 다시 배워야 할 것입니다. 이를 위해서는 어떤 작업이 중요한지, 어떻게 검토할지, 어떻게 신뢰할지, 그 주변의 사람들을 어떻게 훈련시킬지, 어떻게 가격을 책정할지, 그리고 판단력의 병목현상을 겪는 지능의 잉여를 중심으로 조직을 어떻게 재설계할지 근본적으로 다시 생각해야 합니다.”
“다른 산업에서와 마찬가지로, 법률 에이전트는 로펌의 구조적 관행에 도전하기 시작할 것입니다. 로펌은 매우 계층적이어서, 어소시에이트 변호사와 파트너 변호사 간의 보고 체계를 사용해 매우 복잡한 사건들에 한정된 자원인 법률 전문 지식을 집중시킵니다. 이 계층 구조의 주니어 역할은 처리량에 집중되어 있습니다. 방대한 데이터 더미를 구성하거나 주로 기계적인 작업을 실행합니다. 이러한 작업이 점점 더 에이전트에게 위임됨에 따라 지능이 계층 구조를 대체합니다. 이제 모든 변호사는 산출물이 아닌 판단력으로 평가받게 되며, 로펌은 인력 배치, 도제 제도, 가격 책정, 업무 영역 구조 및 고객과의 협업 방식을 다시 생각해야 합니다.”
최근들어 갑자기 조직과 관련된 이야기들이 많이 등장하는건 어쩌면 에이전트 시대에 접어들었기에 당연한 것일지도 모르겠다는 생각이 스쳤다.
본질적으로 AI 에이전트는 회사의 조직 체계를 연상하면 많은 부분이 유사하다. 회사에 축적된 문서, 행동 지침, 업무 기록은 메모리에 해당하고, 실제 계산과 실행을 담당하는 것이 GPU이며, 이를 조율하고 작업 흐름을 관리하는 계층이 CPU이며, 이 모든 구성요소를 유기적으로 연결하는 것이 네트워킹이다.
그리고 인간은 이 조직의 목표와 제약, 승인 기준을 정하는 최종 책임자에 해당한다.
#인프라
Dylan Patel — Deep dive on the 3 big bottlenecks to scaling AI compute
AI 인프라 투자를 (단순히 수요에 대응하는 차원이 아닌) 일종의 타이밍 게임이라고 생각하고 바라보면 새로운 것들이 보이네. 왜 그렇게 샘 알트만이 인프라 투자를 서둘렀는지도 더욱 선명하게 이해가 되는 것 같다.
“Q. 기본적으로 당신이 말하는 건, Anthropic은 매출쉐어라는 의미에서든, 아니면 막판 스팟 컴퓨트라는 의미에서든, 원래 일찍 컴퓨트를 사놨다면 지불하지 않아도 됐을 50% 마크업을 지금 지불해야 한다는 거군요.”
“A. 맞습니다, 거기엔 그런 트레이드오프가 있어요. 하지만 동시에, 거의 4개월 동안 모두가 OpenAI에게 “우린 너희와 계약 안 할 거야”라고 말했어요. 미친 소리처럼 들리지만 이유는 “너희는 돈이 없잖아”였죠. 지금은 모두가 “OpenAI, 우리는 처음부터 당신들을 믿고 있었어요. 이 많은 돈을 조달했으니 어떤 계약이든 할 수 있습니다”라고 말하고 있습니다. Anthropic은 그런 의미에서 제약을 받습니다. 아직 컴퓨트의 증분 구매자가 그렇게 많지 않아요. Anthropic이 처음으로 매출이 폭발하는 capability tier에 도달했기 때문입니다.”
→
“H100을 볼 때, 그 위에서 GPT-4를 돌렸을 때보다 GPT-5.4 토큰을 GPU당 더 많이 서비스할 수 있습니다. 즉, 더 높은 품질의 모델 토큰을 더 많이 생산하는 거예요. (~) H100의 가치는 이제 GPT-4가 그것으로부터 뽑아낼 수 있는 가치가 아니라 GPT-5.4가 뽑아낼 수 있는 가치에 기반하게 됩니다. H100은 오늘 3년 전보다 더 가치가 큽니다.”“
“컴퓨트가 제약된 세계에서는 두 가지 일이 일어납니다. 첫째, commitment issue가 없고 컴퓨트에 대해 5년 계약을 맺은 회사들은 엄청난 마진 우위를 잠가 놓습니다. 그들은 2년, 3년, 혹은 5년 전 거래되던 가격으로 5년치 컴퓨트를 잠가 놓은 거예요.”
“반면 누군가가 그 5년 계약의 3년째에 들어와 있는데, 다른 누군가의 2년 계약이나 3년 계약이 만료돼서 이제 현대의 가격으로 그걸 사려 한다면, 모델의 가치 기준으로 가격이 책정되는 상황에서는 그 가격이 훨씬 많이 올라가 있을 겁니다. 그러니까 일찍 커밋한 사람이 전반적으로 더 좋은 마진을 갖는 거죠. 장기 계약에 묶여 있는 시장 비중은, 마지막 순간에 추가하는 이런 플렉스 용량이 될 수 있는 단기 계약 시장 비중보다 훨씬 큽니다.”
“CoreWeave를 보면, 그들의 평균 계약 기간은 지금 3년을 넘습니다. 98% 이상의 컴퓨트가 3년이 넘죠. 그래서 이들은 가격을 실제로 유연하게 조정할 수 없는 딜레마에 빠집니다. 하지만 매년 그들은 과거보다 훨씬 더 많은 증분 용량을 추가하고 있습니다.”
Dylan Patel — Deep dive on the 3 big bottlenecks to scaling AI compute
매우 흥미로운 주장들인데, 매우 타당한 주장으로 들린다.
“가장 큰 병목은 컴퓨트입니다. 그리고 그 점에서 가장 리드타임이 긴 공급망은 전력이나 데이터센터가 아닙니다. 오히려 반도체 공급망 자체죠. 다시 말해 주요 병목이 전력과 데이터센터에서 칩으로 이동하는 겁니다.”
“결국 2028년이나 2029년쯤 되면 병목은 공급망의 가장 아래 단계로 떨어집니다. 그게 바로 ASML입니다. ASML은 세상에서 가장 복잡한 장비인 EUV 장비를 만듭니다. 판매 가격은 3억~4억 달러죠. 현재 그들은 약 70대를 만들 수 있습니다. 내년에는 80대까지 갈 겁니다. 공급망을 매우 공격적으로 확장하더라도, 10년 말까지 100대를 조금 넘는 정도에 그칩니다.”
“EUV 장비 하나는 시간당 대략 75장의 웨이퍼를 처리할 수 있고, 장비 가동률은 대략 90%입니다. 최종적으로 보면, 1기가와트에 필요한 200만 EUV 웨이퍼 패스를 처리하려면 약 3.5대의 EUV 장비가 필요합니다. 즉 1기가와트를 만족시키는 데 3.5대가 필요하죠.”
“숫자를 생각하면 재밌어요. 1기가와트는 얼마가 들까요? 대략 500억 달러입니다. 그런데 EUV 장비 3.5대는 얼마일까요? 12억 달러예요. 생각보다 훨씬 더 작은 숫자죠. 흥미롭습니다. 데이터센터의 경제적 CapEx 50기가와트, 그리고 그 위에 만들어지는 토큰 가치의 규모는 훨씬 더 큽니다. 공급망으로 들어가는 AI 가치가 1,000억 달러일 수도 있어요. 그런데 그게 고작 12억 달러어치의 장비에 의해 막혀 있는 겁니다. 그 공급망은 단순히 빠르게 확장할 수가 없어요.”
“지금이나 내년 메모리의 제약은 꼭 EUV 장비가 아닙니다. 그건 10년 후반부로 갈수록 병목이 되죠. 현재의 제약은 더 물리적인 겁니다. 이 벤더들이 실제로 팹을 지어놓지 않았다는 거예요. 지난 3~4년 동안 이 벤더들은 새 팹을 짓지 않았습니다. 메모리 가격이 너무 낮았기 때문이죠. 마진도 낮았고, 실제로 2023년에는 메모리에서 돈을 잃고 있었습니다. 그래서 새 팹을 짓지 않기로 결정한 거예요. 시장은 시간이 지나며 천천히 회복됐지만, 작년 전까진 정말 훌륭하다고 할 정도는 아니었습니다.”
“2024년에 우리는 계속 북을 쳤죠. reasoning은 긴 컨텍스트를 뜻하고, 긴 컨텍스트는 큰 KV cache를 뜻하고, 그건 큰 메모리 수요를 뜻한다고요. 우리는 이 얘기를 1년 반, 2년 동안 해왔습니다. AI를 이해하는 사람들은 그때 이미 메모리에 크게 롱을 탔어요. 그런 다이내믹이 있었지만, 이제서야 드디어 가격에 반영된 겁니다.”
“명백했던 일이 이렇게 오래 걸렸어요. 긴 컨텍스트는 KV cache가 더 커진다는 뜻이고, 더 많은 메모리가 필요하다는 뜻입니다. 가속기 비용의 절반이 메모리예요. 당연히 다들 거기에 미치기 시작할 수밖에 없었죠. 그런데 그게 메모리 가격에 실제로 반영되기까지는 1년이 걸렸습니다. 메모리 가격이 그걸 반영하기 시작한 후에도, 메모리 벤더들이 팹 짓기를 시작하는 데는 다시 3~6개월이 더 걸렸어요. 그리고 그 팹을 짓는 데는 2년이 걸립니다. 그래서 이런 장비를 넣을 만한 의미 있는 팹이 실제로 생기는 건 2027년 말이나 2028년이 될 때까지 어렵습니다.”
“그 대신 용량을 확보하기 위한 꽤 미친 일들이 벌어지고 있어요. 마이크론은 대만에서 구형 공정을 만드는 회사를 통째로 사서 팹을 확보했습니다. 하이닉스와 삼성도 기존 팹에서 용량을 늘리기 위해 꽤 과감한 일들을 하고 있어요. 그리고 그건 경제 전체에 큰 파급효과를 낳습니다.”
“그래서 왜 더 많은 용량을 못 짓느냐? 장비를 놓을 곳이 없기 때문입니다. EUV만의 문제가 아니라, DRAM과 로직에는 다른 장비들도 들어갑니다. 로직 N3를 보면, 최종 웨이퍼 비용의 약 28%가 EUV예요. DRAM을 보면 그 비중은 10%대입니다. 오르고는 있지만, 비용 비중은 훨씬 더 작죠. 이런 다른 장비들도 병목입니다. 다만 그 공급망은 ASML만큼 복잡하지 않을 뿐이죠.”
“(지금 combined-cycle 가스터빈은 킬로와트당 CapEx가 1,500달러쯤 되죠. 당신 말은, 그보다 훨씬 더 비싼 기술도 경제성이 있을 수 있다거나, 혹은 다른 것들이 충분히 싸져서 경쟁력이 생길 수 있다는 뜻인가요?) 정확히 그렇습니다. 킬로와트당 3,500달러까지 가도 됩니다. combined-cycle 비용의 두 배여도, GPU 총소유비용 기준으로는 시간당 몇 센트 정도밖에 안 올라가요.”
“우리가 Hopper 가격 얘기를 했으니, 1.40달러라고 해봅시다. 전력 가격이 두 배가 된다 해도, 원래 1.40달러이던 Hopper의 비용은 이제 1.50달러가 되는 정도입니다. 저는 신경 안 씁니다. 모델이 너무 빨리 좋아지고 있어서, 그들의 한계 효용이 그 에너지 비용 10센트 증가보다 훨씬 더 크기 때문입니다.”
“우주 데이터센터는 사실상 에너지 우위에 의해 제한받지 않습니다. 그들은 같은 경쟁 자원에 의해 제한받습니다. 우리는 10년 말까지 연간 200기가와트의 칩만 만들 수 있어요. 그 용량을 어디에 쓸까요? 그게 육상이든 우주든 사실 별로 중요하지 않습니다. 왜냐하면 전력은 지을 수 있으니까요. 인간의 능력과 생산력은 전 세계적으로 연간 1테라와트 수준의 다양한 전력을 추가하는 단계까지 갈 수 있습니다.”
“어느 시점이 되면 우주 데이터센터가 말이 되는 임계점을 넘게 됩니다. 하지만 이번 10년은 아닙니다. 그건 훨씬 더 먼 미래예요. 실제로 에너지 제약이 큰 병목이 되고, 토지 인허가 제약이 경제의 더 큰 부분을 잠식하며, 그리고 결정적으로 칩이 더 이상 병목이 아니게 되는 시점 이후입니다.”
“지금은 칩이 가장 큰 병목입니다. 당신은 그 칩이 제조되는 즉시 AI에 배치되어 작동하길 원하죠. 그리고 사람들은 그 속도를 더 빠르게 만들기 위해 여러 가지를 하고 있습니다. 데이터센터를 모듈화하고, 혹은 랙 자체를 모듈화해서 칩만 데이터센터에서 꽂으면 나머지는 이미 모두 배선돼 있고 준비된 상태로 만드는 식이죠. 이런 식으로 시간을 줄이려는 일들이 많습니다. 그런데 그런 건 우주에서는 할 수 없습니다.”
“당신이 AI가 엄청나게 크게 take off할 거라고 믿어야만 메모리 크런치를 살 수 있습니다. 메모리 크런치의 상당 부분은 결국 이런 전제 위에 있었어요… 적어도 인프라를 생각하는 베이 사람들에겐 이건 명백합니다. 컨텍스트 길이가 길어질수록 KV cache가 폭증하고, 따라서 더 많은 메모리가 필요하다는 거죠. 그다음엔 계산을 하면 됩니다.”
“또 어떤 팹이 지어지고 있는지, 어떤 데이터센터가 지어지고 있는지, 칩이 몇 개인지, 이런 모든 것들에 대한 공급망 이해도 충분히 있어야 합니다. 우리는 이런 다양한 데이터셋을 아주 촘촘하게 추적하지만, 결국엔 이게 실제로 일어날 거라고 완전히 믿는 사람이 필요합니다.”
“1년 전에 누군가에게 메모리 가격이 4배가 되고, 그 후 1~2년에 스마트폰 물량이 40% 줄어들 거라고 말했다면, 사람들은 “미쳤네. 절대 그런 일은 안 일어나”라고 했을 겁니다. 하지만 일부 사람들은 그걸 믿었고, 그 사람들은 실제로 메모리를 트레이드했죠.”
#반도체
AI 에이전트로 인해 추론 컴퓨팅 수요가 폭증하고 있고, 기술은 토큰 생성을 가장 효율적으로 하기 위한 방향으로 발전하고 있다.
관련해서 3월에 가장 중요했던 이벤트 중 하나는 엔비디아의 GTC 2026 행사였고, 그중에서도 Groq 칩 발표가 하이라이트. 이는 폭발적으로 증가하는 AI 추론 수요를 보다 효율적으로 제공하기 위한 전략.
심플하게 요약하면 AI 추론을 위해서는 ‘정보의 해석’ 과정이 있고 그걸 바탕으로 ‘결과물을 출력’해야하는데, 이 결과물 출력 부분에서 사용자의 질문·문서·검색 결과를 읽고 문맥을 만들고(KV cache 생성) 그동안 쌓인 문맥을 다시 참조하는 쪽은 기존의 GPU가 맡고, 이 문맥을 바탕으로 다음 토큰을 뽑아내는 반복 계산을 위해서 Groq 칩을 새롭게 추가했다고 보면 된다.
조금 더 직관적으로 풀면, 프리필은 책 한 권을 처음 읽으면서 중요한 문장에 전부 밑줄을 치는 단계에 해당하고, 디코드 어텐션 부분은 한 문장씩 써 내려가기 위해 방금까지 밑줄 친 메모를 계속 다시 펼쳐보는 단계에 해당하며, 이번에 추가된 Groq 칩 부분은 펼쳐놓은 메모를 바탕으로 문장을 빠르게 뽑아내는 부분에 해당한다.
관련해서 젠슨황이 GTC 2026에서 Groq 설명한 부분:
“제가 Groq에 그렇게 끌린 이유는 그들의 컴퓨팅 시스템 때문입니다. 그것은 결정론적 데이터플로우 프로세서입니다. 정적으로 컴파일되며, 컴파일러가 스케줄링합니다. 즉, 계산과 데이터가 정확히 같은 시점에 도착하도록 컴파일러가 미리 모든 것을 계산해두고, 소프트웨어적으로 완전히 스케줄링합니다. 동적 스케줄링은 없습니다. 이 아키텍처는 대규모 온칩 SRAM을 중심으로 설계되었고, 오직 inference라는 단 하나의 워크로드만을 위해 만들어졌습니다.”
“그런데 알고 보니, 바로 그 하나의 워크로드가 AI 팩토리의 핵심 워크로드였습니다. 그리고 세상이 더 빠른 토큰, 더 똑똑한 토큰을 더 많이 생성하려 할수록, 이 통합의 가치는 더욱 커질 것입니다. 그래서 보시다시피 이것은 두 개의 극단적으로 다른 프로세서입니다. 한쪽 칩은 500메가바이트 수준의 SRAM을 갖고 있고, Vera Rubin 쪽은 칩당 288기가바이트급의 대용량 메모리 구성을 갖습니다.”
“Rubin이 다루는 파라미터 규모와, 그와 함께 따라오는 KV cache까지 모두 감당하려면, Groq만으로는 아주 많은 칩이 필요합니다. 그래서 Groq 단독으로는 대형 모델 추론의 메인스트림 워크로드까지 확장하는 데 한계가 있었습니다. 그런데 우리가 아주 좋은 아이디어를 떠올렸습니다. inference 자체를 Dynamo라는 소프트웨어를 통해 완전히 분리(disaggregate)하면 어떨까? 다시 말해, inference 파이프라인을 재아키텍트해서 Vera Rubin에 가장 적합한 작업은 Vera Rubin에 맡기고, decode, 즉 저지연이 중요하고 대역폭 제약을 크게 받는 토큰 생성 단계는 Groq로 오프로드하면 어떨까 하는 것이었습니다.”
“그래서 우리는 극단적으로 다른 두 프로세서를 하나의 시스템으로 통합했습니다. 하나는 고처리량을 위해, 다른 하나는 초저지연을 위해 쓰입니다. 물론 여전히 많은 메모리가 필요하다는 사실은 변하지 않습니다. 그래서 우리는 Groq 칩을 다수 배치해 필요한 메모리 용량을 확보할 것입니다. 트릴리언 파라미터급 모델을 Groq 쪽만으로 수용하려면 매우 많은 칩이 필요합니다. 하지만 그 옆에는 NVIDIA Vera Rubin이 있고, 그쪽이 agentic AI 시스템에 필요한 방대한 KV cache를 저장하고 처리할 수 있습니다.”
“이 모든 것은 분리된 inference라는 아이디어에 기반합니다. prefill은 우리가 맡습니다. 그 단계는 Vera Rubin이 처리하기에 더 적합합니다. 그러나 decode 역시 매우 긴밀하게 통합됩니다. decode 단계 안에서도 attention 연산은 NVIDIA Vera Rubin에서 수행하고, FFN을 포함한 토큰 생성 경로는 Groq 칩에서 수행합니다. 두 시스템은 오늘날의 Ethernet 위에서 매우 밀접하게 연결되며, 특수 모드를 통해 지연 시간을 절반 가까이 줄였습니다.”
“그래서 바로 이 능력 덕분에 두 시스템을 하나로 통합할 수 있습니다. 그 위에는 AI 팩토리를 위한 추론 오케스트레이션 소프트웨어인 Dynamo가 올라갑니다. 그 결과는 35배 향상입니다. 그것도 단순한 35배 향상에 그치지 않습니다. 세상이 한 번도 본 적 없는 새로운 추론 성능 티어까지 열리게 됩니다. 이것이 바로 Groq가 Vera Rubin 시스템에 결합되는 방식입니다.”
“우리에게 Groq LP30 칩을 생산해주고 있는 Samsung에도 감사드립니다. 삼성은 정말 최선을 다해 생산하고 있습니다. 정말 감사드립니다. Groq LP30 칩은 현재 양산 중이며, 2026년 하반기, 대략 3분기 출하가 예정돼 있습니다.”
An Interview with Nvidia CEO Jensen Huang About Accelerated Computing - Stratechery
엔비디아는 더이상 절대로 단일 GPU 회사가 아니다. 이와 관련한 젠슨황의 코멘트:
“추론(inference)의 전체 영역을 살펴보면, 한편으로는 가능한 한 많은 처리량(throughput)을 제공하고 싶고, 다른 한편으로는 가능한 한 많은 스마트 토큰(smart tokens)을 제공하고 싶을 것입니다. 토큰이 똑똑할수록 더 높은 가격을 받을 수 있으니까요. 처리량을 극대화하는 것과 지능을 극대화하는 것 사이의 긴장 관계, 이 두 가지의 균형을 맞추는 것은 정말, 정말 어려운 일입니다.”
“우리는 우리의 코딩 에이전트가 10배 더 빠르게 실행되기를 바라지만, 처리량이 높은 시스템에서 그렇게 하는 것은 매우 어렵습니다. 그래서 우리는 거기에 Groq 저지연 시스템을 추가하기로 결정했고, 기본적으로 공동 실행(co-run), 공동 처리(co-process)를 하는 것입니다.”
“소프트웨어 스택을 가져와서 분산시키고, 필요한 곳에 배치하는 것은 엔비디아의 특기입니다. 우리는 컴퓨팅이 ‘어디서’ 수행되는지에 집착하지 않습니다. 단지 애플리케이션을 가속화하고 싶을 뿐입니다. 기억하세요, 엔비디아는 가속 컴퓨팅 기업이지 GPU 기업이 아닙니다.”
Arm Everywhere event: Keynote with Arm CEO Rene Haas
ARM이 주장하는 에이전트 시대에서의 CPU의 중요성과 그들이 CPU 완제품 제작에 진출한 이유.
“어느 순간부터 사람들은 CPU가 끝났다고 생각했고, AI를 다루는 유일한 방법은 가속 컴퓨팅뿐이며 AI 세계에서 CPU의 역할은 더 이상 무의미하다는 인식이 있었습니다. 자, 이제 CPU의 역할과 클라우드에서 일어나는 일에 대해 생각해 봅시다. AI 이전의 클라우드, 즉 제가 보여드린 마지막 슬라이드 이전의 컴퓨팅 클라우드의 거대한 성장 시기를 말하는 것입니다. 우리는 AWS, 마이크로소프트, GCP의 성장을 보았습니다. 그리고 클라우드의 전통적인 용도는 질문을 입력하고, 검색을 하고, 예를 들어 ‘워리어스 경기 좌석 남았나?’ (참고로 내일이나 오늘 밤 경기 좌석은 많이 남은 것 같습니다만) 하고 물으면 그 결과를 돌려받는 것이었습니다. 이것이 클라우드입니다. 아주 간단하게 검색을 하지만, CPU의 역할은 매우 큽니다. 따라서 10여 년 전, 10~15년 전의 SaaS 성장과 클라우드 주변의 모든 성장을 되돌아보면 말 그대로 CPU가 모든 작업을 수행하고 있었습니다.”
“이제 여기에 AI 클라우드를 추가해 보겠습니다. 당신이 스마트폰이든 PC든 자신의 기기에 프롬프트를 입력하는 사람이라고 가정해 보죠. 물론 여기에도 여전히 CPU가 관여합니다. 클라우드가 그 요청을 서비스하고, 그 요청은 가속기가 생성하는 토큰으로 전송되며, 데이터 센터의 CPU가 이를 조율하여 토큰을 다시 보냅니다. 여기서 토큰은 쿼리의 요청을 제공하는 단어나 답변입니다. 이것이 바로 AI 데이터 센터에서 수행되는 모든 작업입니다. 따라서 CPU는 클라우드에도 관여하고 있으며, 분명히 AI 데이터 센터에도 관여하고 있습니다. 우리는 이 데이터 센터에 기가와트당 약 3,000만 개의 CPU 코어가 있을 것으로 추정합니다. 엄청난 숫자입니다. 여기서 데이터 센터는 가속기에 연결된 헤드 노드이든 전용 랙 옆에 있는 것이든, AI 클러스터 바로 안에 있는 것들의 조합입니다. 하지만 계산해 보면 기본적으로 기가와트당 약 3,000만 개의 CPU 코어가 나옵니다. 이것이 대략 작년까지, 혹은 그보다 조금 전까지 우리가 보아온 세상입니다.”
“데이터 센터가 질식하고 있습니다. 토큰을 생성하는 매우 비싼 가속기들은 이제 그 토큰들을 클라우드를 통해 다시 보내야 합니다. 에이전트가 무엇인지 생각해 보면, 에이전트는 곧 워크플로우입니다. 말씀드렸듯이 급여 작업이고 스케줄러 작업입니다. 이는 비동기적입니다. 스케줄링과 관련된 엄청난 양의 작업입니다. 그게 바로 CPU가 하는 일입니다. CPU의 역할입니다. 가속기가 할 수 있는 일이 아닙니다. 가속기가 토큰을 생성하는 것을, 덤프트럭을 밀어 올리는 것에 비유할 수 있습니다. 누군가는 그 흙을 모두 옮겨야 하죠. CPU는 그 흙을 옮기는 장비이며, 에이전틱 AI는 그 작업량을 더욱 늘릴 뿐입니다. 따라서 현재 여러분이 보시는 것은 흐름 측면에서의 엄청난 병목 현상입니다.”
“이게 무슨 의미일까요? 점점 더 많은 CPU가 필요하다는 뜻입니다. 그것도 아주 많이요. 헤드 노드 근처의 CPU, 가속기 랙 옆의 CPU, 데이터 센터 내부의 더 많은 CPU 랙 등 그냥 더 많이 필요합니다. 저희의 계산에 따르면 (이조차도 보수적인 수치라고 생각하지만) 동일한 기가와트당 CPU 코어 수가 약 4배, 즉 1억 2,000만 개로 늘어납니다. 동일한 전력 프로필 내에서 이제 1억 2,000만 개의 CPU 코어가 필요한 것입니다. 우리는 동일한 전력 한도 내에 4배 더 많은 CPU 코어를 집어넣으려 하고 있습니다. 물론 전력은 귀중합니다. 여기에 필요한 자본도 귀중하죠. 핵심 작업을 수행하는 가속기와 CPU로 이미 꽉 찬 데이터 센터에 그 모든 추가 CPU를 집어넣으려고 하는 것은 문제입니다.”
“모든 어려운 문제에는 좋은 해결책이 필요합니다. 그리고 오늘, 우리는 수익 창출을 위해 고객에게 판매하는 최초의 실리콘 칩을 발표합니다. 바로 ‘Arm AGI CPU’입니다. Arm은 이제 새로운 비즈니스에 뛰어들었으며, CPU를 칩 형태로 공급하게 되었습니다. 우리가 이 일을 하는 가장 큰 이유는 파트너들이 요청했기 때문입니다. 하지만 방금 설명한 문제를 해결하기 위해서이기도 합니다. 에이전틱 AI가 주류가 됨에 따라 이를 실현하는 데 필요한 모든 작업은 CPU에 종속되며, 따라서 ‘배터리로 구동되도록 태어난 DNA’를 가진 CPU가 필요합니다.”
Arm Launches Own CPU, Arm’s Motivation, Constraints and Systems - Stratechery
ARM의 CPU 직접 제조에 관한 벤 톰슨의 코멘트인데, 결국 이 또한 GPU를 가장 잘 활용하기 위한 전체 시스템의 일부라는 관점을 짚어준다.
“물론 하스와 Arm만이 이 기회를 노리고 있는 것은 아니다. Nvidia도 이미 ARM 기반 CPU를 판매하고 있을 뿐만 아니라, 하이퍼스케일러들 역시 자체 Arm 기반 칩을 만들고 있다. 다만 가장 중요한 대안은 결국 Intel과 AMD의 x86 칩이 될 것이다. 하스가 Arm의 배터리 기반 설계 유산과 전력 효율성을 언급하며 경쟁 상대로 상정한 것도 바로 이들이다. 그리고 데이터센터에서 전력이 궁극적인 제약 조건이라는 점 자체는 분명 사실이다.”
“하지만 데이터센터 전체 차원에서 전력이 병목이라고 해서, 적어도 가까운 미래까지는 CPU를 평가하는 가장 중요한 기준이 전력, 더 구체적으로는 와트당 성능 하나로 귀결된다는 뜻은 아니다. 데이터센터에서 가장 비싼 칩은 GPU일 것이고, 그렇다면 데이터센터의 수익성을 극대화하는 핵심은 그 GPU들을 가능한 한 쉬지 않고 계속 활용하는 데 있다. 따라서 그 GPU들에 일을 공급하는 CPU를 볼 때는, 단순한 효율성보다도 GPU를 얼마나 잘 계속 먹여 살릴 수 있느냐라는 의미의 성능이 더 중요해질 가능성이 크다. 다시 말해, 더 적은 수의 GPU를 훨씬 더 높은 활용률로 돌릴 수만 있다면, 데이터센터의 공간과 전력을 CPU에 더 많이 배분하는 것도 충분히 합리적일 수 있다. 이것은 개별 칩의 문제가 아니라 시스템 차원의 문제다.”
“바로 이 지점에서 나는 장기적으로는 이 영역에서 Nvidia의 시도에 더 우위를 줄 것 같다. 특히 그 데이터센터가 Nvidia GPU를 돌리는 환경이라면 더 그렇다. Nvidia는 원래부터 시스템 단위로 사고하는 회사이고, 그들의 시스템을 전체적으로 통합 구현할 경우 결국 기가와트당 성능 측면에서 가장 좋은 결과를 낼 가능성이 높다. 동시에 Meta 같은 하이퍼스케일러들 — 이번 칩의 Arm 출시 파트너이기도 한 — 은 단지 Nvidia를 견제하기 위해서라도 더 이질적이고 분산된 컴퓨트 환경을 원하고 또 필요로 한다. 그런 의미에서 Arm은 GPU 시장에서의 AMD와 비슷한 위치에 있다고 볼 수 있다. 다만 CUDA라는 해자를 상대하지 않아도 된다는 점에서, 오히려 더 큰 업사이드를 가질 잠재력도 있다. 실제로 Arm은 x86의 해자를 넘기 위해 Nvidia와 협력하는 쪽이 될 가능성이 높다.”
“더 넓게 보면, 이 모든 것이 결국 ‘시스템’의 문제라는 사실 자체가 왜 Arm의 이번 움직임이 말이 되는지를 보여준다. 최종 제품이 프로세서였던 시절, Arm은 ISA를 제공하며 좋은 사업을 영위했다. 최종 제품이 하나의 시스템이 되자, Arm은 ISA뿐 아니라 코어까지 제공하는 쪽으로 확장했다. 최종 제품이 스마트폰이나 서버가 되자, Arm은 코어를 넘어 서브시스템까지 제공하는 방향으로 올라갔다. 그런데 AI 시대에 최종 제품은 이제 데이터센터다. 그렇다면 Arm의 대응이 아예 직접 칩을 판매하는 수준까지 확장되는 것도 전혀 놀라운 일이 아니다. 한편으로 보면 Arm은 자사 제공 범위를 넓히고 있는 것이고, 다른 한편으로 보면 컴퓨팅의 변화 속도를 따라가고 있을 뿐이기도 하다.”
An Interview with Arm CEO Rene Haas About Selling Chips - Stratechery
Arm CPU 수요는 분명히 존재하는듯.
“CSS를 사용하면 이미 많은 부분이 완성되어 있기 때문에, 2025년쯤 “CSS를 라이선스할 것인가?” 아니면 “우리를 위해 무언가를 직접 만들어 줄 수 있는가?”를 두고 의견이 오갔습니다. 우리도 내부적으로 “이것이 우리 전략상 올바른 일인가?”를 고민하고 있었습니다. 하지만 결국 메타가 “당신들이 우리를 위해 이 칩을 만들어 주면 좋겠습니다. 이것이 시장 출시 기간을 단축하고, 성능이 뛰어나며 우리가 원하는 일정에 맞는 칩을 제공하는 최선의 방법이라고 생각합니다.”라고 제안하면서, 2025년 무렵 우리는 “네, 해드리겠습니다”라고 합의하게 되었습니다.”
“(그럼 메타와의 계약은 “우리가 당신들을 위해 전부 다 만들어 줄 텐데, 대신 다른 데도 팔 수 있게 해달라”는 식이었고 메타는 “괜찮습니다. 상관없어요”라고 한 건가요?)”
“네, 정확합니다. “우리가 이 일을 한다면 다른 고객들에게도 판매하는 것에 대해 어떻게 생각하십니까?”라고 물었고, 그들은 “괜찮습니다”라고 답했습니다.”
→
“SAP는 아마존 클라우드에서 SAP HANA 같은 많은 소프트웨어를 구동하지만, 동시에 온프레미스에서도 무언가를 하려는 욕구가 있습니다. 만약 그들이 더 작은 온프레미스 공간에서 무언가를 하려 하고, 클라우드에서 구축했던 작업물을 활용하고 싶다면 ARM 기반을 원할 것입니다. 우리가 이 제품(Arm AGI CPU)을 만들기 전까지는 선택지가 아예 없었습니다. 그래서 아주 좋은 사례입니다.”
“클라우드플레어 같은 회사도 마찬가지입니다. 클라우드플레어가 자체 칩을 만들까요? 아닐 겁니다. 그들이 다른 회사의 클라우드에서 실행하나요? 물론입니다. ARM을 기반으로 온프레미스에서 실행할 수 있는 애플리케이션을 가지고 있나요? 당연하죠. 우리가 이 일을 시작하기 전에는 “당신들이 아마존, 구글, 마이크로소프트와 경쟁하게 되니 그들은 당신들 제품을 사지 않을 것이다”라는 질문을 참 많이 받았습니다. 하지만 저희는 이렇게 말합니다. “구글은 TPU를 만들지만, 엔비디아 GPU도 엄청나게 많이 삽니다.” 세상일이 그렇게 흑백논리로 돌아가진 않습니다.”
→
(장기적으로 TSMC 팹 확보 부분이 걱정되지는 않습니까? 사업이 엄청나게 커졌는데 정작 칩을 충분히 만들지 못할 수도 있잖아요.)
“현재로서는 그 부분보다 메모리 문제가 조금 더 걱정됩니다. 칩에 대한 비즈니스나 수요는 실제로 매우 높습니다. 벤, 우리는 파트너를 통해 TSMC로부터 향후 수요 증가분에 대한 물량도 확보할 수 있기 때문에 그건 문제가 되지 않습니다. 하지만 메모리는 꽤 도전적인 과제입니다. 만약 이 비즈니스가 얼마나 더 커질 수 있는지에 한계가 있다면, (우리가 투자자들에게 제시한 재무 전망은 메모리와 로직 칩 모두 우리가 확보한 캐파를 기반으로 한 것이긴 합니다만) 메모리가 더 많았다면 우리가 더 많이 팔 수 있었을까요? 네, 그렇습니다. 메모리가 더 많았다면 수치를 훨씬 더 공격적으로 잡았을 겁니다.”
“우선, HBM이 엄청난 용량을 차지하고 있고, 메모리 제조사들이 LP에서 HBM으로 전환하고 있는 데다, CPU 수요 폭발로 메모리 수요가 함께 치솟으면서 모든 것이 겹치고 있습니다. 이 모든 요인이 맞물리면서 메모리 문제가 상당히 심각해지고 있습니다.”
새로운 사이클은 언제나 환영이야 - 미래에셋증권 한종목
AI 에이전트의 HW 수혜 강도는 CPU가 가장 강할 수도 있어보인다.
“AI 인프라의 중심축이 대규모 병렬 연산을 전담하던 GPU에서 극초저지연 순차 제어를 담당하는 매니코어 CPU로 이동하고 있습니다.”
“이 과정에서 발생하는 초당 수백만 번의 조건부 분기 판단과 방대한 KV 캐시의 컨텍스트 스위칭은, 동일한 명령을 수만 개의 코어에 동시다발적으로 하달해야만 제 성능을 발휘하는 단일 명령어 다중 스레드 구조를 완벽하게 마비시킵니다. 에이전트 워크로드는 단순한 연산량의 폭발이 아니라 순차적 논리 제어 부하의 폭발을 의미하며, 이를 해결하기 위해 강력한 단일 스레드 통제력과 거대한 내부 캐시를 갖춘 CPU가 데이터센터의 최고 지휘관으로 귀환했습니다.”
“이러한 물리적 워크로드의 근본적 변화는 클라우드 벤더들의 데이터센터 아키텍처를 원점에서 해체하고 있습니다. 과거 1U 서버 박스 내에 연산과 제어 장치를 혼합 배열하던 모놀리식 구조는 열역학적 파산을 맞이하고 있습니다. 대신 순수 병렬 연산만을 담당하는 수냉식 가속기 랙과, 수만 개의 에이전트 상태 통제를 전담하는 초고밀도 CPU 랙이 물리적으로 완전히 분리되는 디스어그리게이션 아키텍처가 확립될 것으로 보입니다. 이 지휘관 랙을 선점하기 위해 AMD는 칩렛 기술의 원가 경제성을 극한으로 끌어올려 서버 시장 점유율 45퍼센트를 정조준하고 있으며, 인텔은 클라우드 환경의 최대 리스크인 보안 취약점과 성능 불균형을 해결하기 위해 20년간 이어온 하드웨어 멀티스레딩 기능을 과감히 삭제하는 아키텍처 혁명을 단행했습니다. 동시에 아마존과 구글 같은 하이퍼스케일러들은 범용 x86 명령어 세트를 버리고 자사 트래픽 라우팅에 최적화된 극한의 맞춤형 Arm 실리콘을 전면 도입하여 총소유비용을 억제하고 있습니다.”
“에이전트 트래픽 증가 × 멀티에이전트(페르소나) 승수 → 순차적 CPU 워크로드 증가 → 레거시 CPU 붕괴 → 신형 CPU 강제 교체 수요. 이것이 CPU 슈퍼사이클의 작동 원리다. 시장이 이 이동을 아직 가격에 반영하지 못하고 있다면, 그것이 바로 알파다.”
The Great AI Silicon Shortage - Semianalysis
지금은 TSMC N3 공정 쇼티지다. 여러모로 인텔과 삼성 파운드리에게 기회가 찾아오는 상황.
“이제 공급이 얼마나 부족한지 살펴보겠습니다. 올해 내내 N3 가속기 웨이퍼 수요가 공격적으로 증가하고 있습니다. 주된 요인은 엔비디아가 4NP 기반의 블랙웰에서 N3P 기반의 루빈 세대로 전환하면서 발생하는 루빈 생산량 증가입니다. 하지만 플랫폼 및 공급망의 성숙도가 더 높기 때문에, 올해는 여전히 블랙웰이 루빈보다 더 많은 물량으로 출하될 것입니다. 구글과 브로드컴의 TPU는 엔비디아와 아마존보다 먼저 N3를 도입했으며, 2025년 중에 이미 TPUv7 칩 생산에 들어갔습니다. 이러한 모멘텀은 구글 내부 수요와 앤스로픽 등 외부 수요에 힘입어 올해 TPU 출하량이 크게 증가하면서 계속 이어지고 있습니다. 동시에 차세대 TPUv8 변형 모델로의 전환이 시작될 것이며, 이 역시 N3 노드에 머물게 됩니다. 또 다른 주요 변수는 N3P 기반 트레이니엄3로, 2026년 초부터 웨이퍼 투입을 시작해 하반기에 생산량을 대폭 늘릴 예정입니다.”
“결과적으로 AI 관련 수요(가속기, 호스트 CPU 및 네트워킹 N3 수요)가 올해 N3 생산량의 60%에 조금 못 미치는 비중을 차지하게 됩니다. 나머지 40%는 주로 스마트폰과 일반 CPU용입니다. 이러한 수요처들의 주문만으로도 N3 전체 생산 능력이 완전히 가동되고 있어, TSMC가 생산 능력을 추가로 확보할 여력은 거의 없습니다. TSMC가 N3 생산 능력을 추가하더라도 2027년에는 이러한 공급 부족 현상이 더욱 심각해질 것입니다. 당사의 모델링에 따르면 2027년 N3 웨이퍼 생산량 중 AI 수요가 86%를 차지하여, 스마트폰과 CPU 웨이퍼를 거의 완전히 밀어낼 것으로 예상됩니다. 이러한 변화의 일부는 N2(2나노)로 전환하려는 스마트폰 로드맵 계획에 기인하지만, 빠듯한 N3 생산 능력이 이 전환을 앞당기는 데 확실히 한몫하고 있습니다. N3 노드에 남아 있는 제품군의 경우 수요가 온전히 충족되지 않을 가능성이 높습니다.”
테라팹 설명회 요약 by 딘스티커 Dean’s Ticker
파운드리 쇼티지에 대비해 머스크는 반도체를 직접 만들겠다는 테라팹 프로젝트를 런칭.
Q. 테라팹 목적
테라팹은 연간 1테라와트의 컴퓨팅 파워를 목표로 하는데 이는 인류 문명 기준으로 엄청나지만 카르다쇼프 2단계 문명으로 가기 위한 한 단계일 뿐이다. 러시아 물리학자 카르다쇼프는 문명을 에너지 사용량으로 분류했다. 1단계 문명은 행성 에너지의 대부분을 사용하는 것인데 지구는 아직 멀었다. 표면에 도달하는 태양 에너지의 아주 적은 부분만 사용하기 때문이다. 2단계는 태양 에너지다. 문명의 전력 출력을 100만 배 늘려도 태양 에너지의 100만 분의 1에 불과하다. 테라팹 프로젝트를 위해 SpaceX, xAI, Tesla가 힘을 합친다. 연간 1TW 컴퓨팅을 위해서는 연간 1,000만 톤의 위성을 궤도로 보내야 한다. 우리는 궤도에서 1TW의 태양광 발전도 구축하고 있다. SpaceX가 개발한 AI-Sat의 미니 버전은 100KW급이며 태양광 패널과 방열판이 장착된다. 현재 전세계 AI 컴퓨팅 출력은 연간 약 20GW 수준이다.
Q. 테라팹 로드맵
우리가 왜 테라팹을 지어야 하는지 설명한다. 지구상의 모든 팹을 합쳐도 우리가 필요한 양의 2%에 불과하기 때문이다. 삼성, TSMC, 마이크론 등이 제조하는 칩을 우리가 사겠다고 말했지만 이들의 공급 확장 속도는 우리가 원하는 것보다 훨씬 느리다. 그래서 테라팹을 짓지 않으면 칩을 확보할 수 없다. 텍사스 오스틴에 첫 테라팹을 구축할 것이다. 여기서는 로직, 메모리 등 모든 종류의 칩을 만들 수 있는 장비를 갖출 것이다. 리소그래피 마스크 제작 장비마저 설치할 것이다. 한 건물에서 마스크를 만들고 칩을 제작하고 테스트한 뒤 다시 디자인을 개선하는 반복 과정이 엄청나게 빨라질 것이다. 이 과정은 다른 제조사보다 10배는 빠를 것이다. 크게 2가지 종류의 칩을 만들 것이다. 하나는 옵티머스 & 전기차에 쓰일 엣지 추론용 칩이다. 특히 옵티머스에 많이 쓰일 것이다. 로봇 생산량은 전기차보다 10배에서 100배 더 많아질 것이기 때문이다. 다른 하나는 가혹한 우주 환경에 최적화된 고출력 칩이다. 우주에서는 방열판 질량을 최소화하기 위해 칩을 지상보다 더 뜨겁게 가동해야 한다.
Q. 테라팹 다음
테라와트 다음은 무엇일까. 달에 전자기 매스 드라이버(발사 장치)를 설치하는 것이다. 달은 대기가 없고 중력이 지구의 1/6라서 로켓 없이 화물을 탈출 속도까지 가속해 쏘아 올릴 수 있다. 그러면 비용이 다시 한번 획기적으로 낮아지고 TW보다 1,000배 큰 PW 규모가 가능하다. 나는 달에서 매스 드라이버가 작동하는 것을 볼 수 있을 만큼 오래 살고 싶다. 그것은 태양 에너지의 100만 분의 1을 활용하는 길이며 지구 경제의 100만 배 규모가 되는 길이다. 미래에는 모든 것이 공짜가 될 것이다. 이언 뱅크스의 소설처럼 돈이 존재하지 않고 누구나 원하는 것을 가질 수 있는 풍요의 시대가 올 것이다. 누구나 토성 여행을 갈 수 있는 세상이다. 이 여정에 동참해 놀라운 칩을 디자인하고 제작하자.
The Ridiculously Nerdy Intel Bet That Could Rake in Billions - Wired
인텔은 자신들의 상대적 강점인 패키징 역량을 통해 파운드리 반등을 노리고 있다.
“지난 6개월 동안 인텔은 자사의 반도체 파운드리 부문 내에서 운영되는 첨단 패키징 사업이 급성장하고 있다는 신호를 보내왔습니다. 인텔의 이러한 노력은 생산 규모 면에서 자사를 훨씬 능가하는 대만 TSMC와의 정면대결을 의미합니다. 하지만 AI가 모든 종류의 컴퓨팅 파워에 대한 수요를 주도하고, 거의 모든 주요 기술 기업들이 자체 맞춤형 칩 제작을 고려하게 만드는 시대에, 인텔은 이 노력을 통해 AI 시장에서 더 큰 파이를 차지할 수 있을 것으로 기대하고 있습니다.”
“인텔은 칩 제조 분야의 선두 자리를 TSMC에 내주었지만 패키징에 대한 투자는 계속 이어갔습니다. 2017년 인텔은 EMIB(Embedded Multi-die Interconnect Bridge)라는 공정을 도입했는데, 이는 칩 패키지 내 구성 요소 간의 실제 연결 부위(브리지)를 축소했다는 점에서 독특했습니다. 2019년에는 고급 다이 스태킹 공정인 포베로스(Foveros)를 도입했습니다. 이후 인텔의 패키징 기술은 더 큰 도약인 ‘EMIB-T’로 이어졌습니다.”
“지난 5월 발표된 EMIB-T는 칩의 모든 구성 요소 간 전력 효율성과 신호 무결성을 개선할 것을 약속합니다. 인텔의 패키징 기술 개발을 직접 알고 있는 전직 직원은 WIRED와의 인터뷰에서, 인텔의 EMIB와 EMIB-T가 TSMC의 방식보다 칩을 패키징하는 데 있어 더 정밀한 방식으로 설계되었다고 전했습니다. 다른 대부분의 칩 기술 발전과 마찬가지로, 이는 장기적으로 전력 효율을 높이고 공간을 절약하며 이상적으로는 고객의 비용을 절감하는 것을 목표로 합니다. 회사는 EMIB-T가 올해 팹에 도입될 것이라고 밝혔습니다.”
“익명을 요구한 한 전직 인텔 직원은 인텔의 타깃 패키징 고객들이 몇 가지 이유로 인텔과의 파트너십 발표를 주저하고 있을 수 있다고 분석했습니다. 그들은 회사가 팹 확장 약속을 제대로 이행하는지 지켜보기 위해 기다리고 있거나, 패키징을 위해 인텔을 사용한다고 밝힐 경우 TSMC가 잠재적으로 그들에게 할당하는 웨이퍼 물량을 줄일 것을 우려하고 있다는 것입니다. 이 전직 직원은 고객들이 감수해야 할 위험은 기술 자체가 아니라 이처럼 더 넓은 시장의 역학 관계라고 덧붙였습니다.”
관련해서 나는 삼성 파운드리 또한 좋게 보고있다.
최근 딜런 파텔의 인터뷰를 보면 당장은 전력이 병목이지만, 시간이 흐를수록 팹 자체(특히 TSMC 캐파 자체)가 병목이 될꺼라고 강조하였고, 따라서 시간이 갈수록 삼성파운드리에 기회가 커질 수 밖에 없다고 생각한다.
그런 와중에 이번에 GTC 2026의 하이라이트는 Groq 칩 탑재 발표였고, 그중에서도 젠슨 황이 삼성파운드리 샤라웃 해준게 의미가 컸다고 생각한다. 삼파에서 당장의 비중은 크지 않지만, 중요한 칩을 생산한다는 것 자체만으로 의미가 커보인다. 또한 이번주에 리사 수가 방한해서 이재용 만나고 갔는데 여기서도 HBM 뿐만 아니라 파운드리 이야기가 오고 갔다고 한다.
게다가 오늘 머스크가 ‘테라팹’ 건설을 공식화했는데, 이 프로젝트의 의의 자체가 TSMC와 삼성 파운드리의 공급 확장만으로는 자신들의 수요를 맞출 수 없기 때문에 직접 팹을 짓겠다는 것이니, 사실상 머스크가 파운드리 쇼티지를 다시 한번 증명해준 것이다.
이 모든걸 종합해보면 AI 발전에 있어서 다음 최대 병목은 ‘팹’일 것 같고, 삼성 파운드리의 중요성이 커질 수 밖에 없는 것 같다.
#바이오
Anthropic Acquires Startup Coefficient Bio for About $400 Million - The Information
앤트로픽도 작년 가을에 새로 생긴 AI 바이오텍인 Coefficient Bio를 $400m에 인수.
OpenAI, 앤트로픽, 딥마인드 셋 다 공통적으로 생명 과학 분야에 지속적으로 리소스를 쓰고 있다. 따라서 차세대 전장이 될 가능성이 매우 높은 분야.
“작년 가을에 설립된 코이피션트 바이오는 AI가 신약 연구 및 개발 계획, 임상 규제 전략 관리, 신약 기회 발굴과 같은 바이오테크 업무를 수행할 수 있도록 지원하는 플랫폼을 개발하고 있었습니다.”
#핀테크
마침내, 스트라이프의 메인넷 Tempo 런칭.
“지난 9월 템포를 처음 발표했을 때, 우리의 전제는 단순했습니다. ‘스테이블코인이 인터넷 상거래의 핵심 계층이 되려면, 자금을 이동시키는 인프라가 결제 목적에 맞게 특화되어 구축되어야 한다’는 것입니다.”
“스테이블코인은 즉각적인 정산과 지속적인 가용성을 통해 국경을 넘어 가치를 이동시키는 것을 가능하게 합니다. 하지만 기존 블록체인의 대부분은 대규모 결제 워크로드를 위해 설계되지 않았습니다. 수수료가 변동하고 처리량이 제한적이며, 일반적인 결제 흐름에 트랜잭션 구조가 잘 맞지 않습니다.”
“다른 블록체인들과 달리, 템포는 예측 가능한 비용, 높은 처리량, 대량 트랜잭션의 안정적인 정산 등 실제 결제 시스템의 요구 사항을 중심으로 설계되었습니다.”
“AI 에이전트들은 이미 코드를 작성하고, 서비스를 조정하며, 데이터를 검색하고, 인터넷 전반에서 복잡한 워크플로우를 실행할 수 있습니다. 하지만 이러한 시스템의 기능이 고도화됨에 따라 ‘거래’의 필요성도 점점 더 커지고 있습니다.”
“이러한 환경에서 결제는 지속적이고 프로그래밍 방식으로 이루어집니다. 두 당사자 간의 단일 트랜잭션 대신, 단일 워크플로우에 여러 서비스에 걸친 수십, 수백 개의 소액 결제가 포함될 수 있습니다.”
“이러한 패턴은 기존 결제망의 한계를 빠르게 드러냅니다. 기존 결제 시스템은 사람이 시작하는 트랜잭션과 수동 승인 흐름을 가정합니다. 반면, 많은 블록체인들은 예측 가능한 비용과 신뢰성이 가장 중요한 고빈도·소액 트랜잭션을 위해 설계되지 않았습니다.”
“템포는 이러한 규모의 상호 작용을 위한 정산 인프라를 제공하여, 에이전트가 프로그래밍 방식으로 거래할 수 있도록 지원합니다.”
Introducing the Machine Payments Protocol
동시에 Machine Payments Protocol (MPP)도 함께 런칭하며 AI 에이전트 진출을 공식화.
우리가 클로드 코드 사용을 위해 크레딧 결제하는 것 처럼, 미리 에이전트 지갑에 돈을 충전해놓고 에이전트에게 위임하는 시대가 이미 열리고 있는 것 같다.
“이러한 기반을 구축하기 위해, 기계 결제를 위한 개방형 표준인 기계 결제 프로토콜(Machine Payments Protocol, MPP)을 출시합니다. MPP는 모든 결제 수단에 구애받지 않고 확장 가능하도록 설계되었으며, 이미 스테이블코인, 카드 및 기타 지원되는 결제 수단과 연동되어 작동하고 있습니다.”
“MPP는 에이전트와 서비스가 프로그래밍 방식으로 결제를 조정할 수 있는 표준화된 방법을 제공합니다. 각 서비스가 자체적인 청구 흐름을 발명하는 대신, MPP는 기계 간의 결제를 요청, 승인, 정산하기 위한 단순한 프로토콜을 정의합니다.”
“우리는 기계 결제가 여러 서비스와 결제망 전반에서 일관되게 작동할 수 있도록 MPP를 개방형 표준으로 출시하기로 결정했습니다.”
“MPP를 사용하면 에이전트가 자율적으로 서비스 비용을 지불할 수 있습니다. 에이전트가 서비스에 리소스를 요청하면 서비스는 결제 요청으로 응답합니다. 그런 다음 에이전트가 지갑에서 결제를 승인하면 거래가 즉시 정산되고, 서비스는 요청된 리소스를 에이전트에게 전달합니다.”
“이는 지속적인 결제를 허용하는 ‘세션(sessions)’이라는 새로운 기본 요소 덕분에 가능해졌습니다. 이를 ‘돈을 위한 OAuth(인증 표준)’라고 생각해 보세요. 한 번 승인하면 정의된 한도 내에서 결제가 프로그래밍 방식으로 실행되도록 허용하는 것입니다.”
“에이전트가 세션을 열면, 먼저 자금을 확보해 둡니다. 에이전트가 서비스(API 호출, 모델 추론, 데이터 쿼리 등)에서 리소스를 소비함에 따라, 각 상호 작용에 대해 별도의 온체인 트랜잭션을 요구하지 않고 결제가 지속적으로 스트리밍됩니다.”
“수천 건의 소액 트랜잭션을 단일 정산 트랜잭션으로 통합할 수 있어, 인터넷 규모에서 진정한 종량제(pay-per-use) 결제를 구현할 수 있습니다.”
State Channels and Agentic Payments - Liam Horne
전 이더리움, 현 Tempo 소속 개발자가 설명하는 MPP의 의의.
“저는 거의 10년 동안 ‘소프트웨어가 소프트웨어에게 결제하는 것’이라는 하나의 아이디어에 사로잡혀 있었습니다. 2017년 당시, 저희 일행은 이더리움(Ethereum) 상에서 기계들이 서로 소액 결제(micropayments)를 스트리밍할 수 있는 인프라인 ‘상태 채널(state channels)’을 구축하는 데 수년을 쏟아부었습니다. 기술은 아주 잘 작동했지만, 아직 아무도 그것을 필요로 하지 않았습니다. 사람들은 블록체인을 결제가 아닌 토큰 거래에 사용했습니다. 하지만 AI 에이전트가 이를 바꿔놓았습니다. 에이전트야말로 우리가 기다려온 바로 그 소프트웨어이며, 이것이 우리가 스트라이프(Stripe)와 함께 그들에게 결제 수단을 제공하기 위해 ‘기계 결제 프로토콜(Machine Payments Protocol, MPP)’을 구축한 이유입니다.”
“에이전트는 사람처럼 결제하지 않습니다. 에이전트는 하루에 수천 번의 작은 결정을 내릴 수 있으며, 각 결정마다 지연 시간이 짧은(low-latency) 프로그래밍 방식의 결제가 필요합니다. 그리고 현재 이를 위한 표준화된 방법은 없습니다. 선불 잔액이 있는 API 키를 하드코딩하거나, 헤드리스 브라우저에서 카드 결제 양식을 통해 에이전트가 제출하도록 하는 방법을 찾아야만 합니다.”
“저는 에이전트 기반 결제가 상태 채널이 가지지 못했던 ‘킬러 앱’이라고 생각합니다. 에이전트는 사람의 개입 없이 적은 금액으로 높은 빈도로 다른 소프트웨어와 거래해야 하는 자율 소프트웨어입니다. 에이전트는 이미 목표를 추론하고, 장단점을 평가하며, 어떤 행동을 취할지 결정합니다. 에이전트에게 지출 정책을 부여하고 그 정책 내에서 행동하게 하는 것은 바로 에이전트가 구축된 목적, 즉 ‘제한된 의사 결정(bounded decision-making)’의 일환입니다.”
Coinbase Dives Into AI Agent Payments - The Information
클라우드플레어도 스테이브코인 발행을 검토 중에 있구나.
“코인베이스와 암호화폐 인프라 스타트업 제로해시(Zerohash)는 올해 출시 예정인 클라우드플레어의 새로운 스테이블코인 발행을 두고 경쟁하는 기업들 중 하나입니다. 웹 트래픽 관리 및 사이버 보안에서 클라우드플레어가 핵심적인 역할을 하고 있기 때문에, 이 계약의 승자는 자사의 스테이블코인을 에이전트 기반 트래픽의 중심에 놓을 수 있습니다.”
#마지막으로
권오현 전 회장 “나는 이상한 삼성맨… 주말 쉬고 칼퇴근, 위임 철저” - 김지수의 인터스텔라
다시, 초격차
“골방에서 면벽하면 도사는 되겠지만, 촉이 좋은 리더는 못됩니다. 촉은 다양한 사람 만나고 세상의 흐름 속에 있어야 생겨요. 흐름을 알려면 내 비즈니스 밖의 사람, 이해관계가 없는 사람을 자주 만나냐 해요.”
“주말이면 예술가 만나고 PD들 만나러 다녔어요. 기자하고 정치가만 빼고는 다 만나고 다녔어요.”
“진짜 1등이 되려면 내가 더 잘할 수 있는 게 아니라 나만이 할 수 있는 걸 찾아야 합니다. 내가 더 잘하는 걸 하면 돈은 벌겠지만, 피곤하게 살아야 해요(웃음).”
“돌아보면 나는 모범생은 아니었어요. 내가 했던 경영도 삼성의 대표적 경영이라고 생각하면 안 돼요. 나는 어쩌면 이상한 경영을 한 거예요. 열심히 한 사람도 아니었어요. 브레인은 열심히 돌렸지만, 피지컬리 열심히 한 사람은 아니었어요. 다만 학창 시절부터 ‘틀리면 어떡하지?’ 보다는 ‘틀려도 한번 해볼게’ 쪽이었어요. ‘이렇게 하면 더 낫지 않을까요?’ 선생님께 얘기라도 해보는 아이였죠.“
“이건희 회장은 한 번도 나한테 지시를 내린 적이 없어요. ‘매출 얼마야?’라는 말은 들어본 적이 없어요. 리더가 매출만 질문하면 그 조직은 평생 발전을 못 합니다. 이건희 회장은 ‘앞으로 어떤 미래가 오는지? 뭘 준비해야 하는지? 인재는 어떻게 키울 건지?’ 같은 질문만 집요하게 던졌어요.”
그리고 인터뷰에 관한 김지수 기자의 코멘트: ”권오현은 초격차의 비밀은 인간 본성에 있다고 했다. 탐험하고 한계에 도전하는 본성이 바로 초격차의 비밀이었다고. 그 자신, 적자 사업을 맡아 누구의 간섭도 받지 않고 결정을 내렸던 순간들이 모여 ‘결단력’이 자랐던 것처럼, 과감하게 위임하고 질문하라고. 결국 의미와 흥미, 재미와 보상이 있는 곳에 자석처럼 사람이 모인다는 말에 오래 고개를 끄덕였다.“
너무 즐겁게 읽었습니다!!