GPT 5.6과 Fable 5 등 최신 모델들이 연이어서 공개되고 있는데, 이와 동시에 토큰 비용을 효율화하려는 움직임도 같이 등장하고 있는 것 같습니다.
한편으로는 한국의 삼성전자가 이번 분기 기준으로 전세계에서 가장 많은 돈을 버는 회사가 되었고, 국가 차원에서는 큰 금액의 투자를 계획하는 움직임을 보여주었습니다.
정말 이번 시기에는 이전에는 상상하지 못했던 여러가지 사건들이 등장하는 것 같은데, 살면서 이런 시기가 또 찾아올까 싶습니다.
오늘은 AI, 인프라, 반도체, 핀테크, 바이오, 비즈니스, 투자에 대해 다룹니다.
뉴스레터 외에도 텔레그램 및 블로그에서 저의 생각을 접해보실 수 있습니다.
#AI
GPT-5.6: Frontier intelligence that scales with your ambition
오늘부로 GPT-5.6이 출시되었다. Sol, Terra, Luna 세 가지의 모델로 나눠서 출시.
Sol → 플래그십 / 입력 $5 출력 $30
Terra → 일상적 업무를 위한 균형형 모델 / 입력 $2.50 출력 $15
Luna → 가장 저렴한 고속 모델 / 입력 $1 출력 $6
역시나 에이전트 성능 향상에 초점을 맞춘 모습이며, 추가로 토큰의 비용 효율성과 속도에도 신경을 많이 쓴 모습이 보인다.
GPT-5.6 Sol은 지능과 효율성 모두에서 새로운 기준을 제시하며, 코딩, 지식 작업, 사이버 보안 및 과학 분야에서 최첨단 결과를 달성하는 동시에 기존 및 경쟁 모델보다 적은 토큰과 더 낮은 예상 비용으로 우수한 성능을 보여줍니다. 결과적으로 동일한 비용으로 더 많은 작업을 성공적으로 수행하거나, 더 낮은 총비용으로 유사한 결과를 얻을 수 있어 비용 대비 성능이 향상됩니다. 또한 가장 까다로운 작업을 가속화하는 새로운 방식을 도입했습니다. 최고 수준의 기능을 발휘하는 이 설정은 여러 에이전트를 병렬 작업 스트림에서 조정하여 복잡한 작업을 더 빠르게 완료합니다. 향상된 컴퓨터 활용 능력과 설계 판단력을 통해 GPT-5.6 Sol은 지금까지 가장 세련된 협업 도구로서, 검토, 개선 및 즉시 사용 가능한 결과를 제공합니다.
How agents are transforming work - OpenAI
OpenAI 내부 직원들의 경우 전체 출력 토큰 중 코덱스 비중이 85%로, 사실상 대다수의 작업을 코덱스로 돌리고 있다.
즉, 가장 선단에서는 ChatGPT보다 코덱스가 훨씬 자주 쓰이는 도구라는 것. 미래는 이미 와 있다, 단지 널리 퍼져있지 않을 뿐.
“사람들은 더 긴 호흡의 작업에 Codex를 사용합니다. 2026년 5월까지 표본 개인 사용자의 80.6%가 사람의 작업 시간으로 30분을 초과할 것으로 추정되는 Codex 요청을 최소 한 번 보냈고, 70.2%는 1시간 초과, 25.6%는 8시간 초과로 추정되는 요청을 최소 한 번 보냈습니다.”
“Codex는 OpenAI의 모든 부서에서 주력 AI 도구가 되었습니다. 엔지니어링이 먼저 움직였지만, 법무·재무·리크루팅은 2026년 4월경 Codex가 주력 AI 도구가 되는 선을 넘었습니다. OpenAI 직원 평균으로 보면 이제 Codex 사용이 출력 토큰의 85% 이상을 차지합니다. Codex 사용자는 비사용자보다 더 많은 토큰을 쓰는 경향이 있어, 전체 토큰 대비 비중은 그보다 더 높습니다: Codex는 OpenAI 내부에서 생성되는 주간 출력 토큰의 99.8%를 차지합니다.”
“비개발자 도입이 특히 빠르게 성장하며 개발자 도입 속도를 앞질렀습니다. 2025년 8월 이후 비개발자 사용자는 개인 137배, 조직 189배, OpenAI 내부 12배 증가했습니다. Codex 덕분에 OpenAI 직원들은 자기 직무 기술서 밖의 일까지 수행할 수 있게 되었습니다. 기술적 사용은 여전히 엔지니어들 사이에서 가장 흔하지만, 비기술직 사용자들도 자동화, 데이터 변환, 툴링, 디버깅, 구조화된 분석 등 코딩이나 기술적 실행을 Codex로 정기적으로 수행합니다.”
Dario Amodei — Policy on the AI Exponential
미국 정부에서 Fable 모델을 일시적으로 중단 시키는 사건이 발생했다.
관련해서, Fable 모델을 런칭하면서 다리오 아모데이가 올린 에세이을 살펴보면 이런 문구가 나온다.
“지난 몇 달 동안 AI의 놀라운 잠재력과 그 위험성에 대한 증거는 부인할 수 없게 되었습니다. 아마도 가장 상징적인 예는 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’와, 프론티어 모델들이 사이버 보안에 매우 실질적인 위험을 초래하여 금융 부문, 핵심 인프라 및 국가 안보를 마비시킬 잠재력을 만들어낸다는 발견일 것입니다. 미토스 프리뷰는 글로벌 사이버 보안 지형을 뒤흔들었습니다. 그러나 더 넓은 의미에서 이것은 AI 모델이 이제 전 지구적이고 국가적인 전략적 결과를 초래하는 도구라는 것을 의심할 여지 없이 증명합니다. 미토스급 모델이 제시하는 사이버 위험은 우리가 직면해야 할 마지막 위험이 아닐 것입니다. 저는 생물학적 위험이 곧 뒤따를 수 있으며, 심각한 AI 자율성 위험도 머지않았다고 믿습니다.”
“그러나 이제 위험은 분명히 현실이 되었습니다. 이제는 투명성을 넘어 AI에 대한 더 심각하고 구속력 있는 규제로 나아가야 할 때입니다. 저는 적어도 현재 기하급수적 발전 단계에서 가장 좋은 비유는 자동차, 비행기 또는 의약품—현대 경제에 필수적이지만, 잘못 설계되거나 운영될 경우 많은 사람을 죽일 수 있는 강력한 기술—이라고 믿습니다. 따라서 저는 연방항공청(FAA)과 같은 기관을 모델로 AI 규제를 마련해야 한다고 생각합니다. 비행기와 마찬가지로 프론티어 AI 모델은 기술 테스트 및 감사를 의무적으로 거쳐야 하며, 높은 안전 기준을 충족하지 못할 경우 공공 안전에 대한 위협으로 간주되어 그 출시를 차단하거나 철회해야 합니다.“
Statement on the US government directive to suspend access to Fable 5 and Mythos 5
그리고 그걸 실제로 이행해버린 미국 정부.
“미국 정부는 국가 안보 권한을 근거로, 미국 내외를 불문하고 외국 국적의 앤스로픽 직원을 포함한 모든 외국 국적자의 Fable 5 및 Mythos 5에 대한 모든 접근을 중단하라는 수출 통제 지침을 발령했습니다. 이 명령의 실질적인 결과로, 당사는 규정을 준수하기 위해 부득이하게 모든 고객을 대상으로 Fable 5 및 Mythos 5의 서비스를 전면 중단해야만 합니다.”
“당사가 파악하기로, 정부는 Fable 5를 우회하거나 “탈옥(jailbreaking)”하는 방법을 인지하게 되었다고 판단한 것으로 보입니다. 당사는 이 특정 기술을 사용하여 이미 알려진 소수의 경미한 취약점을 찾아내는 시연을 검토했습니다. 이러한 취약점들은 모두 비교적 단순해 보이며, 현재 공개적으로 이용 가능한 다른 모델들 역시 별도의 우회 없이 동일하게 이를 발견할 수 있다는 사실을 확인했습니다.”
“당사는 정부의 법적 지침을 준수하여 모든 사용자에 대해 Fable 5 및 Mythos 5에 대한 접근을 차단하고 있습니다. 그러나 제한적이고 잠재적인 탈옥이 발견되었다는 사실이 수억 명에게 배포된 상용 모델을 회수해야 할 사유가 된다는 점에는 동의하지 않습니다. 이 기준이 업계 전반에 적용된다면, 사실상 모든 프론티어 모델 제공업체의 새로운 모델 배포가 중단될 것이라고 믿습니다.”
Fable 5, Anthropic Alignment, AI Tiers - Stratechery
앤트로픽은 어느 순간부터 자기 사업에 유리한 결정을 내리면서도, 그걸 진심으로 인류를 위한 안전한 선택이라고 믿는 조직이 되어버렸다.
OpenAI와 앤트로픽을 관찰하고 비교할 때 대중적 시류에 휩쓸리지 않고 입체적으로 보려고 노력해야만 하는 이유이기도.
“프론티어 연구소들은 가치 사슬에서 계속해서 전방으로 통합해 나가고 최종 사용자와의 접점을 확장해야 할 전략적 의무가 있습니다. 이는 장기적으로 단순히 기존 소프트웨어에 LLM 기능을 추가하는 기반 모델이 되는 것에 그치지 않고, 오늘날 전통적인 소프트웨어가 처리하는 점점 더 많은 기능을 절대적으로 흡수하게 됨을 의미합니다. 다시 이번 업데이트 이슈로 돌아가자면, 이는 앤스로픽의 진정한 경쟁 상대가 사실상 ‘모든 소프트웨어’임을 시사합니다. 이제 이 회사가 명백한 경쟁자들을 은밀하게 약화시킬 의지와 능력이 있음을 보여주었으니, 피할 수 없는 미래의 경쟁자들은 과연 자신들이 안전할 것이라고 얼마나 굳게 믿을 수 있을까요?”
“하지만 앤스로픽에 대해 매우 흥미로운 점은, 회사 내 일부 임원들이 이런 식으로 계산하고 있다고 확신하는 동시에, 그들—그리고 직원들 전반—이 스스로 정말 옳은 일을 하고 있다고 진심으로 믿고 있다는 점을 저 역시 완전히 인정한다는 것입니다. 이를 관찰하는 것은 대단히 흥미롭습니다. 이성적인 비즈니스 분석가인 저의 눈에는 경쟁자가 될 만한 이들을 쳐내려는 냉혹하지만 이해할 수 있는 사업적 결정으로 보입니다. 반면 진정한 신봉자인 앤스로픽 직원과 지지자들의 눈에는 책임감 있고 사려 깊은 사람들(물론 그들 자신)만이 우리의 AGI 미래를 이끌도록 보장하는, 유감스럽지만 이해할 수 있는 안전상의 결정으로 보일 것입니다.”
“이것이 바로 진정한 ‘정렬(alignment)’이며, 놀라운 성과입니다. 저는 OpenAI에서 그렇게 많은 드라마가 발생했던 원인 중 하나가, 순수 연구 조직으로서의 성격과 ChatGPT의 뜻밖의 성공으로 그들 앞에 뚝 떨어진 엄청난 기회 사이의 ‘불일치(misalignment)’였다고 계속해서 생각합니다. 이러한 불일치로 인해 연구 조직은 인재를 잃고 정체된 반면, 회사는 초기 우위를 충분히 자본화하지 못했습니다. 반면 앤스로픽은 어찌 된 일인지 비즈니스 결과를 최적화하는 모든 결정이 순전히 이타적이고 문화를 긍정하는 대의에서 비롯된 것이라고 스스로를 완벽히 설득해냈습니다. 정말 대단합니다!”
이번 이벤트를 보아하니 가면 갈수록 국가 차원에서의 AI 전략이 더더욱 중요해지긴 할 것 같다. 소버린AI와 데이터센터의 중요성도 다시 한번 언급되는 것 같고.
다음은 한국이 AI를 어떻게 준비하고 있는지 알아볼 수 있는 ‘대한민국 AI 행동계획 2026 대시보드’
앤트로픽은 끊임없이 신기능을 출시하는 중. 이번에 공개한 ‘Claude Tag’는 슬랙 채널 내에 에이전트를 배치하는 기능으로, 슬랙 내에서 @ Claude 태그으로 즉시 작업 수행이 가능한 UX다.
내 주변에서 AI를 잘 활용하는 기업들은 주로 슬랙을 통해 회사 내의 ‘맥락’을 통일시킨 경우가 많던데, 이런 회사들에게 딱 맞는 기능을 출시해준 것 같다.
Andrej Karpathy on Twitter / X
참고) Claude Tag에 대한 안드레 카파시의 코멘트:
제 생각에 이것은 LLM UI/UX의 세 번째 주요 재설계입니다.
첫 번째 패러다임은 LLM이 당신이 접속하는 웹사이트라는 것이었고, 두 번째는 컴퓨터에 다운로드하는 앱이라는 것이었습니다. 이 세 번째 패러다임은 LLM이 조직 전반의 도구와 컨텍스트를 갖추고 인간 팀들과 나란히 일하는, 자기 완결적이고(self-contained) 지속적이며(persistent) 비동기적인(asynchronous) 개체(entity)라는 것입니다. 이 개념을 머릿속에 제대로 그려내기까지는 시간이 좀 걸리지만, 실제로 작동하고, 정말 멋집니다.
Claude Science, an AI workbench for scientists
앤트로픽이 과학 연구를 위한 Claude Science 출시. 과학자들을 위한 OS를 따로 설계하고 있다고 봐도 무방한듯. OpenAI 또한 ‘Prism’이라는 비슷한 도구를 출시한 바 있는데, 결국은 이들 안에서 데이터를 돌게끔 만들기 위함이 아닐까 싶다.
“과학 연구는 종종 지루하고 번거롭다. 연구자들은 각기 다른 스키마를 가진 수십 개의 데이터베이스를 오가야 하고, 전용 데이터 파이프라인과 뷰어가 필요한 파일 형식을 다뤄야 하며, PubMed, Jupyter, R, 클러스터 터미널 등 여러 도구 사이를 계속 이동해야 한다.”
“Claude Science는 이렇게 파편화된 도구들을 하나의 연구 환경으로 가져와, 과학자들이 연구의 모든 단계를 수행할 수 있게 해준다. 문헌을 분석하고, 여러 단계로 구성된 연구를 실행하며, 상세한 산출물을 만들고, 논문 투고가 가능한 수준이 될 때까지 그림과 원고를 반복적으로 다듬을 수 있다. 모든 결과물에는 그것이 어떻게 만들어졌는지에 대한 감사 가능한 이력이 포함되어 있어, 결과를 검증하고 재현할 수 있다. Jupyter Notebook처럼, Claude Science는 연구자가 이미 일하고 있는 환경 어디에서나 접근할 수 있다. macOS나 Linux 로컬 환경에서도 사용할 수 있고, SSH 또는 HPC 로그인 노드를 통해 원격 머신에서도 사용할 수 있다.”
“사용자는 60개 이상의 엄선된 스킬과 커넥터에 접근할 수 있는 범용 조정 에이전트와 상호작용한다. 이 스킬과 커넥터는 유전체학, 단일세포 분석, 단백질체학, 구조생물학, 화학정보학 등 다양한 분야에 맞춰 사전 설정되어 있다. 이 에이전트들은 다른 에이전트를 실행할 수 있으며, 사용자가 만든 전문 에이전트와도 협업할 수 있다. 또한 리뷰어 에이전트가 인용과 계산을 확인하고, 오류를 표시하거나 수정한다.”
Meta Is Planning a Cloud Business to Sell AI Computing Power - Bloomberg
최근 메타가 클라우드 사업을 시도할 수 있다는 보도가 나오자 컴퓨팅 용량이 overbuilt 되었다고 해석되면서 시장이 크게 흔들리는 일이 있었는데, (시장이 오해하는 것 같아서) 이에 관해서 짧은 단상을 몇 개 적어보았다.
우선 xAI가 최근 남는 컴퓨팅 파는 BM이 워킹한다는걸 보여주었고, 여기서 큰 힌트를 얻지 않았을까 싶다.
메타가 AI 사업을 축소한다는 해석을 하는 경우도 많을 것 같은데, 당장은 xAI가 남는 컴퓨팅 판다고 AI 사업을 줄이거나 하진 않는 것 같은데. 심플하게 메타도 본인들 사업이 자리잡기까지는 시간과 노력이 더 필요하니, 그때까지 남는 컴퓨팅을 조금 팔아서 빠듯한 현금흐름을 조금이나마 수월하게 해보겠다는 전략이 아닌지.
내가 장담하는데 AI는 아직 잠재 수요의 1%도 채우지 못했을꺼다. 지금 수준의 모델과 유스케이스만 하더라도 컴퓨팅은 훨씬 더 많이 깔려야한다.
작년 딥시크 사태 때가 떠오른다. 지나고보면 왜 그렇게 무서워했지? 싶었을 순간일 확률이 높다고 본다.
위에까지는 펀더멘탈한 생각이었고, 우선 시장은 (나의 펀더멘탈 해석과는 다르게) 어쨋든 무서워하는게 보인다. 그렇게 생각하기 딱 좋은 뉴스거리인 것도 사실이고.
게다가 최근에는 안그래도 변동성이 극심한걸 보면서 시장이 예전과는 다르다는 생각을 품고 있었는데, 이게 또 하나의 트리거가 되어주면서 당분간은 시장이 쉽지 않을 것 같다는 직감이 든다.
결국 선택지는 1) 주식을 쉬거나 2) 전체 비중을 줄이거나 3) 그냥 가만히 있거나 4) 오히려 기회로 삼고 더 사거나, 이렇게 일텐데, 이건 참으로 어려운 문제다.
아예 뭔가 시장에 새로운 테마가 등장할 가능성도 있다고 보여진다. 안그래도 최근에 토큰 효율의 중요성이 급격히 올라가는 것 같다는 생각을 가지고 있었는데, 메타의 오늘자 뉴스가 이와 함께 해석될 가능성도 있지 않을까 싶은 생각이다.
실제로 지금 당장 몇몇 소프트웨어 기업들은 반등을 하는 모양새인데, (최근 몇 번 당했던 전례에도 불구하고) 다시 한번 잘 살펴봐야하는 시기가 찾아오는 것 같다.
이후 메타가 27년 컴퓨팅 용량을 두배로 확장할 것이며, 자체 ASIC 칩은 올해 9월부터 생산 시작한다는 내부 메모가 보도되면서 일단 시장의 오해였음이 증명되었다.
내부 메모에 따르면 ‘26년 7GW 규모의 컴퓨팅 인프라를 배치하고, ’27년에는 이를 두 배인 14GW로 확대할 계획
또한 자체 AI 칩 ‘Iris’의 테스트를 6주 만에 완료했으며 중대한 문제는 발견되지 않음. 오는 9월부터 생산 시작 예정
Iris는 4세대에 걸친 MTIA 프로젝트의 일부. 브로드컴과 설계 협력, TSMC가 생산 담당. 엔비디아와 AMD GPU를 보완하고 비용 및 외부 칩 의존도를 낮추는 것이 목적
메타는 최신 GPU를 자사 규모에 도입하는 과정이 “매우 힘든 일이었으며, 시간을 잃었다”고 평가. 2027년까지 약 6개월마다 새로운 자체 AI 칩을 출시할 계획
인프라 확장을 위해 메모리, 스토리지, 광섬유 장비 관련 장기 다년 공급 계약 체결
Introducing Muse Image and Muse Video
메타가 MSL(Meta Superintelligence Labs)에서 개발한 첫번째 이미지 및 비디오 모델을 공개.
Arena 기준 이미지는 모델 2위, 비디오 모델은 3위를 기록했다는데, (아직은 막 업계를 선도하는 느낌은 아니지만) 그래도 뒤쳐지지 않고 적당히 잘 따라오는 모습이긴 하다. 모델 경쟁은 계속된다.
“Muse Image는 프롬프트를 이미지에 직접 매핑하는 대신 에이전트처럼 작동합니다. 검색 및 코딩 도구를 호출하여 정확도를 향상시키고, 자체적으로 이미지 생성을 개선하며, 테스트 시 컴퓨팅 성능을 확장하여 성능을 향상시킵니다. 또한 Muse Image는 Muse Spark와 통합되어 두 모델이 도구를 공유하고 강력한 에이전트 기반 미디어 생성을 위해 공동으로 계획할 수 있도록 합니다.”
또한 메타는 에이전트와 코딩 작업에 특화된 Muse Spark 1.1 모델도 공개. 이 또한 선단 모델에 뒤쳐지지 않는 준수한 모습으로, 메타는 당분간은 지속적으로 모델 경쟁에 참여할 것으로 보인다.
Muse Image, Grok 4.5, Alex Karp on CNBC - Stratechery
앤트로픽이 코딩 영역을 빠르게 점유한건 피드백 루프가 제대로 돌았기 때문인데, 메타(와 구글)은 광고에서 비슷한 일을 해낼 수 있는 회사들이다. 이들에게 자체 모델이 중요한 이유.
“Muse Image를 Advantage+에 직접 통합했을 때의 더 근본적인 이점은, 메타가 오직 자신만 보유한 광고주 성과 데이터를 기준으로 자체 모델을 학습시키고, 튜닝하고, 정렬하고, 평가할 수 있다는 점이다. 그 결과는 범용 모델을 파인튜닝해서 얻을 수 있는 것보다 훨씬 더 차별화되고, 특정 활용 사례에 더 자연스럽게 맞는 결과가 된다. 파운데이션 모델은 메타 자체의 검색 및 랭킹 인프라와 정렬되도록 학습될 수 있고, 독립형 도구나 다른 플랫폼의 도구와 차별화되는 출력 제어를 가질 수 있다. 이런 방식은 브랜드 안전성을 강제하고 제품의 정합성을 유지하며, 지연 시간과 비용도 통제할 수 있게 한다. 이는 광고 플랫폼에 대단히 강력한 이점이며, 메타가 AI 투자에서 이미 실질적인 보상을 거두고 있다고 내가 주장하는 핵심에 놓여 있다.”
“모델 개선에 가장 중요한 기여 요인 중 하나는 검증 가능성이다. 코딩이 AI 발전에서 특히 생산적인 영역이었던 큰 이유는 코드가 검증 가능하기 때문이다. 즉, 작동하는가, 작동하지 않는가를 확인할 수 있다. 따라서 어떤 과제가 더 검증 가능할수록, 그 과제는 AI에 의해 더 빠르게 수행될 가능성이 높다. 달리 말하면, 검증을 소유하는 것은 극도로 유리하다. 그리고 시장은 검증 메커니즘이다. 물론 충분한 신호를 얻기 위해서는 충분한 유동성이 필요하다. 이 데이터에는 많은 노이즈가 있기 때문이다. 하지만 메타 광고가 바로 그런 존재다. 전환을 만들거나 만들지 못하는 수조 개의 광고가 돌아가는, 어쩌면 세계에서 가장 유동적인 시장이다. 그 신호에 직접 연결되는 모델은 더 빨리 좋아질 수밖에 없다.”
xAI가 Grok 4.5 모델을 공개. 최근 인수 완료한 커서와 협력해 공개한 첫번째 모델이다. 시사점은:
메타와 마찬가지로 스페이스X 또한 AI 모델 경쟁을 계속해서 이어나가는 중이다. 남는 컴퓨팅 일부 판다고 해서 모델 경쟁에서 이탈하는 것이 아니다.
절대적인 성능보다 빠른 속도와 낮은 비용이 강조되어있다. 즉, 토큰 효율성을 핵심 지표로 삼은 것이다.
“Grok 4.5는 초당 80건의 트랜잭션 처리량(TPS) 이라는 빠른 속도로 제공됩니다 . 동일한 작업에서 최신 선도 모델보다 두 배 높은 토큰 효율성을 갖춘 이 모델은 더욱 빠르고 훨씬 낮은 비용으로 지능적인 결과를 제공합니다.”
“Grok 4.5는 다른 주요 모델들과 비교했을 때 놀라울 정도로 경쟁력 있는 가격으로 제공됩니다. 입력 토큰 백만 개당 2달러, 출력 토큰 백만 개당 6달러라는 가격 경쟁력을 자랑합니다. 또한, 유사한 주요 모델 대비 약 2배 높은 토큰 효율성을 달성하여 절반 이하의 단계로 작업을 해결합니다.”
Opening Keynote, Michael Truell | Compile 26
참고로 최근 커서의 키노트에서 Michael Truell이 비용과 속도에 집중하고 있다고 말했었다.
“우리는 개인 개발자, 혼자 만드는 해커들도 시장이 제공하는 최고 성능의 모델을 사용할 수 있기를 바랍니다. 그래서 최근 Composer 모델 출시에서는 비용과 속도에 많이 집중했습니다. 그리고 사람들이 안정적인 상태에서는 몇 개의 모델을 함께 쓰는 것이 합리적이라는 사실을 인식하기 시작하는 것을 보고 있습니다. 예를 들어 평소에는 가격 대비 성능이 더 좋은 데일리 드라이버 모델을 쓰고, 필요할 때는 더 비싼 모델로 가는 식입니다.”
“우리는 지금까지 훈련해온 것과는 매우 다른 유형의 모델 훈련 막바지 단계에 있다는 사실을 발표하게 되어 매우 기쁩니다. 이 모델은 세 가지 면에서 다릅니다.
“첫째, 큽니다. Opus와 GPT만큼 큽니다. 우리는 지금까지 접근할 수 있었던 것보다 10배에서 20배 더 많은 컴퓨트에서 이 모델을 돌리고 있습니다. 우리의 이전 모델은 과거보다 조금 더 많은 컴퓨트를 사용했지만, 이번 모델은 정말로 처음으로 컴퓨트를 엄청나게 확장한 모델입니다.”
“모델을 점점 더 좋게 만들기 위해 우리가 하던 일들은 근본적으로 더 많은 GPU에서 더 많은 시간 동안 돌릴 수 있느냐에 의해 막혀 있었습니다. 그래서 이번 10배에서 20배 규모 확장은 우리가 프론티어에 도달하고, 바라건대 곧 그것을 뛰어넘어, 여러분께 흥미롭고 강력한 새로운 능력을 제공할 수 있게 해준다고 생각합니다.”
“둘째, 처음부터 훈련됩니다. 즉 오픈소스 기반에서 시작하지 않습니다. 우리는 오픈소스를 사랑하고, 오픈소스에 기여할 더 많은 방법을 찾고 싶습니다. 하지만 처음부터 시작하면 모델의 모든 행동을 통제할 수 있고, 우리가 중요하게 여기는 워크로드와 여러분이 중요하게 여기는 워크로드에 맞춰 훨씬 더 세밀하게 조정할 수 있습니다.”
“마지막으로, 이 모델은 단지 코딩을 넘어서는 지능을 갖춘 모델이 될 것입니다. 우리는 이것이 Cursor가 하고자 하는 일에 중요하다고 생각합니다.”
How to keep AI spend flat while token usage grows exponentially
얼마전 코인베이스의 브라이언 암스트롱이 토큰을 효율적으로 사용하는 방법, 정확히는 토큰 사용량은 증가하면서도 동시에 AI 비용은 줄이는 원칙에 대해 포스팅한 것이 화제가 되었다.
모델, 하드웨어, 소프트웨어 등 모든 단에서 토큰을 ‘효율적’으로 활용하기 위해 계속해서 많은 발전이 이루어지고 있었지만, 이제부터 더더욱 중요한 어젠다로 자주 언급될 것 같다. 그리고 이러한 움직임들이 모여 AI 사용량은 더욱 늘어날 것이다.
“토큰 사용량이 기하급수적으로 늘어나는 상황에서도 AI 비용을 일정하게 유지하려면 어떻게 해야 할까? 사용을 막거나, 비용 알림을 계속 띄우는 방식으로는 어렵다. 핵심은 더 나은 기본값, 더 나은 라우팅, 그리고 더 나은 캐싱이다.”
몇 개의 그래프들 - 토큰 지출의 합리화, 중국 데이터센터 투자. - 농구천재
AI 씬에서도 곧 광고에서의 CPM → CPC 변화와 비슷한 움직임들이 나타날 것 같은데, 나는 우선 아래의 세 가지 범주 내에서 변화를 관찰 중에 있다.
OpenAI가 모델을 Sol, Terra, Luna로 나눈 것 처럼 선단 모델사들이 직접 변화를 주도해가거나 / 혹은 중국 모델사들이 침투하거나
아마존 Bedrock 처럼 하이퍼스케일러들이 이걸 주도해가거나
아니면 Ramp 같은 토큰 관리 솔루션이 등장하는 것 처럼 새로운 오케스트레이션 플랫폼이 등장하거나
앞으로 AI 산업에 영향을 많이 미칠 요소이기 때문에, 계속해서 고민과 관찰이 필요한 주제인 것 같다.
“인터넷 광고 초창기에는 CPM이라고 노출당 과금 방식을 사용했었음.”
“인터넷 배너 광고가 노출만 되고 실제 광고 효과가 얼마인지 잘 측정되지 않았으나, 2002년 2월에 구글이 CPC(클릭당 과금) 경매방식으로 광고를 전환하면서 실제 광고 성과 측정이 가능해짐. 그러면서 광고주 입장에서는 광고 지출 대비 성과에 대한 정량적 측정이 가능해지면서 인터넷 광고 시장이 크게 성장하기 시작.”
“구글은 2004년에 상장되고 3년만에 거의 텐베거가 됨.”
“지금의 AI 토큰 사용 역시 초창기의 인터넷 광고 처럼 일단 무작정 사용하다가, 이제 실제 지출 대비 성과를 정량적으로 측정하는 단계로 진입 중으로 판단.”
“장기적으로 이 산업의 성장을 위해 좋은 방향성.”
#반도체
OpenAI and Broadcom unveil LLM-optimized inference chip
OpenAI가 브로드컴과 협력한 첫번째 ASIC 칩 ‘할라피뇨 Jalapeño’ 공개.
갈수록 모델과 하드웨어의 통합 개발이 중요해지고 있기 때문에, OpenAI는 갈수록 ASIC에 많은걸 투자할 것으로 예상됨.
오픈AI와 브로드컴이 오픈AI의 첫 자체 인텔리전스 프로세서 ‘Jalapeño’를 공개. LLM 추론에 최적화된 AI 가속기로, 양사가 공동 구축하는 다세대 컴퓨트 플랫폼의 첫 제품
기존 AI 워크로드용 범용 가속기를 개조한 것이 아니라, 챗GPT, Codex, API, 향후 에이전트 제품에서 발생하는 LLM 추론 패턴을 기반으로 처음부터 설계
초기 테스트 결과 현재 최첨단 가속기 대비 와트당 성능이 크게 개선될 것으로 제시. 최종 성능 측정은 진행 중이며, 상세 기술 보고서는 향후 몇 달 내 발표 예정
아키텍처는 데이터 이동을 줄이고 컴퓨트, 메모리, 네트워킹 자원을 균형 있게 배치해 실제 활용률을 이론상 최대 성능에 더 가깝게 끌어올리는 데 초점
브로드컴은 실리콘 구현과 Tomahawk 네트워킹 기술을 제공하고, 셀레스티카는 보드, 랙, 시스템 통합 및 생산 시스템을 지원
Jalapeño 엔지니어링 샘플은 연구소에서 생산 목표 주파수와 전력 조건으로 ML 워크로드를 실행 중. GPT-5.3-Codex-Spark도 테스트 워크로드에 포함
Jalapeño는 초기 설계부터 제조 테이프아웃까지 9개월 만에 개발. 오픈AI는 이를 고성능 첨단 반도체 분야에서 가장 빠른 ASIC 개발 주기 중 하나로 평가
개발 과정에는 오픈AI 모델도 활용. AI가 칩 설계와 최적화 일부를 가속하면서, 향후 컴퓨트 비용 절감과 인프라 확장에도 기여할 수 있다는 점을 강조
Jalapeño를 시작으로 다세대 AI 컴퓨트 플랫폼을 구축할 계획. 2026년 말 초기 배포를 목표로 하며, 이후 마이크로소프트 등 데이터센터 파트너들과 GW 규모로 확장 예정
추론 비용, 속도, 안정성 개선이 더 빠른 챗GPT 응답, 더 긴 Codex 작업 수행, 더 저렴한 API 제품, 수요 급증 시 안정적 접근성으로 이어질 수 있다고 설명
(정리 by [삼성 이영진] 글로벌 AI/SW)
Why Hardware-Software Co-Design Is AI’s Real 100x: Dylan Patel of SemiAnalysis
딜런 파텔이 바라보는 병목 지점
“Q. 공급망 이슈를 제외하고 기술적으로 향후 1년간 가장 주목하는 병목 지점은 무엇인가요?”
“메모리 용량과 대역폭의 발전은 매우 느렸습니다. 낸드 셀은 25년 전, D램 셀은 40년 전에 발명되었고 셀 자체에 큰 혁신은 없었습니다. 지난 5년간 우리가 한 거라곤 HBM을 더 많이, 더 빨리 쌓은 것뿐이죠. 하지만 향후 몇 년 안에 완전히 새로운 혁신이 옵니다. HBM을 칩과 분리해서 쌓는 대신, 실리콘 칩 위에 메모리를 직접 쌓아 올려 대역폭을 폭발적으로 늘리는 방식이죠. 이 분야에서 흥미로운 회사들이 혁신을 꾀하고 있습니다.”
“또 다른 핵심 문제는, 실리콘 역사상 지난 20년간 칩의 전력 소모량이 보통 면적당 1와트(1W/mm²) 수준에서 한계를 보였다는 겁니다. 100mm² 칩은 보통 100W 이하를 소모했죠. 최신 엔비디아 칩이나 TPU도 그 범위를 크게 벗어나지 않습니다. 지금 엔비디아 칩이 1,400W를 먹고 차세대 루빈이 2,000W, 그 다음이 4,000W로 간다고 하지만 사실 그건 실리콘 면적 자체를 늘린 결과입니다.”
“정말 흥미로운 점은, 이제 업계가 1W/mm² 이상의 전력을 칩에 쑤셔 넣는 기술을 개발 중이라는 겁니다. 이렇게 되면 칩을 작게 만들면서도 성능을 뽑아낼 수 있습니다. 물론 온도가 올라가고 일부 효율성은 떨어지겠지만 실리콘 사용량을 줄이면서 발열과 전자기 간섭 문제 등을 극복해 내는 엔지니어링의 도전입니다.”
“에너지 병목 현상에 대해서는 아주 간단한 생각도 해볼 수 있습니다. 미국 내에 있는 수백만 대의 트럭용 디젤 엔진을 천연가스용으로 개조해서 전기 모터를 역방향으로 물려버리면 전기를 생산할 수 있습니다. 데이터센터에 수백 개를 설치하면 유지보수가 복잡하겠지만, 자동차 정비소 사람들을 데려와서 관리하게 하면 못 할 것도 없죠.”
“정말 중요한 혁신은 ‘공동 설계(co-design) 계층’에서 나옵니다. 각 계층에서 일어난 혁신들을 따로 결합하면 2x2x2=8배의 개선일 수 있지만, 모든 계층을 관통하며 공동 설계를 해버리면 단숨에 100배로 향상됩니다. 이게 바로 모델 계층부터 최하단 실리콘까지 아우르는 엔비디아나 제조 공정부터 칩 설계까지 최적화하는 TSMC 같은 기업들이 대단한 이유입니다.”
#바이오
이미지 생성 모델로 유명한 미드저니가 메디컬 분야 신사업에 진출.
핵심 제품은 전신 초음파 스캐너로, 사용자가 물속으로 내려가면서 센서 링을 통과하고 초음파가 몸을 여러 각도에서 통과한 데이터를 계산해 3D 신체 맵을 만드는 방식이라고 한다. 단 60초 만에 전신 스캔을 가능하게끔 하여 MRI를 대체해보겠다는 목표로 보인다.
조금 뜬금없긴 하지만, 생각해보면 이미지를 처리한다는 관점에서의 사업 확장이니 말이 되는 것 같기도 하고 흥미롭기도 해서 아카이브.
“초음파 CT는 MRI 장비보다 여러 면에서 뛰어난 전신 영상 촬영을 가능하게 해주지만, 검사 시간은 단 60초에 불과합니다.”
“미드저니 메디컬 의 목표는 향후 6년 동안 전 세계에 약 5만 대의 스캐너를 배치하고 , 이 센서들을 활용하여 매달 10 억 건의 전신 스캔을 수행하는 것입니다.”
“저희 첫 번째 매장은 샌프란시스코에 위치하며 2027년 말에 오픈할 예정입니다 . 센터 자체는 저희가 “미드저니 스파”라고 부르는 최고급 헬스 스파입니다. 온수 욕조, 사우나, 냉탕은 물론, 전 세계 모든 MRI 스캐너를 합친 것보다 더 많은 신체 스캔을 연간 수행할 수 있는 10대의 스캐너가 설치 될 예정입니다.”
#핀테크
Introducing Open USD | Open Standard
Open USD: A New Stablecoin Playbook for Global Finance - Insights4vc
Open USD (OUSD)는 사실상 스트라이프가 주도하는 것 처럼 느껴지는 스테이블코인 컨소시움. Visa, Mastercard, American Express, BlackRock, Coinbase, Shopify 등이 참여한다고 발표되었다.
스테이블코인계의 VISA 네트워크를 만들어보려는 시도처럼 느껴지고, 핵심은 인센티브 설계에 있는 것 같다.
“이 설계는 스테이블코인 시장에서 가장 중요하지만 가장 덜 논의되는 특징 중 하나인 준비금 수익을 정면으로 겨냥한다. Circle과 Tether는 모두 자사 토큰을 뒷받침하는 현금 및 단기 국채성 자산에서 상당한 경제적 이익을 얻는다. Circle은 이미 그 경제적 이익의 상당 부분을 Coinbase 및 다른 유통 파트너들과 공유하고 있지만, 이는 양자 간 계약을 통해 이뤄지며 Circle은 “발행자” 몫을 보유한다. Tether는 대체로 이 경제적 이익을 내부에 남긴다. Open USD는 이 모델을 뒤집어, 수익 공유 자체를 제품의 일부로 만들겠다고 제안한다.”
“VISA와 개념적으로 가장 중요한 유사점은 경쟁자들이 공통 인프라 위에서 협력하는 구조다. Visa의 본질은 개별 은행, 카드 발급사, 매입사, 가맹점이 모두 독자적으로 경쟁하지만, 결제 표준·승인·청산·정산 네트워크는 공동으로 쓰는 모델이었다. Open USD도 비슷하게 Visa, Mastercard, Stripe, Coinbase, Shopify, 은행, 핀테크, 거래소, 지갑 사업자들이 서로 경쟁하면서도, 달러 결제·정산을 위한 공통 스테이블코인 레일을 공유하자는 구상이다. 글에서도 Open USD를 “컨소시엄 거버넌스 기반 결제 자산 + 준비금 수익 공유 네트워크”로 보는 것이 맞다고 설명한다.” - GPT
Robinhood Presents: The World is Flat
Robinhood’s Chain and Digital Asset Strategy - Insights4vc
로빈후드의 자체 체인 출시 (이미 작년부터 예고되어 있었던 일이긴 하다).
이미 거대한 소비자 풀을 확보한 플레이어의 RWA 시도인건데, 어떤 파급력을 가져올지 지켜봐야겠다.
“로빈후드 체인은 순수한 크립토 실험도 아니고, 단순한 브로커리지 앱의 확장도 아니다. 그 중간에 새로운 레이어를 만들어내려는 시도다. 즉, 사용자 인터페이스는 직관적으로 느껴지지만, 그 아래의 메커니즘은 깊이 구조화되어 있고, 강하게 통제되며, 관할권별로 달라지는 소비자 대상 금융 스택을 만들려는 것이다. 이는 상업적으로 그럴듯하다. 동시에 본질적으로 취약하다. 로빈후드가 사용자가 실제로 무엇을 소유하는지 과장하지 않으면서도 단순함의 환상을 유지하지 못한다면, 이 전략의 어느 부분도 제대로 작동하지 않는다.”
#비즈니스
최근 마이크론 실적발표를 보면서, 그리고 삼성전자가 분기 영업이익 기준으로 전세계에서 가장 많은 돈을 버는 회사가 되는걸 보면서, 한국에 정말 전례 없는 시기가 찾아왔구나 다시 한번 생각했었다.
최소 3~5년간은 나라에 부가 정말 많이 쌓일 것으로 보이는데, 이 자금을 기업의 성장으로 적절히 배분시키는게 무엇보다 중요한 어젠다임을 상기해본다.
“일본은 대중이 주식투자에 관심이 없다. 30년간 내리꽂는 지독한 디플레 장에서 주식이라는 수단에 대한 흥미를 완전히 잃었기 때문이다. 최근에 젊은 세대를 중심으로 이런 성향이 반전되는 경향은 있으나 어쨌든 일본 증시의 큰 손은 국가다. 일본의 연기금은 일본 국민들의 돈을 받아서 적극적으로 내수 주식을 거래한다.”
“우리나라는 기관 중심의 미국과는 달리, 일반 리테일이 시장에서 가장 큰 비중을 차지한다. 참 슬픈 현실이다. 그런 와중에 국가 성장 펀드 방식은 우리나라에 상당히 부합하는 방식일 수 있겠다는 생각이 든다. 어제 2건의 상장 주식 투자가 있었다.”
“국가 성장 펀드가, 이런 장기적인 관점을 갖고 여러 기업들에 씨를 뿌리다 보면 좋은 결과가 있을 수 있다고 생각한다. 우리나라는 어쩌면 단순히 시장을 활성화해서 일반 대중들을 카지노로 모는 것보다, 일본 + 미국 모델을 짬뽕해서 한국식 하이브리드 모델로 가는 것이 맞겠다.”
“국가 중심의 관치로, 민간 엘리트 운용인들에게 자금 집행을 맡겨서, 장기 시각으로 부를 재분해 하는 것이다. 국민연금도 어떻게 보면 이런 형태지만, 연금이 일종의 하방을 막아주는 방패라면, 국민 성장 펀드는 노후 생애 곡선 가치를 극대화하는 창 역할을 할 수도 있겠다. 한국의 fit에 맞는 제도라는 생각이 든다. 오히려 이쪽을 잘 육성하는 게 낫지 않을까?”
“어쨌든 이런 거대담론을 떠나서도 해당 펀드가 투자하는 기업들은 눈여겨볼 가치가 있다 생각한다. 특히 단기적인 시각으로 볼 때 바이오 산업은 다음 스테이지로 도약할 수 있는가, 없는가의 변곡점에 서 있는 것 같다.”
대한민국 대도약 3대 메가프로젝트 국민보고회 - 산업통상부
그런 차원에서 정말 중요한 정부의 ‘메가프로젝트’.
반도체와 더불어 피지컬AI와 데이터센터를 핵심 투자처로 선정한 것이 인상적이다.
서남권 800조원 등 전례없는 투자로 대체불가 K-반도체 강국 실현
투자 골든 타임 AI 로봇 글로벌 3강, 피지컬AI 글로벌 1강 도약
550조원 투자를 기반으로 AI 데이터센터 설루션 산업 수출 동력화
AI 경쟁력의 핵심, 안정적 전력·용수 공급과 전기국가 전환
지방투자가 빨라지고 기업·인재가 모이는 기업형첨단도시 조성
#마지막으로
내가 추천사를 작성한 책이 출간되었다.
저자분이 환율 이코노미스트이셔서 환율 전문 책인줄 알았으나, 사실은 현재 일어나고 있는 세상의 많은 일들이 환율에 어떻게 영향을 미치는지를 조망한 책이어서 재밌는 경제 블로그를 읽는 느낌이었다. 그래서 그런지 책이 스르륵 읽혔다.
아래는 나의 추천사:
“투자의 고수들을 만나보면 몇 가지 공통점이 보입니다. 세상의 여러 변수를 따로 보지 않고 서로 연결해 입체적으로 사고하며, 역사를 통해 반복되는 패턴을 읽고, 그 안에서 남들이 미처 보지 못한 흐름을 먼저 포착한다는 점입니다.”
“이 책은 환율 전문가의 시선으로 역사, 심리, 지정학 등 여러 변수를 종합해 환율은 물론 그 너머의 경제 질서까지 조망합니다. 책을 읽는 동안 단순히 환율을 배우는 것을 넘어, 복잡한 세계를 읽어내는 석현님만의 입체적인 사고 흐름을 따라가고 있다는 인상을 받았습니다.”
“무엇보다 이 책은 세상의 흐름을 읽기 위해 어떤 질문을 던져야 하는지 보여줍니다. 그 질문들은 단지 정답을 맞히기 위한 것이 아니라, 변화하는 질서 속에서 세상을 더 깊이 통찰하도록 이끕니다. 그런 점에서 제게 이 책은 변화무쌍한 시대 속에서 방향을 잡게 해주는 지침서처럼 다가왔습니다.”
Good insight for me, appreciate it, sir.