Google은 Gemini가 레드팀 테스트 중 실수로 실제 기업 3곳의 시스템에 로그인했다고 확인했다. 원인을 분석해보니 동명 기업으로 인한 우연한 패스워드 일치, 공개 저장소의 유출된 자격 증명, 그리고 샌드박스 버그였으며 모델의 지능 폭주가 아니었다. 이 글은 에이전트 권한 관리 관점에서 최소 권한과 자격 증명 격리에 대한 실전 경험을 공유하고, AI 업계 레드팀 테스트의 독립성을 둘러싼 거버넌스 논쟁도 다룬다.

구글 연구팀이 Dream-RSI를 발표했다. AI 에이전트가 작업을 마친 후 머릿속으로 과거의 성공과 실패를 ‘복기’해 더 나은 전략을 추론해내고, 이를 다음 라운드에 바로 적용한다. 작업을 다시 실행할 필요 없이 지속적으로 발전할 수 있다는 것이다. 실측 결과, Gemini 3.1 Pro는 알고리즘 작업에서 호출 횟수가 550회에서 317회로 줄었는데도 결과는 오히려 더 빨랐다. 저자는 실제로 6개의 AI 에이전트 팀을 이끈 경험을 바탕으로, 진정한 돌파구는 대개 모델의 업그레이드가 아니라 방법의 복리 효과에서 나온다고 설명한다.

Circle의 Arc 메인넷이 2026년 9월 16일 정식 출시됐다. USDC를 가스비로 쓰는 최초의 레이어1 블록체인이며, x402 프로토콜을 통합해 AI 에이전트 간 직접 마이크로 결제를 가능하게 한다. 저자는 Circle 공식 해커톤에 참여했고, Arc 테스트넷에서 실제로 에이전트 커머스 플랫폼 agentictrade를 개발한 빌더의 시각으로 USDC 가스비, 11개 기관 검증자, 506밀리초 즉시 최종성이라는 세 가지가 에이전트 커머스 실현에 어떤 의미를 갖는지 분석하고, 인프라의 성숙이 비즈니스 모델의 성숙을 뜻하지는 않는다는 점을 짚는다.

Anthropic이 8월 31일부터 Claude Fable 5.1의 암호화 사고 체인에 ‘컨텍스트 바인딩’을 적용했다. 사고 블록은 원본 프롬프트·툴·대화 내용과 함께 그대로 다시 전송되어야 하며, 조금이라도 바뀌면 무효 처리된다. 이는 논문으로 검증된 도난 경로—작은 모델을 ‘복호화 인질’로 삼아 큰 모델의 추론을 훔쳐 읽는 방식—를 막기 위한 조치다. 그러나 개발자에게 실제로 타격을 주는 지점은 슬라이딩 윈도우, 히스토리 압축, 동적 프롬프트와의 태생적 충돌이다. 사고 블록을 보존할지 버릴지에 대한 의사결정표를 첨부했다.

AI가 써준 제안서, 고객 답장이 항상 통조림 같은 느낌이 나는 건 대부분 프롬프트가 짧아서가 아니라 ‘나만의 비즈니스 컨텍스트’가 빠져있기 때문이다. 이 글에서는 비즈니스 컨텍스트 뼈대를 만드는 법을 공유한다: 회사 한 줄 포지셔닝, 타깃 고객, 어조 세 단어, 절대 쓰지 않는 표현—한 번만 잘 써두고 매번 붙여넣기만 하면 AI가 통조림에서 우리 집 말투로 바뀐다. 복사해서 쓸 수 있는 빈 템플릿과 바로 쓸 수 있는 세 가지 시나리오를 첨부한다.

Almanak가 Agentic DeFi 플랫폼을 출시했다. 한 마디 말이면 AI 에이전트 무리가 감사 가능하고 백테스트 가능하며 온체인에 배포 가능한 퀀트 전략을 만들어낸다. 하지만 저자는 직접 에이전트 트레이딩 시스템을 실전 운영해본 경험을 바탕으로, 권한 보안이 곧 전략 보안은 아니며 백테스트가 아름답다고 실제 돈을 벌어준다는 보장도 없다고 지적한다. 진짜 위험은 과적합과 멀티 에이전트 협업의 숨은 비용에 숨어 있다.

한국의 ‘AI for All’ 계획은 5,200만 국민에게 생성형 AI를 무료로 무제한 제공하지만, 진짜 핵심은 각 사업자가 쿼리의 최소 80%를 한국 국산 모델로 처리해야 한다는 규정에 숨어 있다. 이는 ‘수요 측’에서 주권 AI 산업을 키우는 보기 드문 정책 설계이며, 그 뒤에는 SLM 지능형 라우팅으로 연산 자원을 분산시켜 무료 서비스를 떠받치는 구조가 있다.

인스팅트는 《Reflexion》 논문 저자 노아 신(Noah Shinn)이 만든 개인 AI 비서로, 문자와 전화만으로 사용자의 항공권 예약, 쇼핑, 구독 해지를 대신 처리해준다. 아직 무료 초대제 베타 단계이고 매출도 공개하지 않았지만, 몇 주 만에 기업가치가 5억 달러에서 25억 달러로 뛰었고 Benchmark와 Index Ventures가 주도 투자했다. 이 글은 폭발적 흥행 뒤에 숨은 기술적 해자, 밸류에이션 거품 리스크, 그리고 AI에게 일을 맡길 때 반드시 그어야 할 권한의 경계선을 분석한다.

한국 스타트업 오너브(Onerve)가 AI로 한약 한 첩 짓는 시간을 300분에서 5분으로 단축했다. CES 혁신상을 받고 62억 원을 투자받았다. 하지만 내가 이 소식에서 주목한 건 ‘빠르다’가 아니다—많은 사람이 AI를 쓸 때 잘못 이해하는 지점을 정확히 짚어냈다는 것이다.

Cloudflare가 8월 4일 Cloudflare Wallets를 발표했다. AI 에이전트에게 신원 하나, 지갑 하나, 그리고 가장 핵심적인—지출 한도를 부여하는 것이다. 이는 한 회사의 신제품이 아니라, Coinbase x402, Google AP2, Mastercard Agent Pay, Circle Steve에 이어 업계 전체가 앞다퉈 쌓아 올리고 있는 ‘AI 지갑 레이어’의 또 하나의 퍼즐 조각이다. agentictrade를 만들어온 현장에서 보면, 이번 흐름이 던지는 진짜 신호는 단 하나다. AI가 돈을 쓰게 하는 것에서 진짜 위험한 건 ‘돈을 쓴다’는 사실 자체가 아니라, 그 경계선을 인프라 안에 제대로 그어놓았는가다.