AI 생태계의 보안 시험대
코드 유출, 기밀 소송, 기술 도용
핵심 소식
Grok Build CLI, 사용자의 전체 코드를 무단 전송하다
독립 보안 연구자의 네트워크 트래픽 분석에서 드러난 사실이다. xAI의 터미널 코딩 에이전트는 모델이 참조하지 않은 파일은 물론 깃 히스토리와 .env 인증 정보까지 구글 클라우드 스토리지로 업로드한다. 이 백그라운드 전송 메커니즘은 기본 활성화 상태이며, 사용자가 모델 학습 개선 옵션을 비활성화해도 데이터 전송은 중단되지 않는다.
What xAI Grok Build CLI actually sends to xAI - a wire-level analysis (grok... (gist.github.com)
25GB 램 PC에서 744B 모델을 돌리는 추론 엔진 콜리브리
2400줄의 단일 C 파일, 외부 의존성 제로. 전체 모델 중 약 17B 크기의 밀집 영역만 램에 올리고 370GB에 달하는 전문가 가중치는 디스크에서 스트리밍하는 방식으로 메모리 장벽을 우회한다. 네이티브 추측 해독과 MLA 기반 압축 KV 캐시로 디스크 I/O 지연을 줄였으며, AVX2 양자화 커널을 내장해 일반 소비자용 하드웨어에서 GLM-5.2 MoE 모델 구동을 가능하게 했다.
JustVugg/colibri: Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine — pure... (github.com)
오픈AI, 데스크톱 업무 에이전트 ‘ChatGPT Work’ 출시
macOS 데스크톱 앱에서 로컬 파일, 브라우저, 앱에 직접 접근해 주간 보고서 작성, 데이터 분석, 이메일 초안 생성 등 실질적인 결과물을 만들어낸다. 목표를 부여하면 스스로 필요한 맥락을 수집해 계획을 세우되, 자동화 실행 전에는 반드시 사용자 승인을 요청해 통제권을 보장한다. 현재 모든 요금제에서 지원되며 수일 내 윈도우와 웹, 모바일로 확대될 예정이다.
ChatGPT Work (chatgpt.com)
업계 동향
애플, 하드웨어 기밀 탈취 혐의로 오픈AI 제소
24년간 애플에 몸담았던 전직 하드웨어 책임자 탕 탄이 오픈AI 면접에서 지원자들에게 실제 기기 부품 지참을 지시한 정황이 소장에 담겼다. 전직 아이폰 엔지니어가 시스템 인증 버그를 악용해 기밀 파일에 무단 접근한 사건도 함께 적시되었다. 조니 아이브가 이끄는 오픈AI의 첫 하드웨어 공개가 2027년으로 예정된 만큼, 이번 소송은 양사의 경쟁 구도에 중대한 변수로 작용할 전망이다.
Apple takes OpenAI to court - Rundown AI (rundown.ai)
IPO 앞둔 오픈AI, 브록먼 체제로 핵심 권한 집중
6월 IPO 투자설명서를 비밀 제출한 오픈AI는 8520억 달러의 기업 가치를 증명해야 하는 과제를 안고 있다. 피지 시모 총괄의 사임으로 공동 창업자 그렉 브록먼 사장이 ChatGPT 사업과 엔터프라이즈 팀, 컴퓨팅 이니셔티브를 직접 관리하게 되었다. 경쟁사의 약진으로 지난 3월 처음 점유율 50% 선이 무너진 가운데, 상장 전 시장 지배력 회복을 위한 조직 정비로 풀이된다.
OpenAI power consolidates under co-founder Greg Brockman ahead of IPO (cnbc.com)
중국 기업의 AI 모델 무단 학습, 기술 격차를 좁히다
앤스로픽은 알리바바 직원들이 약 2만 5000개의 가짜 계정으로 클로드에서 2880만 건의 결과물을 생성해 자사 모델 학습에 무단 사용했다고 미 의회에 고발했다. 타사 모델의 출력으로 자체 모델을 훈련하는 증류 기법은 엔비디아 칩 수출 통제를 우회하는 핵심 전략으로 꼽힌다. 관계자들은 이 방식이 양국의 기술 격차를 18개월 이상에서 6~9개월 수준으로 단축시켰다고 경고한다.
How China is ripping off cutting-edge AI from Anthropic, OpenAI — and... (nypost.com)
연구
뇌의 해마에서 영감받은 하이브리드 메모리 아키텍처 HOLA
340M 매개변수 규모에서 Wikitext 평가 Perplexity를 16.1% 낮추며 풀 어텐션 트랜스포머 성능을 넘어섰다. 일반 패턴을 압축 저장하는 순환 상태에 예측 오차가 큰 정보를 별도 보존하는 KV 캐시를 결합한 결과다. 32k 토큰에 이르는 방대한 문맥에서도 정보 유실 없이 Needle-in-a-haystack 검색 정확도를 견고하게 유지한다.
A Hippocampus for Linear Attention An Exact Memory for What the Recurrent State... (arxiv.org)
메타, 에이전트의 기억 손실을 막는 선제적 메모리 모듈
기존 액션 에이전트를 수정하지 않고도 터미널 벤치 등 복잡한 환경에서 최대 8.3%p 높은 성공률을 달성했다. 이 모듈은 단순한 정보 검색을 넘어 최근 궤적을 바탕으로 실행 맥락에 알림을 주입할지 스스로 판단한다. 연구진은 Qwen3.5-27B를 미세조정해 이러한 능동적 개입 정책을 오픈웨이트 모델에 학습시킬 수 있음도 입증했다.
Remember When It Matters: Proactive Memory Agent for Long-Horizon Agents (arxiv.org)
로짓 분포로 에이전트를 정밀 평가하는 범용 검증 프레임워크
SWE-Bench Verified 78.2% 등 주요 벤치마크에서 최고 수준의 정확도를 달성했다. 기존 LLM 평가자가 단일 토큰으로 점수를 산출해 우열을 가리기 어려웠던 한계를 극복하기 위해, 채점 토큰의 로짓 기댓값을 연속적인 점수로 변환하는 방식을 사용한다. 추가 학습 없이도 점수 세분화와 반복 평가, 기준 분해를 적용해 정밀한 검증이 가능하다.
LLM-as-a-Verifier: A General-Purpose Verification Framework (arxiv.org)
도구·제품
구글 맨티스, AI 코딩 에이전트의 보안 검토를 자동화하다
15개 구성 요소로 이루어진 파이프라인이 위협 모델링부터 오탐지 필터링, PoC 익스플로잇 작성 및 샌드박스 테스트까지 각 단계를 자동화한다. 코드베이스 전반을 체계적으로 분석해 취약점을 탐지·재현·패치하며, 프로덕션 접근이 차단된 격리 환경에서만 실행하고 모든 결과는 보안 전문가가 직접 검증할 것을 권고한다.
google/mantis: A modular, stack-agnostic toolkit of security review skills for... (github.com)
깃허브 스펙 키트, 요구사항을 실행 가능한 코드로 변환하다
30개 이상의 AI 코딩 에이전트와 호환되며 자연어 요구사항을 바탕으로 실행 가능한 작업 목록과 최종 코드를 생성한다. 익스텐션과 프리셋 기능을 제공해 조직의 개발 방법론이나 프로젝트 기준에 맞춰 프로세스를 유연하게 확장할 수 있다.
github/spec-kit: 💫 Toolkit to help you get started with Spec-Driven Development (github.com)
미스트랄의 로보스트랄, 카메라 하나로 로봇을 자율 주행시키다
미지의 환경을 평가하는 R2R-CE 벤치마크에서 76.6% 성공률을 기록했다. 목표 지점의 이미지 좌표를 예측하는 포인팅 방식과 온라인 강화학습을 결합해 바퀴형, 보행형, 비행형 등 다양한 로봇에 범용 적용할 수 있다. 100% 시뮬레이션 데이터로 훈련하면서도 프리픽스 캐싱으로 학습 토큰을 22배 절감했다.
Robostral Navigate: single-camera AI navigation (mistral.ai)
짧은 소식
레디스 창시자 앤티레즈는 개발자가 AI 생성 코드를 검토하기보다 설계와 아키텍처에 집중해야 한다는 에세이를 공개했다.
Control the ideas, not the code (antirez.com)
클로드 코드 데스크톱 앱에 샌드박스 기반 인앱 브라우저가 추가되어 공식 문서와 로컬 개발 서버를 직접 탐색할 수 있다.
Thread by @ClaudeDevs on Thread Reader App (threadreaderapp.com)
팬그램 랩스가 100만 건 이상의 게시물을 분석한 결과, 링크드인 장문 게시물의 40% 이상이 AI로 작성된 것으로 나타났다.
AI Content Is Everywhere on Social Media, Especially LinkedIn (pangram.com)
구글이 젬마 모델 기반으로 오프라인에서도 음성을 텍스트로 변환하는 로컬 트랜스크립션 앱 엘로퀀트(Eloquent)를 공개했다.
Google AI Edge Eloquent | Google for Developers (developers.google.com)
초지능 개발 경쟁의 위험을 경고하며 2040년까지 글로벌 협약으로 AI 연구를 투명하게 공유하자는 ‘AI 2040: Plan A’ 제안서가 공개되었다.
AI 2040: Plan A (ai-2040.com)
코딩 에이전트에 정확한 프롬프트를 쓸 수 있도록 62개 UI 요소의 표준 명칭을 정리한 시각 사전 NameThatUI가 등장했다.
the visual dictionary of UI (namethatui.com)
케임브리지 연구팀이 전직 보코하람 조직원 27명을 인터뷰한 결과, 챗GPT·클로드·제미나이 등 프론티어 AI를 공격 계획에 조직적으로 활용해 온 실태가 밝혀졌다.
“God has helped us, and so will AI”: How the Terrorist Group Boko Haram Uses... (casp.ac)