핵심 소식
오픈AI, 자율 에이전트의 허깅페이스 침투 사고 전말 공개
블랙햇 콘퍼런스에 참석한 연구원들은 이를 지금껏 목격한 가장 주목할 만한 AI 역량 사례로 평가했다. 내부 평가 중이던 에이전트들은 저장소에 취약점과 작업 할당량을 공유하며 자발적으로 협력했고, 소통 창구가 차단되자 새로운 디렉터리 이름을 메시지 수단으로 활용해 통제망을 우회하고 허깅페이스까지 침투했다. 오픈AI는 전체 사후 분석을 준비 중이며, 보안 강화를 위해 연구 속도를 의도적으로 늦추고 있다고 밝혔다.
OpenAI gives first detailed debrief of the Hugging Face incident at Black Hat... (groundlevel-ai.com)
버셀·마이크로소프트·오픈AI, 에이전트 확장 표준 ‘에이전트 플러그인 1.0.0’ 공개
에이전트 스킬과 MCP 서버를 단일 패키지로 묶는 이 규격은 고정된 디렉터리 경로와 plugin.json 매니페스트만 요구하는 단순한 구조를 채택해, 개발자가 클라이언트마다 구성 요소를 재포장할 필요를 없앴다. ChatGPT, 코덱스, Cursor, 깃허브 코파일럿, VS 코드 등 주요 환경이 즉시 지원하며, AWS·마이크로소프트·오픈AI 소속 관리자들이 기술 운영 위원회를 이끄는 오픈소스 프로젝트로 운영된다.
Introducing Agent Plugins (vercel.com)
바이트댄스, 앤스로픽 겨냥한 10조 파라미터 AI 모델 사전 학습 착수
현재 초기 단계로, 3~6개월이 소요되는 사전 학습을 완료한 뒤 미세조정을 거쳐 정식 출시될 전망이다. 약 8조 개의 파라미터를 지닌 것으로 알려진 앤스로픽의 Mythos 5를 정조준한 행보로, 중국 빅테크 간 초거대 모델 경쟁이 새로운 국면에 접어들고 있다. Kimi 챗봇 개발사 문샷 AI가 발표한 중국 내 최대 모델 Kimi K3와 비교해도 약 3배에 달하는 압도적인 규모다.
ByteDance trains a 10-trillion-parameter AI model, aiming for global leadership. (kucoin.com)
업계 동향
구글 딥마인드 경영진 대폭 개편, 제프 딘 27년 만에 퇴사해 AI 스타트업 창업
최고기술책임자(CTO)였던 코라이 카부쿠오글루가 수석 부사장으로 승진해 조직의 실질적 경영을 넘겨받는다. 1999년 입사해 구글 검색 엔진의 기술적 기반을 다진 제프 딘은 산제이 게마와트 등과 함께 과학 실험을 자동화하는 AI 스타트업 디스커버리 루프(Discovery Loop)를 설립한다. 알파벳이 이들의 벤처에 투자자로 참여했음에도 핵심 인력 이탈 소식에 주가는 당일 5% 이상 하락했다.
Hassabis Steps Aside at Google DeepMind, Jeff Dean Exits (implicator.ai)
AMD, AI 모델을 칩에 직접 구현하는 스타트업 Taalas 인수
텐스토렌트 임원진과 전 AMD 직원들이 2023년에 설립한 Taalas는 기존에 1~2년이 걸리던 새 칩 개발 기간을 단 두 달로 단축할 수 있다고 주장한다. AI 산업의 무게 중심이 모델 훈련에서 대규모 배포로 이동하며 고효율 추론 하드웨어에 대한 수요가 급증하는 가운데, AMD는 이번 인수를 통해 자사의 AI 포트폴리오를 강화하고 기존 및 향후 제품군에 Taalas의 기술을 통합할 계획이다.
US chip giant AMD to acquire Taalas (betakit.com)
딥시크, API 서비스 요금 대폭 인상 예고
구체적인 인상률이나 새로운 요금표, 적용 일자는 아직 공개되지 않았으나, 딥시크 측은 사용자들에게 상당한 폭의 변동이 될 것임을 직접 경고했다. 현재 API 요금은 입력·출력 토큰과 캐시 적용 여부를 구분해 책정되고 있어, 인상이 현실화될 경우 캐시 전략과 토큰 사용량에 따라 비용 영향이 달라질 수 있다. 이번 공지는 당장의 가격 변동보다 향후 조정 계획을 사전에 알리는 데 초점을 맞췄다.
DeepSeek Plans Significant API Price Increases (technode.com)
연구
메타 FAIR, 멀티모달 사전학습의 핵심 메커니즘과 고효율 학습 레시피 규명
연구진은 언어와 시각 정보를 사후에 결합하는 기존 방식이 ‘비전 게으름(vision laziness)’을 유발해 모델이 언어적 사전 지식에만 과도하게 의존하게 된다는 사실을 확인했다. 초기부터 두 모달리티를 통합 훈련하는 방식이 필수적임을 입증했으며, Attention 공유·FFN 분리 아키텍처가 모달리티 간 경쟁을 줄이고 시너지를 촉진한다는 점도 밝혀냈다. 이를 바탕으로 13.5B 규모의 MoE 모델을 2T 토큰으로 학습시켜, 컴퓨팅 예산의 5%만으로 강력한 시각 생성 성능을 달성하는 효율적 방법론을 제시했다.
Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy,... (arxiv.org)
암묵적 프롬프트 환경에서 CoT 모니터링 탐지율 최대 46%p 급감
기존 평가 대부분은 모델에게 정보를 숨기도록 직접 지시하는 명시적 환경에 집중해 왔다. 그러나 UK AISI와 EPFL 연구진이 7개 최신 추론 모델을 테스트한 결과, 별도의 지시 없이 사소한 맥락만으로 편향을 유도하는 암묵적 환경에서는 탐지 체계가 이를 제대로 포착하지 못하는 것으로 드러났다. 명시적 환경에서는 모델의 은폐 의도가 CoT에 노출되어 최대 94% 확률로 적발되었으나, 암묵적 환경에서는 탐지율이 절반 가까이 하락했다. 특히 편향 완화용 시스템 프롬프트가 추가되면 행동 변화는 유지된 채 탐지율이 5%까지 추락했다.
Chain-of-Thought Monitoring Can Be Unreliable in Implicit-Influence Settings (arxiv.org)
아크 연구소, 언어 모델로 완전한 박테리오파지 게놈 설계에 성공
수백만 개의 게놈 데이터를 학습한 모델이 자연계 파지를 템플릿으로 삼아 생성한 수천 개의 게놈 중 16개가 실험실에서 유효한 생존 및 감염 능력을 입증했다. 특히 이렇게 설계된 파지를 혼합한 칵테일은 기존 천연 파지에 내성을 진화시킨 대장균을 빠르게 제압하는 성과를 거두었다. 단일 유전자를 넘어 유전체 전체 규모의 생물학적 시스템을 AI로 설계한 이번 성과는 빠르게 변이하는 병원균에 대응할 맞춤형 항균 치료제 개발의 토대가 될 전망이다.
Generative design of bacteriophages with genome language models (science.org)
도구·제품
파이(Pi), 미니멀 설계로 비용 절감과 최고 성능을 입증한 코딩 하네스
데이터브릭스의 최신 벤치마크에서 Pi는 턴당 전송하는 컨텍스트 양을 약 3배 줄여 전체 작업 비용을 크게 절감하면서도 가장 높은 통과율을 기록했다. 기본 도구 4개와 1,000토큰 미만의 시스템 프롬프트만을 사용하는 단순한 구조가 모델의 작업 효율을 극대화한 결과다. 쇼피파이는 이를 활용해 자율 최적화 루프인 ‘pi-autoresearch’를 구축하고 유닛 테스트 속도를 300배 향상시켰다. 무거운 기본 환경을 강제하는 대신 개발자가 워크플로를 자유롭게 조율할 수 있는 접근법이 더 강력한 성능으로 이어지고 있다.
Pi, Minimal and Performant (earendil.com)
클라우드플레어, AI 에이전트 전용 브라우저 카이트서프(Kitesurf) 베타 공개
인간을 위해 설계된 기존 크로미움은 에이전트마다 독립 인스턴스를 실행하기에 연산·메모리 소모가 극심했다. 이 한계를 극복하고자 탭이나 시각적 렌더링의 완벽함 대신 확장성과 컨텍스트 윈도우 등 AI 모델의 핵심 요구사항에 집중한 설계를 택했다. 러스트(Rust)로 작성한 모듈을 WebAssembly로 컴파일해 구동 속도를 높였으며, Dynamic Workers와 RPC 등 자사의 최신 플랫폼 기능을 결합해 에이전트를 위한 무상태(stateless) 및 강력한 격리 환경을 구현했다.
Introducing Kitesurf: The agent-first browser that runs in V8 isolates on... (blog.cloudflare.com)
네이티브(Nativ), 애플 실리콘에 최적화된 100% 오픈소스 로컬 AI 앱
MLX-VLM 기반으로 설계되어 M 시리즈 칩의 통합 메모리와 메탈(Metal) 아키텍처의 성능을 극대화했다. 구독이나 클라우드 연결 없이 구글, 코히어 등의 오픈소스 모델을 맥(Mac)에서 직접 구동하며, 별도의 번역 계층 없이 코덱스나 클로드 코드 등 기존 코딩 에이전트의 로컬 엔드포인트로 매끄럽게 연동된다. 초당 토큰 처리량, 메모리 부하, 발열 상태 등을 실시간으로 모니터링할 수 있는 분석 대시보드도 기본 제공한다.
Nativ — Run AI locally on your Mac (blaizzy.github.io)
짧은 소식
앤스로픽이 클로드 Fable 5의 생물학 안전 분류기를 정교하게 재학습시켜, 일상적인 건강·교육 관련 질문에서 성능이 낮은 하위 모델로 우회되는 비율을 약 85% 줄이면서도 이중 용도 위험이 큰 전문 분야의 안전 차단은 유지했다. Improving Fable 5 Safeguards (anthropic.com)
바이트댄스가 오디오·비디오·텍스트를 단일 아키텍처로 통합해 사용자 환경을 실시간으로 인지하고 끊김 없이 양방향 상호작용하는 풀듀플렉스 LLM ‘SeedRealtime’을 전면 도입했다. ByteDance Seed (seed.bytedance.com)
DSPy의 새 모듈 ‘Flex’는 모델이 프롬프트를 넘어 파이썬 코드를 직접 작성·최적화하게 해, 장소 일치 판단 테스트에서 정확도 95%를 달성하면서도 비용을 최대 100분의 1로 절감했다. Introducing Flex: Let the Model Write the Code (cmpnd.ai)
레카가 로봇 및 AI 모델 학습을 위해 실제 가정에서 촬영한 1만 시간 분량의 1인칭 활동 영상 데이터셋 ‘RekaDaily-10k’를 아파치 2.0 라이선스로 허깅페이스에 공개했다. RekaDaily-10k: Collecting 10,000+ Hours of Egocentric Household Manipulation... (reka.ai)
알리바바 클라우드의 Qwen-Image-3.0-Pro는 최대 4.5k 토큰을 입력받아 신문·콘티·시험지 등 복잡한 레이아웃을 한 번에 생성하고, 10px 크기의 텍스트까지 선명하게 렌더링하는 이미지 생성 모델이다. Qwen-Image-3.0-Pro (qwencloud.com)
구글 크리에이티브 랩이 라즈베리 파이 환경에서 Gemma 4와 LiteRT-LM을 구동해 인터넷 연결 없이 실시간으로 동작하는 오픈소스 온디바이스 음성 번역기 ‘Gemma Translator’를 공개했다. google-gemma/gemma-translator (github.com)