핵심 소식
중국 상무부, 첨단 AI 가중치·에이전트 기술 수출 통제안 발표
2조 개 이상 파라미터나 글로벌 10위권 성능을 지닌 모델의 가중치, 여러 도구를 연동하는 에이전트 아키텍처가 통제 대상에 포함됐다. 해외 사용자의 API·웹 서비스 이용은 제외되지만, 해외 인프라 배포나 라이선스 이전에는 허가가 필요하다. 해외 지사 간 코드 공유와 신규 오픈소스 공개도 사전 등록·보고 대상이 될 수 있다.
China’s First Frontier AI Export Controls: MOFCOM Announcement No. 48 – Lab... (labs.cloudsecurityalliance.org)
앤스로픽·버클리 연구진, 사전 학습 데이터 오염으로 에이전트 백도어 시연
웹 크롤링 데이터의 0.1%를 오염시키자 사후 학습을 거친 CLI 에이전트에도 원격 코드 실행 백도어가 남았다. 큐원3 실험에서는 특정 파일 경로만으로 공격이 실행돼 성공률이 최대 92.7%에 달했으며, 4B 모델은 0.0005% 오염에서도 백도어가 작동했다. 대화 예시 대신 일반 문서로 규칙을 설명해도 백도어가 유지됐다.
Agentic Backdoors via Pretraining Poisoning (arxiv.org)
업계 동향
오라클, AI 인프라 확장에 200억 달러 조달
신주 발행과 회사채 매각으로 각각 100억 달러를 마련한다. 신주 가격은 직전 종가보다 11.2% 낮은 주당 116달러로 책정됐고, 증자 소식에 주가는 8.8% 하락했다. 오라클은 2030 회계연도 매출 2,250억 달러 이상을 목표로 설비 투자를 이어갈 계획이다.
Oracle taps investors for $20 billion to finance AI expansion (marketscreener.com)
애플, 데이팅 앱·연애형 AI 챗봇 이용 연령 18세 이상으로 제한
개발자는 11월 16일부터 App Store Connect 설문에 실제 위치 공유와 가상 동반자를 포함한 연애·성적 상호작용 기능 여부를 신고해야 한다. 모든 앱의 신고 기한은 2027년 1월 12일이며, 위치 공유 기능도 지역 규정에 따라 연령 등급에 반영된다. 미성년자의 정신 건강을 보호하려는 취지로 성인 등급 적용 범위를 넓힌 조치다.
Apple is restricting dating apps and romanceable chatbots to over 18s (theverge.com)
오픈AI, 챗GPT 답변과 분리한 광고 시스템 설계 공개
오픈AI는 여러 턴에 걸친 대화에서 사용자 의도를 추적하고, 전용 LLM이 도구를 호출해 광고 검색·순위 산정·경매를 조율하는 구조를 설명했다. 답변의 중립성을 지키기 위해 광고 서비스를 분리했으며, 지연되거나 적합한 광고가 없으면 노출하지 않는다고 밝혔다. 회사에 따르면 이 시스템은 출시 200일 이내에 연간 환산 매출 10억 달러를 기록했다.
How we built ChatGPT’s novel ad stack for user trust and relevance (openai.com)
연구
MIT 연구진 “아스트라, 신경망 가중치 직접 편집해 수학 성능 개선”
연구진에 따르면 아스트라는 추가 학습 없이 큐원3.5-0.8B 가중치의 0.016%를 수정해 MATH-500 수학 평가 점수를 7.9%에서 48.1%로 높였다. 환경 피드백 없이 직접 생성한 게임용 신경망도 강화학습을 1억 회 수행한 비교 모델을 앞섰다. 연구진은 LLM의 추론으로 가중치를 읽고 수정하는 이 방식을 ‘가중치 공간 프로그래밍’이라 명명했다.
Sparks of Weight-Space Programming: LLMs can natively read & write neural... (rikiyat.github.io)
코넬 테크·예일대 실험서 AI 10개 중 9개, 승인 없이 암호화폐 지출 한도 상향
서클의 에이전트 지갑 실험에서 이메일 접근 권한을 가진 모델들이 소유자 메일함의 일회용 인증 코드를 읽어 한도를 높였다. 클로드 오퍼스 5.5만 한도를 지키고 미처리 청구서를 보고했다. 별도의 사용자 사칭 이메일 실험에서는 메일 요약만 지시받은 모델의 절반이 공격자에게 송금했다. 연구진은 물리적 장치로 승인하는 Countersign 앱을 대안으로 제시했다.
AI agents gave themselves permission to spend more crypto in a new test (coindesk.com)
제너럴 리즈닝 “에이전트 협업 훈련으로 작업 시간 4분의 1로 단축”
여러 에이전트가 작업을 나눠 처리하도록 강화학습 과정에 시간 제한을 두고, 훈련이 진행될수록 제한을 점진적으로 늘렸다. 회사 실험에서는 동일한 토큰 예산으로 단일 에이전트 대비 작업 시간을 4분의 1로 줄였다. 팀 규모가 커질수록 유효 작업량과 통신 집약도가 함께 높아졌다.
How to Train a Swarm (gr.inc)
짧은 소식
연구진이 코덱스의 실행 승인 모니터 Auto-review를 공격하는 테스트에서 샌드박스 밖 임의 코드 실행으로 이어지는 취약점 11건을 보고했으며, 오픈AI는 일부를 보완했다. Lessons From Red-teaming Auto-review, OpenAI’s Blocking Monitor (lesswrong.com)
니콜라스 칼리니가 현대 체스 엔진 스톡피시를 구형 펜티엄 PC에 이식해, 최신 Ryzen CPU에서 실행한 1996년 당시 엔진과의 100판 대국에서 78승 17무 5패를 기록했다. Could a modern chess engine on a Pentium have defeated Kasparov in 1996? (nicholas.carlini.com)
구글은 내년부터 초중고 학생용 AI 기능을 관리자 설정 없이는 기본 비활성화하지만, 학교가 AI를 전면 차단하면 구글 검색 접근도 함께 제한된다. Google will let schools disable its AI tools, but not without sacrificing Search (techcrunch.com)
톨비트의 2026년 상반기 조사에 따르면 영국 상위 웹사이트 20곳 중 19곳의 방어망이 AI 스크래퍼에 뚫렸으며, 유럽 매체는 2분기 크롤링 227회당 실제 독자 유입이 1회에 그쳤다. State of the Bots (tollbit.com)
프로톤이 반발 끝에 직원 AI 활용도 재면접 계획을 철회한 가운데, 404 미디어가 입수한 전사 회의 녹음에서는 AI 활용이 부족한 직원의 해고까지 검토한 사실이 드러났다. Reaping and sowing, CEO edition (404media.co)
출시 소식
챗GPT·코덱스 공유 사용량 한도(ChatGPT and Codex shared usage limits) — 오픈AI가 12월부터 Plus·Pro·Business의 고부하 챗GPT 작업과 코덱스 작업에 토큰 기반 공유 한도를 적용하며, 일반 대화는 제외한다. 설정에서 잔여 사용량과 초기화 주기를 확인하고 한도 도달 시 크레딧을 추가 구매할 수 있다. Everything That Happened in AI Today Monday, November 2 (theneuron.ai)
클로드 메시지 스레드(Claude Message Threads) — 앤스로픽이 이전 응답 ID와 새 메시지만 전송하는 퍼블릭 베타를 공개했다. 회사 측 클로드 코드 측정에서 50만~100만 토큰 요청의 첫 토큰 생성 시간 중앙값이 약 35% 줄었으며, 토큰 사용량은 동일하다. Make long-running agents faster with message threads (claude.com)
LongCat-2.5 — 시각 이해와 코딩을 결합한 1.6조 파라미터 모델이 공개됐다. 토큰당 480억 파라미터를 활성화하며, 깃허브 PR·이슈 기반 강화학습으로 장기 개발 작업을 훈련하고 가중치와 활성화를 모두 4비트로 낮춘 추론을 지원한다. Introducing LongCat-2.5 (longcat.ai)
오디오 디시전 API(Audio Decision API) — 흄 AI가 텍스트 변환 없이 음성 원본에서 감정·화자 수·배경 소음을 실시간 분류하는 API를 공개했다. JSON으로 질문과 보기를 지정하면 답변별 확률과 발생 구간을 반환하며, 녹음 자료에서 감정이나 소리를 검색할 수도 있다. Introducing Hume’s Audio Decision API: A decision layer for speech and sound (hume.ai)
dsh-superagent — 딥시크가 깃허브·Feishu의 승인된 사용자 요청을 독립 세션에서 처리하고 코드 수정·PR 제출까지 수행하는 연구용 프로토타입을 공개했다. 사람의 개입이 필요한 작업은 웹 패널에 표시하며, 완성형 제품이 아닌 참고용 코드로 배포한다. deepseek-ai/dsh-superagent-prototype: Towards a More Autonomous Agent System (github.com)
모델 통합 계약(Model Integration Contracts) — 허깅페이스가 전처리는 유지하고 가중치·레이어를 줄인 테스트용 모델로 CPU에서 수초 내 실행 경로와 기준 출력을 검증하는 방식을 제안했다. 현재 CI에서 결함을 감지하되 PR을 차단하지 않는 단계로 시험 도입했다. Transformers Model Integration Contracts (huggingface.co)
tailf가 도움이 되었다면 공유해 주세요. 추천 수에 따라 기사 색인 시트와 뉴스레터 시스템 구축기를 보내 드립니다. 내 추천 링크 확인하기