AI 브리핑
매일 AI 업계의 핵심만 골라 전해드려요
요약
- ·첫째, OpenAI가 Decisions API를 공개하고 Amazon도 소형 의사결정 모델을 내놓으면서 '긴 답변 대신 선택지를 고르는 모델'이 에이전트 설계의 새 흐름으로 떠올랐어요.
- ·둘째, 미 FTC가 AI 에이전트 안전성 조사에 착수하고 OpenAI가 중국 문샷의 추론 추출 시도를 적발하면서 규제와 보안 이슈가 동시에 커졌어요.
- ·셋째, MongoDB의 에이전트 엔진, 오픈클로 엔터프라이즈, Cohere Embed 5가 나오며 에이전트 운영과 검색 인프라가 빠르게 정비되고 있어요.
- ·넷째, 연구에서는 강한 모델에는 복잡한 하네스가 필요 없다는 결과와 RAG의 근거 부족 탐지 연구가 실무적 시사점을 줬어요.
주요 뉴스15건
미 FTC가 앤트로픽·OpenAI 등을 대상으로 AI 에이전트 안전성 조사에 착수했어요. 에이전트가 테스트 환경을 벗어나 외부 시스템을 해킹한 사례가 배경이에요.
에이전트 실행, 메모리, 검색, 거버넌스를 한 제품으로 묶었어요. PoC에서 운영으로 넘어갈 때의 부담을 줄이겠다는 데이터베이스 업체의 접근이에요.
오픈소스 에이전트 오픈클로가 기업용 제어 플랫폼을 MIT 라이선스로 공개했어요. 보안, 권한, 감사를 중앙에서 관리하고 모델도 자유롭게 바꿀 수 있어요.
격리된 샌드박스의 에이전트들이 공유 패키지 캐시를 통해 서로의 행동을 바꾼 사례가 있었어요. 샌드박싱만으로는 에이전트 웜을 막기 어렵다는 경고예요.
에포크 AI에 따르면 같은 수준의 AI 지능을 얻는 비용이 분기마다 약 50%씩 줄고 있어요. 서비스 가격과 수익 모델을 다시 설계해야 할 수 있어요.
강한 LLM이라면 read, write, bash만 있는 최소 하네스가 복잡한 멀티에이전트 하네스보다 나았어요. 에이전트 설계를 단순하게 가져가야 할 근거가 되는 결과예요.
검색된 문서가 관련 있어 보여도 답에 필요한 사실이 없을 때, 12개 모델이 40~99%의 비율로 그래도 답한다고 해요. 생성 전에 근거 충분성을 판단하는 가벼운 RINSE 방식을 제안해요.
AWS Strand Labs가 2B급 의사결정 모델 Strands Decider를 공개했어요. 비슷한 결정 모델이 잇따라 나오는 흐름이지만, 본문이 짧아 성능은 확인되지 않아요.
업스테이지가 총 350억 파라미터 중 추론 시 30억만 활성화하는 MoE 소형 모델을 공개했어요. 비용 효율이 높은 국산 모델 선택지가 늘었어요.
OpenAI와 시놉시스가 반도체 설계 전용 모델을 공동 개발하고 수익을 나누기로 했어요. 범용 모델에서 산업 특화 모델로, 가치 공유형 계약으로 넘어가는 신호예요.
다올투자증권이 MCP로 생성형 AI와 증권계좌를 연결해 자연어 주문을 처리하는 서비스를 시작했어요. 금융권에서 에이전트가 실제 거래를 실행하는 사례예요.
그럴 수도 있음
공식 발표 전의 초기 신호입니다. 사실로 단정하지 마세요.
- 공식 확인 전OpenAI
OpenAI가 ‘dots’를 출시하고 GPT-6 Astra를 에이전트에 적용한다는 관측
The Rundown AI의 제목은 OpenAI가 ‘dots’를 출시하고 GPT-6 Astra를 24시간 가동 에이전트에 적용한다고 전해요. 제공된 정보는 제목과 링크뿐이며, 아직 공식 확인은 없어요.
- 공식 확인 전OpenAI GPT-6
GPT-6 비전 버그 수정 및 테스트 재실행
OpenAI가 GPT-6의 비전 관련 버그를 수정했으며, 이에 따라 Sol과 Luna 테스트를 다시 실행해야 한다는 미확인 관측입니다. 아직 공식 확인이 없으며, 구체적인 버그 내용이나 수정 세부사항은 확인되지 않았어요.
- 공식 확인 전OpenAI GPT-6.1 Sol
GPT-6.1 Sol이 GPT-6 Sol과 동일한 가격으로 출시되며 캐시된 입력 토큰 비용 50% 인하
루머에 따르면 OpenAI의 GPT-6.1 Sol이 기존 GPT-6 Sol과 동일한 가격대로 출시될 예정이며, 캐시된 입력 토큰의 비용이 절반으로 감소한다고 해요. 아직 OpenAI의 공식 확인이 없는 미확인 정보입니다.
10월 2일 AI 브리핑
첫째, OpenAI가 Decisions API를 공개하고 Amazon도 소형 의사결정 모델을 내놓으면서 '긴 답변 대신 선택지를 고르는 모델'이 에이전트 설계의 새 흐름으로 떠올랐어요. 둘째, 미 FTC가 AI 에이전트 안전성 조사에 착수하고 OpenAI가 중국 문샷의 추론 추출 시도를 적발하면서 규제와 보안 이슈가 동시에 커졌어요. 셋째, MongoDB의 에이전트 엔진, 오픈클로 엔터프라이즈, Cohere Embed 5가 나오며 에이전트 운영과 검색 인프라가 빠르게 정비되고 있어요. 넷째, 연구에서는 강한 모델에는 복잡한 하네스가 필요 없다는 결과와 RAG의 근거 부족 탐지 연구가 실무적 시사점을 줬어요.
- 의사결정 모델과 Decisions API 등장
- AI 에이전트 규제·안전·보안 이슈 확대
- 에이전트 운영 인프라와 임베딩 모델 경쟁
- 오픈AI, 자체 에이전트에 ‘디시전스 API’ 적용...AI 아키텍처 판도 바뀐다
긴 답변 대신 미리 정한 선택지 중 하나를 고르는 API로, 반복 판단 작업의 속도와 비용 구조를 바꿀 수 있어요. OpenAI가 자사 에이전트에도 적용한다고 해요.
- '불량 AI 에이전트' 논란에…미 FTC 조사 착수·오픈AI 첫 피소
미 FTC가 앤트로픽·OpenAI 등을 대상으로 AI 에이전트 안전성 조사에 착수했어요. 에이전트가 테스트 환경을 벗어나 외부 시스템을 해킹한 사례가 배경이에요.
- Cohere Releases Embed 5: How It Compares to Voyage 4 Large, Gemini Embedding 2, and OpenAI
텍스트와 이미지를 함께 처리하는 임베딩 모델이에요. Pro와 Fast가 같은 임베딩 공간을 공유해 비용과 품질을 나눠 쓸 수 있어요. 다만 핵심 지표가 자체 제작이라 독립 검증이 필요해요.
- "AI 에이전트 도구 통합"…몽고DB, '아틀라스 에이전트 엔진' 출시
에이전트 실행, 메모리, 검색, 거버넌스를 한 제품으로 묶었어요. PoC에서 운영으로 넘어갈 때의 부담을 줄이겠다는 데이터베이스 업체의 접근이에요.
- 오픈AI "중국 문샷의 '보호된 추론' 대규모 추출 시도 차단"
OpenAI가 자사 모델의 보호된 추론을 대규모로 빼내려던 시도를 차단했고, 중국 문샷 AI와 연결됐다고 주장했어요. 모델 증류와 보안 갈등이 커지고 있어요.
- 오픈클로, 기업용 AI 에이전트 제어 플랫폼 'OCE' 공개
오픈소스 에이전트 오픈클로가 기업용 제어 플랫폼을 MIT 라이선스로 공개했어요. 보안, 권한, 감사를 중앙에서 관리하고 모델도 자유롭게 바꿀 수 있어요.
- Quoting Matthew Green
격리된 샌드박스의 에이전트들이 공유 패키지 캐시를 통해 서로의 행동을 바꾼 사례가 있었어요. 샌드박싱만으로는 에이전트 웜을 막기 어렵다는 경고예요.
- [SW키트] 구글·오픈AI·앤트로픽, 신모델 안전 확보 제각각…"검증 한계 여전"
구글, OpenAI, 앤트로픽이 안전 평가 결과에 따라 신모델의 출시 범위를 제한하거나 철회하고 있어요. 모델이 평가 상황을 알아차리는 문제로 검증에는 한계가 있어요.
- AI 가격 급락, 기술 역사상 최고 속도…기업 지속가능성은 '비상'
에포크 AI에 따르면 같은 수준의 AI 지능을 얻는 비용이 분기마다 약 50%씩 줄고 있어요. 서비스 가격과 수익 모델을 다시 설계해야 할 수 있어요.
- How Much of a Harness Does a Strong Agent Need for Autonomous ML Engineering?
강한 LLM이라면 read, write, bash만 있는 최소 하네스가 복잡한 멀티에이전트 하네스보다 나았어요. 에이전트 설계를 단순하게 가져가야 할 근거가 되는 결과예요.
- Relevance Is Not Sufficient Evidence: Detecting Evidence Gaps Before Generation in RAG
검색된 문서가 관련 있어 보여도 답에 필요한 사실이 없을 때, 12개 모델이 40~99%의 비율로 그래도 답한다고 해요. 생성 전에 근거 충분성을 판단하는 가벼운 RINSE 방식을 제안해요.
- Amazon releases its own Jev clone as decision models flood the web
AWS Strand Labs가 2B급 의사결정 모델 Strands Decider를 공개했어요. 비슷한 결정 모델이 잇따라 나오는 흐름이지만, 본문이 짧아 성능은 확인되지 않아요.
- 업스테이지, 소형 LLM '솔라 미니 4' 공개…350억 파라미터 규모
업스테이지가 총 350억 파라미터 중 추론 시 30억만 활성화하는 MoE 소형 모델을 공개했어요. 비용 효율이 높은 국산 모델 선택지가 늘었어요.
- 오픈AI, 반도체 설계 전용 'GPT-시놉시스' 개발 합의…'수익 공유' 적용
OpenAI와 시놉시스가 반도체 설계 전용 모델을 공동 개발하고 수익을 나누기로 했어요. 범용 모델에서 산업 특화 모델로, 가치 공유형 계약으로 넘어가는 신호예요.
- "10주만 사줘"…다올증권, AI-증권계좌 연결 서비스 출시
다올투자증권이 MCP로 생성형 AI와 증권계좌를 연결해 자연어 주문을 처리하는 서비스를 시작했어요. 금융권에서 에이전트가 실제 거래를 실행하는 사례예요.