엔지니어링 AI 뉴스
- [ggml-org/llama.cpp] b12083 (pre-release)
ggml-org/llama.cpp의 b12083 프리릴리스에서 ggml_roll의 경계 검사 로직을 수정했어요. 기존에는 abs(shift)를 사용해 abs(INT_MIN)에서 부호 있는 정수 오버플로(미정의 동작)가 발생할 수 있었는데, 이를 부호 안전한 비교 방식으로 바꿨어요. macOS, Linux, Android, Windows 등 여러 플랫폼용 빌드가 함께 제공돼요.
- [ollama/ollama] v0.40.15-rc0 (pre-release)
ollama/ollama의 v0.40.15-rc0 프리릴리스예요. 리눅스에서 MLX가 번들된 CUDA 라이브러리를 프로세스 내부에서 직접 로드하도록 바뀌었어요. 또한 MiMo V2.6 모델 지원이 추가됐어요.
- [ggml-org/llama.cpp] b12081 (pre-release)
ggml-org/llama.cpp의 b12081 프리릴리스예요. CUDA 백엔드에서 Q8_1 양자화 보정 합계(correction sum)와 관련된 잠재적 버그를 수정했고, 리뷰 의견에 따라 quantize_mmq_q8_1 흐름도 함께 변경했어요. macOS, Linux, Android, Windows 등 여러 플랫폼용 빌드 바이너리가 함께 제공돼요.
- Why Every AI Model Will Ship as a Torrent
'모든 AI 모델은 토렌트로 배포될 것'이라는 제목의 글로, HackerNews에 공유됐어요. 제공된 정보에는 본문이 없어서 구체적인 주장 근거나 기술적 내용은 확인되지 않아요. 제목상 AI 모델 가중치를 P2P 방식으로 배포하자는 관점을 다루는 것으로 보여요.
- [ggml-org/llama.cpp] b12080 (pre-release)
ggml-org/llama.cpp의 b12080 프리릴리스예요. CUDA 백엔드에서 배치된 텐서 읽기를 매핑된 호스트 메모리로 모으는 기능이 추가됐어요. 작은 읽기는 gather 방식으로, 큰 읽기는 pinned DMA로 처리하고 8바이트 gather 복사와 128k 디스크립터 pinned 버퍼도 포함돼요. macOS, Linux, Android, Windows용 빌드 바이너리도 함께 제공돼요.
- Data centers are turning to old jet engines as the wait for power grows
데이터센터 건설업체들이 전력망 연결과 신규 터빈 확보까지 수년씩 걸리면서 대안을 찾고 있어요. 그 결과 한때 폐기됐던 항공기 제트 엔진을 발전용으로 쓰는 방식에 눈을 돌리고 있어요. 이 방식은 효율이 떨어지고 환경 부담도 더 큰 것으로 알려져 있어요.
- [ggml-org/llama.cpp] b12079 (pre-release)
ggml-org/llama.cpp의 b12079 프리릴리스에서는 멀티노드 텐서 병렬 처리를 위한 NCCL 지원이 추가됐어요. 서로 다른 프로세스에서 실행되는 랭크 간 집합 통신(collective)을 위한 백엔드 인터페이스가 새로 만들어졌고, CUDA 백엔드에서 NCCL로 구현됐어요. RPC 서버에서도 NCCL을 사용할 수 있으면 활용하며, DGX Spark용으로 ncclConfig_t의 maxCTAs를 8로 설정했어요.
- AMD, 데이터센터 매출 1년 새 2배…4분기 66% 성장 예고
AMD가 데이터센터 부문 매출이 1년 사이 2배로 늘었다고 밝혔어요. 4분기에도 약 66% 성장을 예고했어요. 다만 제공된 정보에는 기사 본문이 없어 세부 수치나 성장 배경은 확인되지 않아요.
- US tech giants' hidden AI debt swells 90% to $3.2T in 6 months
닛케이 아시아 보도에 따르면 미국 대형 기술 기업들의 AI 관련 숨은 부채가 6개월 만에 약 90% 늘어 3조 2천억 달러에 이르렀어요. AI 인프라 투자 확대에 따라 장부 밖이나 임대 형태로 쌓인 채무가 급증했다는 내용이에요. 기사 본문이 제공되지 않아 제목에서 확인되는 사실만 정리했어요.
- Show HN: Kairos – Open-source risk and fraud decisioning platform
Finic이 Sift, Sardine 같은 실시간 사기 탐지 플랫폼의 오픈소스 대안인 Kairos를 공개했어요. XGBoost 같은 기존 모델에 더해 "일회용 이메일인가" 같은 자연어 질문 기반의 "System One" 판단 모델을 써서 라벨 데이터 부족 문제를 줄이려 해요. 또 MCP 서버를 제공해 Claude Code, Cursor 같은 에이전트가 의사결정 워크플로우 정의, 모델 학습, 최적 변형 선택을 할 수 있고, Docker 셀프호스팅과 호스팅 버전을 지원해요.