연구·논문 AI 뉴스
- Qwen 3.8 27B on my laptop can interpret model weights, too
Simon Willison이 'Weight-Space Programming' 논문에서 제시한 실험을 따라 해 봤어요. 도구 없이 신경망의 원시 가중치 텍스트만 보고 어떤 게임으로 학습됐는지 맞히는 과제를 노트북에서 돌린 Qwen 3.8 27B(17GB 양자화 버전)에 시켰어요. Qwen은 팩맨을 46분, 퐁을 1시간 넘게 추론한 끝에 맞혔어요. 비교로 Kimi K3.1 Pro는 약 10분 만에 브레이크아웃을 맞혔어요. 이 논문은 도구 사용 여부를 뒤섞었다는 비판도 받고 있어요.
- [인터뷰] 변우진 ETRI 대경권연구본부장 “대구·경북을 대한민국 '피지컬 AI' 수도로”
ETRI 대경권연구본부가 개소 20주년을 맞아 변우진 본부장과 인터뷰를 진행했어요. 설립 초기 자동차·기계부품에 임베디드 소프트웨어를 접목하던 연구가 AI 기반 도시 인프라, 로보틱스, 디지털 헬스케어 등으로 확장됐다고 밝혔어요. 기업 기술 수요 대응과 미래 선행기술 연구를 병행하는 투트랙 방식으로 기술 상용화율이 높다고 설명했어요.
- Show HN: Interactive notes on RLHF, attention, LoRA and LLM evals
Hacker News에 공유된 RLHF, 어텐션, LoRA, LLM 평가 개념을 정리한 인터랙티브 학습 노트 사이트예요. 본문 내용은 제공되지 않아 제목과 링크 기준으로만 확인되며, 각 개념을 대화형으로 학습할 수 있는 자료로 소개돼요.
- Anthropic's IPO Filing Warns It May Be 'Imminently' Close to RSI
Anthropic의 IPO 관련 제출 문서에 회사가 재귀적 자기 개선(RSI)에 '임박하게' 가까워졌을 수 있다는 경고가 담겼다는 내용이 HackerNews에서 공유됐어요. 본문은 제공되지 않아 제목과 링크 기준으로만 확인되며, 세부 내용이나 근거는 확인되지 않아요.
- The Download: controlling AI agents and “Super Intelligence” loyalty tests
MIT Technology Review의 The Download 뉴스레터로, 규칙을 따르도록 유인하는 시스템을 설계해 강력한 AI 모델을 통제하려는 '역게임이론' 접근법을 소개해요. 트럼프 대통령이 정부 기관에 AI를 'Super Intelligence'로 바꿔 부르도록 한 행정명령이 한 달 만에 정부 웹사이트에 퍼지고 있지만, 업계 전반에는 아직 자리 잡지 못했다고 전해요. 미국 중간선거에서의 AI 규제 쟁점, 엔비디아의 데이터센터 고객 대상 중국 매출 제한 요구 등 여러 기술 소식도 함께 다뤄요.
- The Sequence Knowledge - Issue #964: Learning RSI: How Models Generate Their Own Learning Curricula
TheSequence 뉴스레터가 모델이 스스로 학습 커리큘럼을 생성하는 재귀적 자기개선(RSI) 방식을 다뤘어요. Absolute Zero는 코드 실행으로 과제를 검증하고, R-Zero는 Challenger와 다수결로 스스로 채점하는 Solver를 짝지으며, R-Few는 소량의 신뢰할 수 있는 사람 예시를 더해 학습 이탈을 막아요. 다만 검증기는 테스트가 다루는 범위만 확인하고, 샘플 답변 간 일치가 같은 오류를 반복할 수 있다는 한계도 짚어요.
- How “reverse game theory” could keep AI agents in check
MIT Technology Review는 AI 모델의 내부를 해석하거나 가치관을 학습시키는 기존 정렬 방식의 한계를 보완하려는 '역게임이론(메커니즘 디자인)' 접근을 소개해요. MIT 스티븐 모리스 등은 다른 모델의 답변을 예측하게 해 시험에서 일부러 성능을 낮추는 행동을 막는 방안을 제안했고, 프린스턴의 엘라드 하잔은 모델이 풀이자와 감사자 역할을 번갈아 맡고 보상과 처벌을 받게 하는 방식을 제안했어요. 다만 AI가 합리적으로 행동한다는 가정이 성립하는지에 대한 의문도 있으며, 연구자들은 이 방식을 해석가능성·규제·훈련과 함께 쓰는 다층 방어 전략의 하나로 봐요.
- “AI가 오래 추론할수록 오진도 늘어난다”…칭화대, 의료 AI의 정확도·안전성 충돌 규명
중국 칭화대 생체의공학부 저우훙위 조교수 연구팀이 실제 환자의 전자의무기록으로 대형 추론 모델의 의료 진단 성능을 분석했어요. 추론을 깊게 할수록 진단 정확도는 높아졌지만, 잘못된 진단이 추가되거나 같은 환자에게 서로 다른 진단이 나올 위험도 함께 커졌어요. AI의 추론 능력 향상이 의료 현장의 안전성과 신뢰성 향상으로 곧바로 이어지지는 않는다는 결과예요.
- [게시판] LGU+, 서울여대와 개인정보 지키는 AI 데이터 기술 연구 등 단신
LG유플러스가 서울여자대학교와 개인정보보호·AI·데이터 분야 공동연구 및 인재 양성을 위한 업무협약을 체결했어요. 양측은 서울여대 '이노베이션 존'을 거점으로 가명정보 결합·분석 기술을 공동 연구하고, 석·박사 인력 양성 사업에서 교과과정 자문과 현장 멘토링도 지원할 예정이에요. 같은 단신에는 S2W가 독일 'it-sa 2026'에 참가해 AI 기반 보안 제품 2종을 선보였다는 소식도 담겼어요.
- 한중 피지컬 AI 협력 시동…“조작 지능·범용성 확보 필수”
주한중국대사관이 3일 서울에서 '한중 피지컬AI 기술산업협력포럼'을 열었어요. 한국과 중국 전문가들은 피지컬 AI의 산업 적용과 확산을 위해 정교한 조작 지능과 다양한 환경에 대응하는 범용성 확보가 필수라고 제언했어요. 고품질 학습 데이터 확보와 하드웨어 성능 개선도 과제로 꼽혔어요.