Off-Policy RL · Prefix Ratio 안정화 (g10 칸)

A Step Back: Prefix Importance Ratio Stabilizes Policy Optimization

누적 prefix 비율의 분산 문제를 최소 토큰 비율 기반 비누적 대체물로 안정화한다(MinPRO) — off-policyness가 클 때 토큰 단위 교정의 불안정을 완화하는 g10 계열의 실용화.

📄 arXiv:2601.22718 🗓️ arXiv 2026-01 ✍️ Shiye Lei 외 2명 🏷️ cs.LG 원문 PDF ↗
g10 계열
prefix 교정의 실용화 판
min-ratio
누적 곱 대신 최소 토큰 비율
안정화
큰 off-policyness에서의 분산 완화
선택 미평가
top-k 결정은 다루지 않음
1SUMMARY

요약 — 이 논문이 한 일

논문 그대로

누적 prefix 비율의 분산 문제를 최소 토큰 비율 기반 비누적 대체물로 안정화한다(MinPRO) — off-policyness가 클 때 토큰 단위 교정의 불안정을 완화하는 g10 계열의 실용화.

쉽게 풀면

같은 '가는 길' 보정 계열인데, 곱이 터지는 문제를 min으로 눌러 실전에서 돌아가게 만든 판.

2RELATION

우리 논문(#68)과의 관계

위치 · g10

prefix-only 칸의 변형

안정화해도 one-sided 구조는 그대로 — 우리 정리의 적용 대상

관계 · 보완적 표적

안정성 ≠ 순위 보존

분산을 줄여도 부호 반전 위험은 남는다는 것이 우리 주장

차이 · 목적

학습 목적 vs 선택 목적

이들은 optimizer 관점, 우리는 데이터 선택 관점

TAKEAWAY

한 장으로 끝내는 정리

논문 그대로

g10 칸의 안정화 계열 — 분산을 눌러도 one-sided 구조의 순위 위험은 남는다는 것이 우리의 보완 주장.