강화학습(RL) 발전의 여정

주요 알고리즘의 탄생과 진화 타임라인

1989 - 1996

모델-프리 학습의 여명

Q-Learning (1989), REINFORCE (1992), SARSA (1996) 등 현대 RL의 근간이 되는 알고리즘들이 등장했습니다.

2013

DQN: 딥러닝과의 만남

Q-러닝에 심층 신경망을 결합하여 딥 강화학습(DRL) 시대를 열었습니다. 경험 리플레이와 타겟 네트워크로 학습 안정성을 확보했습니다.

2015 - 2016

DRL의 폭발적 성장

DQN 개선 알고리즘들, 연속 행동 공간을 위한 DDPG, 병렬 학습 방식의 A3C, 그리고 세상을 놀라게 한 AlphaGo가 등장했습니다.

2017

안정성의 시대

PPO가 정책 업데이트를 안정화시키며 현재까지 널리 쓰이는 표준 알고리즘으로 자리 잡았고, AlphaZero는 더 범용적인 성능을 보여주었습니다.

2018 - 2019

성능과 모델 기반의 도약

TD3SAC가 연속 제어에서 최고의 성능을 갱신했고, MuZero는 규칙 없이 스스로 모델을 학습하며 모델 기반 RL의 정점을 찍었습니다.

2020 ~

인간과의 상호작용

RLHF가 인간의 피드백을 통해 언어 모델을 정렬하는 핵심 기술로 부상하며 ChatGPT와 같은 AI의 패러다임을 바꾸었습니다.

2024 ~

GRPO: 효율성의 혁신

PPO를 극도로 최적화하여 가치 및 보상 모델을 제거. RLVR(검증 가능한 보상)을 활용해 메모리 사용량과 속도를 혁신적으로 개선하며, 대규모 추론 모델 훈련의 새로운 방향을 제시합니다.