インベーダーゲームで一番成績の良かった学習アルゴリズム ACKTR をいろいろな環境で実行してみます。
今回は 倒立振り子(Pendulum-v0) を攻略します。振り子へ適切にトルクを与えることで、垂直に振り上げた状態を維持することが目的です。
Pendulum-v0を攻略
ACKTR の学習済みモデル(Stable Baselines Zoo提供)を使ってPendulum-v0を実行し、その様子を動画ファイルに出力します。
各オプションは以下の通りです。
- 環境(env)
Pendulum-v0 - 学習アルゴリズム(algo)
ACKTR - ステップ数(n)
3000
[コマンド]
1 | python3.7 -m utils.record_video --algo acktr --env Pendulum-v0 -n 3000 |
実行結果は以下のようになりました。(Ubuntu 19.10で動作確認しています。)
体操選手を思わせるほど完璧に倒立状態を維持してくれています。さすがのACKTRです。