Stable Baselines Zoo - 学習アルゴリズムACKTRでハーフチータバレット(HalfCheetahBulletEnv-v0)を攻略

インベーダーゲームで一番成績の良かった学習アルゴリズム ACKTR をいろいろな環境で実行してみます。

今回は ハーフチータバレット(HalfCheetahBulletEnv-v0) を攻略します。ハーフチータバレットはチータを半分にしたような物体を前に進むように調整する環境です。

HalfCheetahBulletEnv-v0を攻略

ACKTR の学習済みモデル(Stable Baselines Zoo提供)を使ってHalfCheetahBulletEnv-v0を実行し、その様子を動画ファイルに出力します。


各オプションは以下の通りです。

  • 環境(env)
    HalfCheetahBulletEnv-v0
  • 学習アルゴリズム(algo)
    ACKTR
  • ステップ数(n)
    3000

[コマンド]

1
python3.7 -m utils.record_video --algo acktr --env HalfCheetahBulletEnv-v0 -n 3000

実行結果は以下のようになりました。(Ubuntu 19.10で動作確認しています。)


実行結果


前には進んでいますが、走るというよりぴょんぴょんと飛び跳ねています。前足は使わない方が効率的だと学習したんでしょうか。。。ちょっと気持ち悪い動きです。(;^_^A