TensorFlow アーカイブ - my投資道への道（新）

FXonDL、最近困っていること

ディープラーニングでFXの研究(笑)も再開後に少しだけ進捗がありました。
以前は全く学習する気配もなかったのですが、データを工夫し試行錯誤を続けたところ、とりあえず学習が進むようになりました。

accが1.0近くまで上がっていますが、完全に過学習の状態です。（ただし、以前の全く学習が進まない状況よりかなりマシになったとは思っています）

これで”ようやく研究の入り口にたどり着いた！”と喜んでいたところ、困った状況に陥りました・・・

TensorFlowの再現性確保にかなり苦労したので残しておきます。

※）以下は ver1.13.1のtf.keras.Modelを使用し、fit()で実行しています。

shimizuはハイパーパラメータを試行錯誤するのに、ループの中で条件を変更して結果を一覧表示する方法をとっています。

mxnetの時は簡単で、ループの最初にseedをセットして再初期化するだけで上手くいきました。

np.random.seed(1234)
mx.random.seed(1234)

ところが、TensorFlowだとこれが上手くいきません・・・

TensorFlow+TPUの実装がうまくいくようになって、そろそろ本格的にFXのレート予想の研究に入ろうと思ってたところ、１つ問題が発生しました。

いくら計算が高速なTPUとはいえ、毎回5,000、10,000エポックを回すのは大変時間がかかります。

そこで計算結果の進捗が止まった時に計算をストップするようにしました。

そう、EarlyStopping()です。

ところがこれが想定通りに機能してくれません・・・