ひきこもり村AI研究部

Transformerは構造が複雑。

結局PART2で終わってる。こういう真面目系のやつって
基本的には視聴数回らないから大体途中で止めちゃうんだよな。

「いいね!」 1

トランスフォーマーって入力によって重みが動的に変わるのか。
確かに当たり前のように重みは学習時意外固定って思ってたけど
別に途中で変えても良いんだよね。

木ベースの方が有効性高いって話もあるな。うーん。

馬、またお前か。役に立つ動画をありがとう。

野村の研究所だけどこれもわかりやすい。

LightGBMの細かいパラメーターの設定とか。
あとで確認する。競馬の設定とどれくらい共通性あるのか謎だけど

ぐぬぬ
学習用データ作ろうとしてるが意外とムズいなこれ

ちょっとアウトプットをカスタマイズしようとするとデフォルトのツールでうまくいかない。

うーむ、また前のようにデータ量多すぎてオーバーフローするな。今度は100GBのメモリ買いたい。

「いいね!」 1

KAGGLEの上位入賞のデザインを元に作ってるけどそもそも効率のいいもんが公開されてるのかという疑問は払拭できない。

LIGHT GBMにデータ食わせるのは行列じゃなくてベクターになる。行列をベクターに変換すると結構扱いにくいデータ数になる。そうするとタイムラインを削るか特徴量を削るかどっちかになるのよな。

うーん、特徴量削ってまともに分析できるんだろうか。良く分からん。。特徴量削るのも若干面倒なのよな…とりあえずいらなそうなの削ってみるか。

なんかCPUでも動くって言う話だけど、普通にうごかんな。メモリ使用はある程度抑えるのはできたけど、計算量はやっぱ要求される。

よし、データ整形終わり、さあどれぐらいのマシンスペックが必要になるか?!

ある程度データを削ればいけないことはないなメモリ使用も10G以内に収まった。
でもやっぱり学習がひたすら遅く数時間かかる。やはりgpu使わないと厳しい。

どんな発言にも反論するai.

お?何か結構CPUでいけそうだなこれは。

結局最適パラメーター値設定を調べるくらいならRLでくんだ方が楽なのかな。

どれもいや過ぎる..
仮想環境作るのが良いかもしれないがGPU必要になってくること考えると結局筐体か

  • あなたの環境が NumPy 2.x であるなら、PyTorch や LightGBM をそのまま使うと互換性エラー・クラッシュのリスクがある。
  • 安定して動かしたいなら、NumPy を 1.x 系に落とす(例: numpy < 2.0)のが現時点では safest という現実的な対策。
  • もし PyTorch や周辺ライブラリを自前でビルドできるなら、NumPy 2.x support を含むビルドを使えば動く可能性もあるが、それはやや上級者向け。