論文読んだりproposal書いている合間に 次のprojectsでもしかしたら使用するかもしれないのでBertを動かしてみた。
https://github.com/huggingface/pytorch-pretrained-BERT
じっけんするとしたらpytorchになるので、pretrained modelsをpytorchから 呼び出せるものを探していたらこんなのがあった。
少しいじってみたところ feature extraction, fine-tuningともに簡単にできたので 必要とあればすぐに使えそう。
proposalsの方はJapanese verは完了したので一つずつEnglish verに 変換していっているのだが、これが結構キツい。
喋るほうは全然簡単だし、論文結構読んでいるので書くのも行けるだろうと思っていたけど 難しい。