今日も起きてからは論文を読んでいた．

• Word Frequency Does Not Predict Grammatical Knowledge in Language Models

タイトルの通り，BERT が持っている文法知識はその出現頻度に必ずしも依存しているわけではないってことを示している．一般的な考えとして，低頻度語を NLP モデルはうまく解釈することができないとされているので，それと同様に自分はこれまで，文法等の知識も同じだと考えていたが，それが毎度正しいわけではないみたい．
最近他に読んでいた，entity の理解に関しての論文で，出現頻度の低い entity を言語モデルはうまく扱うことができない，と分析していたので知識によっては頻度が重要なものもある．

今年の頭から用意したスプレッドシートを使っていくつかの習慣を記録していたのだが，2週間前くらいからほぼ記入しなくなった．この原因を少し考えてみると，1. やはり毎日記入するのはめんどくさい，2．記入したものを後から見直してもそこまで面白くない， 3. このトラッキングではモチベーションにならない．
現状トラッキングしている内容を見直してみると，そのほとんどが google calender と Mac Finder をみれば結果的に記録はされているので，その可視化を自動でできれば記入する必要がない． モチベーションの維持のためにトラッキングを開始したつもりだったが，現在トラッキングしているものに関しては，これによって特にやる気が出たりしない．どれも勝手に継続することができる． 結果としてこのトラッキングはもうやめてしまって，google calender をこれまで通り運用していくことでその代替とする．暇なときに，gcal から情報を抜き取ってタスクごとに実践ステークとかを可視化するプログラムを書きたいな．

最近思うが， もし自分が女性だったら，森氏の件のせいで，会議等で発言が長くなりすぎていないかという要らぬ不安を感じてしまっていたかもしれないな． もしこのように実際に感じている人がいたとしたら気の毒でしょうがない．発言力がある人にはパブリックな場所での発言に気をつけてほしいね．

元の予定は昨日だったが今日に延期していた定例を 7pm からやっていた．

• ハゲタカジャーナル
• scroll
• アドブロック
• 脳に電極刺したい
• 依存症
• コンテンツに限界はあるのか
• 現実に則さない理論，オッカムの剃刀

の話をした．