NIPS 4本目. 今日もタイトルに惹かれて読んでみた. [1705.09353] Predictive State Recurrent Neural Networks 概要 状態空間モデルをRNN系に拡張したというもの. その中でPSRNNというLayerを提案して、多層構造の学習手法についても提案. LSTMやGRU対比PTB…

NIPS 2017 3本目(だっけ？). 脱線が過ぎたけど、また戻ってきた. 今日はなんとなくタイトルで目を引いたこいつ. [1706.03458] Deep Learning for Precipitation Nowcasting: A Benchmark and A New Model nowcasting的なことをディープでやりたいようだ. 外…

先週末見つけたテキスト分類に関する以下のペーパーを読む. Deep Pyramid Convolutional Neural Networks for Text Categorization この人達、ずっとこの分野やってんな. そしてBaiduからTencentにうつったりしてて、中国勢の勢いを感じる. あとFGOでチェイ…

読んだ. が、記事書く時間がない... Facebook AI researchから出てるこいつ. [1606.01781] Very Deep Convolutional Networks for Text Classification 結論 NLPの分類 or センチメント問題で画像認識ならってCNNのめちゃ深いの作ってみたよ. やられてないの…

子育てにより疲弊したが、朝活を再開するぞい. Hash embeddingに引用されてた次を読んだ. [1609.00718] Convolutional Neural Networks for Text Categorization: Shallow Word-level vs. Deep Character-level 結局Char-levelとWord-levelってあんまり同じ…

なんか最近はディープ協会がいろんな意味で話題ですね. (にっこり 今回NIPS2本目はHash Embeddings for Efficient Word Representationsを読んだ. [1709.03933] Hash Embeddings for Efficient Word Representations 最近NLPサイドの応用に興味があったので…

今日からNIPS 2017のaccepted paperを毎日30分で斜め読みしていくぞぃ. (印刷してる時にすでに短時間で見るの無理だろ、というのにいくつか遭遇したけど.) もうすごい昔に出てた気がしちゃう、すでに懐かしい感じの batch normalizationの改良版として出てき…

Google Brainが2016年に出してた下の論文を読んだ. 読んでたら出勤まであと10分くらいしかないので、そのうち追記するかも. (しなさそう... [1602.02410] Exploring the Limits of Language Modeling 昨日までに読んでたのはむしろこれを読むために読んでた.…

昨日の元になってるX. Zhang, Y.LeCunのText Understanding from Scratchを読んだ. [1502.01710] Text Understanding from Scratch 概要 基本的には昨日のベースになっているので大体書いてあることは同じ. aki-don.hatenadiary.com むしろ何か違うこと書い…

今日から20minくらいで論文1本ずつ斜め読みして15分くらいでメモ書いていこうと思う. 別にわざわざ俺が書くまでもないくらい有名なの多めだけど、 そんなこと言ってたら何も書けないのです. NIPSにacceptされた奴をチマチマ読みたいけど、 その前にText clas…