でぃーぷらーにんぐって奴で何とかして!
NIPS 4本目. 今日もタイトルに惹かれて読んでみた. [1705.09353] Predictive State Recurrent Neural Networks 概要 状態空間モデルをRNN系に拡張したというもの. その中でPSRNNというLayerを提案して、多層構造の学習手法についても提案. LSTMやGRU対比PTB…
NIPS 2017 3本目(だっけ?). 脱線が過ぎたけど、また戻ってきた. 今日はなんとなくタイトルで目を引いたこいつ. [1706.03458] Deep Learning for Precipitation Nowcasting: A Benchmark and A New Model nowcasting的なことをディープでやりたいようだ. 外…
先週末見つけたテキスト分類に関する以下のペーパーを読む. Deep Pyramid Convolutional Neural Networks for Text Categorization この人達、ずっとこの分野やってんな. そしてBaiduからTencentにうつったりしてて、中国勢の勢いを感じる. あとFGOでチェイ…
読んだ. が、記事書く時間がない... Facebook AI researchから出てるこいつ. [1606.01781] Very Deep Convolutional Networks for Text Classification 結論 NLPの分類 or センチメント問題で画像認識ならってCNNのめちゃ深いの作ってみたよ. やられてないの…
子育てにより疲弊したが、朝活を再開するぞい. Hash embeddingに引用されてた次を読んだ. [1609.00718] Convolutional Neural Networks for Text Categorization: Shallow Word-level vs. Deep Character-level 結局Char-levelとWord-levelってあんまり同じ…
今日からNIPS 2017のaccepted paperを毎日30分で斜め読みしていくぞぃ. (印刷してる時にすでに短時間で見るの無理だろ、というのにいくつか遭遇したけど.) もうすごい昔に出てた気がしちゃう、すでに懐かしい感じの batch normalizationの改良版として出てき…
Google Brainが2016年に出してた下の論文を読んだ. 読んでたら出勤まであと10分くらいしかないので、そのうち追記するかも. (しなさそう... [1602.02410] Exploring the Limits of Language Modeling 昨日までに読んでたのはむしろこれを読むために読んでた.…
結論、20minで読むのはきつかった. word embeddingいらないシリーズとして、今日はこちらを読んだ. 2015年と少し古いし評価は知らない. [1508.06615] Character-Aware Neural Language Models 問題設定 とりあえず発射台は文字レベルとしてLanguage modelを…
昨日の元になってるX. Zhang, Y.LeCunのText Understanding from Scratchを読んだ. [1502.01710] Text Understanding from Scratch 概要 基本的には昨日のベースになっているので大体書いてあることは同じ. aki-don.hatenadiary.com むしろ何か違うこと書い…
今日から20minくらいで論文1本ずつ斜め読みして15分くらいでメモ書いていこうと思う. 別にわざわざ俺が書くまでもないくらい有名なの多めだけど、 そんなこと言ってたら何も書けないのです. NIPSにacceptされた奴をチマチマ読みたいけど、 その前にText clas…