またーり くおんつ ノート

お勉強した初歩的なことを書くチラシの裏

NIPS

Predictive State Recurrent Neural Networksを読んだ

NIPS 4本目. 今日もタイトルに惹かれて読んでみた. [1705.09353] Predictive State Recurrent Neural Networks 概要 状態空間モデルをRNN系に拡張したというもの. その中でPSRNNというLayerを提案して、多層構造の学習手法についても提案. LSTMやGRU対比PTB…

Deep Learning for Precipitation Nowcastingを読んだ

NIPS 2017 3本目(だっけ?). 脱線が過ぎたけど、また戻ってきた. 今日はなんとなくタイトルで目を引いたこいつ. [1706.03458] Deep Learning for Precipitation Nowcasting: A Benchmark and A New Model nowcasting的なことをディープでやりたいようだ. 外…

Hash Embeddings for Efficient Word Representationsを読んだ

なんか最近はディープ協会がいろんな意味で話題ですね. (にっこり 今回NIPS2本目はHash Embeddings for Efficient Word Representationsを読んだ. [1709.03933] Hash Embeddings for Efficient Word Representations 最近NLPサイドの応用に興味があったので…

Batch Renormalization: Towards Reducing Minibatch Dependence in Batch-Normalized Modelsを読んだ

今日からNIPS 2017のaccepted paperを毎日30分で斜め読みしていくぞぃ. (印刷してる時にすでに短時間で見るの無理だろ、というのにいくつか遭遇したけど.) もうすごい昔に出てた気がしちゃう、すでに懐かしい感じの batch normalizationの改良版として出てき…

NIPS 2017 accepted paperを斜め読みしたい

明日から本気出す. パラパラと見たけど、結構ヘビーなもの多いので30minでどんだけ読めるのかという. (Self Normalization の100ページ越えの奴とかやばいでしょ. まぁAppendixが.) accepted paperって今年はあんまり事前に上がってはないっぽい? (物理の人…