NIPS 4本目. 今日もタイトルに惹かれて読んでみた. [1705.09353] Predictive State Recurrent Neural Networks 概要 状態空間モデルをRNN系に拡張したというもの. その中でPSRNNというLayerを提案して、多層構造の学習手法についても提案. LSTMやGRU対比PTB…

NIPS 2017 3本目(だっけ？). 脱線が過ぎたけど、また戻ってきた. 今日はなんとなくタイトルで目を引いたこいつ. [1706.03458] Deep Learning for Precipitation Nowcasting: A Benchmark and A New Model nowcasting的なことをディープでやりたいようだ. 外…

先週末見つけたテキスト分類に関する以下のペーパーを読む. Deep Pyramid Convolutional Neural Networks for Text Categorization この人達、ずっとこの分野やってんな. そしてBaiduからTencentにうつったりしてて、中国勢の勢いを感じる. あとFGOでチェイ…

読んだ. が、記事書く時間がない... Facebook AI researchから出てるこいつ. [1606.01781] Very Deep Convolutional Networks for Text Classification 結論 NLPの分類 or センチメント問題で画像認識ならってCNNのめちゃ深いの作ってみたよ. やられてないの…

子育てにより疲弊したが、朝活を再開するぞい. Hash embeddingに引用されてた次を読んだ. [1609.00718] Convolutional Neural Networks for Text Categorization: Shallow Word-level vs. Deep Character-level 結局Char-levelとWord-levelってあんまり同じ…

なんか最近はディープ協会がいろんな意味で話題ですね. (にっこり 今回NIPS2本目はHash Embeddings for Efficient Word Representationsを読んだ. [1709.03933] Hash Embeddings for Efficient Word Representations 最近NLPサイドの応用に興味があったので…

今日からNIPS 2017のaccepted paperを毎日30分で斜め読みしていくぞぃ. (印刷してる時にすでに短時間で見るの無理だろ、というのにいくつか遭遇したけど.) もうすごい昔に出てた気がしちゃう、すでに懐かしい感じの batch normalizationの改良版として出てき…

明日から本気出す. パラパラと見たけど、結構ヘビーなもの多いので30minでどんだけ読めるのかという. (Self Normalization の100ページ越えの奴とかやばいでしょ. まぁAppendixが.) accepted paperって今年はあんまり事前に上がってはないっぽい？ (物理の人…

Google Brainが2016年に出してた下の論文を読んだ. 読んでたら出勤まであと10分くらいしかないので、そのうち追記するかも. (しなさそう... [1602.02410] Exploring the Limits of Language Modeling 昨日までに読んでたのはむしろこれを読むために読んでた.…

結論、20minで読むのはきつかった. word embeddingいらないシリーズとして、今日はこちらを読んだ. 2015年と少し古いし評価は知らない. [1508.06615] Character-Aware Neural Language Models 問題設定 とりあえず発射台は文字レベルとしてLanguage modelを…

昨日の元になってるX. Zhang, Y.LeCunのText Understanding from Scratchを読んだ. [1502.01710] Text Understanding from Scratch 概要 基本的には昨日のベースになっているので大体書いてあることは同じ. aki-don.hatenadiary.com むしろ何か違うこと書い…

今日から20minくらいで論文1本ずつ斜め読みして15分くらいでメモ書いていこうと思う. 別にわざわざ俺が書くまでもないくらい有名なの多めだけど、 そんなこと言ってたら何も書けないのです. NIPSにacceptされた奴をチマチマ読みたいけど、 その前にText clas…

AWS実践入門を毎日1章ずつ読んでたけど、読み終わった. 確かに入門だけど、常にマネジメントコンソール(ブラウザ)とAWS CLIが対比で書いてあって、 マネジメントコンソールを触ってなくても、 CLIでどういう操作に該当するのかのイメージが出来て個人的には…

LightGBMが6月末くらいからpipで入るようになってたんですね. これは楽チン. GPU対応もされてるようなので、今度会社で試してCPU版と比べてみよう. (自分でGPUインスタンス建てると高いしね…) github.com dockerfile作ったあと、volumeマウントしたりport開…

タイトルの通りですが、今まで公式ドキュメントにかなーり頼ってきたけど、 普通に先人の知恵を拝借すべきでは、と思ったので、週末に本屋で色々見たりして、 結局こちらを書いました. www.amazon.co.jp 少し古いですが、まぁ入りとしては十分かな、と. あと…

普段だと業務用にDockerfileをかなりカスタマイズして使っているが、 手元にはないので、折角だからまた1から作る. 本質的にはケースバイケースで用途に応じて作るべきだが、 分析系のイメージをどかっと纏めてしまっている(まぁ楽だし) とりあえず下記のよ…

先週やったAWS ECSのecs-cliでのチュートリアルの続き. docs.aws.amazon.com コンテナクラスターの立ち上げ key-pairを立ち上げるリージョンに作っておく. $ aws ec2 create-key-pair --key-name ecs-instances-default-cluster --query 'KeyMaterial' --out…

どーも. 先日はkibanaのiframeがIEでworkせず, IEは悪い文明ということを再認識しました. JSはよくわからんので, とりあえず様子見です… github.com さて, 週も明けたので先週末の続きです. ecsでの接続前にec2での接続のおさらいです. docs.aws.amazon.com …

今日はPCの充電がないので、ほんの少しだけ. (更新することに価値があろう.) 今までデフォルトだとAWS CLIのコマンドコンプリート機能がONになってないので、 Tabをペチペチ押しても候補が出ず、気合の手入力！(or コピペ)だった. ちょうどちょっとの時間し…

AWS ECS CLIを入れてみる AWS ECS CLIはAWSがGithubで公開しているECSでDocker composeがサポートされるようになるらしい. github.com AWS CLIだけでも出来そうだけど、まずこっちを使ってみるか. なお、Windowsは無理らしい. Macの場合は以下から入手 回線…

キーペアの作成 なぜかEC2とかすっ飛ばしてECRから始めてるので、 インスタンス用のキーペアの作成からやる. 別に大したことはしない、基本的には以下の通り. docs.aws.amazon.com キーペア作ると.pemという拡張子のキーペアが自動的にダウンロードされるよ…

先週はECR (container registroy) の機能をさらっとやったので, 今週はECS (container service) の機能をさらっとやりたい. docs.aws.amazon.com Amazon EC2 Container Service (Amazon ECS) は、Amazon Elastic Compute Cloud (Amazon EC2) インスタンスの…

awscliからリポジトリを作って消す. docs.aws.amazon.com 基本的にはこちらの step 3 step 7 をやるぞぃ. リポジトリを作る $ aws ecr create-repository --region us-east-2 --repository-name ubuntu { "repository": { "repositoryArn": "arn:aws:ecr:us-…

公式のExampleのDockerfileを手元でビルドしておいて、imageをECRにpushするぞ. docs.aws.amazon.com docker imagesのbuild 昨日のdocker loginコマンドで出てくる名前を使って、image自体にtag付けする必要があるっぽい. 一応アカウントIDとregionを組み合…

aws-cliがキチンと入ってなかったので修正. アホの一つ覚えのように入れてしまったbrewでのawscliは悪さすると嫌なのでuninstall. $ brew uninstall awscli 普通にanacondaでawscliは入れているのでpipで入る場所を確認したら /anaconda/bin/ にawsがいるっ…

別になんでもいいので、AWS公式の流れに沿ってみる. docs.aws.amazon.com 今回はlocalでdockerは既に入っているのでそこで用意しておく. $ $(aws ecr get-login --region us-east-2) すると以下のエラー unknown shorthand flag: 'e' in -e 公式通りのはずだ…

毎日30分ほど朝活シリーズ. 今日はこちら. docs.aws.amazon.com Docker イメージの構築、タグ付け、プッシュ とりあえず公式通りにやる. $ aws ecr get-login 怒られた. You must specify a region. You can also configure your region by running "aws con…

とりあえず初めてのやり方を公式でみる. 1) docker login コマンドを取得します $aws ecr get-login --no-include-email --region us-east-2 うーん、すぐにはうまくできないというか、そもそもログイン周りの設定してねーな. (あかん container registoryを…

家に居てもなかなか時間が取れないので、 朝は少し早めに出て毎日30分ほどお勉強でもするか. とりあえずAWSに登録&aescliをインストールした. 普段の分析周りはDocker container上でやってるので, もうanacondaを直入れしたら,なんか $ pip install awscli …

色々考えたけど何かしらやってみようと思う. お仕事の話はあんまり書けないので朝活でちまちまお勉強したことを書くぞー ブログ媒体は調べだすとキリがないので、とりあえずはてぶにしてみた. Markdownで書けるって良いね.