Python,PyTorch

Thumbnail of post image 071

pytorchのモデルを書いていて、何度かテストしていたのだが、突然、ImportError: cannot import name deepcopy というエラーがでて戸惑う。「torch ImportError: cannot i ...

PyTorch,Tensorflow

Thumbnail of post image 032

学習しているとエポックごとの誤差やテストデータセットでのF1 scoreなどを継続的に記録したいと思うことがある.

こんなときにはwriter.add_scalarを使うのが良い.

下記にサンプルコードを載せる ...

論文サマリ

Thumbnail of post image 113

Electrochemistry Communications, Dec 2020

材料論文から抽出した処理条件を用いて、固体電解質材料のトレンド分析を行なった。分析では、材料の種類ごとの処理温度帯を可視化したり、分子量対 ...

PyTorch

Thumbnail of post image 156

nn.functional.sigmoidは重複しているため、現在のPytorch APIではサポートしていませんよ、という警告。
import torch.nn.functional as Fでインポートし、F.sigmoi ...

BERT,Huggingface

Thumbnail of post image 143

Hugging faceで文をTokenizeすると元の文のSpan情報が失われてしまう。これにより、NERでラベル付けしたトークンの位置をサブワード分割された文の中で見失ってしまうことがある。この困りごとを解決してくれるのが、ret ...

Uncategorized

Thumbnail of post image 157

.item()で取り出されたtensorの次元が0のために発生したエラーのため、下記の9から12行目のようにif c.ndim == 0で条件分岐させて対応。

with torch.no_grad(): for data in ...

Flair,NLP

Thumbnail of post image 046

NLPフレームワークのFlairでELMoの言語モデルを使おうとすると、from flair.embeddings import ELMoEmbeddingsをして関数を呼び出す必要があるのだが、allennlpがインストールされてい ...

BERT

Thumbnail of post image 107

BERTを用いて文や単語から特徴抽出していると、取り出されたベクトルに出現する数字が、バッチサイズを示しているのか、トークン数を示しているのかなどが分からなくなってしまう。見覚えがあるが何の数字だったか混乱した場合は、「BERT 76 ...