19日に更新してた

アフィリエイトはないよ

2023-05-01から1ヶ月間の記事一覧

GTX1060 6G を使って stable diffusion web ui 上での画像生成にどれくらい時間がかかる?

stable diffusion web ui もとりあえず。github.comvram 4G でも動くのでインストールできますとかやっても需要ないでしょうから、chilloutmix に japaneseDollLikeness と easynegative 使って画像の生成時間など。複数回画像生成しておりますが、時間差は…

GTX1060 6G で rinna/japanese-gpt-1b を動かしてみて遊んだ話

そもそもどういうふうに動いているのかもよくわかっていないのに、大規模言語モデルいろいろ動作試験?してみて、GPU の 専用メモリー (以下 vram)に乗らないとまともに動かないっぽいことだけは学習したので、乗りそうな日本語のものということで rinna/j…

GTX1060 6G にて ChatRWKV (RWKV-4-Pile-3B-Instruct-test1-20230124.pth) を試してみた

win11 home、i7、32G、GTX1060 6G で動いたで終わっているのでお目汚しですが、ChatRWKV です。やり方は以下のサイト様そのままで pytorch、cuda あたりの準備は端折ります。*1qiita.comChatRWKV をgithub.comgit で落としてきたところに、使うモデルデータ …

NovelAI/genji-jp を CPU でなんとか動かした話

日本語の LLM が使えるといいなぁと思ったものの特にやりたいこともないなぁと思っていたら、小説家になろうのデータから作ったのがあると目にしたので使ってみようとやってみた。huggingface.cowin11 Home、i7、32G、GTX1060 6Gでございます。とりあえず、h…

GTX1060 6G にて device_map を少しいじって cyberagent/open-calm-3b を動かしてみた。

win11home、i7、32G、GTX1060 6G 環境です。cyberagent/open-calm-1b をいじっていて cyberagent/open-calm-3b ならおそらく device_map をいじってやったら動くのではないかなとやってみたら動かせたのでせっかくなので書いておこうかと。*1 import torch f…

GTX1060 6G にて cyberagent/open-calm-1b を動かしてみた。

win11、i7、32G、GTX1060 6G を使って jupyter notebook 上で動かしております。とりあえず、バージョンなど import sys import torch print(sys.version) print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name()) …