機械学習、プログラム、電子工作などの話題のアカウントです。 sd-scripts https://teapawt.net/t.co/05ZbhTqcfw
日本
Joined December 2022
- Tweets12.9K
- Following60
- Followers10.1K
- Likes17.3K
Pinned Tweet
Musubi Tunerに引き続き、sd-scriptsについても、AiHUB様からスポンサーシップをいただきました、重ねてのご支援に深く感謝いたします。ありがとうございます！
github.com/kohya-ss/sd-scrip…
MOSS-Image用のkv-cache＋block/timestamp gate方式の編集LoRA学習を、実験用のexp-moss-editブランチを上げた。ドキュメントはこちら。
github.com/kohya-ss/sd-scrip…
gateを学習すると、どのblockがどのtimestepで寄与してるかがわかるかも。添付画像はinpaintingモデルを学習してみたときのgate値。
Kohya Tech retweeted
The thing about PRs in the age of coding agents is that I can build almost any feature or fix any bug with significantly less effort than it takes to read over and test a PR. There are exceptions, but I think the way we manage open source projects is going to have to change.
Claude Opus 5.5で「sd-scriptsで、WindowsでマルチGPU学習できる？」と頼んだら20分くらいでパッチと追加モジュール実装してくれた(;･∀･) ただPyTorchバージョンに依存するからリリースするか悩みどころ。
DDPに依存しない自前のマルチGPU学習を3時間くらい（テスト込み）でFable 5.1に作ってもらった。
github.com/kohya-ss/sd-scrip…
Kohya Tech retweeted
moss-imageの仕様見ての思い付きはとりあえずこんな感じでおいとく。他にもいくつか別方向の考えは浮かんでるけどキリないんでここまで。 claude.ai/artifact/LzD9qc2Cy……まだ検証もなにもしてないmoss-image初見プレイ的な時点での思いつきだから実際どうかは分からんけど。
Kohya Tech retweeted
I made a simple motion capture app using FlowHMR, ExMR, and GVHMR! It supports basic foot locking and motion retargeting for characters with different body proportions. It also supports importing Mixamo .fbx, .pmx, and .vrm #mocap #ai github.com/toyxyz/toyxyz_RGB…
MOSS-ImageのControl LoRA、kv cache方式で実装してみたけど、concat方式の半分くらい、通常の+20%くらいで推論できるな。
それだけだとつまらないので、一緒にgateを学習してblock単位でon/offできるようにしたら、通常+10%くらいまで速くなった(;･∀･)
sd-scriptsにMOSS-Image関連の機能追加を行いました。
・--timestep_sampling truncated_logit_normalをサポートし、MOSS-Image公式の学習時のtimestepを再現します。そこそこ分布が変わる（ノイズ寄りが多くなる）ので--show_timesteps imageなどでご確認ください。
・timestep_sampling.offsetをshiftだけでなくtruncated_logit_normalやsigmaでもサポートしました。
・RTX 3090(Ampere)でのConvRot INT8 Linearを高速化しました。単体で40%、学習全体でも2割程度速くなると思います。Blackwellでもわずかに高速化しています。
・その他のいくつかの高速化を行いました。
Kohya Tech retweeted
Now thanks to community resources like gpu-unlock-ada or gpu-unlock-4080s. I successfully unlocked my 4090 on "Windows" system.
All the details are released in github.com/KohakuBlueleaf/Ko…
Plz check it out!
teapawt.net/KBlueleaf/status/21137…
Confirmed that 3090 unlock is successful
with 360watt power wall, I got 75T -> 135T (measured in Pytorch)
Which is insane
I used github.com/Zagitta/gpu-unloc… with commit a9b0c75
Kohya Tech retweeted
無料の画像生成AI「Moss-Image」がすごい 日本語も漫画も生成、商用利用OKの実力を試した
画像だけでなくテキスト表示など複雑な表現に対応した画像AIがオープンウェイトモデルかつ、自由度が高いラインセンスで登場しました。中国の行政からの大きな投資を受けています。
ascii.jp/elem/000/004/445/44…
Kohya Tech retweeted
Now I also confirmed that 2080ti unlock is successful with similar approach as the 30-series' method
it reach nearly same speed as 350w 3090(locked) with only 250w in mmapeak and mamf-finder
github.com/KohakuBlueleaf/Ko…
Confirmed that 3090 unlock is successful
with 360watt power wall, I got 75T -> 135T (measured in Pytorch)
Which is insane
I used github.com/Zagitta/gpu-unloc… with commit a9b0c75
MOSS-Imageでペン画っぽい画像を出すのに苦戦していてプロンプト力の弱さを感じている(;･∀･) LLMと相談して、
The artwork is drawn in refined Japanese manga G-pen linework, expressive pressure-sensitive nib strokes, bold tapered outlines, thick-to-thin transitions, sharp flicking strokes, elegant fine details. Avoid heavy black fills, avoid rough sketchy strokes. Pure black lines on a white background, monochrome, elegant, polished, expressive, high-quality line art.
で添付くらいまで来た。SFTは画風が固定されちゃうのでbase使用。
🤖 Made with AI
