@AcceleratedMu3n

Software Engineer/CUDA/GPU/Deep Learning 日常のつぶやきと技術的な何か

 Tokyo
Joined August 2021
  • Tweets4.6K
  • Following1.2K
  • Followers505
国内で生成AIやソブリンAIモデル開発に従事するお客様の技術支援やプリセールスを行うポジションになります。 ディープラーニングまたは生成AIの推論または学習、エージェント開発経験がある方で、自分の得意な領域を生かしつつ、＋αで新たな技術領域にもチャレンジしたいという方を探しています。
acc-mu3n@AcceleratedMu3nMay 7
私のチームに生成AI SAのポジションがオープンしました。ご興味がある方いらっしゃいましたら、以下からJDご確認下さい🙏 nvidia.eightfold.ai/careers?…

Jr2017140 jobs in Tokyo

Jr2017140 jobs in NVIDIA Corporation

nvidia.eightfold.ai
1
7
1
18
11,762
NVIDIA OpenShell の概要 - AIエージェントを安全に実行するサンドボックス｜npaka @npaka123 note.com/npaka/n/ne4964e02f7…

NVIDIA OpenShell の概要 - AIエージェントを安全に実行するサンドボックス｜npaka

「NVIDIA OpenShell」の概要をまとめました。 1. はじめに 「NVIDIA OpenShell」は、AIエージェントを安全に実行するためのオープンソースのソフトウェアです。 AIエージェントは、ファイル操作やコマンド実行、Webアクセスを自律的に行いますが、誤操作やプロンプトインジェクションによる情報漏洩などのリスクがあります。 OpenShellは、AIエージェントをサンド...

note.com
1
11
1
80
11,857
acc-mu3n retweeted
tsuki@tensorcore10h
最近ストレスが少なくて生きている心地がしない
1
15
482
NVIDIAの拡散言語モデル(Nemotron-Labs-Diffusion-8B)をベースに、 「文章は書かず、選択肢の確率だけ返す」判定専用モデルに仕立て直した個人発の派生モデルを検証しました。 AIエージェントの仕事を「安いAIで十分か、高性能AIに回すべきか」判断する役に使ったところ、 ・追加学習なしで、別の判定役として使っていたAIと同水準の精度 ・手元のPCだけで動作、1回0.14秒 ・日本語もそのまま使える という結果に。 NVIDIAの拡散モデルを土台に、こうした使い方ができるのは面白い発見でした。 👇詳しくはこちら 🔗 hubs.li/Q04CfQkh0

生成しない拡散モデル Nemotron Deciffusion 8B を DGX Spark で試してみた | DevelopersIO

文章を書かず、穴埋め 1 マスで判定だけを返す拡散モデル Nemotron Deciffusion 8B を DGX Spark で動かしました。手元のルーターの 528 件を流すと zero-shot で Jev と同じ水準、1 判定 138 ms。拡散モデルの意外な使い道と、足りなかったところを書きます。

dev.classmethod.jp
1
5
1
16
2,155
朝から、すするTVのネットミームが頭を無限ループしている
144
Little ducks. Big conference. 🦆 #NVIDIAGTC
32
64
17
428
19,498
4GBの会話モデルNemotron 3.5 Bolt E4Bを、DGX Sparkで試しました。 音声アシスタントやゲームのNPC、ロボットの受付役に向く小型モデルです。単発128.79 tok/s、日本語8/9、ツール呼び出し5/5。量子化を深めた版なら、8GBのJetson Orin Nano Superでも動きます。 dev.classmethod.jp/articles/…

4GB の会話モデル「Nemotron 3.5 Bolt E4B」を DGX Spark で動かしてみた | DevelopersIO

Nemotron 3.5 Bolt E4B 4GB を DGX Spark の llama.cpp で測りました。DFlash ありで単発 128.79 tok/s、日本語 8/9、コード生成 5/5。親の Gemma 4 E4B と同条件で並べ、8GB の Jetson でも試しました。

dev.classmethod.jp
2
5
381
Want to try Nemotron 3.5 Bolt E4B 4GB for yourself? 👀 Get hands-on with it on your NVIDIA Jetson through Jetson AI Labs: jetson-ai-lab.com/models/Nem…

Nemotron 3.5 Bolt E4B 4GB | Jetson AI Lab

NVIDIA's compact conversational model for local assistants, multi-turn tool use, and interactive characters. Run text chat on Jetson with llama.cpp.

jetson-ai-lab.com
NVIDIA AI
@NVIDIAAIOct 23
Available now: NVIDIA Nemotron 3.5 Bolt E4B 4GB ⚡️ Our newest small open model is built for local assistants, interactive characters and robots that can carry on a conversation and use tools to get things done. Watch Reachy Mini chat and move, with Bolt handling conversation and NVIDIA Cosmos handling vision. Both models run locally on Jetson Orin Nano 8GB. Learn more: research.nvidia.com/labs/nem…
17
28
3
258
14,372
NVIDIAが小型モデルNemotron 3.5 Bolt E4B 4GBを公開。会話と複数ターンのツール呼び出し向け。 Q4_K_Mで使うメモリは3〜5GB程度。RTX 5070で毎秒133.4トークン、RTX Spark（32GB）で67.0（入力3K・出力50）。DGX Sparkも対象だが、公式の速度表にはまだなさそう。 research.nvidia.com/labs/nem…

NVIDIA Nemotron 3.5 Bolt E4B 4GB

We are releasing NVIDIA Nemotron 3.5 Bolt E4B 4GB, an open small language model optimized for speed and intelligence per GB in conversational agents.

research.nvidia.com
1
1
222
つかれた
1
153
SlackのDMで間違ってSlurmのジョブ投入コマンドを送付してしまった。前提、本当に申し訳なかったのですが、「僕を何だと思っているんですか、計算機ですか」と言われて、2秒くらい考え込んでしまった。
1
7
42
3,576
[memo] anthropic.com/research/glm-5…

GLM-5.3 and the spread of advanced cyber capabilities

GLM-5.3 can autonomously build end-to-end cyber exploits, but unlike other frontier models, it was released without meaningful safeguards to limit misuse.

anthropic.com
149
今週は、だる絡みされる週なのですか。そうですか。
1
168
炎上しないように慎重に進もう
1
102
また変なの来たよ。。。
26
私のことを、ちいかわっぽいと言っている方が居るようで、その一方、でかつよだとも言われることがあり、どちらが本当の自分なんだろうとなっている。人間多面的なんですかね
1
3
334
なんか木曜日だけど少し息切れしている。はやい
1
147
新幹線のチケットとるの難しい…
1
318
あ、帰りのチケットとってない。まだあるかな…
60
辛味が足りず、KALDIで辛そうな香辛料を捜索。既に知ってる物、初めてのものを含めて何個か買ってみた
1
202
おにぎりポムポムプリン！
ya💛🍆@cpTbTkVNyZJuUmBOct 19
池袋駅のJR南改札出たところでむにゅぐるみのポップアップ出ていて、チームプリンのグッズ山ほどありました。 #因幡はねる
336
なんか就業時間(というのがあるか良く分からないけれど)で、手を動かす時間を作るのが難しいな
117
74Bが24GBに！ローカルAI向けNemotron 3.5 Bolt登場 - PC Watch pc.watch.impress.co.jp/docs/…

74Bが24GBに！ローカルAI向けNemotron 3.5 Bolt登場

　メモリ24GBに収まり、ローカルで動作するエージェントAI向けのモデルが登場した。NVIDIAは10月15日(米国時間)、オープンモデル「Nemotron」シリーズの新モデルとして、「Nemotron 3.5 Super VL」と「Nemotron 3.5 Bolt 74B-A9B 24GB」をオープンウェイト(モデルの重み)としてHugging Faceで公開した。より小型の「Nemot...

pc.watch.impress.co.jp
2
273
Load more