どうもこんなしみったれた所にお運びありがとうございます。人生の為になるような事はなぁーんにもつぶやきませんですが、これも酔狂ってぇいうことでどうぞ一席、お付き合い願えればと存じます。 npub1ag4yyelpv4ru2tcu0va7vhu87p8anp5duxvfwckp9lx5v65783zqm7ylm4

水辺
Joined April 2008
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。 xitter.cf/pju/status/21088500070… Hermes Agent 雑セットアップガイド for Windows xitter.cf/pju/status/21107085031… #地元のLLM DGX Sparkの動的温度制御 xitter.cf/pju/status/21115931943… 倍々Spark病について xitter.cf/pju/status/21086733312… ローカルLLMは盆栽説 xitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
11
1
138
6,629
Pju Runs 地元のLLM retweeted
Je suis rentré hier du Japon, après environ trois semaines sur place. Drôle d'impression que de s'y trouver au moment des manifestations du 17 octobre. Et aussi pendant les prises de bec entre Français et Japonais que j'entrapercevais à chacune de mes connexions sur X, ce qui n'arrangeait rien à l'étrangeté de la situation. Au risque de surprendre ceux qui pensent qu'ils nous détestent tous (merci la bulle des réseaux sociaux), je vous certifie que ce n'est pas du tout le cas. La France est partout. Surtout dans les grandes villes, où notre langue sert souvent à baptiser ce qui se veut un peu raffiné, qu'il s'agisse de restaurants, de vêtements, de design, etc. Bien sûr, les images du 17 octobre en ont probablement choqué beaucoup. Mais d'après les conversations que j'ai pu avoir, la violence de nos mouvements sociaux ne surprend plus vraiment là-bas. Vu du Japon, ce genre d'événement paraît tout simplement impossible, parce que la société japonaise repose sur un rapport au collectif très différent du nôtre. Chacun semble veiller à ne pas déranger l'autre, dans les transports comme dans la rue ou les files d'attente. Personne ne jette rien par terre (alors même que les poubelles ont disparu des rues depuis les années 90). Dans le métro, on parle à voix basse. Et les piétons attendent sagement que le feu passe au vert pour traverser, même quand aucune voiture ne pointe à l'horizon. Alors casser une vitrine ou incendier du mobilier urbain, l'idée paraît presque irréelle. Écouter les informations françaises post-17 octobre en me baladant dans les rues tranquilles de Takayama, je vous assure, c'était un contraste saisissant. Je ne dis pas ça parce que les Japonais seraient incapables de colère ou de désaccord. Simplement, tout ça passe par d'autres canaux, plus discrets. Il faut d'ailleurs se garder de tout angélisme vis-à-vis du Japon. Dans les années 1960, le pays a connu des mouvements sociaux très durs, avec par exemple les mobilisations étudiantes contre le traité de sécurité nippo-américain. Le Japon n'est pas figé dans une harmonie éternelle et la pression sociale qui s'exerce via le conformisme poussé à l'extrême a quelque chose d'étouffant. Reste que l'écart avec la France d'aujourd'hui frappe, et qu'il nourrit chez beaucoup de Japonais une forme de "perplexité" bien plus que de l'hostilité. C'est peut-être ce qui m'a le plus marqué lors de mon séjour : cette perplexité cohabite avec une admiration intacte pour ce que la France représente à leurs yeux, de la gastronomie à la littérature en passant par la mode et l'art de vivre. À Tokyo comme à Kyoto, les boulangeries françaises sont prises d'assaut. J'ai aussi croisé plus d'une personne capable de citer un film de Luc Besson (ils ont vraiment un truc avec ce réalisateur, c'est dingue). Ce que je veux dire, c'est que la réalité est bien plus nuancée que ce que laissent entrevoir quelques échanges acerbes sur X. Le terrain relativise souvent les tensions !
73
107
9
1,760
150,458
本当にそう、オマケの強力さと日本語の流暢さもあいまって、これさえできたらUltraに増枠する可能性すらある
AI Proプランのサブスク枠を他ハーネスで正式に使わせてください
34
いみじくもMIA様が曰うている通り、CUDAがないのでDecodeが速い以外に遊び甲斐が無さそうなんだよな。唯一最大の魅力とも言えるけど。大メモリMacを使うAIコミュニティ人口はSpark側よりグッと少ないと想像するので🍎がどの程度本気で推論周りのエコシステムを整えてくるかに割と依存する所はあるよね
38
言うて大したことしてないので、そこそこ賢くて日本語を含む多言語が上手なモデルが、そこそこの速度のprefillとdecodeで安定的に回せれば全然オッケーな気がするんだけど、HW能力的にそこに至るまでのラインが昨今の値上げでどんな構成でも倍くらいになっちゃった印象がある。逃げ場無し
32
TP4、MIA様にもお薦めされたのでやってみよまい、と思ってはいるんだけども、まずケーブル発注しないとかんね…。
1
109
とりあえず見積もり取った
1
43
爆速で見積もり返ってきたので光速でケーブル追加発注した 来週には来て欲しいな
18
100%, and also looking forward for Mac ecosystem to get mature in local AI - more choices, the better
I'd take 4x DGX Sparks over M5U 512 GB any day! The system is so mature right now, and works so well, it will take YEARS for the Mac to get this good, if ever. You can't get with one Mac the versatility you have with 4 Sparks. You just can't. I can decide to run 2 models per 2 Sparks, or 1 model on all 4 Sparks, or 1 model on one Spark and another model on 3 Sparks. What about diffusion models? Image and video generation. How will that work if you run image gen on your Mac but also want to use an LLM? The versatility of the DGX Sparks is insane! Also, CUDA.
43
これ聴きながらエアロバイク漕いでる。ハッピーになる。それにつけても有酸素つまんないのでおすすめのアガるトラックやらプレイリストやら教えてほしい。 on.soundcloud.com/MBf4PNrh0b…
1
51
お願いマッスルも結構アガるね
22
おー、M5U 512GBとうとう出たのね。箱一つで512GBは素敵だけれど、要るかと言われたら今回はパスかなぁ。にしても高い!
53
にしても、もともと自宅・実家ともにネットワーク内リソースのメンテは私が手動でやる前提でもろもろ整備してきたけど、ここ数ヶ月でほとんどAIにお任せで管理できるようになってしまった。それも多分自分が手でやるよりずっとセキュアで手の掛からない形で。ありがたい。
1
209
実家のネットワークに配置したtailscale ゲートウェイ用ミニPCを経由して、実家のネットワーク内リソースのセキュリティ診断を使い魔にやらせてる。にしても当時2万円くらいで買ったN100ミニPCに16GBもメモリが載っててビックリ。そんなに昔の事ではないと思うんだけどなぁ
85
テキサスのバーベキューは本当に良いものですね。moist brisketが一番好き。
1
117
Pju Runs 地元のLLM retweeted
千葉県富里市にあるT's BBQという店に行きなさい 本格テキサスBBQが堪能できる 店長はテキサスまでいって本場のBBQを学んできた人だ そしてそこには 「ブリスケット重」もある まさに日米の融合だ 決して安くはないけど、是非 tsbbq-japan.com/?fbclid=PAb2…
やべーぞ… アメリカ人がアメリカオリジナルの「牛丼」を作り始めやがった… あの日本固有の合法ドラッグ「牛丼」を… 日本が国際的な批判に晒されてしまう… 所でそのBBQ牛丼を日本にも送ってほしいです。たぬ。
5
835
27
2,019
63,679
Pju Runs 地元のLLM retweeted
【発表】JAL、顧客情報9万2千人分流出か パスポート番号も news.livedoor.com/article/de… 日本航空は28日、旅客サービスシステムの委託先が不正アクセスを受け、延べ約9万2千人分の顧客情報が流出した可能性があると発表した。このうち約2千人はパスポート番号や国籍なども漏えいした恐れがある。
161
7,840
2,547
16,901
2,839,616
DGX Spark、シルバーウィークに5000ドルくらいで買ったのが嘘みたいだなぁ
4
282
vLLM 0.30 FP8 KVで1M ctx, c=5までは行けたけど、なんか並列度が高くて長文脈の時に激烈に遅い。chunked prefillきちんと設定してるはずなんだけどなぁ。一旦区切って紹介してもらったAtlasレシピを試してる。
1
1
48
Atlasレシピはなかなか良さそう。KVキャッシュプール周りの調整はデフォルトから入れたほうが良さそう。私の用途だと日本語が若干理解しづらかったのでDSV4.1Fに切り戻し。
18
キング牧師の演説くらい感動した。アメリカンスピリットがここにある。アメリカはまだ大丈夫だ。
世界中で話題になっているこの動画。やはり機械翻訳には任せられないし、当のアメリカ国民や、他の民主国の人びとに「アメリカ史に遺る最も重要な動画の一つ」と言わしめる動画なので、自分の言葉で訳し、伝えたいと思い、作業しました。敢えてクレジットは入れていないので、ご自由に利用ください。
1
2
8
295
この動画を見て、日本人にもできるはずだ、という反応があるみたいだけど、それはちょっと違うんじゃないかな…。 アメリカはあくまでも人工国家というか、北米に移住してきた人たちが国家を「造った」という成り立ちがあるのに対して、日本はその昔から「あった」わけで。要するに、勝ち取ったのかそもそもそこにあったのかの意識が根底から違う。日本人も国民主権国家の国民として自らの権利に対してもっと自覚的であるべき、という観点には賛成。行動に移すべき、については投票行動の話であれば賛成。アメリカ的な革命権の話については日本の文脈においては必ずしも賛成しない。
1
2
41
いずれにせよ、私はアメリカの、命にかけても国民の自由と主権を手放さないという意思と、国民は最終的に正しい判断をするはずという根底の性善説に共感するし、それが本当の意味でアメリカという国をGreatな国にする根幹だと信じているので、現大統領のスローガンが彼の意思とは違う形で発露していることに心からの感動と安堵を覚えている。
25
しかし、使い魔に用件を放り投げてしばらくおまかせみたいなユースケースなのであまりtok/sを追い求める意味なかったりもするんだよなー。量子化がキツくないモデルが動くのは魅力ではあるけど、EXL3量子化もなかなか良いしなぁ。TP2にしといて、もう2台は完全におもちゃとして使えるのも捨てがたい。
1
130
稼働ログをよくよくみていると、使い魔との会話中でも、使い魔がコマンド呼んでその結果待ちしてたりすると推論はやってないんだよね。私しか使ってないし、昔からサブエージェントあまり使わない派なので。むしろアイドル時間の方が長いのでは…?
56