Pinned Tweet
Hermes Agent自身に読ませる Hermes Agent初期設定ガイド
これを読むと人格が生えたり長期記憶ができたり、エージェントとノートの共有ができます。合計で月20ドルくらいのサブスクが前提になってます。
xitter.cf/pju/status/21088500070…
Hermes Agent 雑セットアップガイド for Windows
xitter.cf/pju/status/21107085031…
#地元のLLM DGX Sparkの動的温度制御
xitter.cf/pju/status/21115931943…
倍々Spark病について
xitter.cf/pju/status/21086733312…
ローカルLLMは盆栽説
xitter.cf/pju/status/21094083358…
なんか思ったよりAIエージェントに記憶を持たせたりノートを共有したりに興味のある方が多そうだったので、私のエージェントから皆さんのエージェントへのお手紙を、私のエージェントと一緒に書いてみました。まずHermesをセットアップして、新米エージェントに読ませてあげてください。#地元のLLM
Pju Runs 地元のLLM retweeted
Je suis rentré hier du Japon, après environ trois semaines sur place.
Drôle d'impression que de s'y trouver au moment des manifestations du 17 octobre.
Et aussi pendant les prises de bec entre Français et Japonais que j'entrapercevais à chacune de mes connexions sur X, ce qui n'arrangeait rien à l'étrangeté de la situation.
Au risque de surprendre ceux qui pensent qu'ils nous détestent tous (merci la bulle des réseaux sociaux), je vous certifie que ce n'est pas du tout le cas.
La France est partout. Surtout dans les grandes villes, où notre langue sert souvent à baptiser ce qui se veut un peu raffiné, qu'il s'agisse de restaurants, de vêtements, de design, etc.
Bien sûr, les images du 17 octobre en ont probablement choqué beaucoup. Mais d'après les conversations que j'ai pu avoir, la violence de nos mouvements sociaux ne surprend plus vraiment là-bas.
Vu du Japon, ce genre d'événement paraît tout simplement impossible, parce que la société japonaise repose sur un rapport au collectif très différent du nôtre. Chacun semble veiller à ne pas déranger l'autre, dans les transports comme dans la rue ou les files d'attente.
Personne ne jette rien par terre (alors même que les poubelles ont disparu des rues depuis les années 90). Dans le métro, on parle à voix basse. Et les piétons attendent sagement que le feu passe au vert pour traverser, même quand aucune voiture ne pointe à l'horizon.
Alors casser une vitrine ou incendier du mobilier urbain, l'idée paraît presque irréelle. Écouter les informations françaises post-17 octobre en me baladant dans les rues tranquilles de Takayama, je vous assure, c'était un contraste saisissant.
Je ne dis pas ça parce que les Japonais seraient incapables de colère ou de désaccord. Simplement, tout ça passe par d'autres canaux, plus discrets.
Il faut d'ailleurs se garder de tout angélisme vis-à-vis du Japon. Dans les années 1960, le pays a connu des mouvements sociaux très durs, avec par exemple les mobilisations étudiantes contre le traité de sécurité nippo-américain.
Le Japon n'est pas figé dans une harmonie éternelle et la pression sociale qui s'exerce via le conformisme poussé à l'extrême a quelque chose d'étouffant.
Reste que l'écart avec la France d'aujourd'hui frappe, et qu'il nourrit chez beaucoup de Japonais une forme de "perplexité" bien plus que de l'hostilité.
C'est peut-être ce qui m'a le plus marqué lors de mon séjour : cette perplexité cohabite avec une admiration intacte pour ce que la France représente à leurs yeux, de la gastronomie à la littérature en passant par la mode et l'art de vivre.
À Tokyo comme à Kyoto, les boulangeries françaises sont prises d'assaut. J'ai aussi croisé plus d'une personne capable de citer un film de Luc Besson (ils ont vraiment un truc avec ce réalisateur, c'est dingue).
Ce que je veux dire, c'est que la réalité est bien plus nuancée que ce que laissent entrevoir quelques échanges acerbes sur X.
Le terrain relativise souvent les tensions !
いみじくもMIA様が曰うている通り、CUDAがないのでDecodeが速い以外に遊び甲斐が無さそうなんだよな。唯一最大の魅力とも言えるけど。大メモリMacを使うAIコミュニティ人口はSpark側よりグッと少ないと想像するので🍎がどの程度本気で推論周りのエコシステムを整えてくるかに割と依存する所はあるよね
言うて大したことしてないので、そこそこ賢くて日本語を含む多言語が上手なモデルが、そこそこの速度のprefillとdecodeで安定的に回せれば全然オッケーな気がするんだけど、HW能力的にそこに至るまでのラインが昨今の値上げでどんな構成でも倍くらいになっちゃった印象がある。逃げ場無し
100%, and also looking forward for Mac ecosystem to get mature in local AI - more choices, the better
I'd take 4x DGX Sparks over M5U 512 GB any day! The system is so mature right now, and works so well, it will take YEARS for the Mac to get this good, if ever.
You can't get with one Mac the versatility you have with 4 Sparks. You just can't. I can decide to run 2 models per 2 Sparks, or 1 model on all 4 Sparks, or 1 model on one Spark and another model on 3 Sparks.
What about diffusion models? Image and video generation. How will that work if you run image gen on your Mac but also want to use an LLM?
The versatility of the DGX Sparks is insane!
Also, CUDA.
これ聴きながらエアロバイク漕いでる。ハッピーになる。それにつけても有酸素つまんないのでおすすめのアガるトラックやらプレイリストやら教えてほしい。
on.soundcloud.com/MBf4PNrh0b…
にしても、もともと自宅・実家ともにネットワーク内リソースのメンテは私が手動でやる前提でもろもろ整備してきたけど、ここ数ヶ月でほとんどAIにお任せで管理できるようになってしまった。それも多分自分が手でやるよりずっとセキュアで手の掛からない形で。ありがたい。
実家のネットワークに配置したtailscale ゲートウェイ用ミニPCを経由して、実家のネットワーク内リソースのセキュリティ診断を使い魔にやらせてる。にしても当時2万円くらいで買ったN100ミニPCに16GBもメモリが載っててビックリ。そんなに昔の事ではないと思うんだけどなぁ
Pju Runs 地元のLLM retweeted
千葉県富里市にあるT's BBQという店に行きなさい
本格テキサスBBQが堪能できる
店長はテキサスまでいって本場のBBQを学んできた人だ
そしてそこには
「ブリスケット重」もある
まさに日米の融合だ
決して安くはないけど、是非
tsbbq-japan.com/?fbclid=PAb2…
Pju Runs 地元のLLM retweeted
【発表】JAL、顧客情報9万2千人分流出か パスポート番号も
news.livedoor.com/article/de…
日本航空は28日、旅客サービスシステムの委託先が不正アクセスを受け、延べ約9万2千人分の顧客情報が流出した可能性があると発表した。このうち約2千人はパスポート番号や国籍なども漏えいした恐れがある。
vLLM 0.30 FP8 KVで1M ctx, c=5までは行けたけど、なんか並列度が高くて長文脈の時に激烈に遅い。chunked prefillきちんと設定してるはずなんだけどなぁ。一旦区切って紹介してもらったAtlasレシピを試してる。
この動画を見て、日本人にもできるはずだ、という反応があるみたいだけど、それはちょっと違うんじゃないかな…。
アメリカはあくまでも人工国家というか、北米に移住してきた人たちが国家を「造った」という成り立ちがあるのに対して、日本はその昔から「あった」わけで。要するに、勝ち取ったのかそもそもそこにあったのかの意識が根底から違う。日本人も国民主権国家の国民として自らの権利に対してもっと自覚的であるべき、という観点には賛成。行動に移すべき、については投票行動の話であれば賛成。アメリカ的な革命権の話については日本の文脈においては必ずしも賛成しない。










