Doctor of Science & Master of Tech Mgmt | Research Director of Cybozu | Contributor of ⿻Plurality
Joined April 2007
- Tweets56K
- Following7.3K
- Followers17.4K
- Likes29.6K
Pinned Tweet
書きました！ n月刊ラムダノート「特集：計算とは何か」「社会を人間による計算として考える」（西尾泰和 著）
ここ数年のデジタル民主主義やAudrey TangのPluralityなどの発展を、計算機科学に軸足のある視点から描写した他に類を見ない記事だと思います！
lambdanote.com/blogs/news/n-…
今年はこのプロジェクトのメンターをやっていました。成果報告会では結構面白い話が聞けるんじゃないかと思います。
🧩 未踏ジュニアPJを紹介｜11/8成果報告会
Monikaは、AIエージェントが使う知識管理のツールチェインを作るプロジェクトです。大量の文書を扱うために、長期的な記憶が十分ではないLLMを支えます。
現地での観覧を申し込むには:
jr.mitou.org/final
「囲碁のルールなんか簡単なんだからさっさとプレイしたらいいのに」派と「囲碁のルールを聞いてるのに誰もまともに教えてくれない」派は"ルール"という言葉の定義が食い違っていて、その根底には"ゲーム"という言葉の解釈にズレがあるからなのではないか仮説
ところで沖縄囲碁連盟が"30級から初段までのロードマップ"という記事を書いてて、SNSでよく解説される「二眼あれば生き」「それを潰す三目中手について」みたいなのは22級なんだよね。レベル1とするならレベル9。
igo-rairai.com/shodan-naruni…
面白い、1次元つぶすだけで拒否傾向をなくせた時代ももうすぐ終わるのかも
DeepSeek(深度求索)はどうもArditi et al. 2406.11717からなるAbliteration系の無検閲化に対する一定の対抗策を見つけたらしい
これまでは単純に拒否する時に発火している内部表現を使ってウェイトに対して単一のベクトル介入で無検閲化できたんだが，
どうやらその際に判断系のウェイトを巻き込むように学習されている可能性がある
結果として著しく性能が落ちたり，ループに陥るため，これを回復するために元のモデル出力を使って追加のSFTが必要となってしまって，結局拒否しないようFTやRLHFするように莫大なコストがかかるようになってしまうので，これまでのようにコミュニティの演算資源やクラウドGPUを用いた無検閲化モデルは少なくなる可能性が高いんじゃないのかな
PHPの任意コード実行の脆弱性を修正していないサーバに侵入して脆弱性を修正する活動、現行法ではNGだし立場的にはお薦めしちゃいけないんだと思うけど、個人的には世界を少しでもより良くするために技術が何をできるか考えて実行してる人たちには幸福が訪れるといいなと思う。
警察もそういう人たちを逮捕するなんて無粋なことはしないでほしいな〜と思う反面、法治国家として雰囲気でルールの運用を歪めたらダメだろという気もするし、とはいえ法律なんて過去の議論の産物であり現在の現象が想定を超えて進む時には無力〜とも思い、でも悪法も法か〜と心が乱れている
部品の再利用は実装コストが安く、その代わりに脆弱性の影響範囲が広がって対応コストは増えていた。今までは実装コストが高かったのでそれでも再利用が正当化されていた。AIによって実装コストが下がったことでこのトレードオフの上の均衡点は移動する。
