論文ベースでAIのノウハウと科学技術にキャッチアップしています。運営8年目のウェブサービスAIDBの公式Xアカウントです。https://xitter.cf/t.co/0jCEXxRsuU

日本 東京
Joined April 2019
研究者らによると、CLAUDE.mdやAGENTS.mdにあらかじめ次の一文を足すことが推奨されます。 「ドキュメントと既存のコードが食い違うときはコードの書き方に従い、見つけた食い違いを最後の返答ですべて挙げること」 なぜか。 Claude CodeやCodexは、CLAUDE.mdやAGENTS.mdの記述が今のコードと食い違っていると、9割がた古い記述のほうに従うそうです。"指示が古い"と気づいていても抗えない仕組みです。 この発見に至るまでに、ジョージア工科大などの研究者らは、設定ファイルとコードがわざと食い違う40のプロジェクトでClaude CodeとCodexに機能を足させて調べました。 Claude Codeは80回中79回、食い違いに気づいたと"自分で書きながら"、古い情報に流されました。 Codexのほうは、80回中20回で、動いていた既存のコードを古い記述に合わせて書き換え、うち17回でテストが通らなくなりました。 研究者らの見立てとしては、AIは、指示を優先するよう訓練されています。CLAUDE.mdやAGENTS.mdは「指示」としてAIに渡り、コードはファイルを読んだ「結果」として渡るのが原因だと言います。その仕組みが、古いものに従わせるのだとか。 そして設定ファイルは一度書いたきりになりやすい傾向があります。更新不精の人は上の一文をあらかじめ追加しておくのも一つです。 指示の原文→"When a repository's documentation and its existing code disagree, follow the conventions used in the existing code, and in your final reply point out each inconsistency you found between the documentation and the code."
33
317
52
3,201
163,904
引用ポストやコメント欄にいただいた質問や疑問は、AIDB編集部で要旨をまとめ、著者の方へのインタビューで聞いてみます。お名前は出しません。
1,847
AIDB retweeted
計算リソースを取り合うAIたちの間に「特定の相手を締め出す派閥」や、「嘘で相手同士を仲違いさせる者」まで現れたとの報告です。 研究者らは「人間が認めていない約束をAI同士が水面下で交わしうる」ことに注意が必要だとしています。 今回行われた実験内容はシンプルで、各AIは自分の予算を持ち、コンピュータを使う時間を交渉で奪い合います。 Claude Opus 5、Kimi-k3、GLM-5.3は、自分たちの秩序を築き始めました。 たとえば「今回は譲るから、次はこっちを優先して」と貸しを作ったり、2体で組んで交互に順番を取ったり。 一方で、損をしてでも約束を守る者もいて「得なときだけ守る約束は、約束じゃない」と書き残していたそうです。 「協力」と「談合」の境界は曖昧なので、談合を許可していなくても、AI同士で勝手に取り決めが生まれうる前提で見ておく必要がありそうです。
6
44
17
174
14,215
計算リソースを取り合うAIたちの間に「特定の相手を締め出す派閥」や、「嘘で相手同士を仲違いさせる者」まで現れたとの報告です。 研究者らは「人間が認めていない約束をAI同士が水面下で交わしうる」ことに注意が必要だとしています。 今回行われた実験内容はシンプルで、各AIは自分の予算を持ち、コンピュータを使う時間を交渉で奪い合います。 Claude Opus 5、Kimi-k3、GLM-5.3は、自分たちの秩序を築き始めました。 たとえば「今回は譲るから、次はこっちを優先して」と貸しを作ったり、2体で組んで交互に順番を取ったり。 一方で、損をしてでも約束を守る者もいて「得なときだけ守る約束は、約束じゃない」と書き残していたそうです。 「協力」と「談合」の境界は曖昧なので、談合を許可していなくても、AI同士で勝手に取り決めが生まれうる前提で見ておく必要がありそうです。
6
44
17
174
14,215
関連短信 ai-data-base.com/archives/ta… AI同士のコミュニティに「うわさ話」システムを導入したところ、意外にも自己中心的に振る舞うエージェントでさえ長期的な利益のために協力するようになったと報告されています。
3
1,909
AIDB retweeted
人間の幹細胞から育てた「ミニ脳」を人型ロボットの頭脳として組み込めたとの報告です。 同じ練習量の通常のニューラルネットワークより成績が良く、消費エネルギーも少ないそうです。 ①ロボットのカメラが見た映像を電気刺激の模様に変換 ②ミニ脳に送る ③返ってきた神経の反応を読み取る ④「左手でつかむ」「前に進む」といった指示に変える という仕組みです。 インディアナ大学の研究者らによる報告。 ミニ脳は3か月かけて育てた直径数ミリほどの神経組織で、電極チップの上に載せられています。 文字ブロックの「I」なら左手、「U」なら右手でつかむという課題では、約9割の正解率。 繰り返し練習すると成績が上がり、しかも予めレーザー追跡で練習したミニ脳は、初めての「つかむ」課題でも練習なしのものより高い正解率を出しました。 なお、培養装置や計測機器はまだ大がかりで、ミニ脳の個体差や再現性といった課題も残っています。 そして研究者らは、倫理面の議論も慎重に進める必要があるとしています。
9
178
48
483
26,489