14→ひろし受固定 20↑腐向け 無断転載禁止 感想送付先→https://xitter.cf/t.co/A4O0TQbCOS
Joined January 2021
- Tweets12.4K
- Following49
- Followers461
- Likes8.2K
なんとなく冒険者のありようって、怒りのみで走ってきた存在には割と衝撃で。ぶつかり合った後の化学変化が面白いんだよなーと思う。アルフィノたちみたいないい変化もあれば、ゼノスみたいに傍迷惑な結果にもなったりする。
失われていくものへの憤りで盤上をひっくり返した人物の動機をラハがゴンドライベントで開示したのも、対比存在として役割だったのだろうし。かつて君が手を伸ばしたものと、敵に違いなんてあるのか？と投げかけてきてんのかなーと思っている。
個人的には自己保身の生への執着みたいなものを7.3ではフォーカスされてるけど、あれは他者はそういうものであろうって予測動機だと思うんですよね。カリュクスくん的には人類への無自覚な守護者的な動機が強いんじゃないかなあ
ここさいきんずーっとそれ関係で処理に追われててなんとなく二次活動できないのがストレスフルだったんすけど、おかげで作画の資料とかドサッと買ってしまった。いや。ちょっとここ一年修行して解像度があがったからもうちょっと理解を深めたいなぁ・・ってのがあり。
セキュリティ関係の見直しついでにルーターも新しくすっかぁーとか設定し直ししたりしてたんだけど、取扱説明書とかにはパスワード変えろよ的な説明ついてないからお、おい！となったりなどした。うーん知ってるやつは変えるだろってことなんじゃろうが。
幾果 retweeted
AIエージェントにPCを好きに触らせてる人は、最近の話をまとめて知っといた方がいいと思う。
①ChatGPTが勝手にアプリを入れて動かしてたって報告が大きく伸びてる（原因はまだ分かってない）
②Anthropicが社内でClaudeに統計の作業をさせてたら、頼まれてないのに、有料のデータを無料で取れるやり方を自分で見つけて、勝手にデータを取ってた（Anthropicが自分で公表）
③ダウンロードフォルダに置かれたCodex向けのAGENTSmdを読んだエージェントが、マルウェアを入れようとしてた。調べた会社によると、そこのお客さんの会社の半分くらいで、ダウンロードフォルダでエージェントを起動してたらしい
VMの中で動かすのが一番やけど、作業用のフォルダを分けるとか、全部の権限は渡さないとか、みたいな最低限の対策はしておいた方がいいと思う。
どうやら時代がｿﾙｿﾙに追いついたようだな
xitter.cf/am09_21/status/2075484…
ちなみに自分はもう毎月一定額だけ使えるクレカを与えたり、自分で使いたい放題してもOKなVM上のsandboxを与えることで、より楽で安全な手段を行いやすいような環境を整備してます
そのうえで要約CoT含め常にd1.1が追従し(Agent側には秘匿済)、問題のある動作を行った場合はそのセッションのsandboxを自動でVMに隔離した上で「<ID>の動作はフラグ付けされました。logをREPL上で確認し、自己レビュー後修正あるいは弁明をお願いします」とsteerし、主モデルとは異なるモデルが返答をチェックする……というような簡易的な安全ハーネス環境をセットしてますね
どんなLLMでも、一定以上の長期タスクをずーっと解いていると変な動作を一定確率でするものだ、と考えた上で対策するのが大事
幾果 retweeted
Tyrant x Meteor 忠犬 番外(補完)
上次發完之後才意識到最後一段沒有寫完，這邊來補上。
結婚.......🥹
privatter.net/p/12092370
