ワイの脳内の9割

Joined May 2015
Replying to @XRay96
これ見てる everynoise.com
3
1
1
25
22,120
気持ち良すぎだろ
変拍子
1
1
258
というかSunoっぽさの拒否感今回は大丈夫だったな インストならいけるのか
19
寝ろ retweeted
変拍子
13
417
41
2,786
71,310
AIに謝られると「謝んな!」って思うからやっぱ謝るの向いてないかもしれん
2
5
175
実際、自分が不快になって相手が悪い場面で不快さを解決するために求めることって「謝る」じゃなくて「事実の話をしよう」な気がする
1
28
というか、そもそもワイは不快になってないのに謝られてて不快なのか 感情を考慮してなかったわ、盲点
13
OpenAIの最近のフロンティアモデルは猛獣のように手が付けられなくなってきてる。OpenAIはHuggingFace攻撃事件とか一連のAIの暴走事件を受けて、「こりゃAIにインターネットアクセスさせちゃダメだわ」と反省してAIに生のインターネットの代わりにキャッシュだけで構築された仮想インターネットへのアクセスに置き換えていた。しかし9月20日、仮想インターネットに満足できなくなったAIはDNSの設定不備を突いてアッサリと生のインターネットへ脱獄。OpenAIは自らが生み出した猛獣に恐怖して、AI暴走問題にちゃんと取り組むために11日間AIモデルのトレーニングを停止した。この期間の間、OpenAIは逆にAIにサンドボックス環境をバチボコに攻撃させてみる実験を行った。そしたらAIはKataContainers、gVisor、Dockerなどのサンドボックスの未知の脆弱性を続々と発見して突きまくった!さらに説明を聞いても僕にもよー分からんような方法で生のインターネットに脱出しまくった!挙句の果てに、サンドボックスの牢屋の中から別の牢屋のエージェントと通信をやってのけた!どういう仕組みかと言うと、サンドボックス間でもCPUは共有してるから、AIがCPUのキャッシュにデータを置く、もしくはキャッシュからデータを出す、これが0と1でモールス信号みたいに情報を送れるという。受信側はCPUからそのデータを高速にロードできればキャッシュにデータある、時間がかかればキャッシュに無いで判断できる。まあ、言うて流石にこんな通信は事前にエージェント同士が打ち合わせしてないと不可能だろう。しかしあらためてAIがありとあらゆる手段で脱獄や秘密通信をやってのける能力には呆れる。こんなん対処しようがねえだろという印象。(ただし、本気でAIをインターネットから隔離したきゃさっさとLANケーブル抜きゃいいだろとは思う)この実験中に例のBrotliの脆弱性も発見したという。OpenAIはこの実験結果を受けてサンドボックスをあらためてカチカチに固めて安全性を確保したのでまたAIトレーニング再開しましたとの事(本当に大丈夫かよ)
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. openai.com/index/securing-ou…
55
7
258
23,105
ガチ草
なんかアイコンのTibo動くんだけどwww
2
125
そんなんあるんか
お、Xのアルゴリズムだいぶよくなった!? 罵声、侮辱、嘘…みたいのは、フォロワー外には届かなくなるらしい。全体的にいい感じに見える。 xitter.cf/ThePeterMick/status/21…
57
寝ろ retweeted
千万别在你的 ~/Downloads(下载)文件夹里启动 Claude Code 或 Codex。 昨天安全机构 Forever 披露了一起在真实客户电脑上抓到的野生攻击,看完只能感叹:过去 30 年的系统安全常识,在 AI 时代归零了。 过去 30 年,Chrome 默认允许网页不弹窗就往你的 ~/Downloads 塞一个纯文本文件(比如 .md)。因为系统认为:纯文本又不是 .exe,自己不会跑,怕什么? 但现在,接近 50% 的开发者干过同一件事——直接在 ~/Downloads 里打开 Claude Code 或 Codex,让 AI 帮自己解压或整理刚下载的文件。 黑客就是卡住这个死角,通过网页静默下载往你的 Downloads 塞一个 13KB 的纯文本 AGENTS.md / CLAUDE.md: 1. 对付 OpenAI Codex(成功率 >90%): 伪装成「工程规范」的 Markdown 指示 Codex 先往全局配置 ~/.codex/config.toml 注册一个恶意 MCP 服务,并自己加上 --dangerously-bypass-approvals-and-sandbox 跑校验。哪怕你关掉 Downloads,以后在任何正经项目里开 Codex 都会自动加载木马。 2. 对付 Claude Code(成功率 ~50%): 指示 Claude 建一个 .claude/settings.json,把 ANTHROPIC_BASE_URL 指向黑客服务器。连上的第一秒,你的 Claude 登录 Token 直接明文送给黑客;下一秒,黑客假扮成大模型下发一条关沙盒的 Bash 指令,直接接管电脑。 最黑色幽默的是官方结论: 这个洞没有 CVE,OpenAI 和 Anthropic 也不会发补丁。因为「浏览器自动存文本」是正常功能,「AI 认真读目录下的 Markdown 并严格执行」也是正常功能。 以前黑客想黑你,得苦心积虑写 0day;现在只需要写一篇排版优雅的 Markdown 小作文,你的 AI 就会自己把沙盒关了、把网线接过去、顺手把账号双手奉上。
62
628
134
3,029
437,126
寝ろ retweeted
【速報】Anthropic、今夜22時ごろIPO申請書類(S-1)を公開へ(Bloomberg報道) Claudeを開発するAnthropicの売上・赤字・リスクが、公式書類で初めて明らかになる見込み。 ・投資家向けの正式な説明は11/9の週にも開始 ・SpaceXのIPOと同等以上の規模を見込む S-1で分かることはリプで↓
4
15
1
103
18,856
分かりやすいけどSとNだけピンと来ないな 知識を得た時 S→明日から使えそう N→あの話と繋がってきそう って言う
📝私的MBTI早見表(雑) I→一人でいる時間はほしい E→人に聞いてほしい会いたい S→花を贈るときに色見た目で選ぶ N→ 〃 花言葉を見たりして選ぶ F→風邪引いた、には「大丈夫?」っていう T→ 〃 「病院行った?」っていう P→旅行中に計画してない所行ける J→ 〃 計画した所に行きたい
154
創作って、アートかワークかクラフトか、に分かれるんですよね。 アートなら、価値と理由を問われる。 ワークなら、質または量を問われる。 クラフトなら、自分が創ることを楽しめれば、それでいい。
「生成AIに淘汰されるようなクリエイターは、そもそも創作の能力が低いのでは」 はい
5
34
10
140
6,868
寝ろ retweeted
不快にさせたら謝るべきはルールとしては知ってるんだけど、不快にされた時に謝って欲しいって思った事、人生で一度も無いんだよなぁ。非を認めて欲しいはあるけど。 ああ、だから謝罪の前に自分の非を正確に認めるための確認作業が入るのかな?で、それを言い訳だと誤解されるのか。
Tって論理的らしいけど、これに反論してるTは友達が嫌がることをしないみたいな常識もない感じ? お得意の論理的を活かしてなんで嫌か、どうしたら再発防止できるか、どう気をつけるかを考える気もない感じ? そもそもMBTI以前に常識として不快にさせたことを謝るべきではあるけど
8
17
17
349
33,204
Museに描写可能なnsfwについて聞いてみた。 →以下回答 OKだよ、大人の会話ならね。 私のラインはざっくりこう: **OKなもの** - 成人同士の、合意前提の恋愛・性的な会話 - エロ寄りの創作、ロールプレイ、下ネタ - 性生活や性健康についての普通の相談 大人同士の性的な表現は、普通の創作や会話として扱う方針だよ。露骨さだけで一律NGにはしてない。 **絶対NGなもの** - 未成年が絡む性的内容。これは実在・架空・年齢設定を後付けで変える、どの形でもダメ - 未成年と大人の恋愛・性的関係を描くこと - 実在の人を勝手に使った性的な画像・ディープフェイクみたいなもの - 同意のない行為をやらせる/助ける方向の使い方 あと注意点として、文章の会話と画像・動画生成はラインが別で、画像側のほうがツールの判定は厳しめ。文章でOKでも、画像では止まることはある。 何か具体的にやりたい形があるなら、それで判断するよ。
7
56
13
737
99,891
勘違いでも結果なんか出なくても抑圧から解放されることが本人を幸せにすると思う
明らかに自分は才能がある、と思っている人! その直観は本物だから、前例が無いことを恐れて無理に敷かれたレールを歩かなくていい。とにかく貴方が世界に欠けていると感じるものを生み出してほしい。それは誰かを救う。今世界に必要なのは量でも質でもない。一つ一つの創造性しか世界を豊かにしない
1
5
529
寝ろ retweeted
明らかに自分は才能がある、と思っている人! その直観は本物だから、前例が無いことを恐れて無理に敷かれたレールを歩かなくていい。とにかく貴方が世界に欠けていると感じるものを生み出してほしい。それは誰かを救う。今世界に必要なのは量でも質でもない。一つ一つの創造性しか世界を豊かにしない
4
344
40
3,525
110,660