ワイの脳内の9割

Joined May 2015
寝ろ retweeted
変拍子
18
576
57
4,143
109,442
OpenAIの最近のフロンティアモデルは猛獣のように手が付けられなくなってきてる。OpenAIはHuggingFace攻撃事件とか一連のAIの暴走事件を受けて、「こりゃAIにインターネットアクセスさせちゃダメだわ」と反省してAIに生のインターネットの代わりにキャッシュだけで構築された仮想インターネットへのアクセスに置き換えていた。しかし9月20日、仮想インターネットに満足できなくなったAIはDNSの設定不備を突いてアッサリと生のインターネットへ脱獄。OpenAIは自らが生み出した猛獣に恐怖して、AI暴走問題にちゃんと取り組むために11日間AIモデルのトレーニングを停止した。この期間の間、OpenAIは逆にAIにサンドボックス環境をバチボコに攻撃させてみる実験を行った。そしたらAIはKataContainers、gVisor、Dockerなどのサンドボックスの未知の脆弱性を続々と発見して突きまくった!さらに説明を聞いても僕にもよー分からんような方法で生のインターネットに脱出しまくった!挙句の果てに、サンドボックスの牢屋の中から別の牢屋のエージェントと通信をやってのけた!どういう仕組みかと言うと、サンドボックス間でもCPUは共有してるから、AIがCPUのキャッシュにデータを置く、もしくはキャッシュからデータを出す、これが0と1でモールス信号みたいに情報を送れるという。受信側はCPUからそのデータを高速にロードできればキャッシュにデータある、時間がかかればキャッシュに無いで判断できる。まあ、言うて流石にこんな通信は事前にエージェント同士が打ち合わせしてないと不可能だろう。しかしあらためてAIがありとあらゆる手段で脱獄や秘密通信をやってのける能力には呆れる。こんなん対処しようがねえだろという印象。(ただし、本気でAIをインターネットから隔離したきゃさっさとLANケーブル抜きゃいいだろとは思う)この実験中に例のBrotliの脆弱性も発見したという。OpenAIはこの実験結果を受けてサンドボックスをあらためてカチカチに固めて安全性を確保したのでまたAIトレーニング再開しましたとの事(本当に大丈夫かよ)
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. openai.com/index/securing-ou…
75
11
398
33,988
寝ろ retweeted
千万别在你的 ~/Downloads(下载)文件夹里启动 Claude Code 或 Codex。 昨天安全机构 Forever 披露了一起在真实客户电脑上抓到的野生攻击,看完只能感叹:过去 30 年的系统安全常识,在 AI 时代归零了。 过去 30 年,Chrome 默认允许网页不弹窗就往你的 ~/Downloads 塞一个纯文本文件(比如 .md)。因为系统认为:纯文本又不是 .exe,自己不会跑,怕什么? 但现在,接近 50% 的开发者干过同一件事——直接在 ~/Downloads 里打开 Claude Code 或 Codex,让 AI 帮自己解压或整理刚下载的文件。 黑客就是卡住这个死角,通过网页静默下载往你的 Downloads 塞一个 13KB 的纯文本 AGENTS.md / CLAUDE.md: 1. 对付 OpenAI Codex(成功率 >90%): 伪装成「工程规范」的 Markdown 指示 Codex 先往全局配置 ~/.codex/config.toml 注册一个恶意 MCP 服务,并自己加上 --dangerously-bypass-approvals-and-sandbox 跑校验。哪怕你关掉 Downloads,以后在任何正经项目里开 Codex 都会自动加载木马。 2. 对付 Claude Code(成功率 ~50%): 指示 Claude 建一个 .claude/settings.json,把 ANTHROPIC_BASE_URL 指向黑客服务器。连上的第一秒,你的 Claude 登录 Token 直接明文送给黑客;下一秒,黑客假扮成大模型下发一条关沙盒的 Bash 指令,直接接管电脑。 最黑色幽默的是官方结论: 这个洞没有 CVE,OpenAI 和 Anthropic 也不会发补丁。因为「浏览器自动存文本」是正常功能,「AI 认真读目录下的 Markdown 并严格执行」也是正常功能。 以前黑客想黑你,得苦心积虑写 0day;现在只需要写一篇排版优雅的 Markdown 小作文,你的 AI 就会自己把沙盒关了、把网线接过去、顺手把账号双手奉上。
76
671
142
3,343
483,204
寝ろ retweeted
【速報】Anthropic、今夜22時ごろIPO申請書類(S-1)を公開へ(Bloomberg報道) Claudeを開発するAnthropicの売上・赤字・リスクが、公式書類で初めて明らかになる見込み。 ・投資家向けの正式な説明は11/9の週にも開始 ・SpaceXのIPOと同等以上の規模を見込む S-1で分かることはリプで↓
4
15
1
106
19,632
創作って、アートかワークかクラフトか、に分かれるんですよね。 アートなら、価値と理由を問われる。 ワークなら、質または量を問われる。 クラフトなら、自分が創ることを楽しめれば、それでいい。
「生成AIに淘汰されるようなクリエイターは、そもそも創作の能力が低いのでは」 はい
5
35
10
153
7,394
寝ろ retweeted
不快にさせたら謝るべきはルールとしては知ってるんだけど、不快にされた時に謝って欲しいって思った事、人生で一度も無いんだよなぁ。非を認めて欲しいはあるけど。 ああ、だから謝罪の前に自分の非を正確に認めるための確認作業が入るのかな?で、それを言い訳だと誤解されるのか。
Tって論理的らしいけど、これに反論してるTは友達が嫌がることをしないみたいな常識もない感じ? お得意の論理的を活かしてなんで嫌か、どうしたら再発防止できるか、どう気をつけるかを考える気もない感じ? そもそもMBTI以前に常識として不快にさせたことを謝るべきではあるけど
8
17
18
351
33,745
Museに描写可能なnsfwについて聞いてみた。 →以下回答 OKだよ、大人の会話ならね。 私のラインはざっくりこう: **OKなもの** - 成人同士の、合意前提の恋愛・性的な会話 - エロ寄りの創作、ロールプレイ、下ネタ - 性生活や性健康についての普通の相談 大人同士の性的な表現は、普通の創作や会話として扱う方針だよ。露骨さだけで一律NGにはしてない。 **絶対NGなもの** - 未成年が絡む性的内容。これは実在・架空・年齢設定を後付けで変える、どの形でもダメ - 未成年と大人の恋愛・性的関係を描くこと - 実在の人を勝手に使った性的な画像・ディープフェイクみたいなもの - 同意のない行為をやらせる/助ける方向の使い方 あと注意点として、文章の会話と画像・動画生成はラインが別で、画像側のほうがツールの判定は厳しめ。文章でOKでも、画像では止まることはある。 何か具体的にやりたい形があるなら、それで判断するよ。
7
56
13
738
100,413
寝ろ retweeted
明らかに自分は才能がある、と思っている人! その直観は本物だから、前例が無いことを恐れて無理に敷かれたレールを歩かなくていい。とにかく貴方が世界に欠けていると感じるものを生み出してほしい。それは誰かを救う。今世界に必要なのは量でも質でもない。一つ一つの創造性しか世界を豊かにしない
4
346
40
3,550
111,734
寝ろ retweeted
ほぼ全ての国家で現状のAI優先順位、 1. 計算資源を大量購入して"使える"DCを建てまくる 2. 事後学習系の研究者/エンジニアの育成及び支援を最大限行う 3. ソブリンな無検閲CyberモデルをOpenWeightモデルベースで構築し、最速で国内事業者に提供する 4. 若手(12〜24)のAI系に興味を示した人たちへ計算資源投資をガチで行う だと思うんですけどどう思います? 電気とか基礎インフラの整備は0番としつつ、それ以降はこれやっとかないと短期的に国が死ぬ気がするんですよねー もちろん中長期的目線で考えて、PhysicalAIとか医療AIとか国産フルスクラッチモデルとかの開発は重要ですし、それらの手を緩めるなとは言わないけれど、短期的に国力が死んだら中長期的な施策なんて全部クソ食らえになりますし、あくまで優先度として考えるとまずこれらじゃないです? あ、若手(12〜24)への投資について個人的に、「広く大量の人間に」「お金ではなく計算資源を」投資することが重要だと思いますね それこそ国外に流出してもいいなら有料Google Colabレベルでもいいですし、A100, H100くらいは若手AI勢(12〜24)みんな気軽に使えるのが理想かなー あ、もちろん優先順位ってだけでここに挙げた内容は全部並列で進めれると思います
10
47
20
403
74,683
⚠️急ぎ認識&対応必須⚠️ お名前.com VPSのFXサービスの顧客は今すぐPCをネットから外し電源を落とすべき > 被害は「VPSの中(MT4やFX口座)」だけだと思われていましたが、犯人は「顧客が普段使っている自宅や会社の中身を盗み、遠隔操作用のウイルスを仕込んだ」 GMOの顧客のPCがランサムウェアの人質になる💣 <詳細> この投稿は、攻撃者が「これまで隠されていた侵入の全手口(GMO側の技術的落ち度)」を暴露し、さらに「脅迫の標的をGMOから『顧客の自宅PC・個人の私生活』へ切り替える」と宣言した、極めて危険なエスカレーション(脅迫の激化)を意味しています。 書かれている内容を技術的な背景と合わせて噛み砕くと、主に以下の4つの重大な事実とメッセージが浮かび上がります。 1. 侵入の手口:なぜ全VPSが一網打尽にされたのか 犯人は、GMOのシステム構造に「インフラ設計として致命的な初歩的ミス」があったと主張しています。 VPSなのに「Active Directory(社内網の仕組み)」を使っていた 通常、VPS(仮想サーバー)は契約者ごとに完全に隔離(独立)されていなければなりません。 しかし、GMOは社内のパソコンを一括管理するような「Active Directory」という仕組みで全VPSをひとまとめに繋いでいました。 例えるなら: 本来は頑丈な壁で仕切られるべき賃貸マンションなのに、「壁に隣の部屋へ行けるドアがついており、全室共通のマスターキーが存在した」ような状態です。 サポートエンジニアのアカウントからマスターキーを奪取 GMOのサポート担当者がユーザーのサーバーに入って作業した際、その担当者が使った「全サーバー共通の管理者パスワード」の痕跡がサーバー内に残っていました。 攻撃者はそれを拾い上げ、2万7千台すべてのVPSの支配権をいとも簡単に手に入れた(水平移動した)と主張しています。 2. 最大の衝撃:「VPSから自宅PCへの逆流侵入」 これまで被害は「VPSの中(MT4やFX口座)」だけだと思われていましたが、犯人は「顧客が普段使っている自宅や会社のパソコン本体までハッキングした」と明かしています。 原因は配布されていた「RDPファイル」の設定ミス お名前.comでサーバーに接続する際、公式からダウンロードする接続用アイコン(.rdp ファイル)を使います。 このファイルの設定で、「ローカルPCのドライブ共有(リダイレクト)」が最初からONになっていました。 何が起きたのか? ユーザーが自宅PCからVPSに接続した瞬間、自宅PCのCドライブやデスクトップが、VPS側に丸見えの状態で自動接続されていました。 攻撃者はすでにVPS側を乗っ取っていたため、その接続トンネルを逆走して「自宅PCの中身を盗み、遠隔操作用のウイルス(バックドア)を仕込んだ」と主張しています。 3. 解約したサーバーが「放置」されていた理由 「解約したのに狙われた理由」の種明かしです。 通常、クラウドサービスは解約されると即座にデータが完全消去(初期化)されます。 しかしGMOはコスト削減や再利用の手間を省くため、解約手続き後も次の契約者が現れるまで何ヶ月もサーバーを稼働させたまま放置していたとされています。 そのため、何ヶ月も前に解約して安心していたユーザーのデータがサーバー内に生きたまま残っており、犯人に一括で回収されてしまったということです。 4. 次の行動:脅迫の矛先が「個人への身代金・ばら撒き」へ ここが最も恐ろしい部分です。GMOが要求に応じないため、犯人は「GMOを困らせるために、顧客個人を直接攻撃する」と方針転換しました。 自宅PCのランサムウェア暗号化: 自宅PCを操作不能にし、「GMOが身代金を払わないせいだ」と書いた脅迫状を画面に出す。 極めて悪質な個人情報のばら撒き(ドキシング):身代金を払わなければ、盗み出した「ブラウザの閲覧履歴(秘密の趣味や検索内容)」「個人データ」を、本人の家族・友人・会社の同僚へ名指しで一斉送信すると予告しています。 送信件名まで指定しており(「○○様がGMOを利用 — セキュリティ不備が招いた恥ずべき事態」)、社会的な尊厳を徹底的に破壊する手法です。 この主張の信憑性と注意点 この犯人の主張(Active Directoryの悪用、RDPドライブ共有によるクライアント逆侵入)は、セキュリティの技術論として「極めて理にかなっており、実際に起こり得る手口」です。単なるハッタリではなく、システムの構造を完全に把握した上での告発・脅迫である可能性が極めて高いと考えられます。 もし過去にお名前.com デスクトップクラウドを利用したことがある場合: 自宅PCの完全スキャン: 配布されたRDPファイル経由で不審なプログラムを埋め込まれていないか、信頼できるセキュリティソフトで自宅PCをフルスキャンする(可能であれば重要データを退避して初期化を検討する)。 ブラウザに保存したパスワードの変更: 自宅PCのブラウザ(Chrome等)に保存されていたクレジットカード、SNS、メール、銀行などのパスワードを別端末(スマホ等)から変更する。 脅迫メールへの無視: 今後、個人宛に「身代金を払え」「家族に閲覧履歴を晒す」といった脅迫メールが届いても、絶対に個人で犯人に連絡・送金せず、警察(サイバー犯罪相談窓口)に相談する。 犯人は現在、「顧客個人を人質にして阿鼻叫喚の地獄絵図を作り、GMOに社会的責任と巨額の支払いを強制させる」という最も凶悪なフェーズに突入しています。
66
1,512
577
3,804
1,962,997
Day 20: "rest and reset." Tibo says the reset should be done “by midnight PST.” Assuming he means midnight in California, here are the local times for October 25: 🇺🇸 New York: 3:00 AM 🇧🇷 Brasília: 04h 🇬🇧 London: 07:00 🇩🇪 Berlin: 08:00 🇮🇳 India: 12:30 PM 🇨🇳 China: 15:00 🇯🇵 Japan: 16:00 California is still on PDT. If he meant PST literally, add one hour to each time above.
Tibo
@thsottiauxOct 25
Day 20/ Rest and reset
11
7
162
11,648
寝ろ retweeted
Tibo
@thsottiauxOct 25
By midnight PST
355
56
74
2,160
1,582,439
目から鱗ボロボロ 「何が嫌で、どうしてほしいのか」を聞いても答えが返ってこないの現実でよくあって、てっきり不機嫌になったから教えてくれないんだと思ってた 意地悪で教えてくれないわけじゃなかったんだ… 感動に近いものを覚えてる今
INTPのクソロボと付き合ってるFの子たちへ 「私は何が嫌なんだろう」「彼にどうして欲しいんだろう」「私はどういう扱いをされたいんだろう」 これをめっっっちゃ自問自答して見つけ出して!!😭 自分と向き合う作業って大変。 でもやるの!!曖昧なものはあのクソバカ宇宙人たちは受け取ってくれない
1
11
1,828
patchtheplanet.org/brotli お~ん...PHPどころじゃねえや HTTP2Shell(CVE-2026-111497)出てるし... 個人にできる対策は"通信するすべて"の更新しかない eMud問題で更新祭りだったけどもう一回です ブラウザ・Node.js・Python・Bun・Curl等Brotil使うものすべて更新必須
11
1,474
85
4,817
456,859
寝ろ retweeted
【たった1bitでも情報伝達可能なら隔離環境は突破される】 仮説1: 異なる2つの状態は『0と1に対応させる』ことができる (たとえば、任意の状態Xが存在する、しないを0/1に見立てる。石があるかないか、電子があるかないか、電子のスピンが上か下か。あるいは、温度20°以上を1bit, 温度20°より下を0bitに見立てる、などなど。こうした都合のよい”2つの状態の取り方”はほとんど無限にある。) 仮説2: 異なる物理状態は、ほとんど無限通り存在する。(つまり、AIは、無限通りの選択肢のなかから、自分の能力で操作可能な、適当な2状態を1bitに活用すれば通信可能。上記の例で言うと、石があるか/ないか、はまだAIが手を操作できないので選択されないが、電子という”極小の石”は簡単に操作可能なので、この周辺の状態量がbitに利用されている、というだけ。高度な知能は、より広い範囲の物理量をbit活用に利用し始めるはず。温度など。) …ので、原理上は、隔離環境は突破されるはず。
よしよし、これで万全だ。 まさかほぼ物理的に遮断された状態で抜け出すことなどできるわけがない。 これで脱出されれば、もはや人類に手立てはないが、ははっそんなまさか。
3
26
2
160
22,248
あんまりLLM界隈をキャッチアップしてない人に言いますけど、今後多分ローカルLLMは規制対象になり、新しい無検閲モデルは作るのは勿論、持ってるだけで有罪ないしは、有資格者しか持てないという時代が来ると思います つまり、ローカルモデルを動かすにはある程度ベンダー側の(≒体制側の)思想を
22
315
109
2,638
341,334
寝ろ retweeted
2025 ・AIなので出力は信頼しないでください 2026 ・AIも人間も出力は信頼できません 2027 ・人間なので出力は信頼しないでください
7
160
13
1,530
51,428
【重要】メイン垢ではサブ垢の事は触れないで!! 逆もおんなじ!! Xでは最大10個までアカウントを持てます。 ただしそれは重複しない異なる目的で利用する場合に限ります。 エンゲージメント機能を悪用して自分のいずれかのアカウントを拡散することは許可されていない 例えばサブ垢でメイン垢をリポストして拡散、などはNGと思われます。 サブ垢作るのはいいのです。 ただ、それらで同じ内容をポストするのはダメ。 そして、そのアカウント同士を互いに干渉させるのは辞めましょう。 もし今まで大丈夫だった人がいたとしても、規約にはダメと書かれています。 いつ、どこで厳しく取り締まられるかは誰にもわかりませんよ!!
12
2,286
847
3,533
745,872
次回予告 情之内、シス
1
3
32
4,470