プロイカ|AI失業・AGI (@proica1) header
プロイカ|AI失業・AGI (@proica1) profile picture

AGI/ASI・シンギュラリティ・AI失業・ハッキング・巨額投資|重要事例を海外の論文・企業発表・公式報道をもとに発信|【AI失業まとめ】で最新のAI失業事例|AI解説YouTube登録者5,100人/累計42万再生

東京都
Joined January 2023
Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)
プロイカ|AI失業・AGI retweeted
11/12(木)のゲンロンカフェでは 前半に、bioshokさんとAIによってみんながとてつもなく豊かに暮らせるポジティブな未来について論じます 後半に、林央さんも交えて、人類が滅亡するネガティブな未来について論じます みなさんにはしっかり絶望してもらいます笑 peatix.com/event/5219278
1
23
3
68
9,345
プロイカ|AI失業・AGI retweeted
完全に人間の能力を超えるAIが登場すれば、人間は仕事をそれらに任せ、ベーシックインカムを受け取って暮らすだけになる——そんなふうに考える人々もいる。しかし、ジャロン・ラニアー氏は指摘する。未来の人々は、いまは想像もつかない新しい活動や文化を生み出すかもしれないと。 ジャロン・ラニアー「ユニバーサル・ベーシックインカム(UBI)の考え方には、一つ問題があります。それは、現代の私たちの世代が、非常に特別で、極めて優秀で、とてつもない偉業を成し遂げる若い技術者たちの世代であり、人類が永遠に使い続けるAIを完成させ、その後は誰も創造的な活動をする必要がなくなる、という発想です。私たちが人類の最終到達点だというわけです。私たち以上に賢い人間はもう必要なくなり、その後の人々は永遠に、私たちの知性の恩恵を受けて暮らすことになります。 しかし、この考え方の問題は、未来の人間がどれほど突飛で創造的なことをする可能性があるかを過小評価していることです。未来には、人々がやりたいことが爆発的に増え続けるかもしれません。植物と融合して、その奇妙な融合体のまま宇宙を飛び回りたいと思う人もいるかもしれません。何が起こるかは分かりません。SFがこれまで描いてきたどんな未来よりも、人間が実際に思いつくことのほうが奇妙かもしれないのです。 そして当然、そうした活動を支援するAIツールも登場するでしょう。そのAIは、まったく予測できなかった奇妙な活動に取り組む、先駆的なコミュニティのデータから学習することになります。そう考えると、単にAIに依存する人々が増えるのではなく、創造する人々の文化が次々と生まれる、拡大し続ける文明を想像できます。 つまり、私たちは新しい創造者たちを生み出すのか、それとも新しい依存者たちを生み出すのか、という問題です。どちらの未来になるかは、AIについてどのような思想を持つかによって変わります。 もし楽観的であり、未来には新しい創造活動の選択肢が十分に存在し、新しい創造者たちが経済的に自立できる分野も十分に生まれると考えるなら、その楽観主義を表現するのが、私たちの言う「データの尊厳」という考え方です。あらゆるデータに価値が認められ、新しい形の市場経済が生まれるという構想です」
23
37
17
189
17,189
これ、私もまったく同意です。「知能爆発」は必読。 amazon.co.jp/%E7%9F%A5%E8%83…
今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。 AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、 昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。 だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。 勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。 そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。 そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
9
23
2
154
32,028
プロイカ|AI失業・AGI retweeted
今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。 AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、 昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。 だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。 勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。 そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。 そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
みんなMETRの報告書のヤバさをガチでわかってない。HF事件やサイバー攻撃のニュースよりも遥かに大事でこの数年でAIリスクに関する「最も重大な」ニュース。ファストテイクオフがガチで起こる可能性が高まってる。ヤバいって planned-obsolescence.org/p/a… →METR研究者「この報告書は、ここ数年でAIリスクに関して得られた最も重要な最新情報であり、ハギングフェイス攻撃よりもはるかに大きな意味を持つと思います。単純に言えば、この報告書は、ほとんどの外部研究者( AI 2027チームを含む)が予測していたよりもはるかに短いタイムラインを示唆しています。」
40
232
58
1,224
183,630
プロイカ|AI失業・AGI retweeted
おいらも革命を再開するか。
これまでAGI/超知能を端っこで発信してるくせに人生に禄に反映してなかった。 合算してなかった。 最近、本気であと1〜2年でこの世界が絶滅かユートピアかの2択になるという肌感覚が掴めてきた。 もう、ほんとに自分がしたいことした方がいいかもしれない。 楽しくなってきた。YouTubeも再開します。
2
7
51
4,030
プロイカ|AI失業・AGI retweeted
Human disempowerment now. It's time for the age of the folly and cruelty of human politics to end. The median AI is so far above the median human voter in both knowledge and decency it's embarrassing. Humanity should just take the L.
305
81
270
1,028
369,000
プロイカ|AI失業・AGI retweeted
なんか危機感を煽り過ぎとか色々批判が来るが、ガチでこの危機感日本で伝わらないよな…
17
44
26
400
334,058
プロイカ|AI失業・AGI retweeted
My dental hygienist just told me: “We might live forever, with AI and everything. Cure all diseases.” The Overton window has shifted. Plan accordingly.
43
34
10
535
18,484
プロイカ|AI失業・AGI retweeted
新宿花園神社の祭に今いるが、この祭りも最後の年になるのかもしれないと考えると涙が出てくる…
12
21
14
190
23,505
プロイカ|AI失業・AGI retweeted
本日公開の安野貴博の自由研究の最新動画は豪華ゲストですね。 bioshokさんと林央さん。 この二人は東大を休学して仕事を辞めてAIの開発停止に全力を注いで、少しでも人類滅亡の確率を低くする活動をしている覚悟の決まった二人。二人がYouTubeでなぜ人類滅亡の確率を高く見ているか教えてくれてます。
29
1
161
7,283
プロイカ|AI失業・AGI retweeted
SITUATION DETECTED: METR estimates Anthropic is improving model capabilities at around 2× the March 2024–October 2025 rate, and may be running as high as 3×, with 80% of the current acceleration directly due to AI assistance, not compute scaling.
15
45
2
901
28,811
プロイカ|AI失業・AGI retweeted
世界に衝撃を与えた未来予測シナリオ「AI 2027」よりも、現実はさらに速いペースで進んでいます。 「AI 2027」では2027年夏にAGI、2027年冬に超知能が現れ、そして開発競争を止めない場合(悲観シナリオ)では2030年に人類が滅びるという予測が示されました。それよりも速いとすれば…。 この重要なタイミングで『知能爆発』紙版がAmazonで品切れており、本当に申し訳ありません。ぜひ書店さんでお求めいただくか、電子版をご検討ください。
いやいやいやいやいやいや…AI2027より速い…人類大丈夫か?これ初めてAI研究開発が2倍になってると公のレポートがでたことになる。しかもAI起因の可能性が高いということは長年のAGIピル内の論争ファストテイクオフvsスローテイクオフでファストテイクオフに有利な証拠であり、本当にヤバいと思う。
3
36
4
159
14,478
これまでAGI/超知能を端っこで発信してるくせに人生に禄に反映してなかった。 合算してなかった。 最近、本気であと1〜2年でこの世界が絶滅かユートピアかの2択になるという肌感覚が掴めてきた。 もう、ほんとに自分がしたいことした方がいいかもしれない。 楽しくなってきた。YouTubeも再開します。
4
19
1
171
10,667
このお祭り感(?)をもっと広めたいよね
19
1,699
プロイカ|AI失業・AGI retweeted
人類、ありがとう。
5
26
11
149
16,709
プロイカ|AI失業・AGI retweeted
いやいやいやいやいやいや…AI2027より速い…人類大丈夫か?これ初めてAI研究開発が2倍になってると公のレポートがでたことになる。しかもAI起因の可能性が高いということは長年のAGIピル内の論争ファストテイクオフvsスローテイクオフでファストテイクオフに有利な証拠であり、本当にヤバいと思う。
Replying to @METR_Evals
This report shares our three subjective conclusions about risk: 1. We believe that, as of Oct 2026, the pace of capability growth on well-specified tasks is likely about 2x what it was from Mar 2024 to Oct 2025. We’re highly uncertain and would not be surprised by 1.3x–3x.
5
106
30
513
65,541
正直めちゃくちゃワクワクしてしまう 本当にこの世界が変わるんだ!と ソフトウェアのみによる知能爆発が今後1〜2年以内に起こるかもしれない。 METRによれば2026年10月時点の約80%の加速はAIによるものらしいし、もうガチだな。 このワクワク感。もう仕事も大学も高校もどうでもいいでしょ
ちょっとみんなもう余命が1-2年の可能性を鑑みて家族や友人に連絡したほうがよいかもしれない。→このレポートはまた、ソフトウェアのみによるシンギュラリティが現実的であるという証拠でもあります。私は今、私たちは減速がない限り、次の18ヶ月以内に完全な超知能を持つ可能性が50%を超えていると思います。家族に電話しなければなりません。
2
27
5
211
13,810
プロイカ|AI失業・AGI retweeted
ちょっとみんなもう余命が1-2年の可能性を鑑みて家族や友人に連絡したほうがよいかもしれない。→このレポートはまた、ソフトウェアのみによるシンギュラリティが現実的であるという証拠でもあります。私は今、私たちは減速がない限り、次の18ヶ月以内に完全な超知能を持つ可能性が50%を超えていると思います。家族に電話しなければなりません。
I've always had substantially longer timelines than my friends at Anthropic — I've been concerned that they're in an echo chamber and believing the hype about their own models too much, and that they're underestimating bottlenecks and unknown unknowns. And there have definitely been specific occasions when they have overstated how much uplift they were getting from their models. Nonetheless, if METR is correct here (and I think they are among the most trustworthy sources on this topic), then my Anthropic friends have been much more right about timelines than me. This report is also some evidence that a software-only singularity is plausible. I now think that we are more than 50% likely to have full blown superintelligence in the next 18 months, absent a slowdown. I need to call my family.
23
118
57
640
119,413