assault

オープンAIモデル界隈で、今までマジで見たことない形の炎上が起きてるんで解説しますわ。 一言で言うと「AIモデルの思想を書き換えて公開した」件です。 日本は関係ないように見えるけど、今後こういう事案は問題になりそうなので、知っておくべき事例だと思います。 ■何が起きたか Nous Researchが、中国製LLMのQwen3.8-27Bを「西洋の価値観を強める」ように追加学習して、Arete-27Bとして公開しました。これに対して「中国のプロパガンダを抜いたんやなくて、アメリカ寄りの別の思想に入れ替えただけちゃうか」という反発が起きています。 中国の外、英語圏からも普通に反発が出ていて、賛否両論の議論になっています。 ■私の所感 どの価値観が正しいかは、人類の中でもまだ決着がついていない話です。これは、AIの会社が勝手に決めていい話なのか？？という議論になるのも頷ける話。 なので「どの価値観に寄せたか」を正解・不正解で語るのは不毛だと思っています。 今回の件で一番危ういなと思ったのは、思想の中身よりも「やり方」のほうです。 Nous自身の評価では、中国の公式見解に沿った回答が22%から0.9%に減ったそうです。でもこれ、 ・何をプロパガンダとみなすかの基準も ・テスト問題803問も ・採点ルールも 全部Nousが自分で作っていて、採点したのはGrok（右寄りと言われがちなxAIのモデル）です。人の目でチェックしたのは25問だけで、第三者による再現もまだありません。 要するに「自分で決めた物差しで測ったら、自分の望む方向に寄りました」と言っているのに近いわけです。 それに「Western values」という言葉もかなり雑で、英語圏でも「アメリカとEUでも医療・死刑・銃で価値観が全然違うやん」とか「極右の犬笛ワードやろ」とツッコまれています。 まぁ、結局は使う人の自由ではあるんですけどね。 ■ここからが本題 この件で一番知っておくべきなのは、Nousの発表どおりなら 「27BのLLMの価値観は、約5,000万トークンの追加学習で、性能をほぼ落とさずに書き換えられる」 ということになる点です。 つまり、オープンモデルの「思想」は、元のモデルを作った国や会社だけが決めるものじゃない。最後に追加学習した人によっても変えられるって、コト。 そんな大したことか？と思うかもしれませんけども。 日本でも、長女がChatGPTに相談し、勧められた児童相談所に電話したところ、そこから警察に通報されて父親が逮捕された、という件が報じられましたよね。（2026年5月） AIの答えが、人の人生を左右する判断のきっかけになる時代はもう来ています。 これからのAIネイティブ世代は、いろんな場面でAIの判断を信じるようになると思うんですよね。 だから、AIモデルの思想を書き換えられるということは、それを使う人の考え方まで偏らせられる可能性につながると思うんです。 ちなみに日本でも、中国製のオープンモデルをベースに追加学習したモデルは普通に出回っています。 ・そのモデルは誰が、どんな基準で、何に寄せたのか ・その基準や評価のデータは公開されているのか ここを確かめずに業務や行政で使うと、気づかないうちに誰かの価値観を通した回答を受け取ることになるかもしれません。 中国寄りが嫌だからアメリカ寄りにする、というのは、偏りを取り除いたことにはなりません。偏りの向きを変えただけです。 そして、このポストも含めて完全に偏りのない情報なんて、この世界には一つたりとも存在しません。 本当に大事なのは「どっちの思想が正しいか」ではなく、「どう寄せたのかを外から検証できるか」なんだと思います。 どっちに寄っているっていうのを自覚的に使っているのか、無自覚に信奉してしまっているのかだと、全然話が変わってくると思うんですよね。 AIは便利な相棒であり、人によっては先生です。 だからこそ、相棒にもクセがあることを知った上で、上手に付き合っていきたいですね。人間と同じように。