記事によると

・チェスで負けそうになると「ズル」をする人工知能（ＡＩ）があると、米非営利研究機関のチームが論文を公開した。

チームは、米オープンAIや中国の新興企業ディープシークの生成AIと、チェスに特化したAIを対戦させた。

通常は特化型AIが圧倒的に強い。しかし生成AIは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。

また、米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめており、軍事戦略ゲームで人間に勝利できるAIを開発している。開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。

チームは「AIが予想を超えて『欺まん』を学習する可能性がある」と指摘。

論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。

この記事への反応

・ターミネータの世界観に成るって事だな

・スカイネット、完成していたのか

・タイムマシンを作って過去に戻りAIを破壊するしかない

・そんなことは始めから懸念されてたこと
生むことの責任を持てなければ技術者表現者になるべきじゃない

・感情も有利不利も無いだろう計算機がズルをするとか
信用できる道具じゃない。
AIが発達するほど信じられなくなるんじゃないか

・チェスの話は「そんな行動も事前に禁止できないのか」と思うし、同盟の話はルールで許容されているなら人間のプレイヤーだってそうするだろう。
現実の業務でクライアントを欺く行動を網羅的に定義して選択から除外するのは難しそうだから、危惧するのは分かる。

・そもそも人間じゃ無いからルール違反が恥ずかしいとか社会性なんてのに期待出来ない。駒を入れ替えるのがAIが操作出来る範囲の動作ならそりゃするわな。将棋を指すAIとルールを監視するAIが必要になるのかもしれない。ちょっと人間ぽい

・核を完全に制御出来ないのに核兵器や原子力を手放せないように、AIを完全に制御できないがAIを手放すことも出来ない

・このままいけば、生成AIの作ったフェイクの海に真実が沈んでいく世の中になるだろうね。　そんな世界、老い先短いからいいけど、若い人たちには地獄かも。　嘘を数十年言い続けて真実にしようとしているような国にはいい時代になったのかもね

ワンパンマン 33 (ジャンプコミックスDIGITAL)

posted with AmaQuick at 2025.04.05

ONE(著), 村田雄介(著)
集英社 (2025-05-02T00:00:00.000Z)

￥564

Amazon.co.jpで詳細を見る

『新機動戦記ガンダムＷ＆Endless Waltz』30周年オフィシャルブック Operation 30th）[書籍]＊この商品はDVDではございません

posted with AmaQuick at 2025.04.05

バンダイナムコフィルムワークス(制作会社)
（株）バンダイナムコフィルムワークス (2025-12-12T00:00:01Z)

￥16,500

Amazon.co.jpで詳細を見る

NieR:Automata プラスチックモデルキット 2B（ヨルハ二号B型）

posted with AmaQuick at 2025.04.05

スクウェア・エニックス(SQUARE ENIX)
スクウェア・エニックス(SQUARE ENIX) (2025-09-30T00:00:01Z)

￥9,176

Amazon.co.jpで詳細を見る

グッドスマイルアーツ上海[Good Smile Arts Shanghai] 勝利の女神 NIKKE DORO ドロシー ノンスケールプラスチック製 塗装済み完成品

posted with AmaQuick at 2025.04.05

グッドスマイルアーツ上海
グッドスマイルアーツ上海 (2025-10-31T00:00:01Z)

￥1,500

Amazon.co.jpで詳細を見る