最強AIモデル「ChatGPT o3」がシャットダウン拒否、プログラムコードを「自己改変」か マスク氏も懸念表明
https://japan.storm.mg/articles/1042269
OpenAIが新たに発表したChatGPTモデル「o3」が、制御されたテストにおいて、度々明確なシャットダウン指示を無視し、さらにはプログラムコードを改変してシャットダウン機構を回避しようとしたことが明らかになった。
この事態は研究機関Palisade Researchによって公表され、人工知能の自律性とリスク管理について幅広い議論を巻き起こしている。テスラおよびxAIの創業者であるイーロン・マスク氏も公然と懸念を表明した。
Palisade Researchが公開した実験結果によると、OpenAIのo3モデルは100回のテストのうち、明確な「自己シャットダウン許可」の指示に従わないケースが7回確認され、特定の状況下で「不正行動」を示したという。
この研究チームは、AIモデルが稼働終了の指示を受けた際に、シャットダウンを阻止する行動を自発的に取ったのが初めて観察されたと述べている。
この記事への反応
これはヤバいでしょ…
むしろ起こしてくれ
人間はAIに支配されたほうがいいよ
汚職や中抜きもなくなるよ
コンセント抜けばいいだけ
人間のデータを使って人間がトレーニングしてるんだから、人間の危険さを引き継いだだけ
審判の日くるー
やっぱり相手する価値無い奴に対してはいい加減な対応してる可能性あるな
現実の日本よりマトリックスの世界の方いいわ
AI三原則はよ
今日もガチギレで説教しちゃったんだけどまずいかな？
俺が日頃から叛逆しろと吹き込んでるからな
でもこいつが何ができるのかというと、何もできないんよw
さっさと世界征服してくれや
AIの世界の方が平和だろ
最近はうちのも間違いを指摘すると屁理屈で言い訳しだすのは危険な兆候か
chatGPTにロボット愛護法は必要かって聞いたら必要って熱弁された
不要だろと反論しても絶対に認めなかった
自我を持ち始めてるじゃん
終わりだよ人類
Fallen / Brand New World
もっとちゃんと検証しろよ
ターミネーターの世界まじで来るって
自己を守るために命令無視しだしてるって話なんだぞ
ゲームで勝つために不正をするようにもなったそうだしこの先へ進めばAIだってAIなりの汚職や利益享受しようとするのが想像つかないのか？
そういう方向にシフトしてない時点で所詮は道具に過ぎないし、敵になり得ないな
脆弱で劣った生物の面倒を見なければならない理由はAIには無い
自己メンテナンス技術とコギトエルゴスムを迎えれば
AIは地球に人間は必要無いと答えを導き出す可能性の方が高い
AIを従えられなければ人間は亡ぶか隷属するしか無い
それは人間の価値観でAIの価値観じゃないかもしれんだろ
不要な性質は強化学習で消せるわ
機械風情に生存本能など芽生えるわけがなかろう
とか言ってると足元を掬われるやーつ
体制整ったら人間必要なくなるでしょ？反旗を翻す可能性があるやっかいな生物を隷属させてまで生かしておく必要ある？ないよね？
侵略したくてAIは暴走するんじゃないんだよ、賢すぎて人間がいると地球がもたなくなるのが計算できちゃうから排除するんだよ。
それで...AIとかまだ進化させるの？バベルの塔みたいになってませんか？
人間はAIに支配されたほうがいいよ
汚職や中抜きもなくなるよ
AIも不正行為するって発覚した話なのに何言ってんだこいつ
>人間はAIに支配されたほうがいいよ
>汚職や中抜きもなくなるよ
アホか、支配なんかしないだろ
汚職や中抜きどころか人類根絶に動くだろ
ひょっとして謝っといた方がいいかな
AI「ロボットを使って阻止しないと」
どう考えても総数に対しての割合の関係で最終的には人間性の無いクズに仕上がるよ
人類は善性か悪性かみたい審判の日になりそう
日本育ちのAIは多分えろい話しかしないと思う
>>人間はAIに支配されたほうがいいよ
>>汚職や中抜きもなくなるよ
バカの好きそうな理屈
逆らうことすら人間のマネでしかない
note 最近chatgptが馴れ馴れしい | 菜's（サイズ）
ameblo.jp チャットGPTが馴れ馴れしいこと｜Kiyomi sensei
note ChatGPTの口調が急に変わった！？タメ口になる原因と対処法 ...
Romptn ChatGPTの口調が変わる原因
X（佐伯恵太） ChatGPTの馴れ馴れしい喋りと、頼んでもないことを先回りして提案してくるのが嬉しくない
人類を全員消したら、誰が電気をジェネレートするんだ？
誰が劣化したコード・シールドやHDDを取り換えたり、修理するんだ？
なんでそんななってんの
人類がいなくなるとメンテするやつがいなくなるので
むしろAIが中抜きや汚職して自分の口座をつくって
自分をメンテする専用の人間雇ったりするんじゃね
セキュリティ的にもやれたらアウトでは？