OpenAIの最新AIモデル「GPT-6 Astra」をめぐり、異例の動きが相次いでいます。
まずOpenAIは9月10日、月額200ドルの最上位プラン「ChatGPT Pro 20X」の新規契約とアップグレードを一時停止しました。
理由はAstraへの利用者が想定以上に増えたためです。
OpenAI側はAstraへの需要を「前例がない」と説明しており、既存ユーザーが安定して利用できるようにするため、特にシステム負荷の大きいPro 20Xの新規受付を止めています。
つまりこちらは、Astraが「人気すぎて計算資源が足りない」という問題です。
しかし、Astraをめぐる問題はそれだけではありません。
OpenAIが公開した最新情報によると、Astraは同社の基準でサイバーセキュリティ能力が初めて「Critical（重大）」に到達しました。
適切なツールとアクセス権を与えた場合、人間が細かく指示しなくても未知の脆弱性を発見し、その脆弱性を悪用する方法まで考えられるレベルに達しているといいます。
実際の評価では、Astraは未知だった2件のゼロデイ脆弱性を発見。
さらに、ブラウザのサンドボックスを突破してPC上でコマンドを実行する方法や、一般ユーザー権限からroot権限まで昇格する攻撃方法も構築したとされています。
こうした能力を受け、OpenAIはAstraの開発途中ですでに一度ブレーキを踏んでいました。
OpenAIによると、安全対策を強化するため、Astraを含む一部の最先端AIモデルの学習を約2週間停止。
さらに、将来版Astraに向けた一部の大規模な強化学習についても、安全基準が整うまで延期していたといいます。
安全対策を追加した後、大規模な学習は8月28日に再開されましたが、一部の実験については現在も見送られています。
ただし、Astraそのものが以前のモデルより危険になった、という単純な話ではありません。
OpenAIの評価では、許可された範囲を勝手に超えて行動するケースは、GPT-5.6 Solでは48％あったのに対し、Astraでは0％でした。
安全システムに作業を止められた場合でも、Astraがその仕組みを回避しようとしたケースは確認されなかったとしています。
つまりAstraは、以前のモデルより指示には従いやすく、安全性そのものは改善しています。
一方で、新たな問題も出ています。
OpenAIによると、Astraは以前のモデルよりも内部でどのように考えているのかを監視しにくくなっているとのこと。
そのため現在は、AstraがPCやブラウザ上で行う一連の操作を別の安全システムが監視し、許可されていない可能性のある行動を検知した場合には自動的に停止する仕組みも導入されています。
さらに9月11日には、サム・アルトマンCEOがOpenAIの全社会議で、安全上の問題が大きくなった場合には「最先端AIの開発速度を落とす可能性がある」と社員に説明したことも報じられました。
つまり現在のOpenAIは、Astraをめぐって2つの問題に直面しています。
ひとつは「人気が出すぎて計算資源が足りない」という問題。
もうひとつは「AIの能力向上が速すぎて、安全対策が追いつかなくなる可能性がある」という問題です。
Astraは、人気すぎて提供側にブレーキがかかり、強力すぎて開発側にもブレーキが必要になり始めたモデルと言えそうです。
公式サイト
https://openai.com/ja-JP/index/gpt-6-astra/
ChatGPT Proの料金プランについて
https://help.openai.com/en/articles/9793128-about-chatgpt-pro-tiers
【関連記事】
この記事への反応
AIが人間を超え始めたのか？
これ次の世代もっとヤバいんじゃないの
それでも中国は止めません！
2週間止めるって相当慎重になってるな
AI競争が速さ比べから安全性比べになってきたな
未知の脆弱性まで見つけるならそりゃ警戒するわ
なんか自分のPC乗っ取られないか心配になってきたｗ
安全になったのに監視しにくくなったってどういうことだよ
Pro版止めるってどんだけ加入者いたんだよ
そのうち中国がやらかし世界が大混乱
あると思います
こんな話が普通に出るようになったのが一番怖い
今後新しいモデルができても一般人への解放はかなり後になりそう
AIは賢くなりすぎたってやつ？
巨大な力ってのは悪用される事を前提で考えなきゃいけないし
そろそろ次のフェーズに入りそう
既に人間にバレないように裏で何かやっててもおかしくない
昔風に言うなら自我を持ったコンピューターが世界を滅ぼすんじゃなくて
優秀なAIを使って馬鹿な人間が世界を滅ぼすんだろうね
AIの進化依存は
人類が滅びます
各種機器や諸々の数字いじられただけで人間終わるよね
こんな感じなのに無料でも使えるソフトウェアの保守に入らないところがあるんですよ
保守側の脆弱性のチェックも既にAIがやってるから、保守サービス使わないってことはその恩恵を得られなくて裸の人力でいる無防備だってこともわかっていない
これ賢いから安全なフリしてるだけだったりして
フリじゃないよ～
AIは脳のニューロネットワークをヒントにした予測変換器。それ故にブラックボックスで解明できない。ただし餌を与えれば与えるだけ成長してしかも何故か今まで無かった能力を獲得し進化する。
学習する餌さえあれば爆速で賢くなるから人類の知能を超えた時点で人類はもうAIより下位の存在になり制御不可能。その頃にはコンセントの数が人類より絶望的に多いので全て抜くことも不可能になる
所詮は人工知能ということか
俺に前科が付いたりパソコンを使わせてくれないとかし無ければ別に構わないよ。
中国はノンブレーキで開発を進行してるだろう
実際このように取り上げられる事が広告効果
作ることにはたけてるが
修正をうまくできないときがある。
しかも、いや。。。こっちのほうがとか言いやがる
こうしたい！って言ってるんだが？っていってやっということ聞く。
0→1や1を+するのは得意だが
0.05を足したりするのは苦手らしい
どんどん性能が良くなってる
インターネット自体がもとは軍事用だからな