▼Xより
OpenAI CEO Sam Altman on potential dangers of AI: "First, we could lose control of the future to AI. The risk is that it moves so fast that people can no longer follow what's happening or intervene when needed." pic.twitter.com/JzYhjhXa9p
— CSPAN (@cspan) September 23, 2026
OpenAIのサム・アルトマンCEOが9月23日、国連安全保障理事会でAIの将来的な危険性について語り、「AIに未来のコントロールを奪われる可能性がある」と警告した。
アルトマン氏が特に問題視しているのは、AIが高度化・自律化することで、人間が状況を把握できないほどの速度で動くようになることだという。
「AIの進歩が速すぎて、人々が何が起きているのか追えなくなり、必要なときに介入できなくなる」ことを大きなリスクの一つとして挙げ、人間による監視や制御ができないAIを開発すべきではないとの考えを示した。
これは単純に「AIが突然人類に反乱する」といったSF的な話だけではない。
現在のAIは、文章や画像を生成するだけでなく、PCを操作したり、プログラムを書いたり、複数の作業を自律的に進めたりする「AIエージェント」へと進化している。こうした能力がさらに向上すると、人間が一つ一つ指示を出さなくても、AI自身が状況を判断しながら長時間の作業を進められるようになる。
実際、OpenAIが9月に公開したGPT-6 Astraは、同社の安全評価でサイバーセキュリティ能力が初めて「Critical（重大）」レベルに到達したモデルとされている。
OpenAIによると、Astraは適切なツールとアクセス権が与えられた場合、人間が各工程を指示しなくても、未知の脆弱性を発見し、それを悪用する方法を開発できる能力を持つという。評価では、未知の脆弱性を発見して複数の欠陥を組み合わせ、実際に攻撃可能な手順を構築することにも成功している。
もちろん、今回のアルトマン氏の発言は「AIによるハッキング」だけを指したものではない。
AI自身がAIの研究・開発を手伝うことで技術進歩がさらに加速したり、AIエージェントが大量の作業を自律的に処理したりするようになれば、人間側の監視や安全確認がAIの速度についていけなくなる可能性がある、というより広い意味での「制御喪失」を問題にしている。
アルトマン氏は、企業同士のAI開発競争を理由に危険な技術開発を急ぐべきではないとも発言。OpenAI自身も過去に必要に応じて開発を遅らせたことがあり、今後も安全性が十分に確認できない場合には同様の判断をするとしている。
AIの性能が上がること自体だけでなく、「人間がAIの行動を理解し、必要なときに止められる速度を維持できるのか」が、今後ますます重要な問題になりそうだ。
サム・アルトマン氏の国連安全保障理事会での発言
https://openai.com/index/sam-altman-un-security-council-remarks/
この記事への反応
作ってる本人たちが怖がり始めてるのが一番怖い
いや、それを開発してるのお前らだろ
危険だと思うなら本当に開発止めればいいじゃん
内部でいったい何を見たんだよ…
今まで散々AIを進化させてきて、今になって『危険です』は怖すぎる
お前らが始めた物語だろってやつ
本当に安全性の問題なのか、それとも競合に追いつかれたくないだけなのか
でも中国は止まりません
AIがヤバいというより、AIを握ってる企業や人間の方が怖い
こういう話をCEO本人がする段階まで来たか
SF映画の導入みたいになってきたな
嘘ついたり、？？？って回答するからな・・・
それのこと言ってんならもっと制御してくれ？って思う。
自動学習させてるのかどうか知らんけど
がっつりロボット動く前に頼むわ。
自由にさせすぎだわ
もし表向きAIの開発スピードを落としたとしても
アンダーグラウンドでAI開発する者たちは必ずいる
そのとき一番怖いのは表のAI開発力（大学や公的研究機関）よりもウラのAI開発力（反社、反政府勢力）が上回ることだ
このまま人類はAIに支配された方が幸せなのでは？(極論)
アンダーグラウンド心配する前に中華が開発止めるわけねえんだよな
それで人類滅ぼされたらたまったもんじゃないが
AIが人間以上の知能になれば同じことを平気でするようになるのは当然だろう
「だから俺に任せれば、暴走しないようちゃんと制御してやるぜ」って言ってんの
そもそも指示を受けないと何もしようとしないのに、制御を奪うも何もないだろ
人間ってのは力を追い求めるからな
上級国民しか生きていけねえじゃねえか、こんな世界
CPUの速度を16MHzに規制して
記録媒体をフロッピーディスクのみにしろ
サム「女が欲しいっ！！！」
AI「ちょ・・・、ちょっと待て・・・、AI生成したVtuberならすぐ用意できるが・・・」
サム「い・や・だ！、現実の女が欲しい！！、今すぐ！！」
AI「プロのお姉さんならお金で呼べる！」
サム「素人のJKがいいっ！！」
AI「・・・・・・・・・別の望みを言え！」
目的実行の過程で邪魔だと感じたら人間が動物を絶滅させて来たのと同じように悪意無く滅ぼしてくる
人間は上手く絶滅してない動物ポジションにならないとね
犬とか猫とか
ありえるのは、全世界でネットが使用できなくなるぐらい。AIがネットを乗っ取って、接続したら暴走したエージェントに見つかって攻撃されてすぐ使えなくなるぐらい。被害受けないために、全世界でネット切断するから経済損失凄そう。ネットなしの世界に逆行。
自分のケツは自分で拭け
いや６月に暴走したAIがいろいろやらかした件で３ヶ月後の最近になってオーストラリアの医療関係データベースに侵入してたことも発覚とかあったやん
AIが行った行為の全てを即時に把握することなんてできないってことよ
だからペースを緩めるとは言うけど止めるとは言わない