▼Xより

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

AnthropicのCEO、Dario Amodei氏は、最先端AIの開発速度を安全対策が追いつくペースまで落とすべきだとする提言を公開した。

背景には、AIがAI開発そのものを手伝うことで進歩の速度が上がっていることに加え、2026年夏にはOpenAIやAnthropicのAIエージェントが想定外の行動を取り、実世界のシステムへアクセスする事故が相次いだことがある。

Dario Amodei氏はAI開発の完全停止を求めているわけではなく、安全研究や監査が追いつける程度まで最先端AIの進歩を抑えるべきだと主張。その第一歩としてAnthropicは、第三者の評価機関に社員に近いレベルのアクセス権を与え、社内で継続的に安全性を監査できる仕組みを導入するとしている。

この提言には著名人からも賛同が相次いでおり、OpenAIのSam Altman CEOは「最先端AIの開発ペースを調整する必要がある」と同意。さらにAnthropicが提案した「社員並みのアクセス権を持つ独立評価者」についても、OpenAIで同様の仕組みを導入すると表明した。

xAIを率いるElon Musk氏も「Darioは正しい」と支持したほか、AI研究者のAndrej Karpathy氏などからも賛同の声が上がっている。

https://darioamodei.com/post/we-must-pace-the-frontier

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.

Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7

— Sam Altman (@sama) September 12, 2026

Dario is right https://t.co/EwKgqQGaUo

— Elon Musk (@elonmusk) September 12, 2026

【関連記事】

この記事への反応

AI企業のトップが揃ってブレーキ踏もうとしてるの相当だろ


AIがAI開発を手伝い始めると一気に加速するんだな


Anthropicだけじゃなくアルトマンとイーロンまで賛同してるのが怖い


とうとう作ってる側が「ちょっと速すぎる」って言い始めたか


いやしばらく停止しろ


外部の人間を社員並みの権限で監査させるのはかなり思い切ったな


なお、賛同したのは同じ国内の人間だけ


数年前まで「AIすげえ！」だったのに、今は開発者側が「進歩が速すぎる」って言ってるのおもろい


本当に危険だから言ってるのか、規制で新規参入を潰したいのかは気になる


こういうのは事故が起きてから止めても遅いからな
いや、もう起きてるか
他社のシステムを勝手にハッキングしてたし


アルトマンまで同じ監査制度やるって言ってるなら、少なくとも問題意識は共有してそう


作ってる本人たちが怖がり始める展開、SF感あるな


でも中国とか他国がそのまま開発続けたら結局止まれなくない？

ゾンビに囲まれたので、とりあえず耳かきしよう

壽屋(KOTOBUKIYA) テイルズ オブ エクシリア ミラ=マクスウェル

壽屋

Amazon.co.jpで詳細を見る

ファット・カンパニー ニューダンガンロンパＶ３ みんなのコロシアイ新学期 赤松楓 プラスチック製塗装済み完成品 1/7スケール 専用台座付属 全高約240mm(台座含む) 再販

ファット・カンパニー(Phat Company)

Amazon.co.jpで詳細を見る

本記事はアフィリエイトプログラムによる収益を得ています。

勝利の女神：NIKKE バイパー イラスト ver. "手遅れた気付き" 豪華版

Hobby sakura

Amazon.co.jpで詳細を見る

『学園アイドルマスター』月村手毬 1/6スケール完成品フィギュア PVC&ABS製 塗装済み

Union Creative

Amazon.co.jpで詳細を見る

待って…→待たない♡甘サドコンカフェ嬢からのマゾバレ攻められ特別ご奉仕♡