【AI生成増加で】「AI生成コンテンツ」をAIが学習…「モデル崩壊」を識者が警告https://t.co/wNerys5iUx

「時間が経過するにつれて、生成されたデータの誤りが積み重なっていき、最終的には生成されたデータから学習することでAIが現実をさらに誤って認識することになります」と指摘した。

— ライブドアニュース (@livedoornews) June 14, 2023

 

記事によると

・Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。

・しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。

・文章(プロンプト)を入力するだけで高精度な画像を生成できる「Stable Diffusion」や対話形式で高精度な文章を作成する「ChatGPT」といった「ジェネレーティブAI」が急速に広まった要因には、大規模言語モデル(LLM)が重要な役割を果たしています。柔軟で適応性の高いLLMと合わせて、大量のトレーニングデータを収集することで、AIは画像や文章の仕組みを覚えていきます。

以下、全文を読む

 

この記事への反応

・エラーがエラーを呼んで崩れていくのか。

・エントロピー増大の法則

・このThe Curse of Recursionって論文面白かった

・どこまで信用して人間の情報出すのか？受け入れるのか？
やがて何も無くなってAI同士が会話するってのもあながち嘘ではないかもしれない。
静かに侵食するそれに今のうちから楽しいって乗り込んで行かせる実験してるんだよねぇ。

・学習データそのものを自己として見たAIの癌の様な話

・アホくさ。
勝手に亡びろ。

・AI同士でもエコーチェンバーが起きるのね。AI生成物かどうかを判別、分別して人間による生成物だけを学習するAIとか今でもありそうだけど無いのかな

・嘘で嘘を固める状態になるのは、自ら事実を検証するシステムでない限り、まぁ当然ですな

・人が騙される前にAIが騙され合うのね

・ルパンvs複製人間の構図

超探偵事件簿 レインコード -Switch【予約特典】オリジナル書き下ろし小説 同梱
 
ねんどろいど ウマ娘 プリティーダービー ライスシャワー ノンスケール プラスチック製 塗装済み可動フィギュア