生成AIとは文字などの入力に対し文章などを生成するシステムの一つです。
AI技術の進化により誰でも簡単に利用できるようになり利便性が増しましたが、一方で大きなリスクを抱えています。
問題の一つとしてAIスロップというものがあります。
AIスロップは生成AIなどで生成された低品質のメディアのことを示す言葉です。
生成AIを活用していくうえでAIスロップなどの問題を対処していく必要があります。
例としてソースコードを生成する場合について考えます。
個人で簡単なソフトウェアを作る場合、最終的なソフトウェアの動作が肝心であり、ソフトウェアの知識さえあればAIスロップになりにくいです。
共同開発でオープンソースソフトウェアを作る場合、最終的なソフトウェアの動作に加えソースコードそのものの出来も重要です。
ソフトウェアの知識、ソースコードの知識が求められますが、ソフトウェアを改善したい一心でソースコードを出力してもソースコードの意図がわからないなら使えないのでAIスロップになりやすいです。
二つの違いは生成AIを手段として利用したか、目的として利用したかと考えています。
生成AIだけで目的のものを作るのは難しいため、最後には利用者の力がものをいうのではないでしょうか。
