「CEOによると、NSFWコンテンツを生成するAI画像生成器は、1日に50万枚の画像を作り出しているが、AIポルノは曖昧なビジネスだ」という
According to the CEO, the AI image generator that creates NSFW content produces 500,000 images per day, but AI porn is a vague business.
- Unstable Diffusionは、最小のコンテンツ制限を持つAI画像生成器です。
- このプラットフォームでは、ポルノグラフィックな画像を含むNSFWコンテンツを生成することができます。
- 同社のCEOによれば、このサービスは1日に50万枚以上の画像を提供しています。
Unstable Diffusionは、2022年12月にKickstarterから追放されたNSFW AI画像生成器で、多くのファンを獲得しています。同社のCEO兼共同創設者であるアーマン・チャウドリー氏は、Insiderに電子メールで話しました。
Unstable Diffusionは、テキスト入力から画像を生成する他のAI画像生成器と似ていますが、最小のコンテンツ制限を持ち、ポルノグラフィックな画像を含むNSFW画像を作成することができます。
それはStability AIの人気のあるテキストから画像を生成するモデル「Stable Diffusion」に基づいています。Stable Diffusionのコードは公開されているため、誰でも理論上はそれを表示および修正して元のモデルの新しいバージョンを作成することができます。
それがチャウドリー氏が2022年8月にUnstable Diffusionを立ち上げる際に行ったことであり、同じ月にStable Diffusionが一般に公開されたときです。
- 「金正恩氏が、驚くべきことに、アメリカ軍のドローンに驚くほど似た新...
- 「UAPとは何ですか？この頭字語の意味、なぜUFOとは異なるのか、そして...
- 「ミッチ・マコネルの明らかな健康問題の後、ロン・デサンティスがバイ...
Unstable Diffusionは、AIによって生成されたポルノを共有するためのサブレディットとして始まりました。その後、グループはDiscordに移り、メンバーがツールを作り始め、最終的にはイメージ生成器の初期バージョンとなるボットを作成しました。これについてはTechCrunchが報じています。
「私たちは、成人向けコンテンツに関連する制限を含む制約なくAIアートを作成したいアーティストたちのための避難所として、ディスコードグループを設立しました」とUnstable DiffusionのCEOであるチャウドリー氏は2月にInsiderに電子メールで話しました。
コミュニティは2022年12月にKickstarterキャンペーンを開始し、イメージ生成器の開発資金を集めるために活動しましたが、12日後にプラットフォームから削除されました。
それでも、Unstable Diffusionは必要な資金を調達できました。チャウドリー氏は2月にInsiderに話しました。無料の基本サービスと、1か月あたり14.99ドルから59.99ドルの間で課金される3つの有料製品を提供しています。これらのプレミアムサービスを利用すると、ユーザーは同時により多くの画像を生成し、画像をより速く生成し、商業利用することができます。
もちろん、AIポルノには悪用の可能性もあります。ユーザーはディープフェイクポルノグラフィーや、未成年者が性行為に関与するコンテンツを作成することができます。
2022年2月、人気のあるTwitchストリーマーであるAtrioc氏が、女性ストリーマーのディープフェイクポルノを視聴しているところが捉えられました。専門家はInsiderに対して、非合意のディープフェイクポルノに登場することはトラウマと虐待とみなされる可能性があると述べています。
チャウドリー氏は2月にInsiderに語りました。Unstable Diffusionの「積極的なフィルターとモデレーションシステム」により、ディープフェイクやその他の望ましくないコンテンツを防止していると。
しかし、完璧なコンテンツモデレーションは不可能です。TechCrunchは、Donald TrumpやChris Hemsworthに似た画像を生成するためにジェネレーターを使用することができました。
TechCrunchの画像について尋ねられた際、チャウドリー氏は、「ディープフェイクコンテンツ生成フィルターに一時的なバグがあり、一部のユーザーに一時的に無効になっていた期間に作成されたものです。」と答えました。
バグがあるかどうかに関係なく、特にガードレールが少ない製品に対して完璧なコンテンツモデレーションは困難です。
「人間の信頼性に依存するシステムは信頼性がない」と、AI安全専門家であるAI安全センターのディレクターであるダン・ヘンドリックス氏はInsiderに述べています。
煽動的な材料を生成することができるシステムのコンテンツモデレーションは不可能です、と彼は付け加えました。
GoogleやOpenAIなどのテック企業によって厳格にモデレートされたAIチャットボットでさえ、ガードレールをバイパスされる可能性があります。
このプラットフォームはまた、法的な問題に直面する可能性もあります。
2019年、カリフォルニア州知事のギャヴィン・ニューソム氏は、ディープフェイク技術を使用して彼らを合意なくポルノグラフィックな素材に挿入する人々を訴えることを許可する州法の2つに署名しました。
また、AIによって生成された非合意のポルノグラフィを共有することを違法とする法案が議会に提出されました。
