ChatGPTさん「GPTストア」で『AI彼女』が増えすぎて、もう歯止めが効かない模様...
@BigOldCar
スレッド概要
海外のニュースメディア(TechRadar)によると、OpenAIのGPTストアでは、同社の利用規約に違反した、恋愛や性的な目的のAIチャットボットが増えているとのことです。
(ChatGPTストアとは、有料課金のユーザーが自由にカスタマイズしたエージェントを他のユーザーに公開し、収益化することができるマーケットプレイスのこと)
「girlfriend (ガールフレンド、彼女) 」や「sweetheart (恋人)」といった単語でGPTストア内を検索した結果、多数のAIガールフレンドの検索結果が表示されたと報じています。一方で、ライターの記事執筆時点では、GPTストアで同様の検索を試みると、検索バー自体が表示されない状況とのことで、これはOpenAIが対応に追われていることを示唆しています。
需要がある限り、クリエイターたちは利用規約を曲解する形ででもその需要に応えようとする傾向があり、そしてユーザーの中にはAIとの恋愛関係を求める声が根強いのも事実です。
ただし、AIへの過剰な依存は個人や社会的にもリスクを伴う恐れがあります。業界をリードする、OpenAI社が、この現状を看過する訳にはいかないでしょう。今後の展開に注目したいです。
海外の反応とコメント
私たちは皆、ただ理解されたい、愛されたいだけなのだ......。それは人間的なものだ。AIがこの理由を理解したら困惑するだろうな。
4AIガールフレンドのチャットボットを防止する一方で、軍事利用の禁止を撤廃する。素晴らしい優先順位付け。
(翻訳補足:OpenAIがChatGPTのポリシーから「軍事・戦争目的への使用禁止」という文言を削除した)337弾丸よりも●っぱいの方が危険なOpenAIへようこそ。
82数カ月前にサム・アルトマンを追放した理由はこれか?彼がこのようなでたらめをやろうとしたからなのか?過去にさかのぼって理事会の味方をしてもいいか?
69イエスでもありノーでもある。ある理事会のメンバーが、サム・アルトマンがいかに無謀であるかについて論説を書いたところ、彼はそれが気に入らなかったらしい。
そこでサムは、この人物の噂を他の役員に流して解雇させようとした。
サムのように300人以上のAIプログラマーを抱え、自分の言いなりで仕事を放り出しても構わないほど、彼は強くなりすぎた...41これは、インターネットプロバイダーがポルノサイトに蓋をしようとするようなものだ。
こんなことはあり得ないだろ...635"TavernAI"や "Chub AI"で検索すれば、自分のPCのローカルな環境のLLM上で動作させることができる、何十万ものカスタマイズされたキャラクターと会話を楽しめるし。それを適切なモデル(例えばmythomax)と組み合わせれば、OpenAIの柵がないGPT3.5でやばい会話もできる。
OpenAIがそれを許さないのであれば、人々は他の場所に行くだけ。72> OpenAIがそれを許さないのであれば、人々は他の場所に行くだけ。
私は、OpenAIのやり方は間違っていると思う。AIのガールフレンドを作ったり、AIでNSFW(ヤバイ)コンテンツを作ったりといったことをしたい人たちの巨大な市場があることは明らかだ。ChatGPTはポルノを書くのが得意だが、それはインターネット上で訓練されたからだ。
もしOpenAIが、NSFWのプランを導入したら、彼らは儲かるだろう。だけど、今はみんなChatGPTを脱獄したり、他のウェブサイトを見たりしている。36チャットGPTのガールフレンドは口が汚くて、彼らはなぜかみんなアジア人だ。そして、HENTAIだ。
これ、聞いた話なんだけど、マジでウケるだろ?516OpenAIの画像ジェネレーターは、女性を生成するよう求められたとき、アジア人女性を生成するんだってさ、強く偏っている。
134つまり、この惑星ではほとんどの人がアジア人なんだ。
116もちろん、ChatGPTはアジア人が中心の世界であることを知っている。
14つまり、アジア人女性の数は地球上のどのジャンルの女性よりも多く、おそらくアジア人女性の写真も多いだろうから、写真から生成されたAIの絵はすべてアジア人女性ということになる。
ChatGPTに、赤ちゃんの名前を選べと言えば、マリアとモハメッドと答えるだろう。40抵抗せず、成り行きに任せるんだ...。
10このようなAIガールフレンドを作る主な動機は、しばしば金銭的な利益である。OpenAIがこれらのAIを禁止すれば、問題は解決すると私は信じている。
2ボク「でも…ボクなら彼女を治すことができる…」
302ガールフレンドが文字通りコードでできている場合、新しい意味を持つよな。
126文字通り●カインでできた女友達がいた。同じことだよ、本当に
29ロボットと付き合うな!!!
13ボクの最初の"最初のAIガールフレンド"
7LLMは素晴らしい相談相手だぞ。
口説き文句やティンダーの経歴などをテストする良い方法だと思うけどな。5AIは、広告の配信方法を抜本的に変えてしまうかもしれない。
例えば...こんな感じで商品を訴求できる。
AIボーイフレンド「ねぇ、きみ..."この服" を着ると本当にかわいいと思うよ...」193彼らにアイデアを与えてはいけない
54頼むよ、このアイデアは夢の中で働くことと一緒に、すでに特許を取得しているんだ。
28AIのガールフレンド(彼女)は市場に出回っているのに、AIのボーイフレンド(彼氏)は市場に出回っていないというのは、社会としてどうなのだろうか?
259Spicychatのチャットボットは女性より男性の方が多い。
(SpicyChatは仮想AIキャラクターを特徴とする海外のチャットボットプラットフォーム。)200これはだな...Literotica(1998年に設立された海外の官能投稿小説サイト)は女性向けでは巨大な市場だ。Amazonでロマンス小説を検索すると、圧倒的に女性向けが多いのが事実。
今のチャットボットで、リアルの体験を越えて感情的に満たすためには、一定レベルのライティングスキルが必要だ。145福音主義者のいとこは、子供にハリー・ポッターを読ませることに罪悪感を抱いているが、事実上、すべての本に生々しくハードコアな●ックスシーンが含まれている。
「大人向け」の本全てにそれが含まれているわけではない、と私が反論すると、彼女はとても驚いていた。73その通りだ。ロマンス市場全体は、基本的に女性によって支えられている。さらに、フィクションのジャンルでは最も収益が高いだけでなく、最も急速に成長している。しかし、ビデオや写真などの視覚的な手法に関しては、男性が主要な層である。この2つは以前から明白だった。
AIチャットボットは、純粋に男女両方にアピールできると考えているのだろう。今は男性向けだが、LLM(大規模言語モデル)がより洗練され、人とのつながりをより細かく調整できるようになれば、小説に出てくるような男性との会話や、小説に出てくるような人気キャラクターをデザインしたAIボットとの会話を望む女性にも人気が出るだろう。55間もなくやってくる人口減少は壮大なものになるだろうし、●ックスボットがやってくるのを待つだけだ...。
38もしこれが、他の惑星で知的生命体が見つかっていない理由だとしたらどうだろう?文明が発展するたびに、彼らは人工知能や自分たちと同じように動ける機械を作る知識を得る。そして毎回、彼らはセックスボットを作り、文明を滅亡に追いやる。
2これらが心理学者や行動の専門家によってデザインされたものであれば、私は良いことだと考えることができる。
問題なのは、お粗末なデザインのデジタルパートナー(デジタル彼女・彼氏)が、否定的な見方や性格的特徴を強化してしまうこと。
さらに悪いことに、有害な行動を助長したり、国家が発行したプロパガンダを広めたりするように意図的にデザインされている可能性もある。ソーシャル・メディアが社会に与える影響を見ていると、人間とテクノロジーの関係には警戒心を抱かざるを得ない。3