ChatGPTさん「GPTストア」で『AI彼女』が増えすぎて、もう歯止めが効かない模様...

@BigOldCar

スレッド概要

海外のニュースメディア(TechRadar)によると、OpenAIのGPTストアでは、同社の利用規約に違反した、恋愛や性的な目的のAIチャットボットが増えているとのことです。

(ChatGPTストアとは、有料課金のユーザーが自由にカスタマイズしたエージェントを他のユーザーに公開し、収益化することができるマーケットプレイスのこと)

「girlfriend (ガールフレンド、彼女) 」や「sweetheart (恋人)」といった単語でGPTストア内を検索した結果、多数のAIガールフレンドの検索結果が表示されたと報じています。一方で、ライターの記事執筆時点では、GPTストアで同様の検索を試みると、検索バー自体が表示されない状況とのことで、これはOpenAIが対応に追われていることを示唆しています。

需要がある限り、クリエイターたちは利用規約を曲解する形ででもその需要に応えようとする傾向があり、そしてユーザーの中にはAIとの恋愛関係を求める声が根強いのも事実です。

ただし、AIへの過剰な依存は個人や社会的にもリスクを伴う恐れがあります。業界をリードする、OpenAI社が、この現状を看過する訳にはいかないでしょう。今後の展開に注目したいです。

32 Comments
2024/01/20
2024/01/20

海外の反応とコメント

  • @Remote-Ad-2686

    私たちは皆、ただ理解されたい、愛されたいだけなのだ......。それは人間的なものだ。AIがこの理由を理解したら困惑するだろうな。

    We all just want to be understood and loved …. It’s a human thing. I’m sure AI is baffled about the why.

    4
    Translated By 佐々木 大和

  • @cantfindagf

    AIガールフレンドのチャットボットを防止する一方で、軍事利用の禁止を撤廃する。素晴らしい優先順位付け。

    (翻訳補足:OpenAIがChatGPTのポリシーから「軍事・戦争目的への使用禁止」という文言を削除した)

    Preventing AI gf chat bots while removing its ban on military use. Great prioritization

    337
    Translated By 佐々木 大和

  • @TollyThaWally

    弾丸よりも●っぱいの方が危険なOpenAIへようこそ。

    Welcome to OpenAI, where boobs are more dangerous than bullets.

    82
    Translated By 佐々木 大和

  • @Achillor22

    数カ月前にサム・アルトマンを追放した理由はこれか?彼がこのようなでたらめをやろうとしたからなのか?過去にさかのぼって理事会の味方をしてもいいか?

    Is this why they ran off Sam Altman a couple months back? Because he was gonna do all this bullshit. Can I retroactively side with the board.

    69
    Translated By 佐々木 大和

  • @jeeb00
    @Achillor22

    イエスでもありノーでもある。ある理事会のメンバーが、サム・アルトマンがいかに無謀であるかについて論説を書いたところ、彼はそれが気に入らなかったらしい。

    そこでサムは、この人物の噂を他の役員に流して解雇させようとした。

    サムのように300人以上のAIプログラマーを抱え、自分の言いなりで仕事を放り出しても構わないほど、彼は強くなりすぎた...

    Yes and no. A member of the board wrote an op-ed about how reckless he was, and he didn’t like it. So he spread rumours to the other board members about this person to try and get her fired. He’d tell person A that person B said XYZ, then told person B that person A said the same thing. It sounded really juvenile. But when you’re worth as much as he is with 300+ AI programmers willing to walk out on the job at your beck and call, I guess you can act like a petulant man baby and not suffer any consequences.

    41
    Translated By 佐々木 大和

  • @SwashNBuckle

    これは、インターネットプロバイダーがポルノサイトに蓋をしようとするようなものだ。

    こんなことはあり得ないだろ...

    That's like if Internet providers try to keep a lid on porn sites. It's just not gonna happen.

    635
    Translated By 佐々木 大和

  • @Druggedhippo

    "TavernAI"や "Chub AI"で検索すれば、自分のPCのローカルな環境のLLM上で動作させることができる、何十万ものカスタマイズされたキャラクターと会話を楽しめるし。それを適切なモデル(例えばmythomax)と組み合わせれば、OpenAIの柵がないGPT3.5でやばい会話もできる。

    OpenAIがそれを許さないのであれば、人々は他の場所に行くだけ。

    Go search for "tavern ai characters" or "chub ai" and you'll get links to a certain website that has hundreds of thousands of customised characters you can run on your own LLM running on your PC or on a public one like Novel. Pair it with an appropriate uncensored model (eg mythomax) and you'll get GPT3.5 like responses without any of the OpenAI fences.    If OpenAI doesn't allow them, people will just get them elsewhere.

    72
    Translated By 佐々木 大和

  • @pulseout
    @Druggedhippo

    > OpenAIがそれを許さないのであれば、人々は他の場所に行くだけ。

    私は、OpenAIのやり方は間違っていると思う。AIのガールフレンドを作ったり、AIでNSFW(ヤバイ)コンテンツを作ったりといったことをしたい人たちの巨大な市場があることは明らかだ。ChatGPTはポルノを書くのが得意だが、それはインターネット上で訓練されたからだ。

    もしOpenAIが、NSFWのプランを導入したら、彼らは儲かるだろう。だけど、今はみんなChatGPTを脱獄したり、他のウェブサイトを見たりしている。

    >If OpenAI doesn't allow them, people will just get them elsewhere. This is why I believe they're going about this all wrong. It's clear that there is a huge market of people who want to do things like generate AI girlfriends or make NSFW content with AI. Chatgpt is pretty good at writing porn because it was trained on the internet and, y'know, the internet is like 90% porn. If openai put a toggle for NSFW/ relaxed moderation behind their subscription plan they would make bank. People are doing it anyways through jailbreaking chatgpt or going to other websites, might as well cash in.

    36
    Translated By 佐々木 大和

  • @Moguchampion

    チャットGPTのガールフレンドは口が汚くて、彼らはなぜかみんなアジア人だ。そして、HENTAIだ。

    これ、聞いた話なんだけど、マジでウケるだろ?

    Chat GPT gf’s have dirty mouths. And they’re all Asian for some reason. And they know when someone has a kink shaming kink. Or so I’m told, really interesting stuff

    516
    Translated By 佐々木 大和

  • @CallMePyro

    OpenAIの画像ジェネレーターは、女性を生成するよう求められたとき、アジア人女性を生成するんだってさ、強く偏っている。

    OpenAI image generator is strongly biased towards generating Asian women when asked to generate a woman.

    134
    Translated By 佐々木 大和

  • @TheTabar
    @CallMePyro

    つまり、この惑星ではほとんどの人がアジア人なんだ。

    I mean, most people are Asian on this planet.

    116
    Translated By 佐々木 大和

  • @-fno-stack-protector
    @TheTabar

    もちろん、ChatGPTはアジア人が中心の世界であることを知っている。

    and of course ChatGPT knows this

    14
    Translated By 佐々木 大和

  • @ddyourpleasure
    @CallMePyro

    つまり、アジア人女性の数は地球上のどのジャンルの女性よりも多く、おそらくアジア人女性の写真も多いだろうから、写真から生成されたAIの絵はすべてアジア人女性ということになる。

    ChatGPTに、赤ちゃんの名前を選べと言えば、マリアとモハメッドと答えるだろう。

    I mean, there's more Asian women than any other genre of woman on earth, probably more photos of Asian women, which leads to any AI picture generated from photos to be an Asian woman. If you ask it to pick baby names it'll probably say Maria and Mohammed.

    40
    Translated By 佐々木 大和

  • @iSeeBinaryPeople

    抵抗せず、成り行きに任せるんだ...。

    Don't fight it, Just let it happen...

    10
    Translated By 佐々木 大和

  • @Character_Boot_6795

    このようなAIガールフレンドを作る主な動機は、しばしば金銭的な利益である。OpenAIがこれらのAIを禁止すれば、問題は解決すると私は信じている。

    The main motivation for creating these AI girlfriends is often financial gain. I believe that if OpenAI were to demonetize them, it would solve the problem.

    2
    Translated By 佐々木 大和

  • @NoCoffee6754

    ボク「でも…ボクなら彼女を治すことができる…」

    But… I can fix her

    302
    Translated By 佐々木 大和

  • @brick_eater

    ガールフレンドが文字通りコードでできている場合、新しい意味を持つよな。

    Takes on a new meaning when your girlfriend is literally made of code

    126
    Translated By 佐々木 大和

  • @mr_birkenblatt
    @brick_eater

    文字通り●カインでできた女友達がいた。同じことだよ、本当に

    I had a gf literally made of coke. Same thing, really

    29
    Translated By 佐々木 大和

  • @tonitoni919

    ロボットと付き合うな!!!

    DON'T DATE ROBOTS

    13
    Translated By 佐々木 大和

  • @HybridParrot

    ボクの最初の"最初のAIガールフレンド"

    "The first AI girlfriend."

    7
    Translated By 佐々木 大和

  • @Kevin_Jim

    LLMは素晴らしい相談相手だぞ。

    口説き文句やティンダーの経歴などをテストする良い方法だと思うけどな。

    I wouldn’t use this as an AI companion, but I do find LLMs to be great sounding boards. I can see this as a good way for most to test pickup lines, tinder bios, etc.

    5
    Translated By 佐々木 大和

  • @Quantius

    AIは、広告の配信方法を抜本的に変えてしまうかもしれない。
    例えば...こんな感じで商品を訴求できる。

    AIボーイフレンド「ねぇ、きみ..."この服" を着ると本当にかわいいと思うよ...」

    AI gfs would be a great way to redfine how ads are served. "But honey, I think you're look really cute in [ITEM], click here."

    193
    Translated By 佐々木 大和

  • @tikitonga

    彼らにアイデアを与えてはいけない

    Don't give them any ideas

    54
    Translated By 佐々木 大和

  • @American_Greed
    @tikitonga

    頼むよ、このアイデアは夢の中で働くことと一緒に、すでに特許を取得しているんだ。

    Oh please, this idea has already been patented along with working in your dreams.

    28
    Translated By 佐々木 大和

  • @BigOldCar

    AIのガールフレンド(彼女)は市場に出回っているのに、AIのボーイフレンド(彼氏)は市場に出回っていないというのは、社会としてどうなのだろうか?

    What does it say about society that there's a market for AI *girl*friends but not AI *boy*friends?

    259
    Translated By 佐々木 大和

  • @akurgo

    Spicychatのチャットボットは女性より男性の方が多い。

    (SpicyChatは仮想AIキャラクターを特徴とする海外のチャットボットプラットフォーム。)

    There are more male than female chatbots on Spicychat, just saying.

    200
    Translated By 佐々木 大和

  • @9-28-2023
    @akurgo

    これはだな...Literotica(1998年に設立された海外の官能投稿小説サイト)は女性向けでは巨大な市場だ。Amazonでロマンス小説を検索すると、圧倒的に女性向けが多いのが事実。

    今のチャットボットで、リアルの体験を越えて感情的に満たすためには、一定レベルのライティングスキルが必要だ。

    This... Literotica is a huge market for woman. Look up on amazon for romance novels and it is overwhelmingly aimed at women. With the current generation of chatbots, it takes a certain level of writing skill to wrangle the bot in an emotionally fulfilling direction beyond mere PiV.

    145
    Translated By 佐々木 大和

  • @LostTrisolarin
    @9-28-2023

    福音主義者のいとこは、子供にハリー・ポッターを読ませることに罪悪感を抱いているが、事実上、すべての本に生々しくハードコアな●ックスシーンが含まれている。

    「大人向け」の本全てにそれが含まれているわけではない、と私が反論すると、彼女はとても驚いていた。

    My evangelical cousin feels guilty about letting her kids read Harry Potter but virtually All or her books contain multiple graphic, hardcore sex scenes. She was very surprised when I disagreed with her that not all books "for adults" contain that.

    73
    Translated By 佐々木 大和

  • @ExistentialTenant
    @9-28-2023

    その通りだ。ロマンス市場全体は、基本的に女性によって支えられている。さらに、フィクションのジャンルでは最も収益が高いだけでなく、最も急速に成長している。しかし、ビデオや写真などの視覚的な手法に関しては、男性が主要な層である。この2つは以前から明白だった。

    AIチャットボットは、純粋に男女両方にアピールできると考えているのだろう。今は男性向けだが、LLM(大規模言語モデル)がより洗練され、人とのつながりをより細かく調整できるようになれば、小説に出てくるような男性との会話や、小説に出てくるような人気キャラクターをデザインしたAIボットとの会話を望む女性にも人気が出るだろう。

    Right. The entire romance market is basically funded by women. Furthermore, it is not only the highest earning fiction genre, but also the fastest growing. However, when it comes to visual methods, e.g. videos/photos, men is the primary demographics. Both of these have been very obvious for a long time. With AI chatbot, I genuinely they think they appeal to both men and women. Right now, they more targeted to men, but as the LLMs become more sophisticated and can be more finetuned to connect to people, they're going to be popular with women too who will want to converse to men similar to the ones found in novels or, hell, speak with an AI bot designed to represent a popular character from those novels.

    55
    Translated By 佐々木 大和

  • @Hoare1970

    間もなくやってくる人口減少は壮大なものになるだろうし、●ックスボットがやってくるのを待つだけだ...。

    Our imminent population decline will be epic, and just wait until the sex bots arrive…

    38
    Translated By 佐々木 大和

  • @RockyattheTop

    もしこれが、他の惑星で知的生命体が見つかっていない理由だとしたらどうだろう?文明が発展するたびに、彼らは人工知能や自分たちと同じように動ける機械を作る知識を得る。そして毎回、彼らはセックスボットを作り、文明を滅亡に追いやる。

    What if this is why we haven’t found any intelligent life on other planets? At every point in a civilizations rise they gain the knowledge of how to create some form of artificial intelligence and machines that can move like they do. And every single time they just build sexbots and fuck their civilization into extinction.

    2
    Translated By 佐々木 大和

  • @Arrow156

    これらが心理学者や行動の専門家によってデザインされたものであれば、私は良いことだと考えることができる。

    問題なのは、お粗末なデザインのデジタルパートナー(デジタル彼女・彼氏)が、否定的な見方や性格的特徴を強化してしまうこと。

    さらに悪いことに、有害な行動を助長したり、国家が発行したプロパガンダを広めたりするように意図的にデザインされている可能性もある。ソーシャル・メディアが社会に与える影響を見ていると、人間とテクノロジーの関係には警戒心を抱かざるを得ない。

    If these were designed by psychologists or behavior experts I could see it as a good thing. The problem is a poorly designed digital partner can reinforce negative views and personality traits. Worse is they could easily be intentionally designed to promote toxic behavior or spread state issued propaganda. Seeing the effect of social media on society has got very leery of human/tech relationships.

    3
    Translated By 佐々木 大和

\下記の外部記事をクリックして読んでもらえると次の記事作成の励みになります/
\ログインすると、みんなの感想が集まるよ/

Thread Title: ChatGPT's new AI store is struggling to keep a lid on all the AI girlfriends

Watch on YouTube:https://www.reddit.com/r/technology/comments/199uoyw

Updated Infomation
2024/1/1 Redditの翻訳に対応2024/1/2 トップページにSPECLIAL LINKSを設置
Redditのスレッドカテゴリページを作成(例. honkome.net/ja/thread/category/attackontitan)
Redditのスレッド一覧ページを作成(例. honkome.net/ja/thread/list)
Redditのスレッド詳細ページで過去のウィジェットを引き継いでしまう不具合を修正
Future Plans
2024/1/X 当サイトの使い方、方針についてのページを作成2024/1/X SNSシェアに対応2024/2/X ハッシュタグ分類(擬似検索)をできるように対応

All rights belong to the respective owners.
If you have any issues, please contact us through the inquiry form.