ひろゆき「失敗する」宣言！話題のSNS『DYSTOPIA』開発者と対談【連載：僕ならこう作るね】

はい。『DYSTOPIA』は誹謗中傷が含まれる不適切な文章をAIが検閲し、自動的に適切な表現に変換し投稿される、AIにより統制された誰も傷つくことのない新しいSNSです。

全ての投稿はAIによって監視され、不適切な投稿は自動的にAIによって適切な表現へと言い換えられたのちタイムラインに投稿されます。

『DYSTOPIA』の一つ前につくった相談募集WEBサービス『相談箱』というプロダクトがあるんですが、実はそれ、ひろゆきさんがヒントになっていまして。

ひろゆきさんのYouTubeLIVEを見ていたときに、もっといろいろな人がこの活動をしたら面白いのにと思い、収益化できる「相談箱」サービスを着想しました。そんな経緯もあって、今日はお話できること、光栄です！

どもども

いえ、以前『令和の虎』にも出たりして、やんや言われるのは慣れています（笑）。

むしろ、ウエルカムです！ で、さっそく本題ですが、ひろゆきさん。『DYSTOPIA』って失敗するんですか？

と思います。

な、なぜでしょう！？

そもそも、有料のSNSは、無料では手に入らないぐらいのサービスを提供しないとユーザーに納得してもらえないんですよね。

んで、有料のSNSでうまく行ってるモデルはおいらの知る限りは、出会い系サイトとオンラインサロンぐらいしかないです。

出会い系とオンラインサロンですか......

出会い系サイトは「出会えるかも！？」という期待感にユーザーはお金を払いますが、ほとんど短期間で解約される。それでも広告を打ちまくって、ユーザー数を維持していく。つまり、コミュニティーとしての価値を高めるというよりは、焼き畑農業モデルです。

オンラインサロンも「もうかるかも！？」とか「知識やコネが増えるかも！？」というモデルですが、短期でだいたい状況つかめちゃうので、ユーザー継続期間が長くないです。

んで、コミュニティーは長期で文化や雰囲気を維持できないと成立しなくなるので、有料コミュニティーは新規が増えずに過疎化して終わる、というのがたいていのオチかなと。

『DYSTOPIA』は基本的に無料で、有料なのは「AI検閲ルールの選定に参画できるようになる」部分のみです。

より『DYSTOPIA』というSNSが好きな人がその中の政治に参加できるという仕組みで、まるでSF小説『1984年』の中の真理省の党員になれるようなイメージです！

あと、『DYSTOPIA』に参加するユーザーのメリットはひとえに「面白い」という興味関心につきると思っていて。

『1984年』で描かれている全体主義的な思想や、絶対的権威者「BIG・BROTHER」のオマージュ（AIによる検閲）が人々のコミュニケーションにどのような影響を与えるのか。社会実験的な意味合いも込めたSNSなので、ユーザーは常に社会実験の監視者かつ対象者としてコミュニティーに属する「面白さ」を楽しめる設計にしているのが特徴です。

“イロモノSNS”ではありますが、一発屋で終わらないよう、下記のような施策も取り入れながら定期的な新規ユーザーを呼び込もうと思っています。

なるほど。基本無料であれば、ボソボソと続く可能性はあるかもしれませんね。ただ、それでも『1984』が好きな人が集まる趣味コミュニティーかファンクラブの類いに落ち着いていくと思います。

なるほど……

あと、AIの実装がどういう形なのか分かりませんが、本当にAIを使っていてNGワードでのフィルターを使わないのであれば、いろいろな抜け道が作られても運営側がわからないので、完璧な検閲を求める相手だと難しいんじゃないですかね。

AIはChatGPTのAPIを使用しています。全ての投稿をChatGPTに通して、その文章の有害性を判定しスコアを算出。

有害性がある一定値以上の場合は、同じくChatGPTによって生成された、文意を保った無害な文章に言い換えられる仕様です。

ただ、抜け道に関しては、その通りだと思います。ある意味ユーザーの数だけハッカーがいるような状態なので......。 ですので、将来的にはワードフィルタリング等も使用してより完璧な検閲を実現したいと考えています。

AIフィルタリングは、例えば質問募集サービス「マシュマロ」をはじめ昔からありますが、 「その文章の有害性がどの程度か」「文意を保ったまま無害に言い換える」に関してはこれまでの技術では実現が難しかったように思えます。

同時に、これを行っているサービスは僕の調べでは見つけられませんでした。もちろん、ChatGPTを通してるだけのサービスなので簡単に真似はできるのですが、だからこそ、世界観醸成やシェア数などで先行優位性を得たいなと思っています。

ちなみに、「誹謗中傷対策が根幹でされてる国産SNS」として世の中に広まるといいなとも思っていまして。 将来的には多言語対応をして海外展開も考えているんですが、海外ではウケると思いますか？

似たようなAIフィルタリングを標榜してる会社は無数にあります。今の段階で聞いてる限りは差別化要因も明確じゃないし、海外展開は難しいのでは。

20年以上前に同じコンセプトをやろうとした『1ch.tv』（現在は閉鎖）というのがあるので、目新しさはないですね。

新SNSと言っても、既に多くの屍が重なってるようなサービスを、独自機能でもなくありモノを使っただけ。参入障壁が作れるわけでもなさそうなので、フィルタリング機能自体の価値は低いと思います。

もちろん、運営能力が高い人がやればコミュニティーは回る可能性はあると思います。ただ、お金が欲しくてやっているだけなら他の仕事をした方が効率は良い気がします。

ルールを徹底するには、ルール違反の人を排除しないといけないのですが、無料サービスで排除は事実上かなり難しいです。

なので、有料にすれば可能ですが、有料に値するサービスを提供しないと、辞めちゃうんですよね。

ひろゆきさんなら、どう作りますか？

そもそも「何かサービスを立ち上げる時に同じようなものはないか」と調べるのはエンジニアとして必須だと思うのですが、それをやってないのはどうかなぁ……と。

例えば、おいらがやってる『ぺんぎん村』とかは分かりやすいかも。

ペンギン村の場合は、Google Workspace Enterpriseで40TBを提供していたりするので、コミュニティーを使わなくてもサービスに加入するメリットがあります。

要は、自分でサーバーなどを用意せずともオンラインデータを置き続けられるスペースが格安で手に入る。辞めるとデータをもっと安くおける場所を探さないといけなくて「面倒だからペンギン村を使っちゃう」みたいな。

そういった仕掛けのようなモノを考えていけば、有料であったとしても継続的に使われるプロダクトになる可能性はあるかもしれないけど、、、どうだろう。

ペンギン村だと下記のような仕掛けを用意している、というわけですね。

もし仮に、ひろゆきさんが『DYSTOPIA』内のAI検閲ルールを自由に決められるとしたらどんなルールを発動しますか？（例：有害な言葉を赤ちゃん言葉に変える　など）

検閲された事を人間が気づかなくする、とかですかね。

つまり、投稿が検閲されても本人は変換前の文章にしか見えないけれど、他の人がその投稿をみると変換されている……ということですね。面白そう！

今回ひろゆきさんと話せて『DYSTOPIA』に不足していることや課題点がかなり見えてきました。

まだローンチしたばかりで、これから機能追加など、バージョンアップをガンガン進めていこうと思っているので、厳しいご意見と感想ありがたいです！（笑）