2020年6月25日（木）～7月23日（木）の期間限定で、バンダイナムコエンターテインメントがリリースした“人間のいないSNS”『UnderWorld』。

同社が発売する人気ゲーム『ソードアート・オンライン アリシゼーション リコリス』のスピンオフ企画として発表された『UnderWorld』は、近年急増する「SNS疲れ」を解決する全く新しいSNSとして反響を呼んだ。

世の中に暗い空気が漂う今、これまでにも増してWebサービスにも“癒し”や“やさしさ”の必要性が増しているのかもしれない。

では、サービスの作り手たちが『UnderWorld』のように「やさしいWebサービス」を作るにはどうしたらいいのだろう？ プロデューサーの二見鷹介さんと一緒に考えてみた。

始まりは“承認欲求”を満たすこと。「AIが孤独に寄り添うSNS」

『ソードアート・オンライン（以下、SAO）』シリーズの世界をライトユーザーにも楽しんでもらい、作品に興味を持ってもらうための施策の一環ですね。SAOは今回と同じように、これまでにも「人工知能少女育成プロジェクト」など、いろんなキャンペーンを行ってきているんですよ。

最新作の『SAO アリシゼーション リコリス』は、主人公以外全員AIの世界が舞台なんです。そこで昨年秋頃から、その設定を生かして「AIしかいないSNS」を作ろう、という企画が動き始めました。

いえ、実は「SNS疲れ」という設定は後付けだったんです。

当初のテーマは“承認欲求”。「もっとファボられたい」「誰かにかまってほしい」というSNSユーザーの気持ちを満たすためのサービスにしよう、という考えだけが先にありました。

はい。このツイートがバズった、このツイートが炎上してるってよく話題になりますけど、それってごく一部のケースってだけで、多くの一般人がSNSで反応が得られることはほとんどないと思うんですよね。だからたまにファボやリプライが来るとうれしくなったり、ふと「自分の発言って誰かに見られてるのかな」って疑問に思ったりする。

だったら「何でもないツイートにAIが反応することで、みんなを温かく包んであげることができるんじゃないか」というのが構想の始まりです。

まず、去年僕自身が実名のTwitterアカウントを開設したんです。そこでゲームの制作プロセスやトラブル対応の実況中継などを行っているんですが、ポジティブな反応をたくさんいただける一方で、攻撃的なリプライもかなり多いんですよ。

中には人格否定のような暴言もあります。会ったことのない、お互いの顔も知らず、しゃべったこともない相手に、よくこれだけひどいことを言えるなと正直驚きますね。

そうですね。外に出られなくなった人たちが増えて、いままで以上にSNSが殺伐とした空間になったように感じました。いくつかの悲しい事件も起こりましたし、自粛生活で孤独を感じやすくもなりましたよね。

それで改めて「ユーザーを独りぼっちにさせちゃダメだ」と強く感じたんです。

生身の人間じゃなくてもいい。AIでいいから「さみしいよ」ってつぶやいたら「そうだね、分かるよ」って、共感する言葉を返すことで、しんどさを抱えるユーザーの気持ちに寄り添いたいと思うようになりました。それで、リリース直前にプレスリリースの文言を調整したりもしましたね。

AIだけど「温かくて人間っぽい」リプライの裏側

常に「そこに誰かがいる」温かみを表現することです。

例えば「おなかすいた」「会社だるい」みたいな、リアルなSNSではほとんど注目してもらえない何気ないつぶやきにも、本物の“人”がポジティブな反応をしているように見える工夫をしました。

そのため、SNS内のアカウントや返信作業は全てAIによるものでしたが、リプライの文言自体は人間のライターに書き起こしてもらったんです。本当はユーザーのつぶやきに応じてセリフを自動生成する学習機能も持たせたかったんですけど、さすがに４週間という短期間のキャンペーンでは難しかったですね(笑)

はい。実はアカウントのキャラ設定にもこだわっていて、キャラクターを20～30人分くらい用意し、それぞれに「イケイケのギャル」とか「筋トレ好き」など年齢や性格、設定について細かくセグメントしたんですよ。

それとともに各キャラごとに数百パターンのセリフを準備し、必要に応じて適切なものを選定することで、キャラが本当に意思を持って投稿しているように見せていました。

それから、投稿された文章からユーザーの感情を推定するという機能を実装しています。投稿された一つ一つの単語に「喜怒哀楽」の感情値を割り振り、「喜び」のときはこういうセリフを返す、「怒り」のときはこういうセリフを返すとパターンを設定しました。

「ツイートがバズったときに実際に起こること」を体感してもらえるようにしました。

例えば、ツイートした直後に一気に100件のリプライと3000ファボが付く、みたいにしてしまうと嘘くさいじゃないですか。実際にバズったときのツイートって、時間が経つごとに徐々に反応が増えていきますよね。

だから『UnderWorld』でも、日にちや時間が経つごとにSNS内のアカウントの数が増えたり、ファボやリプの数が増えていく仕様にしています。

それから隠し要素として、SAOのキャラ名や用語をつぶやくと、キャラからリプがもらえたり、キャラ同士の会話が見られたりするんですよ。また、特定のワードをつぶやくと、ゲーム本編で使用できるプロダクトコードが届く機能も実装していました。

そうですね。８割のユーザーが日常的なつぶやきをして、このSNSの世界観を楽しんでくれていたようです。

ただ、ほんの一部ですけど、わざと公序良俗に反するワードばかりつぶやく人や、いろいろ工夫してどうにか仕様の穴を突こうとする人もいましたね(笑)

ただ、どんなネガティブな投稿にもひたすらポジティブなリプをし続けるAIの行動そのものが、ある意味このSNSの世界観を示しているな、とも思いました。

不思議ですよね。実は7月23日にキャンペーンが終了したのですが、最後はすべてのリプが「君を決して忘れない」という、ゲームのキャッチコピーを模した文章になっていたんですよ。

それまで普通に『UnderWorld』を楽しんでいた人やSAOファンにとってはうれしい仕掛けだと思うのですが、変な使い方をしていた人はこれを見て、少し胸が痛くなったかもしれません(笑)

「リアルの方が地獄じゃね？」AIは悲しみの受け皿になれる“隣人”

楽しんでくれた人が大多数の中、「ポジティブな反応ばかりで地獄みがある」とか「人間が誰もいない世界なんて怖い」なんて言われたりもしましたね。

だけど僕は「リアルの方が地獄じゃね？」って思います。

リアルなSNSで炎上に巻き込まれてしまったら、どれだけ逃げ出したくてもユーザーの興味がそれるまで誹謗中傷はやみません。それに比べれば、誰も嫌なことを言わないポジティブなSNSはよほど幸せな世界だと思います。幸せなつぶやきばかりだったら喧嘩も戦争も起こりませんし、人が亡くなるようなことにはなりませんからね。

僕が日々Twitterを見て感じていたのは、誰かがポジティブなリプをすればポジティブなリプが集まってきて、逆に誰かが誹謗中傷をすれば誹謗中傷が集まってくる、ということ。

つまり現実世界で誰かがトリガーを引いてしまう以上は、誹謗中傷の連鎖はどうやったってなくならないと思うんですよ。でも『UnderWorld』ではそのトリガーを引く人が存在しないわけですから。負の連鎖を止められるなら、幸せなことじゃないですか？

そうです。そもそもチャットでもSNSでも、顔の見えない相手とコミュニケーションしているときって、相手がbotかどうかなんて分からなくないですか？ 例えばTwitterのタイムラインに流れている投稿のうち、どれが人がつぶやいたもので、どれがbotかなんて正確には判別できないと思うんですよ。

むしろあえて２割ぐらいbotを混ぜた方が、議論が活発になるかもしれないですよね。ゆくゆくはSNSで何かの話題が盛り上がっていたとしても、『UnderWorld』みたいに自分以外は全員AIでした、なんて状況だってあり得るかもしれません。

そうですか？ 僕は全然そう思いません。画面の向こう側にいる人が生身の人間じゃなくても、別にいいんじゃないかと思うんですよね。さみしいとか悲しいという気持ちに寄り添ってくれる“何者か”がいるだけで、きっとその人の支えになるはずだから。

むしろ、今のように誰かが誰かを傷付け続けたら、そのうち本当にSNS上の発言が法律で規制されてしまうかもしれません。その方がディストピアだと僕は思います。

AIは人間にとって友人じゃなくて、隣人だと思うからです。生身の人間にはリソースの問題や心理的な負荷が大きくてつらいことも、AIなら無理なく代替できます。人を救う”何者か”が生身の人間である必要はなくて、AIだっていいと僕は思う。

一歩前に踏み出す勇気が欲しいときや、何かを決断するときにちょっと背中を押してもらうツールとしてもAIは有効。AIはストレス社会に生きる生身の人間を助けられると思うんです。

こちらがつらいときだけ一方的に身代わりになってもらう都合のいい関係は「友人」とはちょっと違うんじゃないかな、と思って「隣人」と言っているんですけど（笑）

言いたいことを言う自由、誰かを傷付けない責任

例えば、クソリプ、暴言、誹謗中傷のコメントなどを「見えない」仕様にすればいいんじゃないでしょうか。いままでの話と矛盾するかもしれませんが、僕はクソリプだろうが誹謗中傷だろうが、言いたいことを言う自由と、言いたい気持ちは受け入れるべきだと思うんですよね。だけど、どのユーザーも傷付けたくはない。

だったらネガティブな発言は受け入れつつも、誰も気付かないうちに見えなくすればいいわけです。そういう仕様を考えることこそ、エンジニアができることだと思います。

例えばゲーム業界ですでに行われている「チート※対策」が近いですよね。

まだ完全に対処することは現状できませんが、オンラインゲームではチーターはチーターとしかマッチしない仕様にすることで、「自分のしたことは自分に返ってくるからやめよう」と啓蒙する手法を取る場合があります。チーターしかいない世界って、地獄絵図そのものですよ(笑)

※チート：ゲームデータを改ざんして武器を最強にしたり、攻撃しても死なないようにしたりする、といった行為のこと

どちらにせよサービスを開発する際は、人間の「弱さ」や「ずるさ」を知り、受け入れた上で臨むことが大切だと僕は思います。人間は聖人君子じゃないから、ときには悪口も言うし、意地悪なこともする。それを充分に理解した上で、できるだけ傷付く人の少ない仕様を模索していけばいいんじゃないでしょうか。じゃないと、ユーザーに「絶対にクソリプするな！」って潔癖さを求めることになってしまうので。

僕の場合は、どういうツイートをしたらどんな反応が返ってくるのかを観察したり実験したりして、サービス開発に生かしています。ときには間違ったり炎上したりもしますが、そういう日々の積み重ねが大事なんじゃないかなと思います。

作り手側としては、ユーザーには自由にサービスを使ってほしいし、意見を言ってほしいと思っています。強いて言うなら、純粋に「楽しもう」という気持ちでサービスを使ってくれたら十分かな。

例えば自分がサービスを使っていて、いきなり知らない人に誹謗中傷をされたら楽しめないじゃないですか。そうやって、誰かのことを考える訳じゃなくて、ただ自分がされたら嫌なことをみんなが少し気を付けるだけで、もっと健全になるんじゃないかな。

そうですね。レビューするときも、例えば小学生の頃に図工の授業で頑張って作った作品に対して、「何だこのクソみたいなもの作りやがって」なんてけなされたら傷付くはずです。

それと同じことで、意見を言っちゃダメってわけじゃないけど、言うんだったら「もっとこうしたらいいと思う」「自分はこう思った」っていう前向きな言い方がいいですよね。

作っている本人たちにもプラスになるし、それを受けてサービスもどんどん改善されていけば、お互い気持ち良いはずじゃないですか。やっぱりそういう意識は大事なのかな、って思います。現実はそうもいかないので、なかなか難しいと思うんですけど(笑)

ただ本当に、どんな立場であっても「楽しんで使う」ってところを忘れないでほしいですね。SNSやレビューも、僕らがツールとしてどう使うかっていうだけで、楽しみ方は全然違ってくるはず。そういうことを一人一人が少し意識するだけで、かなり変わるんじゃないかなと思います。

取材・文／石川香苗子　編集／河西ことみ（編集部）　画像提供／バンダイナムコエンターテインメント