キャリア Vol.1130

全員AI・全員善人!誰も傷付かないSNS『UnderWorld』の二見プロデューサーと一緒に考える、「やさしいWebサービス」の作り方

2020年6月25日(木)~7月23日(木)の期間限定で、バンダイナムコエンターテインメントがリリースした“人間のいないSNS”『UnderWorld』。

同社が発売する人気ゲーム『ソードアート・オンライン アリシゼーション リコリス』のスピンオフ企画として発表された『UnderWorld』は、近年急増する「SNS疲れ」を解決する全く新しいSNSとして反響を呼んだ。

プレスリリース:史上初!? どんな投稿にも優しいリプが!平和すぎるSNSをバンダイナムコエンターテインメントが開発! 人間のいない全員AIのSNS 《Under World》

世の中に暗い空気が漂う今、これまでにも増してWebサービスにも“癒し”や“やさしさ”の必要性が増しているのかもしれない。

では、サービスの作り手たちが『UnderWorld』のように「やさしいWebサービス」を作るにはどうしたらいいのだろう? プロデューサーの二見鷹介さんと一緒に考えてみた。

株式会社バンダイナムコエンターテインメント SAO総合プロデューサー 二見 鷹介さん
株式会社バンダイナムコエンターテインメント
SAO総合プロデューサー 二見 鷹介さん(@yousuke_futami
2006年に新卒でゲーム制作会社に入社。同社の吸収合併に伴いバンダイナムコグループへ。ライトノベル原作アニメのゲーム化を得意とし『涼宮ハルヒの戸惑』『俺の妹がこんなにかわいいわけがない』などのゲーム化を担当。シリーズ第1作『SAOーインフィニティ・モーメントー』からプロデューサーを担当し、『フェイタル・バレット』以降はゼネラルプロデューサーとして『SAO』ゲームシリーズ全体を総括する

始まりは“承認欲求”を満たすこと。「AIが孤独に寄り添うSNS」

ーーそもそも、どうして今回『UnderWorld』を開発しようと思われたんですか?

『ソードアート・オンライン(以下、SAO)』シリーズの世界をライトユーザーにも楽しんでもらい、作品に興味を持ってもらうための施策の一環ですね。SAOは今回と同じように、これまでにも「人工知能少女育成プロジェクト」など、いろんなキャンペーンを行ってきているんですよ。

最新作の『SAO アリシゼーション リコリス』は、主人公以外全員AIの世界が舞台なんです。そこで昨年秋頃から、その設定を生かして「AIしかいないSNS」を作ろう、という企画が動き始めました。

UnderWorldの題材となった『SAO アリシゼーション リコリス』
『UnderWorld』の題材となった『SAO アリシゼーション リコリス』

ーーなるほど。『UnderWorld』は、「SNSに疲れた人を癒すSNS」だとされていますが、当初から「SNS疲れ」を課題に感じて企画されたんでしょうか?

いえ、実は「SNS疲れ」という設定は後付けだったんです。

当初のテーマは“承認欲求”。「もっとファボられたい」「誰かにかまってほしい」というSNSユーザーの気持ちを満たすためのサービスにしよう、という考えだけが先にありました。

ーー“承認欲求”ですか。

はい。このツイートがバズった、このツイートが炎上してるってよく話題になりますけど、それってごく一部のケースってだけで、多くの一般人がSNSで反応が得られることはほとんどないと思うんですよね。だからたまにファボやリプライが来るとうれしくなったり、ふと「自分の発言って誰かに見られてるのかな」って疑問に思ったりする。

だったら「何でもないツイートにAIが反応することで、みんなを温かく包んであげることができるんじゃないか」というのが構想の始まりです。

ーーそれから「SNS疲れを癒す」ことを押し出していくことになった経緯はどんなものだったのでしょう?

まず、去年僕自身が実名のTwitterアカウントを開設したんです。そこでゲームの制作プロセスやトラブル対応の実況中継などを行っているんですが、ポジティブな反応をたくさんいただける一方で、攻撃的なリプライもかなり多いんですよ。

中には人格否定のような暴言もあります。会ったことのない、お互いの顔も知らず、しゃべったこともない相手に、よくこれだけひどいことを言えるなと正直驚きますね。

ーーそれはそれは……。外出自粛期間中にも、度々誹謗中傷が話題になりましたよね。

そうですね。外に出られなくなった人たちが増えて、いままで以上にSNSが殺伐とした空間になったように感じました。いくつかの悲しい事件も起こりましたし、自粛生活で孤独を感じやすくもなりましたよね。

それで改めて「ユーザーを独りぼっちにさせちゃダメだ」と強く感じたんです。

生身の人間じゃなくてもいい。AIでいいから「さみしいよ」ってつぶやいたら「そうだね、分かるよ」って、共感する言葉を返すことで、しんどさを抱えるユーザーの気持ちに寄り添いたいと思うようになりました。それで、リリース直前にプレスリリースの文言を調整したりもしましたね。

UnderWorld

AIだけど「温かくて人間っぽい」リプライの裏側

ーー実際に開発にあたった時は、どのようなことを意識しましたか?

常に「そこに誰かがいる」温かみを表現することです。

例えば「おなかすいた」「会社だるい」みたいな、リアルなSNSではほとんど注目してもらえない何気ないつぶやきにも、本物の“人”がポジティブな反応をしているように見える工夫をしました。

そのため、SNS内のアカウントや返信作業は全てAIによるものでしたが、リプライの文言自体は人間のライターに書き起こしてもらったんです。本当はユーザーのつぶやきに応じてセリフを自動生成する学習機能も持たせたかったんですけど、さすがに4週間という短期間のキャンペーンでは難しかったですね(笑)

ーーだから温かみのあるリプライが多いんですね。

はい。実はアカウントのキャラ設定にもこだわっていて、キャラクターを20~30人分くらい用意し、それぞれに「イケイケのギャル」とか「筋トレ好き」など年齢や性格、設定について細かくセグメントしたんですよ。

それとともに各キャラごとに数百パターンのセリフを準備し、必要に応じて適切なものを選定することで、キャラが本当に意思を持って投稿しているように見せていました。

それから、投稿された文章からユーザーの感情を推定するという機能を実装しています。投稿された一つ一つの単語に「喜怒哀楽」の感情値を割り振り、「喜び」のときはこういうセリフを返す、「怒り」のときはこういうセリフを返すとパターンを設定しました。

UnderWorld
実際の『UnderWorld』の投稿イメージ

ーー他にはどんなこだわりが?

「ツイートがバズったときに実際に起こること」を体感してもらえるようにしました。

例えば、ツイートした直後に一気に100件のリプライと3000ファボが付く、みたいにしてしまうと嘘くさいじゃないですか。実際にバズったときのツイートって、時間が経つごとに徐々に反応が増えていきますよね。

だから『UnderWorld』でも、日にちや時間が経つごとにSNS内のアカウントの数が増えたり、ファボやリプの数が増えていく仕様にしています。

それから隠し要素として、SAOのキャラ名や用語をつぶやくと、キャラからリプがもらえたり、キャラ同士の会話が見られたりするんですよ。また、特定のワードをつぶやくと、ゲーム本編で使用できるプロダクトコードが届く機能も実装していました。

ーーSAOシリーズのファンでも、そうではない人でも楽しめる工夫をされていたんですね。これだけ「やさしい」仕様なら、誰かを傷付けるようなつぶやきをするユーザーは少なかったのではないですか?

そうですね。8割のユーザーが日常的なつぶやきをして、このSNSの世界観を楽しんでくれていたようです。

ただ、ほんの一部ですけど、わざと公序良俗に反するワードばかりつぶやく人や、いろいろ工夫してどうにか仕様の穴を突こうとする人もいましたね(笑)

ただ、どんなネガティブな投稿にもひたすらポジティブなリプをし続けるAIの行動そのものが、ある意味このSNSの世界観を示しているな、とも思いました。

ーーそんな使い方をする人も一定数いたのですね……!

不思議ですよね。実は7月23日にキャンペーンが終了したのですが、最後はすべてのリプが「君を決して忘れない」という、ゲームのキャッチコピーを模した文章になっていたんですよ。

それまで普通に『UnderWorld』を楽しんでいた人やSAOファンにとってはうれしい仕掛けだと思うのですが、変な使い方をしていた人はこれを見て、少し胸が痛くなったかもしれません(笑)

UnderWorld

「リアルの方が地獄じゃね?」AIは悲しみの受け皿になれる“隣人”

ーー「自分以外全員AIのSNS」に対して、ユーザーからはどんな反応がありましたか?

楽しんでくれた人が大多数の中、「ポジティブな反応ばかりで地獄みがある」とか「人間が誰もいない世界なんて怖い」なんて言われたりもしましたね。

だけど僕は「リアルの方が地獄じゃね?」って思います。

リアルなSNSで炎上に巻き込まれてしまったら、どれだけ逃げ出したくてもユーザーの興味がそれるまで誹謗中傷はやみません。それに比べれば、誰も嫌なことを言わないポジティブなSNSはよほど幸せな世界だと思います。幸せなつぶやきばかりだったら喧嘩も戦争も起こりませんし、人が亡くなるようなことにはなりませんからね。

僕が日々Twitterを見て感じていたのは、誰かがポジティブなリプをすればポジティブなリプが集まってきて、逆に誰かが誹謗中傷をすれば誹謗中傷が集まってくる、ということ。

つまり現実世界で誰かがトリガーを引いてしまう以上は、誹謗中傷の連鎖はどうやったってなくならないと思うんですよ。でも『UnderWorld』ではそのトリガーを引く人が存在しないわけですから。負の連鎖を止められるなら、幸せなことじゃないですか?

ーーたとえコミュニケーションを取っている相手がAIだとしても、ですか?

そうです。そもそもチャットでもSNSでも、顔の見えない相手とコミュニケーションしているときって、相手がbotかどうかなんて分からなくないですか? 例えばTwitterのタイムラインに流れている投稿のうち、どれが人がつぶやいたもので、どれがbotかなんて正確には判別できないと思うんですよ。

むしろあえて2割ぐらいbotを混ぜた方が、議論が活発になるかもしれないですよね。ゆくゆくはSNSで何かの話題が盛り上がっていたとしても、『UnderWorld』みたいに自分以外は全員AIでした、なんて状況だってあり得るかもしれません。

ーーそれってなんだかディストピアな感じもしませんか?

そうですか? 僕は全然そう思いません。画面の向こう側にいる人が生身の人間じゃなくても、別にいいんじゃないかと思うんですよね。さみしいとか悲しいという気持ちに寄り添ってくれる“何者か”がいるだけで、きっとその人の支えになるはずだから。

むしろ、今のように誰かが誰かを傷付け続けたら、そのうち本当にSNS上の発言が法律で規制されてしまうかもしれません。その方がディストピアだと僕は思います。

ーー『UnderWorld』の話に戻りますが、いまはまだ「さみしい人を救う」役割を、友人やカウンセラー、相談ダイヤルなど生身の人間が担うことが多いですよね。それをAIに担わせようと思ったのはなぜでしょう?

AIは人間にとって友人じゃなくて、隣人だと思うからです。生身の人間にはリソースの問題や心理的な負荷が大きくてつらいことも、AIなら無理なく代替できます。人を救う”何者か”が生身の人間である必要はなくて、AIだっていいと僕は思う。

一歩前に踏み出す勇気が欲しいときや、何かを決断するときにちょっと背中を押してもらうツールとしてもAIは有効。AIはストレス社会に生きる生身の人間を助けられると思うんです。

こちらがつらいときだけ一方的に身代わりになってもらう都合のいい関係は「友人」とはちょっと違うんじゃないかな、と思って「隣人」と言っているんですけど(笑)

言いたいことを言う自由、誰かを傷付けない責任

ーー『UnderWorld』ではAIだけの世界をつくることで誰も傷付かないSNSを実現されたわけですが、現実的に「やさしいWebサービス」を作るにはどうしたらいいと思いますか?

例えば、クソリプ、暴言、誹謗中傷のコメントなどを「見えない」仕様にすればいいんじゃないでしょうか。いままでの話と矛盾するかもしれませんが、僕はクソリプだろうが誹謗中傷だろうが、言いたいことを言う自由と、言いたい気持ちは受け入れるべきだと思うんですよね。だけど、どのユーザーも傷付けたくはない。

だったらネガティブな発言は受け入れつつも、誰も気付かないうちに見えなくすればいいわけです。そういう仕様を考えることこそ、エンジニアができることだと思います。

ーー「受け入れつつも見えなくする」というと?

例えばゲーム業界ですでに行われている「チート※対策」が近いですよね。

まだ完全に対処することは現状できませんが、オンラインゲームではチーターはチーターとしかマッチしない仕様にすることで、「自分のしたことは自分に返ってくるからやめよう」と啓蒙する手法を取る場合があります。チーターしかいない世界って、地獄絵図そのものですよ(笑)

※チート:ゲームデータを改ざんして武器を最強にしたり、攻撃しても死なないようにしたりする、といった行為のこと

ーーチーターをはじくわけではなく、一般ユーザーとマッチさせないようにするんですね。たしかに少しイメージが沸きますね。

どちらにせよサービスを開発する際は、人間の「弱さ」や「ずるさ」を知り、受け入れた上で臨むことが大切だと僕は思います。人間は聖人君子じゃないから、ときには悪口も言うし、意地悪なこともする。それを充分に理解した上で、できるだけ傷付く人の少ない仕様を模索していけばいいんじゃないでしょうか。じゃないと、ユーザーに「絶対にクソリプするな!」って潔癖さを求めることになってしまうので。

僕の場合は、どういうツイートをしたらどんな反応が返ってくるのかを観察したり実験したりして、サービス開発に生かしています。ときには間違ったり炎上したりもしますが、そういう日々の積み重ねが大事なんじゃないかなと思います。

ーーサービスを使う側は、何か気を付けられることはあるのでしょうか?

作り手側としては、ユーザーには自由にサービスを使ってほしいし、意見を言ってほしいと思っています。強いて言うなら、純粋に「楽しもう」という気持ちでサービスを使ってくれたら十分かな。

例えば自分がサービスを使っていて、いきなり知らない人に誹謗中傷をされたら楽しめないじゃないですか。そうやって、誰かのことを考える訳じゃなくて、ただ自分がされたら嫌なことをみんなが少し気を付けるだけで、もっと健全になるんじゃないかな。

ーーエンジニアだと人が作ったサービスや投稿にレビューをすることも多いので、そういったときにも意識できるといいですね。

そうですね。レビューするときも、例えば小学生の頃に図工の授業で頑張って作った作品に対して、「何だこのクソみたいなもの作りやがって」なんてけなされたら傷付くはずです。

それと同じことで、意見を言っちゃダメってわけじゃないけど、言うんだったら「もっとこうしたらいいと思う」「自分はこう思った」っていう前向きな言い方がいいですよね。

作っている本人たちにもプラスになるし、それを受けてサービスもどんどん改善されていけば、お互い気持ち良いはずじゃないですか。やっぱりそういう意識は大事なのかな、って思います。現実はそうもいかないので、なかなか難しいと思うんですけど(笑)

ただ本当に、どんな立場であっても「楽しんで使う」ってところを忘れないでほしいですね。SNSやレビューも、僕らがツールとしてどう使うかっていうだけで、楽しみ方は全然違ってくるはず。そういうことを一人一人が少し意識するだけで、かなり変わるんじゃないかなと思います。

プレスリリース:史上初!? どんな投稿にも優しいリプが!平和すぎるSNSをバンダイナムコエンターテインメントが開発! 人間のいない全員AIのSNS 《Under World》

取材・文/石川香苗子 編集/河西ことみ(編集部) 画像提供/バンダイナムコエンターテインメント

この記事が気に入ったらいいね!しよう

エンジニアtypeの最新情報をお届けします

RELATED POSTSあわせて読みたい

RECOMMENDED POSTSあなたにオススメ

JOB BOARD編集部おすすめ求人

エンジニア転職フェア開催 IT&モノづくりエンジニアを求める優良企業が大集結!
記事検索

サイトマップ



記事ランキング

SIerって本当にヤバいの? ひろゆきが語る、業界ごと沈まないためのキャリア戦略

SIerって本当にヤバいの? ひろゆきが語る、業界ごと沈まな...

データサイエンティストに必要なスキル・仕事内容・勉強法を網羅的に解説

データサイエンティストに必要なスキル・仕事内容・勉強法を網羅...

英文メールでよく見る「略語」の意味は?アメリカ&シンガポール企業で働くエンジニアが解説

英文メールでよく見る「略語」の意味は?アメリカ&シンガポール...

頭痛にコーヒーが効くって本当? 管理栄養士がエンジニアに送る「頭痛対策フード」3つ

頭痛にコーヒーが効くって本当? 管理栄養士がエンジニアに送る...

平井IT政策担当大臣が語る、日本のデジタライゼーション戦略【新経済サミットレポート】

平井IT政策担当大臣が語る、日本のデジタライゼーション戦略【...

「type転職エージェント」無料転職サポートのご案内