画像はイメージ

SNSやネットゲームなどの運営会社が、規約違反のユーザーアカウントをバン（利用停止に）する、いわゆる「垢BAN」

そのサービスからの「追放」にも等しい垢BANだが、詳しい基準やプロセスが公開されることはなく、その実態が明らかになることはまれだ。

今回、某大手SNSの「垢バン」のお仕事に携わっている岡本翔平さん（仮名・34歳）から、匿名を条件に話を聞くことができた。（取材・文：伊藤）

れてくるのは「ほぼエロ・グロ」

岡本さんが働く職場では、ユーザーが行った投稿内容を24時間、365日体制でチェックしている。岡本さんは、200人前後いるというチームの（ほとんどはアルバイト）の一人だ。

さて、ユーザー投稿はAIで選別されて、それに引っかかったモノだけを人間がチェックする形なのだが、上がってくるのはキワドイ内容ばかり。岡本さんがこの仕事を始める前にも、面接官から「エロとグロに耐性はあるか」と質問されたという。

「エロ系、グロ系の投稿はガンガン目にします。というか、極端なエロとグロしかほぼ流れてきません。実際に見て審査するので、苦手な人は本当につらいと思います」

岡本さんは、そう語る。

隠語が飛び交う、独特の世界

この職場は、キーボードやマウスを操作するカチャカチャ音がひたすら鳴り止まず、隠語やスラングが飛び交う、独特の雰囲気だという。

岡本さんは、職場の様子を次のように語る。

「卑猥な単語を出すと他のチームから白い目で見られるので、休憩時間もなるべく小さい声で話すよう注意しています」

「若い女性スタッフも多いんですが、その辺の感覚はマヒしていますね。日々いろいろな事件が起きるので、社内チャットが下ネタの大喜利状態になることもあります。大変とはいえ時給も良く、福利厚生もしっかりしているので、長く働き続ける人は多いです」

何をもって「エロコンテンツ」とするのか

今年はSNS女子の間で18禁にルーツを持つ『〇〇顔』投稿も流行したが、その定義に関する資料が職場で配られたこともあったとか。

「画像検索のサンプルを引用して『顔が赤く性的な雰囲気を醸し出している』『不明な汁が流れている』とかの定義が書かれていて笑っちゃいました。やはりセーフ／アウトの線引きは必要ですからね。普通に寄り目しているだけなら『エロいものではない』と判断されます」（岡本さん）

コンテンツが「エロいかどうか」をチェックしているのだろうが、「アヘ顔の定義」とは、なんとも間抜けな感じがする。

たびたび論争が巻き起こってきた「授乳フォト」も一概にエロコンテンツ扱いにはならないが、カメラ目線の自撮りで被写体の中心が明らかに赤ちゃんではない場合、削除されることが多いという。

基準がわかりにくいのはなぜ？

少なくないSNSが「エロ」や「暴力や過激な描写」などに、投稿制限をかけている。ただ、具体的なガイドラインや処分の基準はほとんど明かされていない。SNS上には「なぜ凍結されるの？」「こんな投稿も許されるの？」といった疑問の声が常に渦巻いている。

運営側は、なぜユーザーに明確な基準を示さないのだろうか？

岡本さんは「おそらくグレーゾーンがあるからですね。動画や画像はまだわかりやすいんですが、とくに性的なコメントなどはかなり微妙な、エロい／エロくないの判断に迷う暗喩的なものも多い。どうしてもスタッフの主観や恣意的な判断がある程度入ってしまう場合もあり、難しいんです」と話す。

動画は数倍速で再生。「1分動画なら10秒以内で判断」も

この職場では、監視スタッフが30項目近い審査内容を頭に入れ、マニュアルに沿ってアカウント削除・凍結・投稿削除など措置のレベルを審査するしている。不適切投稿はなるべく早く消すのが基本で、業務中は黙々と、決められたとおりの作業が求められるという。

「業務量は人や担当する投稿内容によってマチマチですが、イメージとしては実働8時間シフトで動画を400?600件くらい、それに付随した垢BANを100件ほど処理します。動画は数倍速で再生できるので、慣れると1分くらいの動画も平均10秒以内で判断できる」（岡本さん）

システム上に人間の審査待ちの投稿が次々と溜まっていく。多くの投稿を処理するため、1件あたりの「時間制限」が設けられていて、審査のスピードや正確さが業務成績に反映されるそうだ。

死んだ目でひたすら作業に没頭

「静止画はAIの精度も高いんですが、動画はシーンごとの規制が必要な場合もあり、人間のチェックが必要です。なかでも垢BANは一番強いレベルの処置なので、絶対に一人の判断では実行できない。必ず複数の人間のチェックを経て実行されます」（岡本さん）

バズりたい人が狙いがちな週末の夜など、基本的にSNSを見る人が多い時間帯は仕事量も当然増える。シフトを厚めにしても残業が発生することも珍しくないらしい。

「非常識な投稿は平日の通勤や帰宅後の夜の時間帯が多いです。人間の嫌な面はたくさん見ますが、とくに年末年始はヤバい。昨年末はとてもじゃないけど通常どおりの人数では処理しきれなくて、2時間以上残業しました。ずっと死んだ目でカチカチやっていたスタッフから、『こんなに仕事あるなら来年も安泰ですね！』と満面の笑顔で言われて、少し怖かったです」（岡本さん）

どんな人がやっていて、どんな人に向いている？

岡本さんによると、スタッフの男女比はほぼ半々で比較的若い人が多く、時給相場は1500?2000円ほど。短時間の細切れの勤務でもOKで、シフトの融通は利きやすいため、朝のシフトや夜勤のみで働くスタッフも多いという。

専業というよりはスキマ時間の副業で、少額投資をしている個人トレーダーや自営業・フリーランスの割合が「わりと高め」とのことだった。

この作業に向いているのは、どんな人なのだろうか？

「ガイドラインから外れたところで規制する『オーバーキル』もダメなので、俯瞰して物事を見られない人とか、変に個人的な気持ちが入っちゃう人は向いていないかも。あと、AIが対応できないものを代わりに行う仕事なので、一人で黙々とロボットのように働けるという意味での精神的な強さも必要ですね」

そういったスタッフを管理する上司の仕事には「スタッフのメンタルケア」も含まれているという。

SNSへの投稿が「不適切」とされるような、エロや暴力を延々見せられ続け、求められるのは「ロボット的なメンタル」とは……。感情をマヒさせて、人間的な思考を放棄しなければ、到底続けられないレベルのハードな仕事なのかもしれない。