抱えていた課題

従来は人間が目視で審査を全て行っていたが、プラットフォームの成長に対してスケールしにくい状態の中、事業が急成長するに従い、プラットフォームの健全性を担保するための審査プロセスの効率化が急務となった

実現した結果

人間の審査とAIによる検知を組み合わせた、Human-in-the-Loopを取り入れたシステムを開発・運用
各種KPIの大幅な改善やコスト削減を達成

---

Pococha は、さまざまな個性あふれる「ライバー」と、視聴者である「リスナー」が双方向コミュニケーションを気軽に楽しむことができるライブ配信アプリです。
事業成長に伴いプラットフォームの健全性を担保するための審査の重要度が増す中で、より迅速かつ効率的な審査が行えるよう、AIを組み合わせた審査機能の構築を行いました。

Human in the Loopを取り入れた審査システムの開発

人間の審査とAIによる検知を組み合わせた、Human-in-the-Loopを取り入れたシステムを開発・運用しています。

① 各種システムや機械学習APIのアラートをトリガーに、審査すべき配信を優先度つきキューに追加
② 優先度順に、人間が配信を目視チェックを実施
③ ②での審査結果（OK, NGなど）を機械学習モデルの訓練用のデータセットに順次追加

上記のようなプロセスの中で、AIモデルの精度改善と審査の効率化を同時に進めていくことが可能となりました。

APIの提供に閉じない、幅広い活躍

審査項目の増加に比例し、各種機能の運用コストが増えていかないよう、マルチタスクな教師あり学習により構築されたモデルが、コアのアルゴリズムとして動作しています。
また、Human in the loopの枠組みの中で溜まったデータを再度追加する際の再学習の仕組みの構築や、審査機能への組み込みのためのシステム全体像検討など、AIモデルの開発に閉じず幅広く活動しています。