概要

検索しても容易に出てこないような隠語を多数駆使して薬物の売買や詐欺、強盗などの犯罪に加担させ人生を台無しにしてしまう方も多く、すでに報道等で社会問題と発展しております

センシティブ判定APIは「誹謗中傷」「闇バイト」「性差別」「薬物、出会い系隠語」「ポリコレ」など
センシティブと判定された文章を即座に検知、仕分けして不適切な発信をするユーザーを特定、アプリの健全性を強化します

またAI開発ではトレーニングデータの仕分けも不可欠です
サービス事業社の早急な対策として、一瞬であっても有害な書き込みやNGワードを見せない、発信者の特定や炎上対策が重要です

導入実績

検知対象

高機能なテキストマイニングにより、雑多なテキストから誹謗中傷、出会い系、アダルト用語はもちろん、危険物、過激宗教、薬物、ジェンダー平等、人種、判断が難しい差別表現や隠語、ポリコレまでフルカバー

導入事例

SNS投稿

ソーシャルメディアの投稿内容から、炎上に繋がりかねない不適切な表現を検知

レビュー/コメント

商品レビューやニュースのコメント書き込みから、誹謗中傷や差別的な表現を検知しフィルタリング

アプリ/検索ログ

チャットやアプリ、検索ログを分析し、暴力的な表現や誹謗中傷、アダルト表現など不適切な書き込みを監視

AI開発トレーニングデータをフィルタリング

トレーニングデータから有害な情報を除去、フィルタリング

導入フロー

リクエストパラメータ