不適切なエロ画像か判別するシステムで有人による目視監視が不要に [134632623]

健康的な水着写真かそうでないかを判別できるフィルタリングシステムの開発に成功

NTTコムウェア株式会社は9日、SNSなどで投稿される不適切な画像コンテンツを識別する
フィルタリングシステムの開発に成功したと発表した。また、同日よりデータセクション株式会社と
共同で商用化に向けたトライアルを開始した。

機械学習技術「Deep Learning」を活用し、対象の画像を「スコア」という数値で評価することで、
これまで有人による目視監視が必要だった不適切なコンテンツをフィルタリングできる。
Deep Learningでは通常、犬や猫といった1つの物体（クラス）を習得するのに100万枚ほどの画像が必
要だが、NTTコムウェア独自の学習方法により、1万枚程度の画像を読み込ませるだけで精度の
高いエンジンに仕上げることが可能だという。

コンテンツを「適切」「不適切」のどちらかに判定するのではなく、1つのクラスが適切に近いのか、
不適切に近いのかを識別可能。例えば水着の写真を判定する場合、旅行のパンフレットに
掲載されているような健康的な写真と、そうではない不適切な写真を識別できる。

このため、映画倫理委員会が管理する「映倫規定」で用いられる制限区分「G」「PG12」「R15+」「R18+」
などの段階に応じてコンテンツの判定を分類することも可能。分類の基準値はサービス運営者が
設定できるため、排除したいコンテンツのレベルを柔軟に変更できるとしている。

また、不適切コンテンツの自動フィルタリング以外の用途向けにシステムをカスタマイズすることもできる。

http://internet.watch.impress.co.jp/docs/news/20150210_687719.html