【記事】「Yahoo!知恵袋」の不快な投稿、見えないところへ　わずか1日で6億件を処理

この学習済みAIモデルをマイネ王にも適用してみよう〜！

削除するのではなく「表示回数を減らす」ってのが妙味ありますね。
ツイッターでも「クオリティフィルター」という不快なDMを抑止するシステムがありますし。

知りたいことあっても関係のない変な投稿目にして不快なので 近づけないですね。

知恵袋のごみ投稿はどうも、日本語として意味をなさないか、もしくは会話がそもそも成立していない（「明日は晴れですか」「いいえ、ケフィアです」的な。そして何故かBAを取得するｗ）ところが判断基準かもしれませんね。


マイネ王はちょっと違うような。文章「外」に問題があって、文章を見ている限りは会話が成立している系というか。例えるなら「ご飯がないならお菓子を食べれば」とか。（いや、正しいんですよ、一つの答えとしては）


個人の感想ですので、ご指導とかは不要です。ｗ

>> eq.18さん
>> 「ご飯がないならお菓子を食べれば」
「ご飯がなくて困ってます。どうすればいいでしょうか？」という質問への回答としてはアリだとしても。
「お米が有るのですが上手く炊けません。どうすればいいでしょうか？」への回答ならば
今回の記事の『グレーな投稿』に当てはまるでしょうね

なんか凄い。
(引用↓)
「文を文字単位に分解して扱う深層学習的な処理を導入し、文の全体や文脈を踏まえて（内容を）判断する、パワフルなモデルを作った」

よく意味はわからないけど、凄いなあ〜！
日夜こんな開発をしている人が居るとは。規模が違う。


マイネ王は｢ブルーレイ･プレイヤー｣の中点｢･｣を取ったら、卑猥な表現エラーで投稿出来なくなっちゃうレベルですもんね。

さとさん
〉マイネ王は｢ブルーレイ･プレイヤー｣の中点｢･｣を取ったら、卑猥な表現エラーで投稿出来なくなっちゃうレベル

この手の問題は、既存の翻訳システムをマッシュアップして「ユーザーが入力した和文を英訳に自動翻訳して、公序良俗に反する英単語があるか？」を判別するだけで、区別できそうな気もしますね。笑

トッチン さん

なるほど、翻訳システムに考えて貰って、長い文章を単語に分割して貰うのか～。英語なら単語ごとにスペースが入るので簡単に判別できそうですね。

へえ、卑猥かどうかを判断できるまで進んでいるんですね。
マイネ王のテキストフィルタリングソフトは単なる文字列マッチングにしか過ぎず、「アリバイ作り」だけのソフトですが、人間が不快かどうかを推測できるのであれば期待できます。
ちなみに、我が社のフィルタリングソフトは、Microsoft社のOfficeのヘルプページを不適切サイトとしてブロックします　(^^;)