Facebook Messengerが機械学習で詐欺や偽の友達リクエストを撃退、未成年者を護る

米国時間5月21日、FacebookはFacebook Messengerの新しい機能を発表した。ユーザーを騙そうと狙っている連中を追い払う機能だ。機械学習を利用して、短時間に大量の友達申請リクエストを送っていたり、18歳未満のユーザーにたくさんのメッセージリクエストをしているアカウントを見つける。この機能は、Messengerの検索アルゴリズムの変更により、偽の友達申請が目立って増加している中で発表された。

怪しげな行為が見つかったら、チャットウィンドウがポップアップしてユーザーにその問題を通知し、ユーザーはブロックするか無視するかの選択肢を選べる。この機能は、一部のAndroidユーザーには3月ごろから提供されているが、iOSには来週中に実装される。

この機能の狙いは、詐欺行為となりすましの両方を減らすことだ。特に重視するのが、まだこのプラットホームに接続していない若いユーザーと大人の対話を制限することだ。Facebookの説明では「この新機能は、18歳未満のユーザーに、面識がないかもしれない大人と交流するときは注意するように諭し、メッセージに反応する前に行動を起こす権限を与える」という。

同社によると、この機能はエンドツーエンドの暗号化が導入されてからも有効だ。機械学習の導入以降になるが、その後も人間オペレーターによる怪しげなメッセージのチェックは続けられる。