Facebook「この写真、性的すぎる！ダメ」投稿主「玉ねぎなんですけど。。」
植物の種を販売する企業が、シーズンに向けてタマネギの種の広告をFacebookに掲載しようとしたところ、広告内で使用した画像が「あからさまに性的である」と判断されてしまい、広告の掲載中止を余儀なくされました。一体なぜタマネギの画像が性的であると判断されてしまったのか、広告の申請を担当したマネージャーが語っています。
This St. John’s seed company’s onions are too sexy for Facebook | CBC News
https://www.cbc.ca/news/canada/newfoundland-labrador/onions-too-sexy-for-facebook-1.5750881‘Overtly sexualized’: St. John’s company’s onions (yes, onions) flagged by Facebook’s nudity algorithm | Simcoe Reformer
https://www.simcoereformer.ca/news/overtly-sexualized-st-johns-companys-onions-yes-onions-flagged-by-facebooks-nudity-algorithm/wcm/65927083-1a26-4641-887e-1702950dffe6野菜や花の種子を販売するThe Seed Companyのマネージャー、ジャクソン・マクリーン氏によると、Facebookでタマネギの一種、ワラワラ・スイート・オニオンの広告を掲載しようとしたところ、広告に含まれるタマネギの画像がFacebookの広告ガイドラインに違反していたため、商品の宣伝ができなかったとのこと。
以下の画像が、The Seed Companyがワラワラ・スイート・オニオンの広告用画像として用意したもの。かごに盛られたタマネギと半分にカットされたタマネギが写っており、まったく問題はなさそうに見えます。
引用：Gigagine
その画像がコチラ⇓
玉ねぎの画像がFacebookのガイドラインに違反した？
こちらが警告を受けた玉ねぎの画像
特に卑猥には見えませんが…一体どうして警告を受けてしまったのか、
タマネギの画像に対してFacebookが「性的である」と判定してしまった理由は、おそらくAIの自動チェックによる可能性が高いとマクリーン氏は推測しています。FacebookはAIを使ったコンテンツの自動チェックシステムを導入しており、2020年4月から2020年6月までの間にFacebook上で性的な内容を含む有害コンテンツ約3570万件が削除されました。AIによるコンテンツの自動チェック技術は発展途上であり、過去にはTumblrによるAIの画像チェック基準が曖昧すぎると多くの非難を浴びています。
AIの自動チェックでの誤判定の可能性があるとのこと。
人間の目で見ればこの画像が卑猥なものでない事はたしかですからね…
ネットの反応
玉ねぎにしか見えなくなるから
玉ねぎが本当に”女性のアレ”に見えてしまう画像
玉ねぎが女性のアレに見えてしまう画像がネット上で話題になっています。
これはたしかにお●ぱい
これはアレですね‥
完全にお●ぱいですね^^;
この写真なら、AIチェックにでダメって言われてもちょっと納得してしまう^^;
【まとめ】Facebook「玉ねぎの断面が女性のアレに見える！削除して！」玉ねぎの写真に警告をだしてしまうｗｗよく見るとアレに見える？【画像】
Facebookから警告をうけてしまったこの企業によると、Facebookからこの件についての連絡はまだ来てないそうです。
マクリーン氏いわく「Facebookの従業員が実際の写真を見て性的なものではないと判断してくれるはず。ただの玉ねぎですから」とコメントしています。
AIチェックも高性能なんだか、ちょっとポ●コツなんだかわからないですねｗ
最後までお読み頂きありがとうございました！
参考：Gigagine
