Instagramがハラスメントに対処する新しいツール「Limits」のテストをしていることを認める

Instagram責任者のAdam Mosseri（アダム・モセリ）氏は、同社が「Limits」という新機能をテスト中であることを認めた。これはユーザーが大量のハラスメントの標的となってしまったときに一時的に自分のアカウントをロックダウンできる機能だ。この新機能は米国時間7月22日に公開されたモセリ氏のビデオの中で発表された。このビデオの中で同氏は、ユーロ2020決勝戦の後にInstagramプラットフォーム上で発生した人種差別を非難し、同社はこの問題を解決するために社内ツールとユーザー用ツールの両方の改善に取り組んでいると述べた。

2021年7月11日のユーロ2020決勝でイングランドチームが負けた後、怒ったファンが人種差別的なコメントで同チームのBukayo Saka（ブカヨ・サカ）、Marcus Rashford（マーカス・ラッシュフォード）、Jadon Sancho（ジェイドン・サンチョ）の3選手にひどいハラスメントをした問題で、Instagramは人種差別の侮辱についてコメントし、非難していた。そのときにモセリ氏は、同社はテクノロジーを使ってユーザーからの報告に優先順位をつける試みをしており、その際に報告の一部が人間のモデレーターに振り分けられず、誤って悪意のないコメントとして扱われてしまったと説明した。判定が難しい理由の1つとして考えられるのは、ハラスメントをしているコメントの多くに絵文字が使われており、Instagramのシステムは絵文字の意味が文脈によって変わることを理解できなかったためと見られる。

米国時間7月22日にモセリ氏はInstagramの誤りをあらためて認め、この問題を修正したと述べた。同氏によれば、Instagramは3選手に対するコメントをどんどん削除していたが、ユーザーからの報告の動きは予測できなかったという。

さらに同氏は、Instagramには1日に何百万件もの報告が寄せられ、そのうちの1％が誤って放置されれば問題のある数万件の投稿がプラットフォーム上に残ってしまうと語った。

モセリ氏は、ユーザーが自分のアカウントに対するハラスメントに直接対処し侮辱を避けるのに役立つツールに言及した。これには「ブロック」や「制限」などのツールがある。「制限」は誰かのコメントを他の人たちの目に触れる前に承認したり、誰かからのメッセージを既読をつけずに読んだりするツールだ。最近追加された「Hidden Words（隠される言葉）」というツールは、コメントとダイレクトメッセージの両方に対して特定のキーワードをブロックすることができる。

同氏は「Limits」は簡単な設定で見たくないコメントやリアクションを制限できる機能であるため、この機能があればサッカー選手たちの助けになっただろうと述べた。

ソーシャルメディアコンサルタントのMatt Navarra（マット・ナバラ）氏が7月上旬にこの機能を見つけ、動作を示すスクリーンショットを共有していたが、Instagramはこれまで正式に発表していなかった。

Here’s a few more screenshots of Instagram’s ‘Limits’ features pic.twitter.com/ssR7VmpG7m

— Matt Navarra (@MattNavarra) July 8, 2021

共有された画像を見ると、この機能を使えるようになっているユーザーにはInstagramのプライバシー設定に「Limits」という新しいセクションが表示され、特定のフォロワーのグループに対してコメントとメッセージを一時的に制限できると説明されている。

ユーザーはグループに対して制限をオン / オフできる。最近フォローされ自分はフォローしていないアカウントというグループがあり、スパムのアカウントやハラスメントをするためだけに最近作られたアカウントがこれに含まれる可能性がある。大量の侮辱が寄せられたとき、それが長年のフォロワーからであるケースは少なく、ハラスメントのために作られて新たにフォローされたアカウントからであることが多い。

ユーザーは制限をかける期間を日単位や週単位で設定することもできる。

Instagramの広報はこの画像のように動作することを認め「強烈なハラスメントや侮辱の事例」への対処に役立つツールになるだろうと述べた。

モセリ氏はLimitsがさまざまな場面で有効であることを次のように詳しく説明した。「高校で仲間はずれになったり、転校したばかりの人もいるでしょう。プロのサッカー選手で、大量のハラスメントを受けている人もいるかもしれません。さまざまなケースで人は一時的に苦痛にさらされることがあり、我々はそうした場合に自分を守るツールを提供したいのです」。

Instagramはこの機能がいつ一般に公開されるかを明らかにしなかったが、当面は一部の国のモバイルアプリでテストをすると述べた。