ブルースカイは金曜日に、2024年の社会ネットワークが経験した大幅な成長と、その信頼性と安全性チームの業務量に影響を与えたことについてのモデレーションレポートを公開した。また、最も多くのレポートは、ユーザーが嫌がらせ、トロール行為、または不寛容行為についてのアカウントや投稿を通報していることを指摘しました。これは、成長によってブルースカイが悩まされてきた問題であり、時折、個々のモデレーション判断に対する広範な抗議行動につながってきました。
同社のレポートには、最もブロックされたリストにいるユーザーなど、個々のユーザーに対してなぜ行動を取ったのか、取らなかったのかについては言及されていませんでした。
ブルースカイは2024年に2300万人以上のユーザーを追加し、様々な理由でブルースカイが元のTwitter/Xユーザーの新たな目的地となりました。その間、このソーシャルネットワークは、Xにおけるブロックの働き方やユーザーデータのAIトレーニングの変更など、Xでのいくつかの変更から利益を得ました。他のユーザーは、米国大統領選挙の結果や、Xの所有者イーロン・マスクの政治がプラットフォームを支配し始めたことに基づき、Xを離れました。また、ブラジルでXが一時的に禁止された際に、アプリもユーザー数が急増しました。
この成長に伴う需要に応えるため、ブルースカイはモデレーションチームを約100人のモデレーターに拡大し、引き続き採用を進めています。同社は、常にグラフィックコンテンツに晒される難しい仕事をするチームメンバーを支援するために心理カウンセリングを提供し始めました。（AIがいつかこのタイプの作業に対応できることを望んでいる領域ですが、人間はこの種の作業を処理するためには建設されていません。）
ブルースカイのモデレーションサービスへの報告は合計648万件であり、2023年の35.8万報告から17倍増加しました。
今年から、ブルースカイはアプリから直接モデレーションレポートを受け付け始めます。Xと同様に、これによりユーザーは行動やアップデートをより簡単に追跡できるようになります。後に、アプリ内での申し立てもサポートされる予定です。
ブラジルのユーザーが8月にブルースカイに殺到した際、ピーク時には1日あたり5万件の報告があったことがありました。これにより、モデレーションレポートの対応に遅れが生じ、ブルースカイは契約ベンダーを通じてより多くのポルトガル語スタッフを雇う必要がありました。
さらに、ブルースカイは、スパム以外の報告のカテゴリーを自動化する取り組みを開始し、需要に対処してきましたが、これは時々誤検知を引き起こすこともありました。それでも、自動化により、「高確度」のアカウントの処理時間を「数秒」にまで短縮しました。自動化以前は、ほとんどの報告が40分以内に処理されていました。現在、人間のモデレーターは、最初の判断を必ずしも担当しないが、誤検知や申し立てに対処するために連携しています。
ブルースカイによると、アクティブユーザーの4.57%（119万人）が2024年に少なくとも1つのモデレーションレポートを行い、2023年の5.6%から減少しました。このうち、約350万報告が個別の投稿に関するものでした。アカウントプロフィールは4.7万回、リストは4.5万回、DMは1.77万回、フィードとスターターパックはそれぞれ5,300回、1,900回報告されました。
ほとんどの報告は、トロール行為や嫌がらせなどの反社会的行動に関するものであり、このことは、ブルースカイのユーザーが、Xに比べてより毒性の少ないソーシャルネットワークを望んでいることを示しています。
ブルースカイが述べる他の報告カテゴリーには、以下が含まれます：
- 誤解を招くコンテンツ（詐称、誤情報、または正体または所属についての誤った主張）：120万件
- スパム（過度なメンション、返信、または繰り返しのコンテンツ）：140万件
- 望ましくない性的コンテンツ（適切にラベル付けされていないヌードやアダルトコンテンツ）：63万件
- 違法または緊急の問題（法律またはブルースカイの利用規約の明確な違反）：93.3万件
- その他（上記のカテゴリーに該当しない問題）：72.6万件
さらに、ブルースカイは、投稿やアカウントに追加されるラベルサービスに関する更新情報を提供しました。人間のラベラーは、5.5万人の「性的な姿」ラベルを追加し、続いて2.2万人の「無礼な」ラベル、1.3万人の「スパム」ラベル、1.1万人の「不寛容」ラベル、3,046人の「脅迫」ラベルを追加しました。
2024年には、93,076人のユーザーが合計20.5万件のモデレーションの決定に対する申立を提出しました。
モデレーターによるアカウントの停止は66,308件であり、自動化されたアカウントの停止は35,842件でした。ブルースカイはさらに、法執行機関、政府、法律事務所から238件の要請を受けました。同社はこれに182件回答し、146件に応じました。これらの要請のほとんどは、ドイツ、米国、ブラジル、日本からの法執行機関の要請であったと述べています。
ブルースカイの完全な報告書では、商標および著作権の主張や子供の安全/CSAMの報告など、他のタイプの問題にも触れています。同社は、1,154件の確認されたCSAM報告を全米行方不明児童センター（NCMEC）に提出したことを述べています。
