2009年にFacebookに入社した当時、私は創業者マーク・ザッカーバーグが掲げた「世界中の人々をつなぎ、力を与える」という使命を信じていた。 その結果がどうなったかは、誰もが知るところだ。現在、Facebook、Instagram、WhatsAppの親会社であるMetaは、可能な限り多くのエンゲージメントを生み出すことに注力しており、その結果、ユーザーを中毒状態に陥らせ、激怒させ、誤った情報を流布し、分断を招くプラットフォームが生まれてしまった。

私は内部告発者となるまで、15年間Facebookで働いていた。 私は、無限スクロール、自動再生、アルゴリズムによるフィードなど、強迫的な利用を促す機能を、有能な人材たちが開発・展開していた現場に身を置いていた。こうした設計上の選択は、何よりも利益を最大化するという目標のもと、意図的に行われたものだった。

幸いなことに、世界はソーシャルメディアがもたらす害、特に若者への悪影響に気づき始めている。7月初旬、独立した委員会が、EUがどのようにして子どもたちのオンライン上の安全を確保できるかに関する最終報告書を、欧州委員会のウルズラ・フォン・デア・ライエン委員長に提出した。夏以降、立法案が提出される見込みだ。

EUのいくつかの国が年齢を問わない全面的な利用禁止措置の導入を計画している一方で、同報告書は、有害なデザイン機能を直接禁止することを提唱している。これは、科学的コンセンサスとオピニオンの両方から支持されている戦略である。 政府が本当に子供たちを安全に守りたいのであれば、食品会社や自動車メーカーにすでに求められているように、ソーシャルメディアプラットフォームに対し、10代の市場に参入するためにその安全性を証明することを義務付けなければならない。

有害な設計上の機能を直接禁止することは、科学界のコンセンサスとオピニオンの両方から支持されている

ケリー・ストーンレイク

一律禁止というアプローチは、中毒性のあるソーシャルメディアを避けられないものとして扱っている。しかし、そうではない。それは長年にわたる企業のロビー活動と、規制に消極的な政府の姿勢が生み出した産物に過ぎない。同様に重要なのは、そのようなアプローチは効果がないということだ。オーストラリアは昨年12月、16歳未満のユーザーのアカウント保有を禁止し、世界初の未成年者向けソーシャルメディア禁止措置を先駆けて導入した。 3月、eSafetyコミッショナーの遵守状況報告書は、執行上の重大な不備を指摘し、ネットいじめや画像を用いた虐待の通報件数に減少が見られないことを明らかにした。4月時点でも、12歳から15歳の半数以上が依然として有効なアカウントを保有していた。

その結果、オーストラリアは、子どもの健康と幸福を損なうことが実証されている有害な機能への対策も開始した。同様に、カナダ、スペイン、ブラジル、ドイツも、プラットフォームが安全に設計されるよう、テクノロジー企業に責任を負わせる重要性に気づき始めている。

より多くの政府が、子どもに害を及ぼす設計上の機能を禁止し、テクノロジー企業に対して第三者機関による検証を経た厳格な安全基準の遵守を求めることに注力すべきである。170以上の団体が、この「安全設計（Safety-by-Design）」アプローチを求める請願書に署名しており、英国の慈善団体は、こうした基準がどのようなものになるべきかについての指針を発表している。さらに、この立場は広く一般市民の支持を得ている。 欧州5カ国で最近実施された世論調査では、回答した成人の4分の3が、ソーシャルメディアに対して「安全設計（safe-by-design）」のアプローチを望んでおり、安全性が証明されるまで子どもがプラットフォームにアクセスできないようにすべきだと答えた。

この議論は法廷の場にも持ち込まれている。2月、欧州委員会はTikTokに対し、中毒性を高める設計を変更するよう警告し、これに従わない場合は売上高の最大6％に相当する罰金が科されると通告した。 さらに最近では、欧州委員会の予備決定により、Meta社が無限スクロールや注意力の奪取による依存リスクを評価していなかったことが判明し、同社はデジタルサービス法に違反しているとされた。米国では、4つの州が、FacebookやInstagramを若年層ユーザーを依存させるよう設計したとして、Meta社に対し1.4兆ドルの罰金を求めている。

相互運用性も、取り組む価値のある改革の一つだ。ソーシャルメディア・プラットフォームがデータを共有すれば、ユーザーはネットワークを失うことなく、より安全な代替サービスに乗り換えることができる。そうすれば、例えばプラットフォームが極右の億万長者に買収され、過激主義の温床と化しても、ユーザーはそこに閉じ込められることはないだろう。

結局のところ、あらゆる改革は強力な執行メカニズムにかかっている。各国政府は、自主的な取り組みや、違反に対して罰金を科すオーストラリアのような法律を用いて、ソーシャルメディアプラットフォームの規制を試みてきた。しかし、世界で最も収益性の高い企業にとっては、そうした罰金は単に事業運営のコストとして吸収されてしまうかもしれない。その罰則は、価格に織り込めないほど重大なものでなければならない。

「安全性を設計段階から組み込む（Safety-by-Design）」というアプローチこそが、引き起こす害を顧みずに構築されたプラットフォームに対処する唯一の方法である

ケリー・ストーンレイク

世界的な規制環境を形作ってきた実績を持つ欧州には今、子どものオンライン安全のために効果的かつ有意義な安全策を構築する上で、世界をリードする機会が訪れている。 専門家の警告にもかかわらず、過去1年の大半にわたって全面的な年齢制限を公約していたフォン・デア・ライエン委員長が、独立パネルの最終報告書を発表する際に「欧州のルールは『安全設計（Safety-by-Design）』である」と述べ、新たな方向性を示したことは有望な動きだ。 また、同報告書は年齢制限を推奨しているものの、中毒性や有害な機能の再設計が完了するまでの暫定的な措置として位置付けている。さらに、ソーシャルメディアの安全性を立証する責任を、規制当局ではなくテクノロジー企業に課している。

EUはすでに「安全性を設計に組み込む（Safety-by-Design）」アプローチにおいて先行している。「デジタルサービス法」が法的根拠と実証事例を提供しているのだ。特別委員会は、この法律に基づき、TikTokの中毒性のある機能に対して最近行われた執行措置や、Snapchat、X/Grok、Metaに対する現在進行中の手続きを例に挙げた。

こうした政治的な風向きの変化を受け、EUは今こそ「セーフティ・バイ・デザイン」アプローチを法的に定着させ、それが、引き起こす害を顧みずに構築されたソーシャルメディア・プラットフォームに対する唯一の実行可能な解決策であることを認識しなければならない。 つまり、規則の表面的な修正にとどまらず、今年後半に制定が見込まれる「デジタル・フェアネス法」において、この枠組みを拡大する必要がある。

ソーシャルメディア・プラットフォームから、無限スクロール機能、エンゲージメントを最適化したデフォルト設定、絶え間ないプッシュ通知が排除されれば、若者にとってはるかに安全なものになるだろう。 対照的に、年齢制限はプラットフォームそのものを変えることなく、有害な影響を先送りするに過ぎない。「セーフティ・バイ・デザイン」の解決策は、子どもや10代にとって有害であることが証明されている製品への接触を減らし、市場のインセンティブを再構築することで、より安全なプラットフォームが競争できる余地を生み出すだろう。

EUは、域内に入るほとんどの製品に対し、法律によって安全性を確保することを義務付けている。 ソーシャルメディアも例外であってはならない。

• メタ社の元幹部で内部告発者となったケリー・ストーンレイク氏は、子どものオンライン安全の擁護者である。©Project Syndicate