生成AI時代のSNSの安全な利用と情報モラル教育
〜子どもたちをめぐる最新動向と、学校・家庭・SNS事業者の役割を考える〜
2026年4月22日（水）、本年度第１回目となる第175回「千葉授業づくり研究会」を開催いたしました。今回のテーマは「生成AI時代のSNSの安全利用と情報モラル教育 〜子どもたちをめぐる最新動向と、学校・家庭・SNS事業者の役割を考える〜」です。
生成AIの普及で情報の生成・拡大のあり方が大きく変わるなか、子どもたちがどうすれば安全にSNSを利用できるのか。そして、その力をどう育てるかは、今の教育現場や家庭にとって本当に大切な課題になっています。
それを受け、今回の研究会では、Instagramなどを運営するMeta日本法人（Facebook Japan、以下Meta）の栗原さあやさんにお越しいただきました。世の中の最新のデジタル環境に精通されているMetaと弊会（ACE）は、これまでも出張授業「みんなのデジタル教室」や、VR（バーチャルリアリティ）教員研修会など、継続して連携させていただいています。
VRに関する活動の様子はこちら
【第166回】千葉授業づくり研究会「学校教育におけるVRの活用を考える」（2024年11月）
【教員研修会・実践報告】 VRを活用した新たな教育の可能性（2025年11月）
出張授業「みんなのデジタル教室」についてはこちら
ウェブサイト 「みんなのデジタル教室」詳細案内
「みんなのデジタル教室」出張授業の様子 ブログ記事
※2020年開始。中高生を対象に、これまで全国延べ4.5万人以上が受講。
当日は、Metaが進めている安全対策の最新情報や、新しく始まった「ティーンアカウント」にどのような思いが込められているのかなど、詳しくお話しいただきました。学校関係者や保護者など、子どもたちとSNSとの関係や安全な使い方に関心のある方は必見です！ぜひ、ご一読ください。
理事長・藤川教授によるメッセージ
はじめに、弊会理事長の藤川大祐教授（千葉大学大学院教育学研究院長）が登壇。20年にわたり、この問題に携わってきた経験を交えてお話がありました。
「SNSの歴史を振り返ると、2007年頃から普及が始まり、2013年頃のスマホの爆発的な普及とともにFacebookやTwitterが定着しました。その後、InstagramやTikTok、YouTubeなど、動画や写真を中心とした今の形へと大きく広がってきた流れがあります。
現在、世界中で議論されているのは、SNSの長時間利用や犯罪被害、そしてメンタルヘルスへの深刻な影響です。私自身、2005年頃に警察庁が初めて設置した会議の委員を務めて以来、約20年にわたり国のレベルでこの問題に関わってきましたが、今、状況はかつてない『新たな局面』を迎えていると感じています。
オーストラリアやフランスでの法規制、日本でのこども家庭庁による議論など、世界情勢も大きく変化しています。こうした中、Metaが他社に先駆けて導入した『ティーンアカウント』のように、事業者が若い世代の安全を守る本格的な仕組みを整えることは非常に重要です。
事業者が自らの責務を果たす一方で、私たち教育側は何をすべきなのか。これまでの『ネットから遠ざける』といった議論から一歩進み、それぞれの役割を整理した上で、どう子どもたちを支え導くか。今日は本音で、かつ率直に議論を深めたいと思います。」
ご講演：青少年の安全を守るSNSの仕組み（Meta・栗原さま）
続いて、Meta日本法人の公共政策本部で、ネット上の安全対策やリテラシー教育を担当されている栗原さあやさんにお話しいただきました 。栗原さんは、政府や自治体、NPOや学校関係者と連携しながら、子どもたちのネット上の安全や、リテラシー教育の普及に日々力を注いでいらっしゃいます 。
今回の講演テーマは、『青少年保護の取り組みについて』 。Metaがプラットフォームとして何よりも大切にしている、「10代の利用者に、安全で年齢に合った体験を届ける」という目標を、実際の機能にどのように反映させているのか 。最新の設計思想や具体的な仕組みについて、詳しく解説していただきました。
１．安全の土台「コミュニティ規定」とAI技術
SNSが子どもたちの生活に深く浸透し、日々当たり前のように使われている今、そこには新しい関心事の発見や、多様なつながりといったポジティブな側面が数多くあります。その一方で、利用に伴う新たな課題が浮き彫りになっていることもまた事実です。
その安全な環境を支える「土台」としてまず紹介されたのが、すべてのサービスの根底にある「コミュニティ規定」です。この「コミュニティ規定」は、インターネットで一般公開されており、どなたでも確認することができます。
「コミュニティ規定」は、FacebookやInstagram等において、コンテンツとして「何が認められ、何が認められないか」の共通ルールを定めたものです。テクノロジーや人権の専門家からの助言に基づいて策定されており、全世界で一貫して適用されます。ルールに違反した場合には、投稿の削除やアカウントの停止といった措置が取られます。
栗原さんは、この規定について「ルールをいかに実効性のあるものにするかが大切だ」と話され、通常の報告機能による監視に加えて稼働しているという、最新のAI技術を活用した取り組みについても解説しました。その内容について以下に紹介します。
- AIが自動で見つける: 膨大な投稿を人の目だけで確認するのは限界があるため、利用者から報告が来る前に、AI（機械学習）を用いて違反投稿を能動的に見つけ出しています 。
- 子どもを守る: 特に子どもに害がある深刻な投稿（性的搾取など）については、誰の目にも触れる前に、AIなどが自動でキャッチし対処しています（2025年10-12月には、人々からの報告前に97.3%の児童の性的搾取コンテンツを削除） 。
- 怪しい動きをチェック: データの分析などにより、アカウント作成直後に面識のない多くの子どもたちにリクエストを送るような「怪しい挙動」をシグナルとして検知し、未然に防ぐ工夫もされています 。
２．「Instagramのティーンアカウント」とは
続いて、Metaの事前リサーチに基づき、多くの保護者が懸念を持っているとされた3つの点。
子どもたちがSNS上で「誰とやり取りしているか」「どんな内容を見ているか」「利用時間は？」といった不安に直接応えるために開発された「ティーンアカウント」を紹介しました 。会場のみなさんに伺うと、ティーンアカウントの認知度は3割程度の様子です。
こちらは、保護者の見守りのもとで安全にInstagramを利用できるよう、Instagramが利用可能な13歳から17歳の子どもたちにおいては、初期設定において自動的に設定がなされるものです。
日本では2025年1月から導入され、既設アカウントを含む全対象者が移行済みです。
13歳から17歳の中でも設定を緩和する方法などには違いがあり、年齢によるニーズの変化も考慮した仕様になっています。
- 知らない人に見せない: 13歳から15歳の子どものアカウントは自動的に「非公開」になります 。フォロワー以外は投稿を見られず、新しいフォローリクエストも都度承認が必要です 。
- DM（メッセージ）の制限: 子どもがフォローしている人や、既につながっている相手からしかDMを受け取れない設定になっています 。
- ふさわしくない内容を抑える:「不適切なコンテンツ」が表示されにくく設定されています 。
- 「非表示ワード」でトラブルの激化を防ぐ：いじめや誹謗中傷に使われる言葉を自動で隠す機能です。最大の特徴は、「書いた本人には見えていても、他の人には見えない」こと。削除やブロックで相手を逆上させるリスクを避け、加害者を刺激せずに被害者を守るための工夫です。標準設定のほか、自分で見たくない言葉を追加してカスタマイズすることも可能です。
- 使いすぎの防止: 1日の利用が60分を超えるとアプリを閉じるよう通知が届くほか、保護者による時間制限も可能。また、夜10時から朝7時までは「スリープモード」が適用され、通知がミュートになります。
- ライブ配信の制限、ヌード保護: 13歳〜15歳はライブ動画の配信が制限されるほか、DMにヌードと疑われる画像が含まれる場合に自動でぼかす「ヌード保護」機能も追加されています 。
- 映画レーティングを参考にしたコンテンツ基準の導入: 保護者に理解しやすい基準として、13歳以上向けの映画レーティングを参考にコンテンツ表示を見直しており、過激な言葉遣いや危険な行為の投稿も制限するようポリシーを厳格化しています 。（米国等は導入済み。日本でも5月上旬から導入開始。）
こうした数々の安全機能について、栗原さんは「デフォルト（初期設定）」で自動的に適用されることの重要性を強調されていました。
背景にあるのは、日々多忙な時間を送る子どもたちや保護者、そして先生方への配慮です。多くのアプリを使いこなす中で、複雑な設定を一つひとつ手動で確認し、変更していくのは決して容易ではありません。
だからこそ、ユーザー側の操作を必要とせず、何もしなくても最初から安全な設定がオンになっていること。この「最初から守られている状態」こそが重要であるという考えに基づき、機能開発を進めているとのことでした。
年齢詐称を防ぐための対策も徹底されています。AIによる動画での年齢推定や、公的身分証明書の確認など、外部サービスも組み合わせた多角的な方法で、利用者の年齢を正しく判別する工夫がなされています。
現在、子どものスマートフォンには数十個ものアプリがインストールされていると言われており、保護者がそのすべてを個別に把握し、設定を管理し続けるのは現実的に非常に困難です。
こうした負担を解消するためには、個々のアプリ単位での対策だけでなく、スマートフォンの土台であるOS、アプリストアレベルで、一括して年齢確認や保護者の同意管理ができる仕組みが求められます。
栗原さんは、アプリごとの対策を徹底する一方で、業界全体でOSレベルの共通基盤を整えることが、結果として保護者の負担を減らし、より確実な子どもの保護につながるという点にも言及されました。
３．保護者による見守り（ペアレンタルコントロール）
保護者が子どものSNS利用により深く関わり、安心を見守るための「ペアレンタルコントロール（見守り機能）」についても詳しく紹介されました。こちらは、保護者のアカウントと子どものアカウントを連携させて使用する仕組みで、子どものプライバシーを尊重しながら、家庭ごとのルールに合わせて活用できる機能が整っています。
- 設定の緩和には「保護者の承認」が必須 ：13歳から15歳の子どもが、初期設定の安全制限を緩めようとする場合には、必ず保護者の承認が必要な仕組みになっています。
- 対話を支える見守りツール ：保護者は、子どもが過去1週間に誰とチャットをしたか（※プライバシー保護のためメッセージの内容自体は閲覧不可）や、現在のフォロー状況を確認できます。また、1日の利用時間に上限を設けるといったコントロールも可能です。
４．性的脅迫（セクストーション）から子どもを守るツール
さらに、万が一深刻なトラブルに直面してしまった際の具体的な救済策として、専用ツール「Take It Down（テイクイットダウン）」についても紹介されました。これは、Metaが支援する外部の専門プラットフォームで、望まない性的画像の拡散を未然に防ぐための仕組みです。
そもそも「セクストーション（性的脅迫）」とは、「セクシャル（性的）」と「エクストーション（強請・脅迫）」を組み合わせた言葉です。言葉巧みに送らせた裸の画像などを「ネットにばらまくぞ」と脅し、金銭やさらなる画像を要求する卑劣な犯罪を指します。
こうした脅迫に対し、「Take It Down」は以下のような仕組みで子どもたちの将来を守ります。
- 一括で加盟アプリ上での拡散を防ぎ、以後ネットに公開される前に「先回り」してブロック： 拡散するおそれのある写真のデータを登録しておくことで、一括で加盟アプリ上での削除等の対処が行われ、犯人がその画像をFacebookやInstagramなどのTake It Downの加盟アプリにアップロードしようとした瞬間にシステムが検知し、公開される前に自動でブロックします。
- 写真は送らず「デジタル指紋」だけで照合： 「自分の写真をどこかに送る（アップロードする）」必要は無く、写真の「デジタル指紋（ハッシュ値）」という記号だけを登録します。画像の内容を誰かに見られることなく、プライバシーを守ったまま、複数のSNSで拡散を止めることが可能です。
- 啓発キャンペーンの実施： 技術的な対策と同時に、「もし被害に遭ってしまっても、悪いのはあなたではない」というメッセージを伝える啓発キャンペーンも実施されています。
前半のまとめ：講演を終えて
講演の最後に、栗原さんは次のように締めくくりました。
「SNSや生成AIにはリスクもありますが、リスクを最小限に抑えつつ、テクノロジーが持つポジティブな側面を最大限に引き出していきたいと考えています 。
多くの専門家の先生方が共通しておっしゃるのが、『まずは子どもの声に耳を傾けること』の大切さです 。トラブルが起きたとき、大人はどうしても『なぜこんなことになったのか』と原因を問い詰めてしまいがちですが、そうするとお子さんは心を閉ざしてしまいます 。
お子さんが安心して相談できる環境を、皆さまと一緒に作っていければと願っています 。」
ディスカッション
研究会の後半は、千葉授業づくり研究会では定番のディスカッションの時間です。最新の安全機能や世界的な動向をふまえ、学校・家庭・事業者がどう連携して子どもたちを支えるべきか、活発な議論が行われました。
ここからは、ディスカッションの内容を一部抜粋要約してご紹介します。
Q．いわゆる「裏アカ」や、生年月日を偽って登録することについて、プラットフォームではどのように対応していますか？
A．Instagramでアカウントを作成する時には、生年月日の入力が必要になります。
複数のアカウントを作ること自体はできますが、それぞれのアカウントで生年月日を入力する必要があります。13歳から17歳の利用者であれば、ティーンアカウントの対象になります。
生年月日を偽って登録している場合でも、閲覧しているコンテンツなど、利用状況に関する複数のシグナルから年齢に関する判断が行われる可能性があります。
また、趣味やコミュニティごとにアカウントを使い分けること自体は、必ずしも否定されているわけではありません。家族、友人、趣味のつながりなど、関係性に応じてアカウントを分ける使い方はあり得ます。
一方で、別のアカウントを使って悪口を書いたり、匿名性を利用して過激な発言をしたりするリスクもあります。そのため、複数アカウントの利用そのものよりも、それを悪用した誹謗中傷などをどう防ぐかが課題になります。
Q．ティーンアカウントはどのように導入され、どのように受け止められていますか？
A．2025年4月時点で、世界中のティーンアカウントの数は5400万を超えていました。
日本の13歳から17歳の利用者についても、ティーンアカウントへの移行がすでに完了しています。そのため、該当する年齢の利用者は、基本的にティーンアカウントを利用していることになります。
また、13歳から15歳のティーンアカウント利用者の97％が保護設定をデフォルトのままオンにしているという数値が出ています。このことから、保護設定は、子どもたちにとって強い抵抗があるわけではなく、自然に受け止められていると考えています。
Q．不適切なコンテンツを通報した後は、どのようなプロセスを経て対応がなされるのでしょうか？
A．通報されたコンテンツは、AIや人の目を用いて確認されます。
対応状況については、透明性レポートとして四半期ごとに公開されています。レポートでは、いじめや子どもの性的搾取など、カテゴリーごとの対応状況を見ることができます。ただし、日本だけの数字は個別には出ておらず、基本的には全世界の数字として公開されています。
一方で、通報されたコンテンツが必ず削除されるわけではありません。コミュニティ規定に違反しているかどうか判断が難しい、いわゆるグレーなコンテンツもあります。
また、著名人や政治家などに関する投稿では、表現の自由との関係から、判断の条件が異なる場合もあります。そのため、不快に感じるコンテンツであっても、規定に違反していなければ削除されないことがあります。
なお、誤って削除された場合には、異議申し立てができます。さらに、判断が難しいコンテンツについては、Metaとは別の第三者機関であるオーバーサイトボードが扱う場合もあります。オーバーサイトボードでは、有識者による議論やパブリックコメントなどを踏まえ、Metaに勧告を行う仕組みがあります。
また、通報以外の方法として、「非表示」機能もあります。Instagramでは、見たくないコンテンツを非表示にすることで、そのコンテンツが表示されなくなるだけでなく、似たようなコンテンツがなるべくおすすめに出ないように調整できます。
保護者からは、最初から保護機能が入っていることに安心感があるという声があります。一方で、家庭内での話し合いや、ペアレンタルコントロールを使った見守りについては、さらに認知を広げていく必要があります。
Q．学校教員です。SNSトラブルの指導で悩んでいます。例えば、子ども同士で不適切な動画を撮影・拡散してしまった場合、学校はどこまで指導してよいのでしょうか？
A．学校としてどこまで踏み込むべきかについては、非常に難しい問題です。
プラットフォーム側では、家庭で設定できる機能や、保護者向けの情報提供を行っています。一方で、保護者も忙しく、機能や設定を一つひとつ確認することが難しい場合があります。
ただいずれにしても、学校が家庭に対してどこまで強く求めるかについては、簡単に答えを出せる問題ではありません。
また、保護者の情報モラルへの関心や理解には大きな差があります。家庭でSNSやメッセージアプリの使い方をきちんと話し合っている保護者もいる一方で、そうすることが難しいご家庭もあると思います。
そのため、学校だけで対応を完結させるのではなく、家庭での話し合いを促すための資料や、保護者に届きやすい情報提供の方法を考えていく必要があります。
Q．保護者にSNSや情報モラルに関する情報を届けるには、どのような工夫が必要ですか？
A．デジタルリテラシーへの関心が高い家庭では、家庭内で一定のルールづくりや見守りが行われています。一方で全てのご家庭に知っていただくことはなかなか難しいという課題があります。
そのため、保護者会や入学説明会など、学校と保護者が接点を持つ機会で使える教材があるとよいのではないかという話がありました。特に、小学校から中学校へ進学する際の入学説明会は、多くの保護者が参加するため、スマートフォンやSNSの使い方について伝える機会として活用しやすいと考えられます。
また、忙しい保護者の方にもご関心を持っていただきやすいよう、短い動画や漫画形式のコンテンツなど、形式も工夫して伝える必要があります。
Metaでは実際に、ティーンアカウントの機能を30秒程度で紹介する動画や、保護者クリエイターと連携した発信も行われています。
ディスカッションの中では、学校の先生方へ安全対策の情報が届きにくいという課題も浮き彫りになりました 。また、総務省が行うデジタルポジティブアクションサイトから一括で各社・団体の教材にアクセスできることも紹介されました。
先生方が授業や指導で活用しやすいように情報を整理し、直面しているトラブルや悩みをキーワードとして入力すれば、現場で最適な教材が即座に提案されるような仕組みづくりも、今後の重要となってくるのではという意見も出ました 。
まとめ（理事長・藤川教授）
研究会の締めくくりとして、理事長の藤川教授より、本日の議論を総括する挨拶がありました。
「今日の議論を通じて改めて感じたのは、SNSに対する『過度な規制』はマイナス面が大きいということです 。一律に禁止をしてしまえば、子どもたちの活動はかえって大人の目が届かない『闇』へと隠れてしまい、結果としてリスクを高めてしまいます 。私たちは子どもの権利を尊重し、守らなければなりません 。
現在、オーストラリアなどでは非常に厳しい法規制が進んでいますが、日本はそれとは異なる道を模索すべきではないでしょうか 。問題を直視し、適切に対応しながら、安全な利用を促進しつつ権利も守られる。そうした日本ならではの形を、これからも様々な場面で議論し、形にしていければと思います 。」
今回の研究会を通じ、立場を問わず子どもを支える大人に必要なのは、子どもの声に耳を傾ける姿勢と「対話」だと改めて感じました。
一方で、親としての葛藤も尽きません。中高生の娘がいるわが家でも、最近は学習に生成AIを使う場面が増え、スマホの使用時間について制限時間を延ばしたり、その流れでついSNSも見てしまったりと、時間の管理はより難しくなりました。
見守り機能についても、OSの違いによる連携のしにくさや、親側のアカウント作成が必要な点など、使いにくさを感じることがあります。また、子どもに問われてもフェイクを見抜くのが難しく、進化のスピードに親が追いつけているのかという不安も正直あります。こうした親子で模索している状況下で、トラブルに対応される先生方の負担は相当なものと想像します。
しかし、これまで子どもの自制心に頼るしかなかった部分が、今回のような技術の力で支援可能になってきていることに、解決への明るい兆しを感じました。私たちACEも、出張授業を通じて一人ひとりに寄り添い、安全で主体的な活用をサポートする活動に、より一層前向きに取り組んでまいります。
以上で、第175回千葉授業づくり研究会のレポートのご報告とします。ご講演いただきました栗原さん、そして参加者のみなさん、ありがとうございました。
千葉授業づくり研究会の参加方法
千葉授業づくり研究会にはどなたでも参加できます。
興味がある方は、こちらの開催情報をチェックしてくださいね！Zoomを用いたオンライン配信による参加もできるので、遠方の方も大歓迎です。
