各地で強盗や特殊詐欺の被害が相次ぐ中、警察庁は28日、SNS（交流サイト）上にある犯罪との関連が疑われる有害投稿の監視に初めて人工知能（AI）を活用することを決めた。29日に導入し、監視・削除要請する対象を拡大。「闇バイト」「高収入」など高額報酬を示唆する表現と、「受け子」「運び屋」など実行役を募る文言の両方が書かれた投稿にも目を光らせる。AIは、警察庁が監視業務を委託する民間団体「サイバーパ

警察庁は、インターネット上の違法、有害な情報を把握し、書き込みの削除を求める取り組みを強化する。３月１日から、殺人や強盗など生命・身体に危害を加える犯罪に誘うといった内容の投稿を新たに監視対象にする。監視体制も増強する方針だ。 関東や西日本で連続発生した強盗事件ではＳＮＳなどを通じて実行役が集め…

ネット交流サービス（SNS）などに投稿された殺人やストーカー行為の依頼を募る投稿について、警察庁は、民間委託している事業を通じてSNS運営事業者に削除要請する方針を決めた。安倍晋三元首相が2022年7月に銃撃されて死亡した事件を受け、銃器や爆発物の製造情報の削除要請は決めていたが、生命・身体に危害を加える危険性や緊急性が高い投稿を広く対象に含めることにした。23年3月をめどに実施する。 警察庁によると、「有害情報」として新たに削除要請の対象となるのは、拳銃の譲渡等▽爆発物・銃砲等の製造▽殺人等▽臓器売買▽人身売買▽硫化水素ガスの製造▽ストーカー行為等――の7類型。現時点では自殺勧誘のみが対象となっており、大幅に増えることになる。

安倍元総理大臣が銃撃されて死亡した事件を受け、警察庁は、銃や爆発物などの製造に関するインターネット上の書き込みやサイトを「有害情報」として扱い、サイトの管理者に削除を要請するなど、対策を強化する方針です。 安倍元総理大臣が銃撃されて死亡した事件では、襲撃に使われた手製の銃や火薬が、インターネット上の動画や情報を参考につくられたとみられることが分かっています。 先月、警察庁が公表した警備の検証結果についての報告書では「ネットを通じて、誰もが簡単に、銃などの製造情報を入手でき、新たな脅威が生じている」として、対策の必要性が指摘されました。 これを受け、警察庁は、銃や爆発物などの製造に関するネット上の書き込みやサイトを、人の命に危険を与えかねない「有害情報」として扱い、サイトの管理者などに削除を要請することになりました。 これまでは、警察庁が業務を委託している「インターネット・ホットラインセンタ

《消去覚悟》──。事件後、YouTubeには、こんな題名で銃の構造を解説する動画の投稿があった。 YouTubeやTwitterは、銃や弾薬などの製造方法を紹介する投稿を禁じ、違反した場合は削除やアカウントの停止といった措置を取っている。しかし明らかな違反であっても、膨大な投稿の中から見つけ出し、削除するまでにはタイムラグが生じてしまう。 SNSに氾濫する違法・有害情報は武器の製造方法に限らない。誹謗(ひぼう)中傷やフェイクニュースといった情報にも重大な問題性がある。 法務省の人権擁護機関などが削除を要請することはあるが、強制力はない。法務局が2019年1月～21年10月に削除要請した約1200件のうち、対応は約7割にとどまった。 海外ではより踏み込んだ法整備が進む。欧州連合（EU）各国と欧州議会は4月、違法コンテンツを抑止するよう巨大IT企業に義務付けるデジタルサービス法案に合意。英国も

違法情報等対応連絡会 テーマ・目的　「インターネット上の違法な情報への対応に関する検討」 設置要綱 ガイドライン・手引き関連 2014.12 インターネット上の違法な情報への対応に関するガイドライン 2016.04 違法・有害情報への対応に関する契約約款モデル条項 2023.10 違法・有害情報への対応に関する契約約款モデル条項の解説 2020.08 違法・有害情報への対応に関する契約約款モデル条項（英語版） 2020.08 違法・有害情報への対応に関する契約約款モデル条項の解説（英語版） セミナー（講演会）・展示会・報道発表・意見募集 2023.10.02 違法・有害情報への対応等に関する通信事業者向け説明会 日　時：２０２３年１１月１日（水）午後２時～ 2023.10.02 【契約約款モデル条項・解説の改訂】 「違法・有害情報への対応等に関する契約約款モデル条項の解説」の改訂について

こんにちは、株式会社ミクシィで SNS「mixi」事業を担当している岩瀬です。 本記事では、「mixi」における 「健全化活動」と、近年実施した「機械学習による不適切コンテンツ（規約違反投稿）検出」の取り組みについてご紹介したいと思います。 はじめに「mixi」 は、サービス開始からまもなく 15 周年を迎えるソーシャルネットワーキングサービスです。 長く運用したサービスでは古くなった仕組みの更新が欠かせませんが、「mixi」でもそうした取り組みの一つとして、 2018 年末にかけ「健全化活動」にかかわる仕組みの更新を行いました。 今回のケースでは、「健全化活動」において懸案とされてきた課題に対して、機械学習による解決を試みました。「機械でできることは機械に任せ、より複雑さの求められる領域に人間が注力できるようにしよう」とする取り組みです。 「mixi」の「健全化活動」と課題「mixi」の

インターネット上で野放し状態にあるヘイトスピーチ（差別煽動表現）を抑止するため、兵庫県と鳥取県がネットの書き込みを監視し悪質なものは削除要請するモニタリング（監視）事業を今年度から開始する。 部落差別を中心としたモニタリングは２０００年ごろから西日本の一部自治体が実施しているが、16年にヘイトスピーチ解消法、部落差別解消法の２法が施行されたのを受けて自治体での取り組みが広がりを見せている。 兵庫県人権推進課によると、ネットモニタリング事業は掲示板などの書き込みについて「ヘイトスピーチ」「部落差別」などを対象に一定のキーワードを設定して検索。悪質な書き込みについては該当する各市町に情報提供するとともに掲示板管理者やプロバイダ（接続事業者）に削除要請し、神戸地方法務局にも削除要請を依頼する。検索業務は兵庫県人権啓発協会に委託し、随時実施する。 また各市町でのモニタリングを促進するため、検索の方

サラ・カッツさん（27）は、就業2日目にしてこの仕事の不快さを実感していた。フェイスブックでコンテンツのチェックをしていたカッツさんは、ユダヤ人に対する差別的な発言、残虐な写真、画面の外にいる大人からお互いに性的な接触をするよう言われているらしい少女と少年の動画を見たと話す。

神奈川県座間市のアパートで９人が遺体で見つかった事件を受けて、関係閣僚会議が開かれ、菅官房長官はインターネットの事業者などと連携し、不適切なサイトへの対策を強化することなどを指示しました。 この中で、菅官房長官は今回の事件について「ツイッターなど人の目が届きにくいＳＮＳを利用し、自殺願望を投稿するなどした被害者の心の叫びに付け込んで言葉巧みに誘い出して殺害する極めて卑劣な手口と見られ、犯行の経緯を徹底的に明らかにし、再発防止に努めなければならない」と述べました。 そのうえで、菅官房長官はインターネットの事業者や関係機関と連携し「自殺サイト」などの実態を把握し、サイトの削除や書き込み制限など対策の強化を図ることや、ネットを通じて自殺願望を発信する若者が適切な相談相手にアクセスできるよう取り組むことなどを指示しました。

ＥＵでは昨年から、「２０１０年オーディオ・ビジュアル・メディア・サービス指令（ＡＶＭＳＤ）」の改正案の検討が続いている。 この中に盛り込まれているのが、ソーシャルメディアに対する暴力やヘイト扇動コンテンツ排除の義務づけだ。 フェイスブックやユーチューブなどのソーシャルメディアが規制対象となる。 ＥＵ内では、表現の自由の観点から、よりソーシャルメディア側の自主的取り組みを重視する声も強く、今回の改正提案も自主規制を法規制を組み合わせた「共同規制」を掲げている。 ただ、規制のあり方をめぐっては、ＥＵ内にも温度差がある。 ドイツ政府は今年に入って、ソーシャルメディア上のヘイトコンテンツをめぐって、ソーシャルメディアがヘイトスピーチやフェイクニュースなどの違法コンテンツをすみやかに削除しなかった場合、最大５０００万ユーロの罰金を科す法案を作成している。 まだ、ＥＵ離脱を表明した英国では、ユーチュー

こんにちは、おときた駿＠ブロガー都議会議員（北区選出）です。 10月から続いてきた ・決算特別委員会 ・オリンピックパラリンピック推進対策特別委員会 ・総務委員会（事務事業質疑） の質問ラッシュが、ようやく昨日でヤマを超えました…。途中で次女の出産も加わり、6月の「舛添問題」につづいて慌ただしくなった11月でした。 質問の内容は折に触れて順次ご報告していこうと思っているのですが、今日は青少年治安対策本部への事務事業質疑から「表現の自由」「不健全図書」に関わる部分をば。 知事選の時から 「小池百合子氏は、表現規制派なのでは？」 という説が流れており、小池都政が誕生すると過激な（と行政が判断した）作品が恣意的に取り締まられ、表現の自由が侵されるのではないかという懸念が噂されていました。 参考：小池百合子候補の「コミケ応援宣言」、その真意は？表現の自由について直接聞いてきた http://oto

インターネットの動画投稿サイト「ＦＣ２動画」の会員にわいせつな動画を配信したとして、警察は大阪のインターネット関連会社の社長を公然わいせつの疑いで逮捕しました。社長は容疑を否認しているということです。警察は、この会社が「ＦＣ２動画」の実質的な運営会社とみて捜査を進める方針です。 京都府警察本部などは、インターネットの動画投稿サイト「ＦＣ２動画」にわいせつな動画を投稿したとして、大阪市の男と兵庫県内の女子短大生を公然わいせつの疑いで逮捕するとともに、足立社長の会社が「ＦＣ２動画」の配信に関わっているとみて、去年９月に会社を捜索するなど捜査を進めていました。 その結果、足立社長が違法な動画と知りながら会員に配信していた疑いが強まったとして、２３日、公然わいせつの疑いで逮捕するとともに会社などを捜索しています。 足立社長は「間違いです」と供述し、容疑を否認しているということです。 「ＦＣ２動画」

３Ｄ銃図面は「有害情報」＝ストーカー依頼も−ネット掲載、削除対象に・警察庁 ３Ｄ（３次元）プリンターで殺傷能力のある銃が製造された事件を受け、警察庁は７日、業務委託団体が３Ｄプリンター用の銃の設計図面をインターネットの「有害情報」に加えたと発表した。掲載を確認すれば、サイト管理者に削除を求める。また、ストーカー行為を依頼したり盗撮を誘引したりする書き込みも有害情報に追加した。 　この団体は「インターネット・ホットラインセンター（ＩＨＣ）」。児童ポルノや規制薬物広告などの違法な情報と、違法行為を誘引する有害情報を一般から受け付け、警察に連絡したりサイト管理者らに削除を要請したりしている。（2014/08/07-10:14）2014/08/07-10:14 前の記事へ 次の記事へ

警察庁の委託団体「インターネット・ホットラインセンター（ＩＨＣ）」に２０１３年、違法・有害な情報だとして寄せられた通報は１３万７２０件で、前年より３３％減ったことが２４日、同庁のまとめで分かった。０６年に運用を始めてから増加傾向が続いていたが、初めて大幅に減少した。 規制薬物の売買やわいせつ画像などの通報が大幅に減った。通報を端緒にした摘発も、わいせつや児童ポルノ事件を中心に激減。１８５１件減の１４５２件となった。 警察庁の担当者は「違法な書き込みが減っているとは考えにくく、見つかりにくいよう巧妙に掲載している恐れもある。不審に思ったら遠慮せずに通報してほしい」と話している。 一方、国内最大級のネット掲示板「２ちゃんねる」が、ＩＨＣから違法情報の削除を要請されながら１３年下半期（７〜１２月）は一切応じなかったことも判明した。 ２ちゃんねるをめぐっては、警視庁が１１年１１月、覚せい剤売買の書