おたくま経済新聞

ネットでの話題を中心に、商品レビューや独自コラム、取材記事など幅広く配信中!

ChatGPTを悪用した犯罪の可能性は?欧州刑事警察機構が研究報告を公開

 OpenAIの「ChatGPT」などAIを活用した大規模言語モデルは、人間からの質問に対してAIが自然な回答を生成することから、文章の創作に応用するユーザーがいる一方、学生がレポート制作に使うなど「手抜き」に利用されるケースも。

 使い方によって善悪双方の側面がある存在ですが、犯罪に悪用されることはないのでしょうか。欧州刑事警察機構(ユーロポール)は2023年3月28日付で、ChatGPTが犯罪に利用される可能性についての研究レポートを公開しました。

 オランダのデン・ハーグに本拠を置くユーロポール。欧州各国の警察機関が情報を共有し、重大な国際犯罪に対処するために設立されました。

 組織の中には犯罪研究をしている部門があります。そのうちのイノベーション研究所が、ChatGPTのような大規模言語モデル(LLM)を犯罪組織が悪用する可能性、また捜査官が日常業務で役立てられる可能性について、研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement(大規模言語モデルが法執行に与える影響)」をまとめました。

研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement」

 一般公開されたものはダイジェスト版で、より詳しい報告は各国の警察など法執行機関のみに提供されます。報告では、ChatGPTのような大規模言語モデルが悪用されやすい犯罪類型として、3つを挙げています。

■ 悪用されやすい犯罪類型3つ

【詐欺】

 まず挙げられているのは詐欺

ChatGPTはユーザーの要求に応じて「もっともらしい」文章を生成するため、偽サイトや偽メールによるフィッシング詐欺、振り込め詐欺に悪用されると、本物と誤認して被害に遭いやすくなる可能性があります。

【偽情報】

 そして、人間にとって違和感のない文章を自動的に生成する能力は、特定のプロパガンダや偽情報を拡散するのに役立ちます。

 世論を誘導し、意図した方向へ社会を変えてしまいかねず、非常に危険だといえるでしょう。

【サイバー犯罪】

 また、ユーザーの要求に応じて生成されるのは文章だけとは限りません。

 プログラムのソースコードも同じ「文字列」ですから、うまく誘導するとプログラミング知識がそれほどなくても悪意あるプログラムやコードを生成することも不可能ではなく、サイバー犯罪やサイバーテロに悪用される可能性があります。

■ 各国の法執行機関がAIの進化に対応してゆくには

 現在のところ、AIには「意志」がありませんから、使い方によっては重大な犯罪に悪用されるかもしれません。各国の法執行機関では、AIの進化に対応して有効な対策を練るため、開発元と密接な協力関係を築くことが重要だとしています。

 AIの進歩はまさに日進月歩。近い将来、本当にAIを悪用した重大な国際犯罪が発生するかもしれず、その可能性に備えておくことが必要なのかもしれません。

 研究報告書「ChatGPT-the impact of Large Language Models on Law Enforcement」はユーロポールのサイトにて、PDFがダウンロードできるようになっています。

<出典・引用>
欧州刑事警察機構(ユーロポール) プレスリリース

(咲村珠樹)

あわせて読みたい関連記事
  • OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能に
    インターネット, サービス・テクノロジー

    OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能…

  • ChatGPTの画面(編集部撮影)
    インターネット, サービス・テクノロジー

    OpenAI、ChatGPTに「ペアレンタルコントロール」導入 未成年利用の安全…

  • 邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くなった
    インターネット, おもしろ

    邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くな…

  • 派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生
    イベント・キャンペーン, 経済

    派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生

  • Nick Turley氏(@nickaturley)の投稿
    インターネット, サービス・テクノロジー

    ChatGPT、週次アクティブユーザー7億人目前に 4か月で2億人増加

  • 取り調べかつ丼
    イベント・キャンペーン, 経済

    「取り調べかつ丼」が体験できる店 木更津に80日間限定でオープン

  • AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」(画像はイメージ)
    インターネット, おもしろ

    AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」

  • 配信サービス上の「AI生成楽曲」を見分けるツール「Spot-if-AI」 95%の高精度で判定
    インターネット, サービス・テクノロジー

    配信サービス上の“AI生成楽曲”を見分けるツール「Spot-if-AI」 95%…

  • 「○○アンバサダーに投票して」DMに要注意 SNS乗っ取りの手口に警戒を
    インターネット, 社会・物議

    「○○アンバサダーに投票して」DMに要注意 SNS乗っ取りの手口に警戒を

  • ChatGPT酷似の「ChatGTP」“別種”がApp Storeに出現 「無料トライアル」選択でも強制課金
    インターネット, 社会・物議

    ChatGPT酷似の「ChatGTP」“別種”がApp Storeに出現 「無料…

  • おたくま編集部Editor

    記事一覧

    おたくま経済新聞・編集部による監修or執筆

    ▼こちらのライターの最新記事▼

  • 新作ゲーム「裏バイト:逃亡禁止 たつ子の謎」
    アニメ/マンガ, ニュース・話題

    「裏バイト:逃亡禁止」の恐怖をゲームで 小学館がマダミス「たつ子の謎」を11月配…

  • 新物板うに手巻きセット(5貫分)
    商品・物販, 経済

    くら寿司、旬の「新物うに」登場 板うに手巻きセットや北海たこうにも販売

  • 無印良品、大盛りカレーを拡充 和出汁仕立てと香味野菜デミグラス登場
    商品・物販, 経済

    無印良品、大盛りカレーを拡充 和出汁仕立てと香味野菜デミグラス登場

  • OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能に
    インターネット, サービス・テクノロジー

    OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能…

  • 将棋倶楽部24、2025年末でサービス終了 27年の歴史に幕
    ゲーム, ニュース・話題

    将棋倶楽部24、2025年末でサービス終了 27年の歴史に幕

  • 綾瀬はるか出演CMで新商品「ハピネスミスト」デビュー 洗えない布製品に5つ星ホテルの香り
    商品・物販, 経済

    綾瀬はるか出演CMで新商品「ハピネスミスト」デビュー 洗えない布製品に5つ星ホテ…

  • トピックス

    1. 「フツーの人」と「デブ」の食意識の違いをイラストで可視化 あなたはどっち?

      「フツーの人」と「デブ」の食意識の違いをイラストで可視化 あなたはどっち?

      「もしかして、フツーの人っておなか空いてる時以外おなか空いてないの?」そんな衝撃の(?)問いかけとと…
    2. コーヒーにごま油……!?かどや公式のちょい足しアレンジを試してみた

      コーヒーにごま油……!?かどや公式のちょい足しアレンジを試してみた

      10月1日は「コーヒーの日」。そんな記念日に合わせて、かどや製油公式Xが提案してきたのは……まさかの…
    3. 「えもじの子(仮)」

      LINEの人気キャラ「えもじの子(仮)」が有料で復活 一部未収録に完全復活を望む声も

      つぶらな瞳ととぼけた表情で人気を集めたLINE絵文字「えもじの子(仮)」の無料配布版が10月1日、有…

    編集部おすすめ

    1. フライドポテトで、白ごはんを食べる……?ドンキ新作が過去イチ理解できなかった件

      フライドポテトで、白ごはんを食べる……?ドンキ新作が過去イチ理解できなかった件

      「みんなの75点より、誰かの120点」を合言葉にドン・キホーテが展開している偏愛メシシリーズ。10月1日に「本当にこの組み合わせが好きな人が…
    2. 将棋倶楽部24、2025年末でサービス終了 27年の歴史に幕

      将棋倶楽部24、2025年末でサービス終了 27年の歴史に幕

      オンライン将棋対局サービス「将棋倶楽部24」が、2025年12月31日をもって終了することが発表された。運営する席主の久米宏氏が10月1日付…
    3. pium、“カスハラ声明”きっかけに炎上 接客批判受け謝罪と改善策

      pium、“カスハラ声明”きっかけに炎上 接客批判受け謝罪と改善策

      アパレルブランド「pium」が9月30日、店舗スタッフの接客に対する多数の指摘や批判を受け、公式Xにて謝罪文を公開しました。併せて再発防止策…
    4. 「ビー・バップ」クラファン始動、清水で“高校与太郎祭”実現へ 返礼に「鉄橋ダイブ」関連も

      「ビー・バップ」クラファン始動、清水で“高校与太郎祭”実現へ 返礼に「鉄橋ダイブ」関連も

      映画「ビー・バップ・ハイスクール」のロケ地として知られる静岡市清水区で、作品ゆかりの企画を集めた大型オフラインイベント「清水 ビー・バップ・…
    5. 第7回京都アニメーションファン感謝イベント『私たちは、いま!! ―京アニのセカイ展―』

      京都アニ「第7回ファン感謝イベント」追加情報を公開 新商品や書籍予約、グッズ二次予約も発表

      株式会社京都アニメーションは、10月25日・26日の2日間で開催予定の「第7回京都アニメーションファン感謝イベント『私たちは、いま!! ―京…
    Xバナー facebookバナー ネット詐欺特集バナー

    提携メディア

    Yahoo!JAPAN ミクシィ エキサイトニュース ニフティニュース infoseekニュース ライブドア LINEニュース ニコニコニュース Googleニュース スマートニュース グノシー ニュースパス dメニューニュース Apple ポッドキャスト Amazon アレクサ Amazon Music spotify・ポッドキャスト