おたくま経済新聞

ネットでの話題を中心に、商品レビューや独自コラム、取材記事など幅広く配信中!

ChatGPTを悪用した犯罪の可能性は?欧州刑事警察機構が研究報告を公開

 OpenAIの「ChatGPT」などAIを活用した大規模言語モデルは、人間からの質問に対してAIが自然な回答を生成することから、文章の創作に応用するユーザーがいる一方、学生がレポート制作に使うなど「手抜き」に利用されるケースも。

 使い方によって善悪双方の側面がある存在ですが、犯罪に悪用されることはないのでしょうか。欧州刑事警察機構(ユーロポール)は2023年3月28日付で、ChatGPTが犯罪に利用される可能性についての研究レポートを公開しました。

 オランダのデン・ハーグに本拠を置くユーロポール。欧州各国の警察機関が情報を共有し、重大な国際犯罪に対処するために設立されました。

 組織の中には犯罪研究をしている部門があります。そのうちのイノベーション研究所が、ChatGPTのような大規模言語モデル(LLM)を犯罪組織が悪用する可能性、また捜査官が日常業務で役立てられる可能性について、研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement(大規模言語モデルが法執行に与える影響)」をまとめました。

研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement」

 一般公開されたものはダイジェスト版で、より詳しい報告は各国の警察など法執行機関のみに提供されます。報告では、ChatGPTのような大規模言語モデルが悪用されやすい犯罪類型として、3つを挙げています。

■ 悪用されやすい犯罪類型3つ

【詐欺】

 まず挙げられているのは詐欺

ChatGPTはユーザーの要求に応じて「もっともらしい」文章を生成するため、偽サイトや偽メールによるフィッシング詐欺、振り込め詐欺に悪用されると、本物と誤認して被害に遭いやすくなる可能性があります。

【偽情報】

 そして、人間にとって違和感のない文章を自動的に生成する能力は、特定のプロパガンダや偽情報を拡散するのに役立ちます。

 世論を誘導し、意図した方向へ社会を変えてしまいかねず、非常に危険だといえるでしょう。

【サイバー犯罪】

 また、ユーザーの要求に応じて生成されるのは文章だけとは限りません。

 プログラムのソースコードも同じ「文字列」ですから、うまく誘導するとプログラミング知識がそれほどなくても悪意あるプログラムやコードを生成することも不可能ではなく、サイバー犯罪やサイバーテロに悪用される可能性があります。

■ 各国の法執行機関がAIの進化に対応してゆくには

 現在のところ、AIには「意志」がありませんから、使い方によっては重大な犯罪に悪用されるかもしれません。各国の法執行機関では、AIの進化に対応して有効な対策を練るため、開発元と密接な協力関係を築くことが重要だとしています。

 AIの進歩はまさに日進月歩。近い将来、本当にAIを悪用した重大な国際犯罪が発生するかもしれず、その可能性に備えておくことが必要なのかもしれません。

 研究報告書「ChatGPT-the impact of Large Language Models on Law Enforcement」はユーロポールのサイトにて、PDFがダウンロードできるようになっています。

<出典・引用>
欧州刑事警察機構(ユーロポール) プレスリリース

(咲村珠樹)

あわせて読みたい関連記事
  • 邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くなった
    インターネット, おもしろ

    邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くな…

  • 派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生
    イベント・キャンペーン, 経済

    派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生

  • Nick Turley氏(@nickaturley)の投稿
    インターネット, サービス・テクノロジー

    ChatGPT、週次アクティブユーザー7億人目前に 4か月で2億人増加

  • 取り調べかつ丼
    イベント・キャンペーン, 経済

    「取り調べかつ丼」が体験できる店 木更津に80日間限定でオープン

  • AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」(画像はイメージ)
    インターネット, おもしろ

    AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」

  • 配信サービス上の「AI生成楽曲」を見分けるツール「Spot-if-AI」 95%の高精度で判定
    インターネット, サービス・テクノロジー

    配信サービス上の“AI生成楽曲”を見分けるツール「Spot-if-AI」 95%…

  • 「○○アンバサダーに投票して」DMに要注意 SNS乗っ取りの手口に警戒を
    インターネット, 社会・物議

    「○○アンバサダーに投票して」DMに要注意 SNS乗っ取りの手口に警戒を

  • ChatGPT酷似の「ChatGTP」“別種”がApp Storeに出現 「無料トライアル」選択でも強制課金
    インターネット, 社会・物議

    ChatGPT酷似の「ChatGTP」“別種”がApp Storeに出現 「無料…

  • ChatGPTに酷似した「ChatGTP」がApp Storeに出現 課金必須のそっくりアプリに注意
    インターネット, 社会・物議

    ChatGPTに酷似した「ChatGTP」がApp Storeに出現 課金必須の…

  • XのAI「Grok」ムダ呼び出し問題 とあるユーザーの回避テクが秀逸だった
    インターネット, おもしろ

    XのAI「Grok」ムダ呼び出し問題 とあるユーザーの回避テクが秀逸だった

  • おたくま編集部Editor

    記事一覧

    おたくま経済新聞・編集部による監修or執筆

    ▼こちらのライターの最新記事▼

  • 介護未経験者全体の72.9%が将来に向けて「特に何も準備していない」
    社会, 経済

    仕事と介護の両立に不安85% ダスキンが「介護白書2025」で実態調査

  • プリキュア映画ぬりえコンテスト、第三者による不正応募判明 公式が謝罪と訂正
    アニメ/マンガ, ニュース・話題

    プリキュア映画ぬりえコンテスト、第三者による不正応募判明 公式が謝罪と訂正

  • 美食祭 in 日本橋三越
    TV・ドラマ, エンタメ

    高見沢俊彦の“美しいメシ”100回記念 日本橋三越で初の美食祭

  • なか卯が“ウニの二大メニュー” 雲丹おろしうどんとウニ丼を9月17日から販売
    商品・物販, 経済

    なか卯が“ウニの二大メニュー” 雲丹おろしうどんとウニ丼を9月17日から販売

  • 掃除機「自動お手入れ機能」篇(15秒)
    商品・物販, 経済

    反町隆史、東芝新CMで料理や掃除に挑戦 家庭的な素顔ものぞかせる

  • 音楽劇「謎解きはディナーのあとで」(撮影:阿部章仁)
    エンタメ, 舞台

    上田竜也が毒舌執事に挑む 玉井詩織&橋本良亮と共演「謎解きはディナーのあとで」開…

  • トピックス

    1. 偽ファッション広告

      偽ファッション広告がGoogle広告に大量出現 サポート詐欺被害に注意

      2025年9月上旬からGoogle広告に偽ファッションサイトが急増。数秒で「Windows Defe…
    2. 邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くなった

      邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くなった

      Webコンテンツ「絶対にバズるSNS」が9月15日公開。9月26日公開映画「俺ではない炎上」と連動し…
    3. 26年前のMMORPG「Dark Ages」、YouTuberの挑戦で限界集落から奇跡の再生

      26年前のMMORPG「Dark Ages」、YouTuberの挑戦で限界集落から奇跡の再生

      26年前にリリースされたMMORPG「Dark Ages」をご存じでしょうか。年月とともに人口は減少…

    編集部おすすめ

    1. たこばさんの「糸こんにゃく炒飯」

      えっ…これ糸こんにゃく!?目も舌も騙される“ヘルシー炒飯”を実際に作ってみた

      「糸こんにゃくで作った炒飯が本物そっくりに仕上がる」と聞いたら、信じられるでしょうか。大阪市のたこ焼き店「たこ焼たこば」の店主がSNSに投稿…
    2. 虎ノ門ヒルズの「どこか奇妙な職業体験」が話題 ゴミを拾いながら物語の世界へ没入

      虎ノ門ヒルズの「どこか奇妙な職業体験」が話題 ゴミを拾いながら物語の世界へ没入

      虎ノ門ヒルズで清掃員の仕事を疑似体験しながら、非日常な体験に巻き込まれていく……そんな不思議な没入型体験イベント「どこか奇妙な職業体験 虎ノ…
    3. あれー?どこかなー?伸びしろしかない3歳児の“全力”かくれんぼが手強すぎる!

      あれー?どこかなー?伸びしろしかない3歳児の“全力”かくれんぼが手強すぎる!

      子どもにとってかくれんぼは、ハラハラドキドキのスリリングな遊び。自分だけにしか分からないであろう隠れ場所を見つけて「ここなら大丈夫」「絶対見…
    4. プリキュア映画ぬりえコンテスト、第三者による不正応募判明 公式が謝罪と訂正

      プリキュア映画ぬりえコンテスト、第三者による不正応募判明 公式が謝罪と訂正

      アニメ映画「映画キミとアイドルプリキュア♪ お待たせ!キミに届けるキラッキライブ!」公式は9月12日、「キミプリ♪ぬりえコンテスト」において…
    5. 短編ホラーゲーム「夜勤事件」、実写映画化決定 2026年全国公開へ

      短編ホラーゲーム「夜勤事件」、実写映画化決定 2026年全国公開へ

      コンビニを舞台にした短編ホラーゲーム「夜勤事件(The Convenience Store)」が、実写映画としてスクリーンに登場へ。開発元の…
    Xバナー facebookバナー ネット詐欺特集バナー

    提携メディア

    Yahoo!JAPAN ミクシィ エキサイトニュース ニフティニュース infoseekニュース ライブドア LINEニュース ニコニコニュース Googleニュース スマートニュース グノシー ニュースパス dメニューニュース Apple ポッドキャスト Amazon アレクサ Amazon Music spotify・ポッドキャスト