おたくま経済新聞

ネットでの話題を中心に、商品レビューや独自コラム、取材記事など幅広く配信中!

ChatGPTを悪用した犯罪の可能性は?欧州刑事警察機構が研究報告を公開

 OpenAIの「ChatGPT」などAIを活用した大規模言語モデルは、人間からの質問に対してAIが自然な回答を生成することから、文章の創作に応用するユーザーがいる一方、学生がレポート制作に使うなど「手抜き」に利用されるケースも。

 使い方によって善悪双方の側面がある存在ですが、犯罪に悪用されることはないのでしょうか。欧州刑事警察機構(ユーロポール)は2023年3月28日付で、ChatGPTが犯罪に利用される可能性についての研究レポートを公開しました。

 オランダのデン・ハーグに本拠を置くユーロポール。欧州各国の警察機関が情報を共有し、重大な国際犯罪に対処するために設立されました。

 組織の中には犯罪研究をしている部門があります。そのうちのイノベーション研究所が、ChatGPTのような大規模言語モデル(LLM)を犯罪組織が悪用する可能性、また捜査官が日常業務で役立てられる可能性について、研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement(大規模言語モデルが法執行に与える影響)」をまとめました。

研究報告「ChatGPT-the impact of Large Language Models on Law Enforcement」

 一般公開されたものはダイジェスト版で、より詳しい報告は各国の警察など法執行機関のみに提供されます。報告では、ChatGPTのような大規模言語モデルが悪用されやすい犯罪類型として、3つを挙げています。

■ 悪用されやすい犯罪類型3つ

【詐欺】

 まず挙げられているのは詐欺

ChatGPTはユーザーの要求に応じて「もっともらしい」文章を生成するため、偽サイトや偽メールによるフィッシング詐欺、振り込め詐欺に悪用されると、本物と誤認して被害に遭いやすくなる可能性があります。

【偽情報】

 そして、人間にとって違和感のない文章を自動的に生成する能力は、特定のプロパガンダや偽情報を拡散するのに役立ちます。

 世論を誘導し、意図した方向へ社会を変えてしまいかねず、非常に危険だといえるでしょう。

【サイバー犯罪】

 また、ユーザーの要求に応じて生成されるのは文章だけとは限りません。

 プログラムのソースコードも同じ「文字列」ですから、うまく誘導するとプログラミング知識がそれほどなくても悪意あるプログラムやコードを生成することも不可能ではなく、サイバー犯罪やサイバーテロに悪用される可能性があります。

■ 各国の法執行機関がAIの進化に対応してゆくには

 現在のところ、AIには「意志」がありませんから、使い方によっては重大な犯罪に悪用されるかもしれません。各国の法執行機関では、AIの進化に対応して有効な対策を練るため、開発元と密接な協力関係を築くことが重要だとしています。

 AIの進歩はまさに日進月歩。近い将来、本当にAIを悪用した重大な国際犯罪が発生するかもしれず、その可能性に備えておくことが必要なのかもしれません。

 研究報告書「ChatGPT-the impact of Large Language Models on Law Enforcement」はユーロポールのサイトにて、PDFがダウンロードできるようになっています。

<出典・引用>
欧州刑事警察機構(ユーロポール) プレスリリース

(咲村珠樹)

あわせて読みたい関連記事
  • ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロティカ解禁」方針
    インターネット, サービス・テクノロジー

    ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロテ…

  • 甘い囁きが筒抜けに……AI“彼女”アプリで個人データ漏洩 40万人分の会話・画像が外部公開状態に
    インターネット, 社会・物議

    甘い囁きが筒抜けに……AI“彼女”アプリで個人データ漏洩 40万人分の会話・画像…

  • OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能に
    インターネット, サービス・テクノロジー

    OpenAI、新動画生成モデル「Sora 2」発表 アプリで“カメオ出演”も可能…

  • ChatGPTの画面(編集部撮影)
    インターネット, サービス・テクノロジー

    OpenAI、ChatGPTに「ペアレンタルコントロール」導入 未成年利用の安全…

  • 邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くなった
    インターネット, おもしろ

    邪悪なAI搭載「絶対にバズるSNS」で理不尽な炎上を疑似体験→リアルすぎて怖くな…

  • 派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生
    イベント・キャンペーン, 経済

    派閥論争に新たな試み きのこ派・たけのこ派を顔判定するAI「MOTHER」誕生

  • Nick Turley氏(@nickaturley)の投稿
    インターネット, サービス・テクノロジー

    ChatGPT、週次アクティブユーザー7億人目前に 4か月で2億人増加

  • 取り調べかつ丼
    イベント・キャンペーン, 経済

    「取り調べかつ丼」が体験できる店 木更津に80日間限定でオープン

  • AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」(画像はイメージ)
    インターネット, おもしろ

    AI提案の“衣なしケンタ”に異議あり 「ケンタを食べる意味がないやろがい!」

  • 配信サービス上の「AI生成楽曲」を見分けるツール「Spot-if-AI」 95%の高精度で判定
    インターネット, サービス・テクノロジー

    配信サービス上の“AI生成楽曲”を見分けるツール「Spot-if-AI」 95%…

  • おたくま編集部Editor

    記事一覧

    おたくま経済新聞・編集部による監修or執筆

    ▼こちらのライターの最新記事▼

  • ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロティカ解禁」方針
    インターネット, サービス・テクノロジー

    ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロテ…

  • ガンホー「ケリ姫スイーツ」2026年1月末に終了 2012年配信開始から13年
    ゲーム, ニュース・話題

    ガンホー「ケリ姫スイーツ」2026年1月末に終了 2012年配信開始から13年

  • 鳥羽水族館、ラッコ配信で“飼育係モザイク化” カスハラ対策で映像方法変更
    社会, 経済

    鳥羽水族館、ラッコ配信で“飼育係モザイク化” カスハラ対策で映像方法変更

  • “幸福度が高い”と評判のジョナサン「早生みかんスイーツ」 今年は新作大福も仲間入り
    商品・物販, 経済

    “幸福度が高い”と評判のジョナサン「早生みかんスイーツ」 今年は新作大福も仲間入…

  • ヤマト運輸、元従業員が取引先情報を不正持ち出し 2社に流出、営業活動での使用も確認
    企業・サービス, 経済

    ヤマト運輸、元従業員が取引先情報を不正持ち出し 2社に流出、営業活動での使用も確…

  • YouTube、永久停止クリエイターに「再出発の機会」 新チャンネル申請を可能にする試験導入を発表
    インターネット, サービス・テクノロジー

    YouTube、永久停止クリエイターに「再出発の機会」 新チャンネル申請を可能に…

  • トピックス

    1. うまトマバジルチキン定食

      松屋がパスタ定食始めた!? 44店舗限定「うまトマバジルチキン」実食

      松屋は10月14日から、うまトマソースでパスタが楽しめる「うまトマバジルチキンプレート」を全国44店…
    2. その場の“昔”を撮る レンズのない「思い出カメラ」に感じる未来の風

      その場の“昔”を撮る レンズのない「思い出カメラ」に感じる未来の風

      レンズがないのに写真が撮影できる、そんな不思議なカメラ「思い出カメラ」がXで話題です。発明家の堀洋祐…
    3. 【実食】コメダ珈琲店の「ドデカメンチバーガー」は名前に偽りなし バンズからはみ出す“肉の暴力”

      【実食】コメダ珈琲店の「ドデカメンチバーガー」は名前に偽りなし バンズからはみ出す“肉の暴力”

      コメダ珈琲店は10月16日から「ドデカメンチバーガー」と「ドデカチーズメンチバーガー」の2種類のバー…

    編集部おすすめ

    1. ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロティカ解禁」方針

      ChatGPTが“全年齢対応AI”を卒業? アルトマン氏が語った「成人向けエロティカ解禁」方針

      米OpenAIのCEO、サム・アルトマン(Sam Altman)氏が10月15日と16日に自身のX(旧Twitter)で投稿した内容が、世界…
    2. ガンホー「ケリ姫スイーツ」2026年1月末に終了 2012年配信開始から13年

      ガンホー「ケリ姫スイーツ」2026年1月末に終了 2012年配信開始から13年

      ガンホー・オンライン・エンターテイメントは10月16日、スマートフォン向けアクションパズルゲーム「ケリ姫スイーツ」のサービスを、2026年1…
    3. 鳥羽水族館、ラッコ配信で“飼育係モザイク化” カスハラ対策で映像方法変更

      鳥羽水族館、ラッコ配信で“飼育係モザイク化” カスハラ対策で映像方法変更

      三重県の鳥羽水族館は10月15日、人気配信「鳥羽水族館ラッコ水槽ライブカメラ」の映像内容を一部変更すると発表しました。今後は、給餌の際などに…
    4. 毛玉とるとる Pro(KC-NW825)

      ストッキングやタイツも可の毛玉取り器誕生 マクセルイズミ「毛玉とるとる Pro」を発売

      マクセルイズミ株式会社は、ストッキングやタイツなどの繊細な衣類にも対応する毛玉取り器の新モデル、「毛玉とるとる Pro(KC-NW825)」…
    5. キヤノンの名機が「ガシャポン」で復活 歴代カメラ5種を精密ミニチュア化

      キヤノンの名機が「ガシャポン」で復活 歴代カメラ5種を精密ミニチュア化

      キヤノンが、バンダイの「ガシャポン」とコラボレーション。歴代のカメラとレンズをミニチュア化した「Canon ミニチュアカメラコレクション」を…
    Xバナー facebookバナー ネット詐欺特集バナー

    提携メディア

    Yahoo!JAPAN ミクシィ エキサイトニュース ニフティニュース infoseekニュース ライブドア LINEニュース ニコニコニュース Googleニュース スマートニュース グノシー ニュースパス dメニューニュース Apple ポッドキャスト Amazon アレクサ Amazon Music spotify・ポッドキャスト