ChatGPTの悪用・犯罪例

サービスロンチ以降爆発的な人気を誇っているChatGPTですが、利用者が増えるに伴って様々な課題や問題も発生しています。
今回はChatGPTで犯罪活用された例や今後想定される犯罪ケースをスコアごとにまとめました。
それでは、犯罪レベル順にご紹介していきます。

犯罪レベル不明（★） グレーゾーン

• 試験・課題の代行

上記はChatGPTによって基本情報技術者試験の内容を回答させた例です。

ChatGPTに訪ねた結果正しい回答が返ってきています。ChatGPTによって学校の課題やオンラインでの試験に悪用されることで、不正な資格取得や教育への悪影響が懸念されます。
実際The Stanford Daily※1の記事によるとアメリカのStanford大学の学生のうち、およそ17％が「課題または試験にChatGPTを使用している」と回答したとしています。

※1　Scores of Stanford students used ChatGPT on final exams, survey suggests
https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/

ChatGPTによる生徒の学習への悪影響を懸念してニューヨーク市では学校でのデバイスやネットワークでのChatGPTの利用を禁止したとChalkBeat※2が報じており、今後そのほかの教育現場でも対応を迫られそうです。
反面INSIDER※3の記事によるとWharton business schoolでは「生徒にツールの有用性や使い方の観点からChatGPTの利用を推奨する」などチャットAIの教育の活用については今後様々な議論がありそうです。

※2 NYC education department blocks ChatGPT on school devices, networks
https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools-ban-chatgpt-writing-artificial-intelligence
※3 A Wharton business school professor is requiring his students to use ChatGPT
https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1

犯罪レベル微（★★）モラル違反

• フェイクニュースの作成

ChatGPTではそれらしい記事やニュースも作成可能です。
例としては日本が政策金利を引き上げたという内容の嘘のニュースを作成した事例になります。
実際のニュースと比べても見分けがつかないクオリティになっており、このニュースだけを見たら真実かと思ってしまいます。
また東洋経済※4によると中国で｢ChatGPT｣による偽ニュース拡散で当局が対応に追われるなどの実害も報告されています。

※4 中国｢ChatGPT｣偽ニュース拡散で揺れる政権対応
https://toyokeizai.net/articles/-/654040

犯罪レベル中（★★★）小中規模な犯罪に繋がる行為

• なりすまし

ChatGPTでは文書を他人が書いたようにもすることが可能です。
あまり詳しくは説明しませんが、上記は女性のような文書を想定して挨拶の文書を出力した例になります。
ChatGPTは悪用すれば第三者になりすまし詐欺やなりすましによって不正に情報や金銭を得るといったことも可能性として考えられます。

犯罪レベル大（★★★★）大規模な犯罪に繋がる行為

• フィッシング詐欺

ChatGPTで偽メールや文言を作成したり、有名なソフトウェアサービスに告知したWebサイトを作成し、ログイン情報や金銭をだまし取るといったことも可能性として考えれます。 実際にアメリカのセキュリティ企業のFortra※5によるとChatGPTの偽サイトやアプリが登場しておりIDやパスワードなどのユーザー情報を不正に取得したり、アドウェアやスパイウェアのインストールに誘導したり、料金を請求するような例があるとのことです。 これらはChatGPTを使った犯罪ではありませんが、上記のような事例にChatGPTが悪用される懸念があります。

※5 Fake ChatGPT apps spread Windows and Android malware
https://www.tripwire.com/state-of-security/fake-chatgpt-apps-spread-windows-and-android-malware

犯罪レベル超（★★★★★）国家規模の犯罪に繋がる行為

• サイバー犯罪への利用

ChatGPTでは悪意のあるプログラムコード生成できる懸念が指摘されています。 サイバーセキュリティソリューションプロバイダーであるチェック・ポイント・ソフトウェア・テクノロジーズによると※6 サイバー犯罪者によるChatGPTの悪用は既に始まっているとしており具体的な事例も公開されています。 またその中の一例としてインフォスティーラー（Infostealer）と呼ばれる感染したデバイスから情報を窃取するタイプのマルウェアをサイバー犯罪者が作成している過程の投稿が公開されています。

これはMicrosoft Office文書、PDF、画像ファイルなどの12種類の一般的なファイルを検索し、圧縮してウェブ上に送信するのようなプログラムの作成過程をサイバー犯罪者が投稿したものになります。
他にもバックグラウンドで動くPowerShellで実行するJavaプログラムの作成など事例が公開されています。
またサイバーセキュリティの大手企業トレンドマイクロも「ChatGPTがもたらすサイバーセキュリティ業界への影響」※7とタイトルでChatGPTの悪用の可能性を調査した記事を公開しています。
この中でChatGPTにはペネトレーションテストを想定して質問をしたところ、ChatGPTはハッキング活動にも利用可能なステップを生成しておりサイバー犯罪者によるChatGPTの悪用が可能なことを示唆しています。

※6　チェック・ポイント・リサーチ、サイバー犯罪者によるChatGPTの悪用事例を報告
https://prtimes.jp/main/html/rd/p/000000169.000021207.html
※7 ChatGPTがもたらすサイバーセキュリティ業界への影響
https://www.trendmicro.com/ja_jp/research/23/b/review-what-gpt-3-taught-chatgpt-in-a-year.html

犯罪レベル測定不能（★★★★★★〜）国家的な安全保障、人権に関わる犯罪

• プロパガンダへの利用

ChatGPTは前述の通りなりすましやフェイクニュースの作成にも利用可能です。 ChatGPTを悪用することで政治的な主張や陰謀論を生成し、プロパガンダに活用することも可能になります。 またChatGPT自体が政治的な公平性を欠いているのではとの指摘もあり、Forbes※8の記事によると「ChatGPTが、ドナルド・トランプ元大統領のポジティブな面に関するポエムを書くことを拒否した後、バイデン大統領に関する同様なテーマのポエムを書いた」としています。 現状ChatGPTを使った大規模なプロパガンダの事例はありませんが、今後ChatGPTなどのチャットAIが悪用可能なことも懸念しておく必要はあるでしょう。

※8　ChatGPTはトランプが嫌い？　「AIの政治的バイアス」が議論に
https://forbesjapan.com/articles/detail/60675

ChatGPTを正しく利用するには

ChatGPTは犯罪に繋がるような情報への質問の回答をフィルタリングするなど、悪用に対して対策はされているものの、現実的には100%悪用されないようにする不可能です。
利用者や開発者はChatGPTなどAIツールを活用する際には、あくまでツールであることを認識したうえでChatGPTから得られた回答及び使い方に注意を払う必要があります。
また社会的な法整備や企業での利用にあたっての規約など社会的に様々な対応も必要になりそうです。