生成AIがもたらすリスクとその対策。情報セキュリティ対策の重要性。

日経トレンディ2023年ヒット商品ベスト30の第一位にChatGPTが選ばれるなど、近年ChatGPTをはじめとした高度な生成AIのサービスが誕生し、業務に利用する動きが高まってきました。
一方、生成AIによる様々なリスクにも注目が集まってきました。そうした中、2023年11月27日（米国時間）に日本を含む18カ国がAI開発に関するガイドライン「セキュアなAIシステム開発のためのガイドライン」を共同発表しました。
本ガイドラインは、主にAIやAIを活用したシステムを「開発する側」のガイドラインです。では、生成AIを業務で「利用する側」はどのような点に気を付ければよいのでしょうか。本ページではAIを利用するにあたり生じるリスクとその対処方法について説明します。

生成AIの業務利用

ChatGPTが話題になるとともに、生成AIの業務利用について注目が集まっています。 まだ生成AIの業務利用については大きな波はないものの、製造業、金融・保険業などでは利用が広まっています。 具体的には、挨拶文や記事の生成、ドキュメントの要約、プログラミングなどで利用されています。 生成AIの業務での利用は効率化や創造活動に革新をもたらしますが、同時に利用には大きな責任が求められます。

AIの利用で生じるリスク

個人情報や機密情報を入力し、漏洩してしまうリスク

生成AIに入力する情報には注意が必要です。生成AIの仕組みによっては、入力された情報がAIの学習用に活用されて、第三者への回答に利用されることがあります。たとえ入力内容を第三者の回答に利用しないシステムであっても、AIのサービスに情報が渡ってしまいますので、個人情報は入力しないよう気を付ける必要があります。
個人情報はもちろんのこと、研究データや開発データなども注意が必要です。長い時間と費用をかけた研究開発データが第三者の目にとまって、予定していた特許申請ができなくなってしまうということも想定できるリスクです。

誤った情報を正しいと信じてしまうリスク

生成AIが出力した情報は、人間が作成した情報と見分けがつかないほど、現実的でもっともらしい情報が出力されます。しかし、その出力結果は必ずしも正しいとは限りません。生成された情報の正確性を確認せずに利用したり、発信したりすると、誤った情報を業務に使用する可能性があります。
また、生成AIによって学習データの鮮度が異なります。無料で使えるChatGPT3.5は2023年12月現在では2022年1月の情報をもとに回答を出力しています。

知的財産権、著作権侵害のリスク

生成AIによって作られたもの（AI生成物）には、著作権は発生しないとされています。これは、著作権法が保護する対象である「著作物」には、「思想又は感情を創作的に表現したもの」が含まれると定義されており、AIには思想または感情がないと考えられるからです。
しかし、生成AIによって生成されたものが、既存の他人の著作物と同一または類似している場合は、著作権侵害の可能性があります。 AIの学習データがインターネット上の情報をもとにしている場合、生成された情報が元の情報と類似する可能性があります。

生成AIで生じるリスクの対処方法

では、生成AIを利用することで発生するリスクに対して、どのような対処方法があるかご説明します。

社員教育

DXサービスを展開する株式会社ギブリーの調査では、生成AIの台頭を受けてデジタル研修のカリキュラム内容について聞いたところ6割以上の企業が変更済みや変更の予定があるとしています。
また、IPA 独立行政法人 情報処理推進機構の情報処理技術者試験スキルレベル1（最も簡単）の「ITパスポート試験」においても2024年度からAIに関する問題が出題されます。
AIに関する社員教育では、生成AIの仕組み、利用方法のほか
・機密情報、個人情報を入力しないこと
・著作権侵害に関すること
・出力内容の正確性、出力内容に対して判断力を養うこと
などを盛り込むことが大切です。

（出典：株式会社ギブリー「新入社員研修のデジタル（IT/DX）領域への対応に関する意識・実施調査」）

社内向け生成AIサービスの利用

生成AIの学習データが必ずしも正確ではないという点、著作権に関するリスク、機密情報の漏えいに関するリスクから「生成AIを利用しない」という選択肢もあります。しかし、電話やインターネットを利用しないと業務がまわらない現代と同様に、AIを利用しないと業務が回らない時代になることも想定されます、そうなった場合には「生成AIを利用しないリスク」が出てくることになります。
そうした時代を見越して、社内向けに閉じた環境で利用する「社内用生成AI」の導入が進んでいます。 パナソニック コネクト株式会社では、「自社特化AI」をさらに進化させ、個人の役職・役割に応じた回答をさせる「個人特化AI」の検討開始を予定しています。

（出典：パナソニック ホールディングス株式会社　「パナソニック コネクトのAIアシスタントサービス「ConnectAI」を自社特化AIへと深化」）

URLフィルタリングによる利用制限

社内向け生成AIの導入は情報漏えい対策には有効ですが、費用がかかります。無料で使用できるパブリックな生成AIを利用することにより生じる様々なリスクが排除できない場合は、生成AIのWebシステムにアクセスできないようにするWebフィルタリングが有効です。
全社員一律に生成AIへのアクセスをブロックするほか、許可された人物のみアクセスを許可する設定ができると便利です。

ALSOKがおすすめする製品

ALSOKではURLフィルタリング機能を持った製品を２製品取り扱っています。

ALSOK UTM運用サービス

UTMは外部からの攻撃に対処する製品のイメージですが、Webフィルタリング機能も備えております。 各PCのIPアドレスやMacアドレスを指定して個別にフィルタを設定することも可能です。

ALSOK IT資産管理

当社の提供するIT資産管理ツールのWebフィルタリング機能では、全社的なフィルタの他、グループごとのフィルタが可能です。 特定の部署のみ生成AIへのアクセスを許可するなどの制御が可能です。また、本サービスでは、運用をALSOKがサポートいたします。
電話で問合せを24時間365日受け付けており、設定変更をALSOKがお客様に代わって行うことも可能です。

まとめ