★☆★JNSAメールマガジン 第309号 2025.4.4☆★☆
2025/04/04 (Fri) 15:30
★☆★JNSAメールマガジン 第309号 2025.4.4☆★☆
こんにちは
JNSAメールマガジン 第309号 をお届けします。
メールマガジンはJNSAのホームページでもご覧いただけます。
JNSAメールマガジン https://www.jnsa.org/aboutus/ml.html#passed
コラム最後にワンクリックアンケートがあります。
ぜひこのコラムの感想をお寄せください。
今回のメールマガジンは
JNSA調査研究部会AIセキュリティワーキンググループリーダー
服部 祐一様にご寄稿いただきました。
【連載リレーコラム】
生成AIを利用する上でのセキュリティ成熟度モデルについて
調査研究部会AIセキュリティワーキンググループリーダー
服部 祐一
調査研究部会AIセキュリティワーキンググループリーダーの服部と申します。
AIセキュリティワーキンググループは、2024年10月に再始動しましてAIの利用
におけるセキュリティおよびセキュリティ分野でのAIの活用について調査研究
として月一回の定例会とAIに関する成果物の作成を行っております。
2024年度はAIの中でも近年目まぐるしく進歩している生成AIのセキュリティに
焦点を当て生成AIを活用していく上でのセキュリティの調査結果をAIセキュリ
ティワーキンググループ内の有志で作成し、「生成AIを利用する上でのセキュ
リティ成熟度モデル」として2025年3月に公開しました。
本ドキュメントは生成AIをセキュアに利用していくうえで必要な項目を生成AI
の利用ケースごとにマッピングを行い、生成AIを利用していく組織の一助に
なることを目的として作成しており、対象となる組織は、利用形態別に下記4つ
を対象としています。
・外部サービスの利用
ChatGPTやGemini等の外部サービスを提供元が提供するWebインタフェースや
スマートフォンアプリケーション等から利用する組織。
・APIを利用した独自環境
OpenAI APIやGemini API等のAPIを自社のサービスや社内環境と連動させて利用
する組織。
・自組織データの利用
ファインチューニングやRAG(Retrieval-Augmented Generation)の技術を用いて
自組織のデータを生成AIに利用する組織。
・自組織向けモデルの開発
自組織向けにモデルを独自開発する組織。
その上で、外部からの脅威と脅威へのアクション・対策について、入出力に
関するものやモニタリング、ポリシーと教育等の項目ごとに計16個の内容を
記載しております。
例として、ポリシーと教育の項目では、P-01:生成AI利用に関するポリシーの
整備、P-02:生成AI利用に関する教育、P-03:法律と規制の確認の3個の内容を
記載しており、生成AIを組織内で利用していく上で必要なポリシーや確認
すべき法律や規制について参考資料も交えて記載しております。
内容については、来年度以降もワーキンググループ内にて適宜更新をかけて
いく予定です。
成果物の詳細は、下記のリンクをご参照ください。
https://www.jnsa.org/result/aisec/2024/index.html
なお、本ドキュメントに関する質問、改善や要望等は、下記のリポジトリの
Issueにてご連絡ください。
https://github.com/JNSA-AISecurityWG/Generative_AI_Doc
来年度も引き続きAIの利用におけるセキュリティおよびセキュリティ分野での
AIの活用について調査研究を進めていく予定ですので、本ドキュメントの作成
にご興味ある方やAIに関するセキュリティに興味のある方は是非AIセキュリテ
ィワーキンググループにご参加ください。
（※事務局注：ワーキンググループへのご参加は原則JNSA会員の方のみとなっております）
＃連載リレーコラム、ここまで
＜お断り＞本稿の内容は著者の個人的見解であり、所属団体及びその業務と
関係するものではありません。
＜ワンクリックアンケートお願い＞
今回のメールマガジンの感想をお寄せください。
https://tinyurl.com/ks7nxxjm
※googleアンケートフォームを利用しています。
【部会・WGからのお知らせ】
★調査研究部会AIセキュリティワーキンググループが
「生成AIを利用する上でのセキュリティ成熟度モデル」を公開しました。
https://www.jnsa.org/result/aisec/index.html
★JNSA主催セミナー／イベントの動画・講演資料順次公開中！
JNSAホームページをご確認ください
https://www.jnsa.org/
【事務局からのお知らせ】
★JNSA事務局を騙った詐欺事件が発生しています。
当協会から個人の方へ金銭のご請求を行うことはございません。
お心当たりのある方は最寄りの警察署に実際に足を運んで御相談下さい！！
★リモートワークに活用ください！
「緊急事態宣言解除後のセキュリティ・チェックリスト」
https://www.jnsa.org/telework_support/telework_security/index.html
☆コラムに関するご意見、お問い合わせ等はJNSA事務局までお願いします。
sec@jnsa.org
☆メールマガジンの配信停止は以下URLの「解除」よりお手続き下さい。
配信停止連絡 <https://www.jnsa.org/aboutus/ml.html>
*************************************
JNSAメールマガジン 第309号
発信日：2025年4月4日
発 行：JNSA事務局 sec@jnsa.org
*************************************
こんにちは
JNSAメールマガジン 第309号 をお届けします。
メールマガジンはJNSAのホームページでもご覧いただけます。
JNSAメールマガジン https://www.jnsa.org/aboutus/ml.html#passed
コラム最後にワンクリックアンケートがあります。
ぜひこのコラムの感想をお寄せください。
今回のメールマガジンは
JNSA調査研究部会AIセキュリティワーキンググループリーダー
服部 祐一様にご寄稿いただきました。
【連載リレーコラム】
生成AIを利用する上でのセキュリティ成熟度モデルについて
調査研究部会AIセキュリティワーキンググループリーダー
服部 祐一
調査研究部会AIセキュリティワーキンググループリーダーの服部と申します。
AIセキュリティワーキンググループは、2024年10月に再始動しましてAIの利用
におけるセキュリティおよびセキュリティ分野でのAIの活用について調査研究
として月一回の定例会とAIに関する成果物の作成を行っております。
2024年度はAIの中でも近年目まぐるしく進歩している生成AIのセキュリティに
焦点を当て生成AIを活用していく上でのセキュリティの調査結果をAIセキュリ
ティワーキンググループ内の有志で作成し、「生成AIを利用する上でのセキュ
リティ成熟度モデル」として2025年3月に公開しました。
本ドキュメントは生成AIをセキュアに利用していくうえで必要な項目を生成AI
の利用ケースごとにマッピングを行い、生成AIを利用していく組織の一助に
なることを目的として作成しており、対象となる組織は、利用形態別に下記4つ
を対象としています。
・外部サービスの利用
ChatGPTやGemini等の外部サービスを提供元が提供するWebインタフェースや
スマートフォンアプリケーション等から利用する組織。
・APIを利用した独自環境
OpenAI APIやGemini API等のAPIを自社のサービスや社内環境と連動させて利用
する組織。
・自組織データの利用
ファインチューニングやRAG(Retrieval-Augmented Generation)の技術を用いて
自組織のデータを生成AIに利用する組織。
・自組織向けモデルの開発
自組織向けにモデルを独自開発する組織。
その上で、外部からの脅威と脅威へのアクション・対策について、入出力に
関するものやモニタリング、ポリシーと教育等の項目ごとに計16個の内容を
記載しております。
例として、ポリシーと教育の項目では、P-01:生成AI利用に関するポリシーの
整備、P-02:生成AI利用に関する教育、P-03:法律と規制の確認の3個の内容を
記載しており、生成AIを組織内で利用していく上で必要なポリシーや確認
すべき法律や規制について参考資料も交えて記載しております。
内容については、来年度以降もワーキンググループ内にて適宜更新をかけて
いく予定です。
成果物の詳細は、下記のリンクをご参照ください。
https://www.jnsa.org/result/aisec/2024/index.html
なお、本ドキュメントに関する質問、改善や要望等は、下記のリポジトリの
Issueにてご連絡ください。
https://github.com/JNSA-AISecurityWG/Generative_AI_Doc
来年度も引き続きAIの利用におけるセキュリティおよびセキュリティ分野での
AIの活用について調査研究を進めていく予定ですので、本ドキュメントの作成
にご興味ある方やAIに関するセキュリティに興味のある方は是非AIセキュリテ
ィワーキンググループにご参加ください。
（※事務局注：ワーキンググループへのご参加は原則JNSA会員の方のみとなっております）
＃連載リレーコラム、ここまで
＜お断り＞本稿の内容は著者の個人的見解であり、所属団体及びその業務と
関係するものではありません。
＜ワンクリックアンケートお願い＞
今回のメールマガジンの感想をお寄せください。
https://tinyurl.com/ks7nxxjm
※googleアンケートフォームを利用しています。
【部会・WGからのお知らせ】
★調査研究部会AIセキュリティワーキンググループが
「生成AIを利用する上でのセキュリティ成熟度モデル」を公開しました。
https://www.jnsa.org/result/aisec/index.html
★JNSA主催セミナー／イベントの動画・講演資料順次公開中！
JNSAホームページをご確認ください
https://www.jnsa.org/
【事務局からのお知らせ】
★JNSA事務局を騙った詐欺事件が発生しています。
当協会から個人の方へ金銭のご請求を行うことはございません。
お心当たりのある方は最寄りの警察署に実際に足を運んで御相談下さい！！
★リモートワークに活用ください！
「緊急事態宣言解除後のセキュリティ・チェックリスト」
https://www.jnsa.org/telework_support/telework_security/index.html
☆コラムに関するご意見、お問い合わせ等はJNSA事務局までお願いします。
sec@jnsa.org
☆メールマガジンの配信停止は以下URLの「解除」よりお手続き下さい。
配信停止連絡 <https://www.jnsa.org/aboutus/ml.html>
*************************************
JNSAメールマガジン 第309号
発信日：2025年4月4日
発 行：JNSA事務局 sec@jnsa.org
*************************************