★☆★JNSAメールマガジン 第291号 2024.7.12☆★☆
2024/07/12 (Fri) 15:30
★☆★JNSAメールマガジン 第291号 2024.7.12☆★☆
こんにちは
JNSAメールマガジン 第291号 をお届けします。
メールマガジンはJNSAのホームページでもご覧いただけます。
JNSAメールマガジン https://www.jnsa.org/aboutus/ml.html#passed
コラム最後にワンクリックアンケートがあります。
ぜひこのコラムの感想をお寄せください。
今回のメールマガジンは
AIセーフティ・インスティテュート事務局
多賀 和宏 様にご寄稿いただきました。
【連載リレーコラム】
安全、安心で信頼できるAIの実現に向けて
AIセーフティ・インスティテュート事務局 多賀 和宏
（独立行政法人 情報処理推進機構）
昨今の生成AIを巡る技術革新は、生産性の向上や労働力不足の解消など様々な
メリットをもたらしている一方で、偽情報の拡散や制御不可能性などのリスクも
指摘されています。AIに限ったものではありませんが、人間はわからないものに
対する恐怖が大きく、本来のリスクよりも大きくリスクを見積もる傾向があります。
しかし、AIを利用しないこと自体が企業としても経済活動としてもリスクになる
可能性があることから、少子高齢化の著しい日本においては、産業セクターに
おける生産性向上のためにAIの活用が不可欠であり、そのため、どこにリスクが
顕在化し、何に対処すべきかを整理して、その情報を技術者や研究者などの専門家
でなくとも理解できる環境を整えることが重要であると考えます。
こうした状況を踏まえ、日本ではAIに対して一律に事前規制をかけるのではなく、
イノベーションの促進と規律のバランス確保を重視しています。具体的には、
1.開発力の強化、2.利用促進、3.リスク対応という3つの柱を組み合わせながら、
政府において対応を進めています。その中でも3.リスク対応は大きな役割を果たす
ことになります。昨年には、G7議長国として、岸田文雄総理のイニシアティブの下
「広島AIプロセス」を立ち上げ、この議論を通じてまとめられた「広島AIプロセス
包括的政策枠組み」は、安全、安心で信頼できるAIの普及に向けたグローバルな
AIルールの共通の基盤となるものと確信しています。国内では「広島AIプロセス」
の成果を最大限取り入れた「AI事業者ガイドライン」が公開され、事業者が自ら
リスクを管理するためのツールとして活用されることが期待されています。
国際的にもAIガバナンスの議論における安全性の重要性が大きく高まっている中、
英国や米国でAIセーフティ・インスティテュート(AISI)が設立され、また、安全性
確保に向けた国際的な枠組み作りも検討が始まっています。こうした国際的な議論を
踏まえ、岸田総理のイニシアティブの下、2024年2月14日に、10府省庁と5政府系機関
からなる政府横断的な組織として、独立行政法人情報処理推進機構(IPA)にAISIが
設置されました。
AISIの事務局は５つのチーム（戦略・企画チーム、フレームワークチーム、技術
チーム、セキュリティチーム、標準チーム）からなり、AI安全性の評価観点やレッド
チーミングの手法、AIシステム自体のセキュリティ対策やAIの悪用に対するセキュリ
ティ対策、AI技術に関する標準などについて検討しています。現在は20人超の体制と
なっており、IPAの職員のほか、政府や民間企業からの出向者で構成されています。
当面の業務としては、米英をはじめとする国際的なパートナーと連携しつつ、
国内では、産官学の専門家の参加を得て、安全性評価の基準・手法の確立を目指して
います。具体的には、AI安全性の評価観点やレッドチーミングの手法に関する調査
事業を実施しており、夏頃にはその結果を公開予定です。特に、AIが国境をまたぐ
存在である中、AIガバナンスでも安全性評価でも国際的な相互運用性の確保は重要で
あり、また、企業活動においては、競争領域と非競争領域がある中で、非競争領域に
おける企業間の情報共有や産官学の連携が、今後の経済発展につながると考えて
います。AISIとしては、技術の進歩が極めて早いAI分野で、日本におけるAIの安全性
のハブとなり情報共有や連携の促進に貢献していきたいと考えています。
＃連載リレーコラム、ここまで
＜お断り＞本稿の内容は著者の個人的見解であり、所属団体及びその業務と
関係するものではありません。
＜ワンクリックアンケートお願い＞
今回のメールマガジンの感想をお寄せください。
https://tinyurl.com/449yu2bn
※googleアンケートフォームを利用しています。
【JNSAイベントのお知らせ】
★「JNSA活動報告会」（7月17日・18日・19日）の参加登録受付中！
JNSAで活動している部会・ワーキンググループの2023年度2024年度の
活動報告と今後の活動計画について3日間にわたりオンラインで開催します！
https://www.jnsa.org/seminar/2024/active/index.html
【部会・WGからのお知らせ】
★調査研究部会セキュリティ市場調査ワーキンググループが
「2023年 国内情報セキュリティ市場調査報告書」を公開しました。
https://www.jnsa.org/result/surv_mrk/2024/index.html
★JNSA教育部会が主催する学生さん向けイベント
「JNSAセキュリティチャレンジスクール2024夏期講座」（9月6日）の
参加登録受付中です！。
https://www.jnsa.org/seminar/edu/secuchalle/2024/summer/index.html
【事務局からのお知らせ】
★JNSA事務局を騙った詐欺事件が発生しています。
当協会から個人の方へ金銭のご請求を行うことはございません。
お心当たりのある方は最寄りの警察署に御相談下さい！！
★リモートワークに活用ください！
「緊急事態宣言解除後のセキュリティ・チェックリスト」
https://www.jnsa.org/telework_support/telework_security/index.html
☆コラムに関するご意見、お問い合わせ等はJNSA事務局までお願いします。
sec@jnsa.org
☆メールマガジンの配信停止は以下URLの「解除」よりお手続き下さい。
配信停止連絡 <https://www.jnsa.org/aboutus/ml.html>
*************************************
JNSAメールマガジン 第291号
発信日：2024年7月12日
発 行：JNSA事務局 sec@jnsa.org
*************************************
こんにちは
JNSAメールマガジン 第291号 をお届けします。
メールマガジンはJNSAのホームページでもご覧いただけます。
JNSAメールマガジン https://www.jnsa.org/aboutus/ml.html#passed
コラム最後にワンクリックアンケートがあります。
ぜひこのコラムの感想をお寄せください。
今回のメールマガジンは
AIセーフティ・インスティテュート事務局
多賀 和宏 様にご寄稿いただきました。
【連載リレーコラム】
安全、安心で信頼できるAIの実現に向けて
AIセーフティ・インスティテュート事務局 多賀 和宏
（独立行政法人 情報処理推進機構）
昨今の生成AIを巡る技術革新は、生産性の向上や労働力不足の解消など様々な
メリットをもたらしている一方で、偽情報の拡散や制御不可能性などのリスクも
指摘されています。AIに限ったものではありませんが、人間はわからないものに
対する恐怖が大きく、本来のリスクよりも大きくリスクを見積もる傾向があります。
しかし、AIを利用しないこと自体が企業としても経済活動としてもリスクになる
可能性があることから、少子高齢化の著しい日本においては、産業セクターに
おける生産性向上のためにAIの活用が不可欠であり、そのため、どこにリスクが
顕在化し、何に対処すべきかを整理して、その情報を技術者や研究者などの専門家
でなくとも理解できる環境を整えることが重要であると考えます。
こうした状況を踏まえ、日本ではAIに対して一律に事前規制をかけるのではなく、
イノベーションの促進と規律のバランス確保を重視しています。具体的には、
1.開発力の強化、2.利用促進、3.リスク対応という3つの柱を組み合わせながら、
政府において対応を進めています。その中でも3.リスク対応は大きな役割を果たす
ことになります。昨年には、G7議長国として、岸田文雄総理のイニシアティブの下
「広島AIプロセス」を立ち上げ、この議論を通じてまとめられた「広島AIプロセス
包括的政策枠組み」は、安全、安心で信頼できるAIの普及に向けたグローバルな
AIルールの共通の基盤となるものと確信しています。国内では「広島AIプロセス」
の成果を最大限取り入れた「AI事業者ガイドライン」が公開され、事業者が自ら
リスクを管理するためのツールとして活用されることが期待されています。
国際的にもAIガバナンスの議論における安全性の重要性が大きく高まっている中、
英国や米国でAIセーフティ・インスティテュート(AISI)が設立され、また、安全性
確保に向けた国際的な枠組み作りも検討が始まっています。こうした国際的な議論を
踏まえ、岸田総理のイニシアティブの下、2024年2月14日に、10府省庁と5政府系機関
からなる政府横断的な組織として、独立行政法人情報処理推進機構(IPA)にAISIが
設置されました。
AISIの事務局は５つのチーム（戦略・企画チーム、フレームワークチーム、技術
チーム、セキュリティチーム、標準チーム）からなり、AI安全性の評価観点やレッド
チーミングの手法、AIシステム自体のセキュリティ対策やAIの悪用に対するセキュリ
ティ対策、AI技術に関する標準などについて検討しています。現在は20人超の体制と
なっており、IPAの職員のほか、政府や民間企業からの出向者で構成されています。
当面の業務としては、米英をはじめとする国際的なパートナーと連携しつつ、
国内では、産官学の専門家の参加を得て、安全性評価の基準・手法の確立を目指して
います。具体的には、AI安全性の評価観点やレッドチーミングの手法に関する調査
事業を実施しており、夏頃にはその結果を公開予定です。特に、AIが国境をまたぐ
存在である中、AIガバナンスでも安全性評価でも国際的な相互運用性の確保は重要で
あり、また、企業活動においては、競争領域と非競争領域がある中で、非競争領域に
おける企業間の情報共有や産官学の連携が、今後の経済発展につながると考えて
います。AISIとしては、技術の進歩が極めて早いAI分野で、日本におけるAIの安全性
のハブとなり情報共有や連携の促進に貢献していきたいと考えています。
＃連載リレーコラム、ここまで
＜お断り＞本稿の内容は著者の個人的見解であり、所属団体及びその業務と
関係するものではありません。
＜ワンクリックアンケートお願い＞
今回のメールマガジンの感想をお寄せください。
https://tinyurl.com/449yu2bn
※googleアンケートフォームを利用しています。
【JNSAイベントのお知らせ】
★「JNSA活動報告会」（7月17日・18日・19日）の参加登録受付中！
JNSAで活動している部会・ワーキンググループの2023年度2024年度の
活動報告と今後の活動計画について3日間にわたりオンラインで開催します！
https://www.jnsa.org/seminar/2024/active/index.html
【部会・WGからのお知らせ】
★調査研究部会セキュリティ市場調査ワーキンググループが
「2023年 国内情報セキュリティ市場調査報告書」を公開しました。
https://www.jnsa.org/result/surv_mrk/2024/index.html
★JNSA教育部会が主催する学生さん向けイベント
「JNSAセキュリティチャレンジスクール2024夏期講座」（9月6日）の
参加登録受付中です！。
https://www.jnsa.org/seminar/edu/secuchalle/2024/summer/index.html
【事務局からのお知らせ】
★JNSA事務局を騙った詐欺事件が発生しています。
当協会から個人の方へ金銭のご請求を行うことはございません。
お心当たりのある方は最寄りの警察署に御相談下さい！！
★リモートワークに活用ください！
「緊急事態宣言解除後のセキュリティ・チェックリスト」
https://www.jnsa.org/telework_support/telework_security/index.html
☆コラムに関するご意見、お問い合わせ等はJNSA事務局までお願いします。
sec@jnsa.org
☆メールマガジンの配信停止は以下URLの「解除」よりお手続き下さい。
配信停止連絡 <https://www.jnsa.org/aboutus/ml.html>
*************************************
JNSAメールマガジン 第291号
発信日：2024年7月12日
発 行：JNSA事務局 sec@jnsa.org
*************************************