BLOG 
もくじ
AIが「安全かどうか」、誰がどうやって確かめるの？――日本版AISI村上所長が語る展望
毎日のようにニュースで見かける「AI」という言葉。チャットAI、画像生成AI、業務自動化AIと、その活躍の場は急速に広がっています。でも、ふと思いませんか？「このAI、本当に安全なの？」と。性能が高くなればなるほど、「使いこなせるか」と同じくらい「信用できるか」が大切になってきます。その「AIの安全性を測る物差し」を作り、社会全体で共有しようとしている組織が日本にもあります。今回は、その最前線に立つAISI（エーアイエスアイ）の村上明子所長の言葉をもとに、私たちが知っておきたいことをわかりやすくお伝えします。
そもそもAISIって何をするところ？
AISI（AI Safety Institute）＝AIセーフティ・インスティテュートとは、一言でいうと「AIの安全性を専門に評価・研究する国の機関」です。日本では経済産業省の下に設置されており、村上明子氏が所長を務めています。
少しイメージしやすくするために、こんなたとえ話はどうでしょう。
食品に「栄養成分表示」や「消費期限」が書いてありますよね。あれは、誰が作っても同じ基準で表示されるよう、国が「物差し（基準）」を決めているから成立しています。AIにも同じような仕組みが必要です。あるAIが「安全です」と言っても、その「安全」の中身がバラバラでは意味がない。AIの安全性を測る共通の物差しを作り、国内外で通用するようにする――それがAISIの大きな役割です。
具体的には、次のような活動を行っています。
- ●AIシステムの評価・テスト（危険な使われ方をしないか、偏った出力をしないかなどを検証）
- ●評価手法・基準の研究開発（どうやって安全性を測るかの方法論そのものを作る）
- ●国際連携（英国・米国など各国のAISIと協力し、基準をすり合わせる）
- ●サイバー攻撃など新たなリスクへの対応（AIが悪用されるリスクも含めて分析）
なぜ今、注目されているのか？
AIの性能が「急加速」し、リスクも大きくなったから
ここ数年のAIの進化は、かつてないスピードで進んでいます。以前のAIは「特定のこと（例：将棋・画像認識）しかできない」ものでしたが、今の最新AIは文章を書き、コードを作り、情報を調べ、人と会話まできます。できることが増えるほど、「悪用されたときのダメージ」も大きくなります。たとえば、巧みなフィッシングメール（だましメール）の自動生成や、フェイク動画の制作なども、AIを使えば以前より格段に簡単になってしまいました。だからこそ、性能評価と並んで安全性評価が急務となっているのです。
「AI×サイバー攻撃」という新しい脅威が現実になっている
村上所長が特に強調しているのが、AIを悪用したサイバー攻撃の増加です。AIが高度化することで、攻撃する側のハードルが下がり、より巧妙な攻撃が増えています。これは企業のセキュリティ担当者だけの問題ではなく、私たち一般ユーザーにも直接関係します。「AIが関与したサイバー攻撃への対応」はAISIの重要な研究テーマの一つとなっています。
国際的な「AI安全基準の競争」が始まっているから
AIの安全基準は、いま世界中で作られようとしています。英国・米国にもそれぞれAISIが存在し、G7などの国際会議でも議題に上がっています。ここで日本が積極的に関与しなければ、海外で作られた基準をそのまま「輸入」するだけになりかねません。村上所長は、日本独自の視点を国際基準に反映させていくことの重要性を繰り返し述べています。「物差しを作る側に入る」か「作られた物差しを使うだけ」かは、産業競争力にも直結する話です。
「評価の手法」自体がまだ世界的に確立されていないから
実はAIの安全性評価は、「これをやれば完璧」という方法がまだ世界中で確立されていません。だからこそ、AISIのような機関が評価手法の研究開発をすること自体に大きな意味があります。現状では、評価する人や組織によって結果がブレてしまう可能性があるため、共通の評価フレームワーク（枠組み）を作ることが急がれています。
わたしたちにどう関係する？
「国の機関の話でしょ？私には関係ないかな」と思った方、ちょっと待ってください。
仕事での活用：企業がAIツールを導入するとき、「このAIは安全か？」の判断基準が欲しいはずです。AISIが策定する評価基準は、企業がAIを選ぶときの「信頼の根拠」になります。特にAIを使った業務自動化を検討している会社にとっては、こういった公的な基準は非常に重要な参考資料になります。
消費者として：私たちが日常的に使うサービス（検索、チャット、翻訳、推薦システムなど）にも、裏側にAIが使われています。AISIの活動によって「安全でないAI」がふるいにかけられる社会になれば、ユーザーである私たちが知らないうちに不利益を被るリスクが減ります。
学び・キャリアとして：AI安全性・AI倫理・サイバーセキュリティは、これから非常に需要が高まる専門領域です。「AIを作る人」だけでなく、「AIを評価する人」「AIのリスクを管理する人」も必要とされています。このような分野に関心を持つこと自体が、これからのキャリアの可能性を広げることにつながります。
気をつけたい点
AISIはAIを「禁止」する機関ではない：安全性を研究する機関というと「厳しく規制する組織」というイメージを持つかもしれませんが、AISIの役割は禁止や摘発ではなく、評価・研究・基準づくりです。AIの健全な普及を支える、いわば「品質管理の研究機関」に近い性格を持っています。
評価基準はまだ発展途上：前述のとおり、AI安全性の評価手法は世界的にも完成していません。AISIが出す評価や基準が「完全な答え」ではなく、日々アップデートされていくものだという点は理解しておきましょう。
サイバー攻撃対応は他機関とも連携が必要：AIを使ったサイバー攻撃への対応は、AISIだけで完結するものではなく、警察庁・総務省・IPAなど複数の機関との連携が不可欠です。AISIは「AI特有のリスク分析」に集中する役割を担っています。
国際連携にはタイムラグがある：英米と比べると日本のAISIの設立は後発です。国際的な議論についていくためのスピード感が求められている一方、人材や予算の面での制約もあり、すべてがすぐに進むわけではない点は正直に認識しておく必要があります。
よくある質問
AISIは何省の管轄ですか？
- ●経済産業省の下に設置されています。
- ●AIの産業利用・技術開発と安全性評価を一体的に進める体制を意識した配置となっています。
AIの「安全性評価」って具体的に何をテストするのですか？
- ●危険な使われ方（悪用）への耐性があるかどうか
- ●特定の人や集団に対する偏った出力をしていないか
- ●意図しない情報漏えいや誤情報の生成がないか
- ●サイバー攻撃に悪用されるリスクがないか
など、複数の観点から検証します。評価手法自体も研究・開発中です。
日本のAISIは海外のAISIとどう違うのですか？
- ●英国・米国にも同名の機関が存在します。
- ●日本のAISIは後発ですが、各国と連携しながら基準のすり合わせを行う方針です。
- ●「日本独自の視点を国際基準に反映させること」を重要課題の一つとして掲げています。
AIを使ったサイバー攻撃とは、具体的にどういうものですか？
- ●AIを使って自動・大量に生成されたフィッシングメール（だましメール）
- ●本人の声や顔を偽造した「ディープフェイク」を使った詐欺・なりすまし
- ●AIによるセキュリティの脆弱性（弱点）の自動発見と悪用
などが代表的な例として挙げられています。
一般市民がAISIに関わる方法はありますか？
- ●素材の範囲内では、一般市民が直接関わる具体的な窓口・プログラムについての言及はありませんでした。公的情報として今後、パブリックコメント（意見募集）や報告書の公開などが期待されます。
まとめ
AIの安全性を測る「共通の物差し」作りは、もはや専門家だけの話ではありません。日本のAISI（AIセーフティ・インスティテュート）は、AIの評価基準の研究・国際連携・サイバー攻撃リスクへの対応を担う機関として、私たちの安心・安全なAI活用を支える基盤を作ろうとしています。評価手法はまだ発展途上ですが、だからこそ今が「仕組みを作る大切な時期」とも言えます。
次に知ると良いこと：AIのリスク管理・AI倫理・サイバーセキュリティの基礎知識を身につけると、このテーマがさらに深く理解できます。当校のブログでも関連記事を続々公開予定ですので、ぜひ合わせてご覧ください。
参考文献
AI・しごと学校
