具体的には、不公平なバイアス、AIモデルの操作、データの誤解釈など、Googleが解明したい脆弱性を見つけた研究者に最大3万ドル（約450万円）の報奨金が支払われる。

このプログラムは、2022年に480万ドル（約7億3000万円）以上の報奨金を700件以上の報告に対して支払った。Bardのような生成AIシステムにこの制度を拡大することで、安全性をさらに向上させ、信頼できるAIを構築することを目指している。

専門家は、生成AIが一般化していくにつれて、脆弱性の解明がますます重要になると指摘している。コンサルティング会社のKPMGが行った調査では、カナダのCEOの93％が、AIの出現によりハッキングの被害が増加することを懸念していた。

Microsoftも12日に、最大1万5千ドル（約225万円）の賞金を提供する新しいMicrosoft AIバグ報奨金プログラムを発表している。

対象となる製品は、AIを使用したBingの統合体験で、ブラウザのbing.com、Microsoft Edge、Microsoft Start アプリケーション、Skypeモバイルアプリケーションが含まれる。

マイクロソフトは報奨金プログラムが顧客を保護するための戦略の一部であり、AIを利用して脆弱性を見つけた場合は、MSRC Researcher Portalで報告して欲しいと述べた。

【関連リンク】

・グーグル、バグ報奨金プログラムを拡張し、ジェネレーティブAIの脆弱性を含める(Forbes)
https://www.forbes.com/sites/johanmoreno/2023/10/31/google-expands-bug-bounty-program-to-include-generative-ai-vulnerabilities/?sh=50ab5f6e369b

TEXT：PreBell編集部
PHOTO：iStock