AIを仕事に使う会社が増える一方で、「便利になった分、危険も増えている」と感じる現場も少なくない。

社内の資料をまとめる。プログラムを書く。大量のデータを処理する。いまやAIは、企業のさまざまな仕事に入り込んでいる。もしその仕組みに弱点があれば、被害は一つのサービスだけでは済まない。会社の情報や利用者のデータにまで影響が広がるおそれがある。

NVIDIAは7月27日、Microsoft、IBM、Cisco、Cloudflare、CrowdStrike、Red Hat、Hugging Face、Linux Foundationなどと、「Open Secure AI Alliance」を設立したと発表した。参加するのは、クラウドやサイバーセキュリティ、企業向けソフトウェア、オープンソースの分野で活動する37組織だ。

この連携で取り組むのは、AIを安全に使うための道具づくりだ。

たとえば、ソフトウェアの弱点を見つける仕組みや、AIが攻撃にどこまで耐えられるかを調べるテスト環境、問題が起きたときに原因を追うためのツールなどが想定されている。

特徴は、こうした道具を一部の会社だけで抱え込まず、広く使える形で共有しようとしている点にある。

企業のセキュリティ担当者にとって、社内のソースコードやアクセス記録、見つかった脆弱性の情報は、簡単に外へ出せるものではない。外部サービスに預けず、自社の環境で動かせる道具が増えれば、情報を守りながら安全性を確かめやすくなる。

今回の取り組みでは、Linux FoundationやOpenSSFなどが積み重ねてきたオープンソース分野の知見も活用する。問題を見つけ、直し、関係者に伝えるまでの流れを、より早く分かりやすくする狙いだ。

もっとも、話はまだ始まったばかりだ。37組織がどこまで足並みをそろえられるのか。実際に現場で使える道具がいつ出てくるのか。成果が見えるまでには時間がかかる。

一般の利用者にとって、明日からスマートフォンやパソコンの使い方が変わるニュースではない。ただ、AIに任せる仕事が増えるほど、それを見張る人や仕組みの役割は重くなる。

便利さだけを先に進めるのではなく、安心して使える土台も一緒につくる。今回の連携は、そのための一歩と言えそうだ。