全面禁止にすると見えない利用が増える
不安だからAIでのアプリづくりを一律に禁止する。いちばん簡単な対応ですが、安全になるとは限りません。禁止すると現場は個人のアカウントで隠れて使い始めます。会社から見えない利用は決まりの下で使われるよりも危険です。
経営が判断すべきなのは使うかどうかでなくどこまでのリスクを取るかです。NSYでもAIの利用を止めるより確かめる順番を決めることをおすすめしています。禁止する前にどこまでなら使ってよいかを決めるほうが現実的です。
見た目が整っていても安全とは限らない
AIが書いたプログラムは見た目がきれいに整っています。画面も動き、説明も付いています。そのため使う人は中身まで大丈夫だと思い込みやすくなります。
NSYではAIが書いたプログラムを速く書ける新人の仕事として見るのがよいと考えています。確かめるのは書きぶりより外から入ってきた情報が誰の権限でどのデータまで届くかです。情報が届く道筋をたどれば危ない箇所を見つけられます。
最初に他人のデータが見えないかを確かめる
最初に確かめるのは利用者に許された範囲の外にあるデータが見えてしまわないかです。AIはログインの仕組みは入れても開こうとしているデータが本人のものかどうかの確認を抜かしがちです。
たとえば画面のアドレスにある番号を書き換えると別の取引先の注文が開いてしまう。管理者だけの画面に一般の社員が入れてしまう。こうした穴はログインしていても起きます。業務の中で誰が何を見てよいかは業務を知る人にしか判断できません。この確認は必ず人が行います。
次に鍵の置き場所と失敗したときの動きを見る
2番目はパスワードや外部サービスの鍵の置き場所です。プログラムの中・設定ファイル・動作の記録に書かれていないかを見ます。記録にログイン情報がそのまま残る形も避けます。
3番目は失敗したときの動きです。外部のサービスにつながらないときに確認を飛ばして通してしまわないか。エラーの画面に内部の情報が出ていないか。失敗したときは処理を止めるつくりにしておくほうが安全です。
あわせて外から入る情報を確かめずにそのまま使っていないかも見ます。動作の確認では正しく動く場面に加えて断られるべき操作がきちんと断られるかも試します。どれも画面を眺めているだけでは気づきにくい箇所です。
AIに渡した権限も確かめる
AIに作業させる場合はAIに渡した権限も確かめます。機密を読める権限と外へ送れる権限を両方持たせると情報を外へ持ち出せてしまいます。読める範囲と送れる先は分けて絞ります。
型どおりの穴は点検用の道具を使えば機械的に見つけられます。一方で業務上の権限が正しいかどうかは人にしか決められません。最後に使い始めるかを決めるのも人です。
NSYにご相談いただく場合もまず今あるアプリで情報がどこからどこへ届くかをたどります。そのうえで危ない箇所から順に確かめ、直す範囲を御社と一緒に決めていきます。
