マイニングによる異常検知のモラルリスク

　国家が情報監視テクノロジーを駆使する。そうした事態はアメリカでは日常茶飯事である。一般向けの解説本（後述する）まであるくらいだ。これはつまり、監視体制側は解説本などより進んだテクノロジーをもっていることを意味する。
　９．１１テロを貴重な教訓として、アメリカはNSA、CIA、FBIなど全力をあげて、対テロ対策に尽力してきた。とりわけ、情報監視テクノロジーに潤沢な予算を投じ、優れたシステムを開発してきている。彼らにとっては差し迫った必要に迫られての対応だったのだろう。
　その解説本として優れているのは『数学で犯罪を解決する』であろう。スタンフォード大とカルテックの数学科教授が書いている。

　その一例を多少、潤色したシナリオとして紹介しておこう（ネタ本そのままではないということ）。
入国審査システムは、外国人に対するデータベース照合を瞬時に行い、各種のプロファイルを寄せ集めることで、審査官に判断の元ネタを提供している。
　それにとどまらずおそらくは、マイニングなど機械学習により「異常検知」シグナルを審査官に提示することになろう。
　上記の著作にあるのはこうだ。

１）年齢：２０−２５歳
２）性別：男性
３）国籍：サウジアラビア
４）居住国：ドイツ
５）査証：学生査証
６）大学：不明
７）年に何度米国に入国：３回
８）過去三年の訪問国：イギリス、パキスタン
９）航空訓練：あり

　
　最初の７つだけなら、審査官は見過ごすだろう。しかし、最後の２つによって「異常検知」が機能すると大学教授たちは無邪気に指摘する。
　この二つがあるために、危険人物を意味する赤ランプが点滅し、場合によっては有無をいわさず別室に連れ込まれる。そこで、数時間待たされたあげく、恥も外聞もない身体検査をされ、挙句の果て延々と慇懃無礼な尋問をされる．．．なんてことになる。上記９つは９．１１実行犯のプロファイルそのものだ。

　ところが、この人物はパキスタンの幼児医療のためのボランティアに勤しむ医者の卵で、自力でパイロット訓練を受け過疎地の子供を救うことを目指していた．．．．なんてことはありうる。
「医師」という肩書きを照合すればいいじゃないかという指摘もあろう。もっともだ。システムを改良して、専攻や肩書きも項目に追加してやればいい。
　これで完璧だ！
　ところである、こんどはこんなケースが検知される。彼は、親友の医師の懇願を受けて、NPOで中東の医療に関わる平和活動に従事しようとしていた純粋な若者であった．．．。だが、この審査ですっかり世の中が嫌になってしまう。

　異常検知とは、平均的な振る舞いから外れた行動や特徴を瞬時に自動的に無考えに析出する。それを機械的に運用するととんでもない誤解や悲劇のネタになるのではないか。
　
　それは、隠れた「悪」の兆候も鋭く見付け出すだろうが、世に知られぬ「善」もおかしいと検知する。そして両者とも根絶やしにしてしまう。

　言い換えると余計な善意など持たずに平凡な生き方をするのが警告を受けない「良き市民」だという教訓話になる。

　異常検知の仕組みは、ある意味、非道徳的な仕組みなのだと上のシナリオは告げてはいまいか？