読者です 読者をやめる 読者になる 読者になる

自動判断

ITの侵入検知システムを発展させて侵入自動防御システムを開発しようとすると、不審なアクセスを侵入のためであると「判断」し、相応しい対応が何であるかを「判断」する部分に苦労する。

 

侵入の意図などなんでもないフェイクのアクセスに対し、“自動判断によって「過剰防御」して可用性を下げてしまう”という対応を示すことになり、「侵入の意図などなんにもないフェイク」がある種の攻撃成功をもたらすようになってしまうのだ。

 

機械に「自動で判断」させるのはとても難しく、安易に実用化すると、自動化による効果(効率アップ)とともに、その副作用による損失がバカにならないことがよくある。

そして、自動化による受益者は、自動化システムを導入した当人達であるが、副作用の弊害が及ぶ人は、当人ではないことも多い。

 

いまどきのビッグデータも、要するに「表示する広告を何にするか」を自動で判断するシステムに使われようといていて、受益者は出稿する人や広告代理店だが、個人情報を録られ、かつ見たくない種類の広告をわざわざ選んで見せ付けられるユーザは、弊害を一方的に被る。

 

無人攻撃機、無人爆撃機も、攻撃目標を自動で判断して、自動的に「攻撃しよう」と判断するシステムなわけだ。受益者は攻撃する国や組織、あるいは死なずに済む兵士だが、弊害を一方的に被るのは誤爆されたり、巻き添えを食う一般市民である。

 

 

未熟な「判断装置」を実用に用いると、こうした弊害が大きくおこるわけで、明らかに未熟な自動判断システムを「安易に実用に供する」ことには、私は強く反対する。

 

が、どうなれば実用に供しても良いと判断できるのか、その判断手法や判断基準はよくまだ良く分らない。こうしたら良いとすぐに言えないのは悔しいが、人間だから「白か黒かの判断」を保留しようという判断も自由にできるわけで、だからまだ人間の判断の方を原則信じたい。