人工知能(AI)の脅威に対する警告で世の中はあふれ返っている。米国の起業家イーロン・マスク氏や元国務長官のヘンリー・キッシンジャー氏を含む多くの人々が、人類はいずれAIに駆逐されることになるかもしれないと警鐘を鳴らしている。そう、映画『ターミネーター』のように。

『ターミネーター』では自我を持ったコンピュータ「スカイネット」が世界を支配する。マスク氏らの警告を聞いて、人類はディストピア(暗黒郷)の入り口に立っていると思う人もいるだろう。

だが、現実にはもっと差し迫った問題が起きている。AIはすでに人を殺し始めているのだ。軍や警察は人々を監視・査定し、結果的にその人物を殺害するかどうかという重大な決断を下すのにAIを使っている。しかも、そのアルゴリズムは欠陥だらけだ。

AIを使った対テロ作戦の危険性を筆者が初めて認識したのは5年前、イエメンでのことだった。米国によるドローン(無人機)攻撃で無実の民間人が殺害される事件が起き、私は首都サヌアで聞き取り調査を行っていた。殺害された二人の民間人のうち一人は警官で、もう一人はイマーム(イスラムの導師)だった。イマームは攻撃の数日前にテロ組織「アルカイダ」を非難する説教を行っていたため、二人とも米国側の人物だった可能性がある。生き残った親族の一人で、技術者のファイサル・ビン・アル・ジャービル氏が私を訪ねてきて、こう聞いた。親族はなぜ標的にされたのか、と。