国立情報学研究所社会共有知研究センター長の新井紀子氏は、AI(人工知能)は意味理解(読解力)に限界があるために、人間の能力を上回るAIが完成したり、AIが自らの力で人間の知能を超えるシンギュラリティ(技術的特異点)が到来したりすることはないと断言する。

理論的には、AIはコンピュータ、すなわち計算機にすぎず、四則演算(正確には足し算と掛け算)しかできない。したがって、AIは数学的にしか用いることができない。数学的言語を用いて処理できるのは、論理、確率、統計の三つだけなので、人間の知能をこの三つに還元することができると証明できないかぎり、シンギュラリティは来ないし、人間の知能に匹敵する真のAIも生まれないのである。

証明としてはこれで十分なのであるが、新井氏は、AIが意味を理解できないということについて、音声認識応答システムSiri5でレストランを探すという実例に則して説明する。

〈では、Siriはどのくらい賢いのでしょう。

たとえば、「この近くのおいしいイタリア料理の店は」と、訊いてみてください。Siriは、GPSで位置情報を判断して、近くにある「おいしい」イタリア料理の店を推薦してくれるはずです。でも、それは話のポイントではありません。次に「この近くのまずいイタリア料理の店は」と訊ねてみてください。すると、似たような店を推薦します。評判の悪い店から順に表示することはありません。Siriには「まずい」と「おいしい」の違いがわからないのです。さらに、「この近くのイタリア料理以外のレストランは」と訊いてみてください。また、似たような店を推薦します。つまり「以外の」ということがわからないということです。〉(新井紀子『AI vs. 教科書が読めない子どもたち』東洋経済新報社、2018年、120~121ページ)