数学的な検証を進めたアキムは、ハルシネーションが常に存在することを認めているが、それはバグではなく特性だと考えている。「ハルシネーションはLLMに内在する特性であり、人間の知能を超えるために必要なものでもあります。LLMのシステムは、ハルシネーションを起こすことによって学習しているのです。間違えることが多いのは確かですが、時にはそれが、人間には誰ひとり思いつかなかったことだったりします」
要するに、生成AIそのものと同様に、AIエージェントも能力不足ではあるが、同時に不可避でもあるということだ。
