Vývoj umělé inteligence AI směřuje k vytváření strojů které zvládají stále větší díl kognitivních činností odkazujících k uvažování a rozhodování které dosud spojujeme výhradně s člověkem Tento vývoj může být ještě dlouhý neměli bychom však nabývat dojmu že cíle ke kterým směřuje jsou nedosažitelné Stroje v jejichž činnosti budou inteligentní rysy a schopnosti zvládnuty mohou hrozivým způsobem ovládnout rozhodování v reálném světě a sledovat vlastní cíle vyplývající z jejich programového vybavení i z jejich užití pro ovládání a manipulování společnosti Potenciálním nebezpečím není jen AI destruující lidskou společnost ale zejména taková AI kterou navíc nebude možné vypnout bez ohledu na to že užitek který sleduje přestal být člověku prospěšný a člověkem ovladatelný Stuart Russel autor jedné z nejvlivnějších dnes užívaných učebnic AI přichází v této knize s konceptem „doložitelně prospěšné“ AI o jejíž algoritmech bude možné matematicky dokázat že sledují cíle prospěšné jejich lidským uživatelům
