Hawking pro BBC uvedl, že „vývoj plnohodnotné umělé inteligence by mohl znamenat konec lidské rasy.“ Podle Hawkinga se primitivní formy umělé inteligence, které byly doposud vyvinuty, ukázaly jako velmi užitečné, avšak na místě jsou obavy z toho, jaké možné dopady by mělo vytvoření systému, jenž by se mohl rovnat lidem či je dokonce předehnat.
„Začalo by si to žít vlastním životem a vyvíjelo by se to mnohem rychleji, než člověk. Lidé, kteří jsou limitováni pomalou biologickou evolucí, by nemohli konkurovat,“ řekl Hawking. Jiní experti však vývoj umělé inteligence tak červně nevidí.
„Myslím si, že lidská rasa zůstane i nadále hlavním hybatelem a pokroky v oblasti umělé inteligence by mohly vyřešit řadu potenciálních světových problémů,“ uvedl Rollo Carpenter, tvůrce softwaru Cleverbot. Cleverob se umí učit z předchozích konverzací a ve známém Turingově testu dokázal dosáhnout vysokého hodnocení, když zvládl oklamat vysoké procento lidí, kteří si mysleli, že komunikují s člověkem.
Podle Carpentera bude trvat ještě velmi dlouho, než budeme mít dostatečně pokročilé technologie k vytvoření plnohodnotné umělé inteligence, avšak v příštích několika desetiletích k tomu dojde.
„Nemůžeme samozřejmě vědět, co se stane, až stroj předčí naši vlastní inteligenci, tudíž nemůžeme odhadnout, zda nám to bude ku prospěchu, či nás to zničí,“ řekl Carpenter s tím, že podle něj však umělá inteligence bude pro lidstvo pozitivním přínosem. Na druhou stranu Hawking není jediným, kdo se obává budoucnosti.
Mezi odborníky panuje obava, že v krátkém období chytré stroje schopné provádět různé úkony, které v dnešní době činí lidé, zničí miliony pracovních míst. Jak varoval známý podnikatel Elon Musk, „umělá inteligence je největším nepřítelem naší existence.“
V rozhovoru pro BBC Hawking také citoval ředitele britské tajné služby GCHQ, podle něhož se internet stává základnou pro teroristy. „Internetové společnosti musejí dělat pro boj s tímto nebezpečím mnohem více. Obtížné je to v tom, že současně musejí také ctít svobodu a soukromí uživatelů.“
Hawking je podle svých slov nadšeným uživatelem všech druhů nových komunikačních technologií a těší se, jak bude moci fungovat s novým systémem, který pro něj vyvinuli experti z Intelu a britské firmy Swiftkey.
Jejich technologie se učí jakým způsobem Hawking myslí a nabízí mu tak při komunikaci slova, která by podle všeho mohl chtít použít. Britský vědec je tak díky novému systému schopný psát mnohem rychleji.