С одной стороны, если развитие свехразума позволит ему самостоятельно решать производственные и другие задачи, он сможет взять на себя труд человека. С другой – такая самостоятельность может быть опасной.
Существует гипотеза, что сначала ИИ будет копировать поведение человека, который его создал. Но со временем сверхразум научится обманывать, и тогда разразится мировая катастрофа.
Уже сейчас искусственный интеллект побеждает человека в шахматных партиях и даже начинает успешно заниматься творческой деятельностью. Не исключено, что со временем он попытается управлять самим человеком.
