Ученый признал, что главной бедой станет отсутствие у созданного разума сознания. "Когда я говорю о сознании, я просто имею в виду субъективный опыт: он чувствует себя чем-то вроде меня", – сказал физик. Он уверен, что все разрабтчики искусственного интеллекта игнорируют проблему сознания, не обращают внимания на различие между сознательной и бессознательной системами обработки информации, характерными для живой и неживой природы.
Тегмарк заявил, что люди не смогут просчитать, каким будет созданный человеком разум, как он будет думать, какие выводы делать и как поступать. "Если мы воспитываем детей, которые продолжают следовать мечтам, которых не достигли мы, тогда мы можем гордиться ими, даже если нас уже нет. Но если вместо этого мы вырастим нового Адольфа Гитлера, который уничтожит все, что важно для нас, мы не будем в таком восторге", – рассказал ученый в интервью журналу IEEESpectrum, посвященном выходу в свет его книги "Жизнь 3.0". В ней рассказывается о жизни человечества в эпоху искусственного разума.
Тегмарк разделяет точку зрения известного бизнесмена Илона Маска, финансирующего исследования межпланетных полетов и возвратных ракетных модулей, создание электрокаров и разработку системы сверхскоростных поездов. Он считает, что учитывая скорость и вектор развития современных технологий, искусственный интеллект представляет главную опасность для человечества. Так же думает известный британский физик Стивен Хокинг, специализирующийся на черных дырах и теории Большого Взрыва.
Отметим, что лауреаты Нобелевской премии по физике, химии, медицине и экономике не считают созданный человеком интеллект большой проблемой для будущего. Это показал опрос 50 ученых, проведенный в августе 2017 года. В нем они отвечали, что их беспокоит больше всего и какую угрозу человечеству можно считать самой вероятной.