AI alarmists again beat the alarm | Алармисты ИИ снова бьют в набат

Alarmism is when there is a constant shouting about an object or phenomenon: «Ahhh! It will kill us all !!!». Nothing in recent times so does not cause alarmist sentiment, like Artificial Intelligence. And all because some people seem to have reviewed such films as «Terminator» and «Matrix» (and others, through which the media is pumped up the topic). And if in the ranks of alarmists there were only lay people who do not have an understanding about modern technologies. So no, in these ranks you can meet such eminent and well-deserved comrades as Ilon Mask and Stephen Hawking (however, to both of them there are questions, but for now we will set them aside). Well, or, for example, James Barrath wrote a whole bible of AI-alarmism, which is directly called «The last invention of mankind».

On HiTech recently published an amusing: 6 scenarios of techno-apocalypse. Briefly, these six scenarios cover possible end-of-the-world options that Artificial Intelligence can do to us, either by its evil will or by misunderstanding. The first scenario is precisely what describes the evil will of Iskina (as we call a self-aware artificial being). The second is the use of nanotechnology, with the incorrect use of which nanobots appear with the replication function, which turns the entire matter of the universe into nanobots. The third is depletion of the Earth's resources. In general, still Malthus talked about this, and they are all wrong, there are many resources on the Earth, but it is ISKIN that can spend all of them on their own understanding. The fourth is the «revolt of machines» in the terminology of Norbert Wiener, and by this term we mean the massive functional failure of systems on which the life-support of our civilization is built. The cyber attacks described in the article are likely to be carried out by Iskina, not by «Russian hackers» (well, by the way, William Gibson warned in the 80s of the XX century that it is dangerous to contact Russian hackers). The fifth is unsuccessful scientific experiments, such as the Large Hadron Collider. Here, too, there is no explicit reference to AI, but we believe that after some time to move science forward will be it. And, finally, the sixth is altogether improbable — nuclear war. Politicians today are unlikely to unloose it, and if it wants to do IskIn, as in the film about the terminators, then it will have much more opportunities not to expose the planet to destructive nuclear strikes, but to use humankind quietly and quickly.

In general, read. It's funny. And let's discuss in the comments. I invite you.

Алармизм — это когда относительно какого-либо объекта или явления постоянно раздаются крики: «А-а-а! Оно нас всех убьёт!!!». Ничто в последнее время так не вызывает алармистские настроения, как Искусственный Интеллект. А всё потому, что некоторые люди, похоже, пересмотрели таких фильмов, как «Терминатор» и «Матрица» (ну и других, через которые масс-медиа накачивают тему). И если бы в рядах алармистов находились только обыватели, не имеющие понимания о современных технологиях. Так нет, в этих рядах можно встретить таких именитых и заслуженных товарищей, как Илон Маск и Стивен Хокинг (впрочем, к обоим есть вопросы, но пока отставим их). Ну или вот, к примеру, Джеймс Баррат целую библию ИИ-алармизма написал, которая прямо так и называется «Последнее изобретение человечества».

На Хайтеке давеча опубликовали занятное: 6 сценариев техноапокалипсиса. Если кратко, то эти шесть сценариев охватывают возможные варианты конца света, которые Искусственный Интеллект может учинить нам либо по своей злой воле, либо по недоразумению. Первый сценарий как раз и описывает злую волю ИскИна (так мы называем самоосознающее искусственное существо). Второй — использование им нанотехнологий, при некорректном использовании которых появляются наноботы с функцией репликации, что превращает всю материю Вселенной в наноботов. Третий — истощение ресурсов Земли. В общем-то, ещё Мальтус говорил об этом, и все они не правы, на Земле много ресурсов, но вот именно ИскИн может их все потратить по своему разумению. Четвёртый — «бунт машин» в терминологии Норберта Винера, и под этим термином имеется в виду массовый функциональный отказ систем, на которых построено жизнеобеспечение нашей цивилизации. Кибератаки, описанные в статье, скорее всего, могут быть проведены ИскИном, а не «русскими хакерами» (ну, кстати, Уильям Гибсон ещё в 80-ые годы XX века предупреждал, что с русскими хакерами связываться опасно). Пятый — неудачные научные эксперименты, типа Большого Адронного Коллайдера. Тут тоже явной отсылки к ИИ нет, но мы считаем, что через какое-то время двигать науку вперёд будет именно он. И, наконец, шестой вовсе неправдоподобный — ядерная война. Политики сегодня вряд ли её развяжут, а если это захочет сделать ИскИн, как в фильме про терминаторов, то у него будет намного больше возможностей не подвергать планету разрушительным ядерным ударам, а утилизировать человечество тихо и быстро.

В общем, почитайте. Это забавно. И давайте обсудим в комментариях. Приглашаю.