Директор по стратегическому маркетингу компании “Яндекс” Андрей Себрант дал интервью Сергею Сухову, в нём много интересного. Например о страхах порабощения роботами:
Только, ради бога, не надо настолько очеловечивать эти самые машинки и думать, что они немедленно обретут самосознание. Очень забавно: самые страшные аналогии — из кинематографа. Когда после лекций задают вопрос “поработят ли нас машины”, ссылаясь на “Терминатора”. Обычно на это я привожу пример про экскаваторы. Допустим, они стали самостоятельными сознательными единицами. Вечером эти роботы собираются в общежитиях, скучают и думают, как бы с лопатами пойти в город. В какой-то момент они осознают, что кто-то их эксплуатирует, и идут громить город людей. В реальности экскаватор можно считать роботом, который специализируется на копании земли. Но я не могу представить себе, что карьерный экскаватор, который живёт в карьере и только его умеет копать, вдруг выбрался из карьера и полез громить город — не сходится. С чего бы он туда полез? Вы его выключили из розетки — он стоит до утра. Или все 24 часа в сутки копает. Он больше ничего не умеет делать.
И дать даже определения ИИ сложно. Андрей Себрант:
"Я очень не люблю этот термин и стараюсь его всячески избегать. Только когда предопределено название какой-нибудь дискуссии — “мы позвали вас поговорить об искусственном интеллекте” — тогда вынужден повторять. Я его не люблю в первую очередь по той причине, что есть большие проблемы с однозначным, общепринятым понятием естественного интеллекта. Пока мы не договорились, что является интеллектуальной деятельностью, как-то очень странно говорить.
Вообще забыли сейчас про машины. Просто: что является интеллектуальной деятельностью? Арифметика является интеллектуальной деятельностью? По-видимому, да. Животные к ней, вроде, не очень способны, в основном — только к цирковым номерам.
Является ли калькулятор в этом смысле зачатком искусственного интеллекта? Вы кнопочки понажимали — он правильную сумму сообщил. Но как-то это же в голову не приходит. Хуже того, счёты, или абак. Можно ли считать, что искусственный интеллект начался, когда абак придумали? Пошевелил костяшки — и получился результат, который доступен только человеческому мозгу. Поэтому давайте аккуратней. Я, и не только я, предпочитаю использовать термин “машинный интеллект”.
Я как-то говорил о сверхИИ. А вы как называете это?
Ну, если говорить, что роботы могут нас поработить, то пример с экскаватором - некорректный. Те роботы, которые могут поработить, должны иметь алгоритм самообучения.
Это, кстати, не мой пример, а господина А.Сербанта. Согласен тут аналогия (пример) немного натянутая. Механизм, как и в этом примере экскаватор, не может даже если он самообучается - не меняет своей структуры и функциональности. Однако, современные работы по ИИ используют концепцию ИИ-зародыша. Эту концепцию как пишет Ник Бостром разработал философ Элизер Юдковский. “Зародыш” может менять свою структуру и функциональности. Таким образом, в вышеназванном примере экскаваторы могут превратиться во что-то иное, изменив свою структуру.
В безусловную опасность ИИ я не верю, мне кажется, что спекуляции на этом - желание заработать больше денег. Ну и достаточно популярная в христианском мире история о Конце света. ИИ столь же опасен, столь же полезен.
У Лема есть роман - “Непобедимый”. Там написано про эволюцию роботов… И очень даже хорошо. В частности, про экскаваторы - это сильно специализированные роботы, с точки зрения эволюции далеко не самый выигрышный тип.
У Анатолия Днепрова есть рассказ “Крабы идут по острову” - там попытка эволюции механизмов привела к противоположному результату.
Оказалось, что слева от рва человечество доживает последние дни под пятой свирепых роботов. Роботы там сделались умнее людей, захватили власть, пользуются всеми благами жизни, а людей загнали под землю и поставили к конвейерам. Справа от рва, на территории, которую он охраняет, людей поработили пришельцы из соседствующей вселенной. Они тоже захватили власть, установили феодальные порядки и вовсю пользуются правом первой ночи. Живут эти пришельцы — дай бог всякому, но тем, кто у них в милости, тоже кое-что перепадает. А милях в двадцати отсюда, если идти вдоль рва, находится область, где людей поработили пришельцы с Альтаира, разумные вирусы, которые поселяются в теле человека и заставляют его делать, что им угодно. Еще дальше к западу находится большая колония Галактической Федерации. Люди там тоже порабощены, но живут не так уж плохо, потому что его превосходительство наместник кормит их на убой и вербует из них личную гвардию Его Величества Галактического Императора А-у 3562-го. Есть еще области, порабощенные разумными паразитами, разумными растениями и разумными минералами. И наконец, за горами есть области, порабощенные еще кем-то, но о них рассказывают разные сказки, которым серьезный человек верить не станет…
А. и Б. Стругацкие. Понедельник начинается в субботу.
Институт математики, механики и компьютерных наук ЮФУ, 2005–2021