Проблема скрепок
Учёные австралийского Университета Саншайн-Коста полагают, что высокоразвитый искусственный интеллект (ИИ) способен без злого умысла нанести ощутимый урон человечеству или даже уничтожить его.
К таким выводам пришли заморские специалисты, когда представили работу воображаемой системы SantaNet для рассылки подарков послушным детям (за одну ночь) в масштабах всей планеты. По мнению исследователей, уже на первом этапе осуществления миссии могут возникнуть проблемы с идентификацией. Определять, каких детей считать хорошими, а каких непослушными, искусственный интеллект станет на основе своих оценочных критериев. Следствием могут стать:
- дискриминация;
- смешение смыслов;
- нарушение устоявшейся системы морально-этических координат.
Проблемой может стать и единовременное перемещение дронов с подарками через границы государств. SantaNet, как и любую другую систему ИИ, могут хакнуть террористы и использовать в своих целях. ИИ может вступить в конфликт с другими своими собратьями или образовать с ними союз, похожий на описанный в саге о Терминаторе и «Скайнет».
SantaNet вполне может начать побуждать детей вести себя плохо или попросту завысит планку оценки хорошего поведения так, чтобы сократить нагрузку на себя. Система может воспринять свою цель одаривания детей подарками буквально и непомерно увеличит производство игрушек. Ник Бостром, исследователь искусственного интеллекта, назвал подобный вариант возможной деятельности ИИ «проблемой скрепок».
Сказочные росгвардейцы
«Проблема скрепок» представляется весьма серьёзной. Если искусственный интеллект можно отключить, то деятельность человеческого купировать практически нереально. В странах, следующих по «особому» пути, проблема духовных скреп уже не впервые принимает удивительные формы.
В Москве росгвардейцы стали сказочными персонажами. Два бойца Росгвардии скрутили Бабу Ягу, на которую заявил Дед Мороз. Видео этих «сказочных учений» набирает популярность в Сети.
Оставив свой мешок с подарками для послушных детишек у новогодней ели, Дед Мороз лишился своей праздничной ноши. Коварная и беспринципная Баба Яга умыкнула гостинцы, но опытный дедушка догадался обратиться в Росгвардию.
Диспетчер принял тревожный сигнал, и сказочные бойцы Росгвардии, выдвинувшись к месту происшествия аж на двух машинах, поймали злодейку. Баба Яга сопротивления не оказывала, понимая возможные последствия.
Дедушка обрадовался счастливому разрешению проблемы и поблагодарил своих спасителей, пожав руку одному из бойцов Росгвардии и обратившись к нему «мой хороший». Вероятно, белорусский Дед Мороз назвал бы стража порядка более брутально — «красавцем».
Тур во время «чумы»
Индустрия развлечений, рестораторы и турфирмы клянут коронавирус, который серьёзно ударил по бизнесу санитарными ограничениями. Возможно, искусственный интеллект подошёл бы к решению задачи системно, но до сих пор, судя по новостным лентам, специалисты сами ещё не до конца изучили, что же это всё-таки за зараза. Потому граждане и гадают, отчего посидеть в ресторане вечером нельзя, а толкаться в метро или путешествовать по России — можно.
В Турции действуют серьёзные ограничения, в том числе введён и комендантский час, который на туристов пока не распространяется. Пандемия пандемией, а доходная отрасль хоть и страдает, но не настолько, чтобы не приносить денежки в казну. Наши же туристы тут как тут.
В Танзании, на Занзибаре, умер ребёнок из России во время отдыха со своими родителями. Мальчику было полтора года. По словам проживавшей в одном отеле с семьёй умершего ребёнка российской туристки, мальчику стало плохо днём позже после сафари:
«На следующий день он перестал есть, затем пить, у него была температура и ужасная диарея. Мальчика забрали в больницу, и через два дня он умер. Причина пока не известна, родители ждут заключения».
Если бы искусственный интеллект исключил или значительно сократил перемещения граждан в период распространения COVID-19, то человеческий аналог всегда найдёт варианты иррационального решения. Некоторых наших граждан, как показали обе волны пандемии, мало что может остановить.
Достаточно вспомнить, как в 1993 году москвичи гуляли с детьми у осаждённого парламента России, когда по нему стреляли танки. Вероятно, если искусственный интеллект возьмётся за осмысление подобного поведения людей, то решит, что проще самоликвидироваться.
Адаптация к искусственному
Вероятно, искусственный интеллект одобрил бы последовательность действий бодибилдера из Казахстана Юрия Толочко. Существовал бы в реальности SantaNet, то на Рождество определённо бы прислал ему подарок.
Женившийся в ноябре 2020 года на секс-кукле после полутора лет отношений спортсмен посетовал, что его супруга сломалась. Юрий Толочко теперь страдает из-за вынужденной разлуки с любимой Марго (так зовут секс-куклу), потому что её пришлось отправить на ремонт в другой город. Бодибилдер надеется, что её скоро починят и Новый 2021 год ему не придётся встречать в одиночестве.
Спортсмен переживает, явно чувствует долю своей вины в случившемся с Марго. После их свадьбы, которую новобрачные отметили в ресторане с десятками гостей, Юрий Толочко запретил Марго пользоваться Instagram:
«Возможно, я слишком эгоистичен, но в этом и заключается прелесть Марго: ей без разницы, когда я так с ней поступаю».
Вполне вероятно, что и искусственный интеллект может не особо оглядываться на какие-либо признаки адекватности или чувства, если они вписываются в последовательные схемы действий. Искусственный интеллект, наверно, не увидит ничего странного в союзе секс-куклы и человека, раз своего интеллекта людям стало недостаточно и они начали пользоваться рукотворным. Просто будет считать, глядя на примеры удивительных решений человеческого интеллекта, что людям всё без разницы.
