Покупатель ставит рядом с кассой пустой рюкзак, чтобы загрузить туда батарею бутылок.
- Вам пакетик?
У следующего - жевательная резинка.
- Вам пакетик?
Любознательная гражданка устроила эксперимент: купила пакет.
- Так, понятно... а вам пакет надо?
Простейший автомат реализует вложенную в него последовательность действий независимо от реальности. Такие в СССР продавали газировку. Бросил 3 копейки, подставил стакан, ящик отмерил сиропа и воды. Если стакана нет, все это польется на пол. Работники современных магазинов не по своей вине уподобились такому примитивному устройству. Над ними деффективный менеджер, которому надо впарить побольше копеечного пластика по 5 руб. штука. И он заставляет подчиненных вести себя так, как будто они не люди, а самая дешевая (не дороже пакета) компьютерная программа.
Это присказка.
Сказка начинается с теста Тьюринга, придуманного 70 лет назад, чтобы оценить способности компьютера. Машина считается прошедшей испытание, если в процессе общения ее реакции невозможно отличить от человеческих. Изначальный вариант - через обмен письменными сообщениями. В фильме Р. Скотта “Бегущий по лезвию” представлена процедура с продвинутым полиграфом, позволяющая выявить среди людей их внешне неотличимые копии (биороботов, они же андроиды или репликанты). Конечно, это фантастика. В реальности распространен простой вариант теста Тьюринга под названием капча.
В любом случае человек выступает как эталон, образец для электронного подражания.
Дальше цифровизация. В этом триллере переплетены две сюжетные линии. Первая и очевидная: искусственный интеллект пихают куда можно и нельзя, включая такие виды деятельности, в которых мы реализуем свое предназначение разумного существа. Чтобы нейросеть за нас принимала решения, а мы стали не нужны.
Но одновременно левая рука того же хозяина жмет с другой стороны. Старается низвести человека до уровня робота, причем плохого, карикатурного, без репликантских изысков. Персонал госучреждений и крупного бизнеса специально дрессируют под этот формат. Любая проблема, хоть краешком выходящая за одноклеточные рамки, блокирует оператора, и тупо повторяемое им “Я могу вам еще чем-нибудь помочь?” звучит как издевательство для любого, кто еще в состоянии понимать такие тонкости. Дальше эффект отравленной шпаги из “Гамлета”. Укололся сам отравитель. То, что было задумано как средство подчинения и унижения работников, распространяется на элиту, она тоже теряет человеческие качества, сперва интеллектуальные (способность принимать решения), а потом и все остальные. Власть и богатство лишаются смысла за отсутствием личности, которой принадлежат.
Закономерный итог, предсказанный в ХХ веке фантастами, представляется еще более мрачным: самообучающиеся машины уберут с поля не людей в традиционном смысле слова, а свои же примитивные подобия.
Я уже рассказывал, что с 2019 года ежемесячно получаю долговые извещения как бы по квартплате, которую исправно вношу. При очередном визите в “Госуслуги”, чтобы это прекратить, услышал ответ:
- Вы можете не платить, но квитанции все равно приходить будут, потому что их выписывает программа.
Божественный авторитет.
Я и не плачу. А квитанции приходят. Но “долг” за 4 года уменьшился в 4 раза. Видимо, программа очеловечивается. Как роботы в “Бегущем по лезвию”.
С нашей еще живой стороны новости такие:
“Наем сотрудников в правительство поручат искусственному интеллекту”. Он будет оценивать “мотивацию” людей. И их “противодействие коррупции”. Видимо, больше некому различать добро и зло.
Только не надо паники. Или кто-то всерьез опасается за здравоохранение и образование, вдруг там упадет качество руководящих кадров? Не волнуйтесь, всё уронено до вас.
Проблема в другом: если отбор во власть осуществляет машина, то как быть с Конституцией, ст. 3: “Единственным источником власти в Российской Федерации является ее многонациональный народ”?
А то еще, избави Бог, придется под занавес вносить реновации в канонический текст молитвы “о властех”. Интересно, как это будет на церковнославянском: молимся за ящик с нейросетями?