Пришествие электронного евнуха

Мы привыкли определять свой вид как “человек разумный”, чтобы отличать себя от животных, которые порой кажутся нам сообразительными, но лишены способности мыслить. Мы повторяем вслед за Декартом: “Я мыслю, значит, я существую”. Однако успехи искусственного интеллекта (ИИ) заставляют нас подойти к проблеме мышления с другого конца: может ли мыслить то, что существует не так, как мы?

На заре компьютерной эры считалось, что машина может помогать нам быстро считать, но неспособна к мышлению как таковому, поскольку мозг человека устроен сложнее любой машины и все равно всегда будет работать лучше. Но сегодня машины явно не глупее нас - по крайней мере, они обыгрывают шахматных гроссмейстеров в самую интеллектуальную из всех игр. Может быть, дело в другом: мы просто не можем представить себе мышление, отделенное от жизненного интереса. Как может мыслить то, что не в состоянии испытывать боль, голод, жажду? То, что не размножается и не вынуждено заботиться о потомстве? То, что не стремится обладать и властвовать? Словом, если бы машина могла думать, было бы совершенно непонятно, о чем ей думать. Хорошо, когда есть задание от человека. Но в чем интерес машины, отпущенной в свободное плавание?

Однако эта связь мышления не с нашими достоинствами, не с нашими преимуществами по отношению к тем же животным, а с нашими слабостями и недостатками стала предельно ясной только сейчас. Между тем люди всегда грезили о разуме объективном, беспристрастном, свободном от человеческих страстей и ограничений. Именно такое содержание вкладывалось в идею Бога, который мыслился не только как верховный разум, но и как источник практической, житейской справедливости; мы до сих пор говорим: “Каждый за себя, один Бог за всех”. “Власть от Бога” - это и власть, которая призвана утверждать объективную справедливость. 

Как не мечтать о такой власти, если во все времена правители, администраторы, управленцы только и делали, что гребли под себя и продвигали своих людей, в то время как истинные умницы и таланты прозябали в безвестности и нищете? 

Эту проблему объективной справедливости пытались решать по-разному. Кому-то нравилась идея “философа на троне”, воплощением которой стал римский император Марк Аврелий. Правда, Марк Аврелий передал власть не другому философу, а своему сыну Коммоду, который по уровню самодурства пытался превзойти Калигулу и Нерона.

В разные времена и в разных странах, таких как Византия и Китай, с той же целью пробовали использовать евнухов на ответственных должностях. Вроде бы непригодность евнуха к созданию семьи должна была сделать его менее корыстным, ведь он не стремится пристроить детушек на теплые места и нахапать на семь поколений вперед. Однако классический китайский роман “Троецарствие” начинается именно с описания того, как весь народ стонал от бесчинств евнухов, захвативших власть в стране. Стало быть, и это тоже не спасает.

Привлечение ИИ к управлению можно представить как попытку создать “электронного евнуха”, который по самой своей природе не может быть субъективным, руководствоваться своими личными симпатиями и антипатиями, действовать исходя из собственных интересов, поскольку никаких интересов у него нет. Но в этой незаинтересованности одновременно содержится и опасность: неодушевленный актор системы управления, в отличие от администратора-человека, не может действовать по принципу “живи сам и давай жить другим”, поскольку у него самого никакой потребности жить попросту нет.

Другая тропинка, по которой человечество шло к объективному разуму, - это постмодернистское представление о “смерти автора”, о том, что любой текст или иной творческий продукт создается не столько конкретным человеком, сколько всей информационной средой. Но ведь современная нейросеть “творит” ровно по тому же самому принципу, комбинируя уже существующую информацию, к которой она получает доступ. И если телекомпании десятилетиями делали сериалы с типовыми сюжетами и шаблонными диалогами, то почему сегодня тем же самым не может заняться ИИ? И в самом деле, недавно открылся сайт, с помощью которого любой желающий может “снять” сериал на основе своего техзадания, а потом с удовольствием его посмотреть. 

Часто говорят, что прогресс не остановить, и это действительно так. Но превращение объективного, внеличностного разума из мечты или теоретической идеи в повседневную реальность дает нам повод лучше понять, чем же мы на самом деле уникальны, и научиться по-настоящему ценить человечность в себе и окружающих.