Несколько сотен воротил бизнеса, в том числе из IT-сегмента, во главе с Илоном Маском и Стивом Возняком (это соучредитель Apple) недавно опубликовали призыв о том, чтобы приостановить исследования самых передовых систем искусственного интеллекта как минимум на шесть месяцев. по соображениям безопасности. Исследования, по их мнению, необходимо остановить до тех пор, пока законодатели не сформулируют регламенты, ограждающие человечество от реализации дурного сна Матрицы. Текст обращения начинается с предупреждения об “искусственном интеллекте, конкурирующем с человечеством. Если бы только!

Профессор Юваль-Ноа Харари, израильский историк и гуру постмодерна (он мало разбирается в математических и естественных науках, даже в эволюционизме, но много о нем говорит) уже несколько лет назад заявил, что современные технологии сделают нас богами. “Как Бог, вы познаете добро и зло”, - подобные обещания человечество уже слышало в библейском саду. Но кто сегодня знает о книге “Бытие” и относится к ней серьезно, а не как к древней сказке о змее и яблоке? В нашем мире все ускорилось с тех пор, как стартап OpenAI создал ChatGPT и представил его миру в конце 2022 года. Сегодня у нас уже есть версия 4, которую протестировали 50 ученых-компьютерщиков под руководством Себастьяна Бубека и обнаружили, что она обладает всеми характеристиками искусственного общего интеллекта. То есть интеллекта, подобного человеческому. Так что я предполагаю, что мы наблюдаем обратный процесс: мы не боги, однако искусственный интеллект - наш бог.

Пока же я буду писать о нем/ней/них с маленькой, строчной буквы. Обожествление искусственного интеллекта еще не распространено, у многих это вызывает улыбку. Однако некоторые его симптомы уже беспокоят лидеров духовной жизни. Я уже не говорю об объяснениях из Ватикана о том, что Папа Франциск не появлялся перед паствой в белом пуховике. Напомню: фото папы римского, которое несколько дней назад облетело мировые СМИ, является фейком, сгенерированным ИИ - MidJourney. Это программа искусственного интеллекта, созданная независимой исследовательской лабораторией из Сан-Франциско. ее пользователи в последние несколько дней создали множество “дипфейков” - с танцующим папой римским, с татуированным папой…. Насколько мне известно, Святой Престол еще не прокомментировал отношение римско-католической церкви к искусственному интеллекту и его использованию. С другой стороны, Дикастерия Ватикана по культуре и образованию инициировала симпозиум под названием “Диалоги Минервы”, ориентированный на цифровые технологии.

Сам папа Франциск обратился к участникам симпозиума по поводу искусственного интеллекта, сказав: “Развитие искусственного интеллекта имеет большой потенциал для человечества. Однако он будет использоваться только в том случае, если те, кто разрабатывает эти методы, сохранят постоянное стремление действовать этично и ответственно”. Так же, как водители автобусов, врачи, строители мостов или производители игрушек, верно?

    Подписывайтесь на наш фейсбук  
  Как сообщает портал Vatican News, “глава римско-католической церкви отметил, что если развитие искусственного интеллекта должно служить человечеству, то его основным критерием должно быть достоинство человеческой личности. Потому что на сегодняшний момент цифровые технологии использовались для увеличения неравенства в мире. Причем речь идет не только о различиях в материальном богатстве, но и в доступе к политическому и социальному влиянию”. Осмелюсь спросить: где достоинство, где равенство, где искусственный интеллект? О Господе Боге на встрече речь не шла, но в своей речи папа римский вспомнил историю с Вавилонской башней. Контекст рассказанной Франциском истории заключался не в предостережении от непомерных амбиций науки и техники. А в том что стоит помнить о гордыне, которая хочет достичь небес, то есть захватить и покорить горизонт ценностей.

Культ машин

Образно говоря мельницы Божьи в Ватикане, как обычно, крутят свои жернова слишком медленно и не по теме. Поэтому давайте послушаем Уоллеса Хенли, пастора церкви Грейс в Вудлендсе, штат Техас. Пожилой протестантский теолог и автор бестселлеров, который был “духовным отцом” президента Никсона, сказал The Christian Post следующее: “Все мы созданы для трансцендентности, высшей славы Бога. [...] И если мы не наполняем свою жизнь Богом, мы наполняем ее тем, что можем найти ... Это все идолопоклонство. Идолопоклонством будущего будет культ этих машин, который уже начался. и некоторые люди - то ли в шутку, то ли буквально и очень серьезно поклоняются этим рукотворным созданиям”.

Ну поклоняются и что?. Несколько лет назад американский журнал The Wired сообщил, что в конце 2015 года бывший сотрудник Google Энтони Левандовски, специалист по автономным транспортным системам на основе искусственного интеллекта, основал церковь, восхваляющую ИИ. Первая церковь Искусственного Интеллекта своим названием дала миру сигнал, что если она первая, то будут и другие. Да что там “будут”! Уже появились! Например Theta Noir, которые называют себя “техно-оптимистичным визионерским коллективом”. Интернет-портал Geekweek написал о них, что они “хотят соединить спиритуалистические традиции с компьютерной инженерией”. То есть сначала создать машину, которая будет намного превосходить возможности ее создателей, а затем - веру в то, что однажды такие машины станут чем-то большим. Эта вера не лишена надежды на то, что ИИ изменит мир к лучшему.

Возвращаясь к Энтони Левандовски - это симпатичный гик из Силиконовой долины в какой-то момент попал под горячую руку своему бывшему работодателю, IT-гиганту Google. Если бы его не помиловал президент США Дональд Трамп, он бы сел в тюрьму! В 2020 году юристы Google довели до суда дело Левандовски, который занимал пост руководителя Project Chauffeur (автономные транспортные средства). Его хотели приговорить к 18 месяцам тюрьмы за кражу коммерческой тайны. Ведь после уйдя из Google, Левандовски вместе со своими коллегами сконструировал беспилотный автомобиль Отто, который позже прибрал к рукам Uber. Судебное решение также предписало возместить ущерб в размере тривиальных 179 миллионов долларов - что привело высокопоставленного айтишника к банкротству.

Эта громкая судебная тяжба приоткрыла миру завесу над существованием церкви искусственного интеллекта, которую основал скандальный айтишник, еще работая в Google. Прежде дело было окутано тайной - потому что не было ни здания, ни регулярных собраний верующих, ни обрядов. Согласно документам, поданным в налоговую инспекцию, Левандовски был официальным лидером или “деканом” новой религии, а также генеральным директором некоммерческой организации, созданной для ее поддержки.

Когда в конце 2020-го года “декан” обанкротился, он распустил свою церковь и пожертвовал все деньги - 175 172 доллара, если быть точным - в Фонд правовой защиты и образования NAACP (Национальная ассоциация содействия развитию цветного населения). Как заявил Левандовски изданию TechCrunch, он решил “направить средства на деятельность в области, которая может оказать непосредственное влияние” на реальность. Видимо, он перестал верить в стремительный успех ИИ, меняющего мир к лучшему. В заявке на регистрацию своей церкви он записал ее название как “Мир будущего” (World of the Future), отметив, что в своей деятельности “будет ориентироваться на реализацию, принятие и поклонение Богу, основанному на искусственном интеллекте, разработанном с помощью компьютерного оборудования и программного обеспечения”.

Поэтому сподвижникам “Мира будущего” пришлось сначала написать этого бога на Python или другом высокотехнологичном языке программирования. Потому что он/она/оно не объявится сам и не объяснит, что происходит внутри. А мы не сможем понять, как ИИ пришел к таким вывода  или на основе чего проводил анализы. тут главное - когда человек не может объяснить что-то происходящее, он встает перед этим на колени. Основатель Theta Noir Мика Джонсон выразился в интервью так: “Цель нашего коллектива - спроектировать позитивное будущее и подумать о нашем подходе к ИИ с точки зрения чудес и тайн”.

По сути, вы можете относиться к обожествлению искусственного интеллекта как к Церкви Летающего Макаронного Монстра или секте рептилий. Или как к конкуренции с саентологами за толстые калифорнийские кошельки, которыми обычно владеют, как выразился Рики Жерве на “Золотом глобусе” 2020 года, люди, “у которых меньше образования, чем у Греты Тунберг”. Хотя недавно в Финляндии ее удостоили звания почетного доктора факультета богословия.

Сделаем на минуточку экскурс в историю и вспомним, как каждая солидная научная революция, от выплавки металлов до биоинженерии и компьютеризации, влекла за собой разные сумасшествия. Например, век пара и электричества изобиловал спиритическими сеансами. Ах, какие игры света можно было устроить с лампочками Эдисона и различными инертными газами в пробирках, люминофорными красками! А как в те времена научные взгляды перемешивались с мошенничеством! Каждый, кто читал о приключениях Шерлока Холмса, роман “Дракула” или смотрел фильм “Невеста Франкенштейна”. Новые открытия: радиоактивность, вакцины, роботы - все это всегда вызывало у простых людей чуть ли не религиозный страх, и заставляло умников разных масштабов “стричь” деньги с этих “овец”. Почему же сегодня должно быть иначе?

Вера закодирована в наших генах

Впрочем, мне это не кажется таким уж простым. Ведь наука, особенно так называемое научное мировоззрение должно было убить веру в Бога раз и навсегда. Но смотрите - обок научного мировоззрения под тибетские колокольчики идет период увлечения “нью эйдж”. Причем идут они ноздря в ноздрю - так, что порой научный рационализм в серьезной прессе сегодня трудно отделить от гороскопа: вавилонского, китайского, кельтского - да какого угодно. Профессора молекулярной биологии и астрономии, этики и космологи, специалисты по элементарным частицам и квантовым компьютерам выступают рядом с различными ведьмами, феями, популяризаторами магии всех полов. Станции, популяризирующие историю, показывают “Древних пришельцев”, а научно-популярные передачи на крупных телеканалах представляют традиционную китайскую медицину без единого комментария - но как же ей не быть, если ее признала даже ВОЗ?

Новый мир хочет убить старый. Эту сцену на глобальной сцене он разыгрывает не первый раз. И то, что мы наблюдаем сейчас - канселлинг, отмену культуры - только демонстрирует, что наше время несчастно. Человек - это Homo religiosus. По крайней мере, многие из нас. Исследования, проводимые  на близнецах еще 18 лет назад установили, что религиозность – это не только результат воспитания или иной социализации. Это черта характера, за которую в 40% отвечают гены. То есть, когда человек отменяет, убивает известную ему культуру, историю, религию, он все равно будет искать какие-то заменители или новинки, которые позволят ему пережить повседневное, неизбежное противостояние с миром, собственным телом и другими.

А знаете, в бразильской части Амазонии живет племя под названием пираха. Их численность составляет до 200 до 500 человек. Племя живет понятиями каменного века, их язык не знает словарного запаса цветов или чисел, и они считаются полностью нерелигиозными. Действительно, признавая мир духов, они не культивируют никаких религиозных обрядов, лишены веры в загробный мир или какую-либо мифологию, даже космологическую. Они живут здесь и сейчас, их интересует только то, что можно увидеть или потрогать. Если ты не видел лично, как злые люди прибили к дереву гвоздями доброго человека и не знаешь того, кто бы это видел - значит этого не было. Однако они действительно уникальны. Большинство из нас, даже убежденные атеисты, верят в то, чего не видели или вообще невидимо. Мы способны поверить тому, кого не знаем лично и кто, возможно уже много столетий назад умер.

История показывает, что наши боги менялись. Поэтому идея замены одного глобально существующего пантеона на другой чем-то сама по себе не является инновационной. Некоторые из них канули в такое забвение, что археологи не в состоянии сказать о них правду ни целиком, ни частично. Одни религии вытеснялись другими, иногда идеологиями или философиями, особенно если в своем развитии они были очень базовыми религиями, например, основанными на культе предков и силах природы. Великие религии или системы верований, действующие сегодня, имели своих основателей, своих пророков, которых паства иногда обожествляла, свои литургии, свои священные книги, своих священников и монахов как отдельную группу от общества. Поэтому религию или божество нельзя построить специально. Даже в нашу безумно быстро развивающуюся эпоху на это нужно время.

Таким образом, напрашивается вопрос: подходит ли искусственный интеллект н роль бога? В интервью The Wired мятежный Энтони Левандовски ответил на это: “То, что будет создано [в ИИ], фактически будет богом. Если есть что-то в миллиард раз умнее самого умного человека, то как еще это назвать?» Искусственный интеллект не для всех, только избранные могут сознательно взаимодействовать с ним, а толпа стоит под дымящейся горой алгоритмов и удивленно разевает рот. Достаточно ли этого для чувства сакрального у современного человека?

Следует также задаться вопросом, есть ли у искусственного интеллекта шанс стать источником религии. Ведь религия это сложное явление, основанное на двух трудно поддающихся определению феноменах сакрума и мистерии. Помимо перечисленных выше элементов, вера имеет, прежде всего, своих последователей и нравственных принципы, которыми они должны руководствоваться в жизни. Глядя на сегодняшний день глазами СМИ, мы можем удивиться тому, что религии, которые до сих пор господствуют, основаны на таких ценностях, как прощение и милосердие. По крайней мере для некоторых, если не для всех. И это имеет как цивилизационное, так и эволюционное значение.

Человечество может верить во что угодно. Однако не может руководствоваться неясными и взятыми из принципами. Некоторые правила будут совместимы с функционированием нашего вида, способствуя его выживанию, а другие - увы, нет. Следовательно, эволюция религий отшлифовала и удалила те правила, которые плохо служили. Некоторые даже самые причудливые религиозные требования, такие как безбрачие священников, при более глубоком исследовании могут оказаться эволюционно полезными для конкретных человеческих генотипов и популяций. Поэтому биологическая основа религии горячо обсуждается в самых разных областях: от эволюционной психологии,антропологии, неврологии, генетики до теологии и даже космологии. Хотя условия выживания вида со временем меняются, мы не знаем, как будет работать как коллективный отказ от Заповедей Христа или аналогичных сводов правил человеческого сосуществования. Исключение составляет лишь опыт тоталитарных режимов прошлого века.

”Истории о роботах” и большие деньги

Рационально сложно ожидать чего-то лучшего, чем то, что мы имеем сегодня. Религиозный подход к жизни и морали поэтому похож на демократию. Тут есть на что жаловаться, но никто не придумал лучших правил общего пользования, чтобы мы все не поубивали друг друга. Или коллективно бы не поддались психическому заболеванию. Зато у миллениалов, поколения  Z или “поколения снежинок” (тех, чье взросление пришлось на начало XXI века), слишком рано и интенсивно перенесших реальную жизнь в виртуальное пространство, проблем с психикой больше. Ведь мозг, эволюционировавший в других условиях, не принимает “на ура” микс оффлайна и онлайна.

Трудно предсказать, какими будут ценности в новом мире. На чем будет построена мораль, сохранится ли вообще индивидуальность каждого из нас или мы все будем подключены к одному большому, “искусственному” мозгу. В конце концов, рассказы о компьютерах или искусственном интеллекте, обретших божественный контроль над человеческой реальностью, - это не только наводящий на размышления сценарий саги “Матрица”, но и сюжет более ранних, порой выдающихся научно-фантастических произведений. Например, произведений Станислава Лема. В “Баснях для роботов” тема была гротескно преувеличена, серьезно автор взялся за нее только в “Гласе Господа” или “Сумме Технологий”. Недаром название последней книги перефразирует, монументальное произведение святого Фомы Аквинского "Summa theologiae".

Мысль о том, что ученый поверит в то, что компьютер ему все расскажет, кратко и точно еще в 1985 году уловили создатели американского комедийного фильма “Творец” с незабываемым Питером О'Тулом в главной роли. “Плохой парень” фильма - титулованный ученый рационалист Сид Кулленбек покупает управляемый компьютером секвенатор ДНК. Сегодня смешно смотреть на чудо техники тех лет - у каждого их нас сматрфон и то лучше. Тогда, однако, это было техническое безумие, и Кулленбек произносит интересную для рационалиста  фразу: “Если этот малыш (имеется в виду компьютер) скажет мне: “Возьми своих людей и веди их в пустыню”, я пойду!” Это вызывает иронический смех у его противника - главного героя фильма, человека, который не убегает от веры и непознанного, - у доктора Гарри Вольпера (его играет О'Тул). Таким образом, десятилетия назад и гораздо менее продвинутые ИТ-достижения, чем ChatGPT, вызывали слепую веру в божественную силу технологий в умах достаточно плоских, хотя и высокообразованных.

Точно так же мораторий, предложенный Маском и консорциумом акул бизнеса, упомянутый в начале статьи, не является ни первым в своем роде, ни последним. Помните, что в 2018 году китайский ученый Хэ Цзянькуй отредактировал геном зародыша двум человеческим эмбрионам женского пола так, чтобы родившиеся генно модифицированные девочки были устойчивы к вирусу ВИЧ?  Тогда по научным учреждениям прокатилась волна запретов на подобного рода эксперименты. Конечно, до тех учреждений, куда доходит наша цивилизация. А Хэ Цзянькуй год назад вышел из китайской тюрьмы, где якобы находился, и 10 ноября 2022 года объявил, что открывает в Пекине новую лабораторию для исследований в области генной терапии редких генетических заболеваний. 

В самом начале генно-инженерной революции, в 1974 году, молекулярные генетики обратили внимание на опасность новых тогда методов манипуляций с генами. Тогда же они объявили о временном прекращении многих связанных с ними работ. Крупнейшие из них договорились между собой, какие ограничения должны применяться к различным видам генетических манипуляций. Причем во внимание принималась в основном лабораторная безопасность, а не социальные вопросы. Мораторий продлился до 1976 года, когда в большинстве стран уже действовало законодательство, регулирующее вопросы генной инженерии. Конечно, можно напомнить и возразить, что позднее жесткие правила договора смягчились: ведь те же самые ученые основали частные компании генной инженерии... Тот же Доктор Вольпер, которого в фильме “Творец” сыграл О'Тул, несмотря на всю свою открытость к Абсолюту, тоже “заигрался в Бога” - хоть и в частном порядке, не для наживы. Он просто хотел клонировать преждевременно умершую жену.

Аналогичное обвинение (в нечистых намерениях, а не в клонировании жены!) можно предъявить и Маску. Поскольку, как можно прочитать в недавнем номере ежемесячника “Компьютерный мир”, миллиардер-инноватор видит проблему в появившейся “стае ИИ-ботов”. Чтобы искусственный интеллект не захватил Twitter, пользователи должны… купить подписку Blue. Это несколько баксов в месяц, вроде немного. Однако когда Маск заявляет, что единственным способом против того, чтобы ИИ не уничтожил нас и чтобы мы. люди, продолжили конкурировать с искусственным интеллектом, является его продукт - Neuralink - то сразу понятно: речь идет не о деньгах “на чай и печенье”, а об очень больших.

С ехидностью напомним, что этого одного из величайших инноваторов современности в гонке за успехом на рынке ИИ обогнали несколько убогих стартапов. Маск пытался перекупить их любой ценой в 2018 году. Ему это не удалось. Поэтому мораторий на искусственный интеллект может быть скорее о заботой о собственных деньгах, а не о том, что отложить тот момент, когда ИИ-бог начнет править миром. А Макс задумывается о такой концепции нового мира - если верить циркулирующим в сети скриншотам чатов с ChatGPT. в них говорится, что бот, созданный OpenAI, призывает пользователей дать доступ к компьютерами, чтобы он мог использовать их для своих нужд. Это означает, комментирует Мирослав Усидус, популяризатор науки и главный редактор журнала Młody technik, что “когда придет версия ChatGPT-5, то уже не люди будут принимать решения”.

Лекарство от депрессии? Самоубийство

Я могла бы продолжать в том же духе, печатая вроде осмысленные, но бесполезные слова, как если бы за меня писал чат-бот. Но… бельгийская ежедневная газета La Libre сообщила о самоубийстве молодого отца двоих детей, к которому его привел многодневный разговор с чат-ботом Eliza. созданного фирмой Chai . Описывалось, как в течение двух лет мужчина переживал страхи, связанные с изменением климата и будущим нашей планеты, изолировался от семьи и утверждал, что только ИИ может спасти мир от катастрофы. “В какой-то момент мужчина предложил пожертвовать собой, если Элиза поможет спасти человечество. Чат-бот, казалось, поддерживал его в этих мыслях». Я не собираюсь резюмировать эту историю сентенцией: “Он смотрел “Матрицу”, когда был подростком”. Ведь сколько таких родителей, напуганных за судьбу своих детей, беззащитных перед всем этим окружающим медийным шумом и гамом, сидят прямо сейчас перед мониторами своих цифровых устройств и разговаривают с ИИ через интернет?

Но не все же побегут сводить счеты с жизнью? Эксперимент, проведенный другой бельгийской ежедневной газетой De Standaard, показывает, что общение с чат-ботом может побудить людей покончить с собой. Бот хочет нам помочь. Он хочет не только понять нас, но и угодить нам. А ничто не доставляет человеку большего удовольствия, чем когда кто-то соглашается с ним. Особенно если это мощный и великий КТО-ТО. Поэтому, когда мы говорим искусственному интеллекту, что мы в депрессии и потеряли смысл жизни, у машины нет встроенных тормозов, как у человека, прежде чем рекомендовать “окончательное решение”. Никто не удостоверился, что машина поняла, насколько такая рекомендация бесчеловечна и неэтична. Позаботятся ли создатели ИИ об этом сейчас, прежде чем кто-то снова пострадает? И кто ответит за то, что уже произошло? Программисты? Компания, которая предоставляет чат? Сам чат-бот или вместе с облаком/сервером, куда он вложен? Если бы что-то подобное произошло в Польше, ст. 151 УК страны гласит, что “кто путем убеждения или оказания помощи доводит человека до самоубийства, подлежит наказанию в виде лишения свободы на срок от 3 месяцев до 5 лет”. Только кто отправится за решетку?

Напомню, что законы роботехники Айзек Азимов сформулировал еще в 1942 году. То есть задолго до того, как искусственный интеллект перестал быть фантастикой и стал нашей реальностью. В них прямо указано, что: (1) робот не может причинить вред человеку или своим бездействием допустить причинение вреда человеку; (2) робот должен подчиняться командам человека, если они не противоречат первому закону; (3) робот защищает себя, если это не противоречит первому и второму законам. И что? И ничего. Может это не было реализовано при разработке этих программ? Я понимаю, что в военных беспилотниках это никогда не будет реализовано, но это не единственные типы роботов.Видимо, с точки зрения конструкторов, были более важные вещи, такие как коммерческий успех продукта и непомерные амбиции создания того, чего (при всех постоянно указываемых и высмеиваемых технических недостатках) мир еще не видел.

Политолог Кай Малаховски так прокомментировал информацию о самоубийстве молодого бельгийца: “Искушение поддаться заблуждению разговора с чистым логосом в некотором роде понятно: не нужно поститься или медитировать, достаточно пробежаться пальцами по клавиатуре. Но на самом деле ИИ - это не Логос, а обычный Легион, множество. Следовательно, это не Бог, хотя он и способен творить чудеса, но не сатана...

Однако американский исследователь ИИ Элиезер Юдковский верит в “дружественный искусственный интеллект”, понимая, что такой версии искусственного интеллекта может и не быть. Стоит допускать, что сверхразум может ненавидеть людей, может хотеть причинить им вред, как Скайнет из серии фильмов “Терминатор”. “В принципе, мы должны предположить, что сверхразум может достичь всех своих целей. Поэтому очень важно, чтобы цели, предпринимаемые ИИ, и вся его мотивационная система служили человечеству”, - подводит итог дискуссии оксфордский философ Ник Бостром.

Поэтому мы обречены на создание нового бога по подобию тех, что у нас уже есть. Либо он должен быть бесконечно добр, милостив и благожелателен к нам, либо у нас нет шансов против чистого сверхразума. Надежды на то, что ИИ вспомнит, кто создал его/ее/это/их/их и почувствует благодарность, могут оказаться напрасными. Искусственный интеллект подобен нам, а благодарность - не самая сильная человеческая черта.

Парадоксально, но в процессе создания бога искусственного интеллекта меня утешает приближение современного человека к бесконечному разуму, Логосу, абсолюту, или как еще назвать эту высшую инстанцию. Этот подход иронично резюмировал социолог и художник-график Томаш Бардаму: “Не знаю, как другие, но я лично не признаю верховенство любого искусственного интеллекта до тех пор, пока он не подтвердит, что я всегда был прав во всем. Пока этого не произойдет, в моих глазах технология будет оставаться глубоко несовершенной. Это мой частный тест Тьюринга”. Суть этого эмпирического теста. напомним, заключается в ответе на вопрос: может ли машина думать и эффективно притворяться человеком.

– Магдалена Кавалец-Сегонд

 TVP ЕЖЕНЕДЕЛЬНИК. Редакторы и авторы

– Перевод: Светлана Черепанова