Корпорация Meta пережила множество неприятностей, о которых писали СМИ, но кое-что ей все-таки удалось. Например, создание бота CICERO. В недавнем номере журнала Science люди из команды Meta Fundamental AI Research Diplomacy Team (FAIR) вместе с 26 другими специалистами в области компьютерных наук опубликовали результаты тестов, проведенных в реальном мире (что не означает, что это не мир онлайн-игры) с участием агента ИИ, который разрабатывается уже несколько лет и намеренно назван в честь Цицерона. С древности речи Цицерона заучивали наизусть в школах Европы, используя его манеру речи, аргументы и риторические фигуры, чтобы убедить слушателей в своей правоте. И поскольку сейчас уже не 19 век, стоит пояснить, что Марк Туллий Цицерон был политиком, ритором, писателем, полководцем, философом и даже священнослужителем. Он жил в первом веке до нашей эры, в неспокойное время, когда из Римской республики формировалась империя.

Как политик и лидер во главе партии, защищавшей Республику против Цезаря, Антония и Октавиана, Цицерон потерпел неудачу. Будучи оратором и писателем, которым уже при жизни восхищались даже его враги, он, тем не менее, добился большого успеха "в литературе". Возможно, именно поэтому он был выбран покровителем бота Meta. CICERO является первым «агентом ИИ, достигшим производительности на уровне человека в "Дипломатии", стратегической игре, включающей как сотрудничество, так и конкуренцию, в которой особое внимание уделяется переговорам на естественном языке и тактической координации между семью игроками». Таким образом, бот не только имитирует человеческий язык и использует его для общения с людьми, но и "интегрирует языковую модель с алгоритмами планирования и обучения", делает выводы из разговоров об убеждениях и намерениях других игроков и инициирует диалог для реализации своих планов. Более того, он делает это лучше, чем 90 процентов любителей "Дипломатии".

Искусственный интеллект уже самостоятельно рисует, сочиняет, пишет романы и даже стихи и хокку. Для нас, людей, остается загадкой, что происходит "под крышкой" ИИ, как он приходит к определенным навыкам и решениям. Конечно, сначала выдающиеся человеческие умы конструируют IT-скелет такого ИИ – его "движок" – а затем вбрасывают в него гигантский набор данных, отобранных специалистами в какой-либо области, с командой: понаблюдай, бот, и сделай выводы. Хорошо сконструированный бот может специализироваться в самых разных областях: распознавать и анализировать определенный тип изображения или звука, анализировать гигантскую корпоративную бухгалтерию совместно с HR и R&D, имитировать стиль Льва Толстого или Рафаэля и, наконец, общаться с живым человеком так, что последний даже не подозревает, что имеет дело с ботом. Однако искусство дипломатии ...

Возможна ли в будущем замена некоторых чиновников на ИИ, изменит ли это качество дипломатии и имеет ли такая игра вообще что-то общее с реальной дипломатической службой? Профессор Аркадий Жегоцки, глава дипломатической службы Республики Польша, убежден, что нет. – Искусственный интеллект имеет очень широкое применение, которое с каждым годом становится все больше и больше. Мир дипломатии явно выигрывает от цифровых достижений, например, в кризисных ситуациях. Однако ИИ, конечно, не сможет заменить профессиональных дипломатических работников. Ведь дипломатия во многом основана на доверии и личных контактах, а это никогда не сможет заменить даже самая лучшая машина, считает посол.

    Подписывайтесь на наш фейсбук  
  Ну, художники или рентгенологи тоже так говорят, только все менее уверенным голосом. Но очевидно, что они не основывают свою специализацию на личных контактах с клиентами или пациентами.

ИИ съедает европейский пирог

Также нельзя отрицать, что игра "Дипломатия", по сути, является лишь эрзацем настоящей дипломатии, хоть и сам Генри Киссинджер является ее большим поклонником. Этот вековой стратегический советник, бывший госсекретарь США и дипломат, можно сказать, Талейран нашего времени, имеет возможность быть ее поклонником уже 63 года, с тех пор как она появилась на рынке США в виде настольной стратегической "военной игры". Ее игроки принадлежат к такой же элитной группе, как и шахматисты. Они создают клубы, организуют местные и международные турниры по "Дипломатии", призовой фонд которых может довести до головокружения любителей простого "Приятель, не сердись" или даже "Скрэббла".

На протяжении десятилетий игра велась в форме писем, затем по электронной почте и, конечно же, с помощью компьютера, и, наконец, в режиме онлайн. Однако последняя, еще десятилетие назад, не особенно ценилась игроками, которые, подобно шахматистам, хотели бросить вызов искусственному интеллекту. Это было связано с тем, что в ней не было адекватной эмуляции речи или диалогов, чтобы обеспечить полноценную игру человека против бота. Также не хватало ботов, достаточно опытных, чтобы вообще участвовать в игре.

Чего удалось добиться CICERO, ворвавшемуся в элитные 10 процентов лучших игроков? "Дипломатия" отличается от типичных варгеймов несколькими ключевыми элементами. Здесь нет ходов и последовательности: игроки тайно записывают свои ходы после периода переговоров, а затем все ходы раскрываются и выполняются одновременно. Правила, моделирующие бой, являются скорее стратегическими и абстрактными, чем тактическими и реалистичными, поскольку это не военный симулятор. Кроме того, все военные подразделения, сухопутные или морские, имеют равную силу. Игровое поле имеет масштаб целого континента (Европа 1901 года плюс Турция, кусок Ближнего Востока и Северной Африки, где сверхдержавой, оснащенной более чем тремя армиями, является только Россия), а не одной военной кампании. И наконец – разрешение сражений не включает в себя случайные элементы, такие как бросание кубиков или розыгрыш карт. Именно способность к социальному взаимодействию и навыки межличностного общения определяют успех в "дипломатии".

На самом важном для успешной игры этапе переговоров игроки обсуждают тактику и стратегию, создают союзы, обмениваются разведданными или распространяют дезинформацию. Переговоры могут быть публичными или частными. Семь игроков не обязаны выполнять ничего из того, что они говорят или обещают – соглашения не являются обязательными. Однако доверие очень важно. Игрокам необходимо создавать альянсы и наблюдать за действиями своих союзников, чтобы оценить их надежность. В то же время они должны убедить других в своей благонадежности, планируя выступить против своих союзников, когда те этого меньше всего ожидают. Предательство может быть не менее выгодным, чем прочный, надежный союз. Цель, конечно, состоит в том, чтобы захватить для себя как можно большую часть европейского пирога и центров снабжения, но это невозможно сделать, просто сражаясь на поле боя. Все время приходится буквально договариваться и манипулировать до тех пор, пока у вас не появится мозоль на языке.

Именно здесь в игру вступает CICERO, который сочетает в себе модули стратегических рассуждений и диалога, обученные на наборах данных (движения игроков и стенограммы переговоров) из 125 261 партии в "Дипломатию", взятых из Интернета. Точно так же, как если бы его учили играть в шахматы. В шахматах ИИ уже давно обыгрывает человека; пришло время дипломатии, хотя это искусство. Она требует не только стратегии, но и интуиции, убеждения и даже обмана – человеческих навыков, которые, казалось бы, недоступны даже самому мощному ИИ. Специалист по информатике и соавтор статьи в журнале Science Ноам Браун, начиная этот проект в 2019 году, думал, что для успеха потребуется десятилетие. "Идея, состоящая в том, что у вас может быть ИИ, который обсуждает стратегию с другим человеком, все планирует, ведет переговоры и устанавливает доверие, казалась научной фантастикой".

"Покерфейс" бота

Между тем, бот довольно быстро научился выбирать действия, основываясь на состоянии игры, предыдущем диалоге и предполагаемых действиях других игроков, планируя несколько ходов вперед. Во время обучения исследователи также поощряли его за "человеческую игру", чтобы его действия не смущали других игроков. Модуль диалога был обучен имитировать человеческий разговор в игре, в контексте своего состояния, предыдущего диалога и того, что модуль стратегического планирования намеревался сделать. Таким образом, CICERO обладает способностью к многоступенчатому планированию коммуникации, а также умением проговаривать и обыгрывать человеческие условности.

Агент, по словам его создателей, сам научился балансировать между обманом и честностью. Из этих тысяч примеров игр, в которые играют люди, он узнал, как лгать, чтобы не перегнуть палку, чтобы не потерять доверие навсегда. И как говорить правду, чтобы не прослыть дураком. Тем не менее, когда расшифровки CICERO были изучены экспертами по дипломатии, они оценили около 10 процентов сообщений бота как несоответствующие плану или состоянию игры. Более проницательный игрок мог бы понять, что бот говорит глупости. Однако нам, людям, свойственно видеть обман в той чепухе, которую мы слышим, по принципу "наверняка в этом безумии есть какой-то метод, но какой?". Вероятно, игроки использовали этот механизм, чтобы объяснить себе странные сообщения CICERO, тем более что большинство из них понятия не имели, что их противник – бот.

Если посмотреть со стороны психолога (интересно, доживут ли боты до встречи со своими психотерапевтами), то все это – проявление креативности агента, то есть поиск новых стратегий. Это связано с пластичностью и гибкостью, которые можно оценить с помощью тестов, проверяющих интеллект на основе творческих способностей, а не знаний, полученных в школе. И хотя наше общение более или менее эмоционально, в то время как боты не могут испытывать настоящие эмоции (от бабочек в животе до шума в голове), "покерфейс" – это то, что нам нужно тренировать, если мы хотим быть профессиональными дипломатами. Другими словами: пропитанная слезами реакция украинского посла Андрея Мельника на немецкую сентенцию о том, что "нет смысла помогать вам, если через несколько часов вас не станет", была глубоко человечной, но она лежала на антиподах дипломатии. Конечно, сами слова, прозвучавшие из уст представителей Министерства иностранных дел Германии, также не были ни разу дипломатичными, и вдобавок были бесчеловечными.

Так поможет ли боту отсутствие эмоций в общении – что уж скрывать – манипулировать человеческими игроками? Не имея собственного лица и наблюдая за языком тела других людей, можно ли увидеть их психическое состояние? Можно ли почувствовать, кто говорит правду, а кто лжет, кто искренен, а кто манипулирует, то, что мы часто делаем подсознательно и называем интуицией? Достаточно ли для этого информации из диалога и тембра голоса игрока – оказывается, да, достаточно. В любой сфере – несмотря на сегодняшнюю моду быть "расслабленным" во всех отношениях – манеры и условности обычно облегчают взаимодействие, и этому можно научить как ребенка, так и искусственный интеллект.

С другой стороны, возникает вопрос, будут ли боты, обученные "дипломатии", способны даже на кратковременное сотрудничество, кооперацию, а не конкуренцию, и как люди будут относиться к созданию альянсов с машинами? Исследователи обучили модуль стратегического мышления, заставив агента играть против своих копий. Если бы он помогал людям договариваться о ценах на аукционах или добивался промоакций и скидок в процессе общения с сегодняшними столь же безэмоциональными отделами обслуживания клиентов (обычно ориентированными на "нет" или на то, чтобы дать три копейки вместо положенного полного возмещения), то составил бы человеку конкуренцию. Однако агентам-переговорщикам, которым придется убеждать людей делать здоровый выбор, хотя бы в вопросах диеты, или помогать конфликтующим политикам, будет необходимо научиться сотрудничать, обмениваться стратегиями и открыто делиться идеями.

Угрозы? Агенты ИИ могут манипулировать политическими взглядами, совершать финансовые махинации или добывать конфиденциальную информацию. А кого потом посадят за шпионаж, растрату или измену? Можно историю окончить простым способом – сказав, что после шахмат, го, покера и Dota 2, ИИ начал обыгрывать людей в "Дипломатии". Однако у меня есть ощущение, что ни в этом суть достижения компьютерщиков из Meta, и ставить точку в этой истории еще рано.

–Магдалена Кавалец-Сегонд

TVP ЕЖЕНЕДЕЛЬНИК. Редакторы и авторы

  –перевод Денис Куценко
Источник:https://www.science.org/doi/10.1126/science.ade9097