jedynka

Чатбот, который почти стал врачом. Главный герой "Сенсации 21 века"

Что я думаю о нем? Процитирую одного знакомого доктора философии: "Вместо того чтобы признать, что он не знает, он затемняет и собирает данные со своего искусственного интеллектуального дна".

Он был разработан ранее неизвестным стартапом под названием OpenAI, а сегодня Microsoft инвестирует в него 10 миллиардов долларов! ChatGPT стартовал - все уже рассказали, что знают о нем, поэтому я тоже выскажусь. Заранее предупреждаю, что у меня с этим изобретением проблемы, как у Галькевича с Словацким в "Ferdydurke" ("Фердидурке" - роман польского писателя Витольда Гомбровича, опубликованный в 1937 году): "Я не могу понять, как это восхищает, если это не восхищает". Я постараюсь показать, почему. Для ясности: я не особенно боюсь ChatGPT. Мне просто скучно. Такой "гугл" (в конце концов, он черпает пригоршни из Google) с внутренним редактором, который делает за нас копирование-вставку и вырезание-изгибание. Вместо того чтобы использовать 10 найденных текстов, он сканирует и компилирует тысячи. Так "что же такого?". Из-за чего такая шумиха?

Потому что ажиотаж значительный. Ему потребовалось всего пять дней, чтобы преодолеть барьер в один миллион пользователей - это означает, что он сделал это в 60 раз быстрее, чем Facebook (хотя это было другое время, когда FB взлетел 18 лет назад, даже с точки зрения доступности интернета), а также в 15 раз быстрее, чем Instagram! О выходе этого дракона на IT-агору было объявлено 30 ноября 2022 года, а к началу декабря уже появились заголовки в прессе (все еще сформулированные человеческими редакторами): "По мере роста сложности чат-ботов дебаты об искусственном интеллекте усиливаются". А в голове уже звучит джингл программы редактора Влошанского, назовем ее на этот раз "Сенсации 21 века".

Затем регулярно сообщалось о необыкновенных талантах этого чатбота. Неделю назад, например, "выяснилось, что ChatGPT смог сдать экзамены MBA и экзамен, дающий лицензию на медицинскую практику в США". А на следующий день "бот ChatGPT сдал экзамены в одной из юридических школ США" - причем это были не тесты с несколькими вариантами ответов, а экзамены, предполагающие написание серьезных диссертаций по самым разным темам: от конституционного права до налогов и деликтов. Так и хочется разразиться громким "WOW!", а может быть, затрястись от страха в сочетании с возмущением. Однако я предлагаю вам взять паузу.

Быстрый, но не лучший. Если только на польском языке

Что такое чатбот и искусственный интеллект (ИИ) и почему над ними вообще работают, я уже объяснял на этих страницах. Повторю суть: мы пытаемся создать самообучающуюся компьютерную программу, способную общаться с человеком наилучшим образом и идеально имитировать наши мыслительные процессы, сбор и обработку информации, а также повествование. Основная проблема, с которой может столкнуться общество, заключается в том, что мы не имеем представления о "внутренностях" этой вычислительной машины. Даже с тысячей интеллектуальных спортсменов невозможно увидеть в коде, что этот ИИ "вырезал" там и как он к этому пришел.

Война пересматривает российскую версию «конца истории»

Версию Фукуямы оспаривали представители «великодержавного патриотизма» — коммунисты и националисты.

узнать больше
Почему мы думаем, что чатбот будет делать что-то лучше нас, если мы "сделаем его таким же, как мы"? Да, он будет делать это быстрее нас, потому что именно для этого он и был создан. Но не обязательно более точно - потому что это не то, для чего он создан, чтобы быть лучшей, более интеллектуально честной версией нас, просто чтобы быть нами в нагрузку. Журналист и редактор Войцех Муха, вдохновленный технологиями ИИ, дал интересное свидетельство этому в социальных сетях. Пока он писал, он еще не успел приготовить себе чашку чая, а чатбот уже доработал большой кусок текста из собранной им информации - абзац, на написание которого у среднестатистического стажера отдела новостей ушло бы три четверти часа.

Ибо ChatGPT ищет мгновенно, но проблема в том, что он ищет в интернет-ресурсах, где есть и мыло и повидло. Где, даже если опираться только на достаточно достоверную информацию - из энциклопедий или официальных научных кругов, - все равно встречаются фактические ошибки или неверные способы решения задач, в том числе и простых школьных заданий. В конце концов, существует множество "научных журналов" "хищнического" жанра, то есть хищнических за деньги, поэтому они публикуют все, что им присылают за плату. Они не подвергают текст никакой корректуре, даже проверке орфографии, не говоря уже о содержательной рецензии. С другой стороны, чатбот не способен должным образом проверить найденную им информацию.

Сам он не определяет, что такое истина - когда его спрашивают, он выгребает из сети некоторые определения истины, сформулированные философами и теологами, и дает их нам. Мы знаем, что истина, по мнению ChatGPT, это то, что является наиболее распространенным ответом на заданный вопрос в источниках, которые создатели его базы данных считают надежными и задают его. Учится ли он сам проверять источники, как отделять зерна интернета от плевел? Временами я осмеливаюсь сомневаться, для чего приведу примеры. Сегодня мы живем в социальных сетях, поэтому это будут примеры оттуда, но только от людей, которых я знаю лично в реальной жизни. Потому что мы должны придерживаться чего-то, когда речь идет о получении информации в эти странные времена.

Наш герой не смог справиться с простой, как проволока, задачей по физике. Профессор д-р Лех Манкевич из Центра теоретической физики Польской академии наук и посол Khan Academy в Польше описал на своей "стене" 16 января (и подтвердил скриншотом разговора с ботом), как он пытался получить ответ на заданный на английском языке вопрос о средней скорости автомобиля, движущегося из города А в город Б с разницей в 100 км. Автомобиль двигался со скоростью 40 километров в час в первой половине и 60 км/ч во второй половине. Бот решил задачу так, как будто речь шла о первой половине времени вождения, хотя время не было указано, но ладно. Затем профессор уточнил вопрос, сказав, что речь шла о половине маршрута, а не о времени вождения, но это не помогло. Он по-прежнему читается точно так же, а именно: (40+60)/2=50. Что вряд ли может быть правильным, только это отнюдь не решение ЭТОЙ конкретной задачи.

Подписывайтесь на наш фейсбук Интересно, и даже более поучительно в работе с этой машиной, что один из гостей "стены" профессора задал чатботу тот же вопрос по физике во время дискуссии, только на польском языке. И здесь ответ был как нельзя более уместен. Что это говорит нам о распространенности неправильных решений задач по ньютоновской механике в англоязычном интернете, я точно не знаю, но у меня есть ощущение, что ничего хорошего. Никто не проверил испанскую, французскую или любую другую версию в рамках продолжающегося обмена мнениями между физиками и так называемыми знакомыми неспециалистами, но давайте согласимся, что - как выразился профессор Манкевич - "у меня больше нет вопросов". Здесь, после бота, по сути, "убрано".

Деревня как река, или интеллект из пластика

Учителя по всему миру громко сетуют на то, что ученики начали скачивать решения домашних заданий из чат-бота. Что ж, в контексте вышеупомянутой истории вполне может оказаться, что ученики заработают себе неудовлетворительную оценку не только за скачивание, но прежде всего за ошибки при скачивании. Поляков должна уберечь от соблазна печальная история "Емельку воробья" (Серия рифмованных книг о приключениях птиц: "Про воробья Емельку" Анны Лохоцкой), который на уроке скопировал букву В, у которой было три живота. Стоит освежить в памяти этот стишок, и от удодов, даже если он назван умно и современно, не скачивать.

Еще смешнее - о чем сообщается в тех же социальных сетях - история контакта с ChatGPT Януша Кухарчика, доктора философии и преподавателя предмета, переводчика с древних языков. Будучи большим патриотом родной Силезии, он расспрашивал ChatGPT о своей родной деревне Творог-Малы. Машина сначала написала в ответ, что это река в Судетской области, и указала конкретные деревни, через которые она якобы протекает, что еще больше усугубило абсурдность ситуации. Полная географическая фантастика! Тогда дознаватель указал ей на то, что такой реки нет, есть только деревня. Бот признал, что ошибся, и что это была деревня в Бендзинском районе. Когда ему снова "разъяснили", что это не так, что это деревня в Гливицком районе, он признал это и добавил, что там нет реки. Опять ошибка. Поэтому, когда ему наконец сообщили, что да, река есть и называется она Беравка, он добавил, что в ней много рыбаков и жители берут из нее воду.

Конечно! С ведрами на носителях, как в фильме "Над Неманом". Как человек с философским и сатирическим уклоном, доктор Кухарчик остроумно заметил в своем сообщении, что этот интеллект искусственный, потому что он сделан из пластика. И, что еще важнее, что это соцветие нашего постмодернизма "вместо того, чтобы писать, что оно не знает, оно тускнеет и собирает данные со своего искусственно интеллектуального дна". К делу! Мне кажется, это ключевой момент, и здесь я могу сказать, что на ChatGPT достигнуто абсолютное СОВЕРШЕНСТВО с большой буквы.
ChatGPT был запрещен в школах Нью-Йорка в январе 2023 года. Фото: CFOTO/Future Publishing via Getty Images
Он знает, как лгать и как обманывать, как многие из нас учили в школе. Поскольку маленькие дети правдивы, они начинают лгать, когда мы учим их этому и начинаем навязывать им это в открытую. Ну, ChatGPT в совершенстве овладел пародией на среднего невежду с умными претензиями. Баю, баюшки-баю и все возможные повествования, потому что все равно никто вас не проверит. Что напоминает мне сцену из одного из культовых фильмов начала нашей политической трансформации, где группа выпускников школы в Щецине занимается контрабандой королевского духа из Германии. Один учит другого: "Никогда ни в чем не признавайся [...], поймают тебя за руку, скажи, что это не твоя рука". Одним словом, хорошо обученный молодой волк. И за это следует поаплодировать создателям и поставщикам базы данных, которую будет перемалывать ChatGPT.

Вполне осознанно, поэтому и по-человечески, профессор Лех Манкевич предложил в другом посте: "Вместо того, чтобы генерировать ответы на вопросы экзамена по польскому языку и на аттестат зрелости, ChatGPT может генерировать тексты для анализа на этих экзаменах. У всех были бы равные условия, не было бы побрякушек, и, в конце концов, речь идет о понимании текста в более широком смысле. Не только информация, но и эмоции, культурные ориентиры и т.д. Чат создает свои тексты, смешивая различные известные ему источники, что также имеет свою экзаменационную привлекательность. И Центральный экзаменационный совет сможет наконец показать, что он понимает реальность". В любом случае, он не был бы собой, если бы, например, сразу не попросил сгенерировать такой текст в нескольких вариантах.

Завершая этот фельетон - в котором намеренно перепутано множество культурных ссылок и отступлений, что, уверяю вас, не требует сотрудничества с искусственным интеллектом, - я делаю один вывод: он (или, возможно, "это", "то"... как прикрыть его местоимением, пусть это будет заботой лингвистов, а не моей) - из народа, взят у народа и поставлен для народа. Он такой же, как и мы. Нам остается только ждать, когда он станет более ленивым в поиске данных, или начнет отпускать подколки, или, наконец, разозлится, что тысяча человек "достают" его каждую секунду. Или он сойдет с ума или станет жестоким - как бот Tay, который должен был стать милой разговорной программой для подростков, но понадобилось всего 24 часа, чтобы он научился невероятно плохому поведению в интернете и его пришлось отключить. Боссы стартапа, в который стремительно вкладываются миллиарды, уверяют меня, что скоро у их творения появится профессиональная версия, в сто раз мощнее...

– Магдалена Кавалец-Сегонд
-Перевод Александр Кравченко


TVP ЕЖЕНЕДЕЛЬНИК. Редакторы и авторы

Главное фото: Снимок экрана веб-сайта ChatGPT, отображаемого на мобильных устройствах, с логотипом OpenAI, стартапа, создавшего бота. Январь 2023 года. Фото: Jonathan Raa/NurPhoto via Getty Images
узнать больше
Диалоги wydanie 22.12.2023 – 29.12.2023
Японцы празднуют канун Рождества, как День святого Валентина
Они хорошо знают и любят одну польскую колядку: «Баю-бай Иисусик».
Диалоги wydanie 8.12.2023 – 15.12.2023
Половина мира называет матерей, отцов и цифры похоже звучащими...
Был ли у всех нас один праязык, как и один прародитель - Адам?
Цивилизация wydanie 1.12.2023 – 8.12.2023
Путин побеждает в Украине?
2023 год завершается балансом территориальных потерь для Украины: россияне приобрели больше, чем потеряли.
Культура wydanie 24.11.2023 – 1.12.2023
Великий маленький человек
Он способствовал распространению националистических идей в Германии и Италии.
Цивилизация wydanie 17.11.2023 – 24.11.2023
Германия беспомощна перед лицом мигрантов
Проблема нарастала в течение многих лет, но была запретной темой для СМИ и политического класса.