Оксана Мороз

свою энергию, так назовём, в зависимости от того, как они используются. Если, возвращаясь на несколько шагов назад, люди используют нейросетку как молоток, ну да, они разучатся составлять биографические описания. Ну, это вот не самое страшное, что может случиться в этом мире.

Потеря в потере, да. Нет, ну вообще, конечно, это потеря, потому что это еще один язык, который человек использует. Но если это не является важнейшей частью твоей идентичности, то давайте так, для большинства людей не потеря. Если мы говорим про людей, которые используют нейросетки скорее как партнера или соратника,

то меня здесь немножко смущает вопрос того, насколько люди потом будут готовы работать с живыми соратниками, которые, прошу прощения, факапят, которые могут вообще исходить из собственных каких-то идей. Если мы говорим про...

Ситуация, когда нейросетки используются как компаньоны и как люди, которые забивают дыру одиночества или дыру поддержки или ещё чего-то, ну, мне кажется, что здесь мы теряем очень многое. И я бы даже сказала, что задумываться о том, что мы здесь что-то теряем, нужно на старте, то есть нужно сейчас, когда мы понимаем, что, например, решая задачу сложности доступа большого количества людей к той же терапии в силу того, сколько она стоит, например,

или в силу того, что там сложно добраться до конкретного терапевта, или нет устойчивого интернет-соединения, ну, бла-бла-бла. Какие-то, короче, вещи, которые мешают. И вместо этого, предлагая использовать AI терапевтических чат-ботов, мы, как будто закрывая очень важную задачу, очень важную необходимость, мы, тем не менее, уже лишаем людей чего-то. То есть мы лечим и калечим одновременно. Не то чтобы это удивительно, люди примерно так и живут всё это время. Лекарство – это яд, яд – это лекарство.

Но меня смущает сейчас в очень большой степени, что любые разговоры такого рода, ребят, есть какие-то издержки. Они очень часто маркируются и разработчиками, и их амбассадорами, как такой радикальный... Как элудизм? Пессимизм, да, элудизм, что вот вы тормозите, вот из-за вас. И это, конечно, не создает какую-то грамотную коммуникацию.

Но с ним работают, потому что с одной стороны... Это тоже парадокс. С одной стороны, нейросетка не должна давать подтверждение какому-нибудь опасному поведению или опасным стереотипам. Не должна валидировать такое. А с другой стороны, она служит, собственно говоря, человеку, с которым взаимодействует. В этом смысле довольно интересно, что...

Например, у тех же ребят из Антропика, когда они создавали свою конституцию, есть идея, что они прописывают свои нормы и этические принципы, и говорят, что есть такие широкие этические принципы, но следование широким этическим принципам не должно...

способствовать тому, чтобы Клод пропускал человеческое отслеживание того, что он делает. То есть широкие этические принципы не настолько важны, как человеческое сопровождение, в том числе разработчиков, того, что Клод делает. Что это означает? Это означает, что мы как будто бы, условно, скормили Клоду огромное количество представлений об этике, морали и нравственности, но мы понимаем, что это не автоматически означает, что он будет этичен морально и нравственно, потому что мы не знаем, что это такое.

Мы не знаем, что это такое. Поэтому мы все равно оставляем для себя лазейки, не лазейки, а специальные инструменты, которые позволяют нам немножечко подсматривать и видеть, что происходит, настраивать и со-настраивать через разные гайды, через разные рекомендации. И это хорошая история, потому что она предполагает, что человек все-таки не устраняется. Ну и это логично, потому что и инструменты, они же динамичные. То есть это не штука, которую ты однажды сделала, она стоит.

У меня есть замечательный коллега, который, когда злится, пишет в пассивно-агрессивном ключе, и он это знает за собой. И у него есть такая практика, что сначала пишет свое сообщение, потом просит, ну, по-моему, он работает с чатом GPT, пожалуйста, перепишите так, чтобы это не было пассивно-агрессивно. Иногда результат меня поражает, потому что результатом становится такая чистая агрессия. Было пассивно-агрессивно, а теперь прям все в лоб. Но, с другой стороны, зато это честно. Ну,

И с этим проще работать на самом деле, проще взаимодействовать. Конечно, с этим проще работать. Я не думаю, что люди теряют, я не знаю, активный словарный запас или теряют возможность складывать сложные конструкции, но я бы задумалась над тем, что мы перекладываем на инструмент задачу его подстройки под разные коммуникативные ситуации, и мы снимаем с себя эту ношу. То есть я не хочу извиняться...

Не хочу извиняться. Пусть за меня извинится машина. Я, конечно, отправлю это сообщение, и все будут думать, что это я. Но я-то буду думать, что это не я. Я буду знать, что это не я. А-а-а, такая игра. Ой, прикольно. Никогда не думал о том, что можно таким образом снять с себя ответственность.

Ну, частично. А, логично. Акт делания, это признание, по сути, очень серьезное. А тут ты его проскакиваешь. У лингвистов же есть такое понятие перформатив, когда фраза является действием. Клятва какая-нибудь. Или, кстати, что-то серьезное. Письмо извинения, оно и есть. Да. Но ты формально. Это читерство. Читерство чистой воды. Очень классно.

Я думаю, что пока нет, в том числе потому, что степень имплементации этих моделей в нашу повседневность не настолько высока, и степень авторитетности этих моделей как собеседников, которые обладают возможностью что-то внедрять, пока не очень серьезно. Но, опять же, ужас разговора про нейросетки в известной степени заключается в том, что там происходят очень быстрые изменения, и часть этих изменений мы просто не видим, потому что они пока лабораторно-экспериментальные.

Они выдаются чуть-чуть попозже, как готовые продукты. И есть движение семимильными шагами, за которым мы точно не успеваем. Сейчас, например, если ты задашь разным языковым моделям вопрос «прочерк – страшная сила»,

и попросишь вставить что-то туда, какие-то нейросетки справятся, какие-то нейросетки нет. И начнут подставлять там просто чудовищные какие-то вещи. Ну, в силу того, что они могут, значит, сгаллюцинировать, представить, что они могут где-то процитировать и так далее. Но это сейчас.

И мы сейчас, например, проверяем нейросетки как раз на владение культурным кодом по тому, насколько они качественно могут расшифровать, например, пословицы-поговорки, которые характерны для какой-нибудь языковой реальности, лингво-культурной реальности. Но это сейчас. Кто знает, через какое время, например, нейросетки будут источниками мемов, которыми начнут обмениваться люди и разговаривать люди. Мы уже понимаем, что это вообще теоретически возможно, потому что те же самые алгоритмы, которые индуцированы, и уже пишут картины. Люди их продают и покупают.

Поэтому будем посмотреть. Весь мир смотрит Голливуд и слушает хип-хоп. Все становятся более одинаковыми. Чат GPT – это еще один шаг в этом направлении? Часть мира смотрит Голливуд и слушает Тейлор Свифт. Чат GPT – это как раз один из тех инструментов, который создает вот эту возможность инклюзивного сосуществования, выравнивания и уравнивания, создания плато, где мы видим принятие

доступность коммуникации как важнейший инструмент. И мне кажется, что когда мы говорим про развитие ИИ, мы говорим скорее не про всеобщее уравнивание, в смысле все будут одинаковыми, а про создание условий, которые как раз задают вот такую коммуникацию. Ты заходишь в коммуникацию с этой машиной, ты имеешь право на высказывание. У тебя есть свои ожидания, свои нормы, свои чувства. С тобой разговаривают аргументативно.