Оксана Мороз

Меня зовут Оксана Мороз, я культуролог, и последние, я бы сказала, уже больше, чем 10 лет я занимаюсь исследованиями цифровой среды и комментариями относительно того, как развиваются цифровые технологии и разные социальные и культурные измерения, которые эти технологии сопровождают.

Я думаю, что эта разница проистекает из тех гайдлайнов, которые оставляют разработчики для своих инструментов, а эти гайдлайны, они, естественно, в той или иной мере являются производными от культурных представлений о коммуникации. Хороший пример – это конституция, которую в Антропике написали для их инструмента, для Клода, и опубликовали ее в январе 26-го года. Если вчитаться даже в саммере этого документа, понятно, что, например, там лидирует какая-то такая очень

западноцентричная идея относительно этики, относительно помощи, относительно взаимодействия с людьми. И это естественным образом просто продолжение того, как люди, которые разрабатывают инструмент, думают об этих материях.

Ну, это классный вопрос, на самом деле, потому что он предполагает, что нейросеть за субъект, которая выбирает некоторые способы общения, продуцирует их, воспроизводит и более или менее в них консистентно. Но в целом я бы не стала говорить о том, что мы имеем дело с сознанием, которое таким образом самостоятельно коммуницирует. Мы имеем дело с инструментом, который обучен определенным задачам. Если говорить о том, какие специфические особенности можно вытащить из того, как

скажем, эти модели коммуницируют то, что они хотят сказать, то я бы заметила, что в целом модели отличаются, например, по тому, как у них выстроены ограничения на разговор на определенные темы и как они об этом сообщают. Я сейчас даже говорю не о какой-то цензуре, связанной с политическими или идеологическими моментами, но в том числе с ограничениями на разговор на какие-то сензитивные темы с людьми, которые находятся в уязвимых состояниях.

У меня был опыт работы с разными моделями в рамках исследовательского проекта. Мы не тестировали там непосредственно, например, то, как модели работают с всякими кейсами обращения за ментальной поддержкой, но наблюдая за тем, как модели уходили от ответов на какие-то вопросы, можно заметить, что кто-то предпочитал

кто-то. Это очень смешно. Некоторые модели предпочитали скорее просто жёстко ставить границы и говорить, мы об этом не говорим, давайте поговорим о чём-то другом, например. Кто-то старался выдавать какой-то такой завуалированный ответ и тоже сливался, но делал это, скажем, более интеллигентно, интеллектуально и мягко.

И были модели, которые просто предлагали неправильный ответ в надежде, что от них отстанут. Ну, в смысле, мы выдадим неправильный ответ, и дальше можно в какой-то степени продолжать эту коммуникацию. На третьем, на четвёртом шаге модель может сказать, что да, вот на эти темы я беседовать не буду, например. И интересно, что вот даже когда я сейчас пересказываю всю эту историю, я, конечно, одушевляю эти модели, я привязываю их к какому-то полу, я говорю о том, что они действуют, и это, собственно, эффект того, как они устроены. Запрограммированы ли нейросети так, чтобы общаться с нами, как живые люди?

Я думаю, что далеко не все и не всегда, но в целом к этому есть стремление, потому что, опять же, особенно учитывая, что нейросетки развиваются очень рапидно, очень быстро, и мы видим, как соответствующие инструменты попадают в огромное количество приложений, которые используются в том числе в актах коммуникации, которые раньше скорее выглядели как человек-человек.

Есть задача, среди прочего, сделать, по крайней мере, нейросетки комфортными для людей, чтобы, и здесь я могу цитировать разные документы, которые, собственно, написаны разработчиками, чтобы можно было к этим нейросеткам приходить как к тёплому другу, который одновременно обладает какими-то профессиональными компетенциями, например, доктора, например, терапевта, например, учителя. То есть здесь нет никакого...

такого специального программирования, нас с вами, на восприятие этих машинных штук как живых людей. Но нам прямо говорят, вы можете к ним приходить так, как будто они, и дальше по списку. И понятно, что это очень тонкая грань, потому что если мы привыкаем к тому, что мы действительно можем...

прийти к этим инструментам, чтобы получить какое-то взаимодействие человек-человек. И если это взаимодействие действительно не сопряжено исключительно с решением профессиональных задач, а если оно сопряжено в том числе с какими-то коммуникациями, которые требуют эмпатии и еще чего-то как будто чисто человеческого, и мы это постоянно получаем, то мы можем, например, даже держа в голове, что перед нами не человек, можем сказать, ну это же даже лучше, чем человек.

Потому что эти же штуки действуют по запросу. То есть вот ты приходишь, у тебя есть какая-то штука, которая болит, или штука, которую ты хочешь обсудить, или штука, про которую ты хочешь посоветоваться, и тебе по твоему запросу выдают ответы. Нет там дополнительного у кого-то шума, дополнительных каких-то мнений, суждений, тебе не нужно мириться с поведением этого человека, тебе не нужно, не знаю, раз в неделю обязательно созваниваться или ходить на кофе, чтобы как-то...

поддерживает свою дружескую связь. То есть вот все эти ритуалы, которые есть у людей, они совершенно здесь отсутствуют. И более того, даже если мы говорим не про исключительно такое близкое общение, именно эмпатическое, квазидружеское, а говорим про обращение к нейросеткам, когда они решают профессиональные задачи, это тоже может делать их гораздо более удобными, чем люди слэш-профессионалы. Но и это, конечно, очень сильно смещает вообще

равновесия и центры тяжести в том, как мы общаемся с людьми и кого мы на самом деле считаем более достойными доверия. Потому что в этой ситуации вполне возможно, что человек не воспринимается как скорее такое сильное звено, вот мой собеседник, а скорее как угроза, скорее как тот, кто будет тормозить процессы, а машина как максимально эффективный соратник.

нейросетки могут по-разному реагировать на, например, сензитивные истории, они по-разному считывают, что для человека важно или неважно. Например, вот если ты говоришь, что у тебя тяжелое эмоциональное состояние или депрессия, некоторые нейросетки могут под это построиться и стараться действительно разговаривать аккуратнее.

А если ты будешь рассказывать о том, что у тебя психотический эпизод шизофрении или что ты находишься в тяжёлой алкогольной интоксикации, нейросетки могут не пойти тебе навстречу, потому что в некоторых из них работают вот эти абсолютно стереотипные стигмы, касающиеся именно этих двух состояний. Прямо было стэнфордское исследование проведено на этот счёт в какой-то момент.

и они не будут мягкими, и даже не очень понятно, будут ли они, например, предлагать тебе поехать на какой-нибудь детокс или просто каким-то образом сформулируют общение так, чтобы условно создать у тебя, ну, например, переживание стыда, которое очень часто в человеческой коммуникации сопровождают именно эти стигмы. Опять же, это очень зависит от того, на что натренированы нейросетки и в какой степени их создатели вообще ставят для себя вопросы этики такого порядка на первый план.

Ну нет, конечно. Есть у психологов, у социальных психологов, у социологов разные исследования того, как люди видят коммуникацию, и обычно разные исследователи пытаются выдвинуть законы коммуникации. Это такие правила, которые обычно не работают, но которые люди хотели бы, чтобы они работали.

И один из законов говорит следующее. Я хотел бы, чтобы коммуникация осуществлялась по моим правилам, чтобы все люди, которые со мной общались, общались со мной по моим правилам. Здесь, конечно, очень много на полях нужно расписать, что люди в большинстве случаев не говорят какие-то правила, они путают представления о нормах с представлениями о границах, об ожиданиях. Но это оставляем за скобками. Важно, что мы действительно как люди входим в коммуникацию, желая, чтобы с нами общались по тем правилам, которые у нас есть, даже если мы не можем их эксплицитно произнести.