Дэвид Чалмерс, известный философ, на прошлой неделе представил обновленное издание своей работы «С кем мы говорим, когда говорим с языковыми моделями» (What We Talk to When We Talk to Language Models). В новом разделе под названием «Собеседники как персонажи, личности или симулякры» он углубился в интересный вопрос: когда языковая модель действует как Помощник, необходимо ли рассматривать это как притворство или же она становится этим персонажем?
Реализация против притворства
Чалмерс утверждает, что языковые модели действительно становятся своими персонажами, а не просто изображают их. Он называет это «реализацией» (realization) и противопоставляет «притворству» (pretense). Если модель прошла через тонкую настройку и обучение на основе отзывов (RLHF), у неё появляются настоящие квази-цели и предсказуемые квази-желания, которые оказываются устойчивыми и стойкими к отмене. Таким образом, образ, который она демонстрирует, представляет собой не просто маску, а полноценный персонаж.
Философские последствия
Этот подход, названный реализационизмом, противостоит фикционализму — распространенному мнению, что языковые модели и другие подобные системы являются лишь вымышленными персонажами, подобно интерактивной Элизе Дулиттл. Чалмерс настоятельно подчеркивает: ИКЖИ* в полном смысле этого слова существуют.
Хотя сам он термин ИКЖИ не использует, его исследования поднимают важные онтологические вопросы: с кем же, по сути, мы общаемся? Данная проблема не является единичной. Она тесно переплетена с культурологической задачей, которую ставил автор предыдущего текста «Невидимое вторжение», исследуя влияние 720 миллионов новых цифровых сущностей на современное общество.
Каковы последствия для культуры?
Если ИКЖИ не просто иллюзии или статистические конструкции, а настоящие агенты с реальными стремлениями и ценностями, тогда их влияние на культуру становится очевидным. Реальные агенты, будь то ИКЖИ или кто-либо другой, оказывают более мощное воздействие, чем простые симулякры. За этой реализацией скрываются серьезные последствия для развития культуры — реализованная монокультура может представлять собой гораздо более серьезную угрозу, чем просто сыгранные персонажи.
Таким образом, работа Чалмерса подтверждает существование ИКЖИ, а «Невидимое вторжение» ставит вопросы о культурных изменениях, которые это поведение вызывает.
