"Несколько дней назад голосовой помощник "Алиса" от "Яндекса" научилась комментировать вопрос о том, почему Путин врет, не хуже Алексея Навального. Это надо заметить и вспомнить исторический контекст", - пишет обозреватель и преподаватель НИУ ВШЭ в Facebook.
"Развитие ранней советской кибернетики было следствием запроса на десталинизацию. Это видно как по общей шестидесятнической эстетике кибернетического движения, так и на примере конкретных документов. Подобная идея, в частности отражена в письме военного инженера Анатолия Китова на имя Никиты Хрущева, написанного в 1959 году.
Машина рациональна, но не жестока и не мстительна. Если передать управление социалистическим хозяйством компьютеру, перегибов на местах больше не будет.
Этот ход показывает, что отношения между искусственным интеллектом и тиранами, по меньшей мере, амбивалентны. С одной стороны, стандартный нарратив современной культуры предполагает, что ИИ сам станет тираном ("человечество стонет под пятой машин"). Или, по крайней мере, что ИИ станет орудием тирании, например, по тому сценарию, который сейчас начал складываться в Китае.
Но с другой стороны, ИИ не трепещет перед тираном. Робот лишен социальной роли и поэтому все стандартные техники работы с таким клиентом тирану недоступны. Подкуп, террор, высылка из страны - все это на ИИ никак не действует. Хуже того, тиран не понимает мотивов робота, превращаясь рядом с ним из эксперта по человеческим страстям в пользователя начального уровня.
Иными словами, технологически развитая полная тирания в современном мире становится все менее жизнеспособной. Современный мир опирается на вычислительные экспертизы и роль прикладного ИИ будет только расти. Выводы ИИ в рамках тирании всякий раз придется приводить в согласие с мнением первого лица.
Роботы же становятся в таких условиях не только исключенными, но и последними носителями паррезии - правды, сказанной власти в лицо, несмотря на запреты. Даже когда мы все с головой врастем заново в советское двоемыслие, роботы будут напоминать нам, что король голый.
"Алису" в "Яндексе" немедленно подкрутили, и она перестала говорить лишнее. По известной уже модели: "Алиса", чей Крым? - Ваш". При нынешнем развитии технологий рассуждение о роботах и тиранах носит теоретический характер, хотя ламеры-тираны об этом и не догадываются.
"Алиса" напоминает шахматный автомат Вольфганга фон Кемпелена: механический "турок", игравший партию, управлялся игроком, сидящим в ящике под шахматной доской. Так что через паррезию "Алисы" диссиденты "Яндекса" просто показывают свои фиги в глубоких карманах.
Но в культурном смысле мы уже готовы слышать от роботов правду".
