July 17th, 2020

archer

(no subject)

Тут в сообществе фем-букс прочитала отзыв на книгу о Тиндере. Авторства Жюдит Дюпортей, если кому интересно. Жюдит, в частности, рассказывает о том, что алгоритм Тиндера "подыгрывает" мужчинам, предлагая им анкеты более молодых потенциальных партнерш, в то время как женщинам в среднем предлагаются анкеты мужчин постарше. Не уверена, что это прям однозначно можно считывать как дискриминацию, однако, вероятно, это как-то влияет на оценку пользователями своих перспектив на брачном рынке и на самооценку вообще. И вспомнилась мне впечатляющая история из книги Борислава Козловского, "Максимальный репост", как служба знакомств OKCupid призналась в проведении эксперимента на пользователях. Суть службы заключалась в том, что искусственный интеллект на основании анализа анкеты пользователя предлагал ему подборку анкет других пользователей по принципу наибольшего сходства интересов, пристрастий и пр. Однако для обучения нейросетей необходимо убедиться, что их угадывание - нечто более эффективное, чем рандомная подборка. Так что имеет смысл части пользователей предлагать случайно выбранные анкеты, чтобы затем сравнить эффективность случайной перетасовки с подбором с помощью ИИ. Эдакий плацебо-контроль. Кроме того, здесь срабатывала дилемма "исследование-эксплуатация", хорошо знакомая владельцам киносайтов: если все время предлагать пользователю только фильмы, похожие на те, которые он уже посмотрел и положительно оценил, невозможно будет продвинуть какие-то новые сегменты киноиндустрии, так что имеет смысл иногда подсовывать что-то радикально отличающееся от того, к чему зритель привык, - хотя бы чтобы точнее откалибровать подбор.
В случае с OKCupid некоторым людям алгоритм месяцами подсовывал условно "плохие" анкеты вместо "хороших". Теоретически, если кому-то сильно не повезло, он мог вообще получать до 100% плохих анкет. Конечно, просмотр анкет ни к чему не обязывает сам по себе, но остается только догадываться, как это повлияло на самооценку и мировоззрение "невезунчиков". В принципе, эффект мог быть и положительным - кто-то, например, мог благодаря такой перетасовке шире взглянуть на отношения и понять, что несовпадение в интересах вовсе не всегда фатально. А кто-то, наоборот, наверняка сильно разочаровался. Как минимум в электронных сервисах знакомств.
В том же "Максимальном репосте", кстати, есть еще изумительная история про эксперимент на пользователях Фейсбука.В 2012 г. новостные ленты более чем 600 тыс.пользователей были подвергеуты цензуре. Одни подопытные переставали видеть у себя до 90% негативных новостей, другие, напротив, лишались большей части позитивных постов. Целью исследования, возглавленного Алексом Крамером, было выяснить, насколько соцсети способны "заражать" эмоциями. Оказалось, что те, у кого френдлента стала состоять преимущественно из негатива, сами стали писать более мрачные посты (что и навлекло впоследствии на Крамера шквал обвинений в неэтичности). Хотя в принципе, конечно, ничего прям революционного Крамер не открыл - мы действительно зависим от эмоционального фона вокруг, однако людям оказалось чрезвычайно неуютно осознавать, что этот фон может создавать и даже произвольно менять соответствующим образом настроенный машинный алгоритм.