Ботфест

Мы живём в мире ботов. В общем и целом, эти наборы алгоритмов отвечают за очень многое в «тылу» Интернета, от обеспечения возможности поиска в Google до заполнения вашей папки для спама . Однако более активную роль в нашей повседневной жизни играет совсем новый вид ботов, способный взаимодействовать с людьми и действовать от их имени.

Боты оценивают техническое здоровье Интернета, распространяют информацию о природных катастрофах, прогнозируют вспышки заболеваний , выполняют наши обеденные запросы , а также рассылают новостные статьи по сетям людям на платформах вроде Twitterи Slack. Они могут даже писать некоторые из этих статей .

Также они являются неотъемлемой частью пропагандистских кампаний в соцсетях , распределённых атак типа «отказ в обслуживании» ( DDoS) и манипулирования фондовым рынком . Боты продемонстрировали способность принуждать людей к выполнению мелких задач , а в качестве способа помощи пилотам дронов в стрельбе по целям для снижения «морального вреда» был предложен «похожий на Сири» ассистент.

«Социальные боты » на социальных платформах вроде Twitterвзаимодействуют с пользователями-людьми, распространяя мэшапы в стиле магического реализма , отстаивая политическую прозрачность и тиражируя новости о слежке или критикуемой правовой политике . По сути, многие боты созданы для того, чтобы выдавать себя за людей. Проекты вроде BotOrNot, программного обеспечения, целью которого является определение того, управляется учётная запись в Twitterчеловеком или кодом, указывают на то, каких успехов программисты добились в создании человекоподобных ботов. Между тем, многие боты больше похожи на бесплотных киборгов (частично автоматы, частично люди), успешно выдающих себя за людей перед транснациональными корпорациями , широкой общественностью и даже социальными сетями.

Однако боты вроде @oliviataters,@nice_tips_bot и @twoheadlines привлекают к себе внимание, поскольку при ближайшем рассмотрении они оказываются неубедительными в роли людей; сама по себе их «ботовость» забавна, фантастична или поэтична. Как указывают исследования , в политическом онлайн-активизме боты также могут эффективнее всего работать над мотивацией к деятельности тогда, когда не пытаются казаться людьми. В рамках одного исследования в Боливии учёные обнаружили, что, когда однозначно не являющиеся людьми боты на Twitterменяли тон на более человеческий, потенциальные волонтёры реагировали отрицательно.

Ещё со времён ELIZA, которая часто считается первым чатботом, боты обладают одной отличительной чертой: они полуавтономны; они демонстрируют поведение, которое отчасти является функцией встроенных в них программистом намерений, а отчасти – функцией алгоритмов и способностей к машинному обучению, реагирующих на огромное количество импульсов. Если представлять себе боты как полуавтоматических действующих лиц, то их создание превращается в вызов. Также это делает их необычными в этическом плане. В процессе обсуждения как конструкции, так и функциональности ботов необходимо рассматривать вопросы обмана и ответственности.

Чтобы лучше разобраться с вопросами, которые поднимают боты, Сэм Вулли, исследователь из Института данных и общества, организовал семинар, собравший разнообразную группу экспертов по ботам. Эта статья является итогом события, обзором бота как явления и его полуавтономности с трёх точек зрения: с точки зрения проектировщика, с точки зрения разработчика и с точки зрения регулятора. С каждой из них бот представляет уникальные вызовы, которые ещё предстоит рассмотреть в полном объёме любому человеку.

Проектировщик: техно-человечность и скромные системы

Наши ожидания от ботов могут различаться в зависимости от контекста. Иногда мы хотим, чтобы боты напоминали нам о собственной человечности, и поэтому проектируем их так, чтобы они говорили то, что позволит нам над ними посмеяться. Мы наслаждаемся возможностью объективировать ботов, так как они пытаются быть людьми и терпят неудачи.

Скорее всего, мы не виним бота в его плохой социализации. Мы виним стоящего за ней человека.

В то же время, мы хотим, чтобы боты понимали нас, работали на нас; в этом случае провал не забавляет, а раздражает. Подумайте, что может случиться при звонке на автоматическую интерактивную горячую линию обслуживания клиентов. Мы быстро начнём кричать: «Агент!», «Оператор!», «Человек!» Всё больше раздражаясь из-за неспособности автоматической системы понять нас, мы начинаем сердиться. А затем мы можем спроецировать эту сердитость на человека, который, в конце концов, возьмёт трубку. В обоих случаях та человечность, которой мы хотим от своих ботов, является производной приличного общества. Скорее всего, мы не виним бота в его плохой социализации. Мы виним стоящего за ней человека.

Однако это осуждение может быть страшно неуместным. Не всегда бывает так, что создавший бота человек желает, чтобы всё шло плохо. Хотя мы и хотим сохранить человеческую ответственность за выбор в проектировании, нам также нужно иметь в виду, что некоторые боты программируются именно для того, чтобы выполнять действия, не зависящие от их создателей и даже не входящие в их ожидания.

Взять хотя бы бота Random Darknet Shopper, который был запрограммирован на то, чтобы тратить по 100 долларов в биткойнах в неделю, осуществляя случайные покупки на чёрном онлайн-рынке Agora. В какой-то момент бот купил наркотики. Впоследствии ноутбук, на котором была запущена программа, управлявшая ботом, был конфискован швейцарской полицией вместе с купленными ботом таблетками МДМА.

Как объяснила !MediengruppeBitnik, швейцарская группа, создавшая бота, обвинения были сняты, так как прокурор решил, что «перевешивающий интерес вопросов, которые поднимает произведение искусства « RandomDarknetShopper», оправдывают демонстрацию наркотиков как артефактов, хотя демонстрация и в самом деле несёт в себе незначительный риск угрозы безопасности третьих сторон в связи с демонстрируемыми наркотиками».

Хотя художники и работали для того, чтобы бросить вызов самой идее виновности в Интернете, функционирования анонимности, этики и коммерции в самых тёмных глубинах сети, они заявили, что берут на себя ответственность за действия бота. Однако швейцарская конституция усложняет их готовность принять возможное наказание, поскольку она утверждает, что искусство, ориентированное на общественный интерес, легально .

Работа и юридическая реакция на неё поднимают важнейшие вопросы. На ком лежит ответственность за результаты работы и действия ботов, как этическая, так и юридическая? Каким образом полуавтономность создаёт этические ограничения для создателя бота? Аналогичные вопросы были подняты в прошлом году, после того, как полуслучайный текстовый бот, принадлежавший жителю Амстердама, выложил угрозу смерти на Twitter. «Разумеется, так как у меня нет никаких правовых знаний, я не знаю, кто несет ответственность или должен её нести (если вообще должен), но сейчас я как бы напуган», – твитнул программист, создавший бота. Владелец бота удалил его.

Для тех из нас, кто создаёт боты и выпускает их в свет, крайне важно делать это продуманно. Явное рассмотрение и выражение ценностей, лежащих в основе наших творений, должно являться нашей обязанностью. Наличие пространства и допуска в связи с неупорядоченностью или новшествами не следует приравнивать к выпуску в свет всего подряд без разбора.

Разработчик: автоматизация четвёртого сословия

За пределами сферы искусства эти вопросы возникли среди людей, использующих боты для демонстрации активной гражданской позиции. Боты могут быть полезны в освещении систем ценностей, раскрытии запутанной информации, а также усилении видимости маргинализированных тем или сообществ. Такие учётные записи в Twitter, как @congressedits, @scotus_servo и @stopandfrisk, пользуются повторной контекстуализацией, чтобы выделять информацию так, как это долгое время делали журналистские организации .

Бот можно считать чем-то большим, чем помощником: он может быть неким гражданским протезом , инструментом, усиливающим нашу способность воспринимать других людей и системы. Боты не заменят собой журналистов, но они могут повысить их производительность, автоматизировав задачи, которые в противном случае приходилось бы выполнять вручную. Бот может до бесконечности продолжать отправлять сообщения на определённую тему или раскрывать связи или тенденции, на обнаружение которых человеку понадобилось бы много часов. Благодаря этим бесчисленным возможностям боты могут стать мощными инструментами для граждан, которые можно использовать, требуя ответственности от власть имущих.

Вопросы проектирования, собственности и доверия обладают особой значимостью для журналистских ботов, поскольку журналистика – это дисциплина проверки . Журналисты стремятся к правде и точности в письменной форме, а также стремятся избегать злословия и клеветы. Бот, в конце концов, напортачит, если его снабдить неточной информацией, и бот мог бы сделать клеветническое заявление. Если вы создаёте бота, готовы ли вы иметь дело с отрицательным «выхлопом», когда ваш инструмент совершит то, чего вы бы не совершили сами ? Как остановить распространение ложной информации, опубликованной ботом? Автоматизация и «крупные» данные, разумеется, дают простор для инновационных приёмов представления информации, но они также подчёркивают необходимость обновления журналистской этики.

Регулятор: боты, политики и политика

Учитывая возрастающую политическую и социальную роль ботов (а также любую принимаемую их создателями на себя ответственность), их действия, явно или неявно, дают политические результаты. В последние несколько лет участилось использование ботов для распространения политической пропаганды, бойкотов и расширения списков подписчиков в социальных сетях у общественных деятелей. Активисты могут пользоваться ботами для мобилизации людей в связи с социальными и политическими проблемами . Люди, работающие на целый ряд групп и идеологий, пользуются ботами для ввода автоматизированной речи на такие платформы, как Twitterи Reddit. За последние несколько лет в Мексике ботами, чтобы повлиять на общественное мнение, пользовались как государственные служащие, так и оппозиционные активисты. Где провести черту между пропагандой, связями с общественностью и «умной» связью?

Платформы, правительства и граждане должны вмешаться и подумать над целью и будущим технологии ботов до того, как манипулирующая анонимность станет отличительной чертой социального бота.

В настоящее время надзор за ботами ложится на плечи платформ, однако даже такие компании, как Twitterи Facebook, не могут выловить всех ботов, да и не желают этого делать. Подходящий для ботов дизайн и подход Twitterразительно отличается от более строгого регулирования подлинности и автоматизации на Facebook; первый даёт возможность для существования процветающей экологии ботов, но также оставляет пространство для использования автоматизации в более низких целях. Боты, запрограммированные с политическими намерениями и предназначенные для атак на других пользователей, угрожают другим правам, тем, которые приводятся в исполнение другими организациями. Проблемы автоматического насилия,принужденияиобмана(наряду с анонимностью, предоставляемой прокси для ботов) должны быть решены при сохранении творческого начала и неупорядоченности, столь важных для программирования.

Массовое уничтожение ботов в социальных сетях, в конце концов, также изжило бы ботов, выполняющих важную работу в журналистике, и застав ило бы замолчать тот вид ботов, который ценится за комичность и «ботовость». Затем вопрос о том, как создать администрируемую политику, становится важнейшим для платформ, желающих воспользоваться возможностями, которые предоставляют боты, не пав жертвами угроз, которые они в себе несут.

Один из подходов к созданию связанных с ботами политик подразумевает размышления о создании правил, которые ограничили бы те линии поведения, которые мы не хотели бы наблюдать. К примеру, как создать политику, убеждающую людей не участвовать в несправедливых политических атаках? Здесь в качестве полезных начальных точек для всевозможных регуляторов появляются две основные ценности – тайна принятия решений и демократический дискурс.

Тайна принятия решений – это, согласно Биту Росслеру, прежде всего «принятие самостоятельных решений и действий в соответствии с этими решениями, свободные от государственного или иного нежелательного вмешательства». Применительно к ботам это значит, что мы не хотим, чтобы боты вмешивались в важнейшие решения в жизни людей. Мы не хотим, чтобы эти автоматические действующие лица оказывали ненадлежащее влияние на то, за кого люди голосуют, или на то, какую медицинскую помощь они получают.

Это не является полным решением вызова, представляемого ботами. Подход сильно усложняется, если подумать о возможностях ботов как «лежачих полицейских» – агентов, способных создавать общественно полезные изменения в поведении. Боты могут являться эффективными инструментами направления людей в сторону более здорового образа жизни или распространения информации о природных катастрофах. Как политика может допускать возможность существования «хороших» с гражданской точки зрения ботов, в то же время останавливая тех, которые подавляют или манипулируют?

Между тем, среда, культивирующая разнообразие голосов, укрепляет здоровый демократический дискурс. Ботов можно рассматривать и как речевые акты, и как марионетки. В сохранении их как актов заинтересована Первая поправка. Что до ботов как «действующих лиц», то чрезвычайно важно рассмотреть, каким образом боты связаны с правами личностей, усиливают они их голоса или могут заглушить чужую речь или навредить ей.

Принятие полуавтономности

В настоящее время восхищение ботами ощущается от Кремниевой долины до научных кругов . Это отчасти связано с тем, что творческое, политическое, юридическое и этическое будущее данной технологии столь открыто. Полуавтономность, двойственная человеческо-компьютерная природа ботов, даёт пищу для всевозможного революционного производства и реакции. Однако нам следует учитывать, что эта технология будет эволюционировать и дальше и станет более сложной. Ккакимитогамприведётэтаэволюция?

Лучший способ представить себе сценарии потенциального будущего для социальной автоматики заключается в принятии парадоксальной природы ботов. Да, они содержат ценности, запрограммированные создающими их людьми, но они также живут (и работают) в непредсказуемом Интернете практически не ограниченного ввода и вывода. Это не значит, что ответственности не существует. Это значит, что она – сложный вопрос, и её следует рассматривать именно так. Автоматика и анонимность, скрытые в глубинах сети, туманные понятия о явной вине. Случаи вроде случая с DarknetShopperподчёркивают этот момент, раскрывая рассредоточенность и непредсказуемость суррогатного кода.

Платформы, правительства и граждане должны вмешаться и подумать над целью и будущим технологии ботов до того, как манипулирующая анонимность станет отличительной чертой социального бота. Размышление о ботах также должно работать во избежание политик или точек зрения, попросту отправляющих все боты в чёрный список. Эти автоматы можно использовать со множеством положительных последствий, от выполнения функции социальных подмостков до расширения границ искусства . Мы надеемся спровоцировать обсуждение проектирования, разработки и регулирования ботов с целью сохранения этих (и других, пока ещё невообразимых) возможностей.

Принимая неупорядоченность, те, кто создают ботов, пользуются ими и взаимодействуют с ними, открываются для автоматического творчества, новшеств и непредсказуемости, которые обладают столь огромным значением для сети. Эта изобретательность будет и дальше распространяться на сферы журналистики, активистских и протестных эпицентров демократии и блага общества. Этот подход оставляет пространство для продуманного регулирования, для правил, позволяющих ботам быть такими же неупорядоченными, как и их создатели, поддерживать разнообразие и предотвращать нарушения равновесия сил.