Этика данных: время быть смелым, а не просто соблюдать закон

Jamie Barnard, Pedro Pina / Март 2021 г.

Джейми Барнард — главный консультант по глобальному маркетингу и медиа в компании Unilever, а также председатель Комитета по этике данных во Всемирной федерации рекламодателей (World Federation of Advertisers, WFA), где под его руководством вышел отчет «Этика данных: проявление морали в технологиях». Педро Пина, сотрудник Google и вице-президент Global Client & Agency Solutions, побеседовал с Джейми и узнал, о чем следует задуматься сегодняшним лидерам, когда речь заходит об этике данных в цифровом обществе.

Педро Пина, Google: Вы как-то раз сказали мне, что когда речь заходит о вопросах конфиденциальности в сети и нормирования работы с данными, брендам следует быть “смелее”, и что сейчас не время “осторожничать, повиноваться или выжидать”. Но именно так сейчас большинство людей относятся к этому вопросу — считают главным соблюдение Общего регламента защиты персональных данных (GDPR). Что вы об этом думаете? И как к этому следует относиться людям?

Джейми Барнард, Unilever: Компании-первопроходцы смотрят за пределы соблюдения законов, как бы жестко это ни звучало. Закон задает нижнюю планку, защищая фундаментальные права людей с одной стороны, а компании — от возможных правовых санкций с другой. Но с общественной точки зрения это не отвечает на все вопросы: если люди считают, что в компании обращаются с их данными неэтично, то демонстрация соблюдения законодательства не поможет сохранить ее репутацию. Поэтому брендам нужно разработать этический кодекс и следовать ему.

Люди доверяют некоторым компаниям только потому, что они идут впереди, подавая пример этичного и последовательного подхода. И иногда всё зависит именно от мелочей.

Приведу пример. Несколько лет назад я скачал приложение из сферы соцмедиа. Во время регистрации появилось меню, где у меня запросили доступ к моим контактам. Обычно это вызвало бы тревогу, но разработчики сразу дали пояснение: информация о моих контактах будет зашифрована и использована только для того, чтобы связывать меня с моими друзьями через приложение. После этого мои данные будут навсегда удалены. Это было всё, что я хотел услышать, и до сих пор не забыл, с каким уважением они относятся к защите персональных данных и насколько у них открытый и прозрачный подход к работе.

Когда вы демонстрируете приверженность этическим принципам, вы проявляете смелость, и к вам начинают испытывать доверие.

Когда вы демонстрируете приверженность этическим принципам, вы проявляете смелость, и вам начинают доверять

Пина: Защиту личных данных часто считают самой острой темой. Она важна, но при этом мало у кого есть свежие мысли на ее счет. Как вы мотивируете своих коллег и корпоративный мир в целом смотреть на этику данных как на фундаментальный фактор, меняющий всё?

Барнард: Свежие и оригинальные решения приходят тогда, когда ты разрешаешь напряженность между информационными инновациями и людьми, ожидающими, что их данные будут защищать. Хороший выход — когда ты идешь на пределе технических возможностей и при этом не жертвуешь своей приверженностью безопасности, защите данных и благополучию людей.

Когда ты хочешь оставаться на острие прогресса, сделать что-то, что не делал никто до тебя, и при этом не поступиться своими ценностями, ты ставишь планку высоко. Когда ты считаешь защиту данных фундаментальным правом, она становится по-настоящему благородной миссией.

Возьмем, к примеру, искусственный интеллект (ИИ). Компания может разработать систему ИИ с лучшими намерениями. Сначала всё может работать великолепно, но спустя полгода инженеры могут заметить, что система принимает решения с неожиданными последствиями. Обнаруживать и решать такие комплексные задачи бывает совсем не просто. Людям приходится постараться, чтобы найти способ заново выстроить систему так, чтобы она соблюдала этические принципы, и когда решить проблемуполучается, вы испытываете настоящее удовольствие.

Пина: Сейчас Google вместе с другими представителями отрасли работает над Privacy Sandbox, чтобы дать людям больше контроля над собственными данными. С какими препятствиями сталкиваются директора и руководители, которым нужно начать процесс изменений? Как им решать этические вопросы?

Барнард: Чтобы построить здоровую систему, нам нужно вмешиваться в решение этических дилемм до того, как они станут настоящими проблемами. При этом нужно помнить о трех вещах.

Во-первых, нужно признать, что существуют «слепые зоны». Когда вы не осознаете этические риски, вы что-то упускаете. Нам нужно научиться вовремя их замечать и сразу работать с ними.

К примеру, когда разработчик создает систему, оптимизирующую кликабельность (CTR), он может не заметить, когда решения алгоритма начнут сужать разнообразие результатов или необоснованно исключать людей. Если вы ищете подобные проблемы, вы можете вмешаться и скорректировать работу. Ответственность лежит не на одном человеке, всё начинается еще на стадии разработки. Менеджеру стоит обучать свои команды с самого начала, чтобы они внимательно относились к этическим рискам.

Для этого нужно сохранять перед глазами всю картину течения данных. Если часть этого потока неизвестна (чаще всего потому, что данные формируются или направляются за пределы вашей организации), определить риски и обеспечить соблюдение правовых норм бывает сложно.

Чтобы построить здоровую систему, нам нужно вмешиваться в решение этических дилемм до того, как они станут настоящими проблемами

Второе препятствие — это ответственность. Иногда отдельный программист или команда замечают этическую проблему, возникшую из-за устаревшей системы или процесса. В идеальном мире люди бы заявили о проблеме и решили ее. Но разумеется, разбираться с давно работающей системой может быть сложно, а люди часто не чувствуют себя обязанными решать проблему, которую не создавали сами. Поэтому здесь на первый план выходит коллективная ответственность и понимание того, что проблемы нужно решать сообща.

Третье препятствие — недостаток чувства психологической безопасности. Как бизнес-лидеры, мы хотим, чтобы люди открыто говорили, когда видят потенциальные этические проблемы. Но часто сотрудники, особенно молодые и испытывающие рабочий стресс в погоне за результатом, стесняются заявлять о проблемах, не желая усложнять работу или замедлять процессы — ведь это может выставить их в плохом свете. Лидерам нужно сделать так, чтобы эти люди могли безбоязненно указывать на проблемные вопросы и не опасаться последствий для себя, даже если им просто кажется, что что-то не совсем верно. Иначе проблемы остаются и со временем становятся более серьезными.

Пина: Ваш отчет WFA был первым в мире руководством по этике данных для брендов. Как вы пришли к его написанию, и как с тех пор изменилась ваша позиция?

Барнард: Отчет WFA — результат работы Комитета WFA по этике данных. Мы ответственные рекламодатели и стремимся создавать прозрачную среду, в которой участники доверяют друг другу. Проблема была (и остается) в том, что использование данных само по себе сложный процесс, а задача его «расшифровки» — на плечах потребителя. Уведомление об использовании личной информации — не самое дружелюбное к пользователю решение.

Комитет по этике данных предлагает использовать этический критерий в качестве «антидота». Если мы будем пользоваться им на уровне индустрии, мы вселим в людей уверенность и построим доверительные отношения.

Отчет WFA — способ сказать отрасли, что нам нужно прекратить говорить о защите данных как о факторе риска и начать говорить о ней и об этике данных как о шаге к здоровому цифровому обществу.

Нам нужно прекратить говорить о защите данных как о факторе риска и начать говорить о ней и об этике данных как о шаге к здоровому цифровому обществу

Я считаю, что лучшее следствие внедрения этики данных — эффект, который она оказывает на разнообразие и инклюзивность. Мы устраняем предвзятость, включаем исключенных и радуемся своему многообразию — именно для этого и появился цифровой мир.

Пина: Этот отчет изменил ваш подход к защите и этике данных в Unilever? Это стало темой, которую обсуждают на уровне совета директоров и основного руководства?

Барнард: Комитет WFA собрался весной 2019 года, и отчет отражает нашу общую позицию. Задачей было помочь брендам извлечь пользу из того, что мы узнали.

Если говорить об этике данных применительно к Unilever, то в центре внимания — лучшие практики в ИИ и машинном обучении. Но довольно скоро мы перешли к комплексному подходу, охватывающему всю этику данных.

Что касается нашего руководства, то мы практически «ворвались в открытую дверь». Сейчас мы начинаем применять этические принципы на практике. Это помогает работать с рисками и позволяет людям принимать умные и взвешенные решения быстрее. Я имел в виду именно это, когда говорил, что дело не в осторожности и соблюдении предписаний. Дело в том, что нужно всегда суметь чуть больше: быть смелее и прогрессивнее, при этом не жертвуя своими ценностями.

Здорово видеть, как этика данных постепенно захватывает умы стольких людей. Это дает мне надежду, что мы выстроим здоровое цифровое общество и позитивное будущее.

Дело не в осторожности и соблюдении предписаний. Дело в том, что нужно всегда суметь чуть больше: быть смелее и прогрессивнее, при этом не жертвуя своими ценностями.

Пина: Если попробовать выделить из отчета WFA одну главную мысль, что это за мысль?

Барнард: Скорее, две мысли, но они тесно связаны.

Во-первых, нам следует рассматривать этику так же, как мы рассматриваем спорт. В спорте свои уступки — нужно делать то, что правильно, даже если это требует жертв. Приверженность спортсменов открытости и честности в игре означает, что им приходится работать вдвое больше чем тем, кто избегает трудностей — зато их успех по-настоящему заслуженный.

Нам следует рассматривать этику так же, как мы рассматриваем спорт

Во-вторых, выстраивать доверие — это тоже командный спорт. Мы все несем ответственность за то, чтобы собирать и использовать данные безопасно, этично и прозрачно. Чтобы интегрировать этику данных в отрасли, нужно упорство, сотрудничество и ответственное участие со стороны рекламодателей, технологических платформ, издателей, разработчиков и торговых организаций. Если мы начнем работать вместе, то вместе сможем разделить победу.

Спроси исследователя: Что бихевиоризм может рассказать о пути к онлайн-покупке