Доцент исследований данных Таллиннского технического университета Ану Массо считает, что, интегрируя свое решение в новой стране, разработчик должен учитывать ценности местных жителей.

"Какое решение отстаивается в той или иной стране, зависит от традиций и от того, какие вопросы больше обсуждаются в обществе", — говорит Массо. Так, в Эстонии люди доверяют решениям на основе мобильных данных, в Швеции — подкожным чипам, а в Германии в целом более осторожно относятся к новым цифровым разработкам.

В своей недавней статье Массо и ее соавторы изучили, насколько связанные с искусственным интеллектом (ИИ) ценности различаются в разных культурах и сферах применения. Для этого исследователи подготовили опросник, на который ответили жители Эстонии, Швеции и Германии. Группу также интересовало, совпадают ли мнения разработчиков и пользователей относительно этичности решений ИИ. "Выяснилось, что для жителей Эстонии это особенно важно, причем во всех возрастных группах", — отмечает Массо.

Кого представляет алгоритм?

По словам Ану Массо, вдохновением для проведения исследования послужила предыдущая работа, которая касалась алгоритма переселения беженцев, разработанного США и Швейцарией. "Его принцип был довольно прост: использовался алгоритм сопоставления. Подобный мы встречаем в повседневной жизни, даже в обычных приложениях для знакомств", — описывает Массо.

Алгоритм расселения должен был сопоставить беженцев и регионы по уровню образования и другим характеристикам, чтобы повысить вероятность того, что людям удастся найти работу. По словам Массо, решение оказалось эффективным с точки зрения разработчиков, поскольку вероятность трудоустройства выросла на 50—70 процентов. "В то же время мы увидели, что если игнорировать мнение самих беженцев, их могут расселить в районы, где они образуют плотные сообщества и сегрегированные городские пространства", — говорит она.

В другой более ранней работе исследовалось приложение Ubenwa, которое анализирует плач новорожденных. Его разработали в Канаде на основе данных о мексиканских младенцах и протестировали в Нигерии. "Цель Ubenwa — выявить на основе данных о плаче аномалии и определить наличие некоторых заболеваний, например, асфиксию при рождении", — объясняет Массо.

В этой работе ученые собрали мнения разработчиков и медицинских работников, а также родителей. "Если эксперты ценили прозрачность, конфиденциальность и защиту данных, то те, на кого были нацелены решения, скорее подчеркивали культурные аспекты", — вспоминает доцент. Например, родителей интересовало, в какой степени данные приложения отражают их взгляды на питание или воспитание детей.

При составлении нового опросника Массо и ее коллеги учли предыдущие работы. В результате они собрали 15 ценностей и принципов, на которые опираются сами разработчики. "Нас интересовало, как граждане, на которых нацелены решения, понимают эти принципы. С какими ценностями могут возникнуть неясности или разногласия? Какие точки зрения совпадают?"

Эстонцы — цифровые оптимисты, немцы осторожны

По мнению Ану Массо, ценности пользователей следует понимать, потому что внедрять решения в других странах и совершенно иных сферах экономически выгодно. Результаты опроса, который провели в Эстонии, Швеции и Германии, показали, что в целом люди разделяют мнения разработчиков о том, что является важным.

Однако были статистически значимые различия между группами и областями. "Мы обнаружили, что шесть ценностей оказались наиболее важными: например, безопасность, конфиденциальность, равенство, справедливость и прозрачность", — перечисляет доцент. Она предполагает, что эти ценности больше обсуждались в публичных дебатах во всех странах.

"Такие ценности, как солидарность, разнообразие, но, что интересно, и эффективность, о которой много говорилось, особенно со стороны разработчиков, ценились меньше", — отмечает Массо. Наименее ценным респонденты посчитали то, что реализующий решение контролирует, как оно повлияет на поведение общества. "В некоторых странах такие решения таят в себе опасность того, что людей будут контролировать", — объясняет доцент.

Если смотреть по странам, то выяснилось, что выше всего изучаемые принципы ценили жители Эстонии. "Эстонцам свойственен определенный технологический оптимизм. Это понятно, поскольку здесь цифровые темы очень тесно переплетены с повседневной жизнью и используются для внешнего брендинга нации и страны", — объясняет Массо.

Жители Германии оценили значимость принципов ниже. Доцент видит здесь влияние исторического фона: в этой стране безопасность использования данных о переписи населения в государственных ведомствах обсуждается уже почти целое столетие. В Эстонии эти дискуссии начались сравнительно недавно. "В Германии осведомленность людей о возможных рисках выше. Это также выражается в осторожности в отношении решений на основе искусственного интеллекта", — отмечает Массо. Для сравнения, шведские респонденты занимают средние позиции.

Ану Массо и ее коллеги пишут о своей работе в журнале AI & Society.