Наверх

Опасность Big Data Analysis

Кэти О’Нил, автор бестселлера «Оружие математического уничтожения», видит большую опасность в использовании Big Data, т.к. алгоритмы могут сильно усугубить неравенство и несправедливость. 

Несколько важных идей книги. 

Алгоритмическая модель способствует возникновению токсичного цикла и помогает поддерживать его

В некоторые алгоритмические модели встроены предубеждения их заказчиков, в том числе и скрытые или явные расистские. Расизм исходит из ложного убеждения в том, что определенные расы людей плохо себя ведут и, скорее всего, всегда будут вести себя таким образом.

Рейтинги высших учебных заведений, которые опираются на статистические модели, часто не имеют ничего общего с реальностью

В пример О’Нил приводит случай, когда на седьмом месте, сразу за Гарвардом, в рейтинге мировых вузов оказалась кафедра математики университета Саудовской Аравии. В принципе в этом не было ничего невозможного, но кафедре было всего два года, и маловероятно, что за такой короткий срок ей удалось обогнать таких гигантов, как Кембридж и другие, — на это требуются десятилетия. Такой результат выдал алгоритм, подсчитывающий рейтинги.

Использование алгоритмов в нерегулируемых секторах экономики делает их еще более опасными

В пример О’Нил приводит так называемых брокеров данных, которые негласно собирают и продают их заинтересованным лицам, от гигантских корпораций до фирм-однодневок. Они могут в точности установить множество фактов о потенциальном потребителе товаров и услуг, вплоть до того, что он страдает диабетом, живет в доме с курильщиком, ездит на джипе, имеет собаку и др. Брокеры данных собирают и общедоступные государственные данные, в том числе о голосовании и продаже жилья. Все это тоже заносится в профили потребителей для последующей продажи.

 

Об опасностях, которые представляют большие данные и о том, почему с ними нужно обращаться очень осторожно, мы рекомендуем вам прочитать в нашем спринте с ключевыми идеями книги Кэти О’Нил «Оружие математического уничтожения»! 

Похожие статьи

Человечество на грани пропасти

Детские травмы, взрослые жизни

Какой смысл спорить?