Кэти О’Нил, автор бестселлера «Оружие математического уничтожения», видит большую опасность в использовании Big Data, т.к. алгоритмы могут сильно усугубить неравенство и несправедливость. 

Несколько важных идей книги. 

Алгоритмическая модель способствует возникновению токсичного цикла и помогает поддерживать его

В некоторые алгоритмические модели встроены предубеждения их заказчиков, в том числе и скрытые или явные расистские. Расизм исходит из ложного убеждения в том, что определенные расы людей плохо себя ведут и, скорее всего, всегда будут вести себя таким образом.

Рейтинги высших учебных заведений, которые опираются на статистические модели, часто не имеют ничего общего с реальностью

В пример О’Нил приводит случай, когда на седьмом месте, сразу за Гарвардом, в рейтинге мировых вузов оказалась кафедра математики университета Саудовской Аравии. В принципе в этом не было ничего невозможного, но кафедре было всего два года, и маловероятно, что за такой короткий срок ей удалось обогнать таких гигантов, как Кембридж и другие, — на это требуются десятилетия. Такой результат выдал алгоритм, подсчитывающий рейтинги.

Использование алгоритмов в нерегулируемых секторах экономики делает их еще более опасными

В пример О’Нил приводит так называемых брокеров данных, которые негласно собирают и продают их заинтересованным лицам, от гигантских корпораций до фирм-однодневок. Они могут в точности установить множество фактов о потенциальном потребителе товаров и услуг, вплоть до того,