decor
decor

Помилка в алгоритмі аналізу Big Data призвела до урядового скандалу в Нідерландах

< Назад
Помилка в алгоритмі аналізу Big Data призвела до урядового скандалу в Нідерландах

14.03.2021

Через висновки алгоритму аналітики великих даних податкова Нідерландів вимагала від громадян повертати по кілька десятків тисяч євро. Уряд визнав помилку, але багато вже втратили житло, роботу та навіть шлюб.

Протягом восьми років податкова служба Нідерландів використувала алгоритми аналізу великих даних, які мали виявляти шахрайство з пільгами. Утім, як з’ясувалося, вони не завжди вони працювали коректно: тисячі сімей помилково звинуватили в махінаціях, змусивши повертати значні для них гроші. Через це багато хто позбувся житла і роботи, а також розлучився. Більше того, алгоритми безпідставно визнавали шахраями людей з подвійним громадянством і мігрантів частіше за інші категорії громадян, пише місцеве видання Trouw.

Жертвами помилки стало настільки багато людей, що владі довелося допитати відповідальних чиновників, переглянути роботу алгоритмів, виплатити компенсації постраждалим, а уряду – навіть піти у відставку.

Що за алгоритми і що вони закидували людям

У 2013 році влада Нідерландів посилила боротьбу з шахрайством з пільгами, зокрема щодо догляду за дітьми. Процес запустили після того, як громадяни Болгарії обманом отримували одноразову допомогу на суму близько восьми тисяч євро. Їхню схему розкрили, назвавши процес “справою болгар”. Через в Нідерландах створили “Наглядову команду фасилітаторів” (Combiteam Aanpak Facilitators або CAF), яка стала частиною податкового органу.

Для виявлення випадків шахрайства CAF використувала програми для аналітики великих даних. Вони автоматично визначали, чи міг громадянин-отримувач допомоги ошукати державу. Часто тих, хто забував поставити підпис або допускав помилку в документах, звинувачували в “грубій недбалості” або “злочинному умислі”, позбавляючи виплат.

За сім років контрольне відомство звинуватило в шахрайстві 26 тисяч сімей, які отримували допомогу з догляду за дітьми. CAF порушило 170 справ щодо профільних агентств і груп батьків: усього ситуація зачепила дев’ять тисяч осіб.

Тисячі постраждалих сімей звернулися до податкової і до суду, щоб їх визнали невинуватими. Дев’ять тисяч батьків уже домоглися цього і тепер вимагають компенсацію. Справи інших сімей наразі розслідуються.

Похибка алгоритма

У звіті парламентської комісії, яка розслідувала скандал, зазначили, що CAF ухвалювало рішення швидко через необхідність ефективно боротися з пільговими махінаціями. “Під тиском кожна виявлена алгоритмом помилка розглядалася CAF як шахрайство, а батьків таврували як умисних шахраїв”, – зазначається в документі. 

Видання Trouw з’ясувало, що для ухвалювання рішень податкова інспекція використовувала математичний принцип Парето, який передбачає, що 80% підозрюваних винні, а лише 20% – ні. За даними Trouw, близько 96% всіх звинувачень були помилковими.

Одна з головних проблем алгоритмів, які використовують податкові та інші органи влади – відсутність прозорості, вирішила парламентська комісія. “Якщо я хотіла б щось дізнатися, мені було б важко знайти людину, яка змогла б поговорити зі мною про це”, – каже про брак прозорості Марліз ван Ек, доцентка Університету Радбауд.

CAF приймало рішення на основі “упереджених” і “дискримінаційних” алгоритмів, заявили в Рахунковій палаті Нідерландів. Ця аналітика великих даних враховувала національність, наявність подвійного громадянства і міжнародні переїзди для ухвалення рішення. У відомстві додали, що система, яка має великий вплив на жителів Нідерландів, повинна була оцінюватися критично, “але цього не сталося”.

Повністю покладати провину на технології не варто, адже це може бути “боягузливим способом зняти провину з себе”, вважає політична радниця групи з цифрових прав Bits of Freedom Надя Бенаїссу. “Системи і алгоритми створені людьми і роблять саме те, що їм наказують робити”, – зазначила вона.

Податкову службу запідозрили не лише в неетичному використані алгоритмів, але і в приховуванні даних під час судів над постраждалими, додає видання Trouw. За його даними, CAF кілька разів не надавала суду документи про те, що обвинувачені все ж мали право на виплати.

15 січня уряд на чолі з прем’єр-міністром Марком Рютте пішов у відставку. Прем’єр заявив, що не знав, що “податкова інспекція незаконно вистежувала тисячі сімей”, але визнав, що в “безпрецедентній несправедливості” винен уряд.

< Назад