Затова е време да спрем сляпо вярват в голяма данни
Живот / / December 19, 2019
алгоритми решат сега, който одобри заем, застраховка или който получи покана за интервю, но често те правят това несправедливо. И това само увеличава пропастта между слоевете от населението.
Кейти О'Нийл (Кати О'Нийл)
Математикът, на анализ на финансовите пазари специалист, автор на книгата "оръжията за математически поражение."
За да се изгради един алгоритъм, ние се нуждаем две неща: от данни (това, което се случи в миналото) и на определението за успешен резултат (това, което искате да намерите с помощта на този алгоритъм). След това той определя кои критерии да доведат до успешен резултат. Но определението за успех не може да бъде универсален.
Алгоритъм - е мнението на някой друг, на вградения код.
Свикнали сме да мислим, че алгоритмите са обективни и надеждни, но това е само маркетингов трик за цел да ни сплаши и да ни се доверите в алгоритми и математически данни.
О'Нийл цитира примери, при които алгоритми могат да причинят сериозни вреди. Това се случва, когато се оценява служители. Така например, през 2011 г. в училище във Вашингтон окръг са били отхвърлени повече от 200 учители след тяхното
премахнат алгоритъмВъпреки, че те са имали отлични препоръки от своите родители и връстници.В допълнение, алгоритмите често са причина за отстраняване на предубедени присъди. Новини организация ProPublica наскоро проведено разследване и намереноТова алгоритмите, които определят риска от рецидив, работят обективно. В същото престъпленията изречения често извадени чернокожите американци.
Ние всички сме обект на предразсъдъци, а ние ги въвеждат в алгоритмите, които решават кои данни нужди трябва да бъдат взети под внимание.
Алгоритми просто повтарят грешките си в миналите, автоматизиране на съществуващия ред. Така че ние не можем да им се доверите сляпо, ние трябва да ги тества за цел: да преосмислят определението за успешен резултат, грешка, не са осигурени от всеки алгоритъм. Колко често се срещат, и който е засегнат? Каква е цената на тези грешки?
Специалисти, работещи с данните, не трябва да бъдат арбитри на правосъдието. Това е време да се спре сляпо вярват големите данни.