Proto je na čase přestat slepě věřit ve velkých datech
Život / / December 19, 2019
algoritmy rozhodnout nyní, který schválí úvěr, pojištění nebo kteří obdrží pozvání k pohovoru, ale často dělají tak nespravedlivě. A to jen zvyšuje propast mezi vrstvami populace.
Katie O'Neill (Cathy O'Neil)
Matematik, na základě analýzy finančních trhů specialisty, autor knihy „zbraní matematické porážky.“
Sestrojit algoritmus, potřebujeme dvě věci: datová (to, co se stalo v minulosti) a definice úspěšného výsledku (to, co chcete najít pomocí tohoto algoritmu). To pak určuje, jaká kritéria vedou k úspěšnému výsledku. Ale definice úspěchu nemůže být univerzální.
Algoritmus - je někdo jiný názor, vestavěný kód.
Zvykli jsme si, že algoritmy jsou objektivní a spolehlivé, ale je to jen marketingový trik navržen tak, aby nás zastrašit a nutí nás věřit v algoritmech a matematických dat.
O'Neill uvádí příklady, kde lze algoritmy způsobit vážnou újmu. To se děje při hodnocení zaměstnanců. Například v roce 2011 ve škole ve Washingtonu County byli propuštěni více než 200 učitelů po jejich vyřadit algoritmusI přesto, že měl vynikající doporučení od svých rodičů a vrstevníků.
Kromě toho jsou algoritmy jsou často důvodem pro odstranění zkreslené výroků. Zpravodajská organizace ProPublica nedávno provedla šetření a nalezenoŽe algoritmy, které určují riziko recidivy, pracovat objektivně. Ve stejné zločiny věty často vyjmuta černých Američanů.
Jsme všichni podléhají předsudkům a přinášíme je do algoritmů, které se rozhodnou, která data musí být vzaty v úvahu.
Algoritmy jsou prostě opakují své chyby z minulosti, automatizovat stávající řád. Takže nemůžeme slepě důvěřovat jim, musíme je testovat za objektivní: přehodnotit definici úspěšný výsledek, chyba, nejsou pojištěny žádným algoritmem. Jak často se vyskytují a které se to týká? Jaká je cena takových chyb?
Odborníci pracující s údaji, by neměl být arbitry spravedlnosti. Na čase přestat slepě věřit big dat.