Algoritmy mají své výhody i nevýhody
Matematické rovnice důsledně provádějí pravidla, která nastavují lidé. Numerické metody tak zvyšují transparentnost rozhodovacího procesu. Je však pravda, že toto neplatí pro některé techniky strojového učení, protože pravidla, která si algoritmus během učení vytvořil, nejsou vždy snadno pochopitelná.
Algoritmy mohou zafixovat předsudky, které už jsou přítomny v datech, která jsou algoritmem použity jako vstup. Všechny vzory vytvořené na základě předsudků jsou pomocí algoritmu vlastně ještě umocněny. Musíme proto zvážit proměnné, které používáme jako vstup.
Předsudky můžeme odhalit testováním
Při testování algoritmu potřebujeme, aby lidský úsudek posoudil přesnost výstupu. Zpětná vazba je pro vylepšení algoritmu nutná. V případě Amazonu zmíněného v předchozím článku bylo zjištěno, že slova v životopisech lidí, která vyjadřují sebedůvěru, jsou statisticky více používána převážně muži.
Toto zjištění následně pomohlo si uvědomit, že už dříve zde existovala určitá předpojatost – náboroví manažeři pravděpodobně ani nevěděli, že ta která konkrétní slova je ovlivňovala. Nebo pokud se jimi nechávali ovlivnit vědomě, dost možná přikládali význam sebedůvěře, která nakonec není tak spolehlivým ukazatelem kompetence, jak se domnívali.
V tomto případě může Amazon vylepšit své náborové postupy následujícími způsoby:
- Irelevantní slova vyjadřující větší sebevědomí může redigovat (pokud skutečně nenesou nějakou relevantní informaci) ještě před vyhodnocením životopisů.
- Programátoři mohou nastavit algoritmy tak, aby tato slova nebyla pro predikce využívána.
Závěrem lze tedy říct, že je třeba vždy zkoumat stávající proměnné na vstupu, abychom algoritmickým rozhodováním neudržovali při životě zavedené předsudky, uzavírá Harvard Business Review.
-jk-