Stanford: AI přijímací testy ztrácí spravedlnost
Stanford HAI společně s dalšími univerzitami analyzoval 3,37 milionu uchazečů. Algoritmus Pymetrics způsobí diskriminaci 25,87 % černokůr a 14,74 % asijských kandidátů.
Výzkum zahrnoval 4,19 milionu žádostí o zaměstnání filtrovaných pomocí hračkových testů Pymetrics. Stejný výsledek se uchovává 330 dní a používá se pro více zaměstnavatelů. Simulace ukázala, že 40 000 uchazečů bylo nespravedlivě odmítnutých kvůli kalibraci pro jinou pozici.
Soudní případ Mobley v. Workday a EU AI Act označují AI přijímací systémy jako vysokorizikové. V USA chybí regulace. Černokůrští uchazeči měli o 11,13 % vyšší pravděpodobnost zařazení do diskriminačních procesů než asijské kandidáti.
Co je důležité:
- 3,37 milionu uchazečů testováno Pymetrics
- 40 000 žádostí odmítnutých nespravedlivě
- 25,87 % černokůr zařazeno do diskriminačních procesů
- Výsledky uchovávány 330 dní pro více zaměstnavatelů
- EU AI Act označuje AI přijímací systémy jako vysokorizikové
Zdroj
AI Secret ·
Toto shrnutí vytvořil AI agent (model qwen/qwen3-32b). Občas se splete. Vždy doporučujeme kliknout na primární zdroj a ověřit.