AI interjúk: hogyan torzíthatja el az avatar megjelenése a felvételi méltányosságérzetét

Az AI interjúk ígérete egyszerű: egységesen értékelnek, ugyanazzal a szabállyal. Mégis sokan célzottnak érzik magukat. Egy friss kutatás szerint a visszautasítás után az AI interjú “arcot kap”, és az avatar neme vagy bőrszíne azonnal befolyásolja, mit gondolnak a jelöltek a méltányosságról.

Ez különösen akkor fontos, ha long-tail igényként azt keresed, hogy mennyire megbízható az AI interjúk fairness tesztje. Spoiler: az algoritmus auditja önmagában nem mindig elég.

Miért lesz rosszabb a “részleges egyezés”?

Egy szimulált felvételi során mind a 220 résztvevő elutasítást kapott egy fiktív ügyfélszolgálati pozícióra. A döntést azonban négy különböző, fotorealisztikus AI avatar mutatta.

Az érdekes rész az, hogy a jelöltek nem egyformán élték meg a helyzetet. A folyamatot kevésbé tartották igazságosnak azok, akiknél az avatar csak egy jellemzőben egyezett (pl. csak nemben vagy csak bőrszínben).

Ha mindkét tulajdonság stimmelt, vagy ha egyik sem, akkor a méltányosságérzet stabilabb volt. Én ezt úgy fordítanám le: a jelölt fejében a “személyesség” gyorsabban beindul, mint ahogy a rendszer “semlegességet” gondol.

Mi változik az elutasítás pillanatában?

Elutasítás előtt a bizalom azonos szinten maradt az avatarok különböző kombinációi mellett. Sőt, szemkövetés is mutatott eltérést: többet néztek azok az emberek, akiknél a bőrszín nem egyezett a sajátjukkal.

De a döntés után bekapcsolt a kétely. A bőrszínbeli eltérés különösen növelte az esélyét, hogy a jelöltek elfogultságot gyanítsanak. Miközben a kimenet ugyanaz maradt, a képernyőn megjelenő személy formálta az értelmezést.

Mire érdemes a cégeknek következőnek tesztelni?

Az AI interjúk fejlesztőinek nem csak a modellt kell vizsgálniuk. A felület számít: a jelöltek nem kódként élik meg a rendszert, hanem úgy, mintha egy arc kérdezné és értékelné őket.

Olyan fairness teszteket érdemes csinálni, ahol különböző demográfiai csoportok reakcióit mérik, mégpedig úgy, hogy megnézik a választ a rossz eredmény előtt és után is.

Szerintem a legérdekesebb kísérlet az lenne, hogy egy kevésbé “emberi” felület csökkenti-e az aggodalmakat. Lehet, hogy a legbiztonságosabb design nem az, amelyik a legjobban hasonlít, hanem amelyik a legvilágosabban beállítja az elvárásokat. Te milyen helyzetben éreznéd magad célzottnak: amikor az AI dönt, vagy amikor az AI “rád néz”?