Un assistente professore di informatica e ingegneria presso l'Università del Texas ad Arlington ha scoperto che i candidati al lavoro possono migliorare la propria posizione, in media, di almeno 16 punti su un pool di 100 candidati impiegando un algoritmo che utilizza parole chiave specifiche per il lavoro.

Shirin Nilizadeh ha affermato di essere stata motivata a perseguire questa linea di ricerca dopo aver visto gli amici non essere selezionati per posizioni o interviste di secondo livello.

"Abbiamo scoperto che puoi personalizzare il tuo curriculum per un lavoro specifico utilizzando parole chiave specifiche che potrebbero farti spingere verso l'alto", ha detto. "È una specie di hack per il processo di reclutamento."

Il documento di Nilizadeh — "Attacks Against Ranking Algorithms with Text Embeddings:A Case Study on Recruitment Algorithms" — è stato accettato negli Proceedings of the Fourth BlackboxNLP Workshop on Analysing and Interpreting Neutral Networks for NLP . Anahita Samadi, ora dottoranda all'UTA che ha studiato sotto Nilizadeh, ha guidato il progetto e lo ha presentato alla conferenza del 2021 sui metodi empirici nell'elaborazione del linguaggio naturale.

Gli algoritmi di incorporamento del testo utilizzati nel reclutamento di lavoro abbinano parole e frasi nei curriculum alla descrizione del lavoro per ottenere punteggi di somiglianza. I curriculum sono classificati in base a tali punteggi. Finora pochi studi hanno dimostrato che gli algoritmi di ranking che utilizzano l'incorporamento di testo sono vulnerabili agli attacchi del contraddittorio.

"Pensavamo che gli algoritmi di reclutamento fossero il miglior esempio di tali algoritmi di classificazione e quindi abbiamo deciso di lavorarci", ha detto Nilizadeh. "L'obiettivo del nostro attacco era identificare le parole chiave dalla descrizione del lavoro che possono migliorare la classifica del curriculum."

Come previsto, l'aggiunta di più parole chiave migliora il posizionamento. La ricerca ha anche mostrato, tuttavia, che l'aggiunta di troppe parole o frasi simili potrebbe non migliorare la classifica di un curriculum.

Uno degli argomenti principali che Nilizadeh studia nell'UTA Security and Privacy Research Lab è la robustezza del contraddittorio dei sistemi basati sull'intelligenza artificiale (AI) e basati sui dati. In altre parole, testa i sistemi che utilizzano l'IA contro possibili attacchi e ne valuta la robustezza.

Hong Jiang, presidente e professore del Dipartimento di Informatica e Ingegneria, ha affermato che il lavoro di Nilizadeh è promettente.

"Potrebbe essere uno strumento che potenziali dipendenti e datori di lavoro potrebbero utilizzare nel processo di ricerca del lavoro", ha affermato Jiang.